Não é novidade que um dos assuntos mais delicados quando falamos de Big Data e Inteligência Artificial é o viés das decisões. Agora, um estudo global conduzido pela Progress, empresa de software para desenvolvimento de aplicações e infraestrutura listada na Nasdaq, mostra que esse tema está afetando quase 60% das empresas no Brasil (58%).
A pesquisa Data Bias: The Hidden Risk of AI (“Enviesamento de dados: o risco escondido da IA”, em português), conduzida pela empresa de pesquisa independente Insight Avenue, ouviu mais de 640 profissionais de negócios e TI em todo o mundo, em cargos de direção e acima, que usam dados para tomar decisões e que usam ou planejam usar inteligência artificial (IA) e aprendizado de máquina (ML ou machine learning, em inglês) para apoiar suas tomadas de decisão.
E mostra que, no mundo, 78% dos decisores empresariais e de TI acreditam que o viés de dados se tornará uma preocupação maior à medida que o uso de IA/ML aumenta, mas apenas 13% deles estão atualmente tratando disso e têm um processo de avaliação contínuo. No Brasil, 57% das organizações afirmam sofrer com o enviesamento de dados, 82% acreditam que ter uma abordagem sustentável à questão permitirá o crescimento da confiança na automação de decisões, e 75% confirmam que precisam fazer mais para lidar com esse problema.
“Há uma preocupação crescente e muito a ser feito em relação ao enviesamento de dados no Brasil. As informações deixam claro como este fenômeno pode afetar negativamente as operações comerciais e a tomada de decisões em todos os setores”, comenta o vice-presidente da Progress para América Latina e Caribe, Francisco Larez. Isso acelera à medida que novas capacidades de inteligência artificial e machine learning são identificadas, potencializando o uso e dando luz aos riscos escondidos.
Um dos resultados apontados pelo estudo é que os vieses de dados, muitas vezes, são herdados por experiências culturais e pessoais daqueles que constroem os modelos de Inteligência Artificial e de machine learning, produzindo resultados inesperados e potencialmente prejudiciais às pessoas e organizações. No entanto, apesar do risco de armadilhas legais e financeiras, há uma falta de compreensão em torno do treinamento, processos e tecnologia necessários para lidar com esse fenômeno de maneira eficaz.
Entre os benefícios de tomar medidas para evitar enviesamento de dados, segundo os líderes brasileiros, está o aumento das oportunidades de mercado (96%), mais atratividade para o cliente e uma tomada de decisão mais eficaz (92%) e melhora na diversidade e na inclusão (90%).
Já entre os principais riscos de não abordar adequadamente o viés de dados eles citam possíveis danos à reputação e credibilidade (61%) e problemas de segurança e governança (57%).
- Fonte: Jornal do Comércio
- Imagem: Image by Freepik
- 22 de maio de 2023
