Por exemplo, uma pesquisa por imagens dos pais fundadores da América gerou resultados que incluíam mulheres e pessoas de cor, o que não condiz com a realidade histórica.
PUBLICIDADE
O Google reconheceu que a ferramenta estava “errando o alvo” e que estava “trabalhando para melhorar esse tipo de representação imediatamente”. A empresa também suspendeu a capacidade da ferramenta de gerar imagens de pessoas enquanto trabalha na correção.
Google to fix AI picture bot after 'woke' criticism https://t.co/y5bnUc0ZAz
— BBC News (World) (@BBCWorld) February 21, 2024
Este não é o primeiro caso de IA tropeçando em questões de diversidade. Em 2015, o aplicativo de fotos do Google rotulou a foto de um casal negro como “gorilas”, e a OpenAI, empresa rival de IA, foi acusada de perpetuar estereótipos prejudiciais com seu gerador de imagens Dall-E.
O Google, que está sob pressão para provar que não está ficando para trás no desenvolvimento de inteligência artificial, lançou a versão mais recente do Gemini na semana passada. A ferramenta rapidamente atraiu críticas de ambos os lados do espectro político.
PUBLICIDADE
Alguns usuários acusaram a empresa de treinar o bot para ser “ridiculamente acordado”, enquanto outros criticaram a ferramenta por negar a existência de pessoas brancas.
It's embarrassingly hard to get Google Gemini to acknowledge that white people exist pic.twitter.com/4lkhD7p5nR
— Deedy (@debarghya_das) February 20, 2024
O Google disse que leva a sério a questão da representação e do preconceito e que deseja que seus resultados reflitam sua base global de usuários. A empresa está trabalhando para ajustar a ferramenta para que ela seja mais precisa e inclusiva.
Leia também:
