O Google está correndo para corrigir sua nova ferramenta de inteligência artificial (IA), Gemini, após a descoberta de que ela gerava imagens historicamente imprecisas em nome da representatividade. A ferramenta, que cria imagens em resposta a perguntas escritas, foi criticada por fornecer imagens de pessoas de cor em contextos históricos onde isso não era correto.
Reprodução: Google
Por exemplo, uma pesquisa por imagens dos pais fundadores da América gerou resultados que incluíam mulheres e pessoas de cor, o que não condiz com a realidade histórica.
O Google reconheceu que a ferramenta estava “errando o alvo” e que estava “trabalhando para melhorar esse tipo de representação imediatamente”. A empresa também suspendeu a capacidade da ferramenta de gerar imagens de pessoas enquanto trabalha na correção.
Este não é o primeiro caso de IA tropeçando em questões de diversidade. Em 2015, o aplicativo de fotos do Google rotulou a foto de um casal negro como “gorilas”, e a OpenAI, empresa rival de IA, foi acusada de perpetuar estereótipos prejudiciais com seu gerador de imagens Dall-E.
O Google, que está sob pressão para provar que não está ficando para trás no desenvolvimento de inteligência artificial, lançou a versão mais recente do Gemini na semana passada. A ferramenta rapidamente atraiu críticas de ambos os lados do espectro político.
Alguns usuários acusaram a empresa de treinar o bot para ser “ridiculamente acordado”, enquanto outros criticaram a ferramenta por negar a existência de pessoas brancas.
O Google disse que leva a sério a questão da representação e do preconceito e que deseja que seus resultados reflitam sua base global de usuários. A empresa está trabalhando para ajustar a ferramenta para que ela seja mais precisa e inclusiva.
Leia também:
Este post foi modificado pela última vez em 22 de fevereiro de 2024 18:32
A inteligência artificial (IA) acaba de alcançar mais um marco simbólico na educação superior. Um…
A inteligência artificial (IA) está transformando setores inteiros da economia, impulsionando avanços em saúde, educação,…
A Copa do Mundo de 2026, que será realizada nos Estados Unidos, Canadá e México,…
O presidente dos Estados Unidos, Donald Trump, assinou nesta terça-feira (2) uma nova ordem executiva…
A rápida expansão da inteligência artificial (IA) na saúde mental vem sendo tratada como uma…
A promessa de neutralidade da inteligência artificial (IA) no mercado de trabalho acaba de sofrer…