O Google está correndo para corrigir sua nova ferramenta de inteligência artificial (IA), Gemini, após a descoberta de que ela gerava imagens historicamente imprecisas em nome da representatividade. A ferramenta, que cria imagens em resposta a perguntas escritas, foi criticada por fornecer imagens de pessoas de cor em contextos históricos onde isso não era correto.
Reprodução: Google
Por exemplo, uma pesquisa por imagens dos pais fundadores da América gerou resultados que incluíam mulheres e pessoas de cor, o que não condiz com a realidade histórica.
O Google reconheceu que a ferramenta estava “errando o alvo” e que estava “trabalhando para melhorar esse tipo de representação imediatamente”. A empresa também suspendeu a capacidade da ferramenta de gerar imagens de pessoas enquanto trabalha na correção.
Este não é o primeiro caso de IA tropeçando em questões de diversidade. Em 2015, o aplicativo de fotos do Google rotulou a foto de um casal negro como “gorilas”, e a OpenAI, empresa rival de IA, foi acusada de perpetuar estereótipos prejudiciais com seu gerador de imagens Dall-E.
O Google, que está sob pressão para provar que não está ficando para trás no desenvolvimento de inteligência artificial, lançou a versão mais recente do Gemini na semana passada. A ferramenta rapidamente atraiu críticas de ambos os lados do espectro político.
Alguns usuários acusaram a empresa de treinar o bot para ser “ridiculamente acordado”, enquanto outros criticaram a ferramenta por negar a existência de pessoas brancas.
O Google disse que leva a sério a questão da representação e do preconceito e que deseja que seus resultados reflitam sua base global de usuários. A empresa está trabalhando para ajustar a ferramenta para que ela seja mais precisa e inclusiva.
Leia também:
Este post foi modificado pela última vez em 22 de fevereiro de 2024 18:32
A OpenAI apresentou oficialmente o GPT-5.6, sua mais nova geração de modelos de inteligência artificial…
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…
A corrida global pela inteligência artificial (IA) acaba de ganhar uma nova fronteira: o espaço.…
A inteligência artificial (IA) já deixou de ser uma promessa tecnológica distante para se tornar…