Google corrige ferramenta de IA após gerar imagens historicamente imprecisas

O Google está correndo para corrigir sua nova ferramenta de inteligência artificial (IA), Gemini, após a descoberta de que ela gerava imagens historicamente imprecisas em nome da representatividade. A ferramenta, que cria imagens em resposta a perguntas escritas, foi criticada por fornecer imagens de pessoas de cor em contextos históricos onde isso não era correto.

Publicado por

Isabella Caminoto

22 de fevereiro de 2024 13:59

Reprodução: Google

Por exemplo, uma pesquisa por imagens dos pais fundadores da América gerou resultados que incluíam mulheres e pessoas de cor, o que não condiz com a realidade histórica.

O Google reconheceu que a ferramenta estava “errando o alvo” e que estava “trabalhando para melhorar esse tipo de representação imediatamente”. A empresa também suspendeu a capacidade da ferramenta de gerar imagens de pessoas enquanto trabalha na correção.

Este não é o primeiro caso de IA tropeçando em questões de diversidade. Em 2015, o aplicativo de fotos do Google rotulou a foto de um casal negro como “gorilas”, e a OpenAI, empresa rival de IA, foi acusada de perpetuar estereótipos prejudiciais com seu gerador de imagens Dall-E.

O Google, que está sob pressão para provar que não está ficando para trás no desenvolvimento de inteligência artificial, lançou a versão mais recente do Gemini na semana passada. A ferramenta rapidamente atraiu críticas de ambos os lados do espectro político.

Google anuncia Gemini 1.5, versão mais poderosa do seu modelo de IA

A introdução do Google do Gemini 1.5 marca um avanço significativo na tecnologia de inteligência artificial (IA), demonstrando um salto em desempenho, eficiência e compreensão de contexto longo em várias modalidades.

Alguns usuários acusaram a empresa de treinar o bot para ser “ridiculamente acordado”, enquanto outros criticaram a ferramenta por negar a existência de pessoas brancas.

O Google disse que leva a sério a questão da representação e do preconceito e que deseja que seus resultados reflitam sua base global de usuários. A empresa está trabalhando para ajustar a ferramenta para que ela seja mais precisa e inclusiva.

Leia também:

Google lança Gemma: “família de modelos abertos leves e de última geração”

O Google lançou na quarta-feira (21) novos modelos de inteligência artificial (IA) que desenvolvedores externos podem potencialmente criar como se fossem seus, seguindo um movimento semelhante da Meta Platforms e outros.

Este post foi modificado pela última vez em %s = human-readable time difference 18:32

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.