Chefe do Google reconhece que diversidade de imagens da ferramenta de IA foi ‘tendenciosa’ e causou ofensa aos usuários

O executivo-chefe do Google, Sundar Pichai, expressou sua preocupação em relação às respostas geradas pelo modelo de inteligência artificial (IA) Gemini da empresa, descrevendo algumas como "tendenciosas" e "completamente inaceitáveis".

Publicado por

Isabella Caminoto

28 de fevereiro de 2024 18:00

Google corrige ferramenta de IA após gerar imagens historicamente imprecisas

O Google está correndo para corrigir sua nova ferramenta de inteligência artificial (IA), Gemini, após a descoberta de que ela gerava imagens historicamente imprecisas em nome da representatividade. A ferramenta, que cria imagens em resposta a perguntas escritas, foi criticada por fornecer imagens de pessoas de cor em contextos históricos onde isso não era correto.

Em um memorando para os funcionários, Pichai reconheceu que as imagens e textos produzidos pela ferramenta causaram ofensa, destacando exemplos de representações históricas problemáticas. O Google interrompeu temporariamente a capacidade do Gemini de criar imagens de pessoas em resposta a essas preocupações.

As respostas geradas pelo Gemini, incluindo uma que comparava negativamente as influências de Elon Musk e Hitler na sociedade, foram criticadas por Pichai, que afirmou serem ofensivas e preconceituosas. Ele prometeu melhorias rápidas, enfatizando os esforços da equipe para resolver esses problemas e implementar mudanças estruturais no produto. Pichai destacou a importância de oferecer informações precisas e imparciais em todos os produtos do Google, incluindo aqueles baseados em inteligência artificial.

Google pretende relançar a ferramenta de imagem Gemini AI em algumas semanas

O Google planeja relançar nas próximas semanas sua ferramenta de IA que cria imagens de pessoas, que foi suspensa na semana passada após imprecisões em algumas representações históricas, disse o CEO do Google DeepMind, Demis Hassabis, nesta segunda-feira (26).

Esses problemas refletem desafios mais amplos enfrentados pela indústria de IA generativa, com o Google entre as empresas líderes nessa área. Concorrentes como a OpenAI também estão trabalhando em soluções para viés e problemas éticos em suas próprias plataformas, como evidenciado pelo ChatGPT da OpenAI. O episódio ressalta a necessidade de abordar questões éticas e de viés na IA de forma mais proativa, destacando a complexidade e a importância do desenvolvimento responsável nesse campo em rápido crescimento.

Leia também:

Análise de viés racial em chatbots de IA: Google, Meta, Microsoft e OpenAI sob os holofotes

A exploração do viés racial dentro dos chatbots de inteligência artificial (IA) por grandes entidades de tecnologia – Google, Meta, Microsoft e OpenAI – revelou abordagens distintas em seu tratamento de estímulos relacionados à raça.

Este post foi modificado pela última vez em %s = human-readable time difference 13:22

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.