Chefe do Google reconhece que diversidade de imagens da ferramenta de IA foi ‘tendenciosa’ e causou ofensa aos usuários

Em um memorando para os funcionários, Pichai reconheceu que as imagens e textos produzidos pela ferramenta causaram ofensa, destacando exemplos de representações históricas problemáticas. O Google interrompeu temporariamente a capacidade do Gemini de criar imagens de pessoas em resposta a essas preocupações.

As respostas geradas pelo Gemini, incluindo uma que comparava negativamente as influências de Elon Musk e Hitler na sociedade, foram criticadas por Pichai, que afirmou serem ofensivas e preconceituosas. Ele prometeu melhorias rápidas, enfatizando os esforços da equipe para resolver esses problemas e implementar mudanças estruturais no produto. Pichai destacou a importância de oferecer informações precisas e imparciais em todos os produtos do Google, incluindo aqueles baseados em inteligência artificial.

Esses problemas refletem desafios mais amplos enfrentados pela indústria de IA generativa, com o Google entre as empresas líderes nessa área. Concorrentes como a OpenAI também estão trabalhando em soluções para viés e problemas éticos em suas próprias plataformas, como evidenciado pelo ChatGPT da OpenAI. O episódio ressalta a necessidade de abordar questões éticas e de viés na IA de forma mais proativa, destacando a complexidade e a importância do desenvolvimento responsável nesse campo em rápido crescimento.

Leia também: