Chefe do Google reconhece que diversidade de imagens da ferramenta de IA foi ‘tendenciosa’ e causou ofensa aos usuários

O executivo-chefe do Google, Sundar Pichai, expressou sua preocupação em relação às respostas geradas pelo modelo de inteligência artificial (IA) Gemini da empresa, descrevendo algumas como "tendenciosas" e "completamente inaceitáveis".

Em um memorando para os funcionários, Pichai reconheceu que as imagens e textos produzidos pela ferramenta causaram ofensa, destacando exemplos de representações históricas problemáticas. O Google interrompeu temporariamente a capacidade do Gemini de criar imagens de pessoas em resposta a essas preocupações.

PUBLICIDADE

As respostas geradas pelo Gemini, incluindo uma que comparava negativamente as influências de Elon Musk e Hitler na sociedade, foram criticadas por Pichai, que afirmou serem ofensivas e preconceituosas. Ele prometeu melhorias rápidas, enfatizando os esforços da equipe para resolver esses problemas e implementar mudanças estruturais no produto. Pichai destacou a importância de oferecer informações precisas e imparciais em todos os produtos do Google, incluindo aqueles baseados em inteligência artificial.

Esses problemas refletem desafios mais amplos enfrentados pela indústria de IA generativa, com o Google entre as empresas líderes nessa área. Concorrentes como a OpenAI também estão trabalhando em soluções para viés e problemas éticos em suas próprias plataformas, como evidenciado pelo ChatGPT da OpenAI. O episódio ressalta a necessidade de abordar questões éticas e de viés na IA de forma mais proativa, destacando a complexidade e a importância do desenvolvimento responsável nesse campo em rápido crescimento.

Leia também:

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!

PUBLICIDADE

Rolar para cima