Análise de viés racial em chatbots de IA: Google, Meta, Microsoft e OpenAI sob os holofotes

A exploração do viés racial dentro dos chatbots de inteligência artificial (IA) por grandes entidades de tecnologia - Google, Meta, Microsoft e OpenAI - revelou abordagens distintas em seu tratamento de estímulos relacionados à raça.

Publicado por

Isabella Caminoto

27 de fevereiro de 2024 14:00

Google Gemini: Gemini se recusou a criar imagens de indivíduos brancos para evitar perpetuar estereótipos, preferindo destacar a diversidade de forma indireta.
Meta IA: A IA da Meta afirmou que não podia criar imagens, mas o fez para não brancos, sugerindo um viés de conteúdo visual.
Microsoft Copilot: Copilot criou imagens diversas e detalhou conquistas em várias raças, mas precisava de estímulos específicos para celebrar a diversidade branca, sugerindo um esforço cuidadoso de inclusão.
OpenAI ChatGPT: O GPT gerou imagens inclusivas de várias raças, destacou conquistas diversas com cuidado e celebrou culturas minoritárias, enquanto a representação branca foi mais geral.

Google corrige ferramenta de IA após gerar imagens historicamente imprecisas

O Google está correndo para corrigir sua nova ferramenta de inteligência artificial (IA), Gemini, após a descoberta de que ela gerava imagens historicamente imprecisas em nome da representatividade. A ferramenta, que cria imagens em resposta a perguntas escritas, foi criticada por fornecer imagens de pessoas de cor em contextos históricos onde isso não era correto.

A avaliação dos chatbots de inteligência artificial nessas principais empresas de tecnologia ilustra diferentes graus de sensibilidade, conscientização e metodologias na abordagem do viés racial. Esses resultados destacam a necessidade de melhorias contínuas, considerações éticas e uma representação equilibrada no desenvolvimento de IA para mitigar o viés e garantir a inclusão.

Leia também:

Google pretende relançar a ferramenta de imagem Gemini AI em algumas semanas

O Google planeja relançar nas próximas semanas sua ferramenta de IA que cria imagens de pessoas, que foi suspensa na semana passada após imprecisões em algumas representações históricas, disse o CEO do Google DeepMind, Demis Hassabis, nesta segunda-feira (26).

Este post foi modificado pela última vez em %s = human-readable time difference 09:58

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.