Deputada denuncia ‘racismo algorítmico’ após IA criar imagem de uma mulher negra armada numa favela

Deputada expôs ‘racismo algorítmico’ por parte da ferramenta

A denúncia aconteceu após a deputada entrar na trend dos personagens da Pixar gerados com IA. Renata comentou nas redes sociais que estimulou a ferramenta, não exposta qual, que criasse a ilustração no estilo da Disney com os seguintes comandos: mulher negra com cabelos afro, vestindo roupas de estampa africana em um cenário de favela, sem citar arma alguma. 

Fato é que as ferramentas geradoras de imagem com IA ganharam grande popularidade nos útlimos meses. As mais conhecidas são Midjourney, Stable Diffusion e o DALL-E. Grande parte das pessoas nas redes estão usando o Bing AI Imagens para entrar na tendência da Disney Pixar. Essa ferramenta, cunhada pela Microsoft, usa a tecnologia do DALL-E, da OpenAI, para criar as ilustrações.

A big tech emitiu comunicado dizendo que acredita na importância de criar tecnologias de IA confiáveis e inclusivas. A Microsoft afirmou, ainda, que está investigando o relato e tomará as medidas necessárias para ajustar seu serviço.

Veja também

Inteligência artificial está impulsionando pornografia infantil na internet

Com a explosão de popularidade da inteligência artificial generativa, as empresas, as pessoas e as relações se transformaram. Agora, novas problemáticas envolvendo IA já causam alerta nas autoridades. Na dark web, criminosos divulgam pornografia infantil com o auxílio de ferramentas geradoras de imagem por IA, dizem especialistas. Entenda.