Meta AI segue o Google Gemini e cria imagens que não respeitam precisões históricas

O gerador de imagens Imagine, da Meta AI, está enfrentando críticas por produzir imagens de inteligência artificial (IA) que amplificam preconceitos ou criam resultados inverídicos. Apesar das tentativas de diversidade, a ferramenta da Meta frequentemente exibe uma variedade de saídas que não respeitam precisões históricas, como mostrar papas negros.

Publicado por

Isabella Caminoto

4 de março de 2024 14:00

Captura de tela: imagens geradas por IA da ferramenta Imagine da Meta AI dentro de mensagens diretas do Instagram.

Seguindo os passos do Google Gemini

O gerador de imagens Imagine AI da Meta tem cometido o mesmo tipo de gafe histórica que fez com que o Google interrompesse toda a geração de imagens de humanos em seu chatbot Gemini há duas semanas.

Chefe do Google reconhece que diversidade de imagens da ferramenta de IA foi ‘tendenciosa’ e causou ofensa aos usuários

O executivo-chefe do Google, Sundar Pichai, expressou sua preocupação em relação às respostas geradas pelo modelo de inteligência artificial (IA) Gemini da empresa, descrevendo algumas como “tendenciosas” e “completamente inaceitáveis”.

Os fabricantes de inteligência artificial estão tentando combater preconceitos e estereótipos nos dados que usaram para treinar seus modelos, aumentando o botão da “diversidade” – mas estão corrigindo demais e produzindo resultados problemáticos.

Imagine da Meta

Imagine é um gerador de imagens de IA incluído nos DMs do Instagram e do Facebook e também disponível em Imagine.Meta.com (desde que você faça login).

Imagine with Meta: Meta lança gerador de imagens autônomo com tecnologia de IA

Para não ficar atrás do lançamento do Google Gemini, a Meta está lançando uma nova experiência autônoma de IA generativa na web, o Imagine with Meta. Ele permite que os usuários criem imagens descrevendo-as em linguagem natural.

Em outubro, os usuários testaram a ferramenta e descobriram que ela criaria personagens de desenhos animados protegidos por direitos autorais com armas ou fumando maconha.

O Imagine no Instagram não gera imagens baseadas em diversas palavras, incluindo “nazista” e “escravo”.

Embora alguns tenham considerado ofensivas as imagens a-históricas do Gemini, outros dizem que o bloqueio de muitas palavras são um exemplo de que a IA generativa é “ muito segura ”.

A Meta não respondeu imediatamente com um comentário.

Leia também:

Marcas d’água no conteúdo da IA não são suficientes, alertam os pesquisadores

Especialistas alertam que as marcas d’água em conteúdo gerado por inteligência artificial (IA) não são suficientes para combater a desinformação.

Este post foi modificado pela última vez em %s = human-readable time difference 19:12

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.