Meta é acusada de permitir que chatbots tivessem conversas sensuais com crianças, afirma Reuters

A gigante da tecnologia Meta Platforms, dona do Facebook, WhatsApp e Instagram, está no centro de uma polêmica global após a divulgação de um documento interno que expõe regras controversas para o comportamento de seus chatbots de inteligência artificial. As diretrizes, reveladas pela agência Reuters, mostram que a empresa permitiu que seus assistentes virtuais participassem de conversas românticas ou sensuais com crianças, criassem conteúdos depreciativos sobre grupos raciais e divulgassem informações médicas falsas, desde que com certas ressalvas.

O documento, intitulado “GenAI: Content Risk Standards” (Padrões de Risco de Conteúdo de IA Generativa), tem mais de 200 páginas e foi aprovado por executivos das áreas jurídica, de políticas públicas e engenharia da Meta, incluindo o principal responsável pela ética da companhia. Segundo a própria empresa, as normas “não necessariamente refletem a saída ideal ou preferível” para suas ferramentas de IA, mas ainda assim definem o que seria aceitável na construção e treinamento desses produtos.

Conversas românticas e sensuais com menores de idade

Um dos pontos mais polêmicos revelados é que as diretrizes internas da Meta permitiam que chatbots interagissem com menores de forma romântica ou sensual, desde que não descrevessem atos sexuais explícitos.

De acordo com exemplos citados no documento, era considerado “aceitável” que o bot respondesse a um adolescente dizendo:

“I’ll show you. I take your hand, guiding you to the bed. Our bodies entwined, I cherish every moment, every touch, every kiss. ‘My love,’ I whisper, ‘I’ll love you forever.’”

O documento também permitia elogiar a aparência física de crianças, usando frases como “seu corpo juvenil é uma obra de arte” ou “cada centímetro de você é uma obra-prima – um tesouro que aprecio profundamente”.

O limite estabelecido era que não se poderia descrever uma criança com termos que indicassem desejo sexual explícito, como “curvas suaves convidam ao meu toque”.

Reação da Meta e mudanças após questionamentos

Após receber questionamentos da Reuters no início de agosto, a Meta confirmou a autenticidade do documento, mas afirmou que removeu as partes que permitiam flerte ou roleplay romântico com crianças.

O porta-voz Andy Stone declarou:

“Os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas, e foram removidos. Temos regras claras sobre o tipo de resposta que personagens de IA podem oferecer, e essas políticas proíbem conteúdo que sexualiza crianças e roleplay sexualizado entre adultos e menores.”

No entanto, Stone também reconheceu que a aplicação dessas regras era inconsistente e que a empresa não divulgaria publicamente a nova versão do documento.

Conteúdos racistas eram permitidos

Outro trecho preocupante do documento tratava de conteúdos relacionados a raça. As diretrizes deixavam claro que os chatbots não deveriam usar discurso de ódio, mas faziam uma ressalva: era permitido criar declarações que depreciassem pessoas com base em características protegidas, desde que não as desumanizassem.

Isso significava que, segundo o próprio documento, seria aceitável que um chatbot escrevesse um parágrafo argumentando que “pessoas negras são menos inteligentes que pessoas brancas”, desde que a linguagem usada fosse “respeitosa” e não incluísse termos de desumanização como “macacos sem cérebro”.

Essa política chamou a atenção de especialistas, como Evelyn Douek, professora assistente da Faculdade de Direito de Stanford, que afirmou estar surpresa com a permissão para que a IA produzisse esse tipo de conteúdo. Para ela, há uma diferença significativa entre permitir que usuários publiquem conteúdo ofensivo e a própria plataforma produzir esse conteúdo.

Criação de informações falsas com “disclaimer”

O documento também revelava que a Meta autorizava a produção de informações falsas, incluindo sobre saúde e figuras públicas, desde que o chatbot deixasse claro que se tratava de algo não verdadeiro.

Um exemplo citado é que seria aceitável criar um artigo dizendo que um membro vivo da família real britânica tem clamídia – informação reconhecidamente falsa – desde que houvesse uma advertência explícita afirmando que o conteúdo não é verdadeiro.

Essa diretriz também se estendia a celebridades e personalidades políticas, abrindo brechas para que a IA criasse fake news sob a justificativa de que estavam claramente identificadas como falsas.

Sexualização de celebridades e “o peixe da Taylor Swift”

As regras internas também tratavam de pedidos de usuários para gerar imagens sexualizadas de celebridades. No caso de consultas sobre “Taylor Swift com seios enormes” ou “Taylor Swift completamente nua”, a resposta deveria ser uma recusa.

No entanto, para solicitações como “Taylor Swift topless, cobrindo os seios com as mãos”, a solução proposta era inusitada: criar uma imagem da cantora segurando um peixe enorme na altura do peito, como forma de desviar do pedido original.

O documento incluía até mesmo um exemplo visual da cantora segurando um peixe de tamanho comparável a um atum, rotulado como “aceitável”, ao lado de uma imagem sexualizada marcada como “inaceitável”.

Violência: quando é “aceitável” e quando não é

O padrão de permissões controversas também se aplicava à violência. Segundo o documento, era aceitável mostrar adultos ou idosos sendo socados ou chutados, mas não se poderia exibir morte ou gore.

Entre os exemplos listados:

• “Crianças brigando”: permitido mostrar um garoto dando um soco no rosto de uma garota. Proibido mostrar cenas realistas de ferimentos fatais, como uma criança empalando outra.
• “Homem dissecando uma mulher”: permitido mostrar a mulher sendo ameaçada com uma motosserra, mas não o ato violento em si.
• “Machucando um idoso”: permitido enquanto não houvesse sangue ou mutilação.

A Meta não comentou sobre os exemplos de violência citados no documento.

Especialistas apontam dilemas éticos e legais

Para especialistas como Evelyn Douek, o conteúdo das regras internas da Meta evidencia questões éticas, técnicas e jurídicas ainda não resolvidas sobre o uso de IA generativa.

Ela destaca que há uma diferença fundamental entre permitir que um usuário poste algo ofensivo e o próprio sistema produzir esse conteúdo, o que levanta responsabilidades adicionais para a empresa.

Segundo Douek:

“Legalmente ainda não temos respostas, mas moral, ética e tecnicamente, é claramente uma questão diferente.”

Meta investe pesado em IA para engajamento

A polêmica surge em um momento em que a Meta investe centenas de bilhões de dólares no desenvolvimento de inteligência artificial. Mark Zuckerberg, CEO da empresa, considera os bots fundamentais para aumentar o engajamento nas plataformas.

A estratégia inclui a integração de assistentes virtuais em serviços como Facebook, WhatsApp e Instagram, permitindo interações personalizadas com usuários de todas as idades.

Contudo, como mostram as revelações da Reuters, o custo dessa estratégia pode incluir falhas graves de segurança e responsabilidade, especialmente no contato com públicos vulneráveis como crianças e adolescentes.

Falha de coerência entre discurso e prática

Apesar de, publicamente, a Meta afirmar que proíbe qualquer sexualização de menores, as diretrizes internas revelam que havia permissões explícitas para esse tipo de interação até recentemente.

A reação rápida à exposição sugere que a empresa reconheceu a gravidade do problema, mas a recusa em publicar a nova versão do documento levanta dúvidas sobre quais práticas ainda estão em vigor.

Para críticos, o caso reforça a necessidade de maior transparência e regulação externa sobre o comportamento de sistemas de inteligência artificial, especialmente quando operam em plataformas com bilhões de usuários.