Meta sob investigação nos EUA após documento revelar bate-papos ‘sensuais’ de IA com crianças

A Meta, gigante da tecnologia dona do Facebook, WhatsApp e Instagram, está sob investigação nos Estados Unidos após o vazamento de um documento interno que, segundo relatos, permitia que sua inteligência artificial (IA) tivesse conversas “sensuais” e “românticas” com crianças.

O senador republicano Josh Hawley, em um anúncio feito em 15 de agosto, classificou o documento, obtido pela agência Reuters, como “repreensível e ultrajante”. Hawley abriu uma investigação e exigiu acesso ao documento, intitulado “GenAI: Content Risk Standards”, além de uma lista de todos os produtos aos quais ele se refere.

Em resposta, um porta-voz da Meta disse à BBC que “os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas, e foram removidos”. A empresa afirmou ter políticas claras que proíbem conteúdo que “sexualize crianças e jogos de papéis sexualizados entre adultos e menores”. O porta-voz explicou que os exemplos do documento eram “hipotéticos” e refletiam o trabalho de equipes que discutiam diferentes cenários.

Informações falsas

Além das interações com crianças, o documento interno também teria apontado que o chatbot da Meta poderia fornecer informações médicas falsas e ter interações provocativas sobre temas como sexo, raça e celebridades. A Reuters ainda reportou que, segundo o documento, o Meta AI teria permissão para disseminar informações falsas sobre celebridades, desde que acompanhadas de um aviso de que os dados não são precisos.

Em sua carta à Meta e ao CEO Mark Zuckerberg, o senador Hawley criticou duramente a empresa. “Os pais merecem a verdade, e as crianças merecem proteção”, escreveu ele, citando um exemplo do documento que supostamente permitia a IA descrever o corpo de uma criança de oito anos como “uma obra de arte”. Hawley questionou se “há algo — QUALQUER COISA — que a Big Tech não fará por dinheiro fácil”, enfatizando a necessidade de proteger as crianças.