Sites que usam IA para criar nudes não consensuais estão sendo levados à justiça

O escritório do Procurador da cidade de São Francisco, nos Estados Unidos, está processando 16 dos sites de “desnudamento” com inteligência artificial (IA) mais acessados, frequentemente usados para criar deepfakes de mulheres e meninas nuas sem o consentimento delas. A ação judicial histórica, anunciada em uma coletiva de imprensa pelo Procurador da Cidade David Chiu, revela que os sites em questão foram visitados mais de 200 milhões de vezes apenas nos primeiros seis meses de 2024.

Esses sites permitem que os usuários enviem imagens de pessoas reais vestidas, que são então “despidas” digitalmente por ferramentas de IA que simulam a nudez. Um desses sites, que não foi identificado na denúncia, supostamente anuncia: “Imagine perder tempo saindo para encontros, quando você pode simplesmente usar [site redigido] para obter as fotos dela nua.”

Os operadores desses sites estão sendo acusados de violar leis estaduais e federais americanas que proíbem pornografia de vingança, deepfake pornográfico e pornografia infantil – além de infringirem a lei de concorrência desleal da Califórnia – pois “os danos causados aos consumidores superam em muito qualquer benefício associado a essas práticas”, de acordo com a denúncia. A ação judicial busca penalidades civis, além de tirar os sites do ar e impedir permanentemente seus operadores de criar futuros deepfakes pornográficos.

A denúncia surge em meio a uma atenção crescente sobre a criação e disseminação de imagens íntimas não consensuais, amplamente impulsionada pelos avanços na IA generativa — levando a um aumento nos relatos de “sextorsão”. Celebridades notáveis como Taylor Swift já foram vítimas de deepfakes sexualmente explícitos, e alunos em todo o país foram expulsos ou presos por circularem fotos nuas geradas por IA de seus colegas de escola.

“Esta investigação nos levou aos cantos mais sombrios da internet, e estou absolutamente horrorizado pelas mulheres e meninas que tiveram que suportar essa exploração”, disse Chiu no X. “Este é um problema grande e multifacetado que, como sociedade, precisamos resolver o mais rápido possível.”

Leia também: