“Deepfake é abuso”: UNICEF alerta para o uso de IA em imagens sexuais de crianças

A UNICEF, agência da Organização das Nações Unidas (ONU) responsável pela proteção dos direitos da criança, emitiu um forte alerta sobre o uso de tecnologia de inteligência artificial (IA) para gerar ou manipular imagens sexuais de menores, afirmando que “deepfake é abuso” e pedindo ações urgentes de governos, desenvolvedores e plataformas digitais para enfrentar essa ameaça crescente.

O que o termo deepfake significa nesse contexto

Deepfakes são imagens, vídeos ou conteúdos de áudio gerados ou alterados com inteligência artificial para parecerem autênticos — mesmo quando não são. Embora a tecnologia possa ter aplicações criativas ou úteis, ela também tem sido mal-utilizada para criar imagens sexualizadas de crianças, incluindo casos de “nudificação” — quando roupas são digitalmente removidas em fotos de menores para produzir conteúdo explícito falso.

Segundo o documento divulgado pela UNICEF, essa ameaça deixou de ser uma preocupação remota: em um estudo realizado em conjunto com a ECPAT e a INTERPOL, crianças em 11 países relataram que pelo menos 1,2 milhão tiveram suas imagens manipuladas em deepfakes sexualizados no último ano. Em alguns países, isso equivale a uma em cada 25 crianças — número que representa toda uma sala de aula.

Por que deepfakes de crianças são violência real

A UNICEF é clara em sua posição: conteúdo sexualizado de crianças gerado ou manipulado por IA é considerado material de abuso sexual infantil (child sexual abuse material, CSAM). Para a agência, não importa se a imagem é “sintética” — o impacto sobre a criança e sobre a sociedade é verdadeiro e grave.

Quando a imagem ou identidade de uma criança é usada, ela é diretamente victimizada. Ainda que não seja possível identificar um indivíduo específico, esse tipo de conteúdo normaliza a exploração sexual, aumenta a demanda por material abusivo e dificulta o trabalho das autoridades em proteger as vítimas e responsabilizar os responsáveis.

Jovens também percebem os riscos

Uma parte alarmante do relatório é a própria percepção das crianças envolvidas: em alguns países da pesquisa, até dois terços dos menores disseram estar preocupados com o uso da IA para criar deepfakes sexuais. Essa consciência entre os jovens destaca a urgência de ações de prevenção e educação digital que os ajudem a entender, evitar e denunciar esses riscos.

Dados e análises adicionais de outras fontes apontam que esse é um problema real em várias partes do mundo — por exemplo, no Brasil organizações como a SaferNet têm registrado dezenas de milhares de denúncias de abuso online envolvendo deepfakes e outras formas de exploração sexual infantil gerada por IA.

Chamado global por ações concretas

A UNICEF apresentou um conjunto de recomendações urgentes para enfrentar esse cenário:

• Ampliar as definições legais de CSAM para incluir conteúdos gerados por IA, criminalizando sua criação, posse, distribuição e compartilhamento.
• Incorporar segurança desde o design em modelos de IA, para reduzir a possibilidade de abuso desde a fase de desenvolvimento.
• Plataformas digitais e empresas de tecnologia devem prevenir a circulação desse tipo de conteúdo, não apenas reagir depois que ele já esteja disponível, com investimentos em detecção e moderação que removam as imagens imediatamente.

Essas propostas refletem uma preocupação urgente com a proteção de crianças num contexto em que a tecnologia avança mais rápido do que as legislações e mecanismos de defesa capazes de deter suas formas de abuso.

Segurança digital infantil: um desafio coletivo

O alerta da UNICEF coloca em evidência um problema que vai além da simples manipulação de imagens: trata-se de violência e exploração de menores facilitada por ferramentas de IA acessíveis a qualquer usuário com um computador ou smartphone.

Especialistas e defensores dos direitos da criança ressaltam que proteger os menores nesse novo ambiente digital não envolve apenas medidas legais, mas também educação digital, desenvolvimento de ferramentas avançadas de detecção e colaboração internacional entre governos, empresas e sociedade civil.

Nesse contexto, o enfoque em segurança por design, maior rigor legislativo e responsabilidade das plataformas são fundamentais para garantir que a tecnologia não se torne uma ferramenta de abuso, mas sim uma parte segura do crescimento e desenvolvimento das gerações mais jovens.

Leia também: