Homem nos EUA usou IA para gerar 13.000 imagens de abuso sexual infantil, alega FBI

Publicado por

Isabella Caminoto

22 de maio de 2024 09:00

O FBI acusou um homem nos Estados Unidos de criar mais de 10.000 imagens sexualmente explícitas e abusivas de crianças, supostamente geradas com uma ferramenta popular de inteligência artificial (IA). As autoridades também acusaram Steven Anderegg, de 42 anos, de enviar imagens pornográficas geradas por IA para um garoto de 15 anos pelo Instagram.

Procuradores afirmaram que Anderegg criou cerca de 13.000 “imagens hiper-realistas de crianças pré-púberes nuas e seminuas”, muitas vezes retratando abuso sexual por homens adultos. Evidências no laptop de Anderegg mostraram que ele usou o modelo de IA Stable Diffusion, que transforma descrições textuais em imagens.

Organização do Reino Unido encontra milhares de imagens de abuso sexual infantil criadas por IA

A Internet Watch Foundation (IWF) disse ter encontrado quase 3 mil imagens de abuso sexual infantil feitas por inteligência artificial. A organização sediada no Reino Unido disse que imagens existentes de vítimas de abuso na vida real estavam sendo incorporadas em modelos de IA, que então produziam novas representações delas.

As acusações surgiram após o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) receber dois relatórios no ano passado sobre a conta de Instagram de Anderegg, levando as autoridades a monitorar sua atividade, obter informações do Instagram e, eventualmente, um mandado de busca. As autoridades apreenderam seu laptop e encontraram milhares de imagens geradas por IA, além de um histórico de uso de comandos extremamente específicos e explícitos para criar material abusivo.

Anderegg enfrenta quatro acusações de criação, distribuição e posse de material de abuso sexual infantil e envio de material explícito para um menor de 16 anos. Se condenado, pode pegar até 70 anos de prisão. Segundo o 404 Media, este caso é uma das primeiras vezes que o FBI acusa alguém de gerar material de abuso sexual infantil com IA. No mês passado, um homem na Flórida foi preso por usar IA para criar imagens sexualmente explícitas de uma criança vizinha.

Defensores da segurança infantil e pesquisadores de IA alertam há tempos que o uso malicioso da IA generativa pode aumentar o material de abuso sexual infantil. Relatórios de abuso infantil online para o NCMEC aumentaram cerca de 12% em 2023 em comparação ao ano anterior, em parte devido ao aumento de material feito por IA, ameaçando sobrecarregar a linha de denúncias da organização.

Leia também:

PwC analisa uso intensivo de IA para aumento de produtividade

Este post foi modificado pela última vez em %s = human-readable time difference 22:29

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.