Apps que usam IA para 'despir' mulheres em fotos estão cada vez mais populares

Muitos dos serviços para despir, ou “nudificar”, utilizam redes sociais populares para fins de marketing. Segundo revelou a análise, desde o início deste ano, o número de links que anunciam aplicativos com essa função aumentou mais de 2.400% nas mídias sociais, incluindo em plataformas como X e Reddit.

‘Nudify’ apps that use AI to ‘undress’ women in photos are soaring in popularity https://t.co/m5XYuHetzw
— TIME (@TIME) December 8, 2023

Esses serviços usam inteligência artificial para recriar uma imagem de forma que a pessoa apareça nua. Muitos desses sites funcionam apenas para mulheres.

Esses aplicativos fazem parte de uma tendência preocupante de pornografia não consensual sendo desenvolvida e distribuída devido aos avanços na IA – um tipo de mídia fabricada conhecida como pornografia deepfake. Sua proliferação enfrenta sérios obstáculos legais e éticos, já que as imagens muitas vezes são retiradas das redes sociais e distribuídas sem o consentimento, controle ou conhecimento do sujeito.

O que são deepfakes? | Glossário do Newsverso

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

O aumento da sua popularidade corresponde ao lançamento de vários modelos de difusão de código aberto e de inteligência artificial capazes de criar imagens muito superiores às geradas apenas alguns anos atrás.

O que é um projeto de código aberto? | Glossário do Newsverso

Um projeto de código aberto é um empreendimento colaborativo em que o código-fonte de um software é disponibilizado publicamente e pode ser utilizado, modificado e distribuído livremente.

Um porta-voz do Google disse que a empresa não permite anúncios “que contenham conteúdo sexualmente explícito”.

A pornografia não consensual de figuras públicas tem sido um problema sério na internet, mas os especialistas em privacidade estão cada vez mais preocupados com o fato de os avanços na tecnologia de IA terem tornado o software deepfake mais fácil e eficaz.

Isis Valverde registra ocorrência após aparecer nua em fotos modificadas com IA