Imagens deepfake de Taylor Swift motivam projeto de lei nos EUA

A medida é uma resposta direta à proliferação de imagens pornográficas feitas por inteligência artificial de Taylor Swift no X, anteriormente conhecido como Twitter, nos últimos dias.

O que são deepfakes? | Glossário do Newsverso

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

A proposta permitiria que vítimas retratadas em deepfakes nuas ou explicitamente sexuais buscassem uma penalidade civil contra “indivíduos que produziram ou possuíram a falsificação com a intenção de distribuí-la” ou qualquer pessoa que tenha recebido o material sabendo que não foi feito com consentimento. Dick Durbin, o líder da maioria no Senado dos EUA, e os senadores Lindsey Graham, Amy Klobuchar e Josh Hawley estão por trás do projeto, conhecido como Disrupt Explicit Forged Images and Non-Consensual Edits Act de 2024, ou “Lei de Desafio”.

“Neste mês, imagens falsas e sexualmente explícitas de Taylor Swift geradas por inteligência artificial se espalharam pelas plataformas de mídia social. Embora as imagens sejam falsas, o dano às vítimas pela distribuição de ‘deepfakes’ sexualmente explícitos é muito real”, disse Durbin em um comunicado à imprensa.

Imagens exageradas e sexualizadas de Swift em jogos de futebol se tornaram virais no fim de semana no X, acumulando dezenas de milhões de visualizações, segundo as métricas do Twitter.

Imagens ou vídeos feitos por IA de pessoas reais, comumente conhecidos como “deepfakes”, tornaram-se cada vez mais comuns na internet à medida que a barreira para criá-los diminui, um resultado do boom em inteligência artificial nos últimos anos. Algumas removem as roupas de uma pessoa ou sobrepõem o rosto de uma pessoa sobre o de outra para fazê-la dizer algo que não disse; algumas são totalmente geradas por IA. As imagens de Swift provavelmente foram feitas usando o Microsoft Designer e compartilhadas primeiro no Telegram, segundo o 404 Media. A Microsoft introduziu alterações para fechar a brecha técnica que permitiu a criação das imagens.

Microsoft corrige falha que levou à criação de deepfakes pornográficos de Taylor Swift

Na semana passada, imagens falsas de nudez da cantora Taylor Swift, produzidas por inteligência artificial (IA), se espalharam rapidamente pelas redes sociais. Após denúncias apontarem uma brecha utilizada para a criação das imagens no Designer, da Microsoft, a empresa anunciou a correção do problema e realizou atualizações em suas políticas referentes ao uso de IA.

“Ninguém – nem celebridades nem americanos comuns – deveria se ver retratado em pornografia gerada por IA. Pessoas inocentes têm o direito de defender suas reputações e responsabilizar os perpetradores perante a justiça. Este projeto de lei tornará isso uma realidade”, disse Hawley.

Pornografia deepfake de Taylor Swift gera novos apelos por legislação nos EUA