Microsoft corrige falha que levou à criação de deepfakes pornográficos de Taylor Swift

Pornografia deepfake de Taylor Swift gera novos apelos por legislação nos EUA

A rápida disseminação online de imagens deepfake pornográficas de Taylor Swift renovou os apelos, inclusive de políticos dos EUA, para criminalizar a prática, na qual a inteligência artificial (IA) é usada para gerar imagens falsas, mas convincentes.

De acordo com o divulgado pelo 404 Media, usuários do 4chan e Telegram se aproveitaram de uma brecha na segurança do Designer para gerar alguns dos deepfakes de Taylor Swift e outras celebridades.

A Microsoft enviou um pronunciamento ao 404 Media: “Nosso Código de Conduta proíbe o uso de nossas ferramentas para a criação de conteúdo adulto ou íntimo não consensual, e quaisquer tentativas repetidas de produzir conteúdo que contrarie nossas políticas podem resultar na perda de acesso ao serviço.”

A empresa ainda disse que não foi possível comprovar se as imagens foram realmente criadas no Designer, mas reforçou a atuação de “grandes equipes no desenvolvimento de grades de proteção e outros sistemas de segurança alinhados aos nossos princípios de IA responsável, incluindo filtragem de conteúdo, monitoramento operacional e detecção de abuso para mitigar o uso indevido do sistema e ajudar a criar um ambiente mais seguro para os usuários.”

Leia também:

Trabalhadores mais jovens estão utilizando menos IA no trabalho do que as Gerações X e Y, revela estudo

Um levantamento realizado pela Ernst & Young, que entrevistou cerca de 1.000 americanos, concluiu que profissionais mais velhos se mostram mais receptivos para o uso de inteligência artificial (IA) do que profissionais mais jovens.