Microsoft corrige falha que levou à criação de deepfakes pornográficos de Taylor Swift

Na semana passada, imagens falsas de nudez da cantora Taylor Swift, produzidas por inteligência artificial (IA), se espalharam rapidamente pelas redes sociais. Após denúncias apontarem uma brecha utilizada para a criação das imagens no Designer, da Microsoft, a empresa anunciou a correção do problema e realizou atualizações em suas políticas referentes ao uso de IA.

Publicado por

Isabella Caminoto

31 de janeiro de 2024 09:00

Pornografia deepfake de Taylor Swift gera novos apelos por legislação nos EUA

A rápida disseminação online de imagens deepfake pornográficas de Taylor Swift renovou os apelos, inclusive de políticos dos EUA, para criminalizar a prática, na qual a inteligência artificial (IA) é usada para gerar imagens falsas, mas convincentes.

De acordo com o divulgado pelo 404 Media, usuários do 4chan e Telegram se aproveitaram de uma brecha na segurança do Designer para gerar alguns dos deepfakes de Taylor Swift e outras celebridades.

A Microsoft enviou um pronunciamento ao 404 Media: “Nosso Código de Conduta proíbe o uso de nossas ferramentas para a criação de conteúdo adulto ou íntimo não consensual, e quaisquer tentativas repetidas de produzir conteúdo que contrarie nossas políticas podem resultar na perda de acesso ao serviço.”

A empresa ainda disse que não foi possível comprovar se as imagens foram realmente criadas no Designer, mas reforçou a atuação de “grandes equipes no desenvolvimento de grades de proteção e outros sistemas de segurança alinhados aos nossos princípios de IA responsável, incluindo filtragem de conteúdo, monitoramento operacional e detecção de abuso para mitigar o uso indevido do sistema e ajudar a criar um ambiente mais seguro para os usuários.”

Leia também:

Trabalhadores mais jovens estão utilizando menos IA no trabalho do que as Gerações X e Y, revela estudo

Um levantamento realizado pela Ernst & Young, que entrevistou cerca de 1.000 americanos, concluiu que profissionais mais velhos se mostram mais receptivos para o uso de inteligência artificial (IA) do que profissionais mais jovens.

Este post foi modificado pela última vez em %s = human-readable time difference 23:38

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.