Na semana passada, imagens falsas de nudez da cantora Taylor Swift, produzidas por inteligência artificial (IA), se espalharam rapidamente pelas redes sociais. Após denúncias apontarem uma brecha utilizada para a criação das imagens no Designer, da Microsoft, a empresa anunciou a correção do problema e realizou atualizações em suas políticas referentes ao uso de IA.
De acordo com o divulgado pelo 404 Media, usuários do 4chan e Telegram se aproveitaram de uma brecha na segurança do Designer para gerar alguns dos deepfakes de Taylor Swift e outras celebridades.
A Microsoft enviou um pronunciamento ao 404 Media: “Nosso Código de Conduta proíbe o uso de nossas ferramentas para a criação de conteúdo adulto ou íntimo não consensual, e quaisquer tentativas repetidas de produzir conteúdo que contrarie nossas políticas podem resultar na perda de acesso ao serviço.”
A empresa ainda disse que não foi possível comprovar se as imagens foram realmente criadas no Designer, mas reforçou a atuação de “grandes equipes no desenvolvimento de grades de proteção e outros sistemas de segurança alinhados aos nossos princípios de IA responsável, incluindo filtragem de conteúdo, monitoramento operacional e detecção de abuso para mitigar o uso indevido do sistema e ajudar a criar um ambiente mais seguro para os usuários.”
Leia também:
Este post foi modificado pela última vez em 30 de janeiro de 2024 23:38
A Superinteligência Artificial (ASI) é um conceito hipotético que se refere a um sistema de…
A OpenAI acaba de realizar uma aquisição estratégica (acqui-hire) da Multi (anteriormente Remotion), uma startup…
A plataforma Coach é uma ferramenta de desenvolvimento de carreira impulsionada por IA, criada pela…
O principal diplomata russo para o controle de armas disse nesta terça-feira (25) que a…
A Stability AI, startup de IA generativa com problemas financeiros, anunciou nesta terça-feira (25) a…
As empresas chinesas de inteligência artificial (IA) estão se movendo rapidamente para atrair usuários da…