YouTube proíbe deepfakes de vítimas de crimes em vídeos de true crime

O YouTube anunciou uma nova política que proíbe conteúdo que “simule de maneira realista” relatos de vítimas de crimes sobre como morreram ou a violência sofrida. A mudança visa combater a disseminação de deepfakes, vídeos que usam inteligência artificial (IA) para criar imagens ou áudios falsos.

Publicado por

Isabella Caminoto

9 de janeiro de 2024 15:30

A atualização da política do YouTube é uma resposta a um subgênero de conteúdo relacionado a crimes reais (“true crime”), no qual deepfakes são usados para criar vídeos com relatos de vítimas sobre a violência sofrida por elas.

Alguns vídeos trazem vozes geradas por inteligência artificial (IA) semelhantes a de crianças. Famílias de vítimas retratadas nos vídeos, chamaram o conteúdo de “nojento”.

O que são deepfakes? | Glossário do Newsverso

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

A violação da nova política da plataforma resultará na remoção do conteúdo do canal e restrições temporárias nas atividades do usuário. As penalidades aumentam com repetidas violações, podendo levar à exclusão do canal.

A atualização da política do YouTube é mais uma medida tomada por plataformas de mídia social para combater a disseminação de deepfakes. O TikTok, por exemplo, agora exige que os criadores rotulem conteúdo gerado por IA como tal. O YouTube também anunciou uma política rigorosa em torno de “clones” de voz de músicos feitos com IA.

YouTube lança experimento de IA para criação de músicas com artistas renomados

O YouTube se aliou a músicos renomados para oferecer versões criadas por inteligência artificial de suas vozes cantando, que servirão como trilhas sonoras para os vídeos dos criadores. A plataforma de vídeo está utilizando um modelo de geração musical desenvolvido pela divisão de IA do Google para produzir clipes exclusivos de 30 segundos em um teste limitado.

A proibição de deepfakes de vítimas de crimes em vídeos de true crime é uma medida importante adotada pelo Youtube para proteger a privacidade e a dignidade das vítimas.

Leia também:

IA alimenta fraudes em apps de namoro e nas redes sociais; entenda

A inteligência artificial (IA), combinada com as guerras na Ucrânia e no Oriente Médio, está impulsionando um aumento nas fraudes em aplicativos de namoro e redes sociais, afirmaram autoridades da Europol.

Este post foi modificado pela última vez em %s = human-readable time difference 14:56

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.