YouTube terá etiqueta para vídeos com IA e intensificará a luta contra deepfakes nas eleições

O YouTube divulgou em seu blog oficial as diretrizes que detalham sua abordagem em relação a conteúdos gerados por inteligência artificial (IA).

Publicado por

Juliana Caminoto

7 de fevereiro de 2024 09:00

De acordo com o comunicado, assinado pelo CEO Neal Mohan, o YouTube reconhece o potencial da IA generativa para estimular a criatividade. No entanto, a empresa está ciente de sua responsabilidade em proteger a comunidade e, portanto, exigirá a identificação de clipes que contenham elementos digitais feitos ou modificados.

YouTube proíbe deepfakes de vítimas de crimes em vídeos de true crime

O YouTube anunciou uma nova política que proíbe conteúdo que “simule de maneira realista” relatos de vítimas de crimes sobre como morreram ou a violência sofrida. A mudança visa combater a disseminação de deepfakes, vídeos que usam inteligência artificial (IA) para criar imagens ou áudios falsos.

Nos próximos meses, o YouTube planeja lançar um sistema de etiquetas para conteúdos produzidos ou editados utilizando inteligência artificial. Os próprios criadores serão responsáveis por declarar se o vídeo é artificial, ou seja, se foi criado com esse tipo de recurso digital.

A etiqueta será aplicada tanto a obras criadas do zero quanto a modificações de rostos ou ações de pessoas reais, incluindo os deepfakes.

Além da marcação, que pode ser duplicada em vídeos com conteúdo mais sensível, conteúdos que violem as diretrizes da comunidade serão removidos. Isso engloba, por exemplo, a representação de violência realista ou disseminação de desinformação.

Esses recursos chegarão a tempo de serem implementados em pelo menos dois importantes processos eleitorais de 2024: as eleições presidenciais nos Estados Unidos, já em período de primárias e marcadas para 5 de novembro, e as eleições municipais no Brasil, com o primeiro turno agendado para 6 de outubro.

Youtube e IA

Além das etiquetas e das restrições a certos conteúdos, o YouTube revelou que irá oferecer canais de comunicação para que os usuários possam solicitar a remoção de conteúdo gerado por IA que simula uma pessoa identificável, independentemente de ser famosa ou não.

Imagens deepfake de Taylor Swift motivam projeto de lei nos EUA

Um grupo bipartidário de senadores dos Estados Unidos apresentou um projeto de lei na terça-feira (30) que criminaliza a disseminação de imagens sexualizadas, geradas por inteligência artificial (IA), sem consentimento.

Adicionalmente, gravadoras e titulares de direitos autorais poderão solicitar a remoção de imitações da voz de um artista que não tenham a autorização adequada para uso.

O YouTube confirmou o uso de inteligência artificial internamente em certos processos. A empresa implementou funcionalidades internas para melhorar a velocidade e a precisão nos sistemas de moderação de conteúdo.

Leia também:

CEO da Apple sugere o próximo anúncio de IA ‘ainda este ano’

Durante uma chamada com analistas, após o relatório de ganhos do primeiro trimestre fiscal da Apple, o CEO Tim Cook insinuou uma possível revelação de inteligência artificial (IA) pela empresa planejada para mais tarde no ano.

Este post foi modificado pela última vez em %s = human-readable time difference 23:03

Juliana Caminoto

Advogada com especialização em compliance e auditoria, estou sempre conectada às redes sociais e em busca de novos desafios. Sou mãe de pet e amo viajar.