YouTube se protege contra deepfakes e plágio de IA

O YouTube está desenvolvendo novas ferramentas que visam dar aos criadores da plataforma mais controle sobre o conteúdo que copia sua voz ou semelhança usando IA generativa. Em sua postagem de anúncio, o YouTube disse que a nova tecnologia de gerenciamento de semelhança ajudará a proteger seus criadores e parceiros, ao mesmo tempo que permitirá que eles “aproveitem o potencial criativo da IA” promovendo o desenvolvimento responsável de inteligência artificial (IA).

A primeira ferramenta, descrita como uma “tecnologia de identificação de canto sintético” (synthetic-singing identification technology), permitirá que artistas e criadores detectem e gerenciem automaticamente o conteúdo do YouTube que simula suas vozes de canto usando IA generativa. O YouTube diz que a ferramenta está dentro de seu sistema de identificação de direitos autorais existente, Content ID, e que está planejando testá-la em um programa piloto no próximo ano.

O anúncio segue o compromisso do YouTube, em novembro passado, de dar às gravadoras uma maneira de retirar clones de IA de músicos.

Uma ferramenta separada também está em desenvolvimento que pode identificar deepfakes faciais de criadores, atores, músicos e atletas na plataforma. O sistema ainda está em desenvolvimento ativo e o YouTube não indicou quando é esperado que seja lançado.

O YouTube também está se comprometendo a reprimir qualquer pessoa que esteja usando a plataforma para construir ferramentas de IA. “Temos sido claros que acessar conteúdo de criador de maneiras não autorizadas viola nossos Termos de Serviço”, disse a plataforma – o que não impediu empresas como OpenAI, Apple, Anthropic, Nvidia, Salesforce e Runway AI de treinar seus sistemas de IA em milhares de vídeos do YouTube raspados. As proteções contra essa atividade incluem bloquear raspadores de acessar o YouTube e investimentos em sistemas de detecção de raspagem.

“À medida que a IA evolui, acreditamos que ela deve aprimorar a criatividade humana, não substituí-la”, disse o YouTube em seu anúncio. “Estamos comprometidos em trabalhar com nossos parceiros para garantir que avanços futuros amplifiquem suas vozes e continuaremos a desenvolver salvaguardas para abordar preocupações e alcançar nossos objetivos comuns.”

O YouTube também diz que está desenvolvendo maneiras de dar aos criadores mais opções sobre como empresas de IA de terceiros são permitidas a usar seu conteúdo na plataforma e compartilhará mais detalhes ainda este ano.

Leia também: