TikTok vai rotular o conteúdo gerado por IA na sua plataforma

O TikTok planeja começar a rotular imagens e vídeos enviados para seu serviço de compartilhamento de vídeos que foram gerados usando inteligência artificial (IA), disse a empresa nesta quinta-feira (9), usando uma marca d’água digital conhecida como Credenciais de Conteúdo.

🇬🇧 Subscribe to the best newsletter about AI (in English 🇬🇧) 

🇧🇷 Assine a melhor newsletter sobre IA (em português 🇧🇷)

Pesquisadores expressaram preocupação de que o conteúdo gerado por IA possa ser usado para interferir nas eleições dos EUA neste outono, e o TikTok já estava entre um grupo de 20 empresas de tecnologia que, no início deste ano, assinaram um acordo se comprometendo a combatê-lo.

A empresa já rotula o conteúdo gerado por IA feito com ferramentas dentro do aplicativo, mas a última medida se aplicaria a vídeos e imagens gerados fora do serviço.

“Também temos políticas que proíbem a IA realista que não é rotulada, então se a IA realista (conteúdo gerado) aparecer na plataforma, então nós a removeremos por violar nossas diretrizes da comunidade”, disse Adam Presser, chefe de operações e confiança e segurança no TikTok, em uma entrevista.

A tecnologia de Credenciais de Conteúdo foi liderada pela Coalizão para Procedência e Autenticidade de Conteúdo, um grupo co-fundado pela Adobe, Microsoft e outros, mas está aberta para outras empresas usarem.

Já foi adotada por criadores do ChatGPT, como o OpenAI.

YouTube, de propriedade da Alphabet do Google, e a Meta Platforms, que possui o Instagram e o Facebook, também disseram que planejam usar as Credenciais de Conteúdo.

Para que o sistema funcione, tanto o fabricante da ferramenta de IA generativa usada para fazer o conteúdo quanto a plataforma usada para distribuir o conteúdo devem concordar em usar o padrão da indústria.

Quando uma pessoa usa a ferramenta Dall-E da OpenAI para gerar uma imagem, por exemplo, a OpenAI adiciona uma marca d’água à imagem resultante e adiciona dados ao arquivo que posteriormente podem indicar se ele foi adulterado.

Se essa imagem marcada for então carregada para o TikTok, ela será rotulada automaticamente como gerada por IA.

O TikTok, que é de propriedade da ByteDance da China, tem 170 milhões de usuários nos EUA, que recentemente aprovaram uma lei exigindo que a ByteDance vendesse o TikTok ou enfrentasse uma proibição. O TikTok e a ByteDance entraram com um processo para bloquear a lei, argumentando que ela viola a Primeira Emenda americana.

Leia também: