A rede social TikTok cometeu um erro ao publicar um link para uma versão interna de sua nova ferramenta de avatares digitais com inteligência artificial (IA). O problema, identificado inicialmente pela CNN, permitia a usuários comuns a criação de vídeos com falas praticamente ilimitadas.
Essa falha de segurança possibilitou a geração de conteúdos contendo discursos de ódio, como falas de Hitler, e mensagens perigosas, como incentivos à ingestão de produtos nocivos. O TikTok removeu a versão problemática da ferramenta, enquanto a versão final planejada para lançamento permanece indisponível.
Lançada no início da semana, a ferramenta “Symphony Digital Avatars” do TikTok permite que empresas criem anúncios utilizando a imagem de atores pagos. A tecnologia utiliza dublagem por IA, possibilitando que anunciantes insiram scripts para que os avatares falem de acordo com as diretrizes da plataforma. Embora apenas usuários com contas do TikTok Ads Manager tenham acesso oficial à ferramenta, a versão encontrada pela CNN permitia o uso por qualquer pessoa com uma conta pessoal.
Em comunicado ao The Verge, a porta-voz do TikTok, Laura Perez, afirmou que a empresa corrigiu o “erro técnico” que “permitiu a um número extremamente pequeno de usuários a criação de conteúdo usando uma versão interna de teste da ferramenta por alguns dias”.
A CNN explorou a falha gerando vídeos com a “Carta à América” de Osama bin Laden, um slogan supremacista branco e um vídeo induzindo as pessoas a votar em um dia incorreto. Nenhum dos vídeos criados pela CNN exibia a marca d’água que sinaliza a geração por IA, recurso presente na versão final da ferramenta.
Embora a CNN não tenha publicado os vídeos na plataforma, Perez ressalta que, caso o fizessem, o conteúdo “teria sido rejeitado por violar nossas políticas”. O incidente levanta questionamentos sobre a possibilidade de surgirem novas formas de abuso da ferramenta e a preparação do TikTok para enfrentá-las.
Leia também:
Este post foi modificado pela última vez em %s = human-readable time difference 21:01
O Google DeepMind acaba de anunciar uma parceria estratégica com a Apptronik, uma empresa de…
Uma equipe de pesquisadores de 20 laboratórios diferentes acaba de apresentar o Genesis, um motor…
O Google acabou de lançar o que está chamando de um novo modelo de inteligência…
A GitHub, de propriedade da Microsoft, acaba de anunciar um nível gratuito de seu Copilot…
A OpenAI acaba de lançar uma nova maneira surpreendente de acessar o ChatGPT - através…
O Google DeepMind acaba de lançar o FACTS Grounding, um novo benchmark projetado para avaliar…