A rede social TikTok cometeu um erro ao publicar um link para uma versão interna de sua nova ferramenta de avatares digitais com inteligência artificial (IA). O problema, identificado inicialmente pela CNN, permitia a usuários comuns a criação de vídeos com falas praticamente ilimitadas.
Essa falha de segurança possibilitou a geração de conteúdos contendo discursos de ódio, como falas de Hitler, e mensagens perigosas, como incentivos à ingestão de produtos nocivos. O TikTok removeu a versão problemática da ferramenta, enquanto a versão final planejada para lançamento permanece indisponível.
Lançada no início da semana, a ferramenta “Symphony Digital Avatars” do TikTok permite que empresas criem anúncios utilizando a imagem de atores pagos. A tecnologia utiliza dublagem por IA, possibilitando que anunciantes insiram scripts para que os avatares falem de acordo com as diretrizes da plataforma. Embora apenas usuários com contas do TikTok Ads Manager tenham acesso oficial à ferramenta, a versão encontrada pela CNN permitia o uso por qualquer pessoa com uma conta pessoal.
Em comunicado ao The Verge, a porta-voz do TikTok, Laura Perez, afirmou que a empresa corrigiu o “erro técnico” que “permitiu a um número extremamente pequeno de usuários a criação de conteúdo usando uma versão interna de teste da ferramenta por alguns dias”.
A CNN explorou a falha gerando vídeos com a “Carta à América” de Osama bin Laden, um slogan supremacista branco e um vídeo induzindo as pessoas a votar em um dia incorreto. Nenhum dos vídeos criados pela CNN exibia a marca d’água que sinaliza a geração por IA, recurso presente na versão final da ferramenta.
Embora a CNN não tenha publicado os vídeos na plataforma, Perez ressalta que, caso o fizessem, o conteúdo “teria sido rejeitado por violar nossas políticas”. O incidente levanta questionamentos sobre a possibilidade de surgirem novas formas de abuso da ferramenta e a preparação do TikTok para enfrentá-las.
Leia também:
Este post foi modificado pela última vez em %s = human-readable time difference 21:01
A OpenAI acaba de apresentar um plano abrangente para a infraestrutura de inteligência artificial (IA))…
Pesquisadores de Stanford acabaram de apresentar o Virtual Lab, uma plataforma de pesquisa de inteligência…
A OpenAI está planejando lançar o 'Operator' em janeiro, uma nova ferramenta de inteligência artificial…
A Meta Platforms planeja introduzir anúncios em seu aplicativo de mídia social Threads no início…
A Nous Research acaba de apresentar o Forge Reasoning API Beta, um sistema que aprimora…
A Apple está se preparando para lançar um novo display inteligente doméstico de parede, posicionando…