A rede social TikTok cometeu um erro ao publicar um link para uma versão interna de sua nova ferramenta de avatares digitais com inteligência artificial (IA). O problema, identificado inicialmente pela CNN, permitia a usuários comuns a criação de vídeos com falas praticamente ilimitadas.
Essa falha de segurança possibilitou a geração de conteúdos contendo discursos de ódio, como falas de Hitler, e mensagens perigosas, como incentivos à ingestão de produtos nocivos. O TikTok removeu a versão problemática da ferramenta, enquanto a versão final planejada para lançamento permanece indisponível.
Lançada no início da semana, a ferramenta “Symphony Digital Avatars” do TikTok permite que empresas criem anúncios utilizando a imagem de atores pagos. A tecnologia utiliza dublagem por IA, possibilitando que anunciantes insiram scripts para que os avatares falem de acordo com as diretrizes da plataforma. Embora apenas usuários com contas do TikTok Ads Manager tenham acesso oficial à ferramenta, a versão encontrada pela CNN permitia o uso por qualquer pessoa com uma conta pessoal.
Em comunicado ao The Verge, a porta-voz do TikTok, Laura Perez, afirmou que a empresa corrigiu o “erro técnico” que “permitiu a um número extremamente pequeno de usuários a criação de conteúdo usando uma versão interna de teste da ferramenta por alguns dias”.
A CNN explorou a falha gerando vídeos com a “Carta à América” de Osama bin Laden, um slogan supremacista branco e um vídeo induzindo as pessoas a votar em um dia incorreto. Nenhum dos vídeos criados pela CNN exibia a marca d’água que sinaliza a geração por IA, recurso presente na versão final da ferramenta.
Embora a CNN não tenha publicado os vídeos na plataforma, Perez ressalta que, caso o fizessem, o conteúdo “teria sido rejeitado por violar nossas políticas”. O incidente levanta questionamentos sobre a possibilidade de surgirem novas formas de abuso da ferramenta e a preparação do TikTok para enfrentá-las.
Leia também:
Este post foi modificado pela última vez em 23 de junho de 2024 21:01
A Organização Mundial da Saúde reuniu ministros, autoridades governamentais e especialistas de 37 países em…
A inteligência artificial (IA) já começa a transformar hospitais, consultórios e sistemas de saúde, assumindo…
A OpenAI apresentou oficialmente o GPT-5.6, sua mais nova geração de modelos de inteligência artificial…
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…