Mais de 100 anúncios em vídeo deepfake representando o primeiro ministro britânico, Rishi Sunak, foram pagos para serem promovidos no Facebook somente no último mês, revelou uma pesquisa que levantou o alarme sobre o risco que a inteligência artificial (IA) representa para as eleições.
Rishi Sunak
Os anúncios falsos podem ter atingido cerca de 400 mil pessoas – apesar de parecerem violar várias políticas do Facebook. Foi a primeira vez que a imagem do primeiro-ministro foi adulterada em massa de forma sistemática.
Mais de 12 mil libras foram gastas em 143 anúncios, provenientes de 23 países, incluindo EUA, Turquia, Malásia e Filipinas.
Os anúncios divulgados incluem imagens falsas de uma locutora da BBC, Sarah Campbell, parecendo ler notícias de última hora que afirmam falsamente que um escândalo eclodiu em torno de Sunak.
No vídeo deepfake, a jornalista da BBC revela que Elon Musk teria lançado um aplicativo capaz de “coletar” transações do mercado de ações e segue com um clipe falso de Sunak dizendo que o governo decidiu testar o aplicativo em vez de arriscar o dinheiro das pessoas comuns.
Os vídeos levam a uma página falsificada da BBC News promovendo um investimento fraudulento.
A pesquisa foi realizada pela Fenimore Harper, uma empresa de comunicações criada por Marcus Beard, um ex-funcionário de Downing Street.
Ela alerta que os anúncios, que marcam uma mudança na qualidade das falsificações, mostraram que as eleições deste ano correm risco de manipulação por uma grande quantidade de falsidades de alta qualidade geradas por inteligência artificial.
“Com o advento da clonagem de voz e rosto barata e fácil de usar, é necessário muito pouco conhecimento e experiência para usar a imagem de uma pessoa para fins maliciosos” disse Beard. “Infelizmente, este problema é agravado por políticas de moderação frouxas na publicidade paga. Esses anúncios vão contra várias políticas de publicidade do Facebook. No entanto, muito poucos dos anúncios que encontramos parecem ter sido removidos” completou.
Um porta-voz do governo do Reino Unido afirmou: “Estamos trabalhando extensivamente em todo o governo para garantir que estamos prontos para responder rapidamente a quaisquer ameaças aos nossos processos democráticos, através do nosso grupo de trabalho de defesa da democracia e de equipes governamentais dedicadas. A nossa Lei de Segurança Online vai mais longe ao impor novos requisitos às plataformas sociais para remover rapidamente a desinformação ilegal e a desinformação – incluindo quando são geradas por IA – assim que tomarem conhecimento delas.”
Leia também:
Este post foi modificado pela última vez em 12 de janeiro de 2024 16:18
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…
A corrida global pela inteligência artificial (IA) acaba de ganhar uma nova fronteira: o espaço.…
A inteligência artificial (IA) já deixou de ser uma promessa tecnológica distante para se tornar…
A inteligência artificial (IA) acaba de alcançar mais um marco simbólico na educação superior. Um…
A inteligência artificial (IA) está transformando setores inteiros da economia, impulsionando avanços em saúde, educação,…