Mais de 100 anúncios deepfake de Rishi Sunak foram encontrados no Facebook, revela pesquisa

Mais de 100 anúncios em vídeo deepfake representando o primeiro ministro britânico, Rishi Sunak, foram pagos para serem promovidos no Facebook somente no último mês, revelou uma pesquisa que levantou o alarme sobre o risco que a inteligência artificial (IA) representa para as eleições.

Publicado por

Isabella Caminoto

12 de janeiro de 2024 17:00

Rishi Sunak

Os anúncios falsos podem ter atingido cerca de 400 mil pessoas – apesar de parecerem violar várias políticas do Facebook. Foi a primeira vez que a imagem do primeiro-ministro foi adulterada em massa de forma sistemática.

Mais de 12 mil libras foram gastas em 143 anúncios, provenientes de 23 países, incluindo EUA, Turquia, Malásia e Filipinas.

O que são deepfakes? | Glossário do Newsverso

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

O que dizem os anúncios deepfake

Os anúncios divulgados incluem imagens falsas de uma locutora da BBC, Sarah Campbell, parecendo ler notícias de última hora que afirmam falsamente que um escândalo eclodiu em torno de Sunak.

No vídeo deepfake, a jornalista da BBC revela que Elon Musk teria lançado um aplicativo capaz de “coletar” transações do mercado de ações e segue com um clipe falso de Sunak dizendo que o governo decidiu testar o aplicativo em vez de arriscar o dinheiro das pessoas comuns.

Os vídeos levam a uma página falsificada da BBC News promovendo um investimento fraudulento.

Pesquisa alerta sobre a qualidade das falsificações

A pesquisa foi realizada pela Fenimore Harper, uma empresa de comunicações criada por Marcus Beard, um ex-funcionário de Downing Street.

Ela alerta que os anúncios, que marcam uma mudança na qualidade das falsificações, mostraram que as eleições deste ano correm risco de manipulação por uma grande quantidade de falsidades de alta qualidade geradas por inteligência artificial.

“Com o advento da clonagem de voz e rosto barata e fácil de usar, é necessário muito pouco conhecimento e experiência para usar a imagem de uma pessoa para fins maliciosos” disse Beard. “Infelizmente, este problema é agravado por políticas de moderação frouxas na publicidade paga. Esses anúncios vão contra várias políticas de publicidade do Facebook. No entanto, muito poucos dos anúncios que encontramos parecem ter sido removidos” completou.

Um porta-voz do governo do Reino Unido afirmou: “Estamos trabalhando extensivamente em todo o governo para garantir que estamos prontos para responder rapidamente a quaisquer ameaças aos nossos processos democráticos, através do nosso grupo de trabalho de defesa da democracia e de equipes governamentais dedicadas. A nossa Lei de Segurança Online vai mais longe ao impor novos requisitos às plataformas sociais para remover rapidamente a desinformação ilegal e a desinformação – incluindo quando são geradas por IA – assim que tomarem conhecimento delas.”

Leia também:

A IA oferece perigo ao processo democrático das eleições?

A inteligência artificial (IA) está transformando a sociedade de muitas maneiras, incluindo o discurso político. Os recentes avanços na IA generativa, que permite a criação de textos e imagens realistas, levantam preocupações sobre o potencial impacto dessa tecnologia nas eleições democráticas.

Google investe em IA para combater desinformação e abuso nas eleições dos EUA

O Google anunciou que usará inteligência artificial (IA) para proteger as eleições dos Estados Unidos em 2024. A empresa está investindo em novas ferramentas e políticas para combater a desinformação e o abuso nas plataformas.

Este post foi modificado pela última vez em %s = human-readable time difference 16:18

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.