Mais de 100 anúncios deepfake de Rishi Sunak foram encontrados no Facebook, revela pesquisa

Os anúncios falsos podem ter atingido cerca de 400 mil pessoas – apesar de parecerem violar várias políticas do Facebook. Foi a primeira vez que a imagem do primeiro-ministro foi adulterada em massa de forma sistemática.

Mais de 12 mil libras foram gastas em 143 anúncios, provenientes de 23 países, incluindo EUA, Turquia, Malásia e Filipinas.

O que são deepfakes? | Glossário do Newsverso 

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

O que dizem os anúncios deepfake

Os anúncios divulgados incluem imagens falsas de uma locutora da BBC, Sarah Campbell, parecendo ler notícias de última hora que afirmam falsamente que um escândalo eclodiu em torno de Sunak.

No vídeo deepfake, a jornalista da BBC revela que Elon Musk teria lançado um aplicativo capaz de “coletar” transações do mercado de ações e segue com um clipe falso de Sunak dizendo que o governo decidiu testar o aplicativo em vez de arriscar o dinheiro das pessoas comuns.

Os vídeos levam a uma página falsificada da BBC News promovendo um investimento fraudulento.

Pesquisa alerta sobre a qualidade das falsificações

A pesquisa foi realizada pela Fenimore Harper, uma empresa de comunicações criada por Marcus Beard, um ex-funcionário de Downing Street.

Ela alerta que os anúncios, que marcam uma mudança na qualidade das falsificações, mostraram que as eleições deste ano correm risco de manipulação por uma grande quantidade de falsidades de alta qualidade geradas por inteligência artificial.

“Com o advento da clonagem de voz e rosto barata e fácil de usar, é necessário muito pouco conhecimento e experiência para usar a imagem de uma pessoa para fins maliciosos” disse Beard. “Infelizmente, este problema é agravado por políticas de moderação frouxas na publicidade paga. Esses anúncios vão contra várias políticas de publicidade do Facebook. No entanto, muito poucos dos anúncios que encontramos parecem ter sido removidos” completou.

Um porta-voz do governo do Reino Unido afirmou: “Estamos trabalhando extensivamente em todo o governo para garantir que estamos prontos para responder rapidamente a quaisquer ameaças aos nossos processos democráticos, através do nosso grupo de trabalho de defesa da democracia e de equipes governamentais dedicadas. A nossa Lei de Segurança Online vai mais longe ao impor novos requisitos às plataformas sociais para remover rapidamente a desinformação ilegal e a desinformação – incluindo quando são geradas por IA – assim que tomarem conhecimento delas.”

Leia também:

A IA oferece perigo ao processo democrático das eleições?

A inteligência artificial (IA) está transformando a sociedade de muitas maneiras, incluindo o discurso político. Os recentes avanços na IA generativa, que permite a criação de textos e imagens realistas, levantam preocupações sobre o potencial impacto dessa tecnologia nas eleições democráticas.

Google investe em IA para combater desinformação e abuso nas eleições dos EUA

O Google anunciou que usará inteligência artificial (IA) para proteger as eleições dos Estados Unidos em 2024. A empresa está investindo em novas ferramentas e políticas para combater a desinformação e o abuso nas plataformas.

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!

* O texto desta matéria foi parcialmente gerado por ferramentas de inteligência artificial, modelos de linguagem de última geração que auxiliam na elaboração, revisão, tradução e resumos de textos. As entradas de texto foram criadas pela equipe do Curto News e as respostas das ferramentas de IA foram utilizadas para aprimorar o conteúdo final.
É importante destacar que as ferramentas de IA são apenas ferramentas, e a responsabilidade final pelo conteúdo publicado é do Curto News. Ao utilizarmos essas ferramentas de forma responsável e ética, nosso objetivo é ampliar as possibilidades da comunicação e democratizar o acesso à informação de qualidade. 🤖