Imagens alteradas por IA são ‘ameaça aos processos democráticos’, alertam especialistas

Especialistas alertam que é preciso tomar medidas sobre o uso de imagens geradas por inteligência artificial (IA) ou aprimoradas por ela na política. O caso mais recente, que levantou novamente as discussões, foi de uma imagem manipulada de Rishi Sunak, primeiro-ministro britânico, servindo uma cerveja.

Publicado por

Isabella Caminoto

3 de agosto de 2023 14:56

O político britânico Karl Turner compartilhou uma imagem na plataforma X, ex-Twitter, que mostra o primeiro-ministro bebendo uma cerveja de baixa qualidade em um festival, enquanto uma mulher observa com uma expressão zombeteira. A imagem foi manipulada a partir de uma foto original, na qual Sunak aparece com uma cerveja de pub, enquanto a pessoa atrás dele tem uma expressão neutra.

Inteligência artificial para criar imagens, como funciona?

A geração de imagens por meio de inteligência artificial é um processo altamente sofisticado que envolve uma série de etapas. Geralmente, as técnicas de geração de imagens por IA são baseadas em redes neurais generativas (GANs) ou em modelos de fluxo autoregressivo. Essas técnicas utilizam dados existentes para aprender a gerar novas imagens.

A imagem deu origem a várias críticas, com o vice-primeiro-ministro, Oliver Dowden, chamando-a de “inaceitável”.

Especialistas alertaram que a briga é uma indicação do que pode acontecer durante futuras campanhas eleitorais. Embora não esteja claro se a imagem de Sunak foi manipulada usando uma ferramenta de IA, esses programas tornaram mais fácil e rápido produzir texto, imagens e áudio falsos e convincentes.

Como identificar uma imagem produzida por IA? Veja

Teve o Papa fashionista, Trump sendo preso, tudo gerado por uma inteligência artificial. Mas você sabe como identificar uma imagem falsa gerada por IA? Veja dicas:

Wendy Hall, professora da Universidade de Southampton, faz o alerta: “Acho que o uso de tecnologias digitais, incluindo IA, é uma ameaça aos nossos processos democráticos. Deve estar no topo da agenda no registro de risco de IA com duas grandes eleições – no Reino Unido e nos EUA – se aproximando no próximo ano.”

Shweta Singh, educadora na Universidade de Warwick, completa: “Precisamos de um conjunto de princípios éticos que possam garantir e tranquilizar os usuários dessas novas tecnologias de que as notícias que estão lendo são confiáveis. Precisamos agir sobre isso agora, pois é impossível imaginar eleições justas e imparciais se tais regulamentos não existirem. É uma preocupação séria e estamos ficando sem tempo.”

Enquanto isso, as mais poderosas empresas de IA reconheceram a necessidade de um sistema para marcar o conteúdo gerado por IA. No mês passado, o desenvolvedor da Amazon, Google, Meta, Microsoft e ChatGPT, OpenAI, concordou com um conjunto de novas salvaguardas em uma reunião com Joe Biden, que incluía o uso de marca d’água para conteúdo visual e de áudio feito por IA.

Gigantes americanas da IA se unem para buscar autorregulação

Google, Microsoft, Anthropic e OpenAI, quatro das empresas americanas que lideram o cenário da Inteligência Artificial (IA) de última geração, anunciaram nesta quarta-feira (26) a criação de um novo órgão profissional para combater os riscos associados a esta tecnologia

Leia também:

Candidatos estão utilizando imagens falsas geradas por IA para alavancar campanhas; tem até eleitora com três braços

Esse ano não temos eleições no Brasil, mas em outras partes do mundo as campanhas já estão a todo vapor. Candidatos estão se mobilizando para se popularizar, e muitos deles tentam fazer isso viralizando na internet. O problema é o método. Políticos passaram a usar imagens criadas por inteligência artificial (IA) para produzir peças publicitárias enganosas e até atacar adversários políticos com conteúdos falsos. Entenda.

Pesquisadores do MIT desenvolvem técnica para proteger imagens contra manipulação por IA

Pesquisadores do Massachusetts Institute of Technology (MIT) desenvolveram uma nova técnica chamada PhotoGuard que pode ser usada para proteger imagens contra manipulação por modelos de inteligência artificial (IA).

Este post foi modificado pela última vez em %s = human-readable time difference 17:04

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.