Imagens alteradas por IA são ‘ameaça aos processos democráticos’, alertam especialistas

Especialistas alertam que é preciso tomar medidas sobre o uso de imagens geradas por inteligência artificial (IA) ou aprimoradas por ela na política. O caso mais recente, que levantou novamente as discussões, foi de uma imagem manipulada de Rishi Sunak, primeiro-ministro britânico, servindo uma cerveja.

Publicado por
Isabella Caminoto

O político britânico Karl Turner compartilhou uma imagem na plataforma X, ex-Twitter, que mostra o primeiro-ministro bebendo uma cerveja de baixa qualidade em um festival, enquanto uma mulher observa com uma expressão zombeteira. A imagem foi manipulada a partir de uma foto original, na qual Sunak aparece com uma cerveja de pub, enquanto a pessoa atrás dele tem uma expressão neutra.

A imagem deu origem a várias críticas, com o vice-primeiro-ministro, Oliver Dowden, chamando-a de “inaceitável”.

Especialistas alertaram que a briga é uma indicação do que pode acontecer durante futuras campanhas eleitorais. Embora não esteja claro se a imagem de Sunak foi manipulada usando uma ferramenta de IA, esses programas tornaram mais fácil e rápido produzir texto, imagens e áudio falsos e convincentes.

Wendy Hall, professora da Universidade de Southampton, faz o alerta: “Acho que o uso de tecnologias digitais, incluindo IA, é uma ameaça aos nossos processos democráticos. Deve estar no topo da agenda no registro de risco de IA com duas grandes eleições – no Reino Unido e nos EUA – se aproximando no próximo ano.”

Shweta Singh, educadora na Universidade de Warwick, completa: “Precisamos de um conjunto de princípios éticos que possam garantir e tranquilizar os usuários dessas novas tecnologias de que as notícias que estão lendo são confiáveis. Precisamos agir sobre isso agora, pois é impossível imaginar eleições justas e imparciais se tais regulamentos não existirem. É uma preocupação séria e estamos ficando sem tempo.”

Enquanto isso, as mais poderosas empresas de IA reconheceram a necessidade de um sistema para marcar o conteúdo gerado por IA. No mês passado, o desenvolvedor da Amazon, Google, Meta, Microsoft e ChatGPT, OpenAI, concordou com um conjunto de novas salvaguardas em uma reunião com Joe Biden, que incluía o uso de marca d’água para conteúdo visual e de áudio feito por IA.

Leia também:

Este post foi modificado pela última vez em 3 de agosto de 2023 17:04

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.

Posts recentes

Walt Disney forma unidade de negócios para coordenar o uso de IA e realidade aumentada

A Walt Disney está formando um novo grupo para coordenar o uso da empresa de…

1 de novembro de 2024

HOVER: Modelo de IA compacto domina o controle de humanoides

A Nvidia acaba de publicar uma nova pesquisa apresentando o HOVER, uma pequena rede neural…

1 de novembro de 2024

O ChatGPT agora é um mecanismo de busca com IA

O ChatGPT agora é oficialmente um mecanismo de busca com inteligência artificial (IA). A empresa…

31 de outubro de 2024

Ucrânia lança dezenas de sistemas de IA para ajudar seus drones a atingir alvos

A Ucrânia está usando dezenas de sistemas de inteligência artificial (IA) fabricados localmente para seus…

31 de outubro de 2024

Google Maps usará IA para responder suas perguntas; entenda

A Alphabet, dona do Google, anunciou na quinta-feira (31) um conjunto de recursos que incorporam…

31 de outubro de 2024

Mistério resolvido: líder em geração de imagens de IA revela sua identidade

A startup de design Recraft acaba de anunciar seu novo modelo de inteligência artificial (IA)…

31 de outubro de 2024