Empresa de IA considera proibir a criação de imagens políticas nas eleições de 2024

“Não sei o quanto me importo com o discurso político da nossa plataforma para o próximo ano”, disse o CEO da Midjourney, David Holz, acrescentando que a empresa está perto de “martelar” – ou banir – imagens políticas, incluindo os dos principais candidatos presidenciais, “para os próximos 12 meses”.

Midjourney: Ferramenta de IA que permite gerar imagens a partir de descrições textuais

Em uma conversa com usuários do Midjourney em uma sala de bate-papo no Discord, conforme relatado pela Bloomberg, Holz continuou dizendo: “Eu sei que é divertido fazer fotos de Trump – eu faço fotos de Trump. Trump é esteticamente muito interessante. No entanto, provavelmente é melhor não, é melhor recuar um pouco durante esta eleição. Veremos.”

Imagens geradas por IA tornaram-se recentemente uma preocupação. Há duas semanas, imagens pornográficas com a imagem de Taylor Swift levaram os legisladores e os chamados Swifties, que apoiam a cantora, a exigirem proteções mais fortes contra imagens geradas por IA.

Imagens deepfake de Taylor Swift motivam projeto de lei nos EUA

Um grupo bipartidário de senadores dos Estados Unidos apresentou um projeto de lei na terça-feira (30) que criminaliza a disseminação de imagens sexualizadas, geradas por inteligência artificial (IA), sem consentimento.

Os comentários de Holz ocorrem no momento em que as salvaguardas criadas pelos operadores de geradores de imagens estão jogando um jogo de gato e rato com os usuários para evitar a criação de conteúdo questionável.

A inteligência artificial no domínio político está causando preocupação crescente, embora o MIT Technology Review tenha notado recentemente que a discussão sobre como a IA pode ameaçar a democracia “carece de imaginação”.

“As pessoas falam sobre o perigo de campanhas que atacam oponentes com imagens falsas (ou áudio ou vídeo falsos) porque já temos décadas de experiência em lidar com imagens adulteradas”, observou a revisão. Acrescentou: “É pouco provável que consigamos atribuir um resultado eleitoral surpreendente a qualquer intervenção específica da IA”.

O Facebook da Meta disse na semana passada que planeja rotular postagens criadas com ferramentas de IA como parte de um esforço mais amplo para combater a desinformação em ano eleitoral. A OpenAI, afiliada à Microsoft, disse que adicionará marcas d’água às imagens feitas com suas plataformas para combater deepfakes políticos produzidos pela IA.

Leia também:

EUA proíbem chamadas automáticas que usam vozes geradas por IA

O governo dos EUA proibiu, nesta quinta-feira (8), as chamadas automáticas que usam vozes geradas por inteligência artificial (IA), uma decisão que envia uma mensagem clara de que a exploração da tecnologia para enganar as pessoas e os eleitores não será tolerada.