OpenAI soa o alarme: seus modelos de IA estão sendo usados para interferir em eleições

A OpenAI viu uma série de tentativas em que seus modelos de inteligência artificial (IA) foram usados para gerar conteúdo falso, incluindo artigos longos e comentários de mídia social, com o objetivo de influenciar eleições, disse o criador do ChatGPT em um relatório na quarta-feira (9).

Cybercriminosos estão usando cada vez mais ferramentas de IA, incluindo o ChatGPT, para auxiliar em suas atividades maliciosas, como criar e depurar malware e gerar conteúdo falso para sites e plataformas de mídia social, disse a startup.

Até agora este ano, ela neutralizou mais de 20 dessas tentativas, incluindo um conjunto de contas do ChatGPT em agosto que foram usadas para produzir artigos sobre tópicos que incluíam as eleições dos EUA, disse a empresa.

Também proibiu uma série de contas de Ruanda em julho que foram usadas para gerar comentários sobre as eleições naquele país para postar no site de mídia social X.

Nenhuma das atividades que tentaram influenciar eleições globais atraiu engajamento viral ou audiências sustentáveis, acrescentou a OpenAI.

Há preocupação crescente com o uso de ferramentas de IA e sites de mídia social para gerar e propagar conteúdo falso relacionado a eleições, especialmente enquanto os EUA se preparam para as pesquisas presidenciais.

De acordo com o Departamento de Segurança Interna dos EUA, os EUA veem uma ameaça crescente da Rússia, Irã e China tentando influenciar as eleições de 5 de novembro, incluindo o uso de IA para disseminar informações falsas ou divisivas.

A OpenAI cimentou sua posição como uma das empresas privadas mais valiosas do mundo na semana passada após uma rodada de financiamento de US$ 6,6 bilhões.

O ChatGPT tem 250 milhões de usuários ativos semanalmente desde seu lançamento em novembro de 2022.

Leia também: