Autoridades investigam empresa supostamente envolvida no uso de IA para imitar voz de Biden em chamadas

John Formella ordenou à empresa de telecomunicações Life Corp que interrompa imediatamente suas violações das leis estaduais contra a supressão de eleitores. Essa decisão serve como um alerta para as empresas dos Estados Unidos que tentarem usar a inteligência artificial para interferir nas eleições.

No final de janeiro deste ano, aproximadamente 20 mil pessoas receberam chamadas telefônicas geradas por inteligência artificial, fingindo ser o presidente Biden, com a mensagem: “Seu voto é importante em novembro, não nesta terça-feira.” Essas chamadas foram manipuladas para parecerem ter sido enviadas por um funcionário do comitê democrata.

Segundo as autoridades norte-americanas, essas mensagens representam uma tentativa ilegal de interferir nas eleições primárias presidenciais de New Hampshire. O impacto das chamadas irregulares no processo eleitoral ainda não foi determinado.

De acordo com uma análise da Universidade da Flórida, as gravações provavelmente foram geradas por um software da empresa de clonagem de voz por IA, ElevenLabs. A empresa tem sido fortemente criticada por não implementar medidas de segurança adequadas para evitar o uso da tecnologia por golpistas.

A ElevenLabs anunciou que suspendeu a conta responsável pela criação do deepfake de Biden e reafirmou seu compromisso em evitar o uso indevido de ferramentas de IA de áudio. Enquanto isso, a Life Corp optou por não se manifestar oficialmente sobre o caso.

A campanha de Biden elogiou o procurador-geral de New Hampshire por sua rápida intervenção, considerando-a um exemplo poderoso contra tentativas de interferir em eleições democráticas.

Leia também: