Autoridades investigam empresa supostamente envolvida no uso de IA para imitar voz de Biden em chamadas

New Hampshire’s attorney general Tuesday announced a criminal investigation into a Texas-based company that was allegedly behind thousands of AI-generated calls impersonating President Biden in the run-up to the state’s primary elections. https://t.co/EACqHQCty1

— The Washington Post (@washingtonpost) February 7, 2024

John Formella ordenou à empresa de telecomunicações Life Corp que interrompa imediatamente suas violações das leis estaduais contra a supressão de eleitores. Essa decisão serve como um alerta para as empresas dos Estados Unidos que tentarem usar a inteligência artificial para interferir nas eleições.

No final de janeiro deste ano, aproximadamente 20 mil pessoas receberam chamadas telefônicas geradas por inteligência artificial, fingindo ser o presidente Biden, com a mensagem: “Seu voto é importante em novembro, não nesta terça-feira.” Essas chamadas foram manipuladas para parecerem ter sido enviadas por um funcionário do comitê democrata.

EUA investigam uso de IA para imitar voz de Biden em ligações falsas sobre as eleições

Enquanto os eleitores de New Hampshire se preparavam para votar nas primeiras primárias do estado, uma ligação automática circulou no estado pedindo aos democratas que fiquem em casa – usando um áudio falso de Presidente dos EUA, Joe Biden.

Segundo as autoridades norte-americanas, essas mensagens representam uma tentativa ilegal de interferir nas eleições primárias presidenciais de New Hampshire. O impacto das chamadas irregulares no processo eleitoral ainda não foi determinado.

De acordo com uma análise da Universidade da Flórida, as gravações provavelmente foram geradas por um software da empresa de clonagem de voz por IA, ElevenLabs. A empresa tem sido fortemente criticada por não implementar medidas de segurança adequadas para evitar o uso da tecnologia por golpistas.

Chamadas automáticas geradas por IA poderão se tornar ilegais nos EUA

A Comissão Federal de Comunicações dos Estados Unidos (FCC) está agindo para criminalizar explicitamente as ligações automáticas não solicitadas que usam vozes feitas com inteligência artificial (IA).

A ElevenLabs anunciou que suspendeu a conta responsável pela criação do deepfake de Biden e reafirmou seu compromisso em evitar o uso indevido de ferramentas de IA de áudio. Enquanto isso, a Life Corp optou por não se manifestar oficialmente sobre o caso.

A campanha de Biden elogiou o procurador-geral de New Hampshire por sua rápida intervenção, considerando-a um exemplo poderoso contra tentativas de interferir em eleições democráticas.

Leia também:

YouTube terá etiqueta para vídeos com IA e intensificará a luta contra deepfakes nas eleições

O YouTube divulgou em seu blog oficial as diretrizes que detalham sua abordagem em relação a conteúdos gerados por inteligência artificial (IA).

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!