Consultor envolvido em robocall deepfake de Biden é indiciado por esquema na primária democrata

Steve Kramer, um consultor político que admitiu à NBC News ter utilizado a voz deepfake de Joe Biden em um robocall enviado para milhares de eleitores em New Hampshire em janeiro de 2024, foi indiciado.

O robocall, enviado antes da primeira primária presidencial democrata nos EUA, em New Hampshire, usou inteligência artificial (IA) para falsificar a voz de Biden, instruindo os eleitores a ficarem em casa e “guardarem” seus votos para a eleição geral de novembro.

Político e empresas por trás de chamada robótica falsa de Biden são processados por milhares de eleitores

Um político e duas empresas envolvidas em uma chamada automática falsa usando inteligência artificial (IA), que se passava por Joe Biden, estão enfrentando um processo federal movido por eleitores de New Hampshire e um grupo de ação cívica. O processo busca compensação financeira significativa e exige que essas entidades sejam proibidas de realizar ações similares no futuro.

Dez acusações foram apresentadas contra Kramer no condado de Rockingham, incluindo suborno, intimidação e personificação de candidatos, conforme reportado pela estação de TV WMUR em New Hampshire. Acusações semelhantes foram registradas nos condados de Merrimack e Belknap, onde outros também relataram ter recebido o robocall.

“Parecia a voz do Joe Biden, e eu pensei: ‘Isso é estranho’, e então, ao ouvir mais, percebi que não parecia realmente com ele,” disse Krista Zurek, que recebeu um dos robocalls, à WMUR.

Este robocall é o primeiro deepfake relatado a ser usado na política nacional dos EUA. Tentativas de falsificações na vida pública e na política sempre foram comuns, mas os deepfakes utilizam IA e diversas ferramentas tecnológicas para copiar vozes ou rostos de maneira extremamente convincente.

Especialistas pedem mais regulamentação para deepfakes

Especialistas em inteligência artificial (IA) e executivos do setor, incluindo um dos pioneiros da tecnologia, Yoshua Bengio, assinaram uma carta aberta pedindo mais regulamentação em torno da criação de deepfakes, citando potenciais riscos para a sociedade.

O incidente em New Hampshire levou a Comissão Federal de Comunicações a proibir o uso de robocalls com vozes geradas por inteligência artificial. Segundo Kramer, ele enviou os robocalls para defender a necessidade de regulamentação da IA. Ele havia trabalhado anteriormente como contratado para a fracassada campanha presidencial de Dean Phillips, mas tanto ele quanto a campanha de Phillips negaram conhecimento sobre o plano dos robocalls.

Os criadores do robocall eram desconhecidos até que um mágico de rua chamado Paul Carpenter se apresentou à NBC News, afirmando ter criado o robocall para Kramer. Ele forneceu capturas de tela de textos e pagamentos via Venmo para corroborar sua história. Kramer posteriormente admitiu seu papel na encomenda do robocall.

Kramer e duas empresas do Texas envolvidas na distribuição do robocall também estão sendo processados.

Leia também:

Meta cria Conselho para assessorar desenvolvimento de IA