Konsult involverad i Biden deepfake robocall åtalad för intrig i demokraternas primärval

Steve Kramer, en politisk konsult som erkände för NBC News att han använde sin röst deepfake från Joe Biden i ett robocall som skickades till tusentals väljare i New Hampshire i januari 2024, åtalades.

Det robocall, som skickades före USA:s första demokratiska presidentval i New Hampshire, användes inteligência artificiell (IA) att fejka Bidens röst och instruera väljarna att stanna hemma och "spara" sina röster till parlamentsvalet i november.

Politiker och företag bakom falska Biden robocall stämt av tusentals väljare

En politiker och två företag inblandade i ett falskt robocall med artificiell intelligens (AI) som utgav sig som Joe Biden står inför en federal stämningsansökan inlämnad av New Hampshire-väljare och en civil aktionsgrupp. Stämningen kräver betydande ekonomisk kompensation och kräver att dessa enheter förbjuds att vidta liknande åtgärder i framtiden.

Tio anklagelser lämnades in mot Kramer i Rockingham County, inklusive mutor, hot och efterbildning av kandidater, som rapporterats av TV-stationen WMUR i New Hampshire. Liknande anklagelser väcktes i länen Merrimack och Belknap, där andra också rapporterade att de fick robocallet.

"Det lät som rösten för Joe Biden, och jag tänkte "det är konstigt", och sedan när jag lyssnade mer insåg jag att det inte riktigt lät som honom, säger Krista Zurek, som tog emot ett av robocallen, till WMUR.

Detta robocall är det första rapporterade deepfake som används i USA:s nationella politik. USA. Förfalskningsförsök i det offentliga livet och politiken har alltid varit vanliga, men deepfakes använder AI och olika tekniska verktyg för att kopiera röster eller ansikten på ett extremt övertygande sätt.

Experter kräver mer reglering av deepfakes

Artificiell intelligens (AI)-experter och branschchefer, inklusive en av teknikens pionjärer, Yoshua Bengio, har undertecknat ett öppet brev som kräver mer reglering kring skapandet av djupförfalskningar, med hänvisning till potentiella risker för samhället.

Incidenten i New Hampshire fick Federal Communications Commission att förbjuda användningen av robocalls med röster genererade av artificiell intelligens. Enligt Kramer skickade han robocallen för att förespråka behovet av AI-reglering. Han hade tidigare arbetat som entreprenör för Dean Phillips misslyckade presidentkampanj, men både han och Phillips-kampanjen förnekade kännedom om robocall-planen.

Skaparna av robocall var okända tills en gatumagiker vid namn Paul Carpenter kom fram till NBC News och påstod sig ha skapat robocall för Kramer. Han gav skärmdumpar av texter och betalningar via Venmo för att bekräfta sin historia. Kramer erkände senare sin roll i att beställa robocall.

Kramer och två Texas-företag som var involverade i att distribuera robocall stäms också.

Läs också:

Meta skapar Council för att ge råd om AI-utveckling