Konsulent involveret i Biden deepfake robocall tiltalt for plan i demokratiske primærvalg

Steve Kramer, en politisk konsulent, der indrømmede over for NBC News, at han brugte sin stemme deepfake fra Joe Biden i et robocall sendt til tusindvis af vælgere i New Hampshire i januar 2024, blev tiltalt.

Robocallet, der blev sendt forud for det første amerikanske demokratiske præsidentvalg i New Hampshire, brugte inteligência kunstig (IA) for at falske Bidens stemme og instruere vælgerne om at blive hjemme og "gemme" deres stemmer til parlamentsvalget i november.

Politiker og virksomheder bag falske Biden robocall sagsøgt af tusindvis af vælgere

En politiker og to virksomheder involveret i et falsk robocall ved hjælp af kunstig intelligens (AI), der udgav sig for at være Joe Biden, står over for en føderal retssag anlagt af New Hampshire-vælgere og en borgerlig aktionsgruppe. Retssagen søger betydelig økonomisk kompensation og kræver, at disse enheder forbydes at foretage lignende handlinger i fremtiden.

Ti anklager blev rejst mod Kramer i Rockingham County, herunder bestikkelse, intimidering og efterligning af kandidater, som rapporteret af tv-stationen WMUR i New Hampshire. Lignende anklager blev indgivet i Merrimack og Belknap amter, hvor andre også rapporterede at modtage robocallet.

“Det lød som stemmen til Joe Biden, og jeg tænkte: 'Det er mærkeligt', og da jeg lyttede mere, indså jeg, at det ikke rigtig lød som ham, siger Krista Zurek, der modtog et af roboopkaldene, til WMUR.

Dette robocall er det første rapporterede deepfake, der bliver brugt i amerikansk national politik. ERE. Forfalskningsforsøg i det offentlige liv og politik har altid været almindelige, men deepfakes bruger AI og forskellige teknologiske værktøjer til at kopiere stemmer eller ansigter på en ekstremt overbevisende måde.

Eksperter opfordrer til mere regulering af deepfakes

Kunstig intelligens (AI) eksperter og industriledere, inklusive en af ​​teknologiens pionerer, Yoshua Bengio, har underskrevet et åbent brev, der opfordrer til mere regulering omkring skabelsen af ​​deepfakes, med henvisning til potentielle risici for samfundet.

Hændelsen i New Hampshire fik Federal Communications Commission til at forbyde brugen af robocalls med stemmer genereret af kunstig intelligens. Ifølge Kramer sendte han robocalls for at advokere for behovet for AI-regulering. Han havde tidligere arbejdet som entreprenør for Dean Phillips' mislykkede præsidentkampagne, men både han og Phillips-kampagnen nægtede kendskab til robocall-planen.

Skaberne af robocallet var ukendte, indtil en gademagiker ved navn Paul Carpenter kom frem til NBC News og hævdede at have skabt robocallet til Kramer. Han leverede skærmbilleder af tekster og betalinger via Venmo for at bekræfte sin historie. Kramer indrømmede senere sin rolle i at bestille robocallet.

Kramer og to Texas-virksomheder, der er involveret i at distribuere robocallet, bliver også sagsøgt.

Læs også:

Meta opretter Council for at rådgive AI-udvikling