Mere end 100 Rishi Sunak deepfake-annoncer blev fundet på Facebook, viser forskning

De falske annoncer kan have nået ud til omkring 400 mennesker – på trods af at de ser ud til at overtræde flere af virksomhedens politikker. Facebook. Det var første gang, at premierministerens image systematisk blev forfalsket i massevis.

Mere end £12 blev brugt på 143 annoncer fra 23 lande, herunder USA, Tyrkiet, Malaysia og Filippinerne.

Hvad er deepfakes? | Newsverso ordliste 

En deepfake er en video- og billedmanipulationsteknik, der bruger maskinlæringsalgoritmer til at skabe falsk og overbevisende indhold. Den kombinerer processorkraften fra moderne computere med avancerede kunstig intelligens-teknikker, hvilket gør det muligt at skabe videoer, der ser autentiske ud, men som faktisk er fuldstændigt fabrikerede.

Hvad deepfake annoncer siger

De frigivne annoncer inkluderer falske optagelser af en BBC-nyhedslæser, Sarah Campbell, der ser ud til at læse breaking news-rapporter, som fejlagtigt hævder, at en skandale er udbrudt omkring Sunak.

På video deepfake, afslører BBC-journalisten det Elon Musk har angiveligt lanceret en app, der er i stand til at "samle" aktiemarkedstransaktioner og følger op med et falsk klip af Sunak, der siger, at regeringen besluttede at teste appen i stedet for at risikere almindelige menneskers penge.

Videoerne linker til en falsk BBC News-side, der promoverer en svigagtig investering.

Forskning advarer om kvaliteten af ​​forfalskninger

Undersøgelsen er udført af Fenimore Harper, et kommunikationsfirma skabt af Marcus Beard, en tidligere tjenestemand i Downing Street.

Hun advarer om, at annoncerne, som markerer et skift i kvaliteten af ​​forfalskninger, viste, at dette års valg risikerer at blive manipuleret af et stort antal falskheder af høj kvalitet genereret af inteligência kunstig.

"Med fremkomsten af ​​billig og letanvendelig stemme- og ansigtskloning kræves der meget lidt viden og erfaring for at bruge en persons billede til ondsindede formål" sagde Beard.. "Desværre forværres dette problem af lemfældige moderationspolitikker i betalt annoncering. Disse annoncer er i modstrid med flere Facebook-annonceringspolitikker. Det ser dog ud til, at meget få af de annoncer, vi fandt, er blevet fjernet."

En talsmand for den britiske regering sagde: "Vi arbejder i vid udstrækning på tværs af regeringen for at sikre, at vi er klar til at reagere hurtigt på enhver trussel mod vores demokratiske processer gennem vores Democracy Defense Working Group og dedikerede regeringsteams. . Vores onlinesikkerhedslov går videre ved at pålægge sociale platforme nye krav for hurtigt at fjerne ulovlig misinformation og desinformation – herunder når den genereres af AI – så snart de bliver opmærksomme på det.”

Læs også:

Udgør kunstig intelligens en fare for den demokratiske valgproces?

Kunstig intelligens (AI) transformerer samfundet på mange måder, herunder politisk diskurs. Nylige fremskridt inden for generativ kunstig intelligens, som gør det muligt at skabe realistiske tekster og billeder, vækker bekymring over den potentielle indvirkning af denne teknologi på demokratiske valg.

Google investerer i kunstig intelligens for at bekæmpe misinformation og misbrug i amerikanske valg

O Google annonceret, at det vil bruge kunstig intelligens (AI) til at beskytte valget i USA i 2024. Virksomheden investerer i nye værktøjer og politikker til at bekæmpe misinformation og misbrug på platforme.

* Teksten i denne artikel er delvist genereret af kunstig intelligensværktøjer, avancerede sprogmodeller, der hjælper med at forberede, gennemgå, oversætte og sammenfatte tekster. Tekstindtastninger blev oprettet af Curto Nyheder og svar fra AI-værktøjer blev brugt til at forbedre det endelige indhold.
Det er vigtigt at fremhæve, at AI-værktøjer kun er værktøjer, og det endelige ansvar for det offentliggjorte indhold ligger hos Curto Nyheder. Ved at bruge disse værktøjer ansvarligt og etisk er vores mål at udvide kommunikationsmulighederne og demokratisere adgangen til kvalitetsinformation. 🤖