Bilder som ändrats av AI är ett "hot mot demokratiska processer", varnar experter

Den brittiske politikern Karl Turner delade en bild på Plattform X, tidigare Twitter, som visar premiärministern dricka en lågkvalitetsöl på en festival, medan en kvinna tittar på med ett hånfullt uttryck. Bilden manipulerades från ett originalfoto, där Sunak dyker upp med en puböl, medan personen bakom honom har ett neutralt uttryck.

Artificiell intelligens för att skapa bilder, hur fungerar det?

Att skapa bilder med hjälp av artificiell intelligens är en mycket sofistikerad process som involverar en rad steg. I allmänhet är AI-avbildningstekniker baserade på generativa neurala nätverk (GAN) eller autoregressiva flödesmodeller. Dessa tekniker använder befintlig data för att lära sig att skapa nya bilder.

Bilden väckte omfattande kritik, där vice premiärminister Oliver Dowden kallade den "oacceptabel".

Experter varnade för att kampen är en indikation på vad som kan hända under framtida valkampanjer. Även om det är oklart om Sunaks bild manipulerades med ett AI-verktyg, har dessa program gjort det enklare och snabbare att producera övertygande falsk text, bilder och ljud.

Hur identifierar man en bild som produceras av AI? Se

Där var fashionistan Pope, Trump arresterades, allt genererat av artificiell intelligens. Men vet du hur man identifierar en falsk AI-genererad bild? Se tips:

Wendy Hall, professor vid University of Southampton, varna: "Jag tror att användningen av digital teknik, inklusive AI, är ett hot mot våra demokratiska processer. Det borde stå högt på agendan i AI-riskregistret med två stora val – i Storbritannien och USA – som närmar sig nästa år.”

Shweta Singh, en utbildare vid University of Warwick, tillägger: "Vi behöver en uppsättning etiska principer som kan garantera och försäkra användare av dessa nya teknologier att nyheterna de läser är pålitliga. Vi måste agera på detta nu, eftersom det är omöjligt att föreställa sig rättvisa och opartiska val om sådana regleringar inte finns. Det är ett allvarligt problem och vi har ont om tid."

Samtidigt har de mest kraftfulla AI-företagen insett behovet av ett system för att tagga AI-genererat innehåll. Förra månaden, Amazon utvecklare, Google, mål, Microsoft e ChatGPT, OpenAI, gick med på en uppsättning nya skyddsåtgärder i ett möte med Joe Biden, som inkluderade användningen av vattenmärkning för AI-drivet bild- och ljudinnehåll.

Amerikanska AI-jättar förenas för att söka självreglering

Google, Microsoft, Antropisk och OpenAI, fyra av de amerikanska företagen som leder den senaste artificiell intelligens (AI)-scenen, tillkännagav i onsdags (26) skapandet av ett nytt professionellt organ för att bekämpa riskerna med denna teknik

Läs också:

Kandidater använder falska bilder genererade av AI för att öka kampanjerna; Det finns till och med väljare med tre armar

Vi har inga val i Brasilien i år, men i andra delar av världen är kampanjer redan i full gång. Kandidater mobiliserar för att bli populära, och många av dem försöker göra detta genom att bli virala på internet. Problemet är metoden. Politiker började använda bilder skapade av artificiell intelligens (AI) för att producera vilseledande reklam och till och med attackera politiska motståndare med falskt innehåll. Förstå.

MIT-forskare utvecklar teknik för att skydda bilder mot AI-manipulation

Forskare vid Massachusetts Institute of Technology (MIT) har utvecklat en ny teknik kallad PhotoGuard som kan användas för att skydda bilder från manipulation av modeller med artificiell intelligens (AI).

* Texten i den här artikeln genererades delvis av verktyg för artificiell intelligens, toppmoderna språkmodeller som hjälper till att förbereda, granska, översätta och sammanfatta texter. Textposter skapades av Curto Nyheter och svar från AI-verktyg användes för att förbättra det slutliga innehållet.
Det är viktigt att betona att AI-verktyg bara är verktyg, och det slutliga ansvaret för det publicerade innehållet ligger hos Curto Nyheter. Genom att använda dessa verktyg på ett ansvarsfullt och etiskt sätt är vårt mål att utöka kommunikationsmöjligheterna och demokratisera tillgången till kvalitetsinformation. 🤖