Imaginile modificate de AI reprezintă o „amenințare la adresa proceselor democratice”, avertizează experții

Politicianul britanic Karl Turner a distribuit o imagine pe Platforma X, fosta Twitter, care îl arată pe prim-ministru bând o bere de calitate scăzută la un festival, în timp ce o femeie privește cu o expresie batjocoritoare. Imaginea a fost manipulată dintr-o fotografie originală, în care Sunak apare cu o bere de pub, în ​​timp ce persoana din spatele lui are o expresie neutră.

Inteligența artificială pentru a crea imagini, cum funcționează?

Generarea de imagini folosind inteligența artificială este un proces extrem de sofisticat care implică o serie de pași. În general, tehnicile de imagistică AI se bazează pe rețele neuronale generative (GAN) sau pe modele de flux autoregresiv. Aceste tehnici folosesc datele existente pentru a învăța cum să genereze imagini noi.

Imaginea a stârnit critici pe scară largă, viceprim-ministrul Oliver Dowden numind-o „inacceptabilă”.

Experții au avertizat că lupta este un indiciu a ceea ce s-ar putea întâmpla în viitoarele campanii electorale. Deși nu este clar dacă imaginea lui Sunak a fost manipulată folosind un instrument AI, aceste programe au făcut mai ușor și mai rapid producerea de text, imagini și sunet false convingătoare.

Cum să identifici o imagine produsă de AI? Uite

Acolo era fashionista Pope, Trump fiind arestat, toate generate de inteligența artificială. Dar știi cum să identifici o imagine falsă generată de AI? Vezi sfaturi:

Wendy Hall, profesor la Universitatea din Southampton, faceți alerta: „Cred că utilizarea tehnologiilor digitale, inclusiv AI, este o amenințare la adresa proceselor noastre democratice. Ar trebui să fie pe primul loc pe ordinea de zi în registrul de risc AI, cu două alegeri majore – în Marea Britanie și SUA – care se apropie de anul viitor.”

Shweta Singh, un educator la Universitatea din Warwick, adaugă: „Avem nevoie de un set de principii etice care să garanteze și să asigure utilizatorilor acestor noi tehnologii că știrile pe care le citesc sunt de încredere. Trebuie să acționăm în acest sens acum, deoarece este imposibil să ne imaginăm alegeri corecte și imparțiale dacă astfel de reglementări nu există. Este o îngrijorare serioasă și rămânem fără timp.”

Între timp, cele mai puternice companii de AI au recunoscut necesitatea unui sistem de etichetare a conținutului generat de AI. Luna trecută, dezvoltator Amazon, Google, Poartă, Microsoft e ChatGPT, OpenAI, a fost de acord cu un set de noi măsuri de protecție în cadrul unei întâlniri cu Joe Biden, care a inclus utilizarea filigranului pentru conținutul vizual și audio bazat pe inteligență artificială.

Giganții americani de inteligență artificială se unesc pentru a căuta auto-reglementare

Google, Microsoft, antropică și OpenAI, patru dintre companiile americane care conduc scena de ultimă generație a Inteligenței Artificiale (AI), a anunțat miercuri (26) crearea unui nou organism profesional care să combată riscurile asociate acestei tehnologii.

Citește și:

Candidații folosesc imagini false generate de AI pentru a stimula campaniile; Sunt chiar alegători cu trei brațe

Nu avem alegeri în Brazilia anul acesta, dar în alte părți ale lumii campaniile sunt deja în plină desfășurare. Candidații se mobilizează pentru a deveni populari, iar mulți dintre ei încearcă să facă acest lucru devenind viral pe internet. Problema este metoda. Politicienii au început să folosească imagini create de inteligența artificială (AI) pentru a produce materiale publicitare înșelătoare și chiar pentru a ataca oponenții politici cu conținut fals. A intelege.

Cercetătorii MIT dezvoltă o tehnică pentru a proteja imaginile împotriva manipulării AI

Cercetătorii de la Massachusetts Institute of Technology (MIT) au dezvoltat o nouă tehnică numită PhotoGuard, care poate fi folosită pentru a proteja imaginile împotriva manipulării de către modele de inteligență artificială (AI).

* Textul acestui articol a fost parțial generat de instrumente de inteligență artificială, modele de limbaj de ultimă generație care ajută la pregătirea, revizuirea, traducerea și rezumarea textelor. Intrările de text au fost create de către Curto Știrile și răspunsurile de la instrumentele AI au fost folosite pentru a îmbunătăți conținutul final.
Este important de subliniat că instrumentele AI sunt doar instrumente, iar responsabilitatea finală pentru conținutul publicat revine Curto Știri. Folosind aceste instrumente în mod responsabil și etic, obiectivul nostru este extinderea posibilităților de comunicare și democratizarea accesului la informații de calitate. 🤖