Obrázky pozměněné umělou inteligencí jsou „hrozbou pro demokratické procesy“, varují odborníci

Britský politik Karl Turner sdílel na Platformě X, dříve Twitteru, obrázek, který ukazuje premiéra, jak popíjí nekvalitní pivo na festivalu, zatímco žena přihlíží s posměšným výrazem. Snímek byl zmanipulován z originální fotografie, na které se Sunak objevuje s hospodským pivem, zatímco osoba za ním má neutrální výraz.

Umělá inteligence k vytváření obrázků, jak to funguje?

Generování obrázků pomocí umělé inteligence je vysoce sofistikovaný proces, který zahrnuje řadu kroků. Obecně jsou zobrazovací techniky AI založeny na generativních neuronových sítích (GAN) nebo na modelech autoregresního toku. Tyto techniky využívají existující data k tomu, aby se naučili generovat nové obrázky.

Snímek vyvolal širokou kritiku a místopředseda vlády Oliver Dowden jej označil za „nepřijatelný“.

Odborníci varovali, že boj je náznakem toho, co by se mohlo stát během budoucích volebních kampaní. I když není jasné, zda byl Sunakův obrázek zpracován pomocí nástroje AI, tyto programy usnadnily a zrychlily vytváření přesvědčivého falešného textu, obrázků a zvuku.

Jak identifikovat obrázek vytvořený AI? Dívej se

Byl tam módní papež, Trump byl zatčen, to vše vytvořené umělou inteligencí. Víte ale, jak identifikovat falešný obrázek generovaný AI? Viz tipy:

Wendy Hallová, profesor na University of Southampton, učinit výstrahu: „Myslím si, že používání digitálních technologií, včetně umělé inteligence, je hrozbou pro naše demokratické procesy. Mělo by to být na prvním místě v registru rizik AI, protože příští rok se blíží dvě velké volby – ve Spojeném království a USA.

Shweta Singh, pedagog z University of Warwick, dodává: „Potřebujeme soubor etických principů, které mohou zaručit a ujistit uživatele těchto nových technologií, že zprávy, které čtou, jsou důvěryhodné. Musíme s tím nyní jednat, protože je nemožné si představit spravedlivé a nestranné volby, pokud takové předpisy neexistují. Je to vážný problém a dochází nám čas.“

Mezitím nejvýkonnější společnosti s umělou inteligencí rozpoznaly potřebu systému pro označování obsahu generovaného umělou inteligencí. Minulý měsíc vývojář Amazon, Google, Fotbalová branka, Microsoft e ChatGPT, OpenAI, na schůzce s Joe Bidenem souhlasili se sadou nových ochranných opatření, která zahrnovala použití vodoznaku pro vizuální a zvukový obsah využívající umělou inteligenci.

Američtí giganti AI se sjednocují, aby usilovali o seberegulaci

Google, Microsoft, antropické a OpenAI, čtyři americké společnosti vedoucí na scéně nejmodernější umělé inteligence (AI), tuto středu (26) oznámily vytvoření nového profesionálního orgánu pro boj s riziky spojenými s touto technologií.

Čtěte také:

Kandidáti používají falešné obrázky generované AI k podpoře kampaní; Existují dokonce voliči se třemi pažemi

V Brazílii letos volby nemáme, ale v jiných částech světa už jsou kampaně v plném proudu. Kandidáti se mobilizují, aby se stali populárními, a mnoho z nich se o to snaží tím, že se šíří virem na internetu. Problém je v metodě. Politici začali používat obrázky vytvořené umělou inteligencí (AI) k výrobě zavádějících reklamních kousků a dokonce útočili na politické oponenty falešným obsahem. Rozumět.

Výzkumníci z MIT vyvíjejí techniku ​​na ochranu snímků před manipulací AI

Vědci z Massachusettského technologického institutu (MIT) vyvinuli novou techniku ​​nazvanou PhotoGuard, kterou lze použít k ochraně snímků před manipulací pomocí modelů umělé inteligence (AI).

* Text tohoto článku byl částečně generován nástroji umělé inteligence, nejmodernějšími jazykovými modely, které pomáhají při přípravě, kontrole, překladu a sumarizaci textů. Textové položky byly vytvořeny Curto Ke zlepšení konečného obsahu byly použity novinky a odpovědi z nástrojů AI.
Je důležité zdůraznit, že nástroje AI jsou pouze nástroje a konečnou odpovědnost za publikovaný obsah nese společnost Curto Zprávy. Odpovědným a etickým používáním těchto nástrojů je naším cílem rozšířit možnosti komunikace a demokratizovat přístup ke kvalitním informacím. 🤖