Изображенията, променени от AI, са „заплаха за демократичните процеси“, предупреждават експерти

Британският политик Карл Търнър сподели изображение в Platform X, бивш Twitter, което показва как премиерът пие нискокачествена бира на фестивал, докато жена го гледа с подигравателно изражение. Изображението е манипулирано от оригинална снимка, на която Сунак се появява с кръчмарска бира, а лицето зад него е с неутрално изражение.

Изкуствен интелект за създаване на изображения, как работи?

Генерирането на изображения с помощта на изкуствен интелект е изключително сложен процес, който включва поредица от стъпки. Като цяло техниките за изобразяване на изкуствен интелект се основават на генеративни невронни мрежи (GANs) или авторегресивни модели на потока. Тези техники използват съществуващи данни, за да научат как да генерират нови изображения.

Изображението предизвика широка критика, като вицепремиерът Оливър Доудън го нарече „неприемливо“.

Експерти предупредиха, че битката е индикация какво може да се случи по време на бъдещи предизборни кампании. Въпреки че не е ясно дали изображението на Sunak е било манипулирано с помощта на AI инструмент, тези програми са направили по-лесно и по-бързо създаването на убедителен фалшив текст, изображения и аудио.

Как да идентифицираме изображение, създадено от AI? Виж

Имаше модния папа, Тръмп беше арестуван, всичко това генерирано от изкуствен интелект. Но знаете ли как да идентифицирате фалшиво изображение, генерирано от AI? Вижте съвети:

Уенди Хол, професор в университета в Саутхемптън, направете предупреждение: „Мисля, че използването на цифрови технологии, включително AI, е заплаха за нашите демократични процеси. Трябва да бъде високо в дневния ред в регистъра на риска от ИИ с наближаването на два големи избора – в Обединеното кралство и САЩ – следващата година.“

Швета Сингх, преподавател в Университета на Уоруик, добавя: „Нуждаем се от набор от етични принципи, които могат да гарантират и уверят потребителите на тези нови технологии, че новините, които четат, са надеждни. Трябва да действаме по този въпрос сега, тъй като е невъзможно да си представим честни и безпристрастни избори, ако такива разпоредби не съществуват. Това е сериозно безпокойство и времето ни изтича.“

Междувременно най-мощните AI компании признаха необходимостта от система за маркиране на съдържание, генерирано от AI. Миналия месец разработчикът на Amazon, Google, Мета, Microsoft e ChatGPT, OpenAI, се съгласи на набор от нови предпазни мерки на среща с Джо Байдън, които включват използването на воден знак за задвижвано от AI визуално и аудио съдържание.

Американските AI гиганти се обединяват, за да търсят саморегулация

Google, Microsoft, антропни и OpenAI, четири от американските компании, водещи на сцената на най-съвременния изкуствен интелект (AI), обявиха тази сряда (26) създаването на нов професионален орган за борба с рисковете, свързани с тази технология

Прочетете също така:

Кандидатите използват фалшиви изображения, генерирани от AI, за да стимулират кампаниите; Има дори избиратели с три ръце

Тази година нямаме избори в Бразилия, но в други части на света кампаниите вече са в разгара си. Кандидатите се мобилизират, за да станат популярни и много от тях се опитват да направят това, като станат вирусни в интернет. Проблемът е в метода. Политиците започнаха да използват изображения, създадени от изкуствен интелект (AI), за да произвеждат подвеждащи реклами и дори да атакуват политически опоненти с фалшиво съдържание. Разберете.

Изследователи от Масачузетския технологичен институт разработват техника за защита на изображенията срещу манипулации с изкуствен интелект

Изследователи от Масачузетския технологичен институт (MIT) разработиха нова техника, наречена PhotoGuard, която може да се използва за защита на изображения от манипулиране от модели с изкуствен интелект (AI).

* Текстът на тази статия е частично генериран от инструменти за изкуствен интелект, най-съвременни езикови модели, които подпомагат подготовката, прегледа, превода и резюмирането на текстове. Текстовите записи са създадени от Curto Новини и отговори от AI инструменти бяха използвани за подобряване на крайното съдържание.
Важно е да се подчертае, че AI инструментите са само инструменти и крайната отговорност за публикуваното съдържание се носи от Curto Новини. Като използваме тези инструменти отговорно и етично, нашата цел е да разширим възможностите за комуникация и да демократизираме достъпа до качествена информация. 🤖