Изследователи от Масачузетския технологичен институт разработват техника за защита на изображенията срещу манипулации с изкуствен интелект

Техниката използва малки корекции, невидими за човешките очи, за да обърка AI моделите, което ги прави невъзможни да манипулират изображения. Техниката беше официално представена в понеделник (31).

Изследователите смятат, че PhotoGuard може да се използва за защита на широк набор от изображения, включително лични снимки, новинарски изображения и доказателства за престъпления. Техниката вече е тествана на няколко различни AI модела и се е доказала като ефективна за защита срещу манипулация във всички тях.

Разработването на PhotoGuard е отговор на нарастващите рискове от манипулирането на изображения с изкуствен интелект. Тъй като AI моделите стават по-мощни, те са в състояние да манипулират изображенията по-реалистично и неразличимо от реалните изображения. Това може да се използва за злонамерени цели, като разпространение на дезинформация или изнудване на хора.

Във видеото можем да разберем как работи инструментът:

PhotoGuard е техника, която добавя малки промени, невидими за човешките очи към изображението. Тези промени са предназначени да объркат AI моделите, правейки невъзможно манипулирането на изображението.

Инструментът работи по два различни метода:

• Атаката на енкодера въвежда малки корекции в математическото представяне на изображението. Това кара AI модела да възприема изображението като случаен обект.
• Дифузионната атака въвежда малки корекции на реалното изображение. Това прави изображението да изглежда изкривено за AI модела, което прави невъзможно манипулирането му.

Решението е тествано на няколко различни модела на изкуствен интелект и е доказано ефективно за защита срещу манипулация във всички тях, според общността на MIT. Изследователите смятат, че PhotoGuard може да се използва за защита на широк спектър от изображения, включително лични снимки, новинарски изображения и доказателства за престъпления.

Изследователите на MIT в момента работят, за да направят PhotoGuard достъпен за обществеността. Подробности за публичното стартиране и лиценза за използване не са разкрити. 

Виж повече:

Силата на изкуствения интелект в пресечната точка между ChatGPT и deepfakes

Беше просто OpenAI стартира през ноември 2022 г ChatGPT, версия 3,5 е разговорна и достъпна за всички — не само за компании, както бяха предишните версии на GPT (Generative Pre-trained Transformer) — така че експертите по комуникация, математика, изчисления, логика, лингвистика, технологична информация и т.н. започнаха да се тревожат за вредите от генеративния изкуствен интелект (AI).

Иновационният фонд на НАТО инвестира в технологични изследвания

Фондът за иновации на НАТО (NIF) възниква като инициатива, насочена към укрепване на иновационните екосистеми на Алианса чрез подкрепа на таланти и изследвания в областта на науката, технологиите, инженерствотоaria и математика (STEM).