Meta предупреждава за зловреден софтуер, който се представя за изкуствен интелект

През април анализаторите по сигурността на гиганта на социалните медии откриха злонамерен софтуер, представящ се като ChatGPT или подобни AI инструменти, каза пред репортери директорът по информационна сигурност на Meta, Гай Розен.

Той припомни, че злонамерените участници (хакери, спамъри, наред с други) винаги са нащрек за най-новите тенденции, които „улавят въображението“ на обществеността, като напр. ChatGPT. Този интерфейс OpenAI, който позволява течен диалог с хората за генериране на код и текстове като имейл съобщения и дисертации, предизвика голям ентусиазъм.

Росен каза, че Meta е открила фалшиви разширения за уеб браузър, които твърдят, че съдържат генеративни AI инструменти, но в действителност съдържат зловреден софтуер, предназначен да заразява устройства,

Обичайно е лошите актьори да привличат интереса на интернет потребителите с привличащи вниманието разработки, като подмамват хората да щракнат върху поставени в капан връзки или да изтеглят програми за кражба на данни.

„Виждали сме това в други популярни теми, като измами, водени от огромния интерес към цифровите валути“, каза Росен. „От гледна точка на злонамерен актьор, ChatGPT това е новата криптовалута“, посочи той.

Хиляда блокирани уебсайтове

Meta е открила и блокирала повече от хиляда уебсайта, които се рекламират като инструменти, подобни на ChatGPT, но които всъщност са капани, създадени от хакери, според екипа по сигурността на технологичната компания.

Технологичният гигант все още не е видял генеративния AI да се използва като нещо повече от примамка от хакери, но се подготвя да бъде използван като оръжие, нещо, което смята за неизбежно, каза Росен.

„Генеративният AI е много обещаващ и лошите актьори знаят това, поради което всички трябва да бъдем много бдителни“, каза той.

В същото време екипите на Meta търсят начини да използват генеративен AI за защита срещу хакери и техните измамни онлайн кампании.

„Имаме екипи, които вече обмислят как (генеративният AI) може да бъде злоупотребяван и защитите, които трябва да въведем, за да противодействаме на това“, каза ръководителят на политиката за сигурност на Meta, Натаниел Глейчър, по време на същия брифинг.

„Ние се подготвяме за това“, увери Глайхер.