Nagbabala ang Meta sa malware na nagpapanggap bilang artificial intelligence

Noong Abril, nakita ng mga analyst ng seguridad ng higanteng social media ang nakakahamak na software na nagpapanggap bilang ChatGPT o katulad na mga tool sa AI, ang direktor ng seguridad ng impormasyon ng Meta, si Guy Rosen, ay nagsabi sa mga mamamahayag.

Naalala niya na ang mga malisyosong aktor (mga hacker, spammer, bukod sa iba pa) ay laging nakabantay sa mga pinakabagong trend na "kumukuha ng imahinasyon" ng publiko, tulad ng ChatGPT. Ang interface na ito OpenAI, na nagbibigay-daan sa tuluy-tuloy na pag-uusap sa mga tao upang makabuo ng code at mga teksto tulad ng mga mensaheng email at disertasyon, ay nakabuo ng malaking sigasig.

Sinabi ni Rosen na ang Meta ay nakakita ng mga pekeng extension ng web browser na nagsasabing naglalaman ng mga generative AI tool, ngunit sa katotohanan ay naglalaman ng malisyosong software na idinisenyo upang makahawa sa mga device,

Karaniwan para sa mga masasamang aktor na makuha ang interes ng mga gumagamit ng Internet sa pamamagitan ng mga kapansin-pansing pag-unlad, nanlilinlang sa mga tao sa pag-click sa mga link na nakakulong ng booby o pag-download ng mga programa sa pagnanakaw ng data.

"Nakita namin ito sa iba pang mga sikat na paksa, tulad ng pandaraya na hinimok ng napakalaking interes sa mga digital na pera," sabi ni Rosen. “Sa pananaw ng isang malisyosong artista, ang ChatGPT ito ang bagong cryptocurrency”, itinuro niya.

Isang libong naka-block na mga website

Natukoy at na-block ng Meta ang higit sa isang libong mga website na nagpo-promote ng kanilang mga sarili bilang mga tool na katulad ng ChatGPT, ngunit talagang mga bitag na nilikha ng mga hacker, ayon sa pangkat ng seguridad ng kumpanya ng teknolohiya.

Ang higanteng tech ay hindi pa nakikita ang generative AI na ginagamit bilang anumang bagay na higit pa sa pain ng mga hacker, ngunit naghahanda ito para magamit ito bilang isang sandata, isang bagay na itinuturing nitong hindi maiiwasan, sabi ni Rosen.

"Ang Generative AI ay napaka-promising at alam ito ng mga masasamang aktor, kaya dapat tayong lahat ay maging mapagbantay," sabi niya.

Kasabay nito, tumitingin ang mga Meta team ng mga paraan upang magamit ang generative AI upang ipagtanggol laban sa mga hacker at sa kanilang mga mapanlinlang na online na kampanya.

"Mayroon kaming mga koponan na nag-iisip na tungkol sa kung paano maaaring abusuhin ang (generative AI) at ang mga depensang dapat naming ilagay upang kontrahin iyon," sabi ng pinuno ng patakaran sa seguridad ng Meta, Nathaniel Gleicher, sa parehong briefing.

"Naghahanda kami para dito", paniniguro ni Gleicher.