Meta varuje před malwarem vydávajícím se za umělou inteligenci

V dubnu bezpečnostní analytici giganta sociálních médií našli škodlivý software vydávající se za ChatGPT nebo podobné nástroje umělé inteligence, řekl novinářům ředitel informační bezpečnosti společnosti Meta Guy Rosen.

Připomněl, že zákeřní aktéři (mimo jiné hackeři, spammeři) neustále hledají nejnovější trendy, které „zachycují představivost“ veřejnosti, jako je např. ChatGPT. Toto rozhraní OpenAI, který umožňuje plynulý dialog s lidmi za účelem generování kódu a textů, jako jsou e-mailové zprávy a diplomové práce, vyvolal velké nadšení.

Rosen řekl, že Meta odhalila falešná rozšíření webového prohlížeče, která tvrdí, že obsahují generativní nástroje AI, ale ve skutečnosti obsahují škodlivý software určený k infikování zařízení,

Je běžné, že špatní herci zaujmou uživatele internetu poutavým vývojem, přimějí lidi, aby klikali na nastražené odkazy nebo stahovali programy na krádeže dat.

"Viděli jsme to v jiných populárních tématech, jako je podvod způsobený obrovským zájmem o digitální měny," řekl Rosen. „Z pohledu zlomyslného herce, ChatGPT je to nová kryptoměna,“ zdůraznil.

Tisíc zablokovaných webů

Meta detekovala a zablokovala více než tisíc webových stránek, které se propagují jako nástroje podobné ChatGPT, ale které jsou ve skutečnosti pasti vytvořené hackery, tvrdí bezpečnostní tým technologické společnosti.

Technologický gigant ještě neviděl, že by hackeři používali generativní umělou inteligenci jako něco víc než jen návnadu, ale připravuje se na to, aby byla použita jako zbraň, což považuje za nevyhnutelné, řekl Rosen.

„Generativní umělá inteligence je velmi slibná a špatní herci to vědí, a proto bychom měli být všichni velmi ostražití,“ řekl.

Týmy Meta zároveň hledají způsoby, jak využít generativní umělou inteligenci k obraně proti hackerům a jejich podvodným online kampaním.

"Máme týmy, které již přemýšlejí o tom, jak by mohla být (generativní AI) zneužita, a o obraně, kterou bychom měli zavést, abychom tomu zabránili," řekl na stejném briefingu šéf bezpečnostní politiky Meta Nathaniel Gleicher.

"Připravujeme se na to," ujistil Gleicher.