Meta varnar för skadlig programvara som utger sig för att vara artificiell intelligens

I april hittade sociala mediejättens säkerhetsanalytiker skadlig programvara som poserade som ChatGPT eller liknande AI-verktyg, sa Metas chef för informationssäkerhet, Guy Rosen, till reportrar.

Han erinrade om att illvilliga aktörer (hackers, spammare, bland annat) alltid är på jakt efter de senaste trenderna som "fångar fantasin" hos allmänheten, som t.ex. ChatGPT. Detta gränssnitt OpenAI, som tillåter flytande dialog med människor för att generera kod och texter som e-postmeddelanden och avhandlingar, har skapat stor entusiasm.

Rosen sa att Meta har upptäckt falska webbläsartillägg som påstår sig innehålla generativa AI-verktyg, men som i verkligheten innehåller skadlig programvara utformad för att infektera enheter,

Det är vanligt att dåliga skådespelare fångar internetanvändarnas intresse med iögonfallande utveckling, lura folk att klicka på knäpplänkar eller ladda ner program för att stjäla data.

"Vi har sett detta i andra populära ämnen, som bedrägeri som drivs av det enorma intresset för digitala valutor," sa Rosen. "Ur perspektivet av en illvillig skådespelare, den ChatGPT det är den nya kryptovalutan”, påpekade han.

Tusen blockerade webbplatser

Meta har upptäckt och blockerat mer än tusen webbplatser som marknadsför sig själva som liknande verktyg ChatGPT, men som egentligen är fällor skapade av hackare, enligt teknikföretagets säkerhetsteam.

Teknikjätten har ännu inte sett generativ AI användas som något mer än ett lockbete av hackare, men den förbereder sig för att den ska användas som ett vapen, något som den ser som oundvikligt, sa Rosen.

"Generativ AI är mycket lovande och dåliga skådespelare vet detta, varför vi alla bör vara mycket vaksamma", sa han.

Samtidigt tittar Meta-team på sätt att använda generativ AI för att försvara sig mot hackare och deras vilseledande onlinekampanjer.

"Vi har team som redan funderar på hur (generativ AI) skulle kunna missbrukas och de försvar vi bör sätta på plats för att motverka det", sa Metas säkerhetspolitiska chef, Nathaniel Gleicher, under samma genomgång.

"Vi förbereder oss för detta", försäkrade Gleicher.