Meta waarschuwt voor malware die zich voordoet als kunstmatige intelligentie

In april ontdekten de beveiligingsanalisten van de socialemediagigant kwaadaardige software die zich voordeed als ChatGPT of vergelijkbare AI-tools, vertelde Guy Rosen, directeur informatiebeveiliging van Meta, aan verslaggevers.

Hij herinnerde eraan dat kwaadwillende actoren (onder andere hackers, spammers) altijd op zoek zijn naar de nieuwste trends die “tot de verbeelding spreken” van het publiek, zoals ChatGPT. Deze interface OpenAI, dat een vloeiende dialoog met mensen mogelijk maakt om code en teksten zoals e-mailberichten en proefschriften te genereren, heeft veel enthousiasme gewekt.

Rosen zei dat Meta valse webbrowserextensies heeft gedetecteerd die beweren generatieve AI-tools te bevatten, maar in werkelijkheid kwaadaardige software bevatten die is ontworpen om apparaten te infecteren.

Het komt vaak voor dat slechte actoren de interesse van internetgebruikers weten te wekken met opvallende ontwikkelingen, mensen ertoe verleiden op boobytraps-links te klikken of programma's voor het stelen van gegevens te downloaden.

“We hebben dit gezien bij andere populaire onderwerpen, zoals fraude gedreven door de immense belangstelling voor digitale valuta”, zei Rosen. “Vanuit het perspectief van een kwaadwillende actor is de ChatGPT het is de nieuwe cryptocurrency”, benadrukte hij.

Duizend geblokkeerde websites

Meta heeft meer dan duizend websites gedetecteerd en geblokkeerd die zichzelf promoten als vergelijkbare tools ChatGPT, maar volgens het beveiligingsteam van het technologiebedrijf zijn het feitelijk vallen die door hackers zijn gemaakt.

De technologiegigant heeft nog niet gezien dat generatieve AI door hackers wordt gebruikt als iets anders dan lokaas, maar bereidt zich voor op het gebruik ervan als wapen, iets wat het onvermijdelijk acht, zei Rosen.

“Generatieve AI is veelbelovend en slechte actoren weten dit, en daarom moeten we allemaal heel waakzaam zijn”, zei hij.

Tegelijkertijd onderzoeken Meta-teams manieren om generatieve AI te gebruiken ter verdediging tegen hackers en hun misleidende online campagnes.

"We hebben teams die al nadenken over hoe (generatieve AI) kan worden misbruikt en welke verdedigingsmechanismen we moeten opzetten om dat tegen te gaan", zei Meta's hoofd van het veiligheidsbeleid, Nathaniel Gleicher, tijdens dezelfde briefing.

“Wij bereiden ons hierop voor”, verzekerde Gleicher.