Meta advarer mot skadelig programvare som utgir seg for å være kunstig intelligens

I april fant sikkerhetsanalytikerne til sosiale medier-giganten skadelig programvare som poserte som ChatGPT eller lignende AI-verktøy, fortalte Metas direktør for informasjonssikkerhet, Guy Rosen, til journalister.

Han husket at ondsinnede aktører (hackere, spammere, blant andre) alltid er på utkikk etter de nyeste trendene som "fanger fantasien" til publikum, som f.eks. ChatGPT. Dette grensesnittet OpenAI, som lar flytende dialog med mennesker generere kode og tekster som e-postmeldinger og avhandlinger, har skapt stor entusiasme.

Rosen sa at Meta har oppdaget falske nettleserutvidelser som hevder å inneholde generative AI-verktøy, men som i virkeligheten inneholder skadelig programvare utviklet for å infisere enheter,

Det er vanlig at dårlige skuespillere fanger Internett-brukeres interesse med iøynefallende utvikling, lurer folk til å klikke på lenker som er fanget i booby-fanger eller laster ned programmer som stjeler data.

"Vi har sett dette i andre populære emner, som svindel drevet av den enorme interessen for digitale valutaer," sa Rosen. "Fra perspektivet til en ondsinnet skuespiller, den ChatGPT det er den nye kryptovalutaen», påpekte han.

Tusen blokkerte nettsteder

Meta har oppdaget og blokkert mer enn tusen nettsteder som markedsfører seg selv som verktøy som ligner på ChatGPT, men som faktisk er feller skapt av hackere, ifølge teknologiselskapets sikkerhetsteam.

Teknologigiganten har ennå ikke sett generativ kunstig intelligens bli brukt som noe mer enn et lokkemiddel av hackere, men den forbereder seg på at den skal brukes som et våpen, noe den ser på som uunngåelig, sa Rosen.

"Generativ AI er veldig lovende og dårlige skuespillere vet dette, og det er derfor vi alle bør være veldig på vakt," sa han.

Samtidig ser Meta-team på måter å bruke generativ AI for å forsvare seg mot hackere og deres villedende nettkampanjer.

"Vi har team som allerede tenker på hvordan (generativ AI) kan misbrukes og forsvaret vi bør sette på plass for å motvirke det," sa Metas sikkerhetspolitiske leder, Nathaniel Gleicher, under den samme orienteringen.

"Vi forbereder oss på dette", forsikret Gleicher.