Meta warnt vor Malware, die vorgibt, künstliche Intelligenz zu sein

Im April fanden die Sicherheitsanalysten des Social-Media-Riesen bösartige Software, die sich als ausgab ChatGPT oder ähnliche KI-Tools, sagte Guy Rosen, Direktor für Informationssicherheit bei Meta, gegenüber Reportern.

Er erinnerte daran, dass böswillige Akteure (unter anderem Hacker, Spammer) immer auf der Suche nach den neuesten Trends sind, die „die Fantasie der Öffentlichkeit anregen“, wie z ChatGPT. Diese Schnittstelle OpenAI, das einen fließenden Dialog mit Menschen zur Generierung von Code und Texten wie E-Mail-Nachrichten und Dissertationen ermöglicht, hat große Begeisterung hervorgerufen.

Rosen sagte, Meta habe gefälschte Webbrowser-Erweiterungen entdeckt, die angeblich generative KI-Tools enthalten, in Wirklichkeit jedoch bösartige Software enthalten, die darauf ausgelegt ist, Geräte zu infizieren.

Es kommt häufig vor, dass Kriminelle mit auffälligen Entwicklungen das Interesse der Internetnutzer wecken, indem sie Menschen dazu verleiten, mit Sprengfallen versehene Links anzuklicken oder Datendiebstahlprogramme herunterzuladen.

„Wir haben dies bei anderen beliebten Themen gesehen, etwa bei Betrug, der durch das immense Interesse an digitalen Währungen verursacht wird“, sagte Rosen. „Aus der Sicht eines böswilligen Akteurs ist der ChatGPT es ist die neue Kryptowährung“, betonte er.

Tausend blockierte Websites

Meta hat mehr als tausend Websites erkannt und blockiert, die sich als ähnliche Tools bewerben ChatGPTLaut dem Sicherheitsteam des Technologieunternehmens handelt es sich dabei jedoch tatsächlich um Fallen, die von Hackern geschaffen wurden.

Der Technologieriese hat noch nicht erlebt, dass generative KI von Hackern mehr als nur als Lockvogel eingesetzt wird, aber er bereitet sich darauf vor, sie als Waffe einzusetzen, was er für unvermeidlich hält, sagte Rosen.

„Generative KI ist sehr vielversprechend und schlechte Akteure wissen das, weshalb wir alle sehr wachsam sein sollten“, sagte er.

Gleichzeitig suchen Meta-Teams nach Möglichkeiten, generative KI zur Abwehr von Hackern und ihren betrügerischen Online-Kampagnen einzusetzen.

„Wir haben Teams, die bereits darüber nachdenken, wie (generative KI) missbraucht werden könnte und welche Abwehrmaßnahmen wir ergreifen sollten, um dem entgegenzuwirken“, sagte Nathaniel Gleicher, Leiter der Sicherheitspolitik bei Meta, während derselben Besprechung.

„Wir bereiten uns darauf vor“, versicherte Gleicher.