Meta met en garde contre les logiciels malveillants prétendant être une intelligence artificielle

En avril, les analystes de sécurité du géant des médias sociaux ont découvert des logiciels malveillants se faisant passer pour des logiciels malveillants. ChatGPT ou des outils d'IA similaires, a déclaré aux journalistes le directeur de la sécurité de l'information de Meta, Guy Rosen.

Il a rappelé que les acteurs malveillants (hackers, spammeurs, entre autres) sont toujours à l'affût des dernières tendances qui « captent l'imagination » du public, comme ChatGPT. Cette interface OpenAI, qui permet un dialogue fluide avec les humains pour générer du code et des textes tels que des messages électroniques et des dissertations, a suscité un grand enthousiasme.

Rosen a déclaré que Meta avait détecté de fausses extensions de navigateur Web prétendant contenir des outils d'IA générative, mais contenant en réalité des logiciels malveillants conçus pour infecter les appareils.

Il est courant que des acteurs malveillants captent l'intérêt des internautes avec des développements accrocheurs, incitant les gens à cliquer sur des liens piégés ou à télécharger des programmes de vol de données.

"Nous avons constaté cela sur d'autres sujets populaires, comme la fraude motivée par l'immense intérêt pour les monnaies numériques", a déclaré Rosen. « Du point de vue d'un acteur malveillant, le ChatGPT c'est la nouvelle crypto-monnaie », a-t-il souligné.

Un millier de sites Web bloqués

Meta a détecté et bloqué plus d'un millier de sites Web qui se présentent comme des outils similaires à ChatGPT, mais qui sont en réalité des pièges créés par des pirates informatiques, selon l'équipe de sécurité de l'entreprise technologique.

Le géant de la technologie n’a pas encore vu l’IA générative être utilisée comme autre chose qu’un leurre par les pirates informatiques, mais il se prépare à l’utiliser comme une arme, ce qu’il considère comme inévitable, a déclaré Rosen.

« L’IA générative est très prometteuse et les mauvais acteurs le savent, c’est pourquoi nous devons tous être très vigilants », a-t-il déclaré.

Dans le même temps, les équipes Meta étudient les moyens d’utiliser l’IA générative pour se défendre contre les pirates informatiques et leurs campagnes trompeuses en ligne.

"Nous avons des équipes qui réfléchissent déjà à la manière dont (l'IA générative) pourrait être utilisée à mauvais escient et aux défenses que nous devrions mettre en place pour contrecarrer cela", a déclaré Nathaniel Gleicher, responsable de la politique de sécurité de Meta, lors du même briefing.

"Nous nous y préparons", a assuré Gleicher.