4 月份,这家社交媒体巨头的安全分析师发现了冒充 ChatGPT Meta 的信息安全总监 Guy Rosen 告诉记者。
宣传
他回忆说,恶意行为者(黑客、垃圾邮件发送者等)总是在寻找“激发公众想象力”的最新趋势,例如 ChatGPT。这个界面 OpenAI它允许与人类进行流畅的对话,生成代码和文本,例如电子邮件和论文,引起了极大的热情。
罗森表示,Meta 检测到虚假的网络浏览器扩展程序,这些扩展程序声称包含生成式人工智能工具,但实际上包含旨在感染设备的恶意软件,
不良行为者通常会通过引人注目的发展来吸引互联网用户的兴趣,诱骗人们点击诱杀链接或下载数据窃取程序。
宣传
罗森说:“我们在其他热门话题中也看到了这一点,比如对数字货币的巨大兴趣所引发的欺诈。” “从恶意行为者的角度来看, ChatGPT 这是新的加密货币”,他指出。
一千个被封锁的网站
Meta 已检测并屏蔽了 1000 多个将自己宣传为类似工具的网站 ChatGPT,但据该技术公司的安全团队称,这实际上是黑客制造的陷阱。
罗森表示,这家科技巨头还没有看到生成式人工智能被用作黑客的诱饵,但它正在准备将其用作武器,这在它看来是不可避免的。
宣传
“生成式人工智能非常有前途,坏人知道这一点,这就是为什么我们都应该非常警惕,”他说。
与此同时,Meta 团队正在寻找使用生成式人工智能来防御黑客及其欺骗性在线活动的方法。
Meta 的安全政策主管 Nathaniel Gleicher 在同一次简报中表示:“我们的团队已经在考虑(生成式人工智能)如何被滥用,以及我们应该采取哪些防御措施来应对这种情况。”
宣传
“我们正在为此做好准备”,格莱彻保证道。