ในเดือนเมษายน นักวิเคราะห์ด้านความปลอดภัยของโซเชียลมีเดียยักษ์ใหญ่รายนี้ พบว่ามีซอฟต์แวร์ที่เป็นอันตรายปลอมตัวเป็น ChatGPT หรือเครื่องมือ AI ที่คล้ายกัน Guy Rosen ผู้อำนวยการฝ่ายความปลอดภัยของข้อมูลของ Meta กล่าวกับผู้สื่อข่าว
การเผยแพร่
เขาจำได้ว่าผู้ไม่ประสงค์ดี (แฮกเกอร์ ผู้ส่งอีเมลขยะ และอื่นๆ) มักจะมองหาเทรนด์ล่าสุดที่ "จับจินตนาการ" ของสาธารณชนอยู่เสมอ เช่น ChatGPT- อินเทอร์เฟซนี้ OpenAIซึ่งช่วยให้การสนทนาที่ลื่นไหลกับมนุษย์สามารถสร้างโค้ดและข้อความ เช่น ข้อความอีเมลและวิทยานิพนธ์ ได้สร้างความกระตือรือร้นอย่างมาก
Rosen กล่าวว่า Meta ตรวจพบส่วนขยายเว็บเบราว์เซอร์ปลอมที่อ้างว่ามีเครื่องมือ AI ที่สร้าง แต่ในความเป็นจริงมีซอฟต์แวร์ที่เป็นอันตรายที่ออกแบบมาเพื่อแพร่เชื้ออุปกรณ์
เป็นเรื่องปกติที่ผู้ไม่ประสงค์ดีจะดึงดูดความสนใจของผู้ใช้อินเทอร์เน็ตด้วยการพัฒนาที่สะดุดตา หลอกให้ผู้คนคลิกลิงก์ที่ติดกับดักหรือดาวน์โหลดโปรแกรมขโมยข้อมูล
การเผยแพร่
“เราได้เห็นสิ่งนี้ในหัวข้อยอดนิยมอื่นๆ เช่น การฉ้อโกงที่เกิดจากความสนใจอย่างมากในสกุลเงินดิจิทัล” Rosen กล่าว “จากมุมมองของนักแสดงที่เป็นอันตราย ChatGPT มันเป็นสกุลเงินดิจิทัลใหม่” เขาชี้ให้เห็น
เว็บไซต์ที่ถูกบล็อกนับพันแห่ง
Meta ได้ตรวจพบและบล็อกเว็บไซต์มากกว่าพันเว็บไซต์ที่โปรโมตตัวเองว่าเป็นเครื่องมือที่คล้ายคลึงกัน ChatGPTแต่จริงๆ แล้วเป็นกับดักที่สร้างขึ้นโดยแฮกเกอร์ ตามข้อมูลจากทีมรักษาความปลอดภัยของบริษัทเทคโนโลยี
ยักษ์ใหญ่ด้านเทคโนโลยียังไม่เห็นว่า generative AI ถูกใช้เป็นอย่างอื่นมากกว่าเหยื่อของแฮกเกอร์ แต่กำลังเตรียมที่จะนำมาใช้เป็นอาวุธ ซึ่งเป็นสิ่งที่บริษัทคิดว่าหลีกเลี่ยงไม่ได้ Rosen กล่าว
การเผยแพร่
“Generative AI มีแนวโน้มที่ดีและนักแสดงที่ไม่ดีก็รู้เรื่องนี้ ซึ่งเป็นเหตุผลว่าทำไมเราทุกคนจึงควรระมัดระวังอย่างมาก” เขากล่าว
ในเวลาเดียวกัน ทีม Meta กำลังมองหาวิธีใช้ generative AI เพื่อป้องกันแฮกเกอร์และแคมเปญออนไลน์ที่หลอกลวง
“เรามีทีมที่กำลังคิดอยู่แล้วว่า (AI เจนเนอเรชัน) จะถูกนำไปใช้ในทางที่ผิดได้อย่างไร และเราควรเตรียมการป้องกันเพื่อรับมือกับสิ่งนั้น” Nathaniel Gleicher หัวหน้าฝ่ายนโยบายความปลอดภัยของ Meta กล่าวในระหว่างการบรรยายสรุปเดียวกัน
การเผยแพร่
“เรากำลังเตรียมการสำหรับเรื่องนี้” Gleicher ให้ความมั่นใจ
