अप्रैल में, सोशल मीडिया दिग्गज के सुरक्षा विश्लेषकों को दुर्भावनापूर्ण सॉफ़्टवेयर मिला ChatGPT या इसी तरह के एआई उपकरण, मेटा के सूचना सुरक्षा निदेशक गाइ रोसेन ने संवाददाताओं से कहा।
प्रचार
उन्होंने याद दिलाया कि दुर्भावनापूर्ण अभिनेता (हैकर्स, स्पैमर, अन्य लोगों के बीच) हमेशा नवीनतम रुझानों की तलाश में रहते हैं जो जनता की "कल्पना को पकड़ते हैं", जैसे कि ChatGPT. यह इंटरफ़ेस OpenAI, जो ईमेल संदेशों और शोध प्रबंधों जैसे कोड और पाठ उत्पन्न करने के लिए मनुष्यों के साथ तरल संवाद की अनुमति देता है, ने बहुत उत्साह पैदा किया है।
रोसेन ने कहा कि मेटा ने नकली वेब ब्राउज़र एक्सटेंशन का पता लगाया है जो जेनरेटिव एआई टूल्स होने का दावा करते हैं, लेकिन वास्तव में उपकरणों को संक्रमित करने के लिए डिज़ाइन किए गए दुर्भावनापूर्ण सॉफ़्टवेयर होते हैं।
बुरे कलाकारों के लिए आंखों को लुभाने वाले घटनाक्रमों से इंटरनेट उपयोगकर्ताओं की रुचि को पकड़ना, लोगों को मूर्खतापूर्ण लिंक पर क्लिक करने या डेटा-चोरी करने वाले प्रोग्राम डाउनलोड करने के लिए प्रेरित करना आम बात है।
प्रचार
रोसेन ने कहा, "हमने इसे अन्य लोकप्रिय विषयों में देखा है, जैसे डिजिटल मुद्राओं में अत्यधिक रुचि से प्रेरित धोखाधड़ी।" “एक दुर्भावनापूर्ण अभिनेता के दृष्टिकोण से, ChatGPT यह नई क्रिप्टोकरेंसी है", उन्होंने बताया।
एक हजार अवरुद्ध वेबसाइटें
मेटा ने एक हजार से अधिक वेबसाइटों का पता लगाया और उन्हें ब्लॉक कर दिया है जो खुद को समान टूल के रूप में प्रचारित करती हैं ChatGPTप्रौद्योगिकी कंपनी की सुरक्षा टीम के अनुसार, लेकिन जो वास्तव में हैकर्स द्वारा बनाए गए जाल हैं।
रोसेन ने कहा, टेक दिग्गज ने अभी तक जेनरेटर एआई को हैकर्स द्वारा प्रलोभन से ज्यादा कुछ के रूप में इस्तेमाल होते नहीं देखा है, लेकिन वह इसे एक हथियार के रूप में इस्तेमाल करने की तैयारी कर रहा है, जिसे वह अपरिहार्य मानता है।
प्रचार
उन्होंने कहा, "जेनरेटिव एआई बहुत आशाजनक है और बुरे कलाकार इसे जानते हैं, यही कारण है कि हम सभी को बहुत सतर्क रहना चाहिए।"
साथ ही, मेटा टीमें हैकर्स और उनके भ्रामक ऑनलाइन अभियानों से बचाव के लिए जेनरेटिव एआई का उपयोग करने के तरीकों पर विचार कर रही हैं।
मेटा के सुरक्षा नीति प्रमुख नथानिएल ग्लीचर ने उसी ब्रीफिंग के दौरान कहा, "हमारे पास ऐसी टीमें हैं जो पहले से ही इस बारे में सोच रही हैं कि कैसे (जेनेरेटिव एआई) का दुरुपयोग किया जा सकता है और हमें इसका मुकाबला करने के लिए क्या बचाव करना चाहिए।"
प्रचार
"हम इसके लिए तैयारी कर रहे हैं", ग्लीचर ने आश्वासन दिया।
