OpenAI उपयोगकर्ताओं को AI-जनित पोर्न बनाने की अनुमति देने पर विचार कर रहा है

A OpenAI, पीछे कंपनी ChatGPT, यह पता लगा रहा है कि क्या उपयोगकर्ताओं को अपने उत्पादों के साथ कृत्रिम बुद्धिमत्ता (एआई)-जनित अश्लील साहित्य और अन्य स्पष्ट सामग्री बनाने की अनुमति दी जानी चाहिए. हालाँकि कंपनी ने इस बात पर प्रकाश डाला कि उस पर प्रतिबंध लगा हुआ है deepfakes निरंतरaria वयस्क सामग्री पर लागू करने के लिए, कार्यकर्ताओं ने सुझाव दिया कि प्रस्ताव "सुरक्षित और लाभकारी" एआई के उत्पादन के अपने मिशन वक्तव्य को कमजोर कर देता है।

🇬🇧 की सदस्यता लेना सबसे अच्छा newsletter AI के बारे में (अंग्रेजी में 🇬🇧) 

🇧🇷 इस पर हस्ताक्षर करें सबसे अच्छा newsletter AI के बारे में (पुर्तगाली में 🇧🇷)

A OpenAI, जो छवि जनरेटर का डेवलपर भी है DALL-E, पता चला कि वह डेवलपर्स और उपयोगकर्ताओं को अपने उत्पादों के माध्यम से "जिम्मेदारीपूर्वक" वह सामग्री बनाने की अनुमति देने पर विचार कर रहा है जिसे वह "काम के लिए सुरक्षित नहीं" (एनएसएफडब्ल्यू) सामग्री कहता है। ए OpenAI कहा गया कि इसमें "कामुकता, अत्यधिक हिंसा, अनचाहे अपमान और अपवित्रता" शामिल हो सकते हैं।

कंपनी ने कहा: "हम तलाश कर रहे हैं कि क्या हम जिम्मेदारी से उम्र-उपयुक्त संदर्भों में एनएसएफडब्ल्यू सामग्री उत्पन्न करने की क्षमता प्रदान कर सकते हैं... हम इस क्षेत्र में मॉडल व्यवहार के बारे में उपयोगकर्ता और सामाजिक अपेक्षाओं को बेहतर ढंग से समझने की उम्मीद करते हैं।"

प्रस्ताव को एक दस्तावेज़ के भाग के रूप में प्रकाशित किया गया था OpenAI यह चर्चा करते हुए कि यह अपने एआई उपकरण कैसे विकसित करता है। दस्तावेज़ पर काम करने वाले सैन फ्रांसिस्को स्थित कंपनी के एक कर्मचारी जोआन जैंग ने कहा OpenAI इस बारे में चर्चा शुरू करना चाहता था कि क्या आपके उत्पादों में कामुक पाठ और नग्न चित्र बनाना हमेशा प्रतिबंधित होना चाहिए। हालाँकि, उन्होंने इस बात पर ज़ोर दिया कि डीपफेक की अनुमति नहीं दी जाएगी।

"हम यह सुनिश्चित करना चाहते हैं कि जब तक लोग कानून या अन्य लोगों के अधिकारों का उल्लंघन नहीं करते हैं, तब तक उनका अधिकतम नियंत्रण हो, लेकिन डीपफेक को अनुमति देना सवाल से बाहर है," जंग ने कहा। "इसका मतलब यह नहीं है कि हम अब एआई के साथ पोर्न बनाने की कोशिश कर रहे हैं।"

यह भी पढ़ें: