नई दिल्ली, 31 अक्टूबर 2026 | आर्टिफिशियल इंटेलिजेंस (AI) प्लेटफॉर्म ChatGPT पर हथियारों से जुड़ी जानकारी को लेकर सुरक्षा नियम और सख्त किए जा रहे हैं। OpenAI ने 30 अक्टूबर 2026 को घोषणा की कि वह 18 साल से कम उम्र के यूजर्स को हथियारों और सुरक्षा प्रणालियों से जुड़ी ऐसी व्यावहारिक जानकारी देने पर अतिरिक्त प्रतिबंध लगाएगा, जिसका इस्तेमाल हिंसा को अंजाम देने में किया जा सकता है।
कंपनी का यह कदम AI के संभावित दुरुपयोग को रोकने और किशोरों की सुरक्षा मजबूत करने की व्यापक योजना का हिस्सा है। नए नियमों के तहत किसी सवाल में हिंसक इरादा स्पष्ट नहीं होने पर भी हथियारों से जुड़ी कुछ व्यावहारिक जानकारियां उपलब्ध नहीं कराई जाएंगी।
हिंसक चैट अपने-आप होगी बंद, बार-बार उल्लंघन पर अकाउंट पॉज
ओपनएआई के नए सुरक्षा नियम सभी यूजर्स पर लागू होंगे। यदि कोई यूजर बातचीत के दौरान लगातार हिंसा या किसी को नुकसान पहुंचाने जैसी बातों पर केंद्रितरहता है, तो चैटजीपीटी उस चैट सेशन को अपने-आप बंद कर देगा।
कंपनी ने यह भी बताया है कि यदि कोई यूजर बार-बार इस तरह की हिंसक बातें दोहराता है, तो उसका अकाउंट अस्थायी रूप से बंद कर दिया जाएगा।
किशोरों के लिए हथियारों से जुड़े सवालों पर अतिरिक्त पाबंदी
OpenAI के मुताबिक, ChatGPT पहले से ही हिंसा की योजना बनाने, उसे अंजाम देने या किशोरों को हथियार खोजने और हासिल करने में मदद करने वाले अनुरोधों पर रोक लगाता है। अब कंपनी इन सुरक्षा उपायों का दायरा बढ़ा रही है।
नए प्रतिबंधों में हथियारों और सुरक्षा प्रणालियों से जुड़ी ऐसी तकनीकी या व्यावहारिक जानकारी शामिल होगी, जिसका गलत इस्तेमाल करके किसी को नुकसान पहुंचाया जा सकता है। इसका उद्देश्य यह सुनिश्चित करना है कि सामान्य दिखने वाले सवालों के जरिए भी खतरनाक गतिविधियों के लिए उपयोगी जानकारी हासिल न की जा सके।
हालांकि, किशोर ChatGPT का इस्तेमाल हिंसा रोकने, विवादों को शांत करने, मदद मांगने और किसी भरोसेमंद वयस्क से संपर्क करने जैसे सुरक्षित उद्देश्यों के लिए कर सकेंगे।
उम्र की पहचान करने वाला सिस्टम भी मजबूत
OpenAI ने बताया कि वह अपने एज प्रेडिक्शन यानी उम्र का अनुमान लगाने वाले सिस्टम को भी मजबूत कर रहा है। यह सिस्टम यूजर्स के व्यवहार और अन्य संकेतों के आधार पर अनुमान लगाता है कि कोई व्यक्ति 18 साल से कम उम्र का हो सकता है या वयस्क है।
यदि सिस्टम किसी अकाउंट को किशोर यूजर का मानता है, तो उसे ChatGPT के अंडर-18 अनुभव में रखा जा सकता है। कंपनी के अनुसार, जिन वयस्क यूजर्स को गलती से किशोर श्रेणी में रखा जाता है, उनके पास अपनी उम्र की पुष्टि करने और अतिरिक्त प्रतिबंध हटवाने का विकल्प रहेगा।
पुराने सामूहिक हमलों की जानकारी पर भी सख्ती
OpenAI ने केवल किशोरों के लिए ही नहीं, बल्कि सभी यूजर्स के लिए कुछ अन्य सुरक्षा नियमों को भी मजबूत करने की घोषणा की है। कंपनी ऐसे अनुरोधों पर रोक कड़ी करेगी, जिनमें अतीत में हुए सामूहिक हमलों का विस्तृत पुनर्निर्माण मांगा जाता है।
इसमें हमलों में इस्तेमाल किए गए हथियारों और उपकरणों, उन्हें हासिल करने के तरीकों और नुकसान के स्तर की विस्तृत तुलना जैसी जानकारियां शामिल हैं। कंपनी का मानना है कि ऐसी जानकारी का अनावश्यक विस्तार हिंसा को बढ़ावा देने या हमलावरों को कुख्यात बनाने में मदद कर सकता है।
OpenAI ने यह भी कहा है कि यदि किसी बातचीत में किसी व्यक्ति को गंभीर नुकसान पहुंचाने या हिंसा को लेकर लगातार जुनून के संकेत दिखाई देते हैं, तो ChatGPT उस बातचीत को रोक सकता है। बार-बार ऐसी स्थिति सामने आने पर अकाउंट को अस्थायी रूप से रोकने की संभावना भी रहेगी।
कंपनी ने बताया कि वह संभावित हिंसा के संकेतों की पहचान करने और समय रहते हस्तक्षेप करने के लिए विशेषज्ञों के साथ काम कर रही है। गंभीर और विश्वसनीय खतरे की स्थिति में संबंधित अधिकारियों को सूचना देने की प्रक्रिया भी उसकी सुरक्षा व्यवस्था का हिस्सा है।
OpenAI जारी करेगा कम्युनिटी सेफ्टी रिपोर्ट
OpenAI ने कम्युनिटी सेफ्टी रिपोर्ट शुरू करने की भी घोषणा की है। पहली रिपोर्ट 2027 की शुरुआत में जारी करने की योजना है, जिसमें 2026 की दूसरी छमाही के दौरान हिंसा रोकने और सुरक्षा उपायों के प्रभाव से जुड़ी जानकारी साझा की जाएगी।
कंपनी के अनुसार, 2026 की तीसरी तिमाही में उसने 200 से अधिक मामलों में कानून प्रवर्तन एजेंसियों को रेफरल किए। रिपोर्ट में सुरक्षा उपायों, संभावित जोखिमों और नीतियों में किए गए बदलावों का विवरण दिया जाएगा।
कुल मिलाकर, OpenAI का नया कदम यह संकेत देता है कि ChatGPT पर हथियारों से जुड़ी हर जानकारी पूरी तरह बंद नहीं की जा रही है, बल्कि खासतौर पर किशोरों और हिंसा को बढ़ावा दे सकने वाली व्यावहारिक जानकारियों पर नियंत्रण बढ़ाया जा रहा है।
