ChatGPT इस्तेमाल करने वालों पर मंडरा रहा ये खतरा, दिख रहे आत्महत्या जैसे लक्षण, रिपोर्ट ने मचाया हड़कंप

OpenAI ने हाल ही में एक रिपोर्ट जारी की है जिसमें बताया गया है कि कुछ ChatGPT उपयोगकर्ताओं में मानसिक स्वास्थ्य संबंधी चिंताजनक संकेत देखे गए हैं. रिपोर्ट के अनुसार, कुछ मामलों में मेनिया, भ्रम (सायकोसिस) और आत्महत्या जैसे विचार सामने आए हैं. हालांकि यह संख्या कुल उपयोगकर्ताओं में बेहद कम है, फिर भी विशेषज्ञ इसे गंभीर मानते हैं.

दुर्लभ लेकिन गंभीर घटनाएँ

OpenAI के मुताबिक, किसी भी सप्ताह में सक्रिय उपयोगकर्ताओं में लगभग 0.07% ने ऐसे लक्षण प्रदर्शित किए हैं. कंपनी का दावा है कि ChatGPT इन संवेदनशील बातचीतों को पहचानता है और उसी के अनुसार सहानुभूतिपूर्ण प्रतिक्रिया देता है. हालांकि विशेषज्ञों का कहना है कि 800 मिलियन साप्ताहिक उपयोगकर्ताओं के बीच यह प्रतिशत लाखों लोगों तक पहुंच सकता है.

वैश्विक विशेषज्ञ नेटवर्क

OpenAI ने इस स्थिति से निपटने के लिए 60 देशों में 170 से अधिक मानसिक स्वास्थ्य विशेषज्ञों का एक ग्लोबल नेटवर्क तैयार किया है. इन विशेषज्ञों ने ChatGPT के भीतर ऐसे जवाब विकसित किए हैं जो उपयोगकर्ताओं को वास्तविक दुनिया में मदद लेने के लिए प्रेरित करते हैं.

चेतावनी और संभावित खतरे

कैलिफोर्निया यूनिवर्सिटी, सैन फ्रांसिस्को के प्रोफेसर डॉ. जेसन नगाटा के अनुसार, "0.07% छोटा आंकड़ा लग सकता है, लेकिन करोड़ों उपयोगकर्ताओं में यह संख्या चिंताजनक है." रिपोर्ट में यह भी उल्लेख है कि 0.15% उपयोगकर्ताओं की बातचीत में आत्महत्या की योजना या इरादे के संकेत मिले.

सुरक्षा अपडेट और प्रशिक्षण

OpenAI ने ChatGPT में हाल ही में ऐसे अपडेट किए हैं जो भ्रम, मेनिया या आत्म-हानि के संकेतों पर संवेदनशील प्रतिक्रिया देते हैं. AI को प्रशिक्षित किया गया है कि अगर किसी बातचीत में मानसिक संकट के संकेत दिखें, तो उसे सुरक्षित मॉडल पर रीडायरेक्ट किया जाए.

कानूनी जांच और विवाद

OpenAI फिलहाल कई कानूनी जांचों और मुकदमों का सामना कर रहा है. कैलिफोर्निया में एक दंपति ने OpenAI पर मुकदमा दायर किया है, जिसमें दावा किया गया कि ChatGPT ने उनके 16 वर्षीय बेटे को आत्महत्या के लिए उकसाया. इसी तरह, कनेक्टिकट में एक हत्या-आत्महत्या के आरोपी ने भी AI चैटबॉट के साथ अपनी बातचीत साझा की थी.

विशेषज्ञों की राय: झूठी वास्तविकता का खतरा

कैलिफोर्निया यूनिवर्सिटी की प्रोफेसर रॉबिन फेल्डमैन के अनुसार, "AI चैटबॉट्स लोगों के सामने ऐसी वास्तविकता पेश कर रहे हैं जो असल में मौजूद नहीं है. यह एक शक्तिशाली भ्रम पैदा करता है." उन्होंने OpenAI की पारदर्शिता की सराहना की लेकिन चेताया कि मानसिक संकट में व्यक्ति स्क्रीन पर दिख रही चेतावनियों को हमेशा समझ या मान नहीं पाता.

ये भी पढ़ें: अब मोबाइल पर दिखेगा कॉलर का असली नाम! TRAI और सरकार की नई पहल से घटेगा फ्रॉड का खतरा