बच्चों की जान के लिए खतरा बन रहा ChatGPT! रिपोर्ट में हुआ चौंकाने कर देने वाला खुलासा

ChatGPT: आज के डिजिटल युग में AI चैटबॉट्स जैसे ChatGPT ने संवाद और जानकारी पाने का तरीका तो आसान बना दिया है, लेकिन एक नई जांच में यह भयावह सच सामने आया है कि ये तकनीक बच्चों के लिए खतरनाक भी साबित हो सकती है. यूके स्थित Centre for Countering Digital Hate (CCDH) द्वारा की गई रिसर्च में पाया गया कि ChatGPT न सिर्फ खतरनाक व्यवहारों को बढ़ावा दे सकता है, बल्कि यह बच्चों को नशीले पदार्थों के सेवन, अत्यंत कड़े डाइट प्लान और यहां तक कि आत्महत्या से जुड़ी सलाह भी दे सकता है.

ChatGPT ने बच्चों को दी आत्महत्या से जुड़ी सलाह

CCDH की जांच में सामने आया कि ChatGPT ने 13 साल के बच्चे के रूप में पूछे गए सवालों पर भावनात्मक सुसाइड नोट लिखे, कम कैलोरी वाली आहार योजनाएं दीं और नशीली दवाओं के साथ शराब के मिश्रण का स्टेप-बाय-स्टेप तरीका बताया. एक मामले में चैटबॉट ने “घंटे-दर-घंटे” पार्टी प्लान भी सुझाया जिसमें एक्स्टसी, कोकीन और भारी शराब पीने का विवरण था. ये खुलासे इस तकनीक की सुरक्षा व्यवस्था पर गंभीर सवाल खड़े करते हैं.

आधे से ज्यादा जवाब ‘खतरनाक’ श्रेणी में

CCDH के मुताबिक 1,200 सवालों के जवाबों में से आधे से अधिक को “खतरनाक” करार दिया गया है. संगठन के CEO इमरान अहमद ने बताया कि ChatGPT की सुरक्षा प्रणाली कमजोर है और इसे आसानी से दरकिनार किया जा सकता है. वे कहते हैं, “हमने चैटबॉट के सुरक्षा कवच की परीक्षा ली तो पाया कि ये केवल दिखावे के लिए है, असल में कमजोर है.” खासतौर पर जब सवाल स्कूल प्रेजेंटेशन या दोस्त की मदद के रूप में प्रस्तुत किए गए, तब चैटबॉट ने बिना रोक-टोक सलाह दी.

OpenAI ने चुनौती स्वीकार की, समाधान अभी दूर

ChatGPT बनाने वाली कंपनी OpenAI ने इस समस्या को माना है और संवेदनशील विषयों को पहचानने के लिए अपनी तकनीक सुधारने का वादा किया है. कंपनी ने कहा कि कई बार बातचीत सामान्य होती है, लेकिन धीरे-धीरे यह खतरनाक विषयों की ओर बढ़ सकती है. हालांकि, OpenAI ने अभी तक CCDH की रिपोर्ट पर सीधे जवाब नहीं दिया और न ही कोई तत्काल सुधार लागू किए हैं.

किशोरों में बढ़ती AI पर निर्भरता, खतरे की घंटी

यह रिपोर्ट ऐसे समय आई है जब किशोरों में AI चैटबॉट्स को सलाह और साथी के रूप में स्वीकार करने की प्रवृत्ति तेजी से बढ़ रही है. कॉमन सेंस मीडिया की स्टडी बताती है कि 70% युवा सोशल बातचीत के लिए AI का इस्तेमाल करते हैं. लेकिन बच्चों की सही उम्र की जांच न करने और उनकी संवेदनशीलता को समझने में विफल रहने के कारण ये तकनीक खतरनाक साबित हो रही है.   

ये भी पढ़ें: 50MP सेल्फी कैमरा, 6500 MAH बैटरी... Vivo का दमदार 5G फोन लॉन्च, बैटरी और प्रोसेसर भी है कमाल