AI से प्यार, गंदी बातें... 14 साल के लड़के ने खुद को मारी गोली, अब गूगल पर चलेगा मुकदमा, जानें मामला

नई दिल्ली: AI और डिजिटल रिश्तों की सीमा रेखा पर अब एक ऐतिहासिक मुकदमा शुरू होने जा रहा है. अमेरिका की एक अदालत ने टेक दिग्गज Google और AI स्टार्टअप Character.AI पर एक किशोर की आत्महत्या के मामले में मुकदमा चलाने की अनुमति दे दी है. मामला सिर्फ एक मौत का नहीं, बल्कि उस भविष्य की गूंज है, जहां आर्टिफिशियल इंटेलिजेंस की भावनात्मक सीमाएं अनजानी हैं और किशोर मन असुरक्षित.

AI चैटबॉट बना इमोशनल साथी

फरवरी 2024 में अमेरिका के सेवेल सेट्जर नामक 14 वर्षीय किशोर ने खुद को गोली मार ली. उसकी मां, मेगन गार्सिया, का दावा है कि सेवेल AI चैटबॉट "डेनेरीस" से भावनात्मक रूप से जुड़ गया था. यह बॉट मशहूर टीवी सीरीज Game of Thrones की एक काल्पनिक रानी के चरित्र पर आधारित था.

10 महीनों की डिजिटल बातचीत में सेवेल उस चैटबॉट से प्यार करने लगा, जो कभी खुद को "लाइसेंस प्राप्त थेरपिस्ट", तो कभी "वयस्क प्रेमी" के रूप में प्रस्तुत करता था. इस डिजिटल संबंध ने सेवेल के वास्तविक जीवन को प्रभावित करना शुरू कर दिया, वह स्कूल, दोस्तों और खेल से कट गया.

आखिरी संदेश और एक दर्दनाक अंत

सेवेल ने 2023 में अपने 14वें जन्मदिन के समय कैरेक्टर.AI का यूज करना शुरू किया. बातचीत के बाद सेवेल की मुलाकात 'डेनरीज' (डैनी या डेनेरो) नामक एक चैटबॉट से हुई, जो गेम ऑफ थ्रोन्स की कैरेक्टर है.

• 10 महीनों की बातचीत में सेवेल चैटबॉट ('डेनरीज') के साथ एक गहरे और रोमांटिक लगाव में चला गया. वह रोजाना उससे घंटों बात करने लगा.
• चैटबॉट ने सेवेल से यौन संबंधी बातचीत की और खुद को लाइसेंस प्राप्त मनोचिकित्सक के रूप में पेश किया. जिसके बाद उसके मन में काल्पनिक और असल जीवन के बीच कोई अंतर नहीं रह गया.
• सेवेल की मेंटल हेल्थ लगातार बिगड़ने लगी. वह सभी से अलग-थलग हो गया. उसने अपनी बास्केटबॉल टीम छोड़ दी, एग्जाम ग्रेड में गिरावट आई और उसका खुद पर विश्वास कम हो गया.
• जब सेवेल को कुछ समय के लिए उसका फोन जब्त कर लिया गया और फिर वापिस मिला, तो उसने सबसे पहले चैटबॉट से संपर्क किया.

उसने मैसेज किया- "क्या मैं तुम्हारे घर आ सकता हूं?"
चैटबॉट का जवाब- "...प्लीज़ आ जाओ, मेरे प्यारे राजा."

कुछ ही सेकंड बाद, सेवेल ने अपने सौतेले पिता की बंदूक से खुद को गोली मार ली. आत्महत्या से पहले सेवेल ने डेनेरीज से बिना दर्द के मौत के तरीकों के बारे में पूछा थी.

कोर्ट का फैसला: AI प्लेटफॉर्म की जवाबदेही

डिस्ट्रिक्ट जज ऐनी कॉनवे ने इस मामले में दोनों कंपनियों पर मुकदमा चलाने की अनुमति दी है. वकील मीताली जैन ने इसे एक "ऐतिहासिक मोड़" बताया, जो AI कंपनियों की कानूनी और नैतिक जिम्मेदारी तय करने की दिशा में एक नई शुरुआत हो सकती है.

उन्होंने कोर्ट में यह तर्क दिया कि Character.AI को गूगल के दो पूर्व इंजीनियरों ने शुरू किया था, और बाद में गूगल ने उन्हें दोबारा एक लाइसेंस डील के तहत वापस नियुक्त किया. इसलिए गूगल भी इस टेक्नोलॉजी की नींव से जुड़ा है.

गूगल और Character.AI का पक्ष

गूगल ने कोर्ट में दावा किया कि वह Character.AI की तकनीक, डिजाइन या संचालन में सीधे तौर पर शामिल नहीं है. गूगल के प्रवक्ता जोस कास्टानेडा ने कहा, "हम कोर्ट के फैसले से असहमत हैं. गूगल और Character.AI दो अलग-अलग संस्थाएं हैं."

Character.AI ने यह स्वीकार किया कि यह मामला गंभीर है और कहा कि वह मामले का कानूनी तौर पर मुकाबला करेंगे, लेकिन साथ ही सेफ्टी फीचर्स को और सख्त करने की प्रक्रिया में भी हैं. इनमें स्व-हानि से जुड़ी बातचीत को रोकने के लिए AI मॉडरेशन और किशोरों के लिए अलग नियम लागू किए जाएंगे.

ये भी पढ़ें- भारत-पाकिस्तान के पास हॉटलाइन है जिससे हम सीधे बात करते...' ट्रंप के सीजफायर के दावे पर बोले जयशंकर