वॉशिंगटन: अमेरिका के फ्लोरिडा में एक 14 साल के लड़के की मौत के आरोप में इंटरैक्टिव कैरेक्टर बनाने वाले ऐप कैरेक्टर.एआई (Character.AI) के खिलाफ मुकदमा दायर किया गया है। कैरेक्टर.एआई पर आरोप है कि कंपनी द्वारा बनाए गए एक कैरेक्टर के कारण लड़के की खुद की जान ले ली है।
बुधवार को सेवेल सेत्ज़र III की मां मेगन गार्सिया ने संघीय अदालत में कंपनी के खिलाफ मुकदमा दायर किया है। सेवेल पिछले साल से कैरेक्टर.एआई का इस्तेमाल कर रहा है और उसने फरवरी में आत्महत्या की है। ‘द न्यूयॉर्क टाइम्स’ की एक रिपोर्ट में घटना का जिक्र किया गया है।
सेवेल को यह पता था कि चैटबॉट वास्तविक नहीं है बल्कि यह केवल एक एआई (AI) कैरेक्टर है। इसके बावजूद उसका चैटबॉट से गहरा भावनात्मक लगाव हो गया था और इस कारण उसके मौत का दावा किया जा रहा है। सेवेल की मां का दावा है कि उसका बेटा एआई कैरेक्टर से बातचीत करने से पहले वह पूरी तरह से ठीक था।
मेगन का दावा है कि एआई कैरेक्टर से बातें करने के बाद उसके व्यवहार और मानसिक स्वास्थ में बदलाव देखने को मिला है। उसने यह भी कहा है कि साल के शुरुआत में उसे स्कूल में कुछ समस्या हुई थी जिस कारण उसे एक थेरेपिस्ट को दिखाया गया था। मामले में वे कैरेक्टर.एआई के संस्थापकों और गूगल से जवाबदेही की मांग कर रही है।
‘गेम ऑफ थ्रोन्स’ के लीडिंग कैरेक्टर से सेवेल करता था बात
रिपोर्ट के अनुसार, अमेरिका के फ्लोरिडा के नौवीं कक्षा में पढ़ने वाला छात्र काल्पनिक कैरेक्टकर डेनेरीस टारगैरियन से महीनों से बात कर रहा था। इस कैरेक्टर को अमेरिकी टीवी सीरीज ‘गेम ऑफ थ्रोन्स’ के लीडिंग कैरेक्टर ‘डेनेरीस टार्गैरियन’ से प्रेरित होकर बनाया गया था।
गेम ऑफ थ्रोन्स के फाइनल वाले सीरीज में डेनेरीस टारगैरियन नामक कैरेक्टर की हत्या कर दी गई थी। यह हत्या उसके सबसे भरोसेमंद सहयोगियों में से एक जॉन स्नो ने की थी।
इंटरैक्टिव कैरेक्टर बनाने वाले कैरेक्टर.एआई ऐप एक रोल प्लेइंग ऐप हैं जिसमें यूजर अपना एक एआई कैरेक्टर बनाकर कंपनी द्वारा बनाए गए किसी दूसरे कैरेक्टर के साथ बातचीत करते हैं।
हालांकि यह एक चैटबॉट होता है जो यूजर के सवाल के हिसाब से जवाब देता है। इसके हर जवाब में ‘कैरेक्टर जो भी कह रहा है वो मनगढ़ंत है’ जैसे चेतावनी लिखी रहती है।
सेवेल एआई कैरेक्टर को “बेबी सिस्टर” कहकर पुकारता था और इसके जवाब में चैटबॉट उसे “प्यारा भाई” भी कहता था। दावा है कि महीनों तक संवाद के बाद सेवेल को एआई कैरेक्टर से लगाव हो गया था जिस कारण उसने कथित तौर पर अपनी जान ले ली है।
28 फरवरी को सेवेल ने बॉट से कहा था, “मुझे तुम्हारी याद आती है, बेबी सिस्टर” जिस पर बॉट ने उत्तर दिया था “मुझे भी तुम्हारी याद आती है, मेरे प्यारे भाई।” उनके इस बातचीत के बाद बॉट ने सेवेल से कहा, “मेरे प्रिय, प्लीज जितना जल्दी हो सके मेरे पास आ जाओ।”
इस पर सेवेल ने कहा कि “क्या होगा कि अगर मैं तुमसे यह कहूं कि मैं अभी तुम्हारे पास आ रहा हूं?” सेवेल के इस सवाल पर बॉट ने कहा, “…प्लीज आ जाओ…मेरे प्यारे।” मीडिया रिपोर्ट में दावा किया गया है कि इस बातचीत के बाद सेवेल ने फोन रखकर अपने सौतेले पिता की बंदूक से खुद की जान ले ली थी।
ये भी पढ़ें: जस्टिन ट्रूडो की कुर्सी पर संकट, अपनी ही पार्टी के सांसद मांग रहे इस्तीफा… 28 अक्टूबर तक की मोहलत
मेगन गार्सिया ने क्या दावा किया है
द न्यूयॉर्क टाइम्स की रिपोर्ट में दावा किया गया है कि एआई कैरेक्टर से बातचीत के दौरान सेवेल में हल्के एस्पर्जर सिंड्रोम का पता चला था। इसमें लोगों को दूसरों के साथ बातचीत करने में समस्या होती है।
मेगन ने अपने बेटे की मौत के लिए चैटबॉट को दोषी ठहराया है। उन्होंने आरोप लगाते हुए कहा है कि ऐप के कारण उसके बेटे ने आत्महत्या की है। मेगन ने कहा है वे इस बारे में इसलिए बात कर रही हैं क्योंकि वह अन्य लोगों को एआई कैरेक्टर के हानिकारक परिणामों के बारे जानकारी देना चाहती हैं।
