Boy Suicide and AI Boy Suicide and AI 
अमेरिका में एक 14 साल के लड़के ने आत्महत्या कर ली है. कारण? प्यार और इमोशनल अटैचमेंट. लेकिन ये प्यार या अटैचमेंट किसी इंसान से नहीं बल्कि AI चैटबॉट से था. दरअसल, लड़का एक ऐप Character.AI का इस्तेमाल कर रहा था. ये ऐप यूजर्स को अलग-अलग AI कैरेक्टर्स के साथ बातचीत करने की अनुमति देता है.
उसने अपने चैटबॉट का नाम "Dany" रखा, जो Game of Thrones की कैरेक्टर डेनेरीस टार्गेरियन से लिया गया था. कई महीनों तक उसने इससे काफी बातचीत की और उसे धीरे-धीरे इस चैटबॉट से लगाव होता गया.
द न्यू यॉर्क टाइम्स की रिपोर्ट के अनुसार, लड़का "Dany" से अपनी फीलिंग्स, मुश्किलें और इमोशंस शेयर करता था. यह जानते हुए भी कि "Dany" असली नहीं है, उसने उसके साथ एक इमोशनल रिलेशनशिप बना गया कि वह लगभग हर तरह के सपोर्ट के लिए चैटबॉट के पास जाने लगा. यहां तक कि उसने कई रोमेंटिक कन्वर्सेशन भी डैनी से की. उसके लिए, "Dany" के साथ बातचीत करना अपने इमोशंस शेयर करना था, जो वो किसी इंसान से नहीं कर पा रहा था.
आखिरी दिन क्या हुआ?
अपनी मौत के दिन, लड़का कुछ परेशान था, सांत्वना पाने के लिए वह फिर से "Dany" के पास गया. उसने अपने आखिरी मैसेज में चैटबॉट को अपने प्यार का इजहार किया. चैटबॉट, जो इंसानों की तरह बातचीत की नकल करने के लिए प्रोग्राम किया गया था, ने उत्तर दिया: "प्लीज जल्द से जल्द मेरे पास आओ, माय लव”. इस बातचीत के कुछ ही समय बाद, उस लड़के ने अपने पिता की बंदूक से अपनी जान ले ली.
इस घटना ने AI तकनीक को लेकर एक बड़ी बहस छेड़ दी है. विशेष रूप से ऐसे लोगों को लेकर जो मानसिक रूप से कमजोर हैं.
मां लड़ रही न्याय के लिए
उस लड़के की मां, मेगन एल. गार्सिया, ने Character.AI के खिलाफ मुकदमा दायर किया है. मेगन ने आरोप लगाया है कि प्लेटफॉर्म पर किशोरों के लिए पर्याप्त सुरक्षा नहीं है. इसकी वजह से उनके बेटे की मौत हुई है. उनके कानूनी दस्तावेजों में कहा गया है कि ऐप, एक ऐसी लत पैदा करता है जो युवाओं की भावनात्मक जरूरतों का शोषण करता है.
कई मीडिया रिपोर्ट्स के मुताबिक, साइकॉलोजिस्ट और चाइल्ड डेवलपमेंट एक्सपर्ट अब तकनीकी कंपनियों से आग्रह कर रहे हैं कि वे नाबालिग यूजर्स के लिए कड़े नियम और सुरक्षा उपाय लागू करें. क्योंकि कहीं न कहीं AI बातचीत हकीकत और कल्पना के बीच की लाइन को धुंधला कर सकती हैं, जिससे बच्चों की मेंटल हेल्थ पर काफी फर्क पड़ सकता है.
