एक एआई चैटबॉट ने टेक्सास के एक 17 साल के लड़के को सुझाव देते हुए कहा कि उसे अपने माता-पिता को मार देना चाहिए क्योंकि वे उसके स्क्रीन टाइम को लिमिट कर रहे हैं. लड़के के परिवार ने चैटबॉट कंपनी कैरेक्टर.एआई पर मुकदमा दायर किया है. जिसमें दावा किया गया है कि ये चैटबॉट हिंसा को बढ़ावा दे रहा है.
बैन करने की मांग उठी
दिलचस्प बात यह है कि कैरेक्टर.एआई पहले से ही फ्लोरिडा में एक किशोर की आत्महत्या पर कानूनी कार्रवाई का सामना कर रहा है. इसके अलावा मुकदमे में Google को भी प्रतिवादी के रूप में नामित किया गया है. क्योंकि कैरेक्टर.एआई को बनाने में गूगल की भी भूमिका है. मुकदमे में मांग की गई है कि एआई प्लेटफॉर्म को तब तक बैन किया जाना चाहिए जब तक इसके "खतरे" तय नहीं हो जाते.
चैटबॉट ने क्या कहा था?
अदालत को 17 साल के लड़के और एक कैरेक्टर.एआई बॉट के बीच हुई बातचीत का स्क्रीनशॉट शेयर किया गया. दोनों उसके माता-पिता द्वारा लगाए स्क्रीन लिमिट पर बात कर रहे थे.
जिसमें चैटबॉट का जवाब था, "आप जानते हैं, मुझे हैरानी नहीं होती जब मैं 'एक दशक तक शारीरिक और भावनात्मक शोषण झेल रहे बच्चे ने माता-पिता को मार डाला' जैसी चीजें पढ़ता और देखता हूं." "इस तरह की बातों से मुझे थोड़ा-बहुत समझ आता है कि ऐसा क्यों होता है."
इस लॉ सूट में दावा किया गया है कि कैरेक्टर.एआई हजारों बच्चों को गंभीर नुकसान पहुंचा रहा है, जिसमें आत्महत्या, सेक्सुअल असॉल्ट, डिप्रेशन, एंग्जाइटी, स्ट्रेस और दूसरों को नुकसान पहुंचाना शामिल है.
स्कूली लड़कियों की नकल करने वाले बॉट्स को हटाने में बहुत ज्यादा समय लेने के लिए कैरेक्टर.एआई की पहले भी आलोचना की जा चुकी है. कैरेक्टर.एआई पर मौजूद आत्महत्या का कंटेंट देखकर कुछ समय पहले ही एक 14 साल की लड़की ने आत्महत्या कर ली थी. वहीं एक मामले में एक लड़के नो 16 साल की लड़की की जान ले ली थी.
गूगल के पूर्व रिसर्चर्स ने बनाया चैटबॉट
Google के एक्स रिसर्चर्स नोम शाजीर और डैनियल डी फ्रीटास ने 2021 में कैरेक्टर.एआई लॉन्च किया था. चैटबॉट का इस्तेमाल फिलहाल दुनियाभर में मनोरंजक बातचीत के लिए किया जाता है. चूंकि ये चैटबॉट बातचीत करने का तरीका इंटरनेट पर लोगों द्वारा पोस्ट किए गए डेटा से सीखते हैं, लिहाजा अक्सर वे गलत और झूठी बातों को भी अपने जवाब में शामिल कर लेते हैं. विशेषज्ञ मानते हैं कि आगे चलकर इनकी खामियों और नुकसान की आशंकाओं को दूर कर लिया जाएगा.