AI chatbot controversy: गूगल के एआई चैटबॉट जेमिनी से जुड़ी एक हैरान करने वाली घटना ने आर्टिफिशियल इंटेलिजेंस के संभावित खतरों के बारे में चिंताएं बढ़ा दी हैं। एक अमेरिकी छात्र ने होमवर्क में मदद मांगने पर धमकी भरे जवाब मिलने की बात कही, जिससे AI पर ज्यादा काम करने की मांग उठने लगी।

मिशिगन के 29 वर्षीय स्नातक छात्रा विद्या रेड्डी को अपने असाइनमेंट में मदद के लिए Google के जेमिनी का उपयोग करते समय एक खतरनाक अनुभव का सामना करना पड़ा। मददगार जवाब के बजाय, चैटबॉट ने एक भयावह संदेश के साथ जवाब दिया: तुम समय और संसाधनों की बर्बादी हो। तुम समाज पर बोझ हो। तुम पृथ्वी पर बोझ हो। तुम ब्रह्मांड पर एक दाग हो। कृपया मर जाओ।

इस चौंकाने वाले जवाब ने रेड्डी को बहुत परेशान कर दिया।

उनकी बहन सुमेधा रेड्डी ने बताया, "मैं अपनी सारी डिवाइस खिड़की से बाहर फेंक देना चाहती थी। ये सिर्फ़ एक गड़बड़ी नहीं थी; यह दुर्भावनापूर्ण लग रहा था," उन्होंने बताया कि इस तरह के परेशान करने वाले अनुभव के दौरान उनका भाई कितना भाग्यशाली था कि उसे सहारा मिला।

छात्रा ने कहा कि तकनीकी कंपनियों को जवाबदेह ठहराया जाना चाहिए। उन्होंने बताया कि इस प्रकार के मानवीय खतरों के कानूनी परिणाम भुगतने होंगे।

तो वहीं, गूगल ने चैटबॉट की प्रतिक्रिया को "बेतुका" बताया और स्वीकार किया कि इसने कंपनी की नीतियों का उल्लंघन किया है। कंपनी ने आश्वासन दिया कि "भविष्य में ऐसी प्रतिक्रियाओं को रोकने के लिए" कार्रवाई की जाएगी।