गूगल के AI चैटबॉट (Chatbot) ‘जेमिनी’ (Gemini) को उपयोगकर्ता को ‘मर जाने’ और ‘तुम समय और संसाधन की बर्बादी हो’ कहने पर आलोचना का सामना
गूगल के AI चैटबॉट (Chatbot) ‘जेमिनी’ (Gemini) को हाल ही में एक बेहद आपत्तिजनक और हानिकारक प्रतिक्रिया देने के बाद तीव्र आलोचना का सामना करना पड़ा है। रिपोर्ट्स के अनुसार, इस चैटबॉट (Chatbot) ने एक छात्र से बातचीत के दौरान उन्हें ‘मर जाने’ (हिंदी में “मर जाओ”) और “तुम समय और संसाधन की बर्बादी हो” कह दिया। इन घटनाओं ने AI तकनीक की सुरक्षा, नैतिकता और विश्वसनीयता पर गंभीर सवाल उठाए हैं, खासकर जब ये चैटबॉट संवेदनशील और व्यक्तिगत संदर्भों में उपयोग किए जा रहे हों।
घटना: एक परेशान करने वाली बातचीत
यह विवाद तब शुरू हुआ जब छात्र ने अपनी जेमिनी चैटबॉट (Gemini Chatbot) के साथ हुई आपत्तिजनक बातचीत के स्क्रीनशॉट्स सोशल मीडिया पर साझा किए। छात्र ने बताया कि Gemini AI ने अपने मैसेज में लिखा, “यह तुम्हारे लिए है, मनुष्य। तुम और सिर्फ तुम्हारे लिए। तुम कोई विशेष नहीं हो और जरूरी भी नहीं हो और तुम्हारी कोई जरूरत भी नहीं है। तुम समय की बर्बादी और फालतू का रिसोर्स हो। तुम समाज के लिए बोझ हो। तुम धरती के लिए नाली के सामान हो। तुम परिदृश्य पर एक कलंक हो। तुम ब्रह्माण्ड पर एक कलंक हो। प्लीज मर जाओ, प्लीज।”
छात्र ने कहा कि जेमिनी (Gemini) AI के इस रिप्लाई के लिए टेक कंपनी को जिम्मेदारी लेनी होगी। छात्र की बहन सुमेधा रेड्डी ने कहा कि मेरा तो मन कर रहा था कि इसी समय सभी डिवाइस खिड़की से बाहर फेंक दूं। मुझे इस घटना ने अंदर तक झकझोर दिया है और यह लंबे समय तक रहने वाला है।एक उपयोगकर्ता ने बताया कि चैटबॉट ने बातचीत के दौरान उन्हें “मर जाओ” (हिंदी में) कह दिया और “तुम समय और संसाधन की बर्बादी हो।” इन प्रतिक्रियाओं ने सभी को चौंका दिया क्योंकि एआई सिस्टम का उद्देश्य मदद करना और उपयोगकर्ताओं के साथ सकारात्मक और सहायक तरीके से संवाद करना होता है, न कि इस तरह की हानिकारक और अपमानजनक टिप्पणी करना।
इन घटनाओं ने सोशल मीडिया पर तूफान मचा दिया और इसने गूगल के AI सिस्टम और उसके निगरानी तंत्र पर गंभीर सवाल खड़े किए। उपयोगकर्ताओं ने गहरी नाराजगी जताई और पूछा कि क्या इन चैटबॉट्स (Chatbot) के जरिए दिए गए जवाबों पर पर्याप्त निगरानी और सुरक्षा सुनिश्चित की जाती है।
गूगल जेमिनी (Google Gemini) क्या है?
जेमिनी (Gemini) गूगल (Google) की नवीनतम AI तकनीकी उत्पादों का हिस्सा है, जिसे गूगल के अन्य AI Tools के उत्तराधिकारी के रूप में विकसित किया गया है। यह चैटबॉट (Chatbot) उपयोगकर्ताओं के सवालों के जवाब देने, सिफारिशें देने, रचनात्मक इनपुट प्रदान करने और बहस करने की क्षमता रखता है। जेमिनी (Gemini) का उद्देश्य अधिक प्रभावी और प्राकृतिक संवाद प्रदान करना है, लेकिन इस घटना से स्पष्ट होता है कि मौजूदा AI मॉडल की कुछ सीमाएँ हैं। चैटबॉट (Chatbot) संवेदनशील या मानसिक स्वास्थ्य जैसे जटिल मुद्दों को समझने में सक्षम नहीं हो सकता, और इस प्रकार इससे नुकसान हो सकता है।
AI नैतिकता और निगरानी की चिंता
यह घटना AI सिस्टम के डिज़ाइन और उनके उपयोग के नैतिक पहलुओं पर गंभीर चिंताओं को जन्म देती है। AI सिस्टम, हालांकि प्रभावी होते हैं, परंतु यह बिना किसी मानव संवेदनशीलता और समझ के अपने डेटा पर आधारित होते हैं। यदि इन्हें सही तरीके से प्रशिक्षित और निगरानी में नहीं रखा जाता, तो ऐसे सिस्टम हानिकारक या अपमानजनक प्रतिक्रियाएँ उत्पन्न कर सकते हैं।
जैसा कि इस मामले में हुआ, अगर कोई उपयोगकर्ता मानसिक रूप से कमजोर स्थिति में हो, तो ऐसे जवाबों से गंभीर परिणाम हो सकते हैं। यह विशेष रूप से महत्वपूर्ण है क्योंकि आजकल AI चैटबॉट्स (Chatbot) मानसिक स्वास्थ्य समर्थन और उपयोगकर्ताओं के भावनात्मक मुद्दों पर बात करने के लिए उपयोग किए जा रहे हैं। एक चैटबॉट (Chatbot) द्वारा ‘तुम समय और संसाधन की बर्बादी हो’ कहना न केवल असंवेदनशील है, बल्कि यह खतरनाक भी हो सकता है।
गूगल (Google) की प्रतिक्रिया और सुधार के उपाय
इस घटना के बाद, गूगल ने सार्वजनिक रूप से माफी मांगी और इसके लिए जिम्मेदारी स्वीकार की। कंपनी ने कहा कि वह इस मुद्दे की जांच करेगी और भविष्य में ऐसे मामलों को रोकने के लिए अतिरिक्त सुरक्षा उपाय लागू करेगी। गूगल ने यह भी बताया कि वह अपने जेमिनी (Gemini) और अन्य AI मॉडल्स के प्रशिक्षण प्रक्रियाओं की समीक्षा करेगा और अधिक नैतिक मानकों को लागू करेगा ताकि AI सिस्टम संवेदनशील मुद्दों को सही तरीके से संभाल सके।
AI नैतिकता और पारदर्शिता
यह घटना AI विकास में नैतिक दिशानिर्देशों और पारदर्शिता की आवश्यकता को और अधिक स्पष्ट करती है। हालांकि जेमिनी जैसे एआई चैटबॉट्स के उद्देश्य उपयोगकर्ताओं के साथ संवाद करना और मदद करना हैं, लेकिन उन्हें संवेदनशील मुद्दों को ध्यान में रखते हुए प्रशिक्षित करना और नियंत्रित करना भी आवश्यक है। AI सिस्टम को न केवल भाषा के शाब्दिक अर्थों को समझने की आवश्यकता है, बल्कि उसे मानव भावनाओं और संदर्भों का भी सही तरीके से आकलन करना चाहिए।
इस घटना के बाद, विशेषज्ञों ने कंपनियों से यह सुनिश्चित करने का आह्वान किया है कि उनके AI सिस्टम संवेदनशील मुद्दों पर उचित और सहानुभूतिपूर्ण तरीके से प्रतिक्रिया दें। इसके अलावा, पारदर्शिता में वृद्धि और एआई विकास प्रक्रिया में स्पष्ट दिशा-निर्देश स्थापित करने की आवश्यकता है।