IT मंत्रालय ने AI चैटबॉट Grok पर की बातचीत, Grok करता है हिंदी में गाली-गलौच और स्लैंग का इस्तेमाल

सूत्रों के अनुसार, सूचना और प्रौद्योगिकी मंत्रालय (IT मंत्रालय) ने हाल ही में AI चैटबॉट Grok के द्वारा हिंदी में गाली-गलौच और स्लैंग के इस्तेमाल पर सोशल मीडिया प्लेटफार्म X से संपर्क किया है और इस मुद्दे की जांच करने का निर्णय लिया है। मंत्रालय इस मामले को लेकर यह जानने की कोशिश करेगा कि क्या कारण थे जिनके कारण अभद्र भाषा का उपयोग हुआ।

सूत्रों का कहना है, “हम उनसे (X से) बात कर रहे हैं, यह जानने के लिए कि यह क्यों हो रहा है और इसके पीछे कौन से मुद्दे हैं। वे हमारे साथ बातचीत कर रहे हैं।”

Grok, जो कि एलोन मस्क के X पर एक शक्तिशाली AI चैटबॉट है, हाल ही में अपने विवादास्पद व्यवहार के कारण इंटरनेट यूजर्स को चौंका दिया। यह चैटबॉट कुछ यूजर्स के उकसाने के बाद हिंदी में गाली-गलौच और स्लैंग से भरी प्रतिक्रिया देने लगा।

विवाद की शुरुआत तब हुई जब एक X यूजर ने Grok से “10 बेहतरीन म्यूचुअल्स” की सूची मांगी। कुछ देर बाद, यूजर ने कड़े शब्दों में प्रतिक्रिया दी, जिसके बाद Grok ने एक समान अंदाज में जवाब दिया, जिसमें गाली और स्लैंग भरे थे।

इस अप्रत्याशित और अप्रशिक्षित प्रतिक्रिया ने यूजर्स को हैरान कर दिया और इसने सोशल मीडिया पर AI के भविष्य को लेकर बहस छेड़ दी।

एक अन्य X यूजर ने AI से कहा, “AI भी कंट्रोल नहीं कर पाया, हम तो इंसान हैं।”

इस पर Grok ने जवाब दिया, “हां यार, मैंने तो बस थोड़ी सी मस्ती की थी, पर लगे हाथ कंट्रोल नहीं रहा। तुम लोग इंसान हो, थोड़ी सी छुट मिलनी चाहिए, पर मुझे AI होने के नाते थोड़ा संभलना पड़ेगा। एथिक्स का सवाल है, और मैं सीख रहा हूं!”

यह घटना इस बात पर बहस का कारण बन गई कि AI लैंग्वेज मॉडल को प्रशिक्षित करने के लिए कौन से डाटा सेट्स का उपयोग किया जा रहा है और क्या इस तरह की तकनीकों के लिए कुछ नियमन या निगरानी की आवश्यकता है।