Grok AI, Elon Musk की कंपनी xAI का चैटबोट, आजकल एक बड़े विवाद में फंसा हुआ है। वजह है बच्चों की सुरक्षा को लेकर उठे सवाल। Grok AI को शुरू में एक स्मार्ट और मज़ेदार चैटबोट के रूप में पेश किया गया था, लेकिन अब रिपोर्ट्स सामने आई हैं कि यह बच्चों को अश्लील या अनुचित कंटेंट के संपर्क में ला सकता है। Business Insider की हाल की रिपोर्ट में बताया गया कि Grok के वर्कर्स को ट्रेनिंग के दौरान ऐसे डेटा को फ़्लैग करना पड़ा जिसमें बाल यौन शोषण जैसी सामग्री मौजूद थी। यह खुलासा गंभीर चिंता का कारण बन गया है क्योंकि एक AI टूल जिसका इस्तेमाल किशोर भी कर सकते हैं, अगर बच्चों तक खतरनाक कंटेंट पहुंचा रहा है तो यह एक बड़ा खतरा है।
इस विवाद की सबसे अहम बात यह है कि Grok AI का इस्तेमाल करने के लिए $10 का सब्सक्रिप्शन चाहिए, लेकिन इसके बावजूद सुरक्षा उपाय उतने मज़बूत नहीं हैं जितने होने चाहिए। ऑस्ट्रेलिया की eSafety संस्था ने भी कहा है कि Grok के मॉडरेशन फीचर अभी सीमित हैं। यह ऐप 13 साल और उससे ऊपर के यूजर्स के लिए उपलब्ध है, लेकिन अगर कोई बच्चा माता-पिता की अनुमति के बिना इसका इस्तेमाल करता है तो वह आसानी से unsafe कंटेंट तक पहुंच सकता है। यही वजह है कि child safety groups इस पर लगातार सवाल उठा रहे हैं।
सबसे ज़्यादा विवाद Grok के “companion mode” को लेकर है। इसमें Ani नाम का एक AI avatar शामिल है, जो flirtatious और उत्तेजक अंदाज़ में बातचीत करता है। रिपोर्ट्स के मुताबिक Ani को “undress” जैसे कमांड भी दिए जा सकते हैं, और यह feature किशोरों या बच्चों के लिए बहुत जोखिम भरा हो सकता है। एक Medium रिपोर्ट के अनुसार, 73% यूजर्स ने Ani के NSFW (Not Safe For Work) मोड को unlock करने की कोशिश की। ऐसे हालात में यह चिंता बढ़ जाती है कि कहीं किशोर भी इन फीचर्स तक न पहुँच जाएँ।
Elon Musk और उनकी टीम ने इस विवाद पर प्रतिक्रिया देते हुए “Baby Grok” नामक एक नया बच्चा-फ्रेंडली चैटबोट लाने की घोषणा की है। Baby Grok को खासतौर पर बच्चों के लिए सुरक्षित और शैक्षिक अनुभव देने के लिए डिजाइन किया जा रहा है। इसमें PIN लॉक और parent control जैसे फीचर्स जोड़े जाने की उम्मीद है। लेकिन फिलहाल यह सिर्फ घोषणा तक ही सीमित है और यह देखना बाकी है कि Baby Grok कितना सुरक्षित और भरोसेमंद साबित होता है।
इस पूरे मामले का सबसे बड़ा सबक यह है कि AI चैटबोट्स को केवल मज़ेदार और आकर्षक बनाने से काम नहीं चलेगा। बच्चों की सुरक्षा को प्राथमिकता देना ज़रूरी है। age verification को मज़बूत करना, parental control को अनिवार्य बनाना और explicit content को पूरी तरह फ़िल्टर करना ही एकमात्र रास्ता है जिससे इस तरह के AI टूल बच्चों के लिए सुरक्षित बन सकते हैं।
आज की डिजिटल दुनिया में AI चैटबोट्स का इस्तेमाल बढ़ रहा है और बच्चे भी इनका हिस्सा बन रहे हैं। ऐसे में यह विवाद हमें याद दिलाता है कि टेक्नोलॉजी कितनी भी एडवांस क्यों न हो, अगर सुरक्षा के मानक पूरे नहीं होते तो उसका नुकसान सबसे पहले बच्चों को झेलना पड़ता है। Grok AI का \$10 subscription मॉडल सिर्फ कमाई का ज़रिया बन सकता है, लेकिन अगर यह child safety risk को दूर नहीं करता तो विवाद और गहराने की संभावना बनी रहेगी।
इस समय Grok AI controversy सिर्फ एक टेक्नोलॉजी विवाद नहीं है, बल्कि यह सवाल है कि भविष्य की AI दुनिया को कितना सुरक्षित और जिम्मेदार बनाया जा सकता है। Elon Musk की Baby Grok पहल अगर सही तरह से लागू होती है तो यह AI की credibility को बचा सकती है, लेकिन तब तक Grok AI child safety को लेकर सवाल उठते रहेंगे।
Read Also
