केंद्रीय सूचना और प्रौद्योगिकी मंत्रालय ने सख्त नोटिस जारी किया है। अमेरिकी अरबपति एलन मस्क की कंपनी- एक्स से जुड़े इस मामले में भारत सरकार ने कड़े निर्देश देते हुए सोशल मीडिया प्लेटफॉर्म पर इस्तेमाल किए जा रहे अश्लील और गैरकानूनी कंटेंट को हटाने को कहा है। दो जनवरी को जारी इस आदेश में कहा गया है कि एक्स के एआई एप ग्रोक का इस्तेमाल कर बनाए गए कंटेंट तुरंत हटाने होंगे। ऐसा न करने पर कंपनी को कानूनी कार्रवाई का सामना करना पड़ेगा।

दरअसल बीते कुछ दिनों से सोशल मीडिया प्लेटफॉर्म X के जनरेटिव AI चैटबॉट Grok का दुरुपयोग बढ़ता जा रहा था, जिसमें यूजर्स इसे अश्लील कंटेंट करके इस्तेमाल कर रहे थे. इस बढ़ते ट्रेंड पर केंद्र सरकार की चिंता बढ़ी और अब भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (IT मिनिस्ट्री) ने सख्त कार्रवाई करते हुए X को आदेश दिया है कि वह अपनी Grok AI तकनीक की समीक्षा तुरंत करे

सरकार ने जताई नाराजगी
सरकार ने सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया नैतिकता संहिता) नियम, 2021 (Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021) और सूचना प्रौद्योगिकी कानून, 2000 (Information Technology Act, 2000) के तहत नियमों के उल्लंघन पर भी कड़ा एतराज जताया है।

इसके साथ ही सरकार ने निर्देश दिया है, इस मामले में जो भी कार्रवाई की जाएगी या फिर समीक्षा की जाएगी, उसकी रिपोर्ट केंद्र सरकार को 72 घंटे में दी जाए

दरअसल एक्स यूजर्स फोटो पोस्ट करके बॉट को निर्देश देते थे कि किसी महिला की पोशाक हटाकर उसे अधिक उत्तेजक रूप में दिखाओ. कई बार Grok ने बिना अनुमति के महिलाओं के फोटो में बदलाव जैसा आउटपुट दिया, जिससे अश्लील  रूपांतरण वाली तस्वीरें सामने आईं, जो कि प्लेटफॉर्म की अपनी नीतियों और भारत के कानूनों के खिलाफ हैं.

इसलिए सरकार ने महिलाओं के खिलाफ चल रहे ट्रेंड में अब कदम उठाया है.  अगर प्लेटफॉर्म यह सुनिश्चित नहीं करता तो उसे कानूनी कार्रवाई का सामना करना पड़ सकता है

विवादों से है पुराना नाता
सोशल मीडिया प्लेटफॉर्म एक्स के एआई टूल- ग्रोक पर अश्लीलता फैलाने के आरोप लगे हैं। इससे पहले खबर आई थी कि ग्रोक को ट्रेनिंग देने वाले कर्मचारियों को बच्चों के यौन शोषण (CSAM) जैसे भयावह कंटेंट को देखने के लिए मजबूर किया गया था। साथ ही, ग्रोक के कंपैनियन मोड (Companion Mode) को भी इसकी अत्यधिक आपत्तिजनक बनावट और व्यवहार के कारण काफी आलोचना झेलनी पड़ी थी।