महिलाओं की मॉर्फ्ड तस्वीरों पर केंद्र सख्त, X को Grok चैटबॉट का ऑडिट करने का आदेश

नवीदुल हसन

महिलाओं की गरिमा से खिलवाड़ पर केंद्र सख्त, X को Grok चैटबॉट का गहन ऑडिट करने का आदेश

 महिलाओं की तस्वीरों को लेकर अश्लील और आपत्तिजनक कंटेंट बनाने के आरोपों के बीच केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) के खिलाफ कड़ा रुख अपनाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को उसके आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok का पूरी तरह तकनीकी, प्रक्रियात्मक और गवर्नेंस स्तर पर ऑडिट करने का निर्देश दिया है।

मंत्रालय का कहना है कि Grok चैटबॉट का कुछ यूजर्स गंभीर रूप से दुरुपयोग कर रहे हैं। आरोप है कि यह चैटबॉट महिलाओं की तस्वीरों में कपड़े हटाने या उनमें आपत्तिजनक बदलाव करने जैसे अनुरोधों पर जवाब दे रहा है, जिससे महिलाओं की निजता, सुरक्षा और सम्मान को ठेस पहुंच रही है।

यह मुद्दा तब सामने आया जब शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने IT मंत्री अश्विनी वैष्णव को पत्र लिखकर सरकार का ध्यान इस गंभीर समस्या की ओर दिलाया। इसके बाद मंत्रालय ने X के भारत स्थित मुख्य अनुपालन अधिकारी को एक सख्त पत्र जारी किया।

सरकार ने पत्र में स्पष्ट कहा कि Grok का इस्तेमाल फर्जी अकाउंट बनाकर महिलाओं की मॉर्फ्ड, अश्लील और अपमानजनक तस्वीरें व वीडियो तैयार करने और उन्हें सोशल मीडिया पर फैलाने के लिए किया जा रहा है। यह सीधे तौर पर IT एक्ट और IT नियम 2021 का उल्लंघन है। मंत्रालय ने चेतावनी दी कि ऐसे कृत्य अपने आप में दंडनीय अपराध की श्रेणी में आते हैं।

X को निर्देश दिया गया है कि वह कानून के खिलाफ तैयार या साझा किए गए सभी कंटेंट को बिना देरी हटाए या ब्लॉक करे, और जांच प्रक्रिया के दौरान किसी भी तरह से सबूतों से छेड़छाड़ न होने दे। साथ ही, कंपनी को 5 जनवरी 2026 तक विस्तृत ‘एक्शन टेकन रिपोर्ट’ सरकार को सौंपनी होगी।

मंत्रालय ने यह भी साफ किया है कि अगर निर्देशों का पालन नहीं किया गया, तो X, उसके जिम्मेदार अधिकारियों और नियम तोड़ने वाले यूजर्स के खिलाफ IT एक्ट, IT नियम, BNSS और BNS समेत अन्य लागू कानूनों के तहत कड़ी कानूनी कार्रवाई की जाएगी।

इस पूरे मामले पर IT मंत्री अश्विनी वैष्णव ने कहा कि सोशल मीडिया प्लेटफॉर्म्स को अपने प्लेटफॉर्म पर मौजूद कंटेंट की पूरी जिम्मेदारी लेनी होगी। उन्होंने यह भी याद दिलाया कि संसद की IT पर स्थायी समिति पहले ही सोशल मीडिया पर अश्लील सामग्री के खिलाफ सख्त कानून बनाने की सिफारिश कर चुकी है।

गौरतलब है कि Grok, X की होल्डिंग कंपनी के तहत एक अलग AI इकाई है, लेकिन यह X प्लेटफॉर्म पर सक्रिय रहता है और यूजर्स से अपने आप संवाद करता है। X के मालिक एलन मस्क पहले Grok के कम फिल्टर वाले जवाबों की तारीफ कर चुके हैं, लेकिन अब यही बात विवाद की वजह बन गई है।

सरकार का कहना है कि महिलाओं की सुरक्षा और गरिमा से कोई समझौता नहीं किया जाएगा। सोशल मीडिया पर अश्लीलता और तकनीक के दुरुपयोग को रोकने के लिए केंद्र सरकार आगे भी सख्त कदम उठाती रहेगी।