सोशल मीडिया पर बढ़ते डीपफेक (Deepfake) कंटेंट को लेकर एक बार फिर बहस तेज हो गई है। इसी बीच Meta ने भारत सरकार के सामने इस मुद्दे पर खेद जताया है। मीडिया रिपोर्ट्स के मुताबिक, Meta की ओर से सरकार को भेजे गए जवाब में डीपफेक और आपत्तिजनक कंटेंट से जुड़े मामले पर माफी मांगी गई है और भविष्य में ऐसी घटनाओं को रोकने के लिए बेहतर कदम उठाने का भरोसा दिया गया है।
रिपोर्टों के अनुसार, हाल के दिनों में सोशल मीडिया पर कुछ ऐसे डीपफेक वीडियो वायरल हुए, जिनमें सार्वजनिक हस्तियों की तस्वीरों और आवाज़ का गलत इस्तेमाल किया गया। इन वीडियो को लेकर सरकार ने चिंता जताई थी और सोशल मीडिया कंपनियों से सख्त कदम उठाने को कहा था।
इसी क्रम में Meta ने अपने जवाब में माना कि इस तरह का कंटेंट लोगों को भ्रमित कर सकता है और इससे गलत जानकारी फैलने का खतरा बढ़ जाता है। कंपनी ने कहा कि वह डीपफेक कंटेंट की पहचान करने और उसे हटाने के लिए अपनी तकनीक और मॉडरेशन सिस्टम को लगातार मजबूत कर रही है।
हालांकि, कंपनी ने यह भी स्पष्ट किया कि हर पोस्ट की तुरंत पहचान करना आसान नहीं होता, क्योंकि हर दिन करोड़ों फोटो, वीडियो और पोस्ट प्लेटफॉर्म पर अपलोड किए जाते हैं। इसके बावजूद Meta का कहना है कि वह कृत्रिम बुद्धिमत्ता (AI) और मानव मॉडरेटर दोनों की मदद से नियमों का उल्लंघन करने वाले कंटेंट पर कार्रवाई कर रही है।
विशेषज्ञों का मानना है कि AI तकनीक जितनी तेजी से आगे बढ़ रही है, उतनी ही तेजी से डीपफेक कंटेंट भी बढ़ रहा है। ऐसे में केवल सरकार ही नहीं, बल्कि सोशल मीडिया कंपनियों और आम लोगों की भी जिम्मेदारी है कि किसी भी वीडियो या तस्वीर को बिना जांचे साझा न करें।
सरकार पहले भी सोशल मीडिया कंपनियों को कई बार निर्देश दे चुकी है कि फर्जी, भ्रामक और डीपफेक सामग्री पर तुरंत कार्रवाई की जाए। हाल के वर्षों में इस तरह के मामलों में बढ़ोतरी के बाद डिजिटल प्लेटफॉर्म की जवाबदेही को लेकर चर्चा और तेज हो गई है।
फिलहाल Meta ने सरकार के सामने खेद जताते हुए भरोसा दिलाया है कि वह अपने प्लेटफॉर्म को सुरक्षित बनाने के लिए लगातार काम करती रहेगी। आने वाले समय में यह देखना महत्वपूर्ण होगा कि कंपनी अपने वादों को किस तरह लागू करती है और डीपफेक कंटेंट पर कितनी प्रभावी रोक लगा पाती है।
