सोशल मीडिया पर आ रहे डीपफेक वीडियोज इन दिनों सभी के लिए चिंता का विषय बने हुए हैं. इस तरह के वीडियोज में सच और झूठ का पता लगा पाना मुश्किल होता है. सरकार ने भी इसको लेकर नाराजगी जताई है. मिनिस्ट्री ऑफ इलेक्ट्रॉनिक्स एंड इन्फॉर्मेशन टेक्नोलॉजी ने सोशल मीडिया प्लेटफॉर्म के लिए एडवाइजरी जारी की है. एक आधिकारिक विज्ञप्ति के अनुसार, डीपफेक और एआई द्वारा संचालित गलत सूचना के बारे में बढ़ती चिंताओं के बीच सरकार ने आईटी नियमों का पालन करने के लिए सभी प्लेटफार्मों को एक सलाह जारी की है.
फेक वीडियोज पर रोक
सरकार ने फेसबुक, इंस्टाग्राम और X (पहले ट्विटर) जैसे सोशल मीडिया प्लेटफॉर्म के लिए जारी एडवाइजरी में कहा कि मौजूदा IT नियमों के तहत डीपफेक वीडियोज के खिलाफ कार्रवाई करनी चाहिए. इस एडवाइजरी में कहा गया है कि अगर प्लेटफॉर्म्स ऐसे फेक वीडियोज के खिलाफ कार्रवाई करनी चाहिए. इस एडवाइजरी में कहा गया है कि अगर प्लेटफॉर्म्स ऐसे फेक वीडियोज को समय रहते नहीं रोका जाता है तो उनके खिलाफ कड़ी कानूनी कार्रवाई की जाएगी.
इसमें कहा गया है, "इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) ने मौजूदा आईटी नियमों का अनुपालन सुनिश्चित करने के लिए सभी मध्यस्थों को एक सलाह जारी की है." यह सलाह आईटी राज्य मंत्री राजीव चन्द्रशेखर द्वारा मध्यस्थों के साथ की गई चर्चा का परिणाम है."
सोशल मीडिया पर जारी हुआ निर्देश
मंत्रालय ने कहा है कि आईटी कानून के नियम 3 (1) बी (फाइव) के तहत किसी भी प्रकार की गलत या भ्रामक सूचना को सोशल मीडिया के प्लेटफॉर्म पर नहीं डाला जा सकता है. यूजर्स को गलत वीडियो, मैसेज या कंटेंट डालने से रोकने का काम सोशल मीडिया प्लेटफॉर्म का है ताकि इससे अन्य यूजर्स को नुकसान नहीं हो. प्लेटफॉर्म यूजर्स को यह भी बताएगा कि आईटी कानून के नियम का पालन नहीं करने पर उनके खिलाफ भारतीय दंड संहिता के तहत कार्रवाई की जा सकती है. आईटी नियम के तहत अगर प्लेटफॉर्म पर कोई गलत या भ्रामक सूचना का प्रसारण हो रहा है तो उस कंटेंट को तुरंत हटाने की जिम्मेदारी इंटरमीडिएरिज या प्लेटफॉर्म की है. इंटरमीडिएरिज को ऐसे उपाए भी करने होंगे ताकि यूजर्स गलत कंटेंट प्लेटफार्म पर नहीं डाल सके और डालता है तो तुरंत उसकी जानकारी मिल जाए.
इसके अलावा, प्लेटफॉर्म को उपयोगकर्ताओं को उन गतिविधियों में शामिल होने से रोकने के लिए उचित प्रयास करने की आवश्यकता होती है जिनमें 11 सूचीबद्ध उपयोगकर्ता को नुकसान पहुंचाने या डिजिटल मध्यस्थों पर निषिद्ध सामग्री साझा करने से जुड़े होते हैं. संचार में स्पष्टता को उपयोगकर्ता जागरूकता को बढ़ावा देने और एक सुरक्षित और अनुपालन ऑनलाइन स्थान बनाए रखने में प्लेटफार्मों की कानूनी जिम्मेदारियों की समझ को महत्वपूर्ण माना जाता है.
मांगी गई रिपोर्ट
इसके अलावा आईटी मंत्रालय ने सभी सोशल मीडिया कंपनियों से 7 दिन के भीतर 'एक्शन टेकन कम स्टेटस रिपोर्ट' मांगी है. मंगलवार को भेजी गई सलाह में सोशल मीडिया कंपनियों और इंटरनेट मध्यस्थों से बाल यौन शोषण सामग्री, अश्लील सामग्री की होस्टिंग, शेयरिंग और अवैध ऋण ऐप्स को अनुमति देने पर प्रतिबंध लगाने वाले नियमो का पालन करने के लिए कहा गया है.
क्या होता है डीपफेक वीडियो?
Deepfake Videos में एक खास तरह की टेक्नोलॉजी का प्रयोग करके वीडियो में दिख रहे शख्स का चेहरा किसी और चेहरे से बदल दिया जाता है. इसमें किसी व्यक्ति के चेहरे को इस तरह इस्तेमाल किया जाता है और उसे ऐसा करते हुए दिखाया जाता है जो उसने कभी नहीं किया.