तीन महीने पहले, जुलाई के आखिरी दिनों की बात है। हैदराबाद की साइबर क्राइम पुलिस ने Meta India के प्रमुख अरुण श्रीनिवास समेत कई लोगों के फेसबुक और इंस्टाग्राम अकाउंट्स के खिलाफ मामले दर्ज किए। मामला पीएम मोदी के AI से तैयार मॉर्फ्ड फोटो और वीडियो से जुड़ा था।

तीन महीने बाद यानी अक्टूबर में Meta फिर घेरे में आया। दशहरे वाले दिन यानी 20 अक्टूबर को गृह मंत्रालय की एक ए़़डवाइजरी आई जिसमें कहा गया कि Meta के प्लेटफॉर्म्स पर धोखाधड़ी वाले विज्ञापन चल रहे हैं। फिर से पीएम मोदी का मॉर्फ्ड और डीपफेक वीडियो और फर्जी वीडियो बनाकर पैसे ऐंठने की कोशिश की जा रही है।

कहने को तीन महीने के अंदर घटी ये दो अलग-अलग घटनाएं हैं, लेकिन ये उस बड़ी समस्या का छोटा सा उदाहरण है, जिससे आज के दौर में हर कोई जूझ रहा है। कहते हैं, नई तकनीक मददगार होती है, पर उसके साथ दुरुपयोग का खतरा भी जुड़ा होता है। आर्टिफिशियल इंटेलिजेंस यानी एआई का भी यही हाल है। सोशल मीडिया खोलिए, एक्स, फेसबुक या इंस्टाग्राम पर जाइए। वहां जाते ही कई साइबर ठग घात लगाए बैठे मिल जाएंगे, जो नई-नई तरकीबों से ठगने की फिराक में रहते हैं।

मॉर्फ्ड फोटो/वीडियो की जिम्मेदारी किसकी?  

मॉर्फ्ड (Morphed) फोटो और वीडियो एक बड़ा खतरा है। बड़ी-बड़ी सेलिब्रेटी इससे बच नहीं पाए हैं। एक्ट्रेस रश्मिका मंदाना का मॉर्फ्ड वीडियो कुछ समय पहले खूब चर्चा में रहा था। बाद में कई मामले सामने आए। गृह मंत्रालय ने दुरुपयोग रोकने के लिए फैसला किया कि AI से बनाई गई इमेज या वीडियो पर AI लेबल लगाना जरूरी होगा। लेकिन सवाल ये कि मॉर्फ्ड फोटो, वीडियो को धड़ल्ले से लोगों तक पहुंचने दे रहीं सोशल मीडिया कंपनियों की जवाबदेही कितनी है? सेलिब्रिटीज के मामले और आम लोगों के साथ हुई घटनाओं को लेकर क्या कंपनियों की प्रतिक्रिया अलग हो सकती है? अगर नहीं तो उनकी जिम्मेदारी क्या है?  

मॉर्फ्ड फोटो या वीडियो के बारे में बताएं तो ये ऐसी तस्वीरें होती हैं जिनमें असली तस्वीर या वीडियो के साथ डिजिटल तरीके से छेड़छाड़ करके उसे बदल दिया गया हो। किसी व्यक्ति के चेहरे, शरीर या आवाज को किसी दूसरे व्यक्ति की तस्वीर या वीडियो पर डिजिटल एडिटिंग या AI के जरिए इस तरह जोड़ दिया जाए कि वह असली सी लगने लगे तो उसे 'मॉर्फिंग' कहा जाता है। नई तकनीक में ये काम इस तरीके से किया जा सकता है कि अच्छे-अच्छे लोग धोखा खा जाएं।

सोशल मीडिया कंपनियों की पूरी जवाबदेही

पीएम मोदी के फर्जी फोटो-वीडियो गलत तरीके से प्रचारित करने के मुद्दे पर RT इंडिया के मैनेजिंग एडिटर अशोक बागड़िया ने कहा था कि हमारा संविधान देश के हर नागरिक को यह स्वतंत्रता देता है कि वह खुलकर अपने विचार रख सके, फिर वह चाहे देश का प्रधानमंत्री हो, सेना का चीफ या कोई और हो।

इसमें कोई दोराय नहीं कि पीएम मोदी का फर्जी वीडियो बनाकर गलत न्यूज फैलाई जाएगी, तो इसके गंभीर नतीजे हो सकते हैं। लेकिन इस समस्या से आम लोग भी पीड़ित हैं। बहुत से ऐसे लोग होंगे, जिनकी फोटो-वीडियो के साथ छेड़छाड़ की गई होगी। लेकिन मुद्दा ये है कि ऐसी घटनाओं के लिए सोशल मीडिया इंटरमीडिएरी कंपनियां कितनी जिम्मेदार हैं? 

बागड़िया का कहना है कि ऐसी घटनाओं के लिए सोशल मीडिया इंटरमीडिएरी कंपनियों को जिम्मेदार ठहराया जा सकता है। उन्होंने कहा कि ये ऐसी समस्या नहीं है, जो रातोंरात सामने आ गई हो। पिछले कई वर्षों से इस समस्या की तरफ ध्यान दिलाया जाता रहा है। यही वजह है कि 2023 में सोशल मीडिया कंपनियों के लिए नए नियम बनाए गए थे। उस वक्त भी कंपनियों से कहा गया था कि उन्हें इनका पालन करना होगा। 

उन्होंने कहा कि नियमों में साफ लिखा है कि अगर सक्षम अधिकारी किसी पोस्ट या ट्वीट को हटाने के लिए कहेंगे तो कंपनियां इनकार नहीं कर पाएंगी। उन्हें वो पोस्ट हटानी होगी। अगर वो ऐसा नहीं करती हैं तो उनके खिलाफ कार्रवाई की जा सकेगी। उनके प्लेटफॉर्म पर जो कुछ पब्लिश हो रहा है, उसके लिए जिम्मेदार ठहराया जा सकता है।

उन्होंने कहा कि मेरा मानना है कि ऐसी घटनाओं से निपटने के लिए सख्त नियम जरूरी हैं। जिस तरीके से सोशल मीडिया कंपनियां काम करती हैं, उन्हें अपने तौर-तरीकों में बदलाव करना होगा।

सोशल मीडिया प्लेटफॉर्म्स ने क्या कदम उठाए?

• मेटा (Facebook और Instagram) और YouTube ने नियम बनाए हैं कि यदि कोई वीडियो या फोटो AI से बनाई या एडिट की गई है, तो क्रिएटर को अपलोड करते समय इसके बारे में बताना होगा।
• यदि यूजर खुद नहीं बताता तो प्लेटफॉर्म्स उसकी टेक्निकल पहचान और मेटाडेटा की मदद से खुद पहचान करेंगी और उस पोस्ट पर “Imagined with AI” या “Altered/Synthetic Media” का लेबल लगाएंगी।
• सरकार या अदालत के निर्देश मिलने पर गैर-कानूनी फर्जी कंटेंट को हटाने का समय भी घटा दिया गया है। अब कई मामलों में 3 घंटे के अंदर उन्हें प्लेटफॉर्म से रिमून करना होता है।
• X का Community Notes फीचर अब फोटो और वीडियो पर भी लागू होता है। जब कोई भ्रामक या मॉर्फ्ड फोटो वायरल होती है तो यूजर्स और फैक्ट-चेकर्स कॉन्टेक्स्ट पोस्ट के नीचे दिखने लगता है।
• सोशल मीडिया कंपनियां फर्जी या मॉर्फ्ड कंटेंट को बार-बार रीपोस्ट करने वाले अकाउंट्स पर कार्रवाई करती हैं और उनकी रीच कम कर देती हैं या अकाउंट सस्पेंड कर दिया जाता है।
• नियम है कि यदि कोई सोशल मीडिया प्लेटफॉर्म शिकायत के बावजूद, तय समय में मॉर्फ्ड या डीपफेक कंटेंट पर एक्शन नहीं लेता तो उसकी कानूनी सुरक्षा खत्म की जा सकती है और कानूनी कार्रवाई भी हो सकती है।