रश्मिका मंदाना मॉर्फ्ड वीडियो: डीपफेक टेक्नोलॉजी क्या है, इसे कैसे बनाया जाता है और इसके खिलाफ कानून – News18

अभिनेत्री रश्मिका मंदाना के एक वायरल डीपफेक वीडियो ने एआई डीपफेक की अस्थिर दुनिया और बढ़ती आर्टिफिशियल इंटेलिजेंस (एआई) की अनियमित पहुंच के खतरों पर प्रकाश डाला है।

वीडियो में दिखाया गया है कि, रश्मिका के चेहरे वाली महिला, काले रंग की फिटेड पोशाक पहने हुए, एक लिफ्ट में प्रवेश कर रही है। महिला के चेहरे को मंदाना जैसा दिखने के लिए मॉर्फ और एडिट किया गया है।

डीपफेक वीडियो, जिसे एक्स (पूर्व में ट्विटर) पर 12 मिलियन से अधिक बार देखा गया है, एक ब्रिटिश भारतीय महिला ज़ारा पटेल के वीडियो से संपादित किया गया है, जिसने इंस्टाग्राम पर अपलोड किया था।

रश्मिका मंदाना और अन्य लोगों ने कैसे प्रतिक्रिया दी

मंदाना ने वायरल डीपफेक वीडियो पर अपनी चिंता व्यक्त की और कहा कि तकनीक का दुरुपयोग न केवल उनके लिए बल्कि आम इंटरनेट उपयोगकर्ताओं के लिए भी डरावना है।

“मुझे इसे साझा करते हुए वास्तव में दुख हो रहा है और मुझे ऑनलाइन फैलाए जा रहे मेरे डीपफेक वीडियो के बारे में बात करनी है। ईमानदारी से कहें तो ऐसा कुछ न केवल मेरे लिए, बल्कि हममें से हर किसी के लिए बेहद डरावना है, जो आज प्रौद्योगिकी के दुरुपयोग के कारण बहुत अधिक नुकसान की चपेट में है, ”उसने अपनी इंस्टाग्राम स्टोरी पर पोस्ट किया।

एक्टर अमिताभ बच्चन ने एक्ट्रेस के डीपफेक वीडियो पर कानूनी कार्रवाई की मांग की है. कई सोशल मीडिया उपयोगकर्ताओं ने इंटरनेट पर “अविश्वसनीय” जानकारी के तेजी से प्रसार पर भी चिंता व्यक्त की।

भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी राज्य मंत्री राजीव चन्द्रशेखर ने गहरी फर्जी और गलत सूचना वाली सामग्री को संभालने में असमर्थता के लिए सोशल मीडिया प्लेटफार्मों को फटकार लगाई है।

उन्होंने ट्विटर पर पोस्ट किया: “अप्रैल, 2023 में अधिसूचित आईटी नियमों के तहत – यह सुनिश्चित करना प्लेटफ़ॉर्म के लिए एक कानूनी दायित्व है कि किसी भी उपयोगकर्ता द्वारा कोई गलत सूचना पोस्ट न की जाए और यह सुनिश्चित किया जाए कि जब किसी उपयोगकर्ता या सरकार द्वारा रिपोर्ट की जाए, तो गलत सूचना को 36 घंटों में हटा दिया जाए। यदि प्लेटफ़ॉर्म इसका अनुपालन नहीं करते हैं, तो नियम 7 लागू होगा और आईपीसी के प्रावधानों के तहत पीड़ित व्यक्ति द्वारा प्लेटफ़ॉर्म को अदालत में ले जाया जा सकता है।

डीपफेक क्या है?

एआई डीपफेक हेरफेर का एक रूप है जो छवियों या वीडियो के रूप में अत्यधिक विश्वसनीय नकली सामग्री बनाने के लिए आर्टिफिशियल इंटेलिजेंस तकनीक का उपयोग करता है। आर्टिफिशियल इंटेलिजेंस (एआई), फोटोशॉप, मशीन लर्निंग और ऑनलाइन उपलब्ध अन्य टूल का उपयोग डीप फेक वीडियो, क्लिप और अन्य सामग्री बनाने के लिए बड़े पैमाने पर किया गया है।

एआई द्वारा तैयार की गई नकली सामग्री को ऐसे डिज़ाइन किया गया है जैसे कि वे वास्तविक व्यक्तियों द्वारा बनाई गई हों या उन्हें चित्रित किया गया हो, जबकि वास्तव में, वे पूरी तरह से नकली हैं। डीपफेक तकनीक काल्पनिक तस्वीरें, रूपांतरित वीडियो या यहां तक ​​कि सार्वजनिक हस्तियों की ‘आवाज क्लोन’ भी बना सकती है।

डीपफेक अक्सर मौजूदा सामग्री को एक छवि या वीडियो की तरह बदल देते हैं जहां यथार्थवादी रूपांतरित मीडिया उत्पन्न करने के लिए एक व्यक्ति को दूसरे से बदल दिया जाता है। प्रौद्योगिकी का उपयोग मूल सामग्री बनाने के लिए भी किया जा सकता है जहां किसी को कुछ ऐसा करते या कहते हुए दिखाया जाता है जो उन्होंने नहीं किया या कहा।

महिलाएं कैसे बढ़ रही हैं डीपफेक पॉर्न की शिकार?

डीपफेक का उपयोग ज्यादातर अश्लील सामग्री तैयार करने के लिए किया गया है, जिनमें से अधिकांश गैर-सहमति वाले हैं। डिजिटल रूप से महिलाओं के कपड़े उतारने वाले फोटो ऐप्स, “एआई गर्ल्स” बनाने के लिए कामुक टेक्स्ट-टू-इमेज प्रॉम्प्ट और यूरोप और अमेरिका सहित दुनिया भर में “सेक्सटॉर्शन” रैकेट को बढ़ावा देने वाली छवियों में हेरफेर करने में हाल ही में वृद्धि हुई है।

एआई टूल और ऐप्स का विशेष लक्ष्य महिलाएं हैं, जो व्यापक रूप से मुफ्त में उपलब्ध है और इसके लिए किसी तकनीकी विशेषज्ञता की आवश्यकता नहीं होती है। ये ऐप्स उपयोगकर्ताओं को डिजिटल रूप से उनकी तस्वीरों से कपड़े हटाने, या स्पष्ट यौन वीडियो में अपना चेहरा डालने की अनुमति देते हैं।

गायिका टेलर स्विफ्ट और अभिनेत्री एम्मा वॉटसन सहित मशहूर हस्तियां डीपफेक पोर्न की शिकार रही हैं। डच एआई कंपनी सेंसिटी के एक अध्ययन के अनुसार, ऑनलाइन लगभग 96 प्रतिशत डीपफेक वीडियो बिना सहमति के अश्लील साहित्य हैं, और उनमें से ज्यादातर महिलाओं को चित्रित करते हैं।

डीपफेक से कैसे बचाव करें?

डीपफेक से बचाव के लिए कुछ बुनियादी सुझाव इस प्रकार हैं:

• डीपफेक बनाने के लिए उपलब्ध डेटा को कम करने के लिए ऑनलाइन साझा की गई व्यक्तिगत जानकारी की मात्रा को सीमित करें।
• अपनी व्यक्तिगत सुरक्षा बढ़ाना और उन फ़ोटो या वीडियो को साझा करने से बचना जिनका उपयोग डीपफेक बनाने के लिए किया जा सकता है।
• जो लोग अपने निजी डेटा को लेकर चिंतित हैं, उन्हें अपने इंस्टाग्राम अकाउंट को सार्वजनिक के बजाय निजी में बदलने पर विचार करना चाहिए।
• यदि किसी उपयोगकर्ता के पास व्यावसायिक खाता है, तो वे इंस्टाग्राम पर व्यक्तिगत छवियों और वीडियो को छिपाने पर विचार कर सकते हैं।
• सोशल मीडिया का उपयोग करते समय हमेशा सावधानी बरतें और अपने सोशल मीडिया हैंडल को सुरक्षित रखें।

डीपफेक के खिलाफ भारतीय कानून

भारत में विशेष रूप से डीपफेक साइबर अपराध से निपटने के लिए कोई स्पष्ट रूप से परिभाषित कानून नहीं है, लेकिन अपराध से निपटने के लिए विभिन्न अन्य कानूनों का उपयोग किया जा सकता है।

• आईटी अधिनियम: सूचना प्रौद्योगिकी अधिनियम, 2000 की धारा 66 डी में संचार उपकरण या कंप्यूटर संसाधन के दुरुपयोग का प्रावधान धोखाधड़ी या प्रतिरूपण के लिए किया जाता है। कानून में तीन साल तक की कैद और 1 लाख रुपये तक जुर्माने का प्रावधान है.
• आईटी अधिनियम की धारा 66ई: आईटी अधिनियम की धारा 66ई में किसी व्यक्ति की छवियों को इंटरनेट पर कैप्चर करने, प्रकाशित करने या प्रसारित करने पर उसकी गोपनीयता भंग होने पर सजा का प्रावधान है। आउटलुक की एक रिपोर्ट के मुताबिक, इस अपराध के लिए तीन साल तक की कैद या 2 लाख रुपये तक का जुर्माना हो सकता है।
• कॉपीराइट अधिनियम, 1957: अधिनियम की धारा 51 में कहा गया है कि कॉपीराइट अधिनियम का उल्लंघन होता है जब कोई संपत्ति जो किसी अन्य व्यक्ति की होती है जिसके पास विशेष अधिकार होता है, का उपयोग किया जाता है।
• डेटा संरक्षण विधेयक 2021: विधेयक में किसी भी प्रकार के व्यक्तिगत और गैर-व्यक्तिगत डेटा के उल्लंघन पर दंड का प्रावधान है। यह कानून डीप फेक सहित साइबर अपराधों से निपटने में महत्वपूर्ण भूमिका निभा सकता है।
• आईटी नियम 2023: आईटी संशोधन नियम, 2023 के अनुसार, डिजिटल प्लेटफार्मों के लिए यह सुनिश्चित करना एक कानूनी दायित्व है कि इंटरनेट साइटों या सोशल मीडिया पर कोई गलत सूचना पोस्ट न की जाए। इंटरनेट साइटों को यह भी सुनिश्चित करना होगा कि किसी भी उपयोगकर्ता या सरकार द्वारा रिपोर्ट करने के बाद 36 घंटों में गलत सूचना हटा दी जाए।