सोशल मीडिया पर वायरल हो रहे आलिया भट्ट, कैटरीना कैफ और रश्मिका मंदाना जैसे लोकप्रिय कलाकारों के डीपफेक वीडियो एआई तकनीक के गंभीर परिणामों से निपटने के लिए आसन्न सामूहिक आवश्यकता और सभी क्षेत्रों से कार्रवाई के आह्वान को मजबूत करते हैं।
जैसे-जैसे ये परिष्कृत हेरफेर किए गए वीडियो और छवियां फैलती जा रही हैं, विनियमन, रोकथाम और जागरूकता के आसपास की बातचीत ने उद्योग के विशेषज्ञों के बीच गलत सूचना से बचाव और व्यक्तिगत अखंडता की रक्षा करने के लक्ष्य को केंद्र में ले लिया है।
सोफोस के फील्ड सीटीओ (एशिया प्रशांत और जापान) एरोन बुगल ने सरकारी हस्तक्षेप के महत्व पर जोर देते हुए कहा, “यह देखना आश्वस्त करने वाला है कि इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने सोशल मीडिया कंपनियों को एक सलाह भेजकर गहरी-नकली सामग्री से निपटने का आग्रह किया है।” . सरकार की ऐसी सख्त सलाह डीपफेक सामग्री बनाने के लिए उपयोग किए जा रहे डेटा के ग्राफ को समतल करने में मदद कर सकती है। बुगल ने ऑनलाइन गलत प्रतिनिधित्व का सामना करने वालों के लिए सामग्री सत्यापन और तत्काल प्रतिक्रिया रणनीतियों के लिए डिजिटल रूप से हस्ताक्षरित वीडियो के महत्व पर जोर दिया।
इस बीच, CYFIRMA के संस्थापक और सीईओ कुमार रितेश ने व्यापक नियामक ढांचे और जन जागरूकता अभियानों की आवश्यकता को रेखांकित करते हुए कहा, “डीपफेक तकनीक के दुरुपयोग से बचाव के लिए नियामक ढांचे अभी उभर रहे हैं और निश्चित रूप से समय के साथ विकसित होंगे”। उन्होंने डीपफेक के निर्माण, वितरण और दुर्भावनापूर्ण उपयोग को लक्षित करने वाले कानूनों की वकालत की, साथ ही प्रौद्योगिकी विकास और अंतर्राष्ट्रीय सहयोग के वित्तपोषण में सरकारों की भूमिका पर भी जोर दिया।
इसी तरह, सेक्यूरेटेक के सह-संस्थापक और सीईओ पंकित देसाई ने एक स्पष्ट नियामक ढांचे की तात्कालिकता पर जोर देते हुए कहा, “डीपफेक की स्पष्ट परिभाषा और उनसे जुड़े आपराधिक परिणाम अत्यंत महत्वपूर्ण हैं”। देसाई ने हेरफेर की गई सामग्री के प्रसार को सीमित करने के लिए सामग्री मॉडरेशन और उपयोगकर्ता शिक्षा में सोशल मीडिया प्लेटफार्मों की भूमिका को रेखांकित किया।
रेड बैंगल की सह-संस्थापक लक्ष्मी रेबेका ने सक्रिय उपायों की आवश्यकता पर प्रकाश डालते हुए कहा, “हालांकि डीपफेक तकनीक वीडियो उत्पादन में उल्लेखनीय संभावनाएं प्रस्तुत करती है, लेकिन इसका दुरुपयोग विश्वास और प्रामाणिकता के लिए एक महत्वपूर्ण खतरा पैदा करता है।” उन्होंने ब्रांड स्टोरीटेलिंग के दायरे में डीपफेक तकनीक के नैतिक और पारदर्शी अनुप्रयोग की वकालत की।
वीडियोवर्स के सीईओ और संस्थापक, विनायक श्रीवास्तव ने मजबूत नियमों और एआई की भूमिका की ओर इशारा करते हुए कहा, “डीपफेक प्रसार को कम करने के लिए एक बहुआयामी दृष्टिकोण शामिल है, जबकि प्लेटफॉर्म और प्रौद्योगिकी कंपनियां पता लगाने के लिए एआई-संचालित समाधान तैनात करना चाहती हैं। ”। इसके अतिरिक्त, उन्होंने डीपफेक तकनीक से जुड़ी नैतिक दुविधाओं से निपटने के लिए जन जागरूकता अभियान और उद्योग सहयोग के महत्व पर जोर दिया।
अन्य उद्योग विशेषज्ञों की तरह, mFilterIt के सह-संस्थापक और CTO धीरज गुप्ता ने सक्रिय उपायों की आवश्यकता को रेखांकित करते हुए कहा, “हमें एक सक्रिय अलर्ट-आधारित प्रणाली की आवश्यकता है, जहां अलर्ट प्राप्त करने पर, और मानव+एआई हस्तक्षेप के माध्यम से, हमें इसकी आवश्यकता है। प्राप्त डीपफेक को होल्ड पर रखने के लिए।” गुप्ता ने कहा कि प्लेटफार्मों को सामग्री की जिम्मेदारी लेनी चाहिए, खासकर डीपफेक की वायरल प्रकृति को देखते हुए।
भारतीय माइक्रोब्लॉगिंग और सोशल नेटवर्किंग प्लेटफॉर्म कू के सह-संस्थापक मयंक बिदावतका ने डीपफेक से निपटने के लिए मंच की प्रतिबद्धता व्यक्त करते हुए पुष्टि की, “हम अपने उपयोगकर्ताओं की सुरक्षा के लिए ऐसी सामग्री के वितरण को रोकने के लिए सक्रिय कदमों की एक सूची लेने की योजना बना रहे हैं।” बिदावतका ने सुरक्षित इंटरनेट स्थान सुनिश्चित करने के लिए नियामक दिशानिर्देशों के अनुरूप ऐसी सामग्री वितरित करने में शामिल खातों को निलंबित करने के इरादे पर प्रकाश डाला।
उद्योग के अंदरूनी सूत्रों के बीच एकीकृत रुख डीपफेक खतरे से निपटने की तात्कालिकता को रेखांकित करता है। कड़े नियमों, तकनीकी नवाचारों और जन जागरूकता अभियानों के लिए उनका सामूहिक आह्वान इस तेजी से विकसित हो रहे परिदृश्य को नेविगेट करने के लिए आवश्यक बहुआयामी दृष्टिकोण को उजागर करता है, जिससे सभी के लिए एक सुरक्षित और अधिक भरोसेमंद डिजिटल वातावरण सुनिश्चित होता है।
