आखरी अपडेट:
बेंगलुरु के एक यूट्यूबर ईशान शर्मा ने एक वीडियो साझा किया, जहां वह कई व्यक्तित्वों में बदल जाते हैं।
वह व्यक्ति टेलर स्विफ्ट, निर्मला सीतारमण और स्कारलेट जोहानसन के रूप में दिखाई देता है। (फोटो क्रेडिट: एक्स)
कृत्रिम बुद्धिमत्ता (एआई) लगभग हर उस चीज़ का हिस्सा बन गई है जिसे हम ऑनलाइन देखते हैं। और इसीलिए अब यह जानना कठिन हो गया है कि वास्तविक क्या है, क्योंकि परिचित चेहरों से भी छेड़छाड़ की जा सकती है। आज सबसे बड़ी चिंताओं में से एक डीपफेक है जो किसी को भी कुछ ऐसा कहने या करने पर मजबूर कर सकता है जो उन्होंने वास्तव में कभी नहीं किया।
हाल ही में वायरल हुए एक वीडियो में दिखाया गया है कि ये एआई डीपफेक कितने विश्वसनीय (और चिंताजनक) हो सकते हैं।
यूट्यूबर मशहूर हस्तियों में बदल गया और दर्शकों को सावधान किया
बेंगलुरु के एक यूट्यूबर ईशान शर्मा ने एक्स (पूर्व में ट्विटर) पर एक वीडियो साझा किया, जहां वह कई व्यक्तित्वों में बदल जाते हैं। वह टेलर स्विफ्ट, निर्मला सीतारमण, रणवीर सिंह, शाहरुख खान, प्रियंका चोपड़ा, स्कारलेट जोहानसन, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प और यहां तक कि जेफरी एपस्टीन और विजय माल्या जैसी विवादास्पद शख्सियतों के रूप में भी दिखाई देते हैं।
वीडियो में, ईशान दर्शकों को चेतावनी देते हुए कहते हैं, “सभी को नमस्कार, यह सिर्फ एक अनुस्मारक है कि आप सोशल मीडिया पर जो कुछ भी देखते हैं उस पर अब आप भरोसा नहीं कर सकते। जिन क्रिएटर्स को आप फॉलो करते हैं, जो तस्वीरें आप देखते हैं, जो वीडियो आप देखते हैं वे वास्तविक नहीं हो सकते हैं।”
वह आगे कहते हैं, “मैं आपके जाने बिना अपना चेहरा, अपनी उम्र, अपना लिंग और यहां तक कि अपनी आवाज भी बदल सकता हूं। वास्तव में, मैं अभी इस वीडियो को रिकॉर्ड भी नहीं कर रहा हूं। यह सब एआई है। जागरूक रहें और इस वीडियो को किसी मित्र को भेजें।”
वेक-अप कॉल बनाम ओवररीच
वीडियो पर ऑनलाइन तीव्र प्रतिक्रियाएं हुईं, एक उपयोगकर्ता ने टिप्पणी की, “एआई जागरूकता का स्तर आज बढ़ गया है! यह वीडियो बिल्कुल दिखाता है कि आप अराजकता फैलाने के लिए डीपफेक वीडियो का दुरुपयोग कैसे कर सकते हैं … अति महत्वपूर्ण जागरूकता कॉल। भारत को लोगों को शिक्षित करने के लिए सभी भाषाओं में नियमित अभियान की आवश्यकता है।”
एक अन्य ने कहा, “इस व्यक्ति ने जागरूकता पैदा करने में जो किया है वह भारत सरकार, सूचना और प्रसारण मंत्रालय/इलेक्ट्रॉनिक्स और आईटी मंत्रालय को नियमित रूप से करना चाहिए… यह दर्शाता है कि कैसे विरोधी भारतीयों को भड़काने के लिए एआई वीडियो का उपयोग कर सकते हैं।”
लेकिन कुछ लोग सरकारी हस्तक्षेप पर संदेह कर रहे थे, जैसा कि एक व्यक्ति ने लिखा, “तो आप चाहते हैं कि सरकार एआई को भी गंभीरता से नियंत्रित करे। वे अधिक से अधिक दिशानिर्देश जारी कर सकते हैं, यदि किसी वीडियो फोटो में एआई का उपयोग किया गया है, तो अस्वीकरण होना चाहिए, फिर भी वे इसे निजी व्यक्ति पर थोप नहीं सकते, यथार्थवादी बनें।”
डीपफेक के खतरे
पिछले साल जर्नल ऑफ इनोवेशन एंड नॉलेज में प्रकाशित एक अध्ययन में “सात यूरोपीय देशों के मूल जनमत-मतदान साक्ष्य के साथ एक क्रॉस-डिसिप्लिनरी साहित्य संश्लेषण को एकीकृत करके” एआई डीपफेक का विस्तृत मूल्यांकन प्रदान किया गया था। अध्ययन कई जोखिमों पर प्रकाश डालता है:
लोकतंत्र और सामाजिक विश्वास को ख़तरा: डीपफेक जनमत में हेरफेर कर सकते हैं, चुनावों को प्रभावित कर सकते हैं और लोकतांत्रिक प्रक्रियाओं को कमजोर कर सकते हैं। अध्ययन में कहा गया है कि 2023 में, 11 देशों में राजनीतिक चर्चा पर उनका महत्वपूर्ण प्रभाव पड़ा। विकासशील क्षेत्र “तकनीकी प्रगति और सीमित सार्वजनिक ज्ञान” के कारण विशेष रूप से असुरक्षित हैं जो हानिकारक प्रभावों को बढ़ा सकते हैं।
व्यक्तिगत क्षति: डीपफेक व्यक्तियों का विश्वसनीय लेकिन गलत चित्रण कर सकते हैं, कभी-कभी उन्हें सहमति के बिना अश्लील साहित्य सहित स्पष्ट सामग्री में डाल सकते हैं।
साइबर सुरक्षा जोखिम: डीपफेक में भ्रामक जानकारी संस्थानों को अस्थिर कर सकती है। इससे पता लगाने वाले उपकरणों और मजबूत कानूनी ढांचे की आवश्यकता में वृद्धि हुई है।
नैतिक दुविधाएँ: चालाकीपूर्ण डीपफेक वास्तविकता और कल्पना के बीच की रेखा को धुंधला कर देते हैं। यह प्रामाणिकता और जवाबदेही पर सवाल उठाता है।
लेकिन क्या डीपफेक वास्तव में हमारी मदद कर सकते हैं?
इन चिंताओं के बावजूद, यदि जिम्मेदारी से उपयोग किया जाए तो डीपफेक के भी उल्लेखनीय फायदे हैं, जैसा कि अध्ययन में बताया गया है।
रचनात्मकता और मीडिया उत्पादन: फिल्म निर्माता और कलाकार ऐसे दृश्यों का निर्माण कर सकते हैं जो अन्यथा असंभव या बेहद महंगे होंगे, “मीडिया उत्पादन में सफलताओं को प्रोत्साहित करते हुए।”
शिक्षण और प्रशिक्षण: डीपफेक ऐतिहासिक पुनर्मूल्यांकन या भाषा सिमुलेशन जैसे गहन सीखने के अनुभव बना सकते हैं। वे “सीखने के परिणामों को बढ़ा सकते हैं और पहुंच को व्यापक बना सकते हैं।”
साइबर सुरक्षा अनुप्रयोग: वे FORGE जैसी प्रणालियों के माध्यम से बौद्धिक संपदा की सुरक्षा कर सकते हैं। अध्ययन में उल्लेख किया गया है, “वे संवेदनशील डेटा चुराने का प्रयास करने वाले घुसपैठियों को गुमराह कर सकते हैं, जिससे साइबर सुरक्षा को बढ़ावा मिलेगा।”
सामाजिक जागरूकता और स्वास्थ्य अभियान: समुदाय समझ, स्वस्थ व्यवहार और नागरिक जुड़ाव को बढ़ावा देने वाले अभियानों के लिए एआई-जनित मीडिया का उपयोग कर सकते हैं।
सकारात्मक सामाजिक प्रभाव: यथार्थवादी सिमुलेशन और इंटरैक्टिव अनुभव प्रदान करके, नैतिक मानकों को लागू करने पर डीपफेक सामुदायिक पहल और डिजिटल संचार को बढ़ा सकते हैं।
दिल्ली, भारत, भारत
10 फरवरी, 2026, 17:43 IST
और पढ़ें
