एआई-पावर्ड टूल्स, डीपफेक इंटरनेट यूजर्स के सामने गलत सूचनाओं की चुनौती पेश करते हैं

आर्टिफिशियल इंटेलिजेंस, डीपफेक और सोशल मीडिया… आम लोगों की समझ में नहीं आया, तीन का कॉम्बो लाखों इंटरनेट उपयोगकर्ताओं के लिए एक रहस्यमयी बाधा बन गया है, जो नकली से असली को छानने की रोजमर्रा की लड़ाई में फंस गए हैं।

गलत सूचनाओं के खिलाफ लड़ाई हमेशा चुनौतीपूर्ण रही है और एआई-संचालित उपकरणों के विकास के बाद से कई सोशल मीडिया प्लेटफॉर्म पर डीपफेक का पता लगाना अधिक कठिन हो गया है। नकली समाचार बनाने की एआई की अनपेक्षित क्षमता – इसे रोकने की तुलना में तेज़ – के चिंताजनक परिणाम हैं।

“भारत के तेजी से बदलते सूचना पारिस्थितिकी तंत्र में, डीपफेक गलत सूचना के एक नए मोर्चे के रूप में उभरा है, जिससे लोगों के लिए झूठी और सच्ची जानकारी के बीच अंतर करना मुश्किल हो गया है,” सैयद नज़ाकत, डेटालेड्स के संस्थापक और सीईओ, एक डिजिटल मीडिया समूह सूचना साक्षरता और सूचना साक्षरता का निर्माण कर रहा है। इन्फोडेमिक प्रबंधन पहल, पीटीआई को बताया। भारत पहले से ही विभिन्न भारतीय भाषाओं में गलत सूचनाओं की बाढ़ से जूझ रहा है। विभिन्न एआई बॉट्स और इंटरनेट पर डीपफेक चलाने वाले टूल्स के साथ यह स्थिति और खराब हो जाएगी।

“एआई मॉडल की अगली पीढ़ी, जिसे जनरेटिव एआई कहा जाता है – उदाहरण के लिए, डीएएल-ई, चैटजीपीटी, मेटा मेक-ए-वीडियो इत्यादि – को बदलने के लिए स्रोत की आवश्यकता नहीं है। इसके बजाय, वे संकेतों के आधार पर एक छवि, पाठ या वीडियो उत्पन्न कर सकते हैं। ये अभी भी विकास के प्रारंभिक चरण में हैं, लेकिन कोई नुकसान की संभावना देख सकता है क्योंकि हमारे पास साक्ष्य के रूप में उपयोग करने के लिए कोई मूल सामग्री नहीं होगी, ”अज़हर माचवे ने जोड़ा, जिन्होंने ब्रिटिश टेलीकॉम में एआई के लिए एक उद्यम वास्तुकार के रूप में काम किया।

डीपफेक क्या है

डीपफेक ऐसी तस्वीरें और वीडियो हैं जो वास्तविक रूप से एक व्यक्ति के चेहरे को दूसरे व्यक्ति से बदल देते हैं। इंटरनेट उपयोगकर्ताओं के लिए उनके स्मार्टफोन पर कई एआई उपकरण लगभग मुफ्त में उपलब्ध हैं। अपने सरलतम रूप में, एआई को उन चीजों को करने के लिए कंप्यूटर का उपयोग करने के रूप में समझाया जा सकता है जिनके लिए मानव बुद्धि की आवश्यकता होती है। एक उल्लेखनीय उदाहरण माइक्रोसॉफ्ट के चैटजीपीटी और गूगल के बार्ड के बीच चल रही प्रतिस्पर्धा हो सकती है।

जबकि दोनों एआई उपकरण मानव-स्तर के लेखन के निर्माण को स्वचालित करते हैं, अंतर यह है कि बीएआरडी संवाद अनुप्रयोगों (एलएएमडीए) के लिए Google के भाषा मॉडल का उपयोग करता है और रीयल-टाइम और इंटरनेट से खींचे गए वर्तमान शोध के आधार पर प्रतिक्रिया दे सकता है। ChatGPT अपने जनरेटिव प्री-ट्रेनिंग ट्रांसफार्मर 3 (GPT-3) मॉडल का उपयोग करता है, जिसे 2021 के अंत से पहले डेटा पर प्रशिक्षित किया जाता है।

हाल के उदाहरण

ट्विटर और फेसबुक सहित सोशल मीडिया प्लेटफॉर्म पर पिछले हफ्ते साझा किए गए दो सिंथेटिक वीडियो और एक हिंदी अखबार की रिपोर्ट का डिजिटल रूप से बदला हुआ स्क्रीनशॉट भ्रामक या झूठे दावों के साथ बदली हुई तस्वीरें और छेड़छाड़ वाले वीडियो बनाने में एआई टूल्स के अनपेक्षित परिणामों को उजागर करता है।

सिंथेटिक वीडियो एआई के साथ कैमरे, अभिनेताओं और अन्य भौतिक तत्वों के बिना उत्पन्न कोई भी वीडियो है।

माइक्रोसॉफ्ट के सह-संस्थापक बिल गेट्स के एक साक्षात्कार में एक पत्रकार द्वारा घेर लिए जाने का एक वीडियो वास्तविक के रूप में साझा किया गया था और बाद में इसे संपादित पाया गया। अमेरिकी राष्ट्रपति जो बिडेन द्वारा यूक्रेन में युद्ध लड़ने के लिए एक राष्ट्रीय मसौदे (सशस्त्र बलों में व्यक्तियों का अनिवार्य नामांकन) के आह्वान का एक डिजिटल रूप से बदला हुआ वीडियो प्रामाणिक के रूप में साझा किया गया था। एक अन्य उदाहरण में, तमिलनाडु में प्रवासी श्रमिकों के बारे में गलत सूचना फैलाने के लिए एक संपादित तस्वीर को एक हिंदी अखबार की रिपोर्ट की तरह व्यापक रूप से प्रसारित किया गया था।

तीनों उदाहरणों – दो सिंथेटिक वीडियो और एक हिंदी अखबार की रिपोर्ट के डिजिटल रूप से परिवर्तित स्क्रीनशॉट – को सोशल मीडिया प्लेटफॉर्म पर हजारों इंटरनेट उपयोगकर्ताओं द्वारा साझा किया गया था, जिन्होंने सोचा था कि वे वास्तविक थे।

भ्रामक या झूठे दावों के साथ परिवर्तित फ़ोटो और छेड़छाड़ वाले वीडियो बनाने में AI टूल के अनपेक्षित परिणामों को उजागर करते हुए, सोशल मीडिया और मुख्यधारा के मीडिया आउटलेट्स पर कहानियों में मुद्दे बढ़ गए।

पीटीआई की फैक्ट चेक टीम ने तीन दावों की पड़ताल की और इंटरनेट पर आसानी से उपलब्ध एआई-संचालित टूल का उपयोग करके उन्हें ‘डीपफेक’ और ‘डिजिटल रूप से संपादित’ के रूप में खारिज कर दिया।

एआई और फेक न्यूज कुछ साल पहले, पत्रकारिता में एआई की शुरूआत ने उद्योग और समाचारों के निर्माण और वितरण में एक क्रांतिकारी उथल-पुथल की उम्मीद जगाई। इसे फर्जी खबरों और गलत सूचनाओं के प्रसार को रोकने के प्रभावी तरीके के रूप में भी देखा गया। “डीपफेक की एक कमजोरी यह रही है कि उन्हें काम करने के लिए कुछ मूल सामग्री की आवश्यकता होती है। उदाहरण के लिए, बिल गेट्स वीडियो ने मूल ऑडियो को नकली ऑडियो से ढक दिया। यदि मूल की पहचान की जा सकती है तो इन वीडियो को खारिज करना अपेक्षाकृत आसान है, लेकिन इसमें समय लगता है और मूल सामग्री की खोज करने की क्षमता होती है।”

उनका मानना ​​है कि हाल ही में सोशल मीडिया पर शेयर किए गए डीपफेक को ट्रैक करना आसान है, लेकिन उन्हें इस बात की भी चिंता थी कि आने वाले दिनों में इस तरह के सिंथेटिक वीडियो को डिबंक करना चुनौतीपूर्ण होगा।

“मूल ​​वीडियो को बदलने से दोष हो सकते हैं (जैसे प्रकाश / छाया बेमेल) जिसका पता लगाने के लिए एआई-मॉडल को प्रशिक्षित किया जा सकता है। एल्गोरिदम (और मनुष्यों) से इन दोषों को छिपाने के लिए ये परिणामी वीडियो अक्सर निम्न गुणवत्ता वाले होते हैं,” उन्होंने समझाया।

उनके अनुसार, नकली समाचार कई रूपों में तैरते हैं और डीपफेक इन दिनों बहुत ही बुनियादी एआई-संचालित उपकरणों द्वारा बनाए जाते हैं। इन वीडियो को डिबैंक करना अपेक्षाकृत आसान है।

“लेकिन 100 प्रतिशत सटीकता नहीं हो सकती है। उदाहरण के लिए, इंटेल का संस्करण 96 प्रतिशत सटीकता का वादा करता है, जिसका अर्थ है कि 100 में से 4 अभी भी प्राप्त कर लेंगे, ”उन्होंने कहा।

आगे का रास्ता अधिकांश सोशल मीडिया प्लेटफॉर्म भाषा पैटर्न और क्राउड-सोर्सिंग के आधार पर नकली समाचार पहचान एल्गोरिदम बनाकर स्रोत पर गलत सूचना के प्रसार को कम करने का दावा करते हैं। यह सुनिश्चित करता है कि तथ्य के बाद पता लगाने और उसे हटाने के बजाय गलत सूचना को फैलने नहीं दिया जाए।

जबकि डीपफेक के उदाहरण फर्जी समाचार उत्पन्न करने में एआई के संभावित खतरों को उजागर करते हैं, एआई और मशीन लर्निंग ने पत्रकारिता को कई कार्य-सुविधा उपकरण प्रदान किए हैं जो आवाज-पहचान ट्रांसक्रिप्शन टूल को स्वचालित रूप से सामग्री उत्पन्न करने में मदद करते हैं।

“एआई पत्रकारों को गुणवत्तापूर्ण सामग्री विकसित करने पर अपनी ऊर्जा केंद्रित करने में मदद करना जारी रखता है क्योंकि प्रौद्योगिकी समय पर और त्वरित सामग्री वितरण सुनिश्चित करती है। ह्यूमन-इन-लूप को किसी भी प्रारूप – पाठ, छवि, वीडियो, ऑडियो आदि में साझा की गई सामग्री की निरंतरता और सत्यता की जांच करने की आवश्यकता होगी, ”अजहर ने कहा।

डीपफेक को स्पष्ट रूप से भारत में ‘कृत्रिम रूप से उत्पन्न’ के रूप में लेबल किया जाना चाहिए, जिसमें 2021 में 700 मिलियन से अधिक स्मार्टफोन उपयोगकर्ता (दो वर्ष और उससे अधिक) थे। हाल ही में नीलसन की एक रिपोर्ट में कहा गया है कि ग्रामीण भारत में 425 मिलियन से अधिक इंटरनेट उपयोगकर्ता थे, जो 295 से 44 प्रतिशत अधिक थे। शहरी भारत में मिलियन लोग इंटरनेट का उपयोग करते हैं।

“मनुष्य उन लोगों के ‘गूंज कक्षों’ में शामिल होने के लिए प्रवृत्त होते हैं जो समान सोचते हैं। हमें बुनियादी शिक्षा में मीडिया साक्षरता और आलोचनात्मक सोच पाठ्यक्रम को शामिल करने की आवश्यकता है ताकि जागरूकता को बढ़ावा दिया जा सके और लोगों को गलत सूचनाओं से बचाने में मदद करने के लिए एक सक्रिय दृष्टिकोण का निर्माण किया जा सके।

नजाकत ने कहा, “हमें आज और कल के जटिल डिजिटल परिदृश्य के लिए सभी उम्र के लोगों को डीपफेक और दुष्प्रचार से सतर्क रहने के लिए तैयार करने के लिए पूरे भारत में एक बहु-आयामी, क्रॉस-सेक्टर दृष्टिकोण की आवश्यकता है।”

भारत जैसे बड़े देश के लिए, बदलते सूचना परिदृश्य ने सभी भाषाओं में सूचना साक्षरता कौशल की और भी अधिक आवश्यकता पैदा कर दी है। उन्होंने कहा कि प्रत्येक शैक्षणिक संस्थान को अगले दशक के लिए सूचना साक्षरता को प्राथमिकता देनी चाहिए। पीटीआई पीआरएन मिन मिन मिन

.

.

सभी लेटेस्ट टेक न्यूज यहां पढ़ें

(यह कहानी News18 के कर्मचारियों द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड समाचार एजेंसी फीड से प्रकाशित हुई है)