नई दिल्ली: डीपफेक और एआई के दुरुपयोग के बढ़ते खतरे ने एक परेशान करने वाला मोड़ ले लिया है, एक हालिया जांच से पता चला है कि टेलीग्राम पर एआई-संचालित चैटबॉट का उपयोग वास्तविक लोगों की स्पष्ट छवियां उत्पन्न करने के लिए किया जा रहा है। कथित तौर पर लाखों उपयोगकर्ता इन उपकरणों से जुड़ रहे हैं, जिससे गोपनीयता, सहमति और इस तकनीक से होने वाले संभावित नुकसान के बारे में गंभीर चिंताएं बढ़ रही हैं। दुनिया भर के अधिकारी और व्यक्ति अब इस खतरनाक प्रवृत्ति के निहितार्थ से जूझ रहे हैं।
टेलर स्विफ्ट, जेना ओर्टेगा, आलिया भट्ट और रश्मिका मंदाना सहित कई हस्तियां इन डीपफेक का शिकार हो चुकी हैं। इससे भी अधिक चिंताजनक बात यह है कि अब किशोर लड़कियों को निशाना बनाया जा रहा है, सेक्सटॉर्शन योजनाओं के लिए डीपफेक का तेजी से उपयोग किया जा रहा है।
ये AI-संचालित बॉट उपयोगकर्ताओं को कुछ ही क्लिक के साथ फ़ोटो बदलने की अनुमति देते हैं। यह डीपफेक बनाता है जो कपड़े उतारता है या मनगढ़ंत यौन गतिविधि को चित्रित करता है। वायर्ड की एक हालिया रिपोर्ट के अनुसार, लगभग 4 मिलियन लोग ऐसे डीपफेक बनाने के लिए मासिक रूप से इन चैटबॉट्स का उपयोग करते हैं। इससे गोपनीयता और सुरक्षा को गंभीर ख़तरे पैदा होते हैं, ख़ासकर युवा लड़कियों और महिलाओं के लिए।
चार साल पहले, डीपफेक विशेषज्ञ हेनरी एजडर ने एक टेलीग्राम बॉट का खुलासा किया था जिसे एआई का उपयोग करके महिलाओं की तस्वीरों को “कपड़े उतारने” के लिए डिज़ाइन किया गया था। आज, एक नए अध्ययन से यह मुद्दा तेजी से बढ़ गया है कि कम से कम 50 समान बॉट अब प्लेटफ़ॉर्म पर सक्रिय हैं, जो 4 मिलियन से अधिक मासिक उपयोगकर्ताओं को आकर्षित कर रहे हैं। ये उपकरण उपयोगकर्ताओं को केवल कुछ क्लिक के साथ फ़ोटो संपादित करके वास्तविक लोगों की नग्न छवियां आसानी से उत्पन्न करने की अनुमति देते हैं और कुछ लोग यौन कार्य करते हुए व्यक्तियों की नकली छवियां भी बनाते हैं।
स्पष्ट सामग्री में शामिल टेलीग्राम समूहों के WIRED के विश्लेषण से पता चलता है कि कम से कम दो बॉट के 400,000 से अधिक मासिक उपयोगकर्ता हैं, अन्य 14 बॉट 100,000 से अधिक ग्राहकों को आकर्षित करते हैं। डीपफेक विशेषज्ञ हेनरी एजडर ने इस स्थिति को “दुःस्वप्न” कहा है, जिसमें विशेष रूप से युवा लड़कियों को इन उपकरणों से होने वाले गंभीर नुकसान पर जोर दिया गया है।
WIRED रिपोर्ट के अनुसार, कम से कम 25 टेलीग्राम चैनल पहचाने गए बॉट्स का समर्थन करते हैं, जो संयुक्त रूप से 3 मिलियन से अधिक सदस्यों को आकर्षित करते हैं। ये चैनल नई बॉट सुविधाओं पर अपडेट प्रदान करते हैं, बॉट का उपयोग करने के लिए आवश्यक “टोकन” पर विशेष सौदे पेश करते हैं और अक्सर उपयोगकर्ताओं को टेलीग्राम द्वारा मूल बॉट हटा दिए जाने पर वैकल्पिक बॉट की ओर निर्देशित करते हैं। इसके अलावा, “न्यूडिफाई” वेबसाइटों की मांग इतनी अधिक हो गई है कि रूसी साइबर अपराधियों ने, जैसा कि 404मीडिया रिपोर्ट में कहा गया है, उपयोगकर्ताओं को मैलवेयर से संक्रमित करने के लिए नकली साइटें बनाना शुरू कर दिया है।
