आखरी अपडेट: 31 जनवरी 2024, 08:00 IST
बड़ी डीपफेक घटनाओं को रोकने के लिए माइक्रोसॉफ्ट अपने एआई टूल्स के लिए नई सुरक्षा ला रहा है
कंपनी को नए सुरक्षा फीचर्स लाने के लिए मजबूर किया जा रहा है, जिससे भविष्य में बड़ी डीपफेक घटनाओं से बचने में मदद मिलेगी।
माइक्रोसॉफ्ट ने अपने एआई टेक्स्ट-टू-इमेज जेनरेशन टूल डिज़ाइनर में अधिक सुरक्षाएं पेश की हैं, जिसका उपयोग उपयोगकर्ता मशहूर हस्तियों की गैर-सहमति वाली यौन छवियां बनाने के लिए कर रहे थे।
404 मीडिया की रिपोर्ट के अनुसार, यह बदलाव अमेरिकी गायक-गीतकार टेलर स्विफ्ट की एआई-जनरेटेड नग्न छवियों के बाद आया है, जो पिछले हफ्ते एक्स पर वायरल हुई थी, जो 4chan और एक टेलीग्राम चैनल से आई थी, जहां लोग मशहूर हस्तियों की एआई-जनरेटेड छवियां बनाने के लिए डिजाइनर का उपयोग कर रहे थे।
माइक्रोसॉफ्ट के प्रवक्ता के हवाले से कहा गया, “हम इन रिपोर्टों की जांच कर रहे हैं और उन्हें संबोधित करने के लिए उचित कार्रवाई कर रहे हैं।”
“हमारी आचार संहिता वयस्क या गैर-सहमति वाली अंतरंग सामग्री के निर्माण के लिए हमारे उपकरणों के उपयोग पर रोक लगाती है, और हमारी नीतियों के खिलाफ जाने वाली सामग्री का उत्पादन करने के किसी भी बार-बार प्रयास के परिणामस्वरूप सेवा तक पहुंच का नुकसान हो सकता है। हमारे पास बड़ी टीमें हैं जो हमारे जिम्मेदार एआई सिद्धांतों के अनुरूप रेलिंग और अन्य सुरक्षा प्रणालियों के विकास पर काम कर रही हैं।''
माइक्रोसॉफ्ट ने कहा कि चल रही जांच यह पुष्टि करने में असमर्थ है कि एक्स पर स्विफ्ट की छवियां डिजाइनर का उपयोग करके बनाई गई थीं या नहीं। हालाँकि, रिपोर्ट में उल्लेख किया गया है कि कंपनी अपने टेक्स्ट फ़िल्टरिंग संकेतों को मजबूत करना और अपनी सेवाओं के दुरुपयोग को संबोधित करना जारी रख रही है।
इस बीच, माइक्रोसॉफ्ट के अध्यक्ष और सीईओ सत्य नडेला ने कहा है कि स्पष्ट स्विफ्ट एआई नकली “खतरनाक और भयानक” हैं।
एनबीसी नाइटली न्यूज के साथ एक साक्षात्कार में नडेला ने कहा कि “मुझे लगता है कि हमें इस पर तेजी से आगे बढ़ना चाहिए।” कथित तौर पर स्विफ्ट डीपफेक तैयार करने के लिए जिम्मेदार वेबसाइट के खिलाफ संभावित कानूनी कार्रवाई पर विचार कर रही है।
