Google सिंथेटिक मीडिया से जुड़े सुरक्षा और संरक्षा जोखिमों का समाधान करेगा।
Google आगामी ग्लोबल पार्टनरशिप ऑन आर्टिफिशियल इंटेलिजेंस (GPAI) शिखर सम्मेलन के दौरान ‘सिंथेटिक मीडिया’ से जुड़े सुरक्षा और सुरक्षा जोखिमों को संबोधित करेगा।
डीपफेक वीडियो से निपटने के लिए, अमेरिका स्थित तकनीकी दिग्गज Google सुरक्षा और सुरक्षा जोखिमों की एक विस्तृत श्रृंखला का परीक्षण कर रहा है, जिसमें AI-जनित, फोटो-यथार्थवादी, सिंथेटिक ऑडियो या वीडियो सामग्री के नए रूपों का उद्भव शामिल है, जिन्हें ‘सिंथेटिक मीडिया’ के रूप में जाना जाता है। ‘
“हालाँकि इस तकनीक में उपयोगी अनुप्रयोग हैं, लेकिन डीप फेक के माध्यम से दुष्प्रचार अभियानों और अन्य दुर्भावनापूर्ण उद्देश्यों के लिए उपयोग किए जाने पर यह चिंता पैदा करता है। कंपनी ने एक ब्लॉगपोस्ट में कहा, झूठी कहानियां फैलाने और हेरफेर की गई सामग्री के नकारात्मक प्रभाव हो सकते हैं।
भारत सरकार के सहयोग से, तकनीकी दिग्गज आगामी ग्लोबल पार्टनरशिप ऑन आर्टिफिशियल इंटेलिजेंस (जीपीएआई) शिखर सम्मेलन के दौरान ‘सिंथेटिक मीडिया’ से जुड़े सुरक्षा और सुरक्षा जोखिमों को संबोधित करेंगे।
“बहु-हितधारक चर्चा के लिए भारत सरकार के साथ हमारा सहयोग इस चुनौती को एक साथ संबोधित करने और एआई के लिए एक जिम्मेदार दृष्टिकोण सुनिश्चित करने की हमारी प्रतिबद्धता के अनुरूप है। बहुहितधारक दृष्टिकोण को अपनाकर और जिम्मेदार एआई विकास को बढ़ावा देकर, हम यह सुनिश्चित कर सकते हैं कि एआई की परिवर्तनकारी क्षमता दुनिया में अच्छाई के लिए एक ताकत के रूप में काम करती रहेगी।”
नकली छवियों के खिलाफ लड़ाई में, Google ने SynthID सहित सुरक्षात्मक उपाय पेश किए हैं। सिंथआईडी एक एम्बेडेड वॉटरमार्क और मेटाडेटा लेबलिंग समाधान है जिसे Google के टेक्स्ट-टू-इमेज जनरेटर, इमेजेन का उपयोग करके बनाई गई छवियों की पहचान करने के लिए डिज़ाइन किया गया है।
इसके साथ ही, दिशानिर्देशों का उल्लंघन करने वाली सामग्री को तुरंत पहचानने और समाप्त करने के लिए Google मशीन लर्निंग और मानव समीक्षकों के संयोजन का उपयोग करता है। यह दृष्टिकोण Google की सामग्री मॉडरेशन प्रणालियों की सटीकता को बढ़ाता है, जिससे भ्रामक या हानिकारक दृश्य सामग्री पर अधिक प्रभावी प्रतिक्रिया सुनिश्चित होती है।
Google, भारतीय प्रौद्योगिकी संस्थान, मद्रास को रिस्पॉन्सिबल एआई के लिए एक अग्रणी बहु-विषयक केंद्र स्थापित करने के लिए अनुदान में $1 मिलियन का योगदान दे रहा है।
इस पहल का उद्देश्य भारतीय संदर्भ में एआई के जिम्मेदार विकास और स्थान को सुनिश्चित करने के लिए शोधकर्ताओं, डोमेन विशेषज्ञों, डेवलपर्स, समुदाय के सदस्यों, नीति निर्माताओं और अन्य लोगों को एक साथ लाना है।
YouTube के लिए, Google परिवर्तित या AI-जनित सामग्री का उपयोग करने वाले रचनाकारों के लिए प्रकटीकरण आवश्यकताओं की शुरुआत कर रहा है। क्रिएटर्स को विवरण पैनल और वीडियो प्लेयर में लेबल जोड़कर उपयोगकर्ताओं को सूचित करना अनिवार्य होगा।
प्लेटफ़ॉर्म एक ‘गोपनीयता अनुरोध प्रक्रिया’ भी विकसित कर रहा है जो उपयोगकर्ताओं को किसी व्यक्ति के चेहरे या आवाज़ की नकल करने के लिए एआई का उपयोग करने वाली सामग्री को हटाने में सक्षम बनाता है।
