नई नीति के तहत, मेटा के एआई फीचर का उपयोग करके बनाई गई फोटोरियलिस्टिक छवियों पर 'एआई के साथ कल्पना' लेबल लागू किया जाएगा। (छवि: रॉयटर्स/फ़ाइल)
नई नीति के तहत, मेटा कृत्रिम बुद्धिमत्ता का उपयोग करके बनाई गई छवियों को “एआई के साथ कल्पना की गई” के रूप में लेबल करना शुरू कर देगा ताकि उन्हें मानव-निर्मित सामग्री से अलग किया जा सके।
एक अभूतपूर्व कदम में, फेसबुक, इंस्टाग्राम और थ्रेड्स की मूल कंपनी मेटा ने एआई-जनित सामग्री के आसपास बढ़ती चिंता को दूर करने के उद्देश्य से एक नई नीति की घोषणा की। इस नीति के तहत, यह कृत्रिम बुद्धि का उपयोग करके बनाई गई छवियों को “एआई के साथ कल्पना की गई” के रूप में लेबल करना शुरू कर देगा ताकि उन्हें मानव-निर्मित सामग्री से अलग किया जा सके।
यहां मेटा की नई नीति की मुख्य विशेषताएं दी गई हैं, जिसकी घोषणा मंगलवार (6 फरवरी) को की गई:
- मेटा की एआई सुविधा का उपयोग करके बनाई गई फोटोरिअलिस्टिक छवियों पर 'एआई के साथ कल्पना' लेबल का कार्यान्वयन।
- सामग्री निर्माण में एआई की भागीदारी को इंगित करने के लिए छवि फ़ाइलों के भीतर दृश्यमान मार्कर, अदृश्य वॉटरमार्क और एम्बेडेड मेटाडेटा का उपयोग।
- हानिकारक सामग्री का पता लगाने और उसके खिलाफ कार्रवाई करने पर ध्यान देने के साथ, सभी सामग्री पर सामुदायिक मानकों का अनुप्रयोग, चाहे उसका मूल कुछ भी हो।
- एआई-जनित सामग्री की पहचान के लिए सामान्य मानक विकसित करने के लिए एआई (पीएआई) पर साझेदारी जैसे मंचों के माध्यम से अन्य उद्योग के खिलाड़ियों के साथ सहयोग।
- स्वतंत्र साझेदारों द्वारा तथ्य-जाँच के लिए एआई-जनरेटेड सामग्री की पात्रता, उपयोगकर्ताओं को सटीक जानकारी प्रदान करने के लिए डिबंक की गई सामग्री को लेबल किया जाता है।
मेटा ने क्या कहा?
एक ब्लॉग पोस्ट में, मेटा के वैश्विक मामलों के अध्यक्ष, निक क्लेग ने कहा: “हालांकि कंपनियां अपने छवि जनरेटर में सिग्नल शामिल करना शुरू कर रही हैं, लेकिन उन्होंने उन्हें एआई टूल में शामिल करना शुरू नहीं किया है जो समान पैमाने पर ऑडियो और वीडियो उत्पन्न करते हैं, इसलिए , हम अभी तक उन संकेतों का पता नहीं लगा सकते हैं और इस सामग्री को अन्य कंपनियों से लेबल नहीं कर सकते हैं। जबकि उद्योग इस क्षमता की दिशा में काम कर रहा है, हम लोगों के लिए एक सुविधा जोड़ रहे हैं ताकि जब वे एआई-जनरेटेड वीडियो या ऑडियो साझा करें तो इसका खुलासा हो सके ताकि हम इसमें एक लेबल जोड़ सकें।
“हमें लोगों से इस प्रकटीकरण और लेबल टूल का उपयोग करने की आवश्यकता होगी जब वे एक फोटोरिअलिस्टिक वीडियो या यथार्थवादी-ध्वनि वाले ऑडियो के साथ कार्बनिक सामग्री पोस्ट करते हैं जो डिजिटल रूप से बनाया या बदला गया था, और यदि वे ऐसा करने में विफल रहते हैं तो हम जुर्माना लगा सकते हैं। यदि हम यह निर्धारित करते हैं कि डिजिटल रूप से बनाई गई या परिवर्तित छवि, वीडियो या ऑडियो सामग्री किसी महत्वपूर्ण मामले पर जनता को धोखा देने का विशेष रूप से उच्च जोखिम पैदा करती है, तो यदि उपयुक्त हो तो हम एक अधिक प्रमुख लेबल जोड़ सकते हैं, ताकि लोगों के पास अधिक जानकारी और संदर्भ हो, ”उन्होंने कहा। जोड़ा गया.
स्व-नियमन और सरकार की भूमिका
डीपफेक के नियमन पर इलेक्ट्रॉनिक्स और आईटी मंत्रालय और उद्योग के अधिकारियों के बीच चल रही चर्चा के बीच यह घोषणा की गई है। राज्य मंत्री राजीव चंद्रशेखर ने हाल ही में कहा था कि नियमों को अंतिम रूप देने में कुछ समय लग सकता है।
मेटा का अग्रणी कदम पहली बार है जब किसी सोशल मीडिया कंपनी ने एआई-जनित सामग्री को लेबल करने के लिए सक्रिय कदम उठाया है, जो उद्योग के लिए एक मिसाल कायम कर रहा है। यह अभी तक ज्ञात नहीं है कि अन्य तकनीकी दिग्गज भी इसका अनुसरण करेंगे या नहीं।
लेकिन, विशेषज्ञों का मानना है कि चाहे अन्य लोग समान नीतियों को लागू करेंगे या नहीं, सरकारी विनियमन की आवश्यकता है। ऐसा इसलिए है क्योंकि निर्माता या अन्य प्लेटफ़ॉर्म इसका अनुसरण नहीं कर सकते हैं, जिससे अलग-अलग दृष्टिकोण के साथ एक खंडित परिदृश्य बन जाएगा। इसलिए, सरकारें स्पष्ट परिभाषाएँ स्थापित कर सकती हैं, विभिन्न प्रकार के डीपफेक (फेस-स्वैपिंग, वॉयस सिंथेसिस, बॉडी मूवमेंट हेरफेर और टेक्स्ट-आधारित डीपफेक) को संबोधित कर सकती हैं और दुरुपयोग के परिणामों की रूपरेखा तैयार कर सकती हैं।
सरकारें अपराधियों की जांच करने और उन्हें दंडित करने के लिए नियामक निकाय बना सकती हैं या मौजूदा निकायों को सशक्त बना सकती हैं। इसके अतिरिक्त, चूंकि डीपफेक राष्ट्रीय सीमाओं को पार करते हैं, इसलिए अंतर्राष्ट्रीय सहयोग सुसंगत मानकों को सुनिश्चित कर सकता है और सीमा पार जांच और अभियोजन की सुविधा प्रदान कर सकता है।
व्हाइट एंड ब्रीफ, एडवोकेट्स एंड सॉलिसिटर के संस्थापक और प्रबंध निदेशक नीलेश त्रिभुवन ने कहा कि मेटा की पहल सराहनीय है। वित्तीय घोटालों से लेकर सेलिब्रिटी शोषण तक की हालिया घटनाओं को देखते हुए, यह उपाय समय पर और आवश्यक है।
“[But] सरकारी निगरानी अनिवार्य बनी हुई है। यह सुनिश्चित करने के लिए मजबूत कानून और प्रवर्तन आवश्यक है कि सभी सोशल मीडिया प्लेटफॉर्म कड़े नियमों का पालन करें। यह सक्रिय दृष्टिकोण न केवल उपयोगकर्ता सुरक्षा को मजबूत करता है बल्कि तकनीकी उद्योग में जवाबदेही को भी बढ़ावा देता है, ”उन्होंने कहा।
सिरिल अमरचंद मंगलदास के पार्टनर (प्रौद्योगिकी और दूरसंचार प्रमुख) अरुण प्रभु ने कहा: “अग्रणी प्लेटफार्मों और सेवा प्रदाताओं ने जिम्मेदार एआई सिद्धांत विकसित किए हैं, जो लेबलिंग और पारदर्शिता प्रदान करते हैं। जैसा कि कहा गया है, उपभोक्ता सुरक्षा सुनिश्चित करने के लिए सरकारी विनियमन के साथ-साथ उद्योग मानकों का एक-दूसरे के साथ मिलकर काम करना आम बात है, खासकर एआई जैसे तेजी से विकसित हो रहे क्षेत्रों में।'
