गूगल सर्च जल्द ही आपको इमेज के लिए AI-जनरेटेड लेबल दिखाएगा: क्या इससे डीपफेक खत्म हो सकता है? – News18

2024 में Google के AI अभियान को एक और बड़ा बढ़ावा मिल रहा है क्योंकि कंपनी इंटरनेट पर डीपफेक और AI-जनरेटेड कंटेंट से उत्पन्न खतरों को विफल करना चाहती है। AI ओवरव्यू पहले से ही आपको सर्च में AI-आधारित परिणाम दे रहे हैं, लेकिन Google को नई तकनीक के खतरों का एहसास है जिसका उपयोग लोगों को धोखा देने और उनकी सोच में हेरफेर करने के लिए आसानी से किया जा सकता है।

यह सुनिश्चित करने के लिए कि यह दीर्घकालिक समस्या न बने, Google AI द्वारा उत्पन्न छवियों या यहां तक ​​कि AI टूल का उपयोग करके संपादित की गई छवियों पर लेबल दिखाना शुरू कर देगा। Google AI में अपनी विशेषज्ञता का उपयोग करेगा और YouTube के लिए भी विकल्प लाएगा, लेकिन यह बाद में होगा। अभी के लिए, यह सुविधा सर्च, Google लेंस और नए सर्किल टू सर्च विकल्प में काम करेगी।

सर्च में Google AI-जनरेटेड लेबल: यह कैसे काम कर सकता है

गूगल के पास इस बारे में स्पष्ट योजना है कि छवियों को कैसे लेबल किया जाएगा और कंपनी प्लेटफ़ॉर्म पर होस्ट की गई अरबों छवियों में से इन छवियों को पहचानने के लिए अपनी बैक-एंड तकनीक का उपयोग कैसे करेगी। ऐसा कहने के बाद, इन छवियों को पहचानने का गूगल का कार्य गठबंधन फॉर कंटेंट प्रोवेंस एंड ऑथेंटिसिटी या (C2PA) मेटाडेटा पर आधारित होगा जो आपको विज़ुअल कंटेंट, इसकी छवि इतिहास और उन्हें संपादित/बनाने के लिए उपयोग किए गए सॉफ़्टवेयर के बारे में विस्तृत जानकारी देता है।

इन विवरणों को जानने के बाद Google के लिए छवियों को लेबल करना आसान हो जाना चाहिए, लेकिन ऐसा करना एक बड़ी चुनौती है। आखिरकार, सर्च अरबों छवियों को होस्ट करता है, और उनमें से सभी में C2PA मेटाडेटा नहीं होता है। इससे भी महत्वपूर्ण बात यह है कि इस मेटाडेटा को हटाया जा सकता है या अपठनीय बनाया जा सकता है, जो डीपफेक छवि समस्या से निपटने के अपने मिशन के साथ Google को मुश्किल में डालता है।

कंपनी का कहना है कि अगर छवि में C2PA मेटाडेटा है, तो उपयोगकर्ता इस छवि के बारे में अनुभाग में जाकर विवरण प्राप्त कर सकते हैं। अच्छी बात यह है कि OpenAI, Amazon, Microsoft और Adobe जैसी कंपनियाँ C2PA बैंडवैगन में शामिल हो गई हैं। हालाँकि, C2PA मेटाडेटा के साथ और इसके बिना सामग्री का अनुपात AI-जनरेटेड फ़ोटो को लेबल करने की कंपनी की रणनीति के विरुद्ध है।

किसी भी प्रौद्योगिकी की तरह, गूगल को भी एआई-जनित विषय-वस्तु की विकसित होती प्रकृति के अनुसार ढलना होगा, तथा यह सुनिश्चित करना होगा कि लोगों को पता हो कि कौन-सी छवियां मूल हैं, तथा कौन-सी संपादित की गई हैं।