मेटा ने हाल ही में अपने ऐप्स – इंस्टाग्राम, फेसबुक और व्हाट्सएप – में एआई-संचालित स्मार्ट असिस्टेंट की शुरुआत की है, जो इसके सबसे महत्वपूर्ण बाजारों में से एक भारत में एआई-संचालित युग की शुरुआत का प्रतीक है। यह एकीकरण आर्टिफिशियल इंटेलिजेंस (एआई) को दैनिक उपयोगकर्ता इंटरैक्शन में सबसे आगे रखता है, जिससे इसे टालना लगभग असंभव हो जाता है। हालाँकि, इस पहल को तब आलोचना का सामना करना पड़ा जब फ़ोटोग्राफ़रों और कंटेंट क्रिएटर्स ने बताया कि उनके वास्तविक काम को एआई-जनरेटेड के रूप में गलत तरीके से लेबल किया जा रहा है।
मेटा के “मेड विद एआई” लेबल को एआई-जनरेटेड कंटेंट को अलग पहचान देने के लिए पेश किया गया था, लेकिन इसे वास्तविक फ़ोटो और वीडियो पर गलत तरीके से लागू किया गया है। उदाहरण के लिए, कोलकाता नाइट राइडर्स के आधिकारिक इंस्टाग्राम अकाउंट से आईपीएल 2024 की जीत का जश्न मनाते हुए एक पोस्ट को गलत तरीके से एआई-जनरेटेड के रूप में टैग किया गया था।
न्यूज़18 की आगे की जांच से पता चला कि कई असली इंस्टाग्राम रील भी “मेड विद एआई” के रूप में दिखाई दे रहे थे। इसमें कहा गया है, “इस पोस्ट में कंटेंट बनाने या एडिट करने के लिए जेनरेटिव एआई का इस्तेमाल किया जा सकता है।”
रील अंक
इंस्टाग्राम पर रील्स के बारे में, हर रील के नीचे एक एट्रिब्यूशन सेक्शन होता है जिसमें रील के कंटेंट जैसे कि म्यूजिक, इफेक्ट्स, हैशटैग, लोकेशन और क्रिएटर के बारे में जानकारी होती है। कई रील्स की जाँच करने के बाद, यह पाया गया कि कुछ रील्स एट्रिब्यूशन सेक्शन में “मेड विद एआई” टैग के साथ दिखाई दीं, जबकि कुछ मामलों में, जब क्रिएटर, गाना और लोकेशन जैसे अन्य विवरणों के साथ “+1” टैब पर क्लिक किया जाता है, तो “मेड विद एआई” दिखाई देता है।
क्लिक करने पर, एक बॉक्स पॉप अप होता है जिसमें लिखा होता है, “AI के साथ बनाया गया। इस पोस्ट में कंटेंट बनाने या संपादित करने के लिए जेनरेटिव AI का इस्तेमाल किया गया हो सकता है।” पॉप-अप बॉक्स में आगे विवरण दिया गया है जैसे कि “जेनेरेटिव AI क्या है?” और “AI द्वारा जेनरेट की गई सामग्री की पहचान करने में आपकी मदद करना।”
समस्या यह है कि उनमें से कई रील असली हैं। उदाहरण के लिए, हाउस ऑफ़ ड्रैगन की अभिनेत्री एम्मा डी'आर्सी के एक वीडियो में, एट्रिब्यूशन सेक्शन में +1 टैब शामिल है जिसमें “मेड विद एआई” लेबल शामिल है। हालाँकि, तथ्य यह है कि वीडियो हाउस ऑफ़ ड्रैगन्स का नहीं है, बल्कि अभिनेत्री का असली वीडियो है। इस बीच, स्मारकों पर बैनर के साथ HBO के हाउस ऑफ़ ड्रैगन्स के प्रोमो वीडियो के बारे में एक रील को यह “मेड विद एआई” टैग नहीं मिला।
इसी तरह, स्कॉटलैंड में ऊंची लहरों को दिखाने वाली एक रील में भी यह टैग पाया गया, भले ही यह एक वास्तविक वीडियो प्रतीत हुआ, न कि AI द्वारा जनरेटेड। ऐसे कई उदाहरण हैं, जैसे पालतू जानवरों की रील, पेशेवर वीडियोग्राफर या फोटोग्राफर की रील, घर की सफाई की रील, कुछ व्लॉगर की खाने के बारे में रील और यहां तक कि बॉलीवुड अभिनेत्री नीना गुप्ता के आउटफिट-ऑफ-द-डे वीडियो।
एआई समस्या
यह अभी भी स्पष्ट नहीं है कि मेटा का प्लेटफ़ॉर्म इंस्टाग्राम इस तरह की रील्स और तस्वीरों को “मेड विद एआई” के रूप में क्यों टैग कर रहा है। हालाँकि मेटा ने अभी तक यह खुलासा नहीं किया है कि ऐसा क्यों हो रहा है, लेकिन पूरी तकनीक को देखते हुए, यह समझ में आता है कि यह क्यों गड़बड़ कर रहा है।
मेटा ने पारदर्शिता बढ़ाने के लिए “मेड विद एआई” लेबल पेश किया, लेकिन यह वर्तमान में वास्तविक फ़ोटो और वीडियो को एआई द्वारा उत्पन्न के रूप में गलत पहचान रहा है। यह समस्या Facebook, Instagram और थ्रेड्स तक फैली हुई है, यहाँ तक कि कम से कम संपादित की गई सामग्री को भी प्रभावित कर रही है। “मेड विद एआई” लेबल असंगत रूप से दिखाई देता है, कुछ वास्तविक सामग्री को फ़्लैग करता है जबकि वास्तविक एआई-जनरेटेड मीडिया को अनदेखा करता है।
एआई डिटेक्शन सिस्टम अत्यधिक आक्रामक हो सकता है, जो ए.आई. टूल्स से जुड़ी विशेषताओं, जैसे कि संपादन, फ़िल्टर या विशिष्ट विज़ुअल तत्वों के साथ सामग्री को टैग करता है। एआई को वास्तविक फ़ोटो और वीडियो की तुलना में अधिक एआई-जनरेटेड सामग्री वाले डेटासेट पर प्रशिक्षित किया जा सकता है, जिससे यह प्रामाणिक मीडिया में भी एआई लक्षणों की पहचान करने को प्राथमिकता देता है।
वर्तमान में, ऐसा लगता है कि सिस्टम बुनियादी संपादनों के साथ वास्तविक सामग्री और पूरी तरह से AI-जनरेटेड सामग्री के बीच अंतर करने के लिए संघर्ष करता है। रंग सुधार या चमक समायोजन जैसे सरल संपादन, AI जनरेशन के लिए गलत हो सकते हैं। चित्रों को संपादित करने के लिए AI का उपयोग करने वाले उपकरण, जैसे कि वस्तुओं को हटाना, सरल संपादन और AI जनरेशन के बीच की रेखा को भी धुंधला कर सकते हैं।
मेटा का “मेड विद एआई” लेबल सरल संपादनों में इस्तेमाल की जाने वाली जटिल गणनाओं और पूर्ण-विकसित एआई निर्माण में इस्तेमाल की जाने वाली गणनाओं के बीच अंतर नहीं कर सकता है। इससे बुनियादी संपादनों को भी एआई हेरफेर के रूप में चिह्नित किया जा सकता है, भले ही मूल सामग्री वास्तविक हो।
जिन उपयोगकर्ताओं को वास्तविक सामग्री को गलत तरीके से “AI के साथ बनाया गया” के रूप में चिह्नित किया गया है, उन्हें सिस्टम को बेहतर बनाने में मदद करने के लिए मेटा को इन त्रुटियों की रिपोर्ट करनी चाहिए। हालाँकि “AI के साथ बनाया गया” लेबल मददगार होने का लक्ष्य रखता है, लेकिन यह अभी तक पूरी तरह से सटीक नहीं हो सकता है। इसलिए, उपयोगकर्ताओं को किसी पोस्ट की प्रामाणिकता निर्धारित करने के लिए केवल इस लेबल पर निर्भर नहीं रहना चाहिए।
हालांकि, इस मामले के बारे में मेटा के प्रवक्ता ने न्यूज़18 को बताया: “हमारा इरादा हमेशा लोगों को यह जानने में मदद करना रहा है कि जब वे ऐसी सामग्री देखते हैं जो AI के साथ बनाई गई है। हम हाल ही में मिली प्रतिक्रिया को ध्यान में रख रहे हैं और अपने दृष्टिकोण का मूल्यांकन करना जारी रखते हैं ताकि हमारे लेबल एक छवि में उपयोग की गई AI की मात्रा को दर्शाएँ। हम उद्योग-मानक संकेतकों पर भरोसा करते हैं जिन्हें अन्य कंपनियाँ अपने उपकरणों की सामग्री में शामिल करती हैं, इसलिए हम इस प्रक्रिया को बेहतर बनाने के लिए इन कंपनियों के साथ सक्रिय रूप से काम कर रहे हैं ताकि हमारा लेबलिंग दृष्टिकोण हमारे इरादे से मेल खाए।”
