रिपोर्ट के मुताबिक, इलेवनलैब्स जैसी कंपनियों ने ऐसे टूल पेश किए हैं जो आवाज बनाने के लिए एआई का उपयोग करते हैं। ऑनलाइन फर्जी खबरों पर नजर रखने वाली कंपनी न्यूजगार्ड ने यह पाया टिकटॉक वीडियो पूर्व अमेरिकी राष्ट्रपति जैसे लोगों की नकली आवाज़ों का उपयोग कर रहे थे बराक ओबामा और ओपरा विन्फ्रे. जबकि टिकटॉक लोकप्रिय है, रिपोर्ट में यह भी कहा गया है कि प्लेटफॉर्म पसंद करते हैं Instagramफर्जी आवाज आधारित वीडियो फैलाने के लिए फेसबुक, यूट्यूब का भी इस्तेमाल किया जा रहा है। कथित तौर पर अभी तक वीडियो की संख्या कम है लेकिन विशेषज्ञों को चिंता है कि यह एक हथियार बन सकता है, खासकर तब जब 2024 में अमेरिकी राष्ट्रपति चुनाव होने हैं।
इस मुद्दे पर टिकटॉक का क्या कहना है?
एआई-जनरेटेड सामग्री का उपयोग करने वाले वीडियो में एक लेबल होना आवश्यक है जो इसे स्पष्ट रूप से निर्दिष्ट करता हो। सोशल मीडिया प्लेटफॉर्म ने कहा कि उसने अपनी नीतियों का उल्लंघन करने के लिए कई अकाउंट और वीडियो हटा दिए हैं, जिनमें ओबामा की आवाज का इस्तेमाल करने वाला अकाउंट भी शामिल है। टिकटॉक के प्रवक्ता जेमी फवाज़ा ने कहा, “टिकटॉक रचनाकारों को एआई-जनित सामग्री को लेबल करने के लिए एक उपकरण प्रदान करने वाला पहला मंच है और सिंथेटिक मीडिया के जिम्मेदार उपयोग को बढ़ावा देने वाले उद्योग की सर्वोत्तम प्रथाओं के एक नए कोड का उद्घाटन सदस्य है।” हालाँकि, न्यूज़गार्ड ने पाया कि उन वीडियो से लेबल गायब थे जिनमें नकली आवाज़ों का इस्तेमाल किया गया था।
रिपोर्ट के मुताबिक, यूट्यूब ने राजनीतिक विज्ञापनों में एआई-जनरेटेड कंटेंट के इस्तेमाल पर प्रतिबंध लगा दिया है। अन्य विज्ञापनदाताओं को भी यह सुनिश्चित करना होगा कि उनके विज्ञापनों में ऐसे लेबल हों जो इंगित करें कि सामग्री बनाने के लिए एआई का उपयोग किया गया है। मेटा – फेसबुक और इंस्टाग्राम की मूल कंपनी – के पास एक तथ्य-जांच टूलकिट भी है जो किसी वीडियो में बदलाव होने या एआई का उपयोग नहीं करने पर लेबल जोड़ता है।
