इंस्टाग्राम पर नाबालिगों को 'सेक्सटॉर्शन' से बचाने के लिए मेटा ने AI का सहारा लिया – News18

मेटा ने गुरुवार को कहा कि वह अपने इंस्टाग्राम प्लेटफॉर्म पर किशोर उपयोगकर्ताओं को “सेक्सटॉर्शन” घोटालों से बचाने के लिए नए टूल विकसित कर रहा है, जिस पर अमेरिकी राजनेताओं ने युवाओं के मानसिक स्वास्थ्य को नुकसान पहुंचाने का आरोप लगाया है।

गिरोह लोगों को अपनी स्पष्ट तस्वीरें उपलब्ध कराने के लिए प्रेरित करके और फिर पैसे न मिलने तक उन्हें जनता के सामने छोड़ देने की धमकी देकर सेक्सटॉर्शन घोटाले चलाते हैं।

मेटा ने कहा कि वह एक एआई-संचालित “नग्नता संरक्षण” टूल का परीक्षण कर रहा है जो ऐप के मैसेजिंग सिस्टम पर नाबालिगों को भेजी गई नग्नता वाली छवियों को ढूंढेगा और धुंधला कर देगा।

मेटा फ़्रांस में बाल संरक्षण के प्रभारी कैपुसीन टफ़ियर ने एएफपी को बताया, “इस तरह, प्राप्तकर्ता अवांछित अंतरंग सामग्री के संपर्क में नहीं आता है और उसके पास छवि देखने या न देखने का विकल्प होता है।”

अमेरिकी कंपनी ने कहा कि वह ऐसे संदेश भेजने या प्राप्त करने वाले किसी भी व्यक्ति को सलाह और सुरक्षा युक्तियाँ भी देगी।

वहां के अधिकारियों के अनुसार, संयुक्त राज्य अमेरिका में 2022 में लगभग 3,000 युवा यौन शोषण घोटाले का शिकार हुए।

अलग से, 40 से अधिक अमेरिकी राज्यों ने अक्टूबर में मेटा पर मुकदमा दायर करना शुरू कर दिया, जिसमें कंपनी पर “बच्चों के दर्द से लाभ उठाने” का आरोप लगाया गया।

कानूनी फाइलिंग में आरोप लगाया गया कि मेटा ने अपने स्वास्थ्य को नुकसान पहुंचाने के बावजूद मंच पर अधिकतम समय बिताने के लिए डिज़ाइन किया गया एक बिजनेस मॉडल बनाकर युवा उपयोगकर्ताओं का शोषण किया था।

'ऑन-डिवाइस मशीन लर्निंग'

मेटा ने जनवरी में घोषणा की थी कि वह 18 साल से कम उम्र के लोगों की सुरक्षा के लिए उपाय करेगा जिसमें सामग्री प्रतिबंधों को कड़ा करना और माता-पिता के पर्यवेक्षण उपकरणों को बढ़ावा देना शामिल है।

फर्म ने गुरुवार को कहा कि नवीनतम उपकरण “युवा लोगों को अवांछित या संभावित हानिकारक संपर्क से बचाने में मदद करने के हमारे लंबे समय से चले आ रहे काम” पर आधारित हैं।

कंपनी ने कहा, “हम युवाओं को सेक्सटॉर्शन और अंतरंग छवि के दुरुपयोग से बचाने में मदद करने के लिए नई सुविधाओं का परीक्षण कर रहे हैं, और संभावित स्कैमर्स और अपराधियों के लिए किशोरों को ढूंढना और उनके साथ बातचीत करना अधिक कठिन बना रहे हैं।”

इसमें कहा गया है कि “नग्नता संरक्षण” उपकरण छवियों का विश्लेषण करने के लिए “ऑन-डिवाइस मशीन लर्निंग”, एक प्रकार की आर्टिफिशियल इंटेलिजेंस का उपयोग करता है।

कंपनी, जिस पर लगातार अपने उपयोगकर्ताओं की डेटा गोपनीयता का उल्लंघन करने का भी आरोप लगाया जाता है, ने जोर देकर कहा कि जब तक उपयोगकर्ता उन्हें रिपोर्ट नहीं करते तब तक उन्हें छवियों तक पहुंच नहीं होगी।

मेटा ने कहा कि वह आपत्तिजनक सामग्री भेजने वाले खातों की पहचान करने और मंच पर युवा उपयोगकर्ताओं के साथ बातचीत करने की उनकी क्षमता को गंभीर रूप से प्रतिबंधित करने के लिए एआई टूल का भी उपयोग करेगा।

व्हिसिल-ब्लोअर फ्रांसेस हाउगेन, एक पूर्व फेसबुक इंजीनियर, ने 2021 में मेटा द्वारा आंतरिक रूप से किए गए शोध को प्रचारित किया – जिसे तब फेसबुक के नाम से जाना जाता था – जिससे पता चला कि कंपनी को लंबे समय से युवा लोगों के मानसिक स्वास्थ्य के लिए उसके प्लेटफार्मों द्वारा उत्पन्न खतरों के बारे में पता था।

(यह कहानी News18 स्टाफ द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड समाचार एजेंसी फ़ीड से प्रकाशित हुई है – एएफपी)