केंद्र ने एक्स ओवर ग्रोक एआई के दुरुपयोग पर नकेल कसी; अश्लील सामग्री हटाने के लिए 72 घंटे का अल्टीमेटम जारी किया

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एलोन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म

सरकार ने प्लेटफ़ॉर्म को अपनी एक्शन टेकन रिपोर्ट (एटीआर) जमा करने के लिए 72 घंटे का अल्टीमेटम दिया है, जिसमें विफल रहने पर प्लेटफ़ॉर्म को गंभीर कानूनी कार्रवाई का सामना करना पड़ेगा और सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत अपनी “सुरक्षित बंदरगाह” सुरक्षा भी खोनी पड़ेगी।

महिलाओं को निशाना बनाने के लिए ग्रोक आर्टिफिशियल इंटेलिजेंस का दुरुपयोग

केंद्र द्वारा रिपोर्ट की गई यह ग्रोक एआई सुविधा के दुरुपयोग के कारण है। एक्स के मुख्य अनुपालन अधिकारी को चार पन्नों का एक पत्र लिखा गया था, जिसमें संकेत दिया गया था कि उपयोगकर्ता महिलाओं की अपमानजनक छवियों और वीडियो को होस्ट करने के लिए नकली खाते बना रहे हैं।

पत्र में बताया गया है कि यह देखा गया है कि इस टूल को “कपड़ों को कम करने” के लिए मजबूर किया जा रहा है और इस तरह तस्वीर में महिलाओं का यौन शोषण किया जा रहा है, जो वास्तव में उनकी गरिमा और गोपनीयता के लिए गंभीर उपेक्षा है।

वैधानिक चूक और कानूनी चेतावनियाँ

मंत्रालय ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 में निर्धारित उचित परिश्रम के अपने वैधानिक कर्तव्य का पालन करने में एक्स की विफलता की ओर इशारा किया।

ख़तरे में सुरक्षित बंदरगाह: गैर-अनुपालन के कारण एक्स को अपना सुरक्षित बंदरगाह दर्जा खोना पड़ सकता है, जिससे वर्तमान में उसकी सेवा पर प्रकाशित सभी तृतीय-पक्ष सामग्री के लिए जिम्मेदार ठहराए जाने का जोखिम होगा।

व्यापक कानूनी कार्रवाई: सरकार ने भारतीय न्याय संहिता (बीएनएस), महिला अश्लील प्रतिनिधित्व अधिनियम और POCSO अधिनियम (बच्चों के मामलों में) के संबंध में कानूनी कार्रवाई की चेतावनी जारी की।

समग्र सुरक्षा समीक्षा आवश्यक

प्रारंभिक निष्कासन के अलावा, केंद्र ने एक्स को ग्रोक की तत्काल तकनीकी और शासन-आधारित समीक्षा करने के लिए भी कहा है। इसमे शामिल है:

इसकी संरचना सहित ग्रोक के वास्तुकला डिजाइन की जांच

शीघ्र फ़िल्टरिंग: आक्रामक या अवैध सिंथेटिक मीडिया के उत्पादन के खिलाफ सुरक्षा बढ़ाना।

जवाबदेही: एआई टूल का दुरुपयोग करने वाले उल्लंघनकर्ताओं के खिलाफ स्थायी निलंबन जैसी अनुशासनात्मक कार्रवाई।

साक्ष्य संरक्षण: “सबूतों को ख़राब किए बिना” अवैध सामग्री तक पहुंच को रोकना जो संभावित आपराधिक कार्यवाही के लिए प्रासंगिक हो सकता है।

डिजिटल अश्लीलता पर व्यापक कार्रवाई

इस कार्रवाई से पहले एक और पत्र आया है, इस बार राज्यसभा में प्रियंका चतुर्वेदी नाम की एक सांसद ने आईटी मंत्री अश्विनी वैष्णव को लिखा है, जिसमें इस मंच पर महिलाओं के खिलाफ “डिजिटल कपड़े उतारने” की प्रथाओं की बढ़ती प्रवृत्ति की ओर इशारा किया गया है।

आईटी मंत्री वैशवानी ने शुक्रवार को फिर इस बात पर जोर दिया कि सोशल नेटवर्किंग साइट्स अपने प्लेटफॉर्म पर सामग्री की जिम्मेदारी लेती हैं और सभी उपयोगकर्ताओं को भरोसेमंद इंटरनेट प्रदान करने के लिए “हस्तक्षेप” भी आवश्यक था।

यह भी पढ़ें | मेक्सिको में आज भूकंप: ग्युरेरो में 6.5 तीव्रता का भूकंप; राष्ट्रपति शीनबाम ब्रीफिंग से हटे | चौंकाने वाले वीडियो