मलेशिया, इंडोनेशिया ने यौन रूप से स्पष्ट छवियों पर एलोन मस्क की ग्रोक एआई को ब्लॉक कर दिया

आखरी अपडेट:12 जनवरी, 2026, 21:39 IST

यह निर्णय वैश्विक चिंता के बाद लिया गया है कि ग्रोक की छवि निर्माण सुविधा उपयोगकर्ताओं को सरल पाठ संकेतों का उपयोग करके महिलाओं और बच्चों की तस्वीरों को कामुक बनाने की अनुमति देती है।

मलेशिया और इंडोनेशिया एलोन मस्क के एक्सएआई द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट ग्रोक को ब्लॉक करने वाले पहले देश बन गए हैं, अधिकारियों ने कहा कि इसका दुरुपयोग यौन रूप से स्पष्ट और गैर-सहमति वाली छवियां उत्पन्न करने के लिए किया जा रहा है।

यह निर्णय वैश्विक चिंता के बाद लिया गया है कि ग्रोक की छवि निर्माण सुविधा उपयोगकर्ताओं को सरल पाठ संकेतों का उपयोग करके महिलाओं और बच्चों की तस्वीरों को कामुक बनाने की अनुमति देती है।

एआई टूल को मस्क के सोशल मीडिया प्लेटफॉर्म एक्स में एकीकृत किया गया है और नाबालिगों के कामुक चित्रण सहित हेरफेर की गई छवियां बनाने के लिए इसकी आलोचना की गई है।

इंडोनेशिया ने सहमति के बिना नकली अश्लील सामग्री बनाए और साझा किए जाने के जोखिम का हवाला देते हुए शनिवार को ग्रोक तक सभी पहुंच को अवरुद्ध कर दिया।

संचार और डिजिटल मामलों के मंत्री मेउत्या हाफिद ने कहा, “सरकार बिना सहमति के यौन डीपफेक को डिजिटल क्षेत्र में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा के गंभीर उल्लंघन के रूप में देखती है।”

डिजिटल स्पेस पर्यवेक्षण के महानिदेशक अलेक्जेंडर सबर ने कहा कि टूल में प्रभावी सुरक्षा उपायों का अभाव है, जिससे गोपनीयता और प्रतिष्ठा खतरे में है।

इसी तरह, मलेशिया ने भी अस्थायी निलंबन लगाया। मलेशियाई संचार और मल्टीमीडिया आयोग (एमसीएमसी) ने कहा कि उसने अश्लील, यौन रूप से स्पष्ट और गैर-सहमति से हेरफेर की गई छवियों के बार-बार दुरुपयोग के बाद “मलेशिया में उपयोगकर्ताओं के लिए ग्रोक कृत्रिम बुद्धिमत्ता तक पहुंच पर अस्थायी प्रतिबंध लगाने का निर्देश दिया है”।

नियामक ने कहा कि एक्स कॉर्प और एक्सएआई को पूर्व नोटिस मुख्य रूप से उपयोगकर्ता रिपोर्टिंग तंत्र पर निर्भर थे और अपर्याप्त थे। एमसीएमसी ने कहा, “प्रतिबंध एक निवारक और आनुपातिक उपाय के रूप में लगाया गया है, जबकि कानूनी और नियामक प्रक्रियाएं चल रही हैं।” प्रभावी सुरक्षा उपाय सत्यापित होने के बाद ही प्रवेश फिर से शुरू होगा।

2023 में लॉन्च किया गया, ग्रोक उपयोगकर्ताओं को अपने ग्रोक इमेजिन फीचर के माध्यम से एक्स पर प्रश्न पूछने और छवियां उत्पन्न करने की अनुमति देता है। पिछले साल, एक “मसालेदार मोड” जोड़ा गया था, जिससे वयस्क सामग्री के निर्माण की अनुमति मिली। तब से टूल ने छवि निर्माण को भुगतान करने वाले ग्राहकों तक ही सीमित कर दिया है, लेकिन आलोचकों का कहना है कि यह यौन रूप से डीपफेक को पूरी तरह से नहीं रोकता है।

(एजेंसियों से इनपुट के साथ)

और पढ़ें