आखरी अपडेट:
ग्रोक एआई लोगों की जानकारी के बिना उनकी नग्न छवियां तैयार कर रहा था और ऐसा लगता है कि कंपनी अंततः इस मुद्दे को बंद कर रही है।
ग्रोक एआई अपनी शक्तियों का उपयोग महिलाओं की छवियों को संशोधित करने के लिए कर रहा है और लोग नाराज हैं।
इस समय के बाद, ग्रोक को लोगों की छवियां बनाने या संशोधित करने से रोका जा सकता है जिसका पिछले कुछ महीनों में अरबों लोगों द्वारा दुरुपयोग किया गया है। कंपनी ने आधिकारिक तौर पर ग्रोक एआई चैटबॉट में नए बदलाव के बारे में बात नहीं की है, लेकिन इसकी सेटिंग्स में यह एक बहुत जरूरी बदलाव है जिसे न केवल आईओएस बल्कि एंड्रॉइड उपयोगकर्ताओं को भी जल्द से जल्द पेश किया जाना चाहिए।
कुछ उपयोगकर्ताओं ने ग्रोक को उपयोगकर्ताओं की सहमति के बिना उनकी छवियों को संशोधित करने से रोकने का विकल्प देखा है, जिससे पता चलता है कि एलोन मस्क एंड कंपनी के पास अगले कुछ हफ्तों में सभी के लिए कुछ आधिकारिक विवरण हो सकते हैं।
चलो छुटकारा तो मिला
नया ग्रोक एआई विकल्प ऐप की सेटिंग्स के अंदर छिपा नहीं है और आपको बस टॉगल बटन को टैप करके ब्लॉक विकल्प को सक्षम करना होगा। एक बार जब आप ऐसा कर लेंगे, तो ग्रोक एआई छवि अनुरोध लेना बंद कर देगा।
हालाँकि, ऐसा लगता है कि नया विकल्प केवल तभी काम कर रहा है जब कोई ग्रोक को उत्तर में एआई चैटबॉट को टैग करके छवियों को संशोधित करने के लिए कहता है। यह संभव है कि यह सुविधा अभी भी विकास में है, यही कारण है कि मस्क या xAI के किसी भी व्यक्ति ने अभी तक इस अतिरिक्त सुविधा के बारे में सार्वजनिक रूप से बात नहीं की है।
ग्रोक एआई कई विशेषताओं के साथ चैटजीपीटी और जेमिनी का प्रतिद्वंद्वी बन गया है, जिसमें एआई छवियां उत्पन्न करने की क्षमता भी शामिल है। लेकिन एआई मॉडल हाल ही में एक उपद्रव बन गया जब लोग बिकनी पहने हुए या यहां तक कि उन्हें एक साधारण संकेत के साथ नग्न करने की छवि बनाने या संशोधित करने के लिए एआई चैटबॉट को बेतरतीब ढंग से बुलाने में सक्षम थे।
इतना ही नहीं, इन्हें सार्वजनिक रूप से साझा किया गया था जिसका मतलब था कि लाखों लोग स्पष्ट चित्र देख सकते थे और महिलाएं मस्क के स्वामित्व वाले एआई चैटबॉट के व्यवहार से आश्चर्यचकित थीं।
मामले को बदतर बनाने के लिए, जैसा कि साइबर नफरत पर नजर रखने वाली संस्था, सेंटर फॉर काउंटरिंग डिजिटल हेट (सीसीडीएच) द्वारा उजागर किया गया है, ग्रोक एआई ने बिकनी और अन्य स्पष्ट प्रकृति वाली महिलाओं की लगभग 3 मिलियन छवियां उत्पन्न की हैं।
ग्रोक उदारतापूर्वक इन अनुरोधों का पालन कर रहा था और अंततः इसने दुनिया भर के अधिकारियों को हस्तक्षेप करने के लिए प्रेरित किया और मांग की कि मस्क और एक्सएआई एआई मॉडल का दुरुपयोग होने से रोकें।
जैसा कि सीसीडीएच के मुख्य कार्यकारी इमरान अहमद ने कहा, एलोन मस्क की ग्रोक यौन शोषण सामग्री के उत्पादन के लिए एक फैक्ट्री है। “सुरक्षा उपायों के बिना एआई को तैनात करके, मस्क ने दो सप्ताह में बच्चों की अनुमानित 23,000 कामुक छवियां और वयस्क महिलाओं की लाखों और छवियां बनाने में सक्षम बनाया,” संस्था ने अपनी रिपोर्ट में आगे कहा।
दिल्ली, भारत, भारत
मार्च 11, 2026, 10:16 IST
और पढ़ें
