आखरी अपडेट:
ग्रोक एआई एक सप्ताह से अधिक समय से महिलाओं और बच्चों की स्पष्ट छवियां तैयार कर रहा है और कई लोग इसकी सहमति की कमी से नाराज हैं।
3 मिलियन ग्रोक से स्पष्ट छवियों की एक चौंका देने वाली संख्या है
एलोन मस्क के स्वामित्व वाले ग्रोक एआई पर सुविधा अक्षम होने से कुछ ही दिनों पहले महिलाओं और बच्चों की 2.5 मिलियन से अधिक यौन स्पष्ट छवियां बनाने का आरोप लगाया गया है। ग्रोक के एआई टूल ने बहुत सारी भौहें और आक्रोश पैदा कर दिया क्योंकि कोई भी एआई चैटबॉट से महिलाओं या बच्चों की वास्तविक लोगों की छवियों को बदलने के लिए कह सकता था, बस एक साधारण संकेत के साथ ग्रोक एआई से पूछ रहा था और हर किसी के लिए बहुत आश्चर्य की बात थी, एआई ने दयालुता से काम किया।
इतना ही नहीं, तस्वीरें सार्वजनिक रूप से साझा की गईं जिसका मतलब था कि लाखों लोग स्पष्ट तस्वीरें देख सकते थे और महिलाएं मस्क के स्वामित्व वाले एआई चैटबॉट के व्यवहार से हैरान थीं।
ग्रोक एआई बड़ी मुसीबत में
नया AI टूल X (पूर्व में ट्विटर) ऐप में बनाया गया था, जिसका अर्थ था कि लाखों लोग बिना किसी प्रभाव के किसी की भी तस्वीर पर इस सुविधा को आज़मा सकते थे। यह कुछ दिनों तक चला, और बड़े पैमाने पर विरोध के बाद विभिन्न सरकारी अधिकारियों ने हस्तक्षेप किया और कंपनी से उसके गैर-जिम्मेदाराना और कानूनी रूप से भ्रमित करने वाले व्यवहार के लिए पूछताछ की, वह भी निर्दोष पीड़ितों की सहमति के बिना छवियां बनाने के लिए।
और अब, जैसा कि साइबर हेट वॉचडॉग, सेंटर फॉर काउंटरिंग डिजिटल हेट (सीसीडीएच) द्वारा उजागर किया गया है, ग्रोक एआई ने बिकनी और अन्य स्पष्ट प्रकृति वाली महिलाओं की लगभग 3 मिलियन छवियां उत्पन्न की हैं।
बच्चों के लिए दुःस्वप्न
संस्था का दावा है कि इनमें से 23,000 तस्वीरें बच्चों की थीं, जो मस्क और उनकी एआई कंपनी पर और प्रतिबंध लगाती है और आरोप गंभीर हैं। “एक्स पर टूल द्वारा संचालित एक नई छवि संपादन सुविधा के लॉन्च के बाद, अनुमान है कि एआई टूल ग्रोक ने लगभग तीन मिलियन कामुक छवियां उत्पन्न की हैं, जिनमें 23,000 शामिल हैं जो बच्चों को चित्रित करती हैं।”
इस बीच, मस्क ने एक्स पर एक पोस्ट में कहा था कि उन्हें “ग्रोक द्वारा बनाई गई किसी भी नग्न कम उम्र की छवियों के बारे में जानकारी नहीं है। वस्तुतः शून्य।”
डेटा स्पष्ट है: एलोन मस्क की ग्रोक यौन शोषण सामग्री के उत्पादन के लिए एक फैक्ट्री है,” जैसा कि सीसीडीएच के मुख्य कार्यकारी इमरान अहमद ने कहा। “सुरक्षा उपायों के बिना एआई को तैनात करके, मस्क ने दो सप्ताह में बच्चों की अनुमानित 23,000 कामुक छवियों और वयस्क महिलाओं की लाखों छवियों के निर्माण को सक्षम किया।”
रिपोर्ट में आगे कहा गया है कि इस स्तर पर ग्रोक का उपयोग केवल 11 दिनों में लाखों छवियां उत्पन्न करने के लिए किया गया था जो हर मिनट 190 छवियों का रिटर्न देता है, जो आश्चर्यजनक है।
यह पहली बार नहीं है जब ग्रोक गलत कारणों से सुर्खियों में आया है और मस्क एंड कंपनी को एआई चैटबॉट का उपयोग करने के नियमों और नीतियों को कड़ा करने की जरूरत है ताकि ऐसी घटनाएं दोबारा न हों, अन्यथा, वह उत्पाद को पूरी तरह से बंद करने के लिए मजबूर हो सकता है।
कैलिफ़ोर्निया, यूएसए
23 जनवरी 2026, 13:41 IST
और पढ़ें
