वॉचडॉग ने एक्स से एआई चैटबॉट ग्रोक के लिए मामूली सुरक्षा उपाय स्थापित करने के लिए कहा

सियोल: दक्षिण कोरिया के मीडिया वॉचडॉग ने बुधवार को कहा कि उसने अमेरिका स्थित सोशल मीडिया प्लेटफॉर्म एक्स को कृत्रिम बुद्धिमत्ता (एआई) मॉडल ग्रोक द्वारा उत्पन्न यौन सामग्री से नाबालिग उपयोगकर्ताओं की सुरक्षा के लिए उपाय करने के लिए कहा है।

योनहाप समाचार एजेंसी की रिपोर्ट के अनुसार, कोरिया मीडिया एंड कम्युनिकेशंस कमीशन (केएमसीसी) ने कहा कि उसने एआई प्लेटफॉर्म द्वारा उत्पन्न की जा सकने वाली डीपफेक यौन सामग्री पर बढ़ती चिंताओं के बीच ऑपरेटर को अनुरोध भेज दिया है।

केएमसीसी ने एक विज्ञप्ति में कहा, “हमने एक्स के संचालक से ग्रोक पर संभावित अवैध गतिविधियों को रोकने और किशोरों को हानिकारक सामग्री से बचाने के उपाय प्रस्तुत करने के लिए कहा है, जिसमें उनकी पहुंच को सीमित करना या प्रबंधित करना भी शामिल है।”

आयोग ने कहा, दक्षिण कोरियाई कानून के तहत, एक्स सहित सोशल नेटवर्क प्लेटफार्मों के ऑपरेटरों को मामूली सुरक्षा के प्रभारी अधिकारी को नामित करने और एक वार्षिक रिपोर्ट जमा करने की आवश्यकता होती है।

केएमसीसी ने कहा कि अनुरोध विनियमन के अनुरूप किया गया था, यह देखते हुए कि यह बताया गया है कि सहमति के बिना उत्पन्न यौन डीपफेक सामग्री बनाना, प्रसारित करना या सहेजना आपराधिक दंड के अधीन है।

केएमसीसी के अध्यक्ष किम जोंग-चिओल ने एक विज्ञप्ति में कहा, “हम नई प्रौद्योगिकियों के सुदृढ़ और सुरक्षित विकास का सक्रिय रूप से समर्थन करने का इरादा रखते हैं।”

किम ने कहा, “जहां तक ​​साइड इफेक्ट्स और नकारात्मक प्रभावों का सवाल है, हम यौन शोषण सामग्री सहित अवैध जानकारी के प्रसार को रोकने के लिए उचित नियम और नीतियों में सुधार लाने की योजना बना रहे हैं, और नाबालिगों की सुरक्षा के लिए एआई सेवा प्रदाताओं की आवश्यकता होगी।”

इस बीच, एलोन मस्क द्वारा संचालित एक्स कॉर्प ने अपने प्लेटफॉर्म पर अश्लील इमेजरी की मौजूदगी को स्वीकार किया है, जो ज्यादातर उसके ग्रोक एआई द्वारा बनाई गई है, जिसमें कहा गया है कि वह भारतीय कानूनों का पालन करेगी और ऐसी सामग्री को हटा देगी।

भारत सरकार ने एक्स को गैरकानूनी सामग्री की पीढ़ी को रोकने के लिए ग्रोक के तकनीकी और शासन ढांचे की व्यापक समीक्षा करने का निर्देश दिया था। इसमें कहा गया है कि ग्रोक को सख्त उपयोगकर्ता नीतियां लागू करनी चाहिए, जिसमें उल्लंघनकर्ताओं का निलंबन और बर्खास्तगी भी शामिल है। इसमें कहा गया है कि सबूतों से छेड़छाड़ किए बिना सभी आपत्तिजनक सामग्री को तुरंत हटा दिया जाना चाहिए।