लॉन्च के तुरंत बाद एआई गर्लफ्रेंड्स ने जीपीटी स्टोर में बाढ़ ला दी, ओपनएआई नियमों का उल्लंघन हुआ

नई दिल्ली: OpenAI का हाल ही में लॉन्च हुआ GPT स्टोर अपनी शुरुआत के कुछ ही दिनों बाद मॉडरेशन में कठिनाइयों का सामना कर रहा है। प्लेटफ़ॉर्म ChatGPT के वैयक्तिकृत संस्करण प्रदान करता है, लेकिन कुछ उपयोगकर्ता ऐसे बॉट विकसित कर रहे हैं जो OpenAI के दिशानिर्देशों का उल्लंघन करते हैं।

“आपका एआई साथी, त्सू” जैसे नामों वाले ये बॉट उपयोगकर्ताओं को अपने आभासी रोमांटिक साथियों को वैयक्तिकृत करने में सक्षम बनाते हैं, जो स्पष्ट रूप से रोमांटिक रिश्तों को पोषित करने के लिए बनाए गए बॉट पर ओपनएआई के प्रतिबंध का उल्लंघन करते हैं।

कंपनी इस समस्या के समाधान के लिए सक्रिय रूप से काम कर रही है। 10 जनवरी, 2023 को स्टोर शुरू होने पर ओपनएआई ने अपनी नीतियों को संशोधित किया। हालांकि, दूसरे दिन नीति का उल्लंघन मॉडरेशन से जुड़ी चुनौतियों को उजागर करता है।

रिलेशनशिप बॉट की बढ़ती मांग के साथ, यह स्थिति में जटिलता की एक परत जोड़ रही है। जैसा कि रिपोर्ट किया गया है, 30 सबसे अधिक डाउनलोड किए गए एआई चैटबॉट में से सात पिछले वर्ष संयुक्त राज्य अमेरिका में आभासी मित्र या भागीदार थे। यह प्रवृत्ति प्रचलित अकेलेपन की महामारी से जुड़ी है।

जीपीटी मॉडल का आकलन करने के लिए, ओपनएआई का कहना है कि यह हानिकारक माने जाने वाले जीपीटी मॉडल के लिए चेतावनी या बिक्री प्रतिबंध लागू करने के लिए स्वचालित सिस्टम, मानव समीक्षाओं और उपयोगकर्ता रिपोर्ट का उपयोग करता है। हालाँकि, बाज़ार में गर्लफ्रेंड बॉट्स की निरंतर उपस्थिति इस दावे की प्रभावशीलता पर संदेह पैदा करती है।

मॉडरेशन में कठिनाई एआई डेवलपर्स द्वारा अनुभव की जाने वाली सामान्य चुनौतियों को दर्शाती है। OpenAI को GPT-3 जैसे पिछले मॉडलों के लिए सुरक्षा उपायों को लागू करने में समस्याओं का सामना करना पड़ा है। व्यापक उपयोगकर्ता दर्शकों के लिए उपलब्ध जीपीटी स्टोर के साथ, अपर्याप्त मॉडरेशन की संभावना एक महत्वपूर्ण चिंता का विषय है।

बढ़ती प्रतिस्पर्धा में त्वरित कार्रवाई के महत्व को समझते हुए, अन्य प्रौद्योगिकी कंपनियां भी अपने एआई सिस्टम की समस्याओं से तेजी से निपट रही हैं। फिर भी, प्रारंभिक उल्लंघन भविष्य में अपेक्षित महत्वपूर्ण चुनौतियों को उजागर करते हैं।

यहां तक ​​कि एक विशेष जीपीटी स्टोर के विशिष्ट वातावरण में भी, संकीर्ण रूप से केंद्रित बॉट्स को प्रबंधित करना एक जटिल कार्य प्रतीत होता है। जैसे-जैसे एआई आगे बढ़ रहा है, उनकी सुरक्षा सुनिश्चित करना और अधिक जटिल होता जा रहा है।