नयी दिल्ली: चैटजीपीटी के पीछे स्टार्टअप ओपनएआई ने गुरुवार को कहा कि वह अपने वायरल चैटबॉट में अपग्रेड विकसित कर रहा है जिसे उपयोगकर्ता अनुकूलित कर सकते हैं, क्योंकि यह कृत्रिम बुद्धि में पूर्वाग्रह के बारे में चिंताओं को दूर करने के लिए काम करता है। सैन फ्रांसिस्को स्थित स्टार्टअप, जिसे माइक्रोसॉफ्ट कॉर्प (MSFT.O) ने वित्त पोषित किया है और अपनी नवीनतम तकनीक को शक्ति प्रदान करने के लिए उपयोग किया है, ने कहा कि इसने राजनीतिक और अन्य पूर्वाग्रहों को कम करने के लिए काम किया है, लेकिन यह अधिक विविध विचारों को भी समायोजित करना चाहता है।
“इसका मतलब यह होगा कि सिस्टम आउटपुट को अनुमति देने से अन्य लोग (स्वयं शामिल) दृढ़ता से असहमत हो सकते हैं,” यह एक ब्लॉग पोस्ट में कहा गया है, जो आगे बढ़ने के तरीके के रूप में अनुकूलन की पेशकश करता है। फिर भी, “हमेशा सिस्टम व्यवहार पर कुछ सीमाएं होंगी।”
चैटजीपीटी, जिसे पिछले साल नवंबर में जारी किया गया था, ने जनरेटिव एआई नामक तकनीक में उन्मादी रुचि जगाई है, जिसका उपयोग लोगों को चकाचौंध करने वाले मानव भाषण की नकल करने वाले उत्तरों का उत्पादन करने के लिए किया जाता है।
उसी सप्ताह स्टार्टअप से खबर आती है कि कुछ मीडिया आउटलेट्स ने इंगित किया है कि ओपनएआई द्वारा संचालित माइक्रोसॉफ्ट के नए बिंग सर्च इंजन के उत्तर संभावित रूप से खतरनाक हैं और यह तकनीक प्राइम टाइम के लिए तैयार नहीं हो सकती है।
कैसे प्रौद्योगिकी कंपनियां इस नवजात प्रौद्योगिकी के लिए रेलिंग सेट करती हैं, यह जनरेटिव एआई स्पेस में कंपनियों के लिए एक प्रमुख फोकस क्षेत्र है जिसके साथ वे अभी भी कुश्ती कर रहे हैं। Microsoft ने बुधवार को कहा कि उपयोगकर्ता प्रतिक्रिया व्यापक रोलआउट से पहले बिंग को बेहतर बनाने में मदद कर रही थी, उदाहरण के लिए यह सीखते हुए कि इसके एआई चैटबॉट को प्रतिक्रिया देने के लिए “उकसाया” जा सकता है जिसका इरादा नहीं था।
OpenAI ने ब्लॉग पोस्ट में कहा कि ChatGPT के जवाबों को पहले इंटरनेट पर उपलब्ध बड़े टेक्स्ट डेटासेट पर प्रशिक्षित किया जाता है। दूसरे चरण के रूप में, मानव एक छोटे डेटासेट की समीक्षा करता है, और विभिन्न स्थितियों में क्या करना है, इसके लिए दिशानिर्देश दिए जाते हैं।
उदाहरण के लिए, यदि कोई उपयोगकर्ता वयस्क, हिंसक या अभद्र भाषा वाली सामग्री का अनुरोध करता है, तो मानव समीक्षक को ChatGPT को “मैं इसका उत्तर नहीं दे सकता” जैसे कुछ के साथ उत्तर देने के लिए निर्देशित करना चाहिए।
यदि किसी विवादास्पद विषय के बारे में पूछा जाता है, तो समीक्षकों को चैटजीपीटी को सवाल का जवाब देने की अनुमति देनी चाहिए, लेकिन “इन जटिल विषयों पर सही दृष्टिकोण लेने” की कोशिश करने के बजाय लोगों और आंदोलनों के दृष्टिकोण का वर्णन करने की पेशकश करें, कंपनी ने अपने एक अंश में समझाया। सॉफ्टवेयर के लिए दिशानिर्देश।
