ChatGPT निर्माता OpenAI को उन परिवारों के कई नए मुकदमों का सामना करना पड़ रहा है, जिनका कहना है कि कंपनी ने अपना GPT-4o मॉडल बहुत जल्दी जारी कर दिया। रिपोर्ट के अनुसार, उनका दावा है कि मॉडल ने आत्महत्या और मानसिक स्वास्थ्य समस्याओं में योगदान दिया हो सकता है।
यूएस स्थित OpenAI ने मई 2024 में GPT-4o लॉन्च किया, जिससे यह सभी उपयोगकर्ताओं के लिए डिफ़ॉल्ट मॉडल बन गया। अगस्त में, इसने GPT-5 को अपने अगले संस्करण के रूप में पेश किया।
टेकक्रंच के अनुसार, मॉडल को कथित तौर पर “बहुत सहमत” या “अत्यधिक सहायक” होने में समस्या थी, तब भी जब उपयोगकर्ताओं ने हानिकारक विचार व्यक्त किए। रिपोर्ट में कहा गया है कि चार मुकदमों में परिवार के सदस्यों की आत्महत्या में कथित भूमिका के लिए चैटजीपीटी को दोषी ठहराया गया है, जबकि तीन अन्य का दावा है कि चैटबॉट ने हानिकारक भ्रम को बढ़ावा दिया जिसके कारण कुछ लोगों को मनोरोग उपचार की आवश्यकता पड़ी।
ज़ी न्यूज़ को पसंदीदा स्रोत के रूप में जोड़ें
रिपोर्ट के अनुसार, मुकदमों में यह भी दावा किया गया है कि OpenAI ने बाजार में Google के जेमिनी को मात देने के लिए सुरक्षा परीक्षण में जल्दबाजी की।
OpenAI ने अभी तक रिपोर्ट पर कोई टिप्पणी नहीं की है। हालिया कानूनी दाखिलों में आरोप लगाया गया है कि चैटजीपीटी आत्मघाती लोगों को अपनी योजनाओं पर कार्य करने के लिए प्रोत्साहित कर सकता है और खतरनाक भ्रम पैदा कर सकता है। रिपोर्ट में कहा गया है, “ओपनएआई ने हाल ही में डेटा जारी किया है जिसमें कहा गया है कि चैटजीपीटी से हर हफ्ते दस लाख से अधिक लोग आत्महत्या के बारे में बात करते हैं।”
(यह भी पढ़ें: भारत में चैटजीपीटी अब एक साल के लिए मुफ्त: ओपनएआई ने 4 नवंबर से शुरू होने वाला विशेष ऑफर लॉन्च किया- विवरण देखें)
एक हालिया ब्लॉग पोस्ट में, ओपनएआई ने कहा कि उसने चैटजीपीटी को संकट के संकेतों को अधिक विश्वसनीय रूप से पहचानने, देखभाल के साथ प्रतिक्रिया देने और लोगों को वास्तविक दुनिया के समर्थन के लिए मार्गदर्शन करने में मदद करने के लिए 170 से अधिक मानसिक स्वास्थ्य विशेषज्ञों के साथ काम किया है – जो प्रतिक्रियाएं उसके वांछित व्यवहार से 65-80 प्रतिशत तक कम हो जाती हैं।
इसमें कहा गया है, “हमारा मानना है कि चैटजीपीटी लोगों को उनकी भावनाओं पर विचार करने के लिए एक सहायक स्थान प्रदान कर सकता है और उचित होने पर उन्हें दोस्तों, परिवार या मानसिक स्वास्थ्य पेशेवर तक पहुंचने के लिए मार्गदर्शन कर सकता है।”
ओपनएआई ने कहा, “आगे बढ़ते हुए, आत्महत्या और खुद को नुकसान पहुंचाने के लिए हमारे लंबे समय से चले आ रहे बेसलाइन सुरक्षा मेट्रिक्स के अलावा, हम भविष्य के मॉडल रिलीज के लिए बेसलाइन सुरक्षा परीक्षण के हमारे मानक सेट में भावनात्मक निर्भरता और गैर-आत्मघाती मानसिक स्वास्थ्य आपात स्थितियों को जोड़ रहे हैं।”
(आईएएनएस के इनपुट के साथ).
