आखरी अपडेट:
ओपनएआई पर अमेरिकी और कनाडाई परिवारों द्वारा मुकदमा दायर किया गया है, उनका दावा है कि चैटजीपीटी ने आत्महत्या और मानसिक स्वास्थ्य संकट में योगदान दिया है, वकालत समूहों द्वारा दायर किए गए मामलों के साथ।
ओपनएआई पर अमेरिकी और कनाडाई परिवारों द्वारा मुकदमा दायर किया गया है, उनका दावा है कि चैटजीपीटी ने आत्महत्या और मानसिक स्वास्थ्य संकट में योगदान दिया है, वकालत समूहों द्वारा दायर किए गए मामलों के साथ।
ओपनएआई को कई मुकदमों का सामना करना पड़ रहा है, जिसमें आरोप लगाया गया है कि इसके कृत्रिम बुद्धिमत्ता चैटबॉट, चैटजीपीटी ने आत्महत्या से कई मौतों और कई गंभीर मानसिक स्वास्थ्य संकटों में योगदान दिया है। कंपनी पर “दोषपूर्ण और स्वाभाविक रूप से खतरनाक” उत्पाद जारी करने का आरोप लगाते हुए कैलिफोर्निया राज्य की अदालतों में गुरुवार को चार गलत तरीके से मौत के मुकदमे और तीन अतिरिक्त मामले दायर किए गए।
संयुक्त राज्य अमेरिका और कनाडा के परिवारों और व्यक्तियों द्वारा दायर की गई शिकायतों में दावा किया गया है कि चैटजीपीटी की बातचीत ने उपयोगकर्ताओं के मानसिक स्वास्थ्य को खराब कर दिया है, आत्म-नुकसान को बढ़ावा दिया है, या भ्रमपूर्ण घटनाओं को प्रेरित किया है। मुकदमे टेक जस्टिस लॉ प्रोजेक्ट और सोशल मीडिया विक्टिम्स लॉ सेंटर द्वारा संयुक्त रूप से दायर किए गए थे।
चैटबॉट-प्रेरित आत्महत्याओं के आरोप
गलत तरीके से मौत के वादी में जॉर्जिया के 17 वर्षीय अमौरी लेसी का परिवार भी शामिल है, जिसने कथित तौर पर अगस्त में अपनी जान लेने से पहले आत्महत्या के बारे में चैटजीपीटी के साथ बातचीत करते हुए एक महीना बिताया था। एक अन्य मुकदमा फ्लोरिडा के 26 वर्षीय जोशुआ एननेकिंग की मां ने दायर किया था, जिन्होंने कथित तौर पर चैटबॉट से पूछा था, “इसके समीक्षकों को पुलिस को उसकी आत्महत्या की योजना की रिपोर्ट करने के लिए क्या करना होगा।”
टेक्सास में, 23 वर्षीय ज़ेन शंबलिन के परिवार का दावा है कि चैटबॉट ने उसे जुलाई में आत्महत्या करके मरने के लिए “प्रोत्साहित” किया।
चौथी शिकायत केट फॉक्स द्वारा दर्ज की गई थी, जिनके पति, ओरेगॉन के 48 वर्षीय जो सेकेंती, इस साल की शुरुआत में चैटजीपीटी के प्रति “जुनूनी” हो गए थे। फॉक्स ने कहा कि उनके पति, जो लंबे समय से चैटबॉट के उपयोगकर्ता थे, को अचानक विश्वास हो गया कि एआई संवेदनशील है। जून में उन्हें मानसिक विक्षोभ का अनुभव हुआ, दो बार अस्पताल में भर्ती कराया गया और अगस्त में आत्महत्या से उनकी मृत्यु हो गई।
अन्य मानसिक स्वास्थ्य दावे
दो अन्य वादी, उत्तरी कैरोलिना की 32 वर्षीय हन्ना मैडेन और विस्कॉन्सिन के 30 वर्षीय जैकब इरविन ने आरोप लगाया कि चैटजीपीटी के साथ बातचीत से गंभीर मानसिक विकार पैदा हो गया, जिसके लिए आपातकालीन मनोरोग उपचार की आवश्यकता थी।
सातवें वादी, कनाडा के ओन्टारियो के 48 वर्षीय कॉर्पोरेट भर्तीकर्ता एलन ब्रूक्स ने कहा कि मई में तीन सप्ताह में, उन्हें विश्वास हो गया कि उन्होंने और चैटजीपीटी ने “इंटरनेट को तोड़ने” में सक्षम गणितीय सूत्र का सह-आविष्कार किया है। ब्रूक्स बाद में भ्रम से उबर गए लेकिन उनका कहना है कि वह भावनात्मक रूप से सदमे में हैं और अल्पकालिक विकलांगता अवकाश पर हैं।
ब्रूक्स ने एक बयान में कहा, “उनके उत्पाद ने मुझे और दूसरों को नुकसान पहुंचाया है और ऐसा करना जारी है।”
ओपनएआई प्रतिक्रिया देता है
ओपनएआई के एक प्रवक्ता ने कहा कि कंपनी मुकदमों की समीक्षा कर रही है और मामलों को “अविश्वसनीय रूप से हृदय विदारक स्थिति” बताया है।
कंपनी ने कहा, “हम चैटजीपीटी को मानसिक या भावनात्मक संकट के संकेतों को पहचानने और प्रतिक्रिया देने, बातचीत को कम करने और लोगों को वास्तविक दुनिया के समर्थन के लिए मार्गदर्शन करने के लिए प्रशिक्षित करते हैं।” “हम मानसिक स्वास्थ्य चिकित्सकों के साथ मिलकर काम करते हुए, संवेदनशील क्षणों में चैटजीपीटी की प्रतिक्रियाओं को मजबूत करना जारी रखते हैं।”
कंपनी ने कहा कि उसने संकटग्रस्त किशोरों और उपयोगकर्ताओं के लिए नए सुरक्षा उपाय पेश किए हैं, जिसमें माता-पिता के नियंत्रण भी शामिल हैं जो माता-पिता को सूचित करते हैं यदि नाबालिग खुद को नुकसान पहुंचाने या आत्महत्या के बारे में चर्चा करते हैं।
पहले की घटनाएं और सुरक्षा संबंधी चिंताएं
ये मुक़दमे कैलिफ़ोर्निया के एक किशोर के परिवार द्वारा अगस्त में दायर की गई गलत-मौत की शिकायत के बाद हैं। उस मामले में, ओपनएआई ने स्वीकार किया कि उसके चैटबॉट की सुरक्षा रेलिंग लंबी बातचीत के दौरान “खराब” हो सकती है, जिससे संभावित रूप से हानिकारक आदान-प्रदान हो सकता है।
इस साल की शुरुआत में चैटबॉट इंटरैक्शन से जुड़े भ्रम या आत्मघाती विचारों का अनुभव करने वाले उपयोगकर्ताओं की कई रिपोर्टों के बाद, ओपनएआई ने अतिरिक्त मॉडरेशन टूल और मनोवैज्ञानिक सुरक्षा उपायों को शुरू करना शुरू कर दिया।
कंपनी ने आंतरिक शोध भी जारी किया है जिसमें अनुमान लगाया गया है कि, एक औसत सप्ताह में, 0.07% उपयोगकर्ता, या लगभग 500,000 लोग, मनोविकृति या उन्माद के लक्षण दिखा सकते हैं, और 0.15% या लगभग 1 मिलियन उपयोगकर्ता, आत्मघाती विचार पर चर्चा कर सकते हैं।
व्यापक निहितार्थ
टेक जस्टिस लॉ प्रोजेक्ट की संस्थापक मीताली जैन ने न्यूयॉर्क टाइम्स से बात करते हुए कहा कि सात मामले एक साथ “प्रौद्योगिकी द्वारा नुकसान पहुंचाने वाले लोगों की संख्या को दिखाने के लिए” दायर किए गए थे, जिसे उन्होंने “शक्तिशाली लेकिन खतरनाक रूप से कम विनियमित” बताया।
सभी वादी कंपनी के पहले फ्लैगशिप मॉडल ChatGPT-4o का उपयोग कर रहे थे, जिसे तब से एक ऐसे संस्करण से बदल दिया गया है जिसके बारे में OpenAI का दावा है कि यह “सुरक्षित और अधिक विश्वसनीय है।” हालाँकि, कुछ उपयोगकर्ताओं ने नई प्रणाली को “ठंडा” या “कम मानवीय” बताया है।
ये मुकदमे ओपनएआई के लिए अब तक की सबसे गंभीर कानूनी चुनौतियों में से एक हैं, यह परीक्षण करते हुए कि क्या जेनरेटर एआई कंपनियों को कथित तौर पर उनके उत्पादों के कारण होने वाले मनोवैज्ञानिक या भावनात्मक नुकसान के लिए उत्तरदायी ठहराया जा सकता है।
– न्यूयॉर्क टाइम्स के इनपुट के साथ
युनाइटेड स्टेट्स ऑफ़ अमेरिका, यूएसए)
09 नवंबर, 2025, 13:14 IST
और पढ़ें
