चैटजीपीटी से दवा के बारे में पूछना एक ‘बुरा विचार’ क्यों हो सकता है – टाइम्स ऑफ इंडिया

यदि आप अस्वीकरणों पर ध्यान नहीं दे रहे थे एआई चैटबॉटअब समय आ गया है कि आपको ऐसा करना चाहिए। ओपनएआई‘एस चैटजीपीटी ने दुनिया में तहलका मचा दिया और कंपनी ने हाल ही में घोषणा की कि अब इसका उपयोग साप्ताहिक रूप से 100 मिलियन उपयोगकर्ताओं द्वारा किया जाता है। हालाँकि, यदि आप ChatGPT के मुफ़्त संस्करण का उपयोग कर रहे हैं तो शोधकर्ताओं के पास एक ‘चेतावनी’ है।
ChatGPT के दो संस्करण हैं – एक निःशुल्क संस्करण और एक सशुल्क संस्करण। मुफ़्त संस्करण GPT 3.5 द्वारा संचालित है, जो GPT-4 की तुलना में अपेक्षाकृत पुराना मॉडल है जो कि अधिक शक्तिशाली और सक्षम संस्करण है।
यह देखते हुए कि अधिक सक्षम मॉडल तक पहुंच प्राप्त करने में लागत शामिल है, और इसका मुफ्त संस्करण उपलब्ध है, यह स्पष्ट है कि लोग बाद वाले मॉडल को चुनना चाहेंगे। ओपनएआई ने बार-बार इस बात पर प्रकाश डाला है कि लोगों को इसके एआई चैटबॉट द्वारा प्रतिक्रियाओं की तथ्य-जांच करनी चाहिए और शोधकर्ताओं ने अब इन निर्देशों का पालन करने का एक और मजबूत कारण प्रदान किया है।
चैटजीपीटी की चिकित्सीय जानकारी गलत हो सकती है
लॉन्ग आइलैंड यूनिवर्सिटी में फार्मासिस्टों द्वारा किए गए शोध के अनुसार, चैटजीपीटी का मुफ्त संस्करण दवा से संबंधित प्रश्नों के गलत या अपूर्ण उत्तर प्रदान कर सकता है। यह व्यवहार मरीजों को खतरनाक स्थिति में डाल सकता है।
अध्ययन से पता चलता है कि मरीजों और स्वास्थ्य देखभाल पेशेवरों को दवा की जानकारी के लिए ओपनएआई के मुफ्त चैटबॉट पर भरोसा करने के बारे में सतर्क रहना चाहिए। फार्मासिस्टों ने मुफ्त चैटजीपीटी में 39 प्रश्न पूछे लेकिन पाया कि उनके द्वारा स्थापित मानदंडों के आधार पर केवल 10 प्रतिक्रियाएँ “संतोषजनक” थीं।
उन्होंने पाया कि चैटजीपीटी के सवालों के जवाब या तो सीधे तौर पर पूछे गए सवाल को संबोधित नहीं करते थे या गलत, अधूरे या दोनों थे। शोधकर्ताओं ने उपयोगकर्ताओं को ओपनएआई की सलाह का पालन करने की सलाह दी कि “इस पर भरोसा न करें।” [free ChatGPT’s] पेशेवर चिकित्सा सलाह या पारंपरिक देखभाल के विकल्प के रूप में प्रतिक्रियाएँ।
गूगल सीईओ के चेतावनी भरे शब्द
इस साल की शुरुआत में, Google के सीईओ सुंदर पिचाई ने भी वर्तमान AI चैटबॉट्स द्वारा उत्पन्न खतरों की गंभीरता प्रदान करने के लिए एक चिकित्सा संदर्भ का उपयोग किया था। ‘एआई पार्टी’ में देर से आने के लिए उन्होंने जो कारण बताया, उनमें से एक Google के भीतर सावधानी की भावना थी।
“हमें यह पता लगाना होगा कि इसका उपयोग कैसे करना है [chatbot] सही संदर्भ में, है ना? उदाहरण के लिए, यदि आप खोज पर आते हैं, और आप तीन साल के बच्चे के लिए टाइलेनॉल की खुराक टाइप कर रहे हैं, तो उस संदर्भ में मतिभ्रम करना ठीक नहीं है,” उन्होंने एक साक्षात्कार में बताया, और कहा कि “प्राप्त करने के लिए कोई जगह नहीं है वो गलत”।
एआई चैटबॉट बेहतर होते जा रहे हैं
माइक्रोसॉफ्ट अभी कोपायलट के लिए कई सुविधाओं की घोषणा की गई है और रिपोर्टों से पता चलता है कि Google इस सप्ताह अपने GPT-4 प्रतिद्वंद्वी भाषा मॉडल जेमिनी के आभासी पूर्वावलोकन की भी तैयारी कर रहा है। इससे पता चलता है कि एआई क्षेत्र में काम करने वाले तकनीकी दिग्गज अधिक सटीक जानकारी प्रदान करने के लिए गियर बदल रहे हैं।