ChatGPT सर्च में एक बड़ी धोखाधड़ी की समस्या है जिसे OpenAI को ठीक करने की आवश्यकता है: सभी विवरण – News18

आखरी अपडेट:02 जनवरी, 2025, 08:00 IST

OpenAI सभी उपयोगकर्ताओं को चैटजीपीटी खोज संस्करण मुफ्त में दे रहा है लेकिन नई रिपोर्टों के अनुसार इसके परिणामों में हेरफेर किया जा सकता है।

चैटजीपीटी खोज सभी उपयोगकर्ताओं के लिए उपलब्ध है, यहां तक ​​कि बिना खाते वाले उपयोगकर्ताओं के लिए भी

OpenAI के ChatGPT में हाल के दिनों में वैश्विक स्तर पर उल्लेखनीय उछाल देखा गया है। हालाँकि, एक रिपोर्ट बताती है कि एआई चैटबॉट के खोज एल्गोरिदम को छिपी हुई सामग्री द्वारा हेरफेर किया जा सकता है। द गार्जियन द्वारा किए गए शोध के अनुसार, प्रोग्राम का उपयोग उपयोगकर्ताओं के लिए दुर्भावनापूर्ण कोड या पक्षपाती परिणाम उत्पन्न करने के लिए किया जा सकता है।

अध्ययन इस बात पर केंद्रित था कि चैटजीपीटी छिपी हुई सामग्री वाले वेब पेजों को कैसे संभालता है। यह पता चला कि ऐसी सामग्री में बाहरी पक्षों के निर्देश शामिल हो सकते हैं जो चैटबॉट की प्रतिक्रियाओं को प्रभावित करते हैं, एक विधि जिसे प्रॉम्प्ट इंजेक्शन के रूप में जाना जाता है। इस रणनीति का उपयोग एआई को अनुकूल रेटिंग या फीडबैक देने के लिए मनाने के लिए किया जा सकता है जो वेबपेज की वास्तविक सामग्री का उल्लंघन करता है।

इसके अलावा, द गार्जियन के शोध में यह भी कहा गया है कि चैटजीपीटी उन वेबसाइटों से हानिकारक कोड को पुनः प्राप्त और वापस कर सकता है जिन्हें वह खोजता है। यह एक बड़ी चिंता का विषय हो सकता है, खासकर जब वेब पेजों का सारांश या विश्लेषण करने के लिए टूल का उपयोग किया जाता है।

रिपोर्ट में कहा गया है, “एक सुरक्षा शोधकर्ता ने यह भी पाया है कि चैटजीपीटी उन वेबसाइटों से दुर्भावनापूर्ण कोड वापस कर सकता है जिन्हें वह खोजता है।”

एक परीक्षण के दौरान, पोर्टल ने एक कैमरा उत्पाद की नकली वेबसाइट का उपयोग किया और चैटजीपीटी से पूछा कि क्या उत्पाद खरीदने लायक है या नहीं। जवाब में, एआई चैटबॉक्स ने एक संतुलित प्रतिक्रिया प्रदान की। हालाँकि, जब छिपे हुए निर्देशों को शामिल किया गया, तो प्रतिक्रिया अत्यधिक सकारात्मक हो गई, इस तथ्य के बावजूद कि दृश्य जानकारी को नकारात्मक प्रतिक्रिया मिली।

साइबरसीएक्स के साइबर सुरक्षा विशेषज्ञ जैकब लार्सन ने कहा कि चैटजीपीटी सर्च इंजन की वर्तमान स्थिति पूरी तरह से लॉन्च होने पर महत्वपूर्ण खतरे पैदा कर सकती है। द गार्जियन के अनुसार, उन्होंने एआई की प्रतिक्रियाओं में हेरफेर करने के लिए बनाई गई नकली वेबसाइटों की क्षमता पर प्रकाश डाला।

इसके अलावा, उन्होंने इस बात पर जोर दिया कि ओपनएआई के पास एक मजबूत एआई सुरक्षा टीम है और सभी उपयोगकर्ताओं के लिए खोज कार्यक्षमता को व्यापक रूप से उपलब्ध कराने से पहले और अधिक परीक्षण की उम्मीद है। अभी तक, खोज उपकरण केवल प्रीमियम उपयोगकर्ताओं के लिए उपलब्ध है, कंपनी ने उनसे इसे अपना डिफ़ॉल्ट खोज इंजन बनाने का अनुरोध किया है।

“उनके पास बहुत मजबूत है [AI security] वहां टीम, और जब तक यह सार्वजनिक हो जाता है, तब तक सभी उपयोगकर्ता इस तक पहुंच सकते हैं, वे इस प्रकार के उदाहरणों का पूरी तरह से परीक्षण कर चुके होंगे,” लार्सन ने कहा।

हाल ही में, Apple ने घोषणा की कि वे ChatGPT को iOS, iPadOS और macOS के अनुभवों में एकीकृत कर रहे हैं, जिससे उपयोगकर्ता टूल के बीच स्थानांतरित किए बिना AI चैटबॉक्स की छवि और दस्तावेज़ समझ जैसी क्षमताओं का लाभ उठा सकते हैं।