ओपनएआई एआई ब्राउज़रों के साथ सुरक्षा जोखिमों के बारे में चिंतित है, खतरे से लड़ने के लिए एआई का उपयोग करता है

आखरी अपडेट:24 दिसंबर, 2025, 07:40 IST

OpenAI इन हमलों को रोकने के तरीके पर काम कर रहा है और यह इन ब्राउज़रों पर उपयोगकर्ताओं की सुरक्षा के लिए AI का उपयोग कर रहा है।

एआई ब्राउज़र ने अभी-अभी वास्तविक दुनिया में कदम रखा है, लेकिन सुरक्षा मुद्दों ने उद्योग में पहले से ही चिंता पैदा कर दी है। विशेषज्ञों ने एआई को आपके कार्य करने देने के प्रभाव के बारे में जोर-शोर से बात की है और अब ओपनएआई अपनी चिंताओं को साझा कर रहा है और यहां तक ​​​​कि इस खतरे से लड़ने की योजना पर भी प्रकाश डाला है।

कंपनी एआई ब्राउज़रों के साथ त्वरित इंजेक्शन से उत्पन्न जोखिमों से लड़ने के लिए एआई का उपयोग करने की योजना बना रही है और मॉडल को उन युक्तियों और खामियों पर प्रशिक्षित करने की अनुमति देती है जिनका हैकर्स फायदा उठा सकते हैं।

ओपनएआई त्वरित इंजेक्शन के खतरे से लड़ने के लिए तैयार: यहां बताया गया है कि कैसे

इससे पहले कि हम खतरे से लड़ने के लिए ओपनएआई की योजना के बारे में बात करें, यह समझना महत्वपूर्ण है कि त्वरित इंजेक्शन हमले क्या हैं। हम सभी जानते हैं कि एआई चैटबॉट संकेतों का जवाब देते हैं, चाहे वह एक छवि बनाने के लिए हो, किराने का सामान ऑर्डर करने के लिए हो या यहां तक ​​कि एआई को किसी दस्तावेज़ को स्कैन करने के लिए कहने के लिए भी हो।

उदाहरण के लिए, जब आप अपनी किराने की दुकान के लिए एआई दुकान बनाते हैं, तो इसमें भुगतान विवरण भी शामिल होने की संभावना होती है, और ये बुरे कलाकार एआई मॉडल को उन नंबरों को प्रकट करने के लिए त्वरित इंजेक्शन का उपयोग कर सकते हैं। ये इंजेक्शन उन उपयोगकर्ताओं पर भी हमला कर सकते हैं जो किसी दुर्भावनापूर्ण वेब पेज को सारांशित करने के लिए एआई प्राप्त करते हैं, यह इतना आसान है।

अब बात करते हैं कि OpenAI इन हमलों को रोकने के लिए क्या करने का इरादा रखता है। कंपनी ने अपना स्वयं का एआई हमलावर बनाया है जो चलते-फिरते नए त्वरित इंजेक्शनों को छिपा और अनुकरण कर सकता है। टूल को चैटजीपीटी एटलस ब्राउज़र पर परीक्षण के लिए रखा गया है जो उन्हें एआई ब्राउज़र के साथ समस्याओं का विश्लेषण करने की अनुमति देता है और उन्हें कैसे रोका जा सकता है।

कंपनी को लगता है कि त्वरित इंजेक्शन कभी भी पूरी तरह से हल नहीं होंगे, जो सुनने में कभी भी अच्छी बात नहीं है, लेकिन यह एक रक्षात्मक परत बनाकर जोखिमों से निपटने की योजना बना रही है जो पहले से ही मुद्दों को पहचान सकती है और यहां तक ​​​​कि तेजी से पहचान भी सकती है।

यह बिल्कुल स्पष्ट है कि ओपनएआई अपने एआई ब्राउज़र पर इन हमलों से उत्पन्न जोखिमों के बारे में उपयोगकर्ताओं को आश्वस्त नहीं कर रहा है, लेकिन इन जोखिमों के लिए कोई भी दीर्घकालिक समाधान न केवल एटलस बल्कि अन्य समान ब्राउज़रों के लिए बड़े पैमाने पर मदद करेगा।

कंपनी ने उल्लेख किया कि त्वरित इंजेक्शन ऑनलाइन घोटालों की तरह ही सामान्य हो सकते हैं और उन्हें रोकना कठिन हो सकता है लेकिन उन्हें रोकना और उनके बारे में सतर्क रहना ही रास्ता हो सकता है।

और पढ़ें