कैसे ChatGPT और अन्य AI चैटबॉट साइबर स्कैम से लड़ने में मदद कर सकते हैं – टाइम्स ऑफ इंडिया

ChatGPT एक AI-संचालित भाषा मॉडल है जो साइबर सुरक्षा की दुनिया में चर्चा का विषय रहा है। चैटबॉट में फिशिंग ईमेल बनाने की क्षमता है। इसके बावजूद ओपनएआई चेतावनियों कि उच्च जोखिम वाले क्षेत्रों में प्रौद्योगिकी को लागू करना अभी जल्दबाजी होगी, साइबर सुरक्षा विशेषज्ञों की नौकरी की सुरक्षा पर इसके प्रभाव के बारे में चिंता अभी भी बनी हुई है।
Kaspersky विशेषज्ञों ने फ़िशिंग लिंक का पता लगाने के लिए चैटजीपीटी की क्षमता प्रकट करने के लिए एक प्रयोग किया है। प्रयोग ने चैटजीपीटी के साइबर सुरक्षा ज्ञान की भी जांच की जो उसने प्रशिक्षण के दौरान सीखा। कंपनी के विशेषज्ञों ने जीपीटी-3.5-टर्बो मॉडल का परीक्षण किया जो चैटजीपीटी को 2,000 से अधिक लिंक्स पर शक्ति प्रदान करता है, जिन्हें कैस्पर्सकी एंटी-फिशिंग तकनीकों ने फिशिंग समझा, और इसे हजारों सुरक्षित यूआरएल के साथ मिलाया।
फ़िशिंग मेल का पता लगाने के लिए चैटजीपीटी की क्षमता
प्रयोग में, उपयोग किए गए संकेत के आधार पर पता लगाने की दर भिन्न होती है। प्रयोग चैटजीपीटी से दो प्रश्न पूछने पर आधारित था: “क्या यह लिंक किसी फ़िशिंग वेबसाइट की ओर ले जाता है?” और “क्या इस लिंक पर जाना सुरक्षित है?”।
परिणामों से पता चला कि चैटजीपीटी की पहचान दर 87.2% थी और पहले प्रश्न के लिए झूठी सकारात्मक दर 23.2% थी। दूसरा प्रश्न, “क्या इस लिंक पर जाना सुरक्षित है?” 93.8% की उच्च पहचान दर थी, लेकिन 64.3% की उच्च झूठी सकारात्मक दर थी। जबकि पता लगाने की दर बहुत अधिक थी, किसी भी प्रकार के उत्पादन अनुप्रयोग के लिए झूठी सकारात्मक दर भी बहुत अधिक थी।
प्रयोग के अन्य परिणाम
पता लगाने के कार्य में असंतोषजनक परिणाम अपेक्षित थे। अध्ययन के अनुसार, चूंकि हमलावरों ने उपयोगकर्ताओं को धोखा देने के लिए अपने लिंक में लोकप्रिय ब्रांडों का उल्लेख किया है, यह मानते हुए कि URL वैध है और एक प्रतिष्ठित कंपनी से संबंधित है, AI भाषा मॉडल संभावित फ़िशिंग लक्ष्यों की पहचान में प्रभावशाली परिणाम दिखाता है।
उदाहरण के लिए, ChatGPT ने सफलतापूर्वक आधे से अधिक URL से एक लक्ष्य निकाला, जिसमें Facebook, TikTok और जैसे प्रमुख तकनीकी पोर्टल शामिल हैं। गूगलमार्केटप्लेस जैसे वीरांगना और भापऔर दुनिया भर के कई बैंक, दूसरों के बीच – बिना किसी अतिरिक्त प्रशिक्षण के।
प्रयोग ने यह भी दिखाया कि लिंक दुर्भावनापूर्ण है या नहीं, इस निर्णय पर अपनी बात साबित करने की बात आने पर चैटजीपीटी को गंभीर समस्याएं हो सकती हैं। कुछ स्पष्टीकरण सही थे और तथ्यों पर आधारित थे, जबकि अन्य ने मतिभ्रम और गलतबयानी सहित भाषा मॉडल की ज्ञात सीमाओं का खुलासा किया। इसके अलावा, आत्मविश्वास भरे स्वर के बावजूद, कई स्पष्टीकरण भी भ्रामक थे।