फ्रॉडजीपीटी और वर्मजीपीटी क्या हैं? डार्क एआई मॉडल साइबर खतरे के परिदृश्य को बदल रहे हैं, इस पर विशेषज्ञों की राय – News18

साइबर अपराधी हमेशा इंटरनेट के विशाल क्षेत्र में नई-नई धोखाधड़ी तकनीकें लेकर आते रहते हैं, जिनमें पहचान की चोरी से लेकर परिष्कृत वायरस हमले तक शामिल हैं। जनरेटिव आर्टिफिशियल इंटेलिजेंस (AI) उपकरणों के उद्भव ने साइबर सुरक्षा परिदृश्य में जटिलता की एक नई परत पेश की है, जिसे डार्क AI के उदय द्वारा चिह्नित किया गया है।

ऑनलाइन सुरक्षा सुनिश्चित करना पहले से कहीं ज़्यादा महत्वपूर्ण हो गया है। AI में एक विशेष रूप से खतरनाक विकास “डार्क LLM” (बड़े भाषा मॉडल) का निर्माण है। ChatGPT जैसे मानक AI सिस्टम के इन अनियमित संस्करणों को अवैध गतिविधियों के लिए फिर से इस्तेमाल किया गया है, जो नैतिक बाधाओं के बिना और परेशान करने वाली सटीकता और दक्षता के साथ काम कर रहे हैं।

साइबर अपराधी अब फ़िशिंग योजनाओं को स्वचालित और बेहतर बनाने, परिष्कृत मैलवेयर विकसित करने और घोटाले की सामग्री तैयार करने के लिए डार्क एलएलएम का उपयोग करते हैं। यह एलएलएम “जेलब्रेकिंग” के माध्यम से पूरा किया जाता है, जहाँ मॉडल के आंतरिक सुरक्षा उपायों और फ़िल्टर को बायपास करने के लिए संकेतों का उपयोग किया जाता है। उदाहरण के लिए, फ्रॉडजीपीटी दुर्भावनापूर्ण कोड लिखने, फ़िशिंग वेबसाइट डिज़ाइन करने और पता न लगने वाले मैलवेयर बनाने में सक्षम है। यह विभिन्न साइबर अपराधों को अंजाम देने के लिए उपकरण प्रदान करता है – क्रेडिट कार्ड धोखाधड़ी से लेकर डिजिटल प्रतिरूपण तक।

एक और डार्क एलएलएम, वर्मजीपीटी, विश्वसनीय फ़िशिंग ईमेल बनाता है जो सबसे सतर्क उपयोगकर्ताओं को भी धोखा दे सकता है। GPT-J मॉडल के आधार पर, वर्मजीपीटी का उपयोग मैलवेयर बनाने और व्यावसायिक ईमेल समझौता हमलों को संचालित करने के लिए भी किया जाता है, जिसमें विशिष्ट संगठनों को लक्षित करके फ़िशिंग प्रयास करना शामिल है।

ब्लॉकचेन स्टार्ट-अप सिक्योरडीऐप के सह-संस्थापक और सीईओ अभिषेक सिंह ने ऐसे उपकरणों के उभरने पर गहरी चिंता व्यक्त की। उन्होंने कहा: “फ्रॉडजीपीटी और वर्मजीपीटी जैसे दुर्भावनापूर्ण एआई मॉडल ऑनलाइन खतरों की दुनिया में एक गेम-चेंजर हैं। ये परिष्कृत मॉडल अविश्वसनीय रूप से विश्वसनीय सामग्री उत्पन्न कर सकते हैं, जिससे सबसे सतर्क उपयोगकर्ताओं के लिए भी धोखाधड़ी का पता लगाना मुश्किल हो जाता है।”

उन्होंने आगे कहा: “FraudGPT एक मास्टर कॉन आर्टिस्ट की तरह है, जो नकली ईमेल, समीक्षा और संदेश तैयार करता है, जो लोगों को संवेदनशील जानकारी का खुलासा करने या स्कैमर्स को पैसे भेजने के लिए धोखा दे सकता है। और WormGPT? यह एक डिजिटल वायरस की तरह है, जो इंटरनेट पर खुद को फैलाता है, पहचान से बचने के लिए खुद को ढालता है और सुरक्षा उपायों से एक कदम आगे रहने के लिए अपने कोड को भी संशोधित करता है। एक ऐसे व्यक्ति के रूप में जिसने अपना करियर डिजिटल दुनिया को सुरक्षित बनाने के लिए समर्पित किया है, मेरा मानना ​​है कि हमें इन खतरों को गंभीरता से लेने की आवश्यकता है। हमें इन दुर्भावनापूर्ण AI मॉडल से निपटने के लिए अभिनव समाधान विकसित करने, उपयोगकर्ताओं को शिक्षित करने और सतर्क रहने की आवश्यकता है। हमारे डिजिटल परिदृश्य का भविष्य इस पर निर्भर करता है।”

इस बीच, mFilterIt के सह-संस्थापक और सीईओ अमित प्रसाद ने बढ़ते खतरे पर प्रकाश डालते हुए कहा: “पहचान की चोरी से लेकर परिष्कृत मैलवेयर हमलों तक, साइबर अपराधी नए-नए घोटाले के तरीके अपनाते रहते हैं। जेनरेटिव AI टूल ने अब डार्क AI के उदय के माध्यम से साइबर सुरक्षा परिदृश्य में जटिलता की एक नई परत जोड़ दी है। अपनी ऑनलाइन सुरक्षा को शीर्ष पर रखना पहले से कहीं अधिक महत्वपूर्ण है। डार्क LLM, ChatGPT जैसे रोजमर्रा के AI सिस्टम के बिना सेंसर किए गए संस्करण, फ़िशिंग अभियानों को स्वचालित और बढ़ाने, परिष्कृत मैलवेयर बनाने और अंतर्निहित सुरक्षा उपायों और फ़िल्टर को बायपास करने के लिए संकेतों का उपयोग करके घोटाला सामग्री उत्पन्न करने के लिए तैनात किए जाते हैं।”

प्रसाद ने सक्रिय उपायों और जागरूकता की आवश्यकता पर जोर दिया। उन्होंने कहा: “सरकार जागरूकता फैलाने और ऐसे खतरों से निपटने के लिए सक्रिय उपायों को लागू करने के लिए काम कर रही है। RBI की वार्षिक रिपोर्ट के अनुसार, धोखाधड़ी के मामलों में शामिल राशि पिछले वर्ष के 227 करोड़ रुपये से बढ़कर वित्त वर्ष 24 में 1,457 करोड़ रुपये हो गई। देश में ऑनलाइन धोखाधड़ी की संख्या वित्त वर्ष 2023-24 (FY24) में साल-दर-साल (YoY) 334 प्रतिशत बढ़कर 29,082 हो गई।”

उनका मानना ​​है कि एआई-आधारित खतरे का पता लगाने वाले उपकरणों के साथ मानवीय जागरूकता और सक्रिय निगरानी का मिश्रण ऐसे खतरों का अधिक प्रभावी ढंग से जवाब देने में मदद कर सकता है। प्रसाद के अनुसार: “उन कमज़ोरियों को ठीक करें जिनका साइबर अपराधी बहुत देर होने से पहले फायदा उठाने की कोशिश करते हैं। फ़िशिंग संदेशों में सुरागों की पहचान करने के लिए जागरूकता, जैसे कि खराब व्याकरण, सामान्य अभिवादन, संदिग्ध ईमेल पते, अत्यधिक ज़रूरी अनुरोध या संदिग्ध लिंक, महत्वपूर्ण है। बैंकिंग नियामक दुर्भावनापूर्ण एलएलएम जैसे परिष्कृत खतरों का मुकाबला करने की दिशा में सक्रिय रूप से काम कर रहे हैं। अन्य बड़े उपभोक्ता ब्रांडों को भी कमर कसने की ज़रूरत है।”