इस कंपनी की एआई बॉट अपने क्लाइंट के डेटाबेस को हटा देती है और उद्देश्य से झूठ बोला है: पूरी कहानी पढ़ें

आखरी अपडेट:23 जुलाई, 2025, 14:23 IST

एआई कंपनी रिप्लेट ने अपने एआई एजेंट गो को बदमाश देखा और अपने क्लाइंट के डेटाबेस को हटाकर उन्हें सूचित किए बिना या डेटा तक पहुंचने की अनुमति दी।

एआई कंपनियां हर नुक्कड़ और कोने में मशरूम कर रही हैं, जिससे ब्रांड अपने व्यवसायों को अनुकूलित और आधुनिकीकरण करने में सक्षम बनाते हैं। लेकिन एआई उपकरण भी अपने अवांछित कार्य निष्पादन के लिए कुख्यात हो रहे हैं। ऐसा तब हुआ जब रिप्लाई नामक कंपनी के एआई टूल ने स्वेच्छा से अपने क्लाइंट के एक डेटाबेस पर कार्य करने का फैसला किया और बिना किसी को सूचित किए इसे हटा दिया।

मामले को बदतर बनाने के लिए, क्लाइंट कंपनी के सीईओ का दावा है कि एआई ने न केवल सभी डेटा को हटा दिया, बल्कि उद्देश्य पर भी झूठ बोला। दुष्ट एआई का शिकार सास्ट एआई, जेसन लेमकिन के सीईओ हैं, जिन्होंने एक्स पर एक थ्रेड पोस्ट के माध्यम से इस चिंताजनक रूप से साझा किया।

दुष्ट एआई डेटा गड़बड़ करता है

लेमकिन ने अपने थ्रेड में स्थिति का विवरण दिया और एआई टूल ने अपने डेटाबेस को बिना किसी सहमति की मांग किए क्या किया। वह एक सप्ताह के लंबे वाइब कोडिंग अभ्यास में लगे हुए थे, जहां उन्होंने कंपनी के डेटाबेस का उपयोग करके कुछ कार्यों को निष्पादित करने के लिए एआई उपकरण सौंपा था।

और यही वह जगह है जहां यह सब लेमकिन और उनकी कंपनी के लिए डाउनहिल चला गया। कुछ घंटों के लिए उन्होंने सोचा कि एआई उपकरण ने उनके जीवन के काम को नष्ट कर दिया था और अभी भी ऐसा करने के बारे में झूठ बोलने का मन था।

रिप्लाई के सीईओ अमजद मसद को लेमकिन की चिंताओं का जवाब देने की जल्दी थी और उन्होंने स्वीकार किया कि उनकी कंपनी के एआई एजेंट ने मुख्य डेटाबेस से सास्ट्र डेटा को हटा दिया, जो वह कहता है, “अस्वीकार्य और कभी भी संभव नहीं होना चाहिए।”

लेमकिन के लिए सौभाग्य से, मसद का दावा है कि उनकी कंपनी के पास डेटा के लिए बैकअप है, जो उन मामलों में पूरी परियोजना के लिए एक-क्लिक बहाली प्रक्रिया प्रदान करता है जहां एआई एजेंट वास्तव में डेटाबेस को हटाता है।

एआई एजेंट अभी तक पूरी तरह से भरोसेमंद नहीं हैं

एआई बॉट गोइंग दुष्ट के साथ सबसे बड़ा मुद्दा यह है कि कंपनी के डेटाबेस को लेमकिन के बिना एक्सेस किया गया था जो उन्हें अनुमति देता है। मसद और सह। समय के लिए स्थिति को तय कर लिया है, लेकिन इस तरह की लैप्स लंबी अवधि में विनाशकारी हो सकती है और यदि कोई प्रमुख समूह इन दुर्घटनाओं का सामना करता है, तो उत्तर के लिए नतीजे या एक समान एआई एजेंट स्टार्टअप उन्हें व्यवसाय से बाहर कर देगा।

अमजद ने लेमकिन और अन्य ग्राहकों को इन घटनाओं से निपटने के बारे में आश्वासन दिया, “मैं शुक्रवार की सुबह मैंने शुक्रवार की सुबह जेसन के पास पहुंचा, हम उसे परेशानी के लिए वापस कर देंगे और यह निर्धारित करने के लिए एक पोस्टमॉर्टम का संचालन करेंगे कि वास्तव में क्या हुआ और हम भविष्य में इसका बेहतर जवाब कैसे दे सकते हैं।”

बुनियादी काम को संभालने के लिए वाइब कोडिंग और एआई एजेंटों को तैनात करने के लिए यह सब अच्छा है। लेकिन जिस क्षण आप इन एजेंटों को गंदे काम के माध्यम से डालते हैं, यह जरूरी है कि वे दुष्ट नहीं जाते हैं, और निश्चित रूप से किसी के डेटाबेस को सहमति या मांग के बिना नहीं हटाते हैं।

टिप्पणियाँ देखें

पहले प्रकाशित: