आगरा की किशोरी का ‘फर्जी आत्महत्या’ वीडियो मेटा एआई अलर्ट को ट्रिगर करता है: यहां बताया गया है कि सिस्टम स्वयं को नुकसान पहुंचाने वाली सामग्री का पता कैसे लगाता है

आखरी अपडेट:मार्च 08, 2026, 08:30 IST

बाद में लड़की ने अपनी गलती स्वीकार की और पुलिस ने उसकी काउंसलिंग की। यहां तक ​​कि उसे खुद को नुकसान पहुंचाने से संबंधित भ्रामक सामग्री पोस्ट करने के खिलाफ चेतावनी भी दी गई थी।

अधिक फॉलोअर्स हासिल करने के लिए, आगरा के फ़तेहपुर सीकरी में एक 17 वर्षीय लड़की ने एक ‘फर्जी’ आत्महत्या के प्रयास का वीडियो फिल्माया और इसे सोशल मीडिया पर पोस्ट कर दिया। गुरुवार को हुई घटना के बाद मेटा के एआई मॉनिटरिंग सिस्टम से अलर्ट जारी हुआ, जिसके बाद पुलिस उसके घर पहुंची।

पुलिस के अनुसार, क्लिप में किशोर को एक बोतल से तरल पीते हुए और बाद में गिरते हुए दिखाया गया है। हालाँकि, क्लिप की सामग्री को मेटा के एआई सिस्टम द्वारा संभावित आत्महत्या के प्रयास के रूप में चिह्नित किया गया था और कार्रवाई करने के लिए संबंधित अधिकारियों को तत्काल अलर्ट भेजा गया था।

इसके तुरंत बाद, सोशल मीडिया सेल ने स्थानीय पुलिस को घटना के बारे में सतर्क किया और लड़की की लोकेशन का पता लगाया गया। बाद में, उन्हें पता चला कि यह एक ‘मंचित’ वीडियो था और लड़की ठीक थी। उसने केवल पानी का सेवन किया, कोई जहरीला पदार्थ नहीं। अपनी गलती स्वीकार करने के बाद पुलिस ने लड़की की काउंसलिंग की और सोशल मीडिया पर खुद को नुकसान पहुंचाने से संबंधित भ्रामक सामग्री पोस्ट करने के खिलाफ चेतावनी दी।

मेटा एआई कैसे काम करता है?

फेसबुक और इंस्टाग्राम पर मेटा एआई और अन्य सुरक्षा प्रौद्योगिकियां सक्रिय कृत्रिम बुद्धिमत्ता निगरानी, ​​मशीन लर्निंग के साथ-साथ मानव समीक्षा के संयोजन के माध्यम से संभावित अपराधों और आत्म-नुकसान से संबंधित सामग्री की पहचान करती हैं। आसन्न जोखिम या अवैध गतिविधि का पता लगाने के बाद, ये सिस्टम कई कार्रवाइयां करते हैं जिनमें संसाधन हेल्पलाइन प्रदर्शित करने से लेकर कानून प्रवर्तन को सूचित करने तक शामिल हैं।

संसाधन उपलब्ध कराना

जब कोई व्यक्ति आत्मघाती विचार व्यक्त करता है, तो जितनी जल्दी हो सके सहायता प्राप्त करना महत्वपूर्ण हो जाता है। फेसबुक और इंस्टाग्राम पर उपलब्ध आत्महत्या रोकथाम संसाधन, व्यक्तिगत अनुभव वाले लोगों से इनपुट लेकर अग्रणी मानसिक स्वास्थ्य संगठनों के साथ विकसित किए गए हैं।

मशीन लर्निंग तकनीक की मदद से, मेटा ने संभावित आत्महत्या या आत्म-चोट सामग्री की पहचान करने की अपनी क्षमता का विस्तार किया है। कई देशों में, यह जरूरतमंद लोगों को समय पर सहायता प्राप्त करने के लिए इस तकनीक का उपयोग करता है।

प्रौद्योगिकी संभावित संकट की पहचान के लिए चिंता के वाक्यांशों और टिप्पणियों जैसे पैटर्न-पहचान संकेतों का उपयोग करती है।

मेटा के अनुसार, “हमारी टीम द्वारा रिपोर्ट किए गए पोस्ट, वीडियो और लाइव स्ट्रीम की समीक्षा करने के क्रम को प्राथमिकता देने के लिए हम कृत्रिम बुद्धिमत्ता का उपयोग करते हैं। यह सुनिश्चित करता है कि हम अपनी नीतियों को कुशलता से लागू कर सकते हैं और लोगों तक संसाधन जल्दी पहुंचा सकते हैं। यह हमारे समीक्षकों को तत्काल पोस्ट को प्राथमिकता देने और मूल्यांकन करने की सुविधा भी देता है, जब हमारे समुदाय के सदस्यों को नुकसान का खतरा हो सकता है तो आपातकालीन सेवाओं से संपर्क कर सकते हैं। गति महत्वपूर्ण है।”

फिर सामग्री को सामुदायिक संचालन टीम को भेज दिया जाता है, जो निर्णय लेती है कि क्या यह नीतियों का उल्लंघन करती है या स्थानीय आपातकालीन उत्तरदाताओं से संपर्क करने की अनुशंसा करती है या नहीं।

तत्काल सहायता कैसे प्राप्त करें

संभावित आत्महत्या और आत्म-चोट की पहचान करने के लिए मेटा की तकनीक फेसबुक और इंस्टाग्राम लाइव के साथ-साथ फेसबुक और इंस्टाग्राम दोनों पोस्ट में एकीकृत होती है।

लाइव वीडियो के दौरान अगर कोई खुद को नुकसान पहुंचाने के बारे में सोच रहा है तो देखने वाले सीधे उस व्यक्ति से संपर्क कर सकते हैं या मामले की रिपोर्ट भी कर सकते हैं।

एक बार इसकी रिपोर्ट मिल जाने पर, सामुदायिक संचालन टीम के एक सदस्य द्वारा समीक्षा की जाती है।

मेटा ने कहा, “गंभीर मामलों में, हम स्वास्थ्य जांच करने के लिए आपातकालीन सेवाओं के साथ काम करते हैं। मेटा तकनीक के लिए धन्यवाद, हमने पहले उत्तरदाताओं को संकट में फंसे लोगों तक तुरंत पहुंचने में मदद की है।”

अस्वीकरण: यदि आपको या आपके किसी परिचित को सहायता की आवश्यकता है, तो इनमें से किसी भी हेल्पलाइन पर कॉल करें: आसरा (मुंबई) 022-27546669, स्नेहा (चेन्नई) 044-24640050, सुमैत्री (दिल्ली) 011-23389090, कूज (गोवा) 0832- 2252525, जीवन (जमशेदपुर) 065-76453841, प्रतीक्षा (कोच्चि) 048-42448830, मैत्री (कोच्चि) 0484-2540530, रोशनी (हैदराबाद) 040-66202000, लाइफलाइन 033-64643267 (कोलकाता)

और पढ़ें