भारत में अभद्र भाषा, मुस्लिम विरोधी सामग्री पर अंकुश लगाने में फेसबुक चयनात्मक: रिपोर्ट

एसोसिएटेड प्रेस द्वारा प्राप्त लीक दस्तावेजों के अनुसार, भारत में फेसबुक अभद्र भाषा, गलत सूचना और भड़काऊ पोस्ट पर अंकुश लगाने में चयनात्मक रहा है, यहां तक ​​​​कि इंटरनेट की दिग्गज कंपनी के अपने कर्मचारियों ने इसकी प्रेरणाओं और हितों पर संदेह जताया है।

इस वर्ष के मार्च में हाल ही में कंपनी मेमो, जो 2019 से पहले के हैं, के लिए तैयार किए गए शोध के आधार पर, भारत के आंतरिक कंपनी दस्तावेज़ दुनिया के सबसे बड़े लोकतंत्र और कंपनी के सबसे बड़े विकास बाजार में अपने प्लेटफार्मों पर अपमानजनक सामग्री को खत्म करने में फेसबुक के निरंतर संघर्ष को उजागर करते हैं।

फाइलों से पता चलता है कि फेसबुक वर्षों से समस्याओं से अवगत है, यह सवाल उठा रहा है कि क्या उसने मुद्दों को हल करने के लिए पर्याप्त किया है।

दुनिया भर में, राजनीति में फेसबुक तेजी से महत्वपूर्ण हो गया है, और भारत अलग नहीं है।

लीक हुए दस्तावेजों में भारत में अभद्र भाषा और गलत सूचना पर कंपनी की आंतरिक रिपोर्टों का एक समूह शामिल है, जो कुछ मामलों में इसकी अपनी “अनुशंसित” सुविधा और एल्गोरिदम द्वारा तेज किए गए प्रतीत होते हैं। इनमें इन मुद्दों के गलत संचालन पर कंपनी के कर्मचारियों की चिंताएं भी शामिल हैं। और मंच पर वायरल “दुर्भावनापूर्ण” पर उनका असंतोष।

दस्तावेजों के अनुसार, फेसबुक ने भारत को दुनिया में सबसे “जोखिम वाले देशों” में से एक के रूप में देखा और हिंदी और बंगाली दोनों भाषाओं को “शत्रुतापूर्ण भाषण का उल्लंघन करने पर स्वचालन” के लिए प्राथमिकताओं के रूप में पहचाना। फिर भी, गलत सूचनाओं को रोकने के लिए फेसबुक के पास पर्याप्त स्थानीय भाषा मॉडरेटर या कंटेंट-फ्लैगिंग नहीं थी, जिससे कई बार वास्तविक दुनिया में हिंसा होती थी।

एपी को दिए एक बयान में, फेसबुक ने कहा कि उसने “हिंदी और बंगाली सहित विभिन्न भाषाओं में अभद्र भाषा खोजने के लिए प्रौद्योगिकी में महत्वपूर्ण निवेश किया है” जिसने 2021 में “अभद्र भाषा की मात्रा को आधे से कम कर दिया”।

“मुसलमानों सहित हाशिए के समूहों के खिलाफ अभद्र भाषा विश्व स्तर पर बढ़ रही है। इसलिए हम प्रवर्तन में सुधार कर रहे हैं और अपनी नीतियों को अद्यतन करने के लिए प्रतिबद्ध हैं क्योंकि अभद्र भाषा ऑनलाइन विकसित होती है, “एक कंपनी के प्रवक्ता ने कहा। यह एपी कहानी, अन्य प्रकाशित होने के साथ, प्रतिभूति और विनिमय आयोग को किए गए खुलासे पर आधारित है और कांग्रेस को प्रदान की गई है पूर्व फेसबुक कर्मचारी से व्हिसलब्लोअर बने फ्रांसेस हॉगेन के कानूनी सलाहकार द्वारा संशोधित फ़ॉर्म। संशोधित संस्करण एपी सहित समाचार संगठनों के एक संघ द्वारा प्राप्त किए गए थे।

फरवरी 2019 में वापस, एक फेसबुक कर्मचारी यह समझना चाहता था कि भारत में एक नए उपयोगकर्ता ने अपने समाचार फ़ीड पर क्या देखा, यदि उन्होंने केवल उन पृष्ठों और समूहों का अनुसरण किया जो केवल मंच द्वारा ही अनुशंसित थे।

कर्मचारी ने एक परीक्षण उपयोगकर्ता खाता बनाया और इसे तीन सप्ताह तक लाइव रखा, एक ऐसी अवधि जिसके दौरान एक असाधारण घटना ने भारत को हिला दिया – कश्मीर में एक आतंकवादी हमले में 40 से अधिक भारतीय सैनिक मारे गए, जिससे देश प्रतिद्वंद्वी पाकिस्तान के साथ युद्ध के करीब आ गया।

नोट में, “एक भारतीय परीक्षण उपयोगकर्ता का वंश एक समुद्र के ध्रुवीकरण, राष्ट्रवादी संदेशों में” शीर्षक से, जिस कर्मचारी का नाम फिर से लिखा गया है, उसने कहा कि वे समाचार फ़ीड में बाढ़ की सामग्री से “हैरान” थे। फ़ेसबुक द्वारा अनुशंसित प्रतीत होने वाले सौम्य और अहानिकर समूह जल्दी से पूरी तरह से किसी और चीज़ में बदल गए, जहाँ अभद्र भाषा, असत्यापित अफवाहें और वायरल सामग्री बड़े पैमाने पर चल रही थी।

रिपोर्ट ने इस बात पर गहरी चिंता जताई कि इस तरह की विभाजनकारी सामग्री वास्तविक दुनिया में क्या कर सकती है। “क्या एक कंपनी के रूप में हमें अनुशंसित सामग्री से होने वाले अखंडता के नुकसान को रोकने के लिए एक अतिरिक्त जिम्मेदारी होनी चाहिए?” शोधकर्ता ने अपने निष्कर्ष में पूछा।

अन्य कर्मचारियों के साथ परिचालित मेमो ने उस प्रश्न का उत्तर नहीं दिया। लेकिन इसने यह खुलासा किया कि कैसे प्लेटफॉर्म के अपने एल्गोरिदम या डिफ़ॉल्ट सेटिंग्स ने ऐसी आपत्तिजनक सामग्री के निर्माण में भूमिका निभाई। कर्मचारी ने नोट किया कि विशेष रूप से “स्थानीय भाषा सामग्री” में स्पष्ट “अंधे धब्बे” थे। उन्होंने कहा कि उन्हें उम्मीद है कि ये निष्कर्ष इस तरह के “अखंडता नुकसान” से बचने के तरीके पर बातचीत शुरू करेंगे, खासकर उन लोगों के लिए जो विशिष्ट अमेरिकी उपयोगकर्ता से “महत्वपूर्ण रूप से भिन्न” हैं।

भले ही शोध तीन हफ्तों के दौरान आयोजित किया गया था जो औसत प्रतिनिधित्व नहीं थे, उन्होंने स्वीकार किया कि यह दिखाता है कि “एक बड़ी संकट घटना” के दौरान इस तरह की “अनमॉडर्ड” और समस्याग्रस्त सामग्री “पूरी तरह से खत्म हो सकती है”।

फेसबुक के प्रवक्ता ने कहा कि परीक्षण अध्ययन ने इसकी सिफारिश प्रणालियों के “गहन, अधिक कठोर विश्लेषण को प्रेरित किया” और “उन्हें बेहतर बनाने के लिए उत्पाद परिवर्तनों में योगदान दिया।”

प्रवक्ता ने कहा, “अलग से, अभद्र भाषा पर अंकुश लगाने का हमारा काम जारी है और हमने चार भारतीय भाषाओं को शामिल करने के लिए अपने नफरत के वर्गीकरण को और मजबूत किया है।”

सभी नवीनतम समाचार, ब्रेकिंग न्यूज और कोरोनावायरस समाचार यहां पढ़ें। हमारा अनुसरण इस पर कीजिये फेसबुक, ट्विटर तथा तार.