आतंक, क्रोध, अविश्वास और इस्तीफा। फिर, बस निरंतर क्रोध।
हाना मोहसिन खान, एक वाणिज्यिक पायलट, ने पहली बार यह जानने के बाद महसूस किया कि उसे जुलाई 2020 में यूएस-आधारित सॉफ़्टवेयर सहयोग और होस्टिंग प्लेटफ़ॉर्म GitHub पर होस्ट किए गए सुल्ली डील ऐप पर “नीलामी” की गई थी। “मैंने इस्तेमाल किया पहले वास्तव में एक खुश व्यक्ति बनने के लिए। यह सब इसलिए हुआ क्योंकि मैं मुस्लिम हूं और एक राय रखने वाली महिला हूं, ”उसने मनीकंट्रोल को बताया।
छह महीने की पीड़ा के बाद, जब वह सब कुछ पीछे छोड़कर 2022 में नए सिरे से शुरू करने के लिए तैयार थी, तो एक और ऐप, बुल्ली बाई सामने आई, और 1 जनवरी को 100 से अधिक महिलाओं की नीलामी की गई। “मैं बुल्ली बाई का हिस्सा नहीं था, लेकिन यह यादें और भावना लाता है कि यह कभी नहीं रुकेगा। कोई प्रगति नहीं है, कोई आशा नहीं है, ”उसने कहा।
जो चीज वास्तव में उन्हें और कई अन्य महिलाओं और डिजिटल अधिकार कार्यकर्ताओं को परेशान करती है, वह है गिटहब से जवाबदेही की कुल कमी, जहां दो ऐप होस्ट किए गए थे। “गिटहब जैसे प्लेटफॉर्म को जिम्मेदारी लेने की जरूरत है। हमें और सुरक्षा और जांच की जरूरत है और अब समय आ गया है कि इस बारे में कुछ किया जाए।
हाल की घटना ने माइक्रोसॉफ्ट के स्वामित्व वाले गिटहब पर मॉडरेशन, या इसकी कमी पर स्पॉटलाइट डाल दिया है, और इन मुद्दों को कैसे संबोधित किया जाता है, इसमें पारदर्शिता की आवश्यकता है।
GitHub
अमेरिका में 2008 में स्थापित, GitHub को डेवलपर्स के लिए एक सामाजिक नेटवर्क के रूप में करार दिया गया है। सॉफ्टवेयर परियोजनाओं को होस्ट करने के लिए लाखों डेवलपर्स और सैकड़ों संगठन मंच का उपयोग करते हैं।
GitHub पर करीब 73 मिलियन डेवलपर हैं, जिनमें से 16 मिलियन अकेले 2021 में शामिल हुए हैं। भारत में इस प्लेटफॉर्म के लगभग 5.8 मिलियन उपयोगकर्ता हैं, जो इसके सबसे तेजी से बढ़ते बाजारों में से एक है।
हर दिन सैकड़ों डेवलपर एप्लिकेशन अपलोड करते हैं, और दुनिया भर के साथियों के साथ संपादित और सहयोग करते हैं। जैसा कि बेंगलुरु के एक सुरक्षा शोधकर्ता बताते हैं, चित्रों या पाठ के विपरीत, मंच पर अधिकांश जानकारी जावा और अन्य प्रोग्रामिंग भाषाओं में है। इन अनुप्रयोगों में से कई के पीछे प्रोग्रामिंग सार्वजनिक है, और यह न केवल भारत में बल्कि विश्व स्तर पर मंच को मॉडरेशन के मुद्दों के प्रति संवेदनशील बनाता है।
उदाहरण के लिए, वेब डेवलपर, सामी ने ट्विटर पर विस्तार से बताया है कि कैसे बुल्ली बाई ऐप ने उसी स्रोत कोड का उपयोग किया जो सुली डील के रूप में था। “जिसने गिटहब पेज ‘सुलीडील्स’ बनाया है, वह भी वही व्यक्ति है जिसने अब जीथब पेज ‘बुलीबाई’ बनाया है। ऐसा लगता है कि उन्होंने पृष्ठ पर ग्रंथों को फिर से लिखा है, लेकिन यह वही कोड है, कोड में ‘सुली’ नाम के साथ एक ही कार्य है।”
द साइबर ब्लॉग इंडिया के एक प्रौद्योगिकी वकील और पार्टनर-क्लाइंट रिलेशन राज पगरिया का कहना है कि यह सुनिश्चित करने के लिए मंच द्वारा किए गए प्रयासों पर एक बड़ा मुद्दा है कि जो घटनाएं उसके सामुदायिक दिशानिर्देशों का उल्लंघन करती हैं, उन्हें दोहराया नहीं जाता है, जैसा कि सुली डील के मामले में है और बुल्ली बाई।
“जब यह एक बार होता है, तो यह समझ में आता है। लेकिन जब ऐसा दो बार होता है तो दिक्कत होती है। तथ्य यह है कि मंच ने यह सुनिश्चित करने के लिए पर्याप्त प्रयास नहीं किया कि कोई दोहराव न हो, ”उन्होंने कहा।
एक बार नहीं दो बार
जुलाई 2021 में GitHub पर होस्ट किए गए Sulli Deals पर करीब 80 महिलाओं की नीलामी की गई।
बाद के दिनों में, उत्तर प्रदेश और नई दिल्ली में प्राथमिकी दर्ज की गईं। लेकिन अभी तक मामले की जांच में कोई प्रगति नहीं हुई है। नोएडा में शिकायत दर्ज कराने वाले खान ने बताया कि बार-बार फॉलोअप के बाद भी कोई कार्रवाई नहीं की गई और कई पीड़ितों ने हार मान ली.
आपराधिक कार्यवाही में GitHub से सहयोग प्राप्त करना भी एक चुनौती है।
इंटरनेट फ़्रीडम फ़ाउंडेशन की एसोसिएट काउंसल, सर्विलांस एंड ट्रांसपेरेंसी, अनुष्का जैन ने बताया कि GitHub से आपराधिक कार्यवाही के लिए कोई भी जानकारी प्राप्त करने के लिए, यह भारत और अमेरिका के बीच एमएलएटी समझौते के माध्यम से किया जाना है। एक पारस्परिक कानूनी सहायता संधि (एमएलएटी) सार्वजनिक या आपराधिक कानूनों को लागू करने के प्रयास में जानकारी एकत्र करने और आदान-प्रदान करने के उद्देश्य से दो या दो से अधिक देशों के बीच एक समझौता है।
जब चीजें शांत हो रही थीं, तो गिथब पर होस्ट किया गया एक और ऐप बुल्ली बाई, 1 जनवरी को सामने आया, जिसमें 100 महिलाओं की तस्वीरें नीलाम हुईं। ऐप को तुरंत हटा लिया गया था।
हालांकि, पिछली बार के विपरीत, प्रतिक्रिया बहुत बड़ी रही है। मुंबई में दर्ज एक प्राथमिकी में राजनेताओं के कदम रखने के साथ ही पुलिस ने त्वरित कार्रवाई की। अब तक, चार गिरफ्तारियां की गई हैं, ये सभी छात्र – बेंगलुरु के एक इंजीनियरिंग छात्र, उत्तराखंड के दो लोग और असम के एक व्यक्ति हैं।
जबकि कानून प्रवर्तन द्वारा त्वरित कार्रवाई उत्साहजनक रही है, कई लोगों ने बताया कि यह मूल मुद्दे को हल नहीं करता है, अर्थात, गिटहब ऐसे मुद्दों को कैसे संबोधित करता है।
संयम का प्रश्न
पगरिया ने कहा, “यदि आप गिटहब जैसे प्लेटफार्मों को देखते हैं, तो वे आकार में काफी बड़े हैं और किसी भी बड़े प्लेटफॉर्म के लिए, सामग्री मॉडरेशन एक संघर्ष है।”
“लेकिन भले ही आप बड़े हों, कोई यह उम्मीद करेगा कि सुल्ली डील को दूसरी बार होने से रोकने के लिए प्लेटफॉर्म कुछ करेगा। लेकिन ऐसा नहीं हुआ; केवल 6 महीने बाद, यह फिर से सामने आया, ”उन्होंने कहा।
टेक और डिज़ाइन कलेक्टिव डिज़ाइन बेकू की संस्थापक पद्मिनी रे मरे ने मनीकंट्रोल को बताया कि जब दो ऐप समान कोड का उपयोग करते हैं, तो प्लेटफ़ॉर्म में जाँच होनी चाहिए ताकि दूसरा ऐप न बनाया जाए। “लेकिन उन्होंने कुछ नहीं किया है, या अगर उन्होंने किया है, तो हम नहीं जानते कि यह क्या है। अधिक पारदर्शिता की आवश्यकता है, ”उसने कहा।
अकांचा अगेंस्ट हरैसमेंट की संस्थापक, आकांक्षा एस श्रीवास्तव, जो साइबरबुलिंग पर कानून प्रवर्तन के साथ काम करती है, ने कहा: “प्लेटफ़ॉर्म के लिए, केवल उन्हें ब्लॉक करना पर्याप्त नहीं है। उनकी जिम्मेदारी है और उन्हें निवारक कार्रवाई करनी चाहिए। साथ ही GitHub से प्रतिक्रिया बेहतर होने की जरूरत है। ”
विशेषज्ञों के अनुसार, अब समय आ गया है कि प्लेटफॉर्म के पास बेहतर मॉडरेशन टूल हों, और वे इन चिंताओं को कैसे दूर करते हैं, इस बारे में अधिक पारदर्शी हो जाएं।
सामग्री मॉडरेशन
सामान्य तौर पर सामग्री मॉडरेशन एक फिसलन ढलान है। लेकिन सोशल मीडिया प्लेटफॉर्म के विपरीत, जहां उन्हें भारतीय नियमों और विनियमों का पालन करने की आवश्यकता होती है, गिटहब एक कांटेदार क्षेत्र में आता है।
नए आईटी नियमों के तहत, सभी महत्वपूर्ण सोशल मीडिया बिचौलियों के पास भारत में एक शिकायत, अनुपालन और जोनल अधिकारी नियुक्त होना चाहिए। फ़ेसबुक से लेकर स्थानीय सोशल मीडिया ऐप तक, इन सभी के पास अब सरकार के साथ सहयोग करने के लिए स्थानीय अधिकारी हैं, और उपयोगकर्ता शिकायतों के साथ संपर्क कर सकते हैं।
लेकिन गिटहब में भारत में समान अधिकारी तैनात नहीं हैं और पीड़ितों को मंच से जानकारी प्राप्त करने के लिए कानूनी रास्ता अपनाना पड़ता है।
हाल ही में कानून के छात्र अमर बांका ने इस मुद्दे पर गिटहब को कानूनी नोटिस भेजा था। उन्होंने ट्विटर पर गिटहब से मिली प्रतिक्रिया को पोस्ट किया। “विदेशी प्रवर्तन अधिकारी जो GitHub से जानकारी का अनुरोध करना चाहते हैं, उन्हें यूनाइटेड स्टेट्स डिपार्टमेंट ऑफ़ जस्टिस क्रिमिनल डिवीजन के अंतर्राष्ट्रीय मामलों के कार्यालय से संपर्क करना चाहिए। GitHub आपसी कानूनी सहायता संधि (MLAT) या लेटर रोगेटरी के माध्यम से अमेरिकी अदालत के माध्यम से जारी किए गए अनुरोधों का तुरंत जवाब देगा।
नाम न छापने की शर्त पर एक डिजिटल राइट्स एक्टिविस्ट ने कहा कि एमएलएटी केवल दिखावे के लिए है और ज्यादातर मामलों में काम नहीं करता है।
मनीकंट्रोल ने गिटहब को मॉडरेशन, स्थानीय कानूनों के अनुपालन, भारत में इसकी शिकायत और अनुपालन अधिकारी, और सहयोग के स्तर पर सरकार का विस्तार करने पर विस्तृत प्रश्न भेजे।
गिटहब ने विशिष्ट प्रश्नों का जवाब नहीं दिया लेकिन एक बयान साझा किया: “गिटहब की सामग्री और आचरण के खिलाफ उत्पीड़न, भेदभाव और हिंसा को उकसाने के खिलाफ लंबे समय से नीतियां हैं। हमने ऐसी गतिविधि की रिपोर्ट की जांच के बाद एक उपयोगकर्ता खाते को निलंबित कर दिया, जो सभी हमारी नीतियों का उल्लंघन करती हैं।”
यह सुनिश्चित करने के लिए, GitHub ने किसी व्यक्ति या समूह को लक्षित करने वाली गैरकानूनी, मानहानि और अपमानजनक सामग्री को प्रतिबंधित करने वाली नीतियां निर्धारित की हैं, जैसा कि Sulli Deals और Bulli Bai के मामले में था। जब वे सामुदायिक दिशानिर्देशों का उल्लंघन करते हैं और रिपोर्ट किए जाते हैं तो प्लेटफ़ॉर्म सामग्री को नीचे ले जाता है।
यह इस बात को सामने लाता है कि क्या प्रोग्रामिंग भाषा को मॉडरेट करना एक रास्ता है, यह देखते हुए कि यह पहली बार नहीं है जब कंपनी ने मॉडरेशन के साथ परेशानी का सामना किया है।
मॉडरेशन मुद्दों का इतिहास
2014 में, भारत ने ISIS से संबंधित सामग्री की मेजबानी के लिए GitHub सहित 32 साइटों को ब्लॉक कर दिया था। वैश्विक स्तर पर यह प्लेटफॉर्म होस्टिंग कोड के लिए जांच के दायरे में आ गया है जो लोगों को डीपफेक बनाने की अनुमति देता है। डीपफेक का इस्तेमाल गैर-सहमति वाले अश्लील वीडियो बनाने के लिए किया जा सकता है, जो उल्लंघन है। मंच को चीन और रूस सहित अन्य देशों में भी सेंसर किया गया है।
जबकि पीड़ितों ने बेहतर मॉडरेशन के लिए कहा है, इससे यह सवाल उठता है कि एक प्लेटफॉर्म को मॉडरेट कंटेंट तक कितनी दूर तक जाना चाहिए।
सुरक्षा शोधकर्ता ने पहले उद्धृत किया, जो बेंगलुरु स्थित यूनिकॉर्न के लिए काम करता है, ने बताया कि लाखों डेवलपर्स द्वारा होस्ट किए गए कोड को सक्रिय रूप से मॉडरेट करना एक चुनौती होगी क्योंकि प्लेटफॉर्म पर अधिकांश जानकारी जावा और अन्य प्रोग्रामिंग भाषाओं में है। “इसलिए, इसे मॉडरेट करने के लिए, प्रत्येक परियोजना के पीछे जाकर यह पता लगाना होगा कि यह नीतियों का उल्लंघन करता है या नहीं। जब सैकड़ों-हजारों कोड होते हैं, तो हर एक को मॉडरेट करना संभव नहीं है, ”शोधकर्ता ने कहा।
सभी नवीनतम समाचार, ब्रेकिंग न्यूज और कोरोनावायरस समाचार यहां पढ़ें।
.