गूगल अपने नए के बाद माफीनामा जारी किया है ऐ नमूना, मिथुन राशिउत्पन्न नस्लीय रूप से पक्षपाती उपयोगकर्ता के प्रश्नों के उत्तर में छवि परिणाम देती है। कंपनी ने एक बयान में इस मुद्दे को स्वीकार किया और इसके लिए “जेमिनी को विकसित करने के लिए उपयोग किए जाने वाले प्रशिक्षण डेटा में सीमाएं” को जिम्मेदार ठहराया।
Google ने सोशल मीडिया प्लेटफ़ॉर्म X पर एक पोस्ट में कहा, “हम जानते हैं कि मिथुन कुछ ऐतिहासिक छवि निर्माण चित्रणों में अशुद्धियाँ पेश कर रहा है।” लोगों का दायरा. और यह आम तौर पर एक अच्छी बात है क्योंकि दुनिया भर के लोग इसका उपयोग करते हैं। लेकिन यहां इसकी छाप गायब है।”
विवाद ने मुख्य रूप से रूढ़िवादी आवाज़ों की ओर ध्यान आकर्षित किया है, जो एक तकनीकी दिग्गज की आलोचना कर रही हैं, जिसे राजनीतिक रूप से वामपंथी झुकाव वाला माना जाता है, हालांकि विशेष रूप से ऐसा नहीं है। हाल ही में, Google के एक पूर्व कर्मचारी ने विविधता प्राप्त करने की चुनौतियों के बारे में सोशल मीडिया पर पोस्ट किया छवि परिणाम कंपनी के AI टूल का उपयोग करना। एक रिपोर्ट में कहा गया है कि सोशल मीडिया पर, उपयोगकर्ताओं ने “स्वीडिश महिला की तस्वीर बनाएं” या “अमेरिकी महिला की तस्वीर बनाएं” जैसी खोजों का हवाला देते हुए श्वेत व्यक्तियों की छवियां बनाने में कठिनाइयों पर प्रकाश डाला, जिसमें मुख्य रूप से एआई-जनित रंग के लोग मिले। द वर्ज द्वारा.
आलोचना ने दक्षिणपंथी हलकों के बीच लोकप्रियता हासिल की, विशेष रूप से संस्थापक पिता जैसे ऐतिहासिक शख्सियतों की छवियों के अनुरोधों के संबंध में, जिससे कथित तौर पर मुख्य रूप से गैर-श्वेत एआई-जनित परिणाम प्राप्त हुए। इनमें से कुछ आवाज़ों ने परिणामों को तकनीकी कंपनी द्वारा श्वेत व्यक्तियों के प्रतिनिधित्व को कम करने के जानबूझकर किए गए प्रयास के संकेत के रूप में तैयार किया, जिसमें कम से कम एक ने दोष देने के लिए कोडित यहूदी विरोधी भाषा का इस्तेमाल किया।
मौजूदा रूढ़िवादिता को सुदृढ़ करने और प्रणालीगत भेदभाव में योगदान करने के लिए पक्षपाती एआई की क्षमता के बारे में चिंताएं बनी हुई हैं। इस साल के पहले, ओपनएआई इसके एआई टूल पर गलत रूढ़िवादिता को बढ़ावा देने का भी आरोप लगाया गया था। OpenAI के Dall-E छवि जनरेटर टूल को एक सीईओ की छवियां बनाने के लिए कहा गया था और अधिकांश परिणाम श्वेत पुरुषों की तस्वीरें थीं।
Google ने सोशल मीडिया प्लेटफ़ॉर्म X पर एक पोस्ट में कहा, “हम जानते हैं कि मिथुन कुछ ऐतिहासिक छवि निर्माण चित्रणों में अशुद्धियाँ पेश कर रहा है।” लोगों का दायरा. और यह आम तौर पर एक अच्छी बात है क्योंकि दुनिया भर के लोग इसका उपयोग करते हैं। लेकिन यहां इसकी छाप गायब है।”
विवाद ने मुख्य रूप से रूढ़िवादी आवाज़ों की ओर ध्यान आकर्षित किया है, जो एक तकनीकी दिग्गज की आलोचना कर रही हैं, जिसे राजनीतिक रूप से वामपंथी झुकाव वाला माना जाता है, हालांकि विशेष रूप से ऐसा नहीं है। हाल ही में, Google के एक पूर्व कर्मचारी ने विविधता प्राप्त करने की चुनौतियों के बारे में सोशल मीडिया पर पोस्ट किया छवि परिणाम कंपनी के AI टूल का उपयोग करना। एक रिपोर्ट में कहा गया है कि सोशल मीडिया पर, उपयोगकर्ताओं ने “स्वीडिश महिला की तस्वीर बनाएं” या “अमेरिकी महिला की तस्वीर बनाएं” जैसी खोजों का हवाला देते हुए श्वेत व्यक्तियों की छवियां बनाने में कठिनाइयों पर प्रकाश डाला, जिसमें मुख्य रूप से एआई-जनित रंग के लोग मिले। द वर्ज द्वारा.
आलोचना ने दक्षिणपंथी हलकों के बीच लोकप्रियता हासिल की, विशेष रूप से संस्थापक पिता जैसे ऐतिहासिक शख्सियतों की छवियों के अनुरोधों के संबंध में, जिससे कथित तौर पर मुख्य रूप से गैर-श्वेत एआई-जनित परिणाम प्राप्त हुए। इनमें से कुछ आवाज़ों ने परिणामों को तकनीकी कंपनी द्वारा श्वेत व्यक्तियों के प्रतिनिधित्व को कम करने के जानबूझकर किए गए प्रयास के संकेत के रूप में तैयार किया, जिसमें कम से कम एक ने दोष देने के लिए कोडित यहूदी विरोधी भाषा का इस्तेमाल किया।
मौजूदा रूढ़िवादिता को सुदृढ़ करने और प्रणालीगत भेदभाव में योगदान करने के लिए पक्षपाती एआई की क्षमता के बारे में चिंताएं बनी हुई हैं। इस साल के पहले, ओपनएआई इसके एआई टूल पर गलत रूढ़िवादिता को बढ़ावा देने का भी आरोप लगाया गया था। OpenAI के Dall-E छवि जनरेटर टूल को एक सीईओ की छवियां बनाने के लिए कहा गया था और अधिकांश परिणाम श्वेत पुरुषों की तस्वीरें थीं।
