उपयोगकर्ताओं द्वारा ट्रम्प, पोप के यथार्थवादी डीपफेक उत्पन्न करने के बाद एआई लैब मिडजर्नी ने सेवा रोक दी

पूर्व अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प की गिरफ्तारी और पोप फ्रांसिस को पफर जैकेट में शामिल करने सहित यथार्थवादी डीपफेक को क्रैंक करने के बाद अनुसंधान प्रयोगशाला मिडजर्नी ने अपने छवि-निर्माण सॉफ्टवेयर के मुफ्त परीक्षणों को रोक दिया है।

मिडजर्नी ने गुरुवार को एक संदेश के साथ एक परीक्षण के लिए एक अनुरोध का जवाब दिया जिसमें कहा गया था कि यह प्रदान नहीं किया जा सकता है और एक और दिन फिर से प्रयास करने के लिए।

आर्टिफिशियल इंटेलिजेंस प्लेटफॉर्म का उपयोग करके बनाई गई इमेजरी, विशेष रूप से ट्रम्प और पोंटिफ की, जो वायरल हो गई, ने सैन फ्रांसिस्को स्थित लैब पर सुर्खियां बटोरीं।

Midjourney के संस्थापक डेविड होल्ज़ ने इस सप्ताह कंपनी के डिस्कॉर्ड चैनल पर एक पोस्ट में कहा, “असाधारण मांग और परीक्षण के दुरुपयोग के संयोजन के कारण हम अस्थायी रूप से नि: शुल्क परीक्षणों को अक्षम कर रहे हैं, जब तक कि हमारे सिस्टम में अगला सुधार नहीं हो जाता है।”

सेवा उपयोगकर्ताओं द्वारा किए गए लिखित संकेतों के आधार पर यथार्थवादी दिखने वाली छवियां उत्पन्न करती है।

यह 2022 के मध्य में टेस्ट मोड में लॉन्च हुआ, जिसमें स्वतंत्र लैब लगातार सॉफ्टवेयर को अपग्रेड कर रही थी।

निर्मित छवियों में बेहतर यथार्थवाद के लिए उपयोगकर्ताओं ने मिडजर्नी के ताज़ा रिलीज़ संस्करण की प्रशंसा की है।

नए नि: शुल्क परीक्षणों पर ब्रेक लगाने के साथ-साथ, मिडजर्नी ने कुछ शब्दों पर प्रतिबंध लगा दिया, जैसे “गिरफ्तार,” छवि निर्माण को संकेत देने के लिए इस्तेमाल किया जा रहा है।

गुरुवार को मिडजर्नी ने न्यूयॉर्क में ट्रम्प टॉवर के सामने गिरफ्तार किए जा रहे पूर्व राष्ट्रपति की तस्वीर बनाने के लिए एएफपी के अनुरोध को अस्वीकार कर दिया।

मिडजर्नी के एक संदेश में कहा गया है, “‘गिरफ्तार’ शब्द पर प्रतिबंध लगा दिया गया है।”

“हमारे नियमों का उल्लंघन करने के लिए इस फ़िल्टर को दरकिनार करने से आपकी पहुंच निरस्त हो सकती है।”

अरबपति मोगुल और ट्विटर के मालिक एलोन मस्क और कई विशेषज्ञों ने बुधवार को शक्तिशाली आर्टिफिशियल इंटेलिजेंस सिस्टम के विकास को रोकने के लिए कहा ताकि यह सुनिश्चित हो सके कि वे सुरक्षित हैं।

मस्क और एप्पल के सह-संस्थापक स्टीव वोज्नियाक सहित अब तक 1,000 से अधिक लोगों द्वारा हस्ताक्षरित एक खुला पत्र, Microsoft समर्थित फर्म OpenAI से कृत्रिम बुद्धिमत्ता प्लेटफॉर्म GPT-4 की रिलीज़ से प्रेरित था।

कनाडाई एआई अग्रणी योशुआ बेंगियो, जिन्होंने पत्र पर हस्ताक्षर किए, ने मॉन्ट्रियल में एक आभासी प्रेस कॉन्फ्रेंस के दौरान चेतावनी दी कि इस शक्तिशाली उपकरण और इसके संभावित दुरुपयोग के लिए “समाज तैयार नहीं है”।

“चलो धीरे करो। आइए सुनिश्चित करें कि हम बेहतर रेलिंग विकसित करें,” उन्होंने कहा।

सभी लेटेस्ट टेक न्यूज यहां पढ़ें

(यह कहानी News18 के कर्मचारियों द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड समाचार एजेंसी फीड से प्रकाशित हुई है)