आखरी अपडेट:
क्यूपर्टिनो, कैलिफ़ोर्निया, संयुक्त राज्य अमेरिका
सामग्री का दुरुपयोग करने वाले ऐप्स से AI द्वारा उत्पन्न छवियां Apple के नियमों का उल्लंघन कर रही हैं।
ऐप्पल की एक सख्त ऐप स्टोर नीति है और यह नियमित रूप से खराब सेबों की जांच करता है लेकिन एआई संबंधी चिंताएं अब ऐप स्टोर पर भी अपना रास्ता बना रही हैं।
Apple अपने AI टूल का निर्माण कर रहा है जिसका खुलासा जून में WWDC 2024 के मुख्य वक्ता के रूप में किया जाएगा, लेकिन कंपनी को ऐप स्टोर पर प्रमुख AI समस्याओं का भी सामना करना पड़ रहा है। कथित तौर पर ऐप्पल ने कई ऐप्स को हटा दिया है जिनका उपयोग एआई-जनरेटेड स्पष्ट छवियां बनाने के लिए किया जा सकता है।
वास्तव में, रिपोर्टों का दावा है कि ये ऐप्स किसी व्यक्ति की सहमति के बिना उसकी स्पष्ट एआई छवियां बनाने में सक्षम थे। Apple के पास आमतौर पर नापाक गतिविधियां करने वाले ऐप्स के खिलाफ सख्त नीति है, लेकिन कभी-कभी हम देखते हैं कि ऐप्स अन्य स्रोतों के माध्यम से इसकी जांच को दरकिनार कर देते हैं।
ऐप स्टोर के साथ ऐप्पल एआई-जनरेटेड इमेज समस्या: ये है कहानी
एआई तकनीक के आगमन के साथ, ऐप्स सभी बुनियादी नियमों का उल्लंघन कर रहे हैं और उपयोगकर्ताओं को एआई-आधारित संपादन, फेस स्वैप और बहुत कुछ के वादे के साथ लुभा रहे हैं। ऐप्पल ने ऐप स्टोर पर इनमें से कुछ ऐप्स की खोज की जिनकी मार्केटिंग इंस्टाग्राम पर विज्ञापनों के माध्यम से की जा रही थी।
इन सुविधाओं के होने से ऐप्स को अपने फ़ोन की गैलरी तक पहुंच प्राप्त करने की अनुमति मिलती है, जिसका बाद में उनकी स्पष्ट छवियां बनाने के लिए दुरुपयोग किया जाता था। ऐप्पल की इन जैसे ऐप्स के खिलाफ सख्त नीति है, खासकर यदि वे अपने उपयोगकर्ता की गोपनीयता का दुरुपयोग करते हैं।
हालाँकि, कंपनी ने इस रिपोर्ट में विवरण साझा करने के बाद ही इन दोषी ऐप्स पर कार्रवाई की। ऐप स्टोर की सुरक्षा जांच ठोस होती है लेकिन इस तरह के मामले ऐप्पल के तंत्र को सवालों के घेरे में लाते हैं, खासकर जब जनता के बीच एआई का बड़ा खतरा हो।
अन्य प्लेटफार्मों के माध्यम से प्रचारित ऐप्स को क्रैक करना कठिन है, लेकिन यह भी उतना ही महत्वपूर्ण है कि इंस्टाग्राम और अन्य विज्ञापन-होस्टिंग ऐप्स भी उस प्रकार की सामग्री पर नज़र रखें, विशेष रूप से एआई-जनरेटेड या संबंधित सामग्री जो उसके उपयोगकर्ताओं को भेजी जाती है। इस तरह की घटनाएं सामग्री के साथ-साथ एआई पारिस्थितिकी तंत्र के दायरे में काम करने वाले ऐप्स को लेबल करने की तत्काल आवश्यकता की ओर भी इशारा करती हैं।
