इंस्टाग्राम के प्रमुख एडम मोसेरी ने स्वीकार किया कि प्लेटफॉर्म के पास अभी भी कृत्रिम बुद्धिमत्ता द्वारा बनाए गए डीपफेक का उपयोग करने वाले प्रोफाइल से निपटने के लिए कोई प्रभावी समाधान नहीं है। यह मुद्दा उन्हें इंस्टाग्राम के भीतर के क्रिएटर्स द्वारा रिपोर्ट किया गया है, जैसा कि ब्रिटिश समाचार पत्र द इंडिपेंडेंट ने बताया।
रिपोर्ट किए गए मामलों में से एक में अमेरिकी कॉमेडियन जॉर्ज ब्रेट ओलसन शामिल थे, जिन्होंने अपनी प्रस्तुति में अपने स्थान पर एआई द्वारा बनाया गया महिला अवतार उपयोग करने वाले खाते की पहचान की। हालांकि मूल ऑडियो और पाठ को बरकरार रखा गया था, छवि को इस डीपफेक से बदल दिया गया था।
सोशल मीडिया कार्यकारी ने इस अभ्यास पर गहरी चिंता व्यक्त की, लेकिन पूरी तरह से प्रौद्योगिकी से उत्पन्न सामग्री पर प्रतिबंध लगाने से इनकार कर दिया, यह संकेत देते हुए कि वह प्लेटफॉर्म की टीम के साथ संभावित उपायों पर चर्चा करेंगे।
ओलसन ने बताया कि इस प्रकार की सामग्री अन्य क्षेत्रों में भी सामने आई है, जैसे कि प्रोफाइल जो कोरियोग्राफी दोहराने के लिए नर्तकों के वीडियो को आधार बनाते हैं जहां एआई पात्र कोरियोग्राफी करते हैं।
कॉमेडियन की नकल करने वाले प्रोफाइल के 300 हजार से अधिक फॉलोअर्स थे और उपयोगकर्ताओं को ओनलीफैन्स पर एक पेज पर निर्देशित करते थे। एक अन्य खाते का उल्लेख कॉमेडियन जूलिया जसुनास ने किया, जिसमें लगभग 250 हजार फॉलोअर्स थे।
मोसेरी ने इंस्टाग्राम पर ओलसन की पोस्ट का सीधे जवाब दिया, यह कहते हुए कि मेटा इन प्रोफाइलों पर ध्यान दे रहा है, लेकिन एआई सामग्री पर व्यापक प्रतिबंध व्यवहार्य नहीं होगा। उन्होंने तर्क दिया कि 'पहचानना तेजी से कठिन होता जाएगा, और हर सामग्री खराब नहीं होती है, भले ही बहुत सारा कचरा हो'।
इसके अलावा, मोसेरी ने कहा कि इंस्टाग्राम मूल क्रिएटर्स के लिए अधिक ट्रैफिक निर्देशित करने की योजना बना रहा है और इस बात को स्वीकार किया कि जब सामग्री इन लेखकों के उत्पादन की सटीक प्रतियां होती हैं तो प्लेटफॉर्म को कैसे आगे बढ़ना है, यह परिभाषित करने की आवश्यकता है। उन्होंने एलोन मस्क के एक्स जैसे प्रतिस्पर्धी नेटवर्क में उदाहरणों का हवाला दिया, जिसने कॉपी की गई सामग्री की पहुंच को प्रतिबंधित करने के लिए अपनी सिफारिश एल्गोरिथम को बदल दिया और नवीन रचनाओं का पक्ष लेने के लिए मुद्रीकरण प्रणाली को संशोधित किया।
एक अन्य टिप्पणी में, मोसेरी ने सामग्री हटाने का अनुरोध करने के लिए उपलब्ध उपकरणों पर चर्चा की। प्लेटफॉर्म कॉपीराइट उल्लंघन के लिए शिकायतें प्रदान करता है, लेकिन कार्यकारी ने देखा कि यह तंत्र हमेशा क्रिएटर्स द्वारा उठाए गए मुद्दों को हल नहीं करता है।
उनके अनुसार, कई क्रिएटर्स ने अपने काम की सुरक्षा के लिए औपचारिक प्रक्रियाओं को नहीं अपनाया होगा, और नेटवर्क को 'दुर्भावनापूर्ण एजेंटों को अधिक झूठी शिकायतें करने की अनुमति दिए बिना इन क्रिएटर्स की मदद करने' का एक तरीका खोजना होगा, जो मोसेरी के अनुसार 'हमेशा होता रहता है'।
इससे पहले, मोसेरी ने प्लेटफॉर्म पर एआई के उपचार की दुविधा पर बहस की थी। उन्होंने पहले ही कहा था कि कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न सामग्री उन लोगों को प्रदर्शित नहीं की जानी चाहिए जो उनमें रुचि नहीं दिखाते हैं, लेकिन उन्होंने इनकार किया कि उपयोगकर्ताओं के पास उन्हें ब्लॉक करने का नियंत्रण है, इस कार्य को एल्गोरिथम की जिम्मेदारी बनाए रखा।