आर्टिफिशियल इंटेलिजेंस प्रसिद्ध हस्तियों को दुष्प्रचार और वित्तीय धोखाधड़ी के उपकरणों में बदल रहा है

हाल के हफ्तों में, विशेष रूप से चुनावों के करीब आने के मद्देनजर, प्रसिद्ध लोगों की आवाज और छवि का उपयोग करके बनाए गए नकली वीडियो सोशल मीडिया पर सक्रिय रूप से फैल रहे हैं। ये मामले आर्टिफिशियल इंटेलिजेंस (एआई) की शक्ति को प्रदर्शित करते हैं, जो राजनीतिक बयान उत्पन्न करने, ऑडियो रिकॉर्डिंग बदलने और इतने यथार्थवादी दृश्य बनाने में सक्षम है कि वे उपयोगकर्ताओं को आसानी से धोखा दे सकते हैं।

यह रणनीति फर्जी सामग्री को विश्वसनीयता प्रदान करने के लिए लोकप्रिय हस्तियों के प्रभाव का उपयोग करती है। इस प्रकार, व्यापक दायरे के व्यक्ति जनता को धोखा देने के लिए वास्तविक और झूठे तत्वों को मिलाकर हेरफेर का हिस्सा बन जाते हैं।

उदाहरणों में कैटानो वेलोज़ो और नेमार जूनियर शामिल हैं। टिकटॉक पर एक रिकॉर्ड प्रसारित हो रहा है जिसे इस तरह बनाया गया है कि ऐसा लगे कि गायक ने कहा है कि 'लूला ने इस देश को नफरत से बचाया' और 2026 में शासन जारी रखने का समर्थन किया। हालांकि, यह एक भ्रामक नकली है, क्योंकि गायक ने ऐसा कोई बयान नहीं दिया था।

फर्जीकरण ने प्रामाणिकता का भ्रम पैदा करने के लिए वास्तविक तत्वों का उपयोग किया। कैटानो वास्तव में 2026 में लूला के अभियान में भाग लिया था, जहां कलाकारों ने वाक्यांश 'बोरा, लूला!' कहा था। फिर भी, नकली वीडियो में गायक की छवि का पुन: उपयोग किया गया था, और एआई द्वारा बनाया गया नया ऑडियो जिसमें ऐसे शब्द थे जो उसने कभी नहीं कहे थे। कैटानो की अपनी टीम ने DW को पुष्टि की कि यह सामग्री झूठी है।

नेमार के मामले में रणनीति समान थी, लेकिन विपरीत राजनीतिक झुकाव के साथ। छेड़छाड़ किए गए वीडियो में खिलाड़ी को यह दावा करते हुए दिखाया गया था कि वह जाइर बोल्सोनारू के खिलाफ कथित उत्पीड़न पर नजर रख रहा है और कि लूला और सुप्रीम कोर्ट के मंत्री अलेशानड्रे डी मोराएस 'राष्ट्रपति की ताकत से डरते हैं'। खिलाड़ी ने भी ऐसा कोई बयान कभी नहीं दिया था।

इस मामले में भी एक वास्तविक तत्व मौजूद था जिसने नकलीपन को प्रामाणिक बनाने में मदद की। नेमार ने 2022 के चुनावों में जाइर बोल्सोनारू के लिए मतदान किया था, और 2026 में वह ब्राजील की राष्ट्रीय टीम की जर्सी पर फ्लैवियो बोल्सोनारू, पूर्व राष्ट्रपति और राष्ट्रपति पद के उम्मीदवार के लिए हस्ताक्षर करते हुए एक वास्तविक तस्वीर में दिखाई दिया। हालांकि, यह वास्तविक तस्वीर यह साबित नहीं करती है कि खिलाड़ी ने नकली वीडियो में दिया गया राजनीतिक बयान दिया था।

सच्चे तथ्यों और मनगढ़ंत सामग्री का संयोजन उन कारणों में से एक है जिनकी वजह से इन मामलों की पहचान करना विशेष रूप से कठिन है। जो लोग पहले से ही जानते हैं कि कैटानो लूला के अभियान में भाग लिया था या नेमार का जाइर बोल्सोनारू के साथ सार्वजनिक संबंध था, वे स्रोत की जांच करने से पहले ही वीडियो को 'विश्वसनीय' मान सकते हैं। यह मिश्रण सत्यापन को मुश्किल बनाता है, क्योंकि झूठी सामग्री उन तथ्यों पर निर्भर करती है जिन्हें जनता पहले से ही सत्य मानती है।

प्रसिद्ध लोगों की छवियों और आवाजों का उपयोग केवल राजनीतिक प्रचार तक ही सीमित नहीं है। टोनो रामोस भी डीपफेक का शिकार हुआ, जैसा कि ओल्हार डिजिटल ने बताया। टीवी कल्चर पर रोडा विवा कार्यक्रम में हाल ही में भाग लेने के दौरान अभिनेता ने बताया कि उनकी छवि का उपयोग एना मारिया ब्रागा के साथ दवा बेचने वाले नकली वीडियो में किया गया था। उनके अनुसार, उनकी आवाज को डब किया गया और उस विज्ञापन को प्रामाणिक बनाने के लिए उपयोग किया गया जिसे उन्होंने नहीं किया था।

हाल के दिनों में अलेशानड्रे डी मोराएस और एडसन फाशिन, दोनों STF के मंत्री, की एक नकली छवि भी फैली। प्रकाशन में संकेत दिया गया था कि वे किसी चीज़ पर चर्चा कर रहे हैं, लेकिन फैक्ट-चेकिंग प्लेटफॉर्म के अनुसार, छवि एआई द्वारा उत्पन्न की गई थी। यह घटना दर्शाती है कि हेरफेर जरूरी नहीं कि वीडियो हो: एक तस्वीर भी एक गैर-मौजूद स्थिति बना सकती है और एक भ्रामक कथा उत्पन्न कर सकती है।

सुप्रीम इलेक्टोरल काउंसिल (TSE) का संकल्प 23.610/2019 मांग करता है कि एआई का उपयोग करके बनाई या संशोधित सिंथेटिक सामग्री को प्रचार में उपयोग करते समय लेबल किया जाए। नियम चुनावी प्रचार में डीपफेक पर भी प्रतिबंध लगाता है जो उम्मीदवारों का समर्थन करने या नुकसान पहुंचाने के लिए लोगों की छवि या आवाज बनाते हैं, बदलते हैं या संशोधित करते हैं। सितंबर की शुरुआत में, TSE ने ऐसी सामग्री को परिभाषित करने के लिए मानदंड स्थापित किए।

संगठन के अनुसार, डीपफेक सिंथेटिक सामग्री है जिसे आर्टिफिशियल इंटेलिजेंस या समकक्ष तकनीक द्वारा उत्पन्न या संशोधित किया जाता है, जिसमें उच्च स्तर का यथार्थवाद होता है, जो किसी भी व्यक्ति - जीवित, मृत या काल्पनिक - की छवि, आवाज या बयान बना सकता है, पुन: प्रस्तुत कर सकता है या संशोधित कर सकता है। स्थापित समझ के अनुसार, इस तकनीक के उपयोग पर सीधा प्रतिबंध चुनावी प्रचार के रूप में वर्गीकृत सामग्री पर लागू होता है।

एआई ने हेरफेर के पुराने तरीकों को समाप्त नहीं किया है। वास्तविक वीडियो संदर्भ से बाहर निकाले जाते रहते हैं, काट दिए जाते हैं या ऐसी स्थितियों को बनाने के लिए अन्य ऑडियो ट्रैक के साथ संयोजित किए जाते हैं जो कभी नहीं हुई थीं। UOL कन्फरे द्वारा बुधवार (30) को प्रकाशित जाँच ने एक पुराने वीडियो में हेरफेर का पता लगाया जहां रियो डी जनेरियो में 2022 में एक आदमी पादरी पर हमला कर रहा था।

मूल रिकॉर्डिंग में हमला व्यक्तिगत असहमति के बाद हुआ था; इस सप्ताह प्रसारित संपादित संस्करण में, मूल ऑडियो को राष्ट्रीय संप्रभुता के बारे में भाषण से बदल दिया गया था। संपादन ने यह अनुकरण किया कि धार्मिक व्यक्ति पर राजनीतिक मकसद से हमला किया गया था - फेसबुक पर सामग्री प्रकाशित होने से पहले 100 हजार से अधिक बार देखे जाने वाला संदर्भ से कटा हुआ अंश।

अगेंशिया लुपा द्वारा फरवरी में प्रकाशित ब्राजील में दुष्प्रचार के पहले अवलोकन के आंकड़ों से पता चलता है कि संगठन की जांच में पाए गए एआई द्वारा उत्पन्न या संशोधित झूठी सामग्री 2024 में 39 से बढ़कर 2025 में 159 हो गई - 308% की वृद्धि। और हाल ही में प्रकाशित इको, कॉर्पोरेट जिम्मेदारी पर एक अंतरराष्ट्रीय संगठन, ने कम से कम 1.1 मिलियन ब्राजीलियाई रियल की पहचान की जो 26 प्रोफाइल द्वारा चुनावी विज्ञापनों को बढ़ावा देने के लिए भुगतान किए गए थे, जो अध्ययन के अनुसार मेटा और ब्राज़ीलियाई कानून, जिसमें बिना पहचान के डीपफेक शामिल हैं, का उल्लंघन करते थे।

संशोधित छवि, राजनीतिक सामग्री और समाचार के स्वरूप का यही संयोजन न केवल दुष्प्रचार के लिए, बल्कि वित्तीय धोखाधड़ी करने के लिए भी इस्तेमाल किया जा सकता है। हाल ही में, एआई द्वारा उत्पन्न छवियों और एक समाचार पोर्टल के सिमुलेशन ने सुझाव दिया कि उद्यमी लुसियानो हान, हावन स्टोर के मालिक, को पूर्व वित्त मंत्री फर्नांडो अददाद, जो साओ पाउलो राज्य के PT से वर्तमान सरकारी उम्मीदवार हैं, के आदेश पर 'हमले' का शिकार होना पड़ा।

इस कहानी ने जनता को प्रतिदिन 10 हजार ब्राजीलियाई रियल के लाभ का वादा करने वाली एक नकली साइट पर निर्देशित करने के लिए राजनीतिक प्रतिस्पर्धा का सहारा लिया, जहां उपयोगकर्ताओं को जमा राशि जमा करने या व्यक्तिगत डेटा प्रदान करने के लिए मना लिया गया।

एक्सए (EXA) के साइबर सुरक्षा विशेषज्ञ वायलडर मार्टिन्स, वर्चुअल खतरों के खिलाफ समाधानों के डेवलपर, इस बात पर जोर देते हैं कि प्रौद्योगिकी वर्तमान में पूर्णता के साथ वास्तविकता का अनुकरण करती है, और मूल के बहुत समान नकली लिंक और वेबसाइटें बनाती और बनाए रखती है। वह टिप्पणी करते हैं: 'इसलिए सुरक्षा की मुख्य बाधा बदल गई है: सवाल अब केवल यह नहीं होना चाहिए कि 'क्या यह सच दिखता है?', बल्कि यह होना चाहिए कि 'मुझे लिंक पर क्लिक करने, गोपनीय डेटा प्रदान करने या हस्तांतरण करने के लिए क्यों कहा जा रहा है?'।'

मार्टिन्स के अनुसार, इसी संरचना को विभिन्न विषयों के लिए अनुकूलित किया जा सकता है जो चुनाव अवधि के दौरान प्रासंगिक होते हैं। राजनीतिक जानकारी का व्यापक प्रसार अपराधियों के लिए उम्मीदवारों, अधिकारियों, संस्थानों और मीडिया के नामों का उपयोग करने के नए अवसर पैदा करता है। संभावित विकल्पों में मतदाता पहचान पत्र, बायोमेट्रिक्स, मतदान स्थान, चुनावी सर्वेक्षण, झूठे जुर्माना, अभियान के लिए धन उगाही और सार्वजनिक हस्तियों की आवाज या छवि में बदला गया कंटेंट शामिल है।

विशेषज्ञ चेतावनी देता है: 'यदि संदेश तात्कालिकता पैदा करता है (चाहे ब्लॉक को रोकने, अधिकार सुनिश्चित करने या भुगतान की मांग करने के लिए), तो तुरंत रुक जाएं। यह धोखाधड़ी का एक क्लासिक ट्रिगर है। आपकी मुख्य सुरक्षा यह है कि धोखेबाज द्वारा सुझाए गए छोटे रास्ते का पालन न करें। संदेश को बंद करें और भुगतान करने से पहले जानकारी की पुष्टि करने के लिए सशुल्क और मुफ्त दोनों तरह के उपकरण और सॉफ़्टवेयर का उपयोग करें, जैसे EVA [WhatsApp में संदिग्ध सामग्री का विश्लेषण करने वाला EXA कृत्रिम बुद्धिमत्ता]।'

एआई के विकास के साथ, केवल दृश्य या श्रवण संकेतों के आधार पर धोखाधड़ी का पता लगाना अधिक कठिन हो गया है। त्रुटियां जो पहले कुछ हेरफेर को उजागर करती थीं, वे कम स्पष्ट हो गई हैं, और जांच सामग्री के बाहरी स्वरूप से परे होनी चाहिए। केवल दृश्य दोषों की तलाश करने के बजाय, सामग्री के निशान की जांच करने की सलाह दी जाती है: यह पुष्टि करना कि क्या व्यक्ति ने आधिकारिक चैनलों पर वास्तव में ऐसा बयान दिया है, यह जांचना कि क्या मीडिया ने इसकी सूचना दी है, और स्पष्ट उत्पत्ति के बिना प्रसारित विवादित वीडियो के प्रति संदेह रखना।

}