फेसबुक और इंस्टाग्राम की मालिक मेटा ने बुधवार को उन विज्ञापनों का मुकाबला करने के लिए कृत्रिम बुद्धिमत्ता (एआई) के नए उपकरणों को लागू करने की घोषणा की जो गुप्त रूप से उपयोगकर्ताओं को बाल यौन शोषण की सामग्री की ओर निर्देशित करते हैं। इस घोषणा के हिस्से के रूप में, कंपनी ने खुलासा किया कि उसने 2026 की पहली छमाही में भारत में बाल यौन शोषण से संबंधित 5.3 मिलियन सामग्रियों पर कार्रवाई की थी।
कंपनी के ब्लॉग के अनुसार, भारत में फेसबुक और इंस्टाग्राम पर 98% से अधिक सामग्री की पहचान उपयोगकर्ता द्वारा रिपोर्ट किए जाने से पहले ही कर ली गई और हटा दी गई। वैश्विक स्तर पर, जनवरी से जून के बीच दोनों प्लेटफार्मों पर 33.2 मिलियन ऐसी सामग्रियों को संसाधित किया गया था, जिनमें से 97% से अधिक सक्रिय रूप से पहचाने गए थे।
मेटा ने इस बात पर जोर दिया कि अपने ऐप्स में युवाओं की सुरक्षा बनाए रखना एक महत्वपूर्ण और निरंतर चलने वाला कार्य है। कंपनी ने उल्लेख किया कि अपराधियों ने रणनीति बदलकर ऐसे विज्ञापनों का उपयोग करना शुरू कर दिया है जो हानिरहित लग सकते हैं, लेकिन फिर भी लोगों को प्लेटफॉर्म के बाहर रखी गई अवैध सामग्री पर पुनर्निर्देशित करते हैं।
इस योजना का पता लगने के बाद, कंपनी ने घोषित विज्ञापनों से परे जांच का विस्तार किया, संबंधित खातों को ब्लॉक किया और बाहरी लिंक को रोका। नए उपायों में 'साइनपोस्टिंग' (signposting) का पता लगाने के लिए बड़े भाषा मॉडल पर आधारित प्रणाली शामिल है - विज्ञापन सामग्री जो निर्दोष लगती है, लेकिन संदिग्ध रूप से उपयोगकर्ताओं को अवैध सामग्री की ओर निर्देशित करती है।
इसके अलावा, मेटा ने विज्ञापन कहाँ जाता है इसका मूल्यांकन बेहतर बनाया है, न केवल प्रदर्शन का विश्लेषण करके, बल्कि अंतिम बिंदु का भी विश्लेषण करके, और पुरानी प्रणालियों द्वारा पहले नहीं खोजी गई सामग्री का पता लगाने के लिए एआई-आधारित स्वचालित जांच भी जोड़ी है। कमजोरियों के लिए अपने सुरक्षा तंत्रों का परीक्षण करने के लिए एक एआई एजेंट का भी उपयोग किया जाता है, और प्रतिबंधित उपयोगकर्ताओं द्वारा नए खाते बनाने की पहचान प्रणाली को भी मजबूत किया गया है।
इसके अलावा, मेटा फोटोडीएनए (PhotoDNA) इमेज और वीडियो मिलान तकनीक का उपयोग करना जारी रखे हुए है, जिसका उपयोग वह 2011 से अपने ऐप्स में कर रहा है, और व्यवहारिक संकेतों और नियम-आधारित प्रणालियों पर भी निर्भर करता है। कंपनी Lantern Coalition of Technologies कार्यक्रम के माध्यम से अन्य संगठनों के साथ पहचानी गई सामग्रियों के हैश साझा करती है और उस बाहरी वेबसाइट पर लिंक को ब्लॉक करती है जहां ऐसी सामग्री होस्ट की जाती है, साथ ही संबंधित पोस्ट, टिप्पणियों या विज्ञापनों को हटा देती है।
मेटा ने संयुक्त राज्य अमेरिका के राष्ट्रीय लापता और शोषित बच्चों केंद्र में पुष्टि की गई सामग्रियों की सूचना दी है। सितंबर में, कंपनी ने बाल सुरक्षा मामलों को सीधे भारत के साइबर अपराध समन्वय केंद्र द्वारा प्रबंधित राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल को सौंपने की घोषणा की।
मेटा के जांचकर्ताओं, जिनमें पूर्व एफबीआई कर्मचारी शामिल हैं, व्यक्तिगत रूप से प्रत्येक खाते के साथ काम करने के बजाय शिकारी खातों के नेटवर्क को नष्ट करने पर ध्यान केंद्रित कर रहे हैं। कंपनी का कहना है कि यह दोषियों को जवाबदेह ठहराने के लिए लगातार अधिकारियों के साथ सहयोग कर रही है।
भारत ने बाल यौन हिंसा की सामग्री और डीपफेक सहित हानिकारक और अवैध ऑनलाइन सामग्री के संबंध में सोशल मीडिया प्लेटफार्मों पर नियंत्रण बढ़ाया है। जुलाई में, सरकार ने इंस्टाग्राम पर सशुल्क विज्ञापन में बाल यौन शोषण की सामग्री के संबंध में मेटा को एक नोटिस भेजा। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने तुरंत इंस्टाग्राम को इस तरह की पहुंच को बढ़ावा देने वाले सभी विज्ञापनों और सामग्री को अक्षम करने की मांग की, एक विस्तृत स्पष्टीकरण मांगा और अपने प्रमुखों को भारत में बुलाया।
मेटा के वरिष्ठ प्रबंधन के साथ बाद की गहन चर्चाओं के परिणामस्वरूप मंत्रालय ने स्पष्ट रूप से कहा कि ऐसी सामग्री एक उल्लंघन है और इसे सुरक्षित ठिकाने की स्थिति प्रदान नहीं की जा सकती है। राष्ट्रीय बाल अधिकार संरक्षण आयोग ने भी इस सामग्री वाले विज्ञापन की जांच के संबंध में मेटा के सीईओ और भारत के प्रमुख को तलब किया; बाल अधिकार संरक्षण निकाय ने बीबीसी आई की कथित विज्ञापन पर रिपोर्ट पर ध्यान दिया और मेटा से स्पष्टीकरण मांगा।
जुलाई की शुरुआत में प्रकाशित बीबीसी आई की जांच में दावा किया गया था कि इंस्टाग्राम ऐसी सामग्री को बढ़ावा देने वाले सशुल्क विज्ञापन दिखा रहा था, जिनमें से कुछ उपयोगकर्ताओं को बच्चों की पोर्नोग्राफिक सामग्री वाले टेलीग्राम चैनलों पर ले जाते थे। जांच ने यह भी स्थापित किया कि मेटा की सिफारिश प्रणालियाँ ऐसी सामग्री वाले वीडियो के प्रसार को बढ़ा रही थीं।