आर्टिफिशियल इंटेलिजेंस (एआई) द्वारा बनाई गई बाल यौन शोषण की छवियां इंटरनेट पर फैल रही हैं। इंटरनेट वॉच फाउंडेशन (IWF) ने 2026 की पहली छमाही में 6,310 अवैध सामग्री का मूल्यांकन किया, जो संगठन द्वारा पूरे वर्ष 2025 के दौरान दर्ज की गई कुल मात्रा से 40% अधिक है।
जांची गई सामग्रियों में, सात से तेरह वर्ष की आयु की लड़कियों और बच्चों के चित्रण प्रमुख थे। IWF के लिए, यह वृद्धि प्रौद्योगिकी कंपनियों को अधिक सुरक्षित सिस्टम विकसित करने के लिए बाध्य करने वाले नए मानक स्थापित करने की तात्कालिकता को रेखांकित करती है।
एआई द्वारा उत्पन्न फोटो-यथार्थवादी छवियों का विश्लेषण
IWF के विश्लेषकों ने, जो विश्व स्तर पर बाल यौन शोषण सामग्री की निगरानी करने वाला एक ब्रिटिश संगठन है, पिछले पूरे वर्ष की तुलना में 2026 के पहले छह महीनों में एआई द्वारा उत्पादित अधिक फोटो-यथार्थवादी छवियां पाईं। 2025 में, IWF ने इस प्रकार की 4,500 से अधिक छवियां पहचानी थीं, और 2026 का प्रारंभिक रिकॉर्ड 2025 के कुल की तुलना में 40% की वृद्धि दर्शाता है।
संस्था इस बात पर जोर देती है कि इस प्रकार की सामग्री कई वर्षों से बढ़ रही है, जिसमें वीडियो में विशेष रूप से तेज वृद्धि हुई है; हालांकि, वर्तमान सर्वेक्षण विशेष रूप से स्थिर छवियों पर केंद्रित था।
प्रौद्योगिकी कंपनियों की जिम्मेदारी
IWF की नीतियों के प्रभारी हन्ना स्विरस्की ने इस बात पर जोर दिया कि ये आंकड़े अनिवार्य कानून की आवश्यकता को मजबूत करते हैं जो निगमों को अधिक सुरक्षित उपकरण विकसित करने के लिए जवाबदेह ठहराता है। उन्होंने द गार्डियन को बताया कि प्रौद्योगिकी कंपनियों का कर्तव्य है कि वे ऐसे उपकरण बनाएं जिनका दुरुपयोग न किया जा सके, यह तर्क देते हुए कि यदि तकनीक ने समस्या पैदा की है, तो कंपनियों को शुरुआत से ही सुरक्षित सिस्टम लागू करना चाहिए।
यह चर्चा एक ऐसे संदर्भ में हो रही है जहां इस अपराध के लिए पहले से ही विशिष्ट नियम मौजूद हैं। यूनाइटेड किंगडम में, एआई का उपयोग करके बाल यौन शोषण सामग्री का उत्पादन निषिद्ध है, साथ ही ऐसी सामग्री उत्पन्न करने के लिए मॉडल को अनुकूलित करना या उन मॉडलों का वितरण भी निषिद्ध है। बाल यौन शोषण सामग्री के अति-यथार्थवादी उत्पादन पर केंद्रित मॉडल विकसित करने पर पांच साल तक की कैद हो सकती है।
हालांकि ब्रिटिश सरकार ने अभी तक एआई के लिए कोई नया विशिष्ट कानून घोषित नहीं किया है, ब्रिटिश एआई मंत्री, कनिष्क नारायण ने उल्लेख किया कि विनियमन के संबंध में 'कुछ भी मेज पर नहीं है'। उनके अनुसार, किसी भी नए प्रस्ताव में प्राथमिक कारक होना चाहिए: 'क्या यह ब्रिटिश लोगों को अधिक सुरक्षित बनाएगा?'
विनियमन और शिकायतें
मौजूदा कानून कुछ विशिष्ट प्रतिबंध लगाते हैं: प्रौद्योगिकी का आपराधिक उपयोग केवल पूरी तरह से कृत्रिम छवियों के निर्माण तक सीमित नहीं है, क्योंकि बच्चों की वास्तविक तस्वीरों को भी यौनकृत प्रतिनिधित्व बनाने के लिए संशोधित किया जा सकता है। रिपोर्ट रिमूव सेवा को 420 शिकायतों का सामना करना पड़ा, जिसमें बच्चों ने दावा किया कि उनकी अपनी छवियों को नकली या स्पष्ट दिखने के लिए बदला गया था, जो 2025 के दौरान दर्ज की गई 397 घटनाओं से अधिक है।
यूके की राष्ट्रीय अपराध एजेंसी और IWF सोशल मीडिया पर बच्चों की तस्वीरें साझा करते समय सावधानी बरतने की सलाह देते हैं। सिफारिशों में निजी प्रोफाइल रखना और केवल 'करीबी दोस्तों' जैसे सीमित समूहों के साथ छवियां साझा करना शामिल है। इन उपकरणों की प्रगति एआई द्वारा उत्पन्न छवियों और मूल रूप से सोशल मीडिया पर प्रकाशित प्रामाणिक तस्वीरों दोनों के अवैध उपयोग के बारे में चिंता बढ़ाती है।