उद्योग के विशेषज्ञों ने कहा कि भारत को कृत्रिम बुद्धिमत्ता (एआई) सुरक्षा के लिए एक अपना ढांचा विकसित करना चाहिए जो केवल पिछले सप्ताह अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प और प्रमुख प्रौद्योगिकी कंपनियों द्वारा हस्ताक्षरित स्वैच्छिक समझौते की नकल करने के बजाय उसकी भाषाई विशेषताओं, पैमाने और अनुप्रयोग-उन्मुख पारिस्थितिकी तंत्र के अनुरूप हो।
उन्होंने सभी हितधारकों को शामिल करने और डीपफेक और साइबर हमलों जैसे जोखिमों को हल करने के उद्देश्य से बाध्यकारी समझौतों के निर्माण का भी आह्वान किया, भले ही केवल स्वैच्छिक उपायों की पर्याप्तता पर असहमति हो।
ये टिप्पणियां व्हाइट हाउस सुपरइंटेलिजेंस समझौते को अपनाने के बाद आईं - एआई सुरक्षा पर एक स्वैच्छिक समझौता, जिस पर 29 सितंबर को ट्रम्प और गूगल, ओपनएआई, एंथ्रोपिक, मेटा, एनवीडिया और एलोन मस्क की एक्सएआई के शीर्ष अधिकारियों ने हस्ताक्षर किए थे।
इस समझौते के अनुसार, कंपनियों ने अपने एआई मॉडलों की निगरानी के लिए आंतरिक नियंत्रण तंत्र लागू करने, विशेष पर्यवेक्षी समूहों के निर्माण, स्वतंत्र बाहरी ऑडिट आयोजित करने और निदेशक मंडल स्तर पर नियंत्रण सुनिश्चित करने की प्रतिबद्धता जताई। इसके अलावा, उन्होंने सुरक्षा मानकों को स्थापित करने के लिए नियमित रूप से बैठक करने पर सहमति व्यक्त की।
नैस्कॉम के अध्यक्ष और फ्रैक्टल ग्रुप के सीईओ श्रीकांत वेलामक्कन्नी ने टिप्पणी की कि भारत को अमेरिकी मॉडल की आँख बंद करके नकल नहीं करनी चाहिए। इसके बजाय, उसे वैश्विक एआई सुरक्षा मुद्दों की समझ प्राप्त करने के आधार के रूप में आंतरिक प्रतिबद्धताओं का उपयोग करना चाहिए।
वेलामक्कन्नी ने जोर देकर कहा: 'जैसे-जैसे मॉडल अधिक सक्षम और एजेंटिक होते जाते हैं, हम उन्हें सिस्टम तक अधिक पहुंच और निर्णय लेने के लिए अधिक स्वायत्तता प्रदान करते हैं। एआई सुरक्षा को काफी मजबूत होना चाहिए और विनाशकारी जोखिमों को रोकने के लिए क्षमताओं से आगे रहना चाहिए।'
उन्होंने आगे कहा कि अमेरिकी समझौता काफी हद तक उन्नत एआई विकसित करने वाली कंपनियों द्वारा स्व-नियमन का आह्वान है। इसके विपरीत, यूरोपीय संघ ने एक अनिवार्य, जोखिम-आधारित दृष्टिकोण अपनाया है, जबकि चीन सरकारी प्रबंधन मॉडल का पालन करता है।
नैस्कॉम के अध्यक्ष के अनुसार, भारत ग्लोबल एआई पार्टनरशिप (जीपीएआई) में अपनी भूमिका और फरवरी में एआई प्रभाव शिखर सम्मेलन के आयोजन से मिली गति का उपयोग सबसे खराब परिदृश्यों से बचने के लिए कर सकता है, जबकि भारतीय नागरिकों और ग्लोबल साउथ को उन्नत मॉडलों तक पहुंच से वंचित नहीं किया जाता है।
काउंटरपॉइंट रिसर्च के वरिष्ठ विश्लेषक सौमेन मंडल ने कहा कि भारत को अमेरिकी मॉडल की नकल करने की आवश्यकता नहीं है, लेकिन वह इससे प्रेरणा ले सकता है और एक मजबूत एआई पारिस्थितिकी तंत्र के निर्माण के प्रयासों में तेजी ला सकता है। उन्होंने स्पष्ट किया कि इस तरह की प्रतिबद्धता में तैनाती से पहले एआई सिस्टम का परीक्षण, स्वतंत्र ऑडिट, गंभीर समस्याओं की रिपोर्टिंग और एआई से जुड़े जोखिमों के लिए जिम्मेदार व्यक्तियों को नियुक्त करना शामिल होना चाहिए।
ग्रैंट थॉर्नटन भारत में पार्टनर और ऑटोमेशन इकोसिस्टम प्रमुख अमित हन्ना का मानना है कि किसी भी प्रतिबद्धता को भारतीय बाजार की स्थितियों के अनुरूप होना चाहिए। उन्होंने उल्लेख किया कि भारत का ध्यान बड़े आधारभूत मॉडल विकसित करने के बजाय एआई एप्लिकेशन बनाने पर है।
हन्ना ने जोर देकर कहा: 'भारत में उद्योग की प्रतिबद्धता को स्थानीय भाषाओं और अद्वितीय सांस्कृतिक संदर्भों में एआई के विश्वसनीय संचालन को सुनिश्चित करना चाहिए और आबादी में एआई ज्ञान की विषमता का शोषण नहीं करना चाहिए।'
गणेश गोपालन, ग्नानी.एआई के सह-संस्थापक और सीईओ ने कहा कि किसी भी ढांचे को समान अवसर प्रदान करना चाहिए। उन्होंने जोर दिया कि वैश्विक उन्नत मॉडल उन्हीं नियमों का पालन करने चाहिए जो भारतीय मॉडल करते हैं, क्योंकि भारतीय एआई कंपनियां समान ग्राहकों के लिए वैश्विक फर्मों के साथ प्रतिस्पर्धा करती हैं।
विशेषज्ञ इस बात पर विभाजित हैं कि क्या स्व-नियमन पर्याप्त है। वेलामक्कन्नी ने कहा कि 'स्वैच्छिक, स्व-नियामक दृष्टिकोण आवश्यक हैं, लेकिन बेहद अपर्याप्त हैं।' उन्होंने फार्मास्यूटिकल्स और विमानन के उदाहरण दिए जहां मजबूत, तकनीकी रूप से सक्षम नियामकों ने नवाचार को रोके बिना सुरक्षा और जनता के विश्वास को बढ़ाया।
उन्होंने निष्कर्ष निकाला कि भारत को पारदर्शिता, घटना रिपोर्टिंग और गंभीर क्षति की स्थिति में जवाबदेही के संबंध में अनिवार्य नियमों की आवश्यकता है। उन्होंने नई मॉडलों के परीक्षण के लिए इंडियाएआई सेफ्टी इंस्टीट्यूट को मजबूत करने का भी प्रस्ताव दिया, लेकिन प्रत्येक मॉडल के पूर्व प्रमाणन की आवश्यकता से बाधा उत्पन्न किए बिना।
मंडल ने एक संकर दृष्टिकोण का समर्थन किया। रक्षा, चिकित्सा, बैंकिंग और सरकारी क्षेत्रों में संभावित नुकसान पर अनिवार्य नियम लागू होने चाहिए, जबकि स्वैच्छिक मानक तेजी से विकसित हो रहे तकनीकी क्षेत्रों को कवर करने चाहिए जहां नियामकों के पास तकनीकी विशेषज्ञता की कमी हो सकती है।
हन्ना ने एक संकर 'तकनीकी-कानूनी' दृष्टिकोण का भी समर्थन किया, जिसमें मजबूत स्वैच्छिक स्तर को 2026 के आईटी संशोधन नियमों में सिंथेटिक रूप से उत्पन्न जानकारी के प्रावधानों जैसे अनिवार्य जनादेशों के साथ जोड़ा गया। उन्होंने उल्लेख किया कि स्वैच्छिक अनुपालन महत्वपूर्ण अंतराल छोड़ देता है, खासकर नागरिक अधिकारों और सार्वजनिक सुरक्षा के मामलों में।
हालांकि, गोपालन ने स्व-नियमन को प्राथमिकता दी। उन्होंने कहा, 'प्रौद्योगिकी की नवीनता को देखते हुए स्वैच्छिक स्व-नियमन महत्वपूर्ण है। अनिवार्य विनियमन प्रतिस्पर्धा को दबा सकता है और कुछ कंपनियों को विशेषाधिकार प्राप्त होने की चिंता पैदा कर सकता है।' उन्होंने आगे कहा कि उपनिवेशीकरण को रोकने के लिए भारत को उन्नत एआई प्रयोगशालाओं की अधिक आवश्यकता है, जो अपरिहार्य है यदि देश एआई दौड़ में पिछड़ जाता है।
भारतीय सरकार अपने स्वयं के एआई विनियमन को विकसित करने की प्रक्रिया में है। इस साल पहले आईटी सचिव सी कृष्णन ने उल्लेख किया कि हालांकि मौजूदा कानूनी मानदंड अभी भी डीपफेक और सिंथेटिक सामग्री जैसी प्रारंभिक समस्याओं को हल करने के लिए पर्याप्त हैं, 'अतिरिक्त विनियमन या कानून की आवश्यकता हो सकती है।'
उन्होंने आगे कहा कि 'यह एक बातचीत शुरू हुई है, और मेरे मंत्री (आईटी मंत्री अश्विनी वैष्णव) और मैंने पहले कहा था कि हम समय आने पर एआई विनियमन पर विचार करेंगे, और ऐसा लगता है कि समय आ गया है, और हम इस पर विचार करना शुरू करेंगे।'
वैष्णव ने यह भी कहा कि सूचना प्रौद्योगिकी पर मौजूदा कानून एआई के तेजी से उदय से बहुत पहले बनाए गए थे, और बदलते परिदृश्य को हल करने के लिए एक नए कानूनी ढांचे की आवश्यकता हो सकती है।
उद्योग इस बात पर सहमत है कि किसी भी समझौते को केवल एआई कंपनियों से परे जाना चाहिए। वेलामक्कन्नी ने कहा: 'यह केवल एआई कंपनियों के बीच एक समझौता नहीं हो सकता।' उन्होंने इस बात पर जोर दिया कि सरकार, उन्नत मॉडल डेवलपर्स, बड़े उपयोगकर्ताओं, जिसमें उद्यम और सरकारी संस्थान, शैक्षणिक समुदाय और स्वतंत्र सुरक्षा शोधकर्ता शामिल हैं, की भूमिकाएं परिभाषित की जानी चाहिए। श्रमिकों, उपयोगकर्ताओं और नागरिक समाज के पास नुकसान की रिपोर्ट करने के लिए आधिकारिक चैनल होने चाहिए।
उन्होंने यह भी जोड़ा कि उन्नत मॉडलों के सुरक्षा मूल्यांकन स्वतंत्र विशेषज्ञ संस्थानों द्वारा किए जाने चाहिए और प्रकाशित किए जाने चाहिए, सिवाय उन संकीर्ण मामलों के जहां जानकारी का खुलासा सुरक्षा के लिए खतरा पैदा करता है।
मंडल का मानना था कि समझौते को पूरे एआई पारिस्थितिकी तंत्र को एकजुट करना चाहिए: एआई कंपनियों और उनके व्यावसायिक उपयोगकर्ताओं से लेकर नियामकों, विश्वविद्यालयों, शोधकर्ताओं, कर्मचारियों और उपयोगकर्ताओं तक। हन्ना का तर्क था कि इसमें सरकारी और सार्वजनिक संरचनाएं शामिल होनी चाहिए जो एआई के बड़े उपयोगकर्ता हैं, साथ ही नागरिक समाज, श्रमिक संघ और प्रौद्योगिकी कंपनियां भी शामिल हों। गोपालन ने, दूसरी ओर, निष्पक्ष पहुंच सुनिश्चित करने के लिए पूरे एआई पारिस्थितिकी तंत्र में व्यापक स्व-नियमन का आह्वान किया।
वेलामक्कन्नी ने कहा कि मुख्य चिंता विनाशकारी और प्रणालीगत नुकसान को रोकना होना चाहिए। उन्होंने बड़े पैमाने पर साइबर हमलों, चुनावों में हस्तक्षेप, जैविक या रासायनिक हथियारों, महत्वपूर्ण बुनियादी ढांचे पर हमलों और अत्यधिक स्वायत्त प्रणालियों पर नियंत्रण खोने को सूचीबद्ध किया। व्यक्तिगत नुकसान, जैसे डीपफेक, धोखाधड़ी, प्रतिरूपण, गोपनीयता लीक और आत्म-नुकसान, उनका अनुसरण करते हैं।
उन्होंने जोर देकर कहा: 'सुरक्षा गारंटी को स्वायत्तता से आगे रहना चाहिए ताकि सुरक्षा मार्जिन सुनिश्चित हो सके। चूंकि एआई सिस्टम दुनिया में कार्य करने की क्षमता प्राप्त कर रहे हैं (टूल का उपयोग करना, पैसा स्थानांतरित करना, सिस्टम बदलना, महत्वपूर्ण निर्णय लेना), उनकी सुरक्षा और प्रबंधनीयता के प्रमाण उस स्वायत्तता से तेजी से बढ़ने चाहिए जो हम उन्हें प्रदान करते हैं।'
गोपालन ने उल्लेख किया कि भारत की बड़ी आबादी और लोकतांत्रिक प्रणाली को देखते हुए, वित्तीय संस्थानों को लक्षित करने वाले डीपफेक और साइबर हमले अधिक गंभीर समस्याएं हैं।
हन्ना ने डीपफेक को भी सर्वोच्च प्राथमिकता वाला मुद्दा बताया। उन्होंने दुष्प्रचार, डीपफेक और राजनीतिक हेरफेर को 'भारत के सामाजिक ताने-बाने के लिए अस्तित्वगत खतरे' के रूप में वर्णित किया। उन्होंने बताया कि एआई सिस्टम विफल होने पर जवाबदेही के नियम, जैसे रोगी का गलत निदान या लाभों से गलत इनकार, एक महत्वपूर्ण कमी बने हुए हैं।
मंडल ने स्वतंत्र ऑडिट को सर्वोच्च प्राथमिकता दी, जिसके बाद जवाबदेही, डेटा सुरक्षा, डीपफेक और रोजगार पर प्रभाव आता है। उन्होंने कहा: 'स्वतंत्र परीक्षण और ऑडिट के बिना, प्रणाली पूर्ण नहीं होगी, क्योंकि कंपनियां कभी-कभी एआई से संबंधित समस्याओं को नजरअंदाज कर सकती हैं।'
