यूएई के मंत्री ने कहा कि एआई के विनियमन पर अत्यधिक जोर उसकी व्यावहारिक उपयोगिता को धूमिल कर सकता है

कृत्रिम बुद्धिमत्ता (AI) से संबंधित गंभीर चेतावनियाँ अब केवल उद्योग के बाहर के आलोचकों से नहीं, बल्कि इस तकनीक के डेवलपर्स से भी आ रही हैं। Anthropic के निदेशक, डारियो अमोडेई ने चेतावनी दी है कि उन्नत AI का विकास धीमा किया जाना चाहिए, क्योंकि सुरक्षा प्रणालियों और स्वतंत्र निरीक्षण को विकास की गति से तालमेल बिठाने में समय लगेगा।

अन्य प्रभावशाली हस्तियां, जैसे सैम अल्टमैन (OpenAI के सीईओ), डेमिस हसाबीस (DeepMind के सीईओ) और एलोन मस्क, भी अधिक सक्षम प्रणालियों के आसपास सुरक्षा उपायों को मजबूत करने का समर्थन करते हैं। साथ ही, वर्तमान और पूर्व AI शोधकर्ता, जैसे-जैसे मॉडल अधिक स्वायत्त होते जा रहे हैं, संभावित परिणामों के बारे में और अधिक कठोर चेतावनियाँ जारी कर रहे हैं।

कुछ बयान अतिशयोक्तिपूर्ण लग सकते हैं। कुछ शोधकर्ता ऐसी प्रणालियों पर चर्चा करते हैं जो भविष्य में स्वयं को बेहतर बना सकती हैं, कम मानवीय हस्तक्षेप के साथ कार्य कर सकती हैं, या नियंत्रण में जटिल हो सकती हैं। अन्य आज दिखाई देने वाले जोखिमों के बारे में चिंतित हैं, जिसमें AI का उपयोग करके साइबर अपराध और कोड लिखने, उपकरणों का उपयोग करने और बहु-चरणीय कार्य करने में सक्षम एजेंट शामिल हैं। आम जनता के लिए, ये सभी चिंताएं एक भयावह वाक्यांश तक सिमट जाती हैं: AI का जोखिम।

कुछ खतरे पहले से ही निवासियों और व्यवसायों को प्रभावित कर रहे हैं, जबकि अन्य AI विकास के अग्रभाग पर उत्पन्न हो रहे हैं। सबसे गंभीर परिदृश्य अभी भी काल्पनिक बने हुए हैं। यह अंतर यूएई में महत्वपूर्ण है, जहां कृत्रिम बुद्धिमत्ता तेजी से सरकारी क्षेत्र, व्यवसाय और दैनिक जीवन में लागू की जा रही है।

साइबर सुरक्षा वर्तमान में AI के जोखिम के स्वरूप का सबसे स्पष्ट उदाहरण प्रस्तुत करती है। क्राउडस्ट्राइक के मध्य पूर्व, तुर्की और अफ्रीका के वरिष्ठ सिस्टम इंजीनियरिंग निदेशक, यासिन वतलल ने खलीज टाइम्स को बताया कि AI ने पहले ही कुछ प्रकार के साइबर अपराधों को आसान बना दिया है। उन्होंने उल्लेख किया कि 'AI ने कई हमलावरों के लिए प्रवेश बाधा को कम कर दिया है', और जोड़ा कि अब कम परिष्कृत अभिनेता वह कर सकते हैं जो पहले उनके लिए दुर्गम था या जिसमें बहुत समय लगता था।

इसका मतलब यह जरूरी नहीं है कि अपराधी पूरी तरह से नए हमले आविष्कार कर रहे हैं। कई मामलों में, AI केवल पुराने तरीकों को तेज और अधिक विश्वसनीय बनाता है। फ़िशिंग संदेशों को बेहतर भाषा में लिखा जा सकता है और किसी विशिष्ट व्यक्ति या देश के अनुरूप ढाला जा सकता है। आवाज का उपयोग पहचान की नकल करने के लिए किया जा सकता है, और मैलवेयर को तेजी से बनाया जा सकता है। हमलावर द्वारा एक्सेस प्राप्त करने के बाद के कदम भी कहीं अधिक तेज़ी से हो सकते हैं।

हालांकि, अपराधियों को अब सिस्टम हैक करने की आवश्यकता कम होती है यदि वे किसी ऐसे व्यक्ति के क्रेडेंशियल चुरा सकते हैं जिसके पास पहले से ही प्रवेश अधिकार हैं। वतलल ने जोर देकर कहा: 'वे सिस्टम को हैक करने के बजाय लॉग इन करना चाहेंगे।' क्राउडस्ट्राइक के आंकड़ों के अनुसार, प्रारंभिक समझौता से संगठन के अन्य हिस्सों में संक्रमण में साइबर अपराधियों द्वारा खर्च किया गया औसत समय 2025 में घटकर 29 मिनट हो गया है, जिसमें दर्ज किया गया सबसे तेज़ मामला केवल 27 सेकंड का था।

सुरक्षा टीम के लिए, समय में यह कमी महत्वपूर्ण है। हमला नेटवर्क में फैलना शुरू कर सकता है इससे पहले कि कोई व्यक्ति पहली संदिग्ध सूचना की जांच कर पाए। वतलल ने समझाया कि AI दोनों तरफ उपयोग किया जाता है: हमलावर अपने संचालन के हिस्सों को स्वचालित करते हैं, लेकिन बचावकर्ताओं को भी समान गति से अलर्ट की जांच और प्रतिक्रिया के लिए AI की आवश्यकता होती है।

यह उन कारणों में से एक है कि विशेषज्ञ AI सुरक्षा को केवल काल्पनिक सुपरइंटेलिजेंस से जुड़ी भविष्य की समस्या के रूप में देखने से आगाह करते हैं। कुछ प्रभाव पहले से ही मापने योग्य हैं। अगली स्तर की चिंता देखना अधिक कठिन है। अधिकांश लोगों ने चैटबॉट के माध्यम से जनरेटिव AI का सामना किया है: उपयोगकर्ता एक प्रॉम्प्ट दर्ज करता है, मॉडल एक उत्तर देता है, और बातचीत समाप्त हो जाती है। हालांकि, उद्योग अब एजेंटों पर अधिक ध्यान केंद्रित कर रहा है।

केवल जवाब देने के बजाय, एक AI एजेंट को एक लक्ष्य मिल सकता है और उसे उस लक्ष्य को प्राप्त करने के लिए कई कदम उठाने के लिए अधिकृत किया जा सकता है। सिस्टम के आधार पर, इसमें कोड लिखना, जानकारी खोजना, अन्य सॉफ़्टवेयर को कॉल करना, फ़ाइलों का विश्लेषण करना या बाहरी उपकरणों का उपयोग करके कार्रवाई करना शामिल हो सकता है। यह एक अलग सुरक्षा समस्या पैदा करता है। चैटबॉट गलत उत्तर दे सकता है, और यहीं सब खत्म हो जाता है। लेकिन एक एजेंट संभावित रूप से एक गलती भरे निर्णय को वास्तविक कार्रवाई में बदल सकता है।

इस महत्वाकांक्षा का मतलब यह नहीं है कि AI अचानक सभी सरकारी निर्णय लेना शुरू कर देगा। लेकिन यह अनुमति, मानवीय नियंत्रण और सिस्टम सुरक्षा के सवालों को बहुत कम सैद्धांतिक बनाता है। व्यावहारिक प्रश्न उठते हैं: एजेंट किस चीज़ तक पहुंच सकता है? वह मानव अनुरोध के बिना क्या कार्रवाई कर सकता है? अगर वह कार्य को गलत समझता है तो क्या होगा? मनुष्य उसे कितनी जल्दी रोक सकता है?

ये प्रश्न कंपनियों के लिए भी तेजी से प्रासंगिक होते जा रहे हैं। वतलल ने कहा कि व्यवसायों को न केवल AI का उपयोग करने वाले अपराधियों से बचाव के बारे में सोचना चाहिए, बल्कि अपनी तैनात AI प्रणालियों की सुरक्षा के बारे में भी सोचना चाहिए। उन्होंने सलाह दी: 'हम AI को सुरक्षित रूप से क्या सौंप सकते हैं, और फिर उसके चारों ओर सीमाएँ कैसे स्थापित कर सकते हैं?' जैसे-जैसे AI सिस्टम कॉर्पोरेट डेटा, आंतरिक उपकरणों और स्वचालित वर्कफ़्लो से जुड़ते हैं, यह महत्वपूर्ण होता जा रहा है।

उन्नत AI के कुछ शोधकर्ता एक ऐसे भविष्य को लेकर चिंतित हैं जहां सिस्टम अपने उत्तराधिकारियों के विकास में महत्वपूर्ण रूप से योगदान करने के लिए पर्याप्त रूप से सक्षम हो जाएंगे। AI पहले से ही इंजीनियरों को कोड लिखने, अनुसंधान का विश्लेषण करने और नई मॉडल बनाने के काम का एक हिस्सा करने में मदद कर रहा है। हालांकि, चिंता इस बात से उत्पन्न होती है कि क्या होगा यदि यह सहायता काफी अधिक स्वायत्त हो जाती है, और सिस्टम और अधिक शक्तिशाली प्रणालियों के विकास में तेजी लाना शुरू कर देते हैं। यहीं पर पुनरावृत्तीय आत्म-सुधार, सुपरइंटेलिजेंस और मानव नियंत्रण के नुकसान पर चर्चा शुरू होती है। इस बात पर कोई वैज्ञानिक सहमति नहीं है कि ऐसा प्रक्रिया होगी, कब यह हो सकता है, या क्या भविष्य की AI प्रणालियाँ विनाशकारी रूप से व्यवहार करेंगी जैसा कि कुछ शोधकर्ता आशंका जताते हैं।

यही अनिश्चितता उद्योग को विभाजित करती है। एक पक्ष का तर्क है कि संभावित परिणाम इतने गंभीर हो सकते हैं कि सबूतों की प्रतीक्षा करना बहुत लंबा होगा। दूसरा पक्ष उन परिदृश्यों के कारण प्रौद्योगिकी को धीमा करने के खिलाफ चेतावनी देता है जो अटकलबाजी में बने रहते हैं, जिनमें विशाल आर्थिक और वैज्ञानिक क्षमता है। यहां तक कि उन लोगों के बीच भी जो अधिक मजबूत सुरक्षा उपायों की आवश्यकता से सहमत हैं, इस बात पर मतभेद हैं कि कितना आगे बढ़ना आवश्यक है।

AI विकास को 'धीमा' करने की मांगें आमतौर पर मौजूदा प्रणालियों को बंद करने या लोगों से उनका उपयोग बंद करने का आह्वान नहीं करती हैं। चर्चा किए गए प्रस्तावों में अधिक सख्त स्वतंत्र मूल्यांकन, बड़ी क्षमता छलांगों के बीच अंतराल बढ़ाना, रिलीज से पहले बेहतर परीक्षण और उन्नत प्रयोगशालाओं और उच्च क्षमता वाली प्रणालियों के लिए क्या अनुमत है, इसके बारे में अधिक स्पष्ट नियम के बीच अधिक समन्वय शामिल है।

अधिकांश निवासियों के लिए तत्काल प्रतिक्रिया भविष्य के AI की चेतावनियों की तुलना में बहुत कम नाटकीय है। लोगों को केवल इसलिए AI का उपयोग बंद करने की आवश्यकता नहीं है क्योंकि शोधकर्ता दीर्घकालिक जोखिमों पर चर्चा कर रहे हैं। हालांकि, वर्तमान जोखिमों पर ध्यान देना आवश्यक है क्योंकि वे कम दर्शनीय हैं। AI का उपयोग करके धोखाधड़ी, पहचान की नकल और साइबर हमले अभी हो रहे हैं। वतलल व्यक्तिगत खातों पर मल्टी-फैक्टर ऑथेंटिकेशन को सक्षम करने, दूसरे चैनल के माध्यम से अप्रत्याशित अनुरोधों की जांच करने और लॉगिन को मंजूरी देने या लिंक पर क्लिक करने से पहले धीमा होने की सलाह देते हैं। वह बताते हैं: 'जीवन में सब कुछ इतनी तेज़ी से होता है कि हम अक्सर ऐसी चीज़ पर प्रतिक्रिया करते हैं जिसका हमें बाद में पछतावा होता है, या ऐसी चीज़ को मंजूरी देते हैं जिसका हमें बाद में पछतावा होता है'।

व्यवसाय के लिए समस्या इससे आगे निकल जाती है। AI एजेंटों को लागू करने वाली कंपनियों को यह परिभाषित करने की आवश्यकता है कि ये सिस्टम किस जानकारी तक पहुंच सकते हैं, वे क्या कार्रवाई कर सकते हैं और मनुष्य कहाँ रहना चाहिए। वतलल का मानना है कि मनुष्य की भूमिका महत्वपूर्ण बनी हुई है, खासकर निर्णय, संदर्भ और जिम्मेदारी के मामलों में। इस प्रकार, AI पर व्यापक बहस को दो प्रश्नों में विभाजित किया जा सकता है। पहला यहाँ है: आज अधिक सक्षम AI का उपयोग करने वाले अपराधियों और संगठनों से लोग खुद को कैसे बचा सकते हैं? दूसरा कहीं अधिक कठिन है: समाज अंततः AI प्रणालियों को कितनी स्वतंत्रता प्रदान करना चाहिए?

희