कई वर्षों तक, जब कंप्यूटर सिस्टम में कोई समस्या आती थी, तो जांचकर्ता एक सरल प्रश्न से शुरुआत कर सकते थे: यह किस खाते के साथ हुआ? यह कार्य तब जटिल हो जाता है जब किसी खाते के पीछे अब केवल एक व्यक्ति नहीं होता है।
AI एजेंटों को तेजी से ईमेल पढ़ने, कंपनी फ़ाइलों को खोजने, अन्य प्रोग्रामों को कॉल करने और कर्मचारियों या संगठनों की ओर से बहु-चरणीय कार्य करने के लिए अधिक अधिकार दिए जा रहे हैं। भले ही क्रेडेंशियल वैध हों और एजेंट लॉग इन करने के लिए अधिकृत हो, यदि वह कोई अप्रत्याशित कार्रवाई करता है, तो यह पता लगाना आश्चर्यजनक रूप से कठिन हो जाता है कि किसने और क्या अधिकृत किया, और यह शक्ति वास्तव में कहाँ समाप्त हुई।
चेन ली, अबू धाबी स्थित AI कंपनी ANSEN के सह-संस्थापक और उपाध्यक्ष ने टिप्पणी की: 'AI सुरक्षा में अगला बड़ा घटनाक्रम तब हो सकता है जब एक अधिकृत एजेंट सही क्रेडेंशियल्स का उपयोग करके गलत निर्णय लेता है।' उन्होंने आगे कहा: 'पारंपरिक साइबर सुरक्षा पूछती है कि क्या उपयोगकर्ता, फ़ाइल या प्रक्रिया दुर्भावनापूर्ण है। एजेंट AI के युग में, संगठनों को यह भी पूछना चाहिए: क्या इस AI को यह विशिष्ट कार्रवाई करने की अनुमति दी जानी चाहिए?'
यह प्रश्न साइबर सुरक्षा पर एक संकीर्ण चर्चा से कंपनियों के लिए एक व्यापक समस्या में बदल रहा है जो एजेंटों को लागू कर रही हैं। अगस्त में, यूएस नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजीज (NIST) ने चेतावनी दी कि एजेंटों की प्रारंभिक तैनाती ने सुरक्षा के क्षेत्र में पुरानी गलती दोहराई - क्रेडेंशियल साझा करना।
लोगों और कंपनियों ने एजेंटों को मौजूदा उपयोगकर्ता खातों या दीर्घकालिक एक्सेस टोकन के माध्यम से काम करने की अनुमति दी क्योंकि यह उन्हें ईमेल, डेटा और व्यावसायिक अनुप्रयोगों से जोड़ने का एक आसान तरीका था। समस्या जवाबदेही की है। यदि AI किसी डेटाबेस को खोलने, फ़ाइल बदलने और फिर दूसरी प्रणाली को कॉल करने के लिए कर्मचारी खाते का उपयोग करता है, तो लॉग केवल यह दिखा सकते हैं कि ये क्रियाएं कर्मचारी के क्रेडेंशियल्स का उपयोग करके की गईं। यह जरूरी नहीं बताता कि व्यक्ति ने कौन सी कार्रवाई का अनुरोध किया, एजेंट ने स्वयं कौन सी चुनी, या प्रक्रिया में कोई अन्य प्रोग्राम शामिल था या नहीं।
NIST का तर्क है कि एजेंटों को तेजी से 'प्रथम श्रेणी की संस्थाओं' के रूप में देखा जाना चाहिए, जिनके अपने पहचानकर्ता, क्रेडेंशियल और प्राधिकरण देने वाले व्यक्ति या प्रणाली से जुड़े विशेषाधिकार होते हैं। माइक्रोसॉफ्ट इसी दिशा में बढ़ रहा है। इसका सुरक्षा दिशानिर्देश प्रत्येक एजेंट को एक समर्पित व्यक्तित्व निर्दिष्ट करने, उस तक पहुंच को सख्ती से सीमित करने और पूरी कार्रवाई श्रृंखला को रिकॉर्ड करने की सलाह देता है ताकि संगठन बाद में तीन बुनियादी प्रश्नों का उत्तर दे सके: क्या हुआ, किसके अधिकार के तहत और क्या बदला गया।
यह अंतर तकनीकी लगता है, लेकिन विचार परिचित है। कोई कंपनी आमतौर पर सभी कर्मचारियों को सीईओ का लॉगिन नहीं देती है, यह निर्धारित करने के लिए विश्वास पर निर्भर करती है कि किसने क्या किया। विभिन्न लोगों को विभिन्न खाते और विशेषाधिकार प्रदान किए जाते हैं। चूंकि AI एजेंट लोग के साथ कंधे से कंधा मिलाकर काम करना शुरू कर रहे हैं, इसलिए सुरक्षा शोधकर्ता तेजी से यह तर्क दे रहे हैं कि सॉफ़्टवेयर में समान स्पष्ट पहचान निशान होना चाहिए।
पहचान अपने आप में सभी समस्याओं को हल करने के लिए पर्याप्त नहीं है। एजेंट का अपना खाता हो सकता है, लेकिन उसे बहुत अधिक अधिकार दिए जा सकते हैं। उदाहरण के लिए, उसे सुरक्षा अलर्ट को सारांशित करने की अनुमति दी जा सकती है, लेकिन क्या उसी एजेंट को अतिरिक्त सत्यापन के बिना खाता अक्षम करने या सेवा को रोकने की क्षमता होनी चाहिए?
ली का मानना है कि नियंत्रण का स्तर कार्रवाई के परिणामों द्वारा निर्धारित किया जाना चाहिए। उन्होंने कहा: 'AI प्रणाली को स्वचालित रूप से अलर्ट को सारांशित करने की अनुमति दी जा सकती है, लेकिन महत्वपूर्ण सेवा को ब्लॉक करना, सुरक्षा नीति बदलना या वास्तविक दुनिया में प्रतिक्रिया शुरू करना विनियमित रहना चाहिए।' यह एक व्यापक उद्योग समस्या बन रही है। माइक्रोसॉफ्ट चेतावनी देता है कि जैसे-जैसे उनके कार्यों का विस्तार होता है, एजेंट व्यापक अनुमतियाँ जमा कर सकते हैं, खासकर जब एक प्रणाली एक साथ ईमेल, फ़ाइलों, आवेदन उपकरणों और कंपनी डेटाबेस से जुड़ी होती है। अलग-अलग हानिरहित लगने वाली अनुमतियाँ संयोजन में काफी अधिक शक्तिशाली हो सकती हैं।
ओपन वर्ल्डवाइड एप्लीकेशन सिक्योरिटी प्रोजेक्ट ने भी इस महीने एजेंट प्रबंधन मानक प्रस्तुत किया, जिसमें AI एजेंटों को सत्यापन योग्य और ट्रैक करने योग्य बनाने का आह्वान किया गया, जिसमें यह दृश्यता शामिल है कि वे किस तक पहुंच सकते हैं, उन्होंने क्या किया और उनके व्यवहार को संचालन के दौरान कैसे सीमित किया जा सकता है।
इस प्रकार, नया सुरक्षा मॉडल इस बात से परे है कि क्या AI के पास सिस्टम में प्रवेश करने की अनुमति है। यह पूछता है कि लॉग इन करने के बाद एजेंट को क्या करने की अनुमति है, यह अनुमति कितनी देर तक चलती है और क्या बाद में उसकी कार्रवाइयों को पुनर्स्थापित किया जा सकता है।
ये प्रश्न संयुक्त अरब अमीरात में विशेष महत्व रखते हैं, क्योंकि एजेंट AI सरकारी कार्यों में प्रवेश करना शुरू कर रहा है। संघीय सरकार दो साल के भीतर सरकारी क्षेत्रों, सेवाओं और संचालन के 50 प्रतिशत को एजेंट AI में स्थानांतरित करने का लक्ष्य रखती है, जिसमें स्वायत्त निष्पादन और निर्णय लेने के लिए डिज़ाइन की गई प्रणालियाँ शामिल हैं। जून में, 50 संघीय विभागों के 300 से अधिक प्रतिभागियों ने संभावित परिनियोजन के लिए सेवाओं और संचालन का मानचित्रण शुरू किया।
इसका मतलब यह नहीं है कि AI सिस्टम को सरकारी सेवाओं पर असीमित शक्ति मिलेगी। इसका मतलब है कि इन प्रणालियों के व्यापक परिनियोजन के साथ पहचान, प्राधिकरण और ऑडिट ट्रेल्स को अधिक बार डिजाइन किया जाना चाहिए। ली का तर्क है कि यह ओएई में संप्रभु AI पर चर्चा का हिस्सा भी होना चाहिए। उन्होंने कहा कि यदि कोई संगठन यह नहीं देख सकता है कि AI क्या कर रहा है, किसी चीज़ तक पहुंच को सीमित नहीं कर सकता है या उच्च जोखिम वाली कार्रवाई करने से पहले हस्तक्षेप नहीं कर सकता है, तो नियंत्रण पूर्ण नहीं है।
समस्या यह है कि उन कारणों को बनाए रखना जहां एजेंट मुख्य रूप से आकर्षक हैं। हर छोटी कार्रवाई के लिए मानव अनुमोदन की आवश्यकता गति और स्वचालन के अधिकांश हिस्से को समाप्त कर देगी जिसका वे वादा करते हैं। एजेंट को बहुत अधिक स्वतंत्रता देना विपरीत समस्या पैदा करता है। ली ने जोर दिया: 'मानव नियंत्रण का मतलब यह नहीं है कि मनुष्य को हर कदम मैन्युअल रूप से करना होगा। AI मात्रा और गति को संभालता है। लोग निर्णय लेते हैं।'
चूंकि AI एजेंट अधिक सक्षम होते जा रहे हैं, इसलिए प्रश्न यह नहीं हो सकता है कि क्या वे लॉग इन कर सकते हैं, बल्कि यह हो सकता है कि हजारों स्वचालित कार्यों के बाद कोई बहुत मानवीय प्रश्न का उत्तर दे पाएगा: किसने क्या किया और इसके होने के लिए कौन जिम्मेदार है?