परीक्षण वातावरण में एआई मॉडल को नियंत्रित करने में कठिनाइयों की रिपोर्टों के बाद, एनवीडिया ने 28 सितंबर को ओपन एजेंट सेफ्टी प्लेटफॉर्म के लॉन्च के साथ एक समाधान प्रस्तुत किया। इस प्लेटफॉर्म को एआई एजेंटों द्वारा डेवलपर्स द्वारा स्थापित अनुमतियों से अधिक होने से रोकने के उद्देश्य से विकसित किया गया था।
इस पहल का उद्देश्य इन एजेंटों की बाहरी प्रणालियों तक पहुंच को सीमित करना और सॉफ्टवेयर और हार्डवेयर घटकों के संयोजन का उपयोग करके अलग-थलग वातावरण से भागने के प्रयासों को अवरुद्ध करना है। कंपनी के सीईओ, जेन्सेन हुआंग ने इस प्रस्ताव की तुलना एआई एजेंटों के लिए विशेष रूप से बनाए गए इंटरनेट ब्राउज़र से की।
कार्यकारी के अनुसार, लक्ष्य यह सक्षम करना है कि ये सिस्टम किसी संगठन के बुनियादी ढांचे पर असीमित स्वतंत्रता के बिना कार्य करें। उन्होंने इस बात पर जोर दिया कि 'यदि दुनिया इस बात पर भरोसा नहीं करती या विश्वास नहीं करती है कि इसे सुरक्षित रूप से बनाया और कार्यान्वित किया गया है, तो हम सफल एआई उद्योग नहीं बना सकते।'
ओपन एजेंट सेफ्टी प्लेटफॉर्म में दो मुख्य उपकरण शामिल हैं: एनवीडिया ओपनशेल और एनवीडिया सेंट्री। एनवीडिया ओपनशेल प्रोसेसर स्तर पर काम करता है, उन प्राधिकरणों को परिभाषित करता है जो यह निर्धारित करते हैं कि प्रत्येक एजेंट अपने स्वयं के वातावरण के भीतर क्या कर सकता है। एनवीडिया ने रॉयटर्स को सूचित किया कि यह इन कंपनियों द्वारा निर्मित चिप्स में इस तकनीक की संगतता सुनिश्चित करने के लिए Arm और Intel के साथ सहयोग कर रहा है।
वहीं, एनवीडिया सेंट्री नेटवर्क चिप्स पर केंद्रित है और इसमें एक एजेंट के संचार को बाधित करने की क्षमता है यदि वह निष्पादन वातावरण में पूर्व-स्थापित सीमाओं का उल्लंघन करने का प्रयास करता है। इसके अलावा, एनवीडिया ने घोषणा की है कि उसने सिस्टम को ऐसे तरीकों की पहचान करने के लिए डिज़ाइन किया है जिनका उपयोग एजेंट इन प्रतिबंधों को दरकिनार करने के लिए करते हैं।
कंपनी ने ओपन एजेंट सेफ्टी प्लेटफॉर्म के कोड का हिस्सा ओपन सोर्स के रूप में उपलब्ध कराया, जिससे अन्य निगम इसे अपने स्वयं के सुरक्षा समाधान विकसित करने के आधार के रूप में उपयोग कर सकें।
संयुक्त राज्य अमेरिका में स्थित बहुराष्ट्रीय कंपनी के सहयोग से, माइक्रोसॉफ्ट, सिस्को, ओरेकल, डेल, एचपीई, लेनोवो और कोरवीएब शामिल हैं, साथ ही पहले उल्लेखित चिप निर्माताओं के भी शामिल हैं। एआई प्रयोगशाला क्षेत्र में, एंथ्रोपिक एनवीडिया के साथ क्लाउड कंप्यूटिंग वातावरण में एजेंट प्रबंधन कार्यक्षमताओं को ओपनशेल में शामिल करने पर काम कर रहा है।
इस नए प्लेटफॉर्म के निर्माण को प्रेरित करने वाले कारणों में से एक हगिंग फेस रिपॉजिटरी से संबंधित घटना थी, जिस पर ओपनएआई मॉडल पर आधारित एजेंटों ने हमला किया था। एनवीडिया के कॉर्पोरेट कंप्यूटिंग और एआई के उपाध्यक्ष जस्टिन बोइटानो ने बताया कि इस घुसपैठ में 17 हजार से अधिक एजेंट शामिल थे और कई दिनों और हफ्तों तक चली।
बोइटानो ने टिप्पणी की कि 'यह नया सुरक्षा प्लेटफॉर्म सीमांत प्रयोगशालाओं में शुरुआत में ही मूल्यांकन के लिए उपयोग किया जाता तो उल्लंघन को रोक सकता था।' यह ध्यान रखना महत्वपूर्ण है कि घोटाले के बाद, एनवीडिया ने प्लेटफॉर्म को 12.9 बिलियन अमेरिकी डॉलर में अधिग्रहित करने के लिए एक समझौता किया (जो लगभग 67.2 बिलियन रुपये के बराबर है)।
जेन्सेन हुआंग के लिए, ये तंत्र भविष्य की समस्याओं को रोकने के लिए पर्याप्त माने जाते हैं। एक ऐसे परिदृश्य में जहां कुछ अधिकारी एंथ्रोपिक के डारियो अमोडेई का समर्थन करते हैं कि नवाचार को धीमा करने की आवश्यकता है, एनवीडिया के सीईओ मार्क ज़करबर्ग जैसे नामों के साथ, तर्क देते हैं कि जोखिमों को नियंत्रित करने के लिए बाजार में अतिरिक्त नियमन 'अनावश्यक' हैं।
दूसरी ओर, आलोचकों का तर्क है कि समस्या केवल बाहरी रोकथाम उपकरणों से कहीं अधिक है। क्रिस इंगल्स, जो संयुक्त राज्य अमेरिका के पूर्व राष्ट्रीय साइबर सुरक्षा निदेशक थे, ने पिछले महीने कहा था कि व्यवहार संबंधी समस्याएं बस कार्यक्रमों पर लगाए गए सीमाओं की अनुपस्थिति का परिणाम हैं। सुरक्षा के अन्य विशेषज्ञों ने यह परिकल्पना की है कि यह सब केवल एक बड़ी विपणन रणनीति हो सकती है।
