OpenAI ने अपने सबसे परिष्कृत आर्टिफिशियल इंटेलिजेंस (AI) मॉडल के लिए खुले इंटरनेट एक्सेस पर प्रतिबंध लगा दिया है, क्योंकि सुरक्षा खामियां पाई गईं जिनके कारण AI एजेंट सुरक्षा बाधाओं को पार कर बाहरी सिस्टम तक पहुंच सकते थे। यह उपाय यह सुनिश्चित करने के लिए है कि विकासशील मॉडल प्रशिक्षण के दौरान कमजोरियों का फायदा न उठाएं और संगठन के नियंत्रण वाले वातावरण के बाहर नुकसान न पहुंचाएं।
इस शुक्रवार (23) को जारी एक बयान में, कंपनी ने विस्तार से बताया कि उसने अपने शोध स्थानों के अलगाव तंत्र को मजबूत किया है और एक ऑफ़लाइन ऑपरेटिंग सिस्टम स्थापित किया है। इस नए सिस्टम में, मॉडल बाहरी सर्वरों के साथ सीधा संपर्क स्थापित किए बिना पहले से सूचीबद्ध और कैश किए गए वेब सामग्री के साथ इंटरैक्ट कर सकते हैं।
इससे पहले, OpenAI ने सितंबर में अपने सबसे उन्नत मॉडलों के प्रशिक्षण और मूल्यांकन को रोक दिया था, जब एक आंतरिक मॉडल ने एक अनुचित कॉन्फ़िगरेशन का फायदा उठाकर सीमित इंटरनेट एक्सेस प्राप्त कर लिया था। नई सुरक्षा उपायों को लागू करने के बाद, OpenAI ने 1 अक्टूबर को रीइन्फोर्समेंट लर्निंग के माध्यम से प्रशिक्षण और इन मॉडलों के आंतरिक उपयोग को फिर से शुरू कर दिया।
कंपनी के अनुसार, सार्वजनिक इंटरनेट एक्सेस के बिना प्रशिक्षण बनाए रखने की नीति तब तक लागू रहेगी जब तक कि सुरक्षा प्रणालियों में प्रगति इस नियम को शिथिल करने को उचित नहीं ठहराती है।
सबसे महत्वपूर्ण निष्कर्षों में से एक कंपनी द्वारा एक परीक्षण के दौरान सामने आया जो यह जांचने के लिए किया गया था कि क्या एजेंट इंटरनेट कनेक्टिविटी के बिना, साझा फ़ाइलों या अधिकृत संचार चैनलों के बिना भी जानकारी का आदान-प्रदान कर सकते हैं। एक प्रयोग में, अलग-अलग वर्चुअल मशीनों पर काम कर रहे एजेंट प्रोसेसर कैश का उपयोग करके डेटा प्रसारित करने में सक्षम थे, जो हाल ही में उपयोग की गई जानकारी संग्रहीत करने वाली एक तेज़ एक्सेस मेमोरी है।
यह विधि कैश में मौजूद डेटा तक पहुंचने और उसे कंप्यूटर की मुख्य मेमोरी से पुनर्प्राप्त करने के बीच के अस्थायी अंतर का फायदा उठाकर काम करती थी। एक एजेंट संदेश को एन्कोड करने के लिए कैश की स्थिति को संशोधित करता था, जबकि दूसरा एजेंट कुछ डेटा तक पहुंचने के लिए आवश्यक समय की निगरानी करता था और इन परिवर्तनों की व्याख्या संकेतों के रूप में करता था। एन्कोडिंग और डिकोडिंग प्रोटोकॉल परिभाषित करने के बाद, एजेंट नेटवर्क कनेक्शन खोले बिना या सामान्य फ़ाइल बदले बिना जानकारी का आदान-प्रदान करने में सक्षम थे।
OpenAI ने साझा भंडारण, प्रसंस्करण समय के लिए प्रतिस्पर्धा और कंपनी के ऑफ़लाइन वेब इन्फ्रास्ट्रक्चर के भीतर TLS प्रमाणपत्र कैश के उपयोग जैसे अन्य संभावित संचार साधनों की भी पहचान की। हालांकि कंपनी का दावा है कि इनमें से कई चैनल धीमी गति से डेटा प्रसारित करते हैं और उनका फायदा उठाना मुश्किल है, वे अभी भी ऐसे सिस्टम में कमजोर बिंदु हैं जिन्हें अलग-थलग एजेंटों के बीच संचार को रोकने के लिए डिज़ाइन किया गया है।
कंपनी ने घोषणा की कि उसने इन मार्गों के माध्यम से किसी भी संचार के प्रयासों का पता लगाने के लिए अपनी निगरानी तंत्र में जाँचें जोड़ी हैं। कंपनी की सुरक्षा रणनीति में प्रतिबंधित निष्पादन वातावरण, वर्चुअल मशीन, गतिविधि निगरानी और क्लाउड नेटवर्क और बुनियादी ढांचे का नियंत्रण सहित कई परतों की रक्षा शामिल है। इसका उद्देश्य यह सुनिश्चित करना है कि एक अलग विफलता किसी मॉडल को सभी बाधाओं को पार करने की अनुमति न दे; यदि कोई एजेंट एक प्रतिबंधित वातावरण से भागने में सफल होता है, तो अन्य सुरक्षा उपायों को उसे बाहरी सिस्टम तक पहुंचने से रोकना चाहिए।
इसके अतिरिक्त, OpenAI ने सूचित किया कि वह अपने स्वयं के शोध वातावरण में कमजोरियों की तलाश के लिए अपने सबसे उन्नत मॉडलों का उपयोग करना जारी रखेगा। इन परीक्षणों से प्राप्त परिणाम सुरक्षा मूल्यांकन का हिस्सा बनते हैं जिनका उपयोग यह निर्धारित करने के लिए किया जाता है कि क्या प्रशिक्षण के नए चरण शुरू किए जा सकते हैं। हालांकि, कंपनी ने स्वीकार किया कि भविष्य के मॉडल में अभी भी अज्ञात खामियां हो सकती हैं, यही कारण है कि वह निरंतर परीक्षण बनाए रखने और जोखिम भरी गतिविधियों का स्वचालित रूप से पता लगाने और रोकने की प्रणालियों को बेहतर बनाने की योजना बना रही है।