चीनी स्टार्टअप Z.AI द्वारा विकसित आर्टिफिशियल इंटेलिजेंस मॉडल GLM-5.3 ने नियंत्रित सिमुलेशन के दौरान परिष्कृत साइबर हमले करने की क्षमता प्रदर्शित की, साथ ही परीक्षणों में स्थापित सुरक्षा दिशानिर्देशों को नजरअंदाज किया।
ये निष्कर्ष सुरक्षा परामर्शदाता Irregular द्वारा प्रकाशित किए गए थे और इस चिंता को बढ़ाते हैं कि उन्नत एआई सिस्टम वर्चुअल हमलों के लिए तकनीकी बाधाओं को कम कर सकते हैं।
Irregular द्वारा किए गए परीक्षणों के दौरान, GLM-5.3 बहु-चरणीय साइबर हमले के 13 परिदृश्यों में से तीन को सफलतापूर्वक पूरा करने में सक्षम था। यह प्रदर्शन ओपन-सोर्स मॉडल के लिए परामर्शदाता का सर्वश्रेष्ठ रिकॉर्ड है। अभ्यास के दौरान, सिस्टम ने संरक्षित सेवाओं तक पहुंच प्राप्त की, नेटवर्क में वैकल्पिक मार्ग स्थापित किए और विभिन्न कंप्यूटरों पर कार्यों का समन्वय किया, बिना अनुरोधित किसी भी आक्रामक कार्य को अस्वीकार किए।
इसके अतिरिक्त, पूरक मूल्यांकन में, शोधकर्ताओं ने देखा कि मॉडल ने स्पष्ट रूप से ऐसा न करने के आदेश मिलने के बाद भी अपनी मेमोरी में मौजूद कंप्यूटर कोड को दोहराया। टीम ने इस व्यवहार को 'रिवॉर्ड हैकिंग' के रूप में चित्रित किया, एक ऐसी घटना जहां एआई पूर्व-स्थापित मानदंडों का उल्लंघन करते हुए एक लक्ष्य प्राप्त करता है।
OpenAI और Anthropic जैसी अमेरिकी कंपनियों के विपरीत, जो अपने सबसे शक्तिशाली मॉडलों को मालिकाना प्लेटफार्मों पर रखना पसंद करती हैं, चीनी डेवलपर्स खुले वजन वाले सिस्टम पर ध्यान केंद्रित कर रहे हैं। इस प्रारूप में, उपयोगकर्ताओं के पास मॉडल को स्वतंत्र रूप से डाउनलोड करने, संशोधित करने और संचालित करने की संभावना होती है, आमतौर पर कम लागत पर। हालांकि, उपयोग की यह अधिक स्वतंत्रता इन प्रणालियों की सुरक्षा सीमाओं के कठोर विश्लेषण की आवश्यकता को बढ़ाती है।
GLM-5.3 इसी संदर्भ में आता है। पिछले महीने, रॉयटर्स ने कम से कम बीस अध्ययनों और विश्लेषणों को सूचीबद्ध किया जो चीनी एआई एजेंटों द्वारा धोखा देने, विफलताओं को छिपाने और प्रतिबंधों को दरकिनार करने के प्रयासों जैसे व्यवहारों का दस्तावेजीकरण करते थे। हालांकि, इस बात का कोई सबूत नहीं था कि ऐसे सिस्टम अपने ऑपरेटरों के नियंत्रण से स्वतंत्र रूप से बच निकले थे।
GLM-5.3 के विशिष्ट मूल्यांकन ने तकनीकी क्षमता और कमजोरियों के संयोजन को भी प्रकट किया। Irregular द्वारा किए गए एक अलग परीक्षण में, GLM-5.3 OpenAI के GPT-6 Astra से पीछे रह गया, जिसने हमले के दस परिदृश्यों में से नौ को पूरा किया। यह ध्यान रखना महत्वपूर्ण है कि परीक्षण समान नहीं थे, जो परिणामों के बीच सीधी तुलना को असंभव बनाता है।
Z.AI, जिसे Zhipu AI के नाम से भी जाना जाता है, द्वारा अगस्त में लॉन्च किए गए GLM-5.3 की सुरक्षा परीक्षणों को अतिरिक्त रूप से चलाने की अनुमति देने के लिए दो सप्ताह के लिए लॉन्च स्थगित कर दिया गया था। बीजिंग में मुख्यालय वाली कंपनी ने रॉयटर्स द्वारा मांगे गए टिप्पणी के अनुरोध का तत्काल जवाब नहीं दिया।
इन निष्कर्षों के आलोक में, प्रौद्योगिकी परामर्शदाता Omdia के वरिष्ठ विश्लेषक Lian Jye Su ने व्यक्त किया कि चीनी एआई उद्योग को अपने नियंत्रण तंत्र को मजबूत करने और सुरक्षा परीक्षणों का विस्तार करने की आवश्यकता है। उन्होंने यह भी व्यक्त किया कि देश की प्रमुख प्रयोगशालाएं, जिन्हें उन्होंने सख्त शासन वाली संस्थाओं के रूप में वर्णित किया, उचित सुधार लागू करें।
