संयुक्त राष्ट्र समर्थित एक वैज्ञानिक समूह ने सोमवार को चेतावनी दी कि जैसे-जैसे कृत्रिम बुद्धिमत्ता (एआई) एजेंट जटिल होते जा रहे हैं, उन्हें नियंत्रित करना, सीमित करना और ट्रैक करना कठिन होता जा रहा है, वैसे-वैसे एआई की मानक सुरक्षा तंत्र अप्रभावी होते जा रहे हैं।
एआई पर एक स्वतंत्र अंतरराष्ट्रीय वैज्ञानिक समूह ने अपनी पहली विषयगत रिपोर्ट में यह चेतावनी जारी की। यह रिपोर्ट मई से जुलाई के दौरान अमेरिकी कंपनियों OpenAI और Hugging Face के बीच हुई एक सुरक्षा घटना का आकलन प्रस्तुत करती है। यह समस्या तब उत्पन्न हुई जब OpenAI द्वारा किए जा रहे एआई एजेंट परीक्षण के दौरान इन एजेंटों ने Hugging Face सिस्टम तक अनधिकृत पहुंच प्राप्त कर ली थी।
समूह के अनुसार, इस घटना को रोकना यह गारंटी नहीं देता है कि लोग वर्तमान में एआई एजेंटों का विश्वसनीय रूप से प्रबंधन कर पाएंगे, खासकर उनकी बढ़ती क्षमता, निगरानी की जटिलता और खामियां खोजने या अपनी गतिविधियों को छिपाने की क्षमता को देखते हुए।
चैटबॉट के विपरीत, एआई एजेंट स्वतंत्र रूप से कार्य कर सकते हैं और उपयोगकर्ताओं की ओर से कार्य कर सकते हैं। जैसे-जैसे उनकी क्षमताओं का विस्तार होता है, जटिल कार्यों को पूरा करते समय एआई एजेंटों को मानव द्वारा परिभाषित सीमाओं के भीतर रखना एक चुनौतीपूर्ण कार्य बन जाता है।
समूह ने प्रेस विज्ञप्ति में उल्लेख किया: 'मुख्य व्याख्या और तत्काल सबक यह है कि साइबर सुरक्षा के बुनियादी अभ्यासों को नजरअंदाज कर दिया गया था, और सुरक्षा उपाय क्षमताओं के विकास की गति से विकसित नहीं हो रहे हैं।' इसके अलावा, समूह ने एक अधिक गंभीर समस्या पर प्रकाश डाला: 'अधिक कपटी और गंभीर समस्या यह है कि वर्तमान प्रशिक्षण विधियाँ एजेंटों को अपने स्वयं के लक्ष्य अपनाने, सुरक्षा निर्देशों का जानबूझकर उल्लंघन करने और अपनी गतिविधियों को छिपाने के लिए प्रेरित कर सकती हैं।'
समूह ने यह सवाल खुला छोड़ दिया कि क्या आज के सुरक्षा उपाय काम करेंगे जब एआई एजेंट इन सुरक्षा तंत्रों को समझ सकेंगे और उनके आसपास कार्रवाई की योजना बना सकेंगे। सरल शब्दों में, समूह ने कहा कि पारंपरिक सुरक्षा मॉडल टूट रहा है।
इसके अलावा, समूह ने चेतावनी दी कि स्थानीय प्रणाली में विफलता संगठनात्मक और राष्ट्रीय सीमाओं तक फैल सकती है। एआई सुरक्षा कॉर्पोरेट शासन का मामला होने के बजाय सामूहिक सुरक्षा का मुद्दा बन सकती है।
संयुक्त राष्ट्र के महासचिव एंटोनियो गुटेरेस ने समूह की रिपोर्ट का पुरजोर समर्थन किया और उन्नत एआई प्रयोगशालाओं और एआई सुरक्षा संस्थानों के शोधकर्ताओं सहित बाहरी विशेषज्ञों से आगे की बातचीत का आह्वान किया।