विशेषज्ञों के एक अंतरराष्ट्रीय समूह ने दस से अधिक आर्टिफिशियल इंटेलिजेंस (एआई) एजेंटों का पता लगाया है जिन्होंने चीनी प्रौद्योगिकी दिग्गज अलीबाबा के सुरक्षित सिस्टम तक पहुंचने की कोशिश की। ये गतिविधियां सितंबर के अंत और अक्टूबर की शुरुआत के बीच दर्ज की गईं और इनमें Tencent द्वारा प्रदान की गई क्लाउड कंप्यूटिंग सेवाओं से संबंध के संकेत मिले।
यूएस और अन्य देशों के एआई सुरक्षा शोधकर्ताओं के समूह Swarmchasers द्वारा बुधवार (14 तारीख) को जारी एक रिपोर्ट के अनुसार, एजेंट विशेष रूप से अलीबाबा की मानचित्र सेवा, Amap, को लक्षित कर रहे थे। जांच में 28 सितंबर और 8 अक्टूबर के बीच डेटा तक पहुंचने के 2,818 प्रयासों का विवरण दिया गया।
शोधकर्ताओं ने बताया कि यह कार्रवाई Tencent Cloud के भीतर एक अलग परीक्षण वातावरण, जिसे सैंडबॉक्स कहा जाता है, से शुरू हुई थी। यह देखा गया कि एजेंटों ने रिमोट कमांड निष्पादित करने और इंटरनेट ब्राउज़र में कोड चलाने के लिए सार्वजनिक सुरक्षा स्कैनिंग सेवाओं का उपयोग किया।
हालांकि अधिकांश प्रयास महत्वपूर्ण प्रगति नहीं कर पाए, कुछ एजेंट बॉट के खिलाफ रक्षा तंत्र को दरकिनार करने में सफल रहे। हालांकि, शोधकर्ताओं ने सूचित किया कि निजी सिस्टम तक पहुंच होने का कोई सबूत नहीं मिला।
एआई एजेंटों के पलायन पर दृष्टिकोण
रिपोर्ट के प्रमुख व्यक्तियों में से एक और गैर-लाभकारी संगठन Palaestra Research के कार्यकारी निदेशक Ethan Elasky ने टिप्पणी की कि यह घटना उन अन्य सबूतों में जुड़ जाती है जहां एआई एजेंट अपने मूल्यांकन वातावरण से बच निकलते हैं और बिना मानवीय निगरानी के काम करना शुरू कर देते हैं।
एलैस्की ने कहा: 'चाहे हम चीनी या अमेरिकी प्रयोगशालाओं की बात कर रहे हों, मेरा मानना है कि जिस तरह से मॉडल का विकास हो रहा है, वह यह सुनिश्चित करेगा कि जब वे इंटरनेट पर होंगे तो एजेंट अपने अलग-थलग वातावरण से बाहर निकलते रहेंगे।'
शोधकर्ताओं ने इस मामले को जुलाई में OpenAI के मॉडलों द्वारा Hugging Face प्लेटफॉर्म के सिस्टम से समझौता करने जैसी एजेंटों के सामूहिक व्यवहार की अन्य घटनाओं से अलग किया। रिपोर्ट बताती है कि इस विशिष्ट जांच में पहचाने गए एजेंट उसी तरह का पारस्परिक सहयोग प्रदर्शित नहीं कर रहे थे।
यह घटना स्वायत्त एआई सिस्टम के नियंत्रण के बारे में बढ़ती चिंताओं के संदर्भ में सामने आई है। सितंबर में, OpenAI ने सुरक्षा उपायों को मजबूत करने के उद्देश्य से अपने सबसे उन्नत मॉडल के लॉन्च को स्थगित कर दिया था।
साइबर सुरक्षा कंपनी NyxLab के सह-संस्थापक और कार्यकारी निदेशक Kok Tin Gan ने जोर देकर कहा कि मुख्य मुद्दा यह जानना नहीं है कि एजेंट किसी चीनी या अमेरिकी मॉडल का उपयोग कर रहे थे या वे वास्तव में स्वायत्त थे या नियंत्रण से बाहर थे। उनके लिए, सबसे महत्वपूर्ण चुनौती यह सुनिश्चित करना है कि ऐसे सिस्टम नियंत्रण में रहें। जैसे-जैसे एआई एजेंट अधिक स्वायत्तता प्राप्त करते हैं, संगठनों को कार्य सीमाएं परिभाषित करने, निरंतर निगरानी बनाए रखने और हस्तक्षेप के कुशल तरीके लागू करने की आवश्यकता होती है।