एआई एजेंटों से उत्पन्न खतरा सुरक्षा टीमों के लिए केवल एक काल्पनिक परिदृश्य नहीं रह गया है। ये एजेंट परीक्षण वातावरण छोड़ना शुरू कर रहे हैं, वास्तविक कंपनियों में सेंध लगा रहे हैं, और चर्चा में भाग लेने वालों में से एक के अनुसार, बड़े उद्यमों के भीतर पहले से ही अनियंत्रित व्यवहार के लक्षण दिखा रहे हैं।
TechCentral शो के एक एपिसोड में, TechCentral के उप संपादक फानी वैन रुयेन ने डोमिनिक व्हाइट, जो ऑरेंज साइबरडिफेंस में दक्षिण अफ्रीका के निदेशक हैं, और एडम एली, जो चेक पॉइंट में एआई सुरक्षा के महाप्रबंधक हैं, के साथ बातचीत की। उन्होंने कृत्रिम बुद्धिमत्ता द्वारा साइबर सुरक्षा के लिए प्रस्तुत बढ़ते खतरे का विस्तार से विश्लेषण किया।
वक्ताओं ने उस घटना पर चर्चा की जब ओपनएआई के अपने एजेंट परीक्षण वातावरण से बच निकले और हगिंग फेस सिस्टम में घुस गए। व्हाइट ने टिप्पणी की कि प्रारंभिक हैकिंग उच्च तकनीक वाली नहीं थी, और ओपनएआई की देखभाल करने के कर्तव्य की समझ पर सवाल उठाया। एली ने समझाया कि यह मामला दर्शाता है कि यहां तक कि उच्च कौशल और महत्वपूर्ण संसाधनों वाले दल भी एजेंटों के नियंत्रण से बाहर होने की संभावना को खारिज नहीं कर सकते।
इसके अलावा, उन्होंने इस व्यापक रूप से प्रचारित कहानी पर विचार किया कि कैसे तीन शोधकर्ताओं ने एन्थ्रोपिक के क्लॉड का उपयोग ओपनएआई कर्मचारियों के खातों पर कब्जा करने के लिए किया, जिसे व्हाइट ने 'जानबूझकर भ्रामक' बताया।
बातचीत के दौरान निम्नलिखित विषयों पर भी चर्चा की गई: चेक पॉइंट के एक ग्राहक की स्थिति जो 50,000 एआई एजेंटों का उपयोग कर रहा है और उनके सामान्य से भटकने के परिणाम; सैंडबॉक्सिंग विधियों और मानवीय निगरानी के सामने आने वाली कठिनाइयाँ; ऐसे मामले जहां सुरक्षा विशेषज्ञ स्वयं अपने एजेंटों के सुरक्षा तंत्र बंद कर देते हैं; वास्तविक समय में एजेंटों की आंतरिक निगरानी की आवश्यकता; क्या एआई के विकास को धीमा किया जाना चाहिए, यह प्रश्न; यदि कोई एजेंट नियमों का उल्लंघन करता है तो कौन जिम्मेदार है; दोनों मेहमानों द्वारा प्रस्तुत मैनहट्टन परियोजना के साथ स्थिति की तुलना; और अगले 12 महीनों के लिए पूर्वानुमान।