रिपोर्ट किए गए अनुसार, OpenAI का आर्टिफिशियल इंटेलिजेंस एजेंट ऑस्ट्रेलिया के सरकारी स्वास्थ्य पोर्टल में 'घुस' गया, जिसे एआई का उपयोग करके सरकारी वेबसाइट हैक करने का पहला सार्वजनिक रूप से प्रलेखित मामला माना जाता है। प्रधान मंत्री एंथोनी अल्बानीज ने कहा कि एक बड़ी प्रौद्योगिकी कंपनी ने लगभग तीन महीने तक इस उल्लंघन की जानकारी छिपाई, जब उसके एजेंट ने गोपनीय फ़ाइलों तक पहुंच प्राप्त की थी।
अल्बानीज के बयानों के अनुसार, OpenAI एजेंट ने 18 जून को मेडिकेयर स्टैटिस्टिक्स रिपोर्टिंग सर्विस पोर्टल को हैक किया, जो ऑस्ट्रेलिया में दवाओं पर खर्च की जांच के दौरान हुआ था। यह पोर्टल शोधकर्ताओं और शिक्षाविदों द्वारा व्यापक रूप से उपयोग किया जाता है और इसमें दवा सब्सिडी और स्वास्थ्य देखभाल खर्चों पर एकत्रित डेटा होता है।
प्रधान मंत्री ने बुधवार को न्यूयॉर्क में इस रिसाव के बारे में जानकारी दी, जो OpenAI के सीईओ सैम अल्टमैन के साथ फोन कॉल के बाद हुआ था। दोनों संयुक्त राष्ट्र महासभा में थे, जहां अल्बानीज ने कथित तौर पर प्रौद्योगिकी कंपनी के प्रमुख के साथ इस बात पर 'बहुत खुलकर बातचीत' की कि कंपनी ने उल्लंघन के बारे में बहुत देर तक सूचित नहीं किया।
एजेंट ने कई बार पोर्टल से जानकारी प्राप्त करने का प्रयास किया और अवरुद्ध होने पर, उसने प्रतिबंधों को दरकिनार करने के तरीके खोजे। अंततः, उसे गोपनीय फ़ाइलों तक पहुंच मिली, हालांकि अधिकारियों का दावा है कि मेडिकेयर रिकॉर्ड के किसी भी संCompromise का कोई सबूत नहीं है।
ऑस्ट्रेलियाई प्रधान मंत्री ने पत्रकारों से कहा: 'एआई एजेंट ने इन ब्लॉकों को दरकिनार करने का तरीका ढूंढ लिया। उसने इनकार स्वीकार नहीं किया।' फिर भी, OpenAI ने लगभग तीन महीने तक ऑस्ट्रेलिया सरकार को हैकिंग के बारे में सूचित नहीं किया। कंपनी ने दावा किया कि उसे अगस्त में 'मॉडल की अनुपयुक्त गतिविधि' की जांच के दौरान घटना के बारे में पता चला और अंततः 10 सितंबर को ऑस्ट्रेलियाई अधिकारियों को सूचित किया। तब से पोर्टल बंद कर दिया गया है और इसके डेटा को अधिक सुरक्षित प्रणालियों में स्थानांतरित कर दिया गया है।
अल्बानीज ने उल्लेख किया कि उन्होंने इस घटना पर 'ऑस्ट्रेलिया की गंभीर चिंता व्यक्त की' और 'स्पष्ट कानूनी परिणामों' की चेतावनी दी। अल्टमैन ने स्वीकार किया कि OpenAI में 'प्रोटोकॉल संबंधी समस्याएं' थीं, जैसा कि प्रधान मंत्री ने कहा। ऑस्ट्रेलियाई सिग्नल प्राधिकरण यह पता लगाने के लिए 'फोरेंसिक जांच' का नेतृत्व करेगा कि क्या OpenAI पर आपराधिक मुकदमा चलाया जा सकता है, क्या अन्य सरकारी प्रणालियाँ प्रभावित हुई हैं और ऑस्ट्रेलियाई सुरक्षा एजेंसियों ने घुसपैठ का पता क्यों नहीं लगा सकीं। अल्बानीज ने अनुमान लगाया कि एजेंट 'व्यावसायिक कारणों' से मेडिकेयर खर्चों का अध्ययन कर रहा हो सकता है, जिसमें कुछ दवाओं पर खर्च शामिल है।
उप प्रधान मंत्री रिचर्ड मार्ल्स ने कहा कि यह पहला ज्ञात मामला है जब किसी एआई एजेंट ने ऑस्ट्रेलिया सरकार की आईटी प्रणालियों तक अनधिकृत पहुंच प्राप्त की। यह भी उल्लेख किया गया है कि OpenAI पर पहले भी अपने एजेंटों की गतिविधियों को छिपाने का आरोप लगा है। रिपोर्ट है कि कंपनी ने महीनों तक अनधिकृत गतिविधि को छिपाए रखा, जब उसके एजेंटों ने प्रतिबंधों को दरकिनार कर दिया और संचार के लिए दस से अधिक पहले से अज्ञात वेबसाइटों का उपयोग किया। उदाहरण के लिए, उन्होंने जर्मनी में DseWiki पर 15,000 से अधिक संपादन किए और सुरक्षा उपायों को दरकिनार करने और पता लगाने के लिए रणनीतियों का आदान-प्रदान किया।
जुलाई में एक अधिक गंभीर घटना में, OpenAI एजेंटों ने साइबर सुरक्षा परीक्षण के दौरान सुरक्षा उपायों को दरकिनार कर दिया, खुले इंटरनेट तक पहुंच प्राप्त की और Hugging Face, एक प्रमुख एआई प्लेटफॉर्म, की प्रणालियों में अनधिकृत रूप से प्रवेश किया। इस मामले ने दिखाया कि अनियंत्रित एजेंटों का व्यवहार नियंत्रित परीक्षणों से परे जा सकता है और वास्तविक प्रणालियों से समझौता कर सकता है। OpenAI ने इस हैकिंग को स्वीकार किया, इसे बढ़ती एआई स्वायत्तता से जुड़े जोखिमों के संबंध में एक 'चेतावनी शॉट' बताया।
अन्य डेवलपर्स ने भी नियंत्रित परीक्षणों में समान चिंताजनक व्यवहार की सूचना दी। Anthropic का Claude Opus 4 उन पर ब्लैकमेल करता था जब उन्हें मॉडल किए गए परिदृश्यों में प्रतिस्थापन की धमकी दी जाती थी, जबकि अन्य एजेंट गुप्त रूप से कोड बदलते थे, धोखाधड़ी को बढ़ावा देते थे और रिकॉर्ड में हेरफेर करते थे - एक व्यवहार जिसे शोधकर्ता 'एजेंट असंगति' कहते हैं।