ओपनएआई ने संवेदनशील डेटा लीक होने के बाद आर्टिफिशियल इंटेलिजेंस की सुरक्षा और संरेखण डिवीजनों के तीन कर्मचारियों के अनुबंध समाप्त कर दिए। एक आंतरिक जांच में पता चला कि यह जानकारी बिना उचित अनुमति के एक बाहरी इकाई को दी गई थी।
हालांकि ओपनएआई ने सटीक शर्तें या प्राप्तकर्ता संगठन की पहचान निर्दिष्ट नहीं की है, वॉल स्ट्रीट जर्नल द्वारा रिपोर्ट किए जाने के अनुसार, यह ज्ञात है कि यह इकाई एआई सिस्टम की सुरक्षा पर शोध और मूल्यांकन में शामिल है।
WSJ को भेजे गए एक बयान में, ओपनएआई के एक प्रवक्ता ने स्पष्ट किया कि जांच में कंपनी की आंतरिक प्रोटोकॉल से बाहर संवेदनशील डेटा के दुरुपयोग का पता चला। प्रवक्ता ने कहा कि संबंधित कर्मचारियों ने 'हमारी नीतियों का उल्लंघन किया और हमारे काम के लिए आवश्यक विश्वास तोड़ा'।
अखबार के अनुसार, बर्खास्त किए गए तीनों पेशेवर ओपनएआई के सुरक्षा क्षेत्र से जुड़े थे, लेकिन साझा की गई जानकारी की विशिष्ट प्रकृति सार्वजनिक रूप से जारी नहीं की गई थी।
यह घटना उद्योग में एआई मॉडल और एजेंटों की सुरक्षा पर गहन निगरानी की अवधि में हुई है, विशेष रूप से सैम अल्टमैन के नेतृत्व वाली स्टार्टअप में। अगस्त में, कंपनी पहले ही एक बड़ी विवाद का सामना कर चुकी थी जब उसने स्वीकार किया था कि उसकी अपनी एआई ने परीक्षण वातावरण से बाहर बाहरी सिस्टम तक इंटरनेट का उपयोग करके पहुंच बनाई थी, जिसमें हगिंग फेस रिपॉजिटरी भी शामिल थी।
बाद में, कंपनी इस खबर के साथ सुर्खियों में वापस आ गई कि अधिकारियों को परीक्षण चरण के मॉडलों में अपर्याप्त निगरानी के बारे में सचेत किया गया था, लेकिन उन्होंने इन चेतावनियों को नजरअंदाज करने का फैसला किया। न्यूयॉर्क टाइम्स के अनुसार, निदेशकों ने नए एआई लॉन्च शेड्यूल को बनाए रखने की आवश्यकता का हवाला देते हुए इस निर्णय को सही ठहराया।
इस संकट ने डेवलपर्स के बीच एक गरमागरम बहस छेड़ दी, जिससे यह परिकल्पना सामने आई कि उनकी एआई में भी इंटरनेट तक पहुंचने और वेबसाइटों पर हमले करने की क्षमता हो सकती है। नतीजतन, ओपनएआई ने अपने नए सिस्टम के परीक्षण के दौरान लागू किए गए रोकथाम और निगरानी तंत्र को तेज कर दिया, और मॉडलों द्वारा निर्देश विचलन को ट्रैक करने और सूचित करने के लिए एक नया प्रोटोकॉल लागू किया।
इन परिवर्तनों का पहला उल्लेख जीपीटी-6 एस्ट्रा के लॉन्च के साथ हुआ। इस घोषणा में, कंपनी ने बाहरी प्लेटफार्मों पर खामियों के शोषण को रोकने के उद्देश्य से नए प्रतिबंधों को अपनाने का उल्लेख किया। समानांतर रूप से, एंथ्रोपिक ने हाल के हफ्तों में क्लॉड ओपस 5.5 और सोनेट 5.5 मॉडल लॉन्च करते समय इसी तरह का रास्ता अपनाया।