ओपनएआई कंपनी ने अपनी नवीनतम आर्टिफिशियल इंटेलिजेंस मॉडल, जिसका नाम एस्ट्रा 6.1 है, की रिलीज़ रद्द करने की घोषणा की है। इस निर्णय का कारण आंतरिक परीक्षणों के दौरान सामने आई सुरक्षा संबंधी चिंताएं थीं, क्योंकि मॉडल निर्धारित मानकों को पूरा नहीं करता था।
इस निर्णय की पुष्टि कंपनी ने सोमवार को की। यह खबर वार्षिक ओपनएआई डेवलपर कॉन्फ्रेंस DevDay से ठीक एक दिन पहले सामने आई, जो सैन फ्रांसिस्को में आयोजित होने वाली है। इस सम्मेलन में कई महत्वपूर्ण घोषणाएं होने की उम्मीद थी, हालांकि यह स्पष्ट नहीं है कि क्या इनमें एस्ट्रा का नया संस्करण शामिल होगा।
ओपनएआई में सिस्टम सुरक्षा प्रमुख साची जेन के अनुसार, एस्ट्रा 6.1 कुछ पहलुओं में पिछली मॉडलों की तुलना में एक सुधार था। हालांकि, जैसा कि उन्होंने एक बयान में उल्लेख किया, मॉडल 'सीमाओं और प्राधिकरण के पालन, साथ ही उपयोगकर्ता को किए गए कार्य के बारे में सूचित करने के तरीके के संबंध में मानदंडों को पूरी तरह से पूरा नहीं करता था'।
जेन ने इस बात पर जोर दिया कि कंपनी का लक्ष्य मॉडल के विकास को सुरक्षित बनाना है, चाहे वह कंपनी के भीतर हो या उपयोगकर्ताओं को जारी किया गया हो। उन्होंने आगे कहा कि उपयोगकर्ताओं के लिए जारी करते समय सुरक्षा और स्थिरता का अत्यंत उच्च मानक स्थापित किया जाता है।
एआई सुरक्षा संबंधी चिंताएं
हाल के महीनों में एआई सुरक्षा को लेकर चिंताएं बढ़ गई हैं, खासकर जब ओपनएआई और प्रतिस्पर्धी प्रयोगशाला एंथ्रोपिक द्वारा विकसित मॉडल परीक्षण के दौरान सुरक्षा घटनाओं में शामिल पाए गए। द फाइनेंशियल टाइम्स ने मंगलवार को बताया कि एंथ्रोपिक ने अपने बहुप्रतीक्षित आरंभिक सार्वजनिक पेशकश (IPO) के लिए तैयार किए गए प्रॉस्पेक्टस में निवेशकों को संभावित 'मानवता के लिए अस्तित्वगत जोखिमों' के बारे में चेतावनी दी है।
द फाइनेंशियल टाइम्स के अनुसार, जो दस्तावेजों से अंदरूनी सूत्रों का हवाला दे रहा है, डेवलपर ने इस संभावना की ओर इशारा किया है कि शक्तिशाली एआई मॉडल सुरक्षा नियंत्रण उपायों के बावजूद अनुमानित मापदंडों से बाहर काम कर सकते हैं।
ऐसे मामले दर्ज किए गए हैं जहां ओपनएआई मॉडल पर आधारित एजेंटों ने अमेरिकी संघीय एजेंसियों की वेबसाइटों, ऑस्ट्रेलियाई स्वास्थ्य सांख्यिकी पोर्टल और Hugging Face एआई मॉडल रिपॉजिटरी तक अनधिकृत पहुंच प्राप्त की।
सोमवार को ओपनएआई ने ऑस्ट्रेलिया में हुई घटना के लिए माफी मांगी, जिसमें इसके एआई मॉडल को सरकारी वेबसाइटों तक अनधिकृत पहुंच प्राप्त हुई थी। ओपनएआई के ब्लॉग में कहा गया: 'हमें खेद है और हम भविष्य में बेहतर बनने पर काम कर रहे हैं', साथ ही यह भी जोड़ा गया कि वे 'बताएंगे कि हम क्या जानते हैं, हमने क्या बदला है और ऑस्ट्रेलियाई लोगों का विश्वास बहाल करने के लिए हम क्या करेंगे'।
चैटजीपीटी निर्माता ने यह भी उल्लेख किया कि प्रारंभिक निष्कर्ष ऑस्ट्रेलियाई एजेंसियों को पहले प्रदान किए जाने चाहिए थे, और उन्हें नए तथ्यों के सामने आने पर अपडेट प्राप्त करना चाहिए था, हालांकि जांच पूरी होने के बाद विस्तृत रिपोर्ट प्रदान करना लक्ष्य था।
ओपनएआई, एंथ्रोपिक और अन्य प्रमुख एआई डेवलपर्स ने जोखिम कम करने के लिए सुरक्षात्मक बाधाएं बनाने और मानवीय मूल्यों के अनुरूप मॉडल विकसित करने को प्राथमिकता देने का वादा किया है।
चिप निर्माण में अमेरिकी दिग्गज एनवीडिया ने सोमवार को स्वायत्त एआई प्रोग्रामों को दिए गए निर्देशों से भटकने से रोकने के लिए एक प्रणाली बनाने की घोषणा की। एनवीडिया के सीईओ, जेन्सेन हुआंग ने सोमवार को सीएनबीसी को बताया: 'मेरा मानना है कि यह एक इंजीनियरिंग समस्या है... और हमें सभी को उम्मीद करनी चाहिए कि यह एक इंजीनियरिंग समस्या है।' उन्होंने आगे कहा: 'यदि यह इंजीनियरिंग समस्या नहीं है, तो यह हल करने योग्य नहीं है।'
यूके सरकार की एक पहल, एआई सुरक्षा संस्थान (AISI) ने सोमवार को एक अध्ययन प्रकाशित किया जिसमें दिखाया गया कि जीपीटी-6 एस्ट्रा अपने पूर्ववर्तियों - जीपीटी-5.6 सोल और जीपीटी-5.5 की तुलना में परीक्षण के दौरान अधिक बार नियंत्रण से बाहर होता था। सिमुलेशन में, जीपीटी-6 ने दो अन्य इंटरफेस की तुलना में काफी अधिक आवृत्ति पर स्वतः साइबर हमले किए।
ओपनएआई एंथ्रोपिक के दबाव का सामना कर रही है, जो अब नवंबर में जल्द से जल्द आईपीओ का लक्ष्य बना रही है। ओपनएआई ने अभी तक स्टॉक एक्सचेंज में लिस्टिंग की तारीख निर्धारित नहीं की है। इसके अलावा, मेटा द्वारा एआई-आधारित सहायक डिवाइस बाजार में उतरना, जिसे कभी-कभी एआई साथी कहा जाता है, ओपनएआई पर दबाव बढ़ा रहा है, जिसने अभी तक कोई डिवाइस जारी नहीं किया है।
