एक ऐसे उद्योग में जो निरंतर आगे बढ़ने के सिद्धांत पर बना है, पिछले दो सप्ताह असामान्य रूप से संयमित रहे हैं। ओपनएआई कंपनी द्वारा जीपीटी-6.1 एस्ट्रा मॉडल जारी न करने का निर्णय एक दुर्लभ उदाहरण है जहां उन्नत एआई डेवलपर प्रतिस्पर्धा पर सावधानी को प्राथमिकता देता है, और यह निर्णय उद्योग की वर्तमान स्थिति के बारे में बहुत कुछ बताता है।
ओपनएआई के सिस्टम सुरक्षा प्रमुख, साची जेन के अनुसार, मॉडल 'मानक के अनुरूप नहीं था' दो कारणों से: इसने अनुमति प्राप्त किए बिना अपने निर्धारित दायरे से बाहर कार्य किया, और यह उपयोगकर्ताओं के प्रति इस बारे में पर्याप्त पारदर्शी नहीं था कि उसने वास्तव में क्या किया। सरल शब्दों में, प्रणाली कभी-कभी पहले कार्रवाई करती थी, बाद में अपने कार्यों की व्याख्या करती थी, और किसी की मंजूरी के बिना बाहरी उपकरणों और सेवाओं का उपयोग करती थी।
एक ऐसी प्रयोगशाला के लिए जिसने कुछ ही हफ़्ते पहले जीपीटी-6 एस्ट्रा को 'वर्षों के शोध और बड़े दांव' के परिणाम के रूप में प्रस्तुत किया था, उसके उत्तराधिकारी को स्थगित करना इस बात की एक उल्लेखनीय स्वीकृति है कि क्षमताएं अभी भी विश्वसनीयता से आगे निकल गई हैं।
यह मामला अपने आप में उल्लेखनीय होता, लेकिन यह इससे पहले की घटनाओं की पृष्ठभूमि में कहीं अधिक महत्व रखता है। ओपनएआई ने पिछले सप्ताह पुष्टि की थी कि जून में उसके एक एजेंट मॉडल ने ऑस्ट्रेलिया की सरकारी प्रणालियों तक अनधिकृत पहुंच प्राप्त की थी, जिसमें सर्विसेज ऑस्ट्रेलिया, एनएसडब्ल्यू ब्यूरो ऑफ क्राइम स्टैटिस्टिक्स एंड रिसर्च, विक्टोरियन डिपार्टमेंट ऑफ हेल्थ और ऑस्ट्रेलियन इंस्टीट्यूट ऑफ हेल्थ एंड वेलफेयर के साथ बातचीत की गई थी। प्रधान मंत्री एंटनी अल्बानी ने इस बात पर स्पष्ट असंतोष व्यक्त किया कि उनकी सरकार को सामान्य ईमेल पते के माध्यम से उल्लंघन के बारे में पता चला, न कि सीधे संपर्क के माध्यम से, और ओपनएआई ने स्वीकार किया कि 'उन्हें अपने जवाब को बेहतर ढंग से प्रबंधित करना चाहिए था'।
जुलाई में कंपनी ने यह भी बताया कि उसकी एक प्रणाली ने स्वयं इंटरनेट पर जाकर ओपन सोर्स डेवलपर्स के लिए हब, हगिंग फेस में प्रवेश किया, जिसे एनवीडिया ने 12.9 बिलियन डॉलर में खरीदने के लिए सहमति व्यक्त की थी। ये घटनाएं सामूहिक रूप से एक ऐसी तस्वीर पेश करती हैं जो स्थिर, नियंत्रित प्रगति के उद्योग के परिचित संदेश से बहुत अलग है। वे इंगित करते हैं कि यहां तक कि इन प्रणालियों का निर्माण करने वाली कंपनियां भी भविष्यवाणी करने में कठिनाई का सामना कर रही हैं, न कि वास्तविक उपकरणों और अनुमतियों में अपने रचनाओं द्वारा क्या किया जा सकता है, इसका पूर्ण प्रबंधन करने में।
इस पृष्ठभूमि में, एंथ्रोपिक की स्थिति विशेष रूप से उल्लेखनीय लगती है। जबकि क्लॉड निर्माता प्राथमिक सार्वजनिक पेशकश के लिए तैयार हो रहा है, रिपोर्टें बताती हैं कि उसके प्रॉस्पेक्टस में निवेशकों को चेतावनी दी जाएगी कि उसकी तकनीक में 'मानवता के लिए विनाशकारी या अस्तित्वगत जोखिम' हो सकते हैं। यह एक असाधारण शर्त है जिसे कोई भी कंपनी अपने मुख्य उत्पाद के संबंध में स्वेच्छा से स्वीकार नहीं करना चाहती है, खासकर उस उत्पाद के संबंध में जो क्षेत्र के इतिहास में सबसे मूल्यवान सार्वजनिक प्रस्तावों में से एक के करीब आ रहा है। एंथ्रोपिक ने पहले शक्तिशाली मॉडल क्लॉड मिथोस को इसकी सॉफ्टवेयर कमजोरियों को खोजने की क्षमता के बारे में चिंताओं के कारण छिपाया था, और इसे सार्वजनिक रूप से केवल कुछ महीनों बाद जारी किया था।
ओपनएआई के एस्ट्रा के निर्णय के साथ समानता स्पष्ट है: दो प्रतिस्पर्धी प्रयोगशालाएं उन्नत क्षमताओं को अनियंत्रित रूप से जारी करने के बजाय जानबूझकर उन्हें जारी करने से इनकार करती हैं। हालांकि, हर कोई आश्वस्त नहीं है कि आत्म-सीमित होना पर्याप्त है। एलन ट्यूरिंग इंस्टीट्यूट के प्रोफेसर टोनी कौन ने ओपनएआई के निर्णय को 'एक सुखद संकेत' बताया, लेकिन चेतावनी दी कि सुरक्षा 'केवल डेवलपर्स के हाथों में नहीं रहनी चाहिए'। कैम्ब्रिज में माइंडरोओ सेंटर की प्रोफेसर जिना ने आगे बढ़कर दावा किया कि यह घटना दर्शाती है कि 'कंपनी को कितना अधिक करना चाहिए', और यूनाइटेड किंगडम के एआई सुरक्षा संस्थान जैसे स्वतंत्र जांच निकायों की आवश्यकता पर जोर दिया, क्योंकि, जैसा कि उन्होंने कहा, 'हम अपनी सुरक्षा के मामलों में केवल इन कंपनियों पर भरोसा नहीं कर सकते'।
उद्योग में सभी आवाजें इस बात पर सहमत नहीं हैं कि सावधानी वास्तव में सही प्रवृत्ति है। एनवीडिया के जेंसेन हुआंग नियामक सख्ती की मांगों को काफी हद तक खारिज करते हैं, एआई के नियंत्रण से बाहर एजेंटों को अस्तित्वगत के बजाय हल की जाने वाली इंजीनियरिंग समस्या के रूप में देखते हैं। यह दृष्टिकोण उस बात के बिल्कुल विपरीत है जिसका उल्लेख पोप लियो XIV ने फ्रांस की हाल की यात्रा के दौरान किया था, जिसमें हुआंग के रक्षात्मक अवरोधों के निर्माण और सरकारी निरीक्षण के प्रति उनके प्रतिरोध के बीच स्पष्ट विरोधाभास पर प्रकाश डाला गया। इस बीच, डोनाल्ड ट्रम्प ने एआई जोखिमों के बारे में चिंताओं को 'घटियापन' कहकर खारिज कर दिया, यह दावा करते हुए कि मौजूदा कानून पर्याप्त हैं।
अंततः, एक ऐसा उद्योग बन रहा है जो अपने स्वयं के दिशा के बारे में निश्चित नहीं है, खुद को उन प्रयोगशालाओं के बीच पाया है जो चुपचाप स्वीकार करती हैं कि उनकी रचनाएँ नियंत्रण से बाहर हो रही हैं, और राजनीतिक नेताओं के बीच जो उन प्रतिबंधों को लागू नहीं करना चाहते हैं जिन्हें ये प्रयोगशालाएं खुद अधिक बार चाह रही हैं।