यह दावा सामने आया है कि कृत्रिम बुद्धिमत्ता मॉडल उतने जटिल नहीं हैं जितना शोधकर्ता मानते थे, जिसने एआई सुरक्षा के क्षेत्र में काफी ध्यान आकर्षित किया है। हालांकि, दक्षिण अफ्रीका के शिक्षाविदों ने चेतावनी दी है कि ये निष्कर्ष अभी तक सत्यापित और सहकर्मी-समीक्षित नहीं हुए हैं।
निक कममाराटा, जो स्टार्टअप गुडफायर के शोधकर्ता हैं और पहले ओपनएआई में काम कर चुके हैं, ने अपने दस्तावेज़ 'अनौपचारिक शोध निबंध और कार्य परिकल्पना' में यह परिकल्पना प्रस्तुत की है। उनका तर्क है कि 'बहुअर्थकता और अध्यारोपण के कैनोनिकल प्रमाण, जिसने अधिकांश वैज्ञानिक समुदाय, जिसमें मैं भी शामिल हूं, को नेटवर्कों में अवधारणाओं की मनमानी पैकेजिंग के लिए आश्वस्त किया था, गलत समझा गया था।'
उन्होंने एमआईटी टेक्नोलॉजी रिव्यू को समझाया: 'हम इसे गलत तरीके से देख रहे थे।' रोड्स विश्वविद्यालय के अतिथि प्रोफेसर स्टीवन बोइकई सिडली का मानना है कि एआई की 'ब्लैक बॉक्स' प्रकृति, जिसे उसके निर्माता भी डिकोड नहीं कर सकते, इसके बारे में कई चिंताओं का मूल कारण है।
सिडली ने उल्लेख किया कि 'यह चिंताजनक था क्योंकि यदि आप यह नहीं समझ सकते कि एआई कैसे सोचता है, तो आप यह कैसे रोक सकते हैं कि वह बुरे काम करे, जैसे किसी को आत्महत्या के लिए उकसाना? यह एआई संरेखण नामक चीज़ का सार है।' उन्होंने आगे कहा कि 'कममाराटा का लेख बताता है कि एआई न्यूरल नेटवर्क के अंदर इतनी जटिलता नहीं है - हम बस इसे गलत लेंस से देख रहे थे। उनके आंशिक और (अभी तक) अप्रमाणित परिणाम आशाजनक हैं, क्योंकि वे इस उम्मीद की किरण देते हैं कि हम एआई को एक अनियंत्रित और आज के बच्चे की तरह नहीं, बल्कि एक अधीन उपकरण बना सकते हैं।'
बिल्ल V वाली बिल्लियाँ, कारें और अक्षर V
निबंध में व्याख्यात्मकता के क्षेत्र में एक प्रसिद्ध उदाहरण पर विचार किया गया है - एक ऐसा अनुशासन जिसका उद्देश्य एआई मॉडल के भीतर होने वाली प्रक्रियाओं का पता लगाना है। 2014 के गूगल इनसेप्शन v1 छवि पहचान मॉडल में, न्यूरॉन 4e:55, जो एक विशिष्ट विशेषता का पता लगाने पर सक्रिय होता था, बिल्लियों और कारों दोनों पर प्रतिक्रिया करता था।
क्रिस ओलाह के नेतृत्व में एक परियोजना के हिस्से के रूप में 2020 के पेपर 'ज़ूम इन' में, जिसके सह-लेखक कममाराटा हैं, इस न्यूरॉन को असंबंधित अवधारणाओं के मिश्रण का एक उत्कृष्ट उदाहरण माना जाता था। हालांकि, कममाराटा अब दावा करते हैं कि वे उन्हें अक्षर V के सामान्य आकार से जोड़ते हैं: बिल्ली की नुकीली प्रोफ़ाइल और कोण से देखा गया कार का अगला हिस्सा। यह वही न्यूरॉन बिलियर्ड टेबल के कोण और हाई-स्पीड ट्रेन की नाक दोनों पर प्रतिक्रिया करता है, जबकि गोलाकार आकृतियाँ विपरीत प्रतिक्रिया उत्पन्न करती हैं।
30 अक्टूबर के निबंध अपडेट में इस बात पर जोर दिया गया है कि न्यूरॉन अभी भी बिल्लियों और कारों को पहचानता है, जिसमें V का आकार एक सामान्य विशेषता है। कममाराटा ने एमआईटी टेक्नोलॉजी रिव्यू को बताया कि उन्होंने जिस मॉडल पर काम किया, उसका अध्ययन करने में उन्हें केवल पांच सेकंड लगे, जबकि उन्होंने उस पर 'संभवतः हजारों घंटे' बिताए।
उनका मानना है कि यदि अधिकांश न्यूरॉन्स एक मुख्य कार्य करते हैं, तो शोधकर्ता मॉडलों का विश्लेषण कर सकते हैं बिना उन्हें डिकोड करने के लिए दूसरी मॉडल को पूर्व-प्रशिक्षित किए बिना। अलीबाबा के Qwen3-32B मॉडल की प्रारंभिक जांच से पता चलता है कि लगभग 90% 'न्यूरॉन ध्रुवीयताएं' - न्यूरॉन गतिविधि के सकारात्मक और नकारात्मक सिरे - एक मुख्य कार्य करते हैं; लगभग 7% दो संबंधित कार्य करते हैं, और 2-4% अभी तक अध्ययन नहीं किए गए हैं, हालांकि ये आंकड़े थ्रेशोल्ड मानों पर निर्भर करते हैं। इसके अलावा, 2023 में ओपनएआई में शुरू की गई उनकी परियोजना ने पाया कि 'हमारी सबसे उदार оценки' के अनुसार केवल लगभग 1.7% न्यूरॉन्स ही व्याख्या योग्य हैं।
अभी तक समीक्षा नहीं हुई है
प्रोफेसर बेंजामिन रोसमैन, विट्स विश्वविद्यालय के इंस्टीट्यूट ऑफ माइंड के संस्थापक, जिन्हें टाइम पत्रिका के 2025 में एआई के क्षेत्र में 100 सबसे प्रभावशाली लोगों की सूची में शामिल किया गया था, ने इसे 'एआई सुरक्षा के लिए एक दिलचस्प और संभावित रूप से बहुत उत्साहजनक विकास' बताया। फिर भी, उन्होंने जोर देकर कहा: 'शोध अभी तक सहकर्मी-समीक्षा से नहीं गुजरा है, और एआई सुरक्षा के लिए इसका क्या मतलब है, इस पर मजबूत निष्कर्ष निकालना बहुत जल्दबाजी होगी।'
अन्य लोग अधिक संदेह व्यक्त करते हैं। गूगल डीपमाइंड के नील नंदा ने एक्स पर लिखा कि 'यह दिलचस्प काम है, लेकिन मुझे नहीं लगता कि यह व्याख्यात्मकता की समग्र तस्वीर में कोई महत्वपूर्ण अपडेट है।' कंसिस्टेंसी रिसर्च सेंटर के जैकब हिल्टन ने जोड़ा: 'पूरी समझ के लिए हमें न्यूरॉन्स से परे जाना होगा और यह समझाना होगा कि वे श्रृंखलाएं बनाते हुए कैसे जुड़ते हैं।'
रोसमैन ने निष्कर्ष निकाला कि 'भले ही हम इन प्रणालियों के काम करने के तरीके को बेहतर ढंग से समझना शुरू कर दें, इसका मतलब यह जरूरी नहीं है कि हम जानते हैं कि उन्हें सुरक्षित रूप से कैसे व्यवहार करना है।'
