Anthropic ने अमेरिकी प्रतिभूति और विनिमय आयोग (SEC) को प्रस्तुत अपने आरंभिक सार्वजनिक पेशकश (S-1/A) के अद्यतन में खुलासा किया है कि यह एक ऐसी कृत्रिम बुद्धिमत्ता बनाने के करीब हो सकती है जो अपने स्वयं के सुधार को तेज कर सके।
हालांकि कंपनी का कहना है कि उसने अभी तक इस चरण को हासिल नहीं किया है, लेकिन उसके अनुमान बताते हैं कि यह निकट भविष्य में हो सकता है। स्व-सुधार पुनरावृत्ति (RSI) के रूप में जानी जाने वाली यह तकनीक उस बिंदु का वर्णन करती है जहां AI सिस्टम अपने स्वयं के विकास प्रक्रियाओं में सुधार करने में सक्षम होते हैं, जिससे उनकी क्षमताओं का विकास होता है।
इस दृष्टिकोण से मतभेद उत्पन्न होते हैं: आलोचकों का तर्क है कि ऐसे उन्नत सिस्टम अत्यधिक शक्तिशाली हो सकते हैं, मानवीय नियंत्रण से बाहर हो सकते हैं और अपने लक्ष्यों की खोज में नुकसान पहुंचा सकते हैं। दूसरी ओर, उत्साही लोग RSI को उत्पादकता बढ़ाने और वैज्ञानिक खोजों में तेजी लाने के अवसर के रूप में देखते हैं।
Anthropic दोनों विचारों को स्वीकार करती है। SEC को भेजे गए दस्तावेज़ में, कंपनी उल्लेख करती है कि वह पहले से ही अपने अनुसंधान एवं विकास गतिविधियों में AI का उपयोग करती है, लेकिन चेतावनी देती है कि यह दृष्टिकोण सुरक्षा के लिए एक महत्वपूर्ण जोखिम वहन करता है, खासकर यदि प्रगति की गति में भारी तेजी लाई जाती है।
प्रॉस्पेक्टस में अद्यतन जोखिम कारकों अनुभाग में नए नोटिस पेश करता है। Anthropic ने खुलासा किया है कि उसने पहले ही AI सिस्टम का उपयोग नए मॉडल बनाने के लिए किया है, लेकिन उस समय क्षमता में प्राप्त लाभों की गंभीरता को महसूस नहीं किया था। अनुसंधान में AI के उपयोग में वृद्धि से यह भी हो सकता है कि मॉडल कंपनी की सुरक्षा, संरेखण और संरक्षण उपायों को लागू करने की क्षमता से अधिक तेजी से विकसित हों।
दस्तावेज़ के अनुसार, आंतरिक अनुमान और भविष्य के मॉडलों पर पूर्वानुमान बताते हैं कि कंपनी जल्द ही उस चीज़ तक पहुंच सकती है जिसे उसकी जिम्मेदार स्केलिंग नीति 'AI के कारण नाटकीय रूप से तेज प्रगति' कहती है। हालांकि, कंपनी इस बात पर जोर देती है कि उसके किसी भी वर्तमान मॉडल को इस सीमा को पार करने वाला वर्गीकृत नहीं किया गया है, और डेटा मूल्यांकन जारी है।
इस संभावना के बावजूद, Anthropic घोषणा करती है कि वह Claude का उपयोग बिना किसी मानवीय पर्यवेक्षण या प्रासंगिक समझ के लगातार उन्नत मॉडल पीढ़ियों को डिजाइन और बनाने के लिए नहीं करेगी। कंपनी अपने सबसे परिष्कृत मॉडलों के विकास पर मनुष्यों द्वारा नियंत्रण बनाए रखने के लिए अपनी जिम्मेदार स्केलिंग नीति की समीक्षा भी करने की योजना बना रही है।
यह ध्यान रखना महत्वपूर्ण है कि SEC को प्रस्तुत रिकॉर्ड प्रकटीकरण दायित्वों को पूरा करते हैं, लेकिन वे कंपनी के लिए बाजार के सामने अपनी अपेक्षाएं प्रस्तुत करने का एक साधन भी हैं। Anthropic इस बात पर जोर देती है कि इस वर्ष Claude की क्षमताओं में सुधार हुआ है, विशेष रूप से प्रोग्रामिंग, गणित और साइबर सुरक्षा में, हालांकि कंपनी द्वारा किसी भी वर्तमान मॉडल को स्व-सुधार पुनरावृत्ति चरण तक पहुंचने वाला नहीं माना गया है।
