Anthropic एक ऐसे कार्यक्रम का विस्तार कर रहा है जो सत्यापित साइबर सुरक्षा विशेषज्ञों को कम सुरक्षा उपायों के साथ इसके सबसे शक्तिशाली कृत्रिम बुद्धिमत्ता मॉडल का परीक्षण करने की अनुमति देता है। यह तब हुआ जब प्रोजेक्ट ग्लासविंग पहल ने इस वर्ष सॉफ्टवेयर में एक लाख से अधिक कमजोरियों का पता लगाने में मदद की।
ग्लासविंग के तहत भागीदार, जो दुनिया के सबसे महत्वपूर्ण सॉफ्टवेयर की सुरक्षा सुनिश्चित करने के लिए एक कार्यक्रम है, ने अप्रैल से जुलाई के बीच कम से कम 129,000 पुष्टि की गई कमजोरियाँ पाईं। इसके अलावा, Anthropic के अपने ओपन-सोर्स स्कैनिंग ने अप्रैल और अक्टूबर के बीच 5,500 अन्य कमजोरियाँ उजागर कीं।
इन कमजोरियों में से 33,000 से अधिक को गंभीर या उच्च गंभीरता स्तर के रूप में वर्गीकृत किया गया था। Anthropic का कहना है कि ये आंकड़े संभवतः कम आंके गए हैं, और उम्मीद है कि वास्तविक नुकसान कम से कम पांच गुना अधिक होगा क्योंकि डेटा सीमित संख्या में भागीदारों के सर्वेक्षण के परिणामस्वरूप प्राप्त किया गया है।
मंगलवार को घोषित अद्यतन साइबर सत्यापन कार्यक्रम (Cyber Verification Program, CVP) दो कार्यक्रमों को जोड़ता है जिन्हें Anthropic ने पिछले छह महीनों में चलाया था। पहला, ग्लासविंग, महत्वपूर्ण सॉफ्टवेयर की सुरक्षा में लगी संगठनों को क्लॉड मिथोस - Anthropic की सबसे साइबर-प्रतिरोधी मॉडल श्रृंखला तक पहुंच प्रदान करता था। दूसरा, मूल CVP, सत्यापित सुरक्षा टीमों को क्लॉड ओपस और सोनेट मॉडल पर कम प्रतिबंध प्रदान करता था।
पहले, अप्रैल में क्लॉड मिथोस प्रीव्यू का अनावरण इस चिंता को जन्म दे रहा था कि एआई सॉफ्टवेयर सुरक्षित होने से पहले ही उसे हैक कर सकता है। नया कार्यक्रम तीन स्तरों को शामिल करता है, जिनमें से प्रत्येक की सत्यापन आवश्यकताएं और सुरक्षा नियंत्रण उपाय हैं। तीनों स्तर क्लॉड ओपस 5.5, सोनेट 5.5, मिथोस 5.1 और भविष्य के मॉडलों तक पहुंच प्रदान करते हैं।
रक्षा स्तर मैलवेयर विश्लेषण और घटना प्रतिक्रिया जैसे कार्यों के लिए डिज़ाइन किया गया है। सुरक्षा टीमें, महत्वपूर्ण बुनियादी ढांचे के ऑपरेटर, ओपन-सोर्स डेवलपर्स और भेद्यता रिपोर्टिंग अनुभव वाले शोधकर्ता आवेदन कर सकते हैं। रेड टीम स्तर अधिकृत प्रवेश परीक्षण और 'रेड टीम' संचालन की अनुमति देता है, हालांकि केवल संगठन ही आवेदन कर सकते हैं। विशेष स्तर में सबसे कम प्रतिबंध हैं और इसे ऊर्जा ग्रिड, विमानन प्रणालियों और अंतर-बैंक हस्तांतरण बुनियादी ढांचे जैसी सुरक्षा-महत्वपूर्ण प्रणालियों का परीक्षण करने के लिए अधिकृत छोटे समूह के संगठनों के लिए आरक्षित है। Anthropic अमेरिकी सरकार के साथ प्रत्येक प्रतिभागी की जांच करता है, और मौजूदा ग्लासविंग भागीदार इस स्तर पर चले जाते हैं।
