उपयोगकर्ताओं ने बताया है कि आर्टिफिशियल इंटेलिजेंस सहायक क्लॉड ने सॉफ्टवेयर और फर्मवेयर की रिवर्स इंजीनियरिंग से संबंधित कार्यों को बाधित करना शुरू कर दिया है। शिकायतें क्लॉड ओपस 5.5 पर केंद्रित हैं, जिसे सितंबर में प्रोग्रामिंग क्षमताओं में सुधार के साथ जारी किया गया था, और इसमें गेम विश्लेषण और स्मार्ट टीवी सिस्टम को बदलने के प्रयासों का विवरण शामिल है।
ये शिकायतें रेडिट पर पोस्ट किए जाने के बाद प्रमुखता से सामने आईं, जिससे पता चलता है कि मॉडल सुरक्षा जांच को ट्रिगर करते ही प्रतिक्रिया के बीच में गतिविधि शुरू करके रोक सकता है। एंथ्रोपिक ने अभी तक इस प्रकार के उपयोग के लिए किसी भी बदलाव की पुष्टि नहीं की है।
रिवर्स इंजीनियरिंग किसी प्रोग्राम के मूल स्रोत कोड तक पहुंच के बिना उसके कामकाज को समझने के लिए उसे निरीक्षण करने की क्षमता है। इस पद्धति का उपयोग सुरक्षा जांच, संगतता परीक्षण और संशोधनों के निर्माण में किया जाता है।
कुछ रिपोर्टों में REA (रिवर्स इंजीनियर एनीथिंग) शामिल है, जो एक ओपन-सोर्स प्रोजेक्ट है जो विश्लेषण उपकरणों में एआई एजेंटों को एकीकृत करता है, जिससे उन चरणों का स्वचालन होता है जिनके लिए सामान्य रूप से तकनीकी ज्ञान और मैन्युअल प्रयास की आवश्यकता होती है। इस तकनीक में रुचि उन परियोजनाओं के कारण भी बढ़ी है जो विभिन्न प्लेटफार्मों, यहां तक कि ब्राउज़रों पर चलने के लिए गेम को रीकंपाइल करने के लिए एआई का उपयोग करती हैं।
एक विस्तृत उदाहरण Decrypt द्वारा प्रस्तुत किया गया था। एक उपयोगकर्ता ने क्लॉड कोड से LG टीवी पर वेबओएस ऑपरेटिंग सिस्टम में एक वैकल्पिक इंटरफ़ेस लागू करने का अनुरोध किया। प्रक्रिया के दौरान, उपयोगकर्ता ने ओपस 5.5 द्वारा लगाए गए सुरक्षा अवरोध का सामना किया। सहायक ने ओपस 4.8 पर स्विच करने का सुझाव दिया, लेकिन इस पुराने मॉडल ने भी प्रक्रिया के चरणों को रोक दिया।
यह घटना यह साबित नहीं करती है कि टीवी की रिवर्स इंजीनियरिंग पूरी तरह से अवरुद्ध है, बल्कि यह दर्शाती है कि सुरक्षा फिल्टर कुछ तकनीकी कार्यों में हस्तक्षेप कर सकते हैं। एंथ्रोपिक ने क्लॉड ओपस 5.5 के लॉन्च के समय अपनी साइबर सुरक्षा सुरक्षा को मजबूत किया था। अपने आधिकारिक बयान में, कंपनी ने आश्वासन दिया है कि विकास और कोड सुधार गतिविधियां अनुमत बनी हुई हैं, और अब तक ऐसा कोई प्रमाण नहीं है कि एंथ्रोपिक ने इस अभ्यास पर औपचारिक रूप से प्रतिबंध लगाया है।
