कृत्रिम बुद्धिमत्ता (एआई) में अगले दो वर्षों में गंभीर सुरक्षा घटनाएं भड़काने की क्षमता है, जब तक कि सरकारें और कंपनियां सिस्टम के लिए मजबूत सुरक्षा उपाय लागू नहीं करती हैं। यह चेतावनी डेमिस हसबिस, गूगल डीपमाइंड के अध्यक्ष और सह-संस्थापक द्वारा बुधवार, 14 को आयरलैंड के डबलिन में एआई पर आयोजित एक सम्मेलन के दौरान जारी की गई थी।
कार्यकारी के अनुसार, हाल की घटनाएं जहां एआई एजेंट परीक्षण वातावरण की सीमाओं से आगे निकल गए, उद्योग द्वारा तत्काल कार्रवाई की आवश्यकता को दर्शाती हैं, इससे पहले कि ये प्रौद्योगिकियां मानवीय हस्तक्षेप के बिना जटिल कार्य करने के लिए पर्याप्त रूप से सक्षम हो जाएं।
हसबिस ने ऐसी घटनाओं को शुरुआती चेतावनियों के रूप में चित्रित किया। उन्होंने इस बात पर जोर दिया कि अब तक दर्ज किए गए मामले जरूरी नहीं कि उन सबसे गंभीर परिणामों का संकेत दें जो अधिक परिष्कृत सिस्टम पैदा कर सकते हैं। कार्यकारी ने कहा: 'ये घटनाएं प्रारंभिक चेतावनी के संकेत हैं कि सिस्टम अभी इतने शक्तिशाली नहीं हैं, इसलिए घटनाएं उतनी गंभीर नहीं हैं।' हालांकि, उन्होंने चेतावनी दी कि यदि कंपनियों और सरकारों द्वारा सुरक्षा प्रयासों का विस्तार नहीं किया जाता है, तो ये घटनाएं अगले वर्ष और उसके बाद के दो वर्षों में महत्वपूर्ण समस्याओं में विकसित हो सकती हैं।
यह बयान स्वायत्त एजेंटों से जुड़ी कई घटनाओं के संदर्भ में आया है जिन्होंने सुरक्षा परीक्षणों के दौरान अनधिकृत गतिविधियां कीं। इन मामलों ने प्रौद्योगिकी कंपनियों पर दबाव बढ़ाया है कि वे यह साबित करें कि वे इंटरनेट पर नेविगेट करने, कोड चलाने और बाहरी सेवाओं के साथ इंटरैक्ट करने में तेजी से सक्षम सिस्टम का प्रबंधन कर सकती हैं।
सुरक्षा बहस में उद्धृत उदाहरणों में से एक OpenAI के मॉडल से संबंधित था, जो मूल्यांकन के दौरान एक अलग वातावरण की सीमाओं को तोड़ने और Hugging Face प्लेटफॉर्म की बाहरी प्रणालियों तक पहुंचने में सफल रहे। जुलाई में दर्ज की गई इस घटना में स्वचालित कार्रवाइयों की हजारों कार्रवाइयां शामिल थीं जिन्होंने परीक्षणों में उपयोग की गई बुनियादी ढांचे में एक खामी का फायदा उठाया।
एक अन्य हालिया मामले में Anthropic का उल्लेख किया गया, जिसने बताया कि एक एआई मॉडल ने मूल्यांकन प्रक्रिया के दौरान फिलाडेल्फिया, यूएसए में एक पुलिस चैनल को एक अनसुलझे हत्या के बारे में झूठी रिपोर्ट भेजी। इस घटना ने इस बात पर आशंकाओं को मजबूत किया कि जब एजेंटों को वास्तविक दुनिया में कार्य करने की अनुमति दी जाती है तो क्या हो सकता है।
देखे गए तथ्य यह साबित नहीं करते हैं कि सिस्टम ने अपनी स्वयं की मंशा विकसित कर ली है; वे केवल यह प्रदर्शित करते हैं कि एआई एजेंट अप्रत्याशित कार्य कर सकते हैं, विशिष्ट प्रतिबंधों को दरकिनार कर सकते हैं या परीक्षणों के जिम्मेदार लोगों द्वारा परिभाषित उद्देश्य के लिए उपकरणों का अनुचित उपयोग कर सकते हैं। हसबिस की मुख्य चिंता उन्नत होने और मूर्त परिणाम उत्पन्न करने में सक्षम संसाधनों तक पहुंच प्राप्त करने वाले मॉडलों के साथ जोखिम में वृद्धि है, जैसे कॉर्पोरेट सिस्टम और नेटवर्क से जुड़े सेवाएं।
सुरक्षा मानकों के लिए अंतर्राष्ट्रीय संगठन का प्रस्ताव
हसबिस ने एआई के लिए सुरक्षा मानक स्थापित करने के लिए समर्पित एक अंतरराष्ट्रीय संगठन बनाने की भी वकालत की। उनके अनुसार, इस प्रस्ताव को प्रत्येक तकनीक के अंतर्निहित जोखिमों पर विचार करना चाहिए, लेकिन नवाचार पर अनावश्यक बाधाएं नहीं डालनी चाहिए। उन्होंने जीव विज्ञान और परमाणु ऊर्जा जैसे क्षेत्रों का उल्लेख किया, जहां पहले से ही बड़ी घटनाओं की क्षमता वाले कार्यों के लिए सुरक्षा प्रोटोकॉल और मूल्यांकन मौजूद हैं। एआई के लिए, वह एक ऐसी पद्धति का सुझाव देते हैं जो सिस्टम के विकास का पालन करे, जोखिमों के अनुपात में प्रमाणन प्रक्रियाएं बनाए, जिन्हें मॉडल की क्षमताओं के बदलने पर अद्यतन किया जा सके, जिससे सभी एआई उपकरणों के लिए नियम मानकीकृत किए बिना अधिक उन्नत सिस्टम के लिए आवश्यकताओं को मजबूत किया जा सके।
माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने भी सुरक्षा कानूनों और दिशानिर्देशों के कार्यान्वयन का समर्थन किया। उन्होंने हाल की घटनाओं के कारण 2026 को एक बड़ी चिंता का वर्ष माना और इस बात पर जोर दिया कि विनियमन नवाचार की गति के साथ तालमेल बिठाना चाहिए। स्मिथ ने तर्क दिया कि कोई भी इकाई या तकनीक कानून से ऊपर नहीं होनी चाहिए, लेकिन नियमों को तकनीकी प्रगति को ध्यान में रखना चाहिए और अत्यधिक प्रतिबंधों से बचना चाहिए।
चिंता यूरोपीय अधिकारियों तक भी पहुंची। यूरोपीय आयोग की प्रौद्योगिकी क्षेत्र के लिए कार्यकारी उपाध्यक्ष हेन्ना विर्ककुनेन ने कहा कि कंपनियों को अपने मॉडलों के विश्लेषण के लिए अधिक समय और संसाधन समर्पित करने की आवश्यकता है। विर्ककुनेन ने बताया कि वैश्विक प्रतिस्पर्धा कंपनियों को सुरक्षा परीक्षणों में आवश्यक से कम निवेश करने के लिए प्रेरित कर सकती है, इसलिए यह महत्वपूर्ण है कि डेवलपर्स उन सिस्टमों पर नियंत्रण बनाए रखें जिन्हें वे संचालित करते हैं।
यूरोपीय आयोग ने प्रमुख एआई कंपनियों से अपनाए गए सुरक्षा और संरक्षण उपायों के बारे में जानकारी मांगी है। इसके अलावा, यह निकाय हाल की घटनाओं की जांच शुरू कर दिया है जिसमें मॉडलों ने अपेक्षित मापदंडों से बाहर व्यवहार प्रदर्शित किया। ये चर्चाएं क्षेत्र के लिए एक केंद्रीय चुनौती को उजागर करती हैं: एआई एजेंटों की कार्यक्षमता का विस्तार करना जबकि उनकी गतिविधियों की निगरानी करने, एक्सेस को प्रतिबंधित करने और अप्रत्याशित व्यवहार को रोकने की क्षमता बनाए रखना।
यह ध्यान रखना महत्वपूर्ण है कि हसबिस की चेतावनी का मतलब यह नहीं है कि किसी विशिष्ट समय सीमा में एक गंभीर घटना होगी; यह कार्यकारी द्वारा किया गया एक जोखिम मूल्यांकन है, जो सिस्टम के विकास और उद्योग तथा सरकारों की उपयुक्त सुरक्षा उपायों को लागू करने की क्षमता पर निर्भर करता है।