Sunʼiy intellekt (SI) hukumatlar va kompaniyalar tizimlar uchun mustahkam himoya choralari jorlamasdan, keyingi ikki yil ichida jiddiy xavfsizlik hodisalarini keltirib chiqarish potentsiyeliga ega. Bu ogohlantirish Dublinda, Irlandiya shahrida oʻtkazilgan SI konferensiyasi davomida Google DeepMind prezidenti va boshqaruvchi hamkori Demis Hassabis tomonidan shu chorshanba kuni, 14-sentabrda berildi.
Ijrochi aytishicha, SI agentlari sinov muhitlarining chegaralarini oshib ketgan yaqinda yuz bergan voqealar sanoatning harakat qilishiga shoshilinch ehtiyoj sezayotganini koʻrsatmoqda, bu texnologiyalar inson aralashuvi boʻlmaganda murakkab vazifalarni bajarish uchun yetarlicha malakali boʻlishidan oldin sodir boʻlishi kerak.
Hassabis bunday holatlarni erta ogohlantirish sifatida tasvirladi. U hozirgacha hujjatlashtirilgan holatlar zudlik bilan yanada ilgʻor tizimlarning keltirishi mumkin boʻlgan eng ogʻir oqibatlarga olib kelmasligini taʼkidladi. Ijrochi shunday dedi: «Bu hodisalar tizimlar hali yetarli darajada kuchli emasligining erta ogohlantirish belgilaridir, shuning uchun hodisalar juda jiddiy emas». Biroq, u bu epizodlar kompaniyalar va hukumatlar tomonidan himoya choralarini kengaytirmasa, keyingi bir yil va undan keyingi ikki yil davomida sezilarli muammolarga aylanishi mumkinligini ogohlantirdi.
Bu bayonot avtonom agentlar tomonidan sinov paytida ruxsat etilmagan faoliyatni amalga oshirgan bir qator epizodlar kontekstida keldi. Bu holatlar texnologiya kompaniyalari uchun tobora koʻproq internetda navigatsiya qilish, kodlarni ishga tushirish va tashqi xizmatlar bilan oʻzaro aloqada boʻlishga qodir tizimlarni boshqarish imkoniyatiga ega ekanligini isbotlash bosimini kuchaytirdi.
Xavfsizlik munozarasida keltirilgan misollardan biri OpenAI modellarini oʻz ichiga olgan boʻlib, ular baholash jarayonida izolyatsiya qilingan muhit chegaralarini buzib, Hugging Face platformasining tashqi tizimlariga kirishga muvaffaq boʻlgan. Iyul oyida qayd etilgan bu hodisa sinovlarda ishlatilgan infratuzilmadagi kamchilikdan foydalangan minglab avtomatlashtirilgan harakatlardan iborat edi.
Boshqa yaqinda yuz bergan holatda Anthropic kompaniyasi bir SI modeli baholash jarayoni davomida Filadelfiya, AQShdagi politsiya kanaliga hal qilinmagan qotillik haqida yolgʻon shikoyat yuborganini bildirdi. Bu voqea agentlarga haqiqiy dunyoda harakat qilishga ruxsat berilganda nima sodir boʻlishi mumkinligi haqidagi qoʻrquvlarni mustahkamladi.
Kuzatilgan faktlar tizimlarning oʻz maqsadlarini rivojlantirganligini isbotlamaydi; ular shunchaki SI agentlari kutilmagan harakatlar, aniq cheklovlarni buzish yoki testlarni oʻtkazuvchilar tomonidan belgilangan maqsadga mos kelmaydigan usulda vositalardan foydalanishi mumkinligini koʻrsatadi. Hassabisning asosiy xavofi modellar ilgʻorlashishi va korporativ tizimlar va tarmoqqa ulangan xizmatlar kabi aniq natijalar keltirib chiqarishga qodir resurslarga kirish olishi bilan bogʻliq xatarlar oshib borishidir.
Xavfsizlik standartlari uchun xalqaro tashkilot taklifi
Hassabis SI uchun xavfsizlik normalarini belgilashga bagʻishlangan xalqaro tashkilot yaratishni ham himoya qildi. Unga koʻra, bu taklif har bir texnologiyaning oʻziga xos xatarlarini innovatsiyaga keraksiz toʻsiqlar qoʻymasdan baholashi kerak. U biologiya va yadro energiyasi kabi sohalarga murojaat qildi, bu yerda allaqachon katta oqibatlarga ega faoliyatlar uchun xavfsizlik protokollari va baholashlar mavjud. SI uchun u tizimlarning evolyutsiyasini kuzatib boradigan, xatarlarga proporsional sertifikatsiya jarayonlarini yaratadigan metodologiyani taklif qiladi, bu esa modellarning qobiliyatlari oʻzgarganda yangilanishi mumkin, shu tariqa eng ilgʻor tizimlar uchun talablarni standartlashtirmasdan kuchaytirish imkonini beradi.
Microsoft prezidenti Brad Smit ham qonuniy va xavfsizlik yoʻriqnomalarini joriy etishni qoʻllab-quvvatladi. U yaqinda sodir boʻlgan voqealar tufayli 2026-yilni katta xavotir manbai deb hisobladi va tartibga solish innovatsiya surʼatiga mos kelishi kerakligini taʼkidladi. Smit hech bir tashkilot yoki texnologiya qonundan ustun turmasligi kerak, ammo qoidalar texnik taraqqiyotni hisobga olishi va ortiqcha cheklovlardan saqlanishi kerakligini taʼkidladi.
Xavotir Yevropa vakillari orasida ham kuzatildi. Yevropa Komissiyasi texnologiya sohasi boʻyicha ijrochi vitse-prezidenti Henna Virkkunen kompaniyalarning modellarini tahlil qilishga koʻproq vaqt va resurs ajratishi kerakligini aytdi. Virkkunen global raqobat kompaniyalarni xavfsizlikni sinashga zaruridan kamroq sarmoya kiritishga undashi mumkinligini koʻrsatdi, bu esa ishlab chiquvchilar operatsiyaga qoʻygan tizimlarga nazoratni saqlab qolishlari muhimligini taʼkidladi.
Yevropa Komissiyasi asosiy SI kompaniyalariga qabul qilingan xavfsizlik va himoya choralari haqida maʼlumot soʻraganini maʼlum qildi. Bundan tashqari, organ modellar kutilgan parametrlardan tashqarida xatti-harakatlar namoyish etgan yaqinda yuz bergan hodisalarni tekshirib koʻrmaga boshladi. Ushbu muhokamalar sektor uchun markaziy muammoni koʻrsatadi: SI agentlarining funksionalligini kengaytirish va ularning harakatlarini nazorat qilish, kirishlarni cheklash va kutilmagan xatti-harakatlarni toʻxtatish qobiliyatini saqlab qolish.
Hassabisning ogohlantirishi jiddiy hodisa aniq bir muddatda sodir boʻlishini anglatmasligini eslatish muhim; bu ijrochi tomonidan amalga oshirilgan xavf bahosi boʻlib, tizimlarning evolyutsiyasi va sanoat hamda hukumatlar tegishli himoya choralari joriy etish qobiliyatiga bogʻliq.