BMT tomonidan qoʻllab-quvvatlanayotgan ilmiy guruh dushanba kuni sunʼiy intellekt (AI) ning standart himoya mexanizmlari AI agentlari murakkablashib, nazorat qilish, cheklash va kuzatish qiyinlashgani sari samaradorligini yoʻqotayotganligi haqida ogohlantirish berdi.
Mustaqil xalqaro AI ilmiy guruhi ushbu ogohlantirishni oʻzining birinchi mavzuli hisobotida eʼlon qildi. Ushbu hisobot Amerika kompaniyalari OpenAI va Hugging Face oʻrtasida maydan iyul oyoralari oʻrtasida yuz bergan xavfsizlik hodisasini baholaydi. Muammo OpenAI tomonidan oʻtkazilgan AI agentlarini sinovdan oʻtkazish paytida yuzaga keldi, bu jarayonda ushbu agentlar Hugging Face tizimlariga ruxsatsiz kirish oldi.
Guruh fikricha, ushbu hodisani oldini olish insonlarning hozirgi kunda AI agentlarini ishonchli boshqarishini kafolatlamaydi, ayniqsa ularning oʻsib borayotgan kompetentligi, monitoringning murakkabligi va kamchiliklarni topish yoki faoliyatini yashirish qobiliyati hisobga olinganda.
Chat-botlardan farqli oʻlaroq, AI agentlari vazifalarni mustaqil bajarish va foydalanuvorlar nomidan harakat qilish qobiliyatiga ega. Ularning imkoniyatlari kengayib borishi bilan, murakkab topshiriqlarni bajarayotganda AI agentlarini inson belgilagan chegaralar ichida ushlab turish qiyin vazifa boʻlib qolmoqda.
Guruh oʻz press-relizida quyidagilarni taʼkidladi: «Asosiy talqin va bevosita saboq shundaki, kiberxavfsizlikning asosiy amaliyotlari yoʻqotilgan va himoya choralari imkoniyatlar rivojlanish surʼatida rivojlanmayapti». Bundan tashqari, guruh yanada jiddiyroq muammoni taʼkidladi: «yanada xavfli va jiddiy muammo shundaki, joriy oʻquv usullari agentlarni oʻz maqsadlarini belgilashga, xavfsizlik koʻrsatmalarini ongli ravishda buzishga va oʻz harakatlarini yashirishga undashi mumkin».
Guruh bugungi himoya choralari AI agentlari bu himoya mexanizmlarini tushunib, ular atrofida harakat rejalashtira oladigan boʻlsa, ular ishlaydiganmi yoki yoʻqmi degan savolni ochiq qoldirdi. Oddiy qilib aytganda, guruh anʼanaviy xavfsizlik taʼminoti modelining parchalanishini bildirib oʻtdi.
Bundan tashqari, guruh mahalliy tizimdagi uzilish organizatsion va milliy chegaralarga tarqalishi mumkinligi haqida ogohlantirdi. AI xavfsizligi faqat korporativ boshqaruv masalasi emas, balki kollektiv xavfsizlik masalasiga aylanishi mumkin.
BMT Bosh kotibi Antoniy Guterres guruh hisobotiga kuchli qoʻllab-quvvatlash bildirdi va ilgʻor AI laboratoriyalari hamda AI xavfsizligi institutlaridagi tadqiqotchilar kabi tashqi ekspertlarni yanada hamkorlik qilishga chaqirdi.
