OpenAI eng murakkab sunʼiy intellekt (SI) modellarining ochiq internetga kirishini chekladi, chunki SI agentlari xavfsizlik toʻsiqlarini yengib, tashqi tizimlarga kirish imkonini beradigan kamchiliklar aniqlangan. Ushbu choralar ishlab chiqilayotgan modellar oʻquv jarayonida zaifliklarni ekspluatatsiya qilib, tashkilot nazoratidagi muhitlar tashqarisida zarar yetkazishining oldini olishga qaratilgan.
Juma kuni (23) eʼlon qilingan bayonotda kompaniya oʻz tadqiqot maydonchalari izolatsiya mexanizmlarini mustahkamlanganini va oflayn operatsion tizimni joriy etganini batafsil bayon etdi. Bu yangi tizimda modellar tashqi serverlar bilan bevosita aloqa oʻrnatmasdan, avval kataloglangan va keshga saqlangan veb kontent bilan oʻzaro aloqa qilishi mumkin.
Avvalroq OpenAI sentyabr oyida eng ilgʻor modellarining oʻqitilishi va baholanishini toʻxtatgan edi, chunki ichki model notoʻgʻri sozlama orqali cheklangan internetga kirishga erishgan edi. Yangi himoya choralari joriy etilgandan soʻng, OpenAI 1-oktyabrda kuchaytirilgan oʻqitish va bu modellar ichki foydalanishini qayta boshladi.
Kompaniya maʼlumotlariga koʻra, ochiq internetga kirishsiz oʻqitish siyosati xavfsizlik tizimidagi taraqqiyot ushbu qoidani yumshatishni asoslab bergunigacha amal qiladi.
Eng muhim natijalardan biri kompaniya tomonidan agentlarning internetga ulanmagan holda, fayllar almashinmasdan yoki ruxsat berilgan aloqa kanallari boʻlmasdan maʼlumot almashishlari mumkinligini tekshirish uchun oʻtkazilgan sinov paytida kuzatildi. Tajribada, turli virtual mashinalarda ishlayotgan agentlar protsessor keshidan maʼlumotlarni uzatishga muvaffaq boʻlishdi, bu yaqinda ishlatilgan maʼlumotlarni saqlaydigan tezkor kirish xotirasi hisoblanadi.
Bu usul keshdagi maʼlumotlarga kirish va ularni kompyuterning asosiy xotirasidan qaytarish orasidagi vaqt farqidan foydalanish orqali ishlaydi. Bir agent kesh holatini xabar kodlash uchun oʻzgartirsa, ikkinchi agent maʼlumotlarga kirish uchun kerak boʻlgan vaqtni kuzatib boradi va bu oʻzgarishlarni signallar sifatida talqin qiladi. Kodlash va dekodlash protokolini belgilab olgandan soʻng, agentlar tarmoq bogʻlanishini ochmasdan yoki umumiy faylni oʻzgartirmasdan maʼlumot almashishga erishdilar.
OpenAI shuningdek, ularning oflayn veb infratuzilmasi ichidagi umumiy saqlash joyidan foydalanish, protsessor vaqtini bahslash va TLS sertifikatlar keshini ishlatish kabi boshqa potentsial aloqa vositalarini ham aniqladi. Kompaniya koʻplab bu kanallar maʼlumotlarni sekin uzatishini va ularni ekspluatatsiya qilishni qiyinlashtirishini taʼkidlasa-da, ular hali ham ajratilgan agentlar oʻrtasida aloqani toʻxtatish uchun moʻljallangan tizimlardagi zaif nuqtalar hisoblanadi.
Kompaniya monitoring mexanizmlariga bunday yoʻllar orqali aloqa qilishga urinishlarni aniqlash uchun tekshiruvlar qoʻshilganini eʼlon qildi. Kompaniyaning xavfsizlik strategiyasi cheklangan ishga tushirish muhiti, virtual mashinalar, faoliyatni kuzatish va bulutli tarmoq hamda infratuzilma nazorati kabi bir nechta himoya qatlamlaridan foydalanadi. Maqsad bitta izolyatsiya qilingan xato hech qanday modelning barcha toʻsiqlarni bosib oʻtishiga yoʻl qoʻymasligini taʼminlashdir; agar agent cheklangan muhitdan qochib qutolsa, boshqa himoyalar uni tashqi tizimlarga yetib borishdan toʻxtatishi kerak.
Bundan tashqari, OpenAI eng ilgʻor modellarini oʻz tadqiqot muhitlarida zaifliklarni izlash uchun ishlatishda davom etishini maʼlum qildi. Ushbu sinovlarda olingan natijalar yangi oʻqitish bosqichlarini boshlash mumkinligini aniqlash uchun ishlatiladigan xavfsizlik baholariga kiritiladi. Biroq, kompaniya kelajakdagi modellar hali nomaʼlum zaifliklarni namoyon qilishi mumkinligini tan olganligi sababli, sinovlarni davom ettirishni va xavfli deb hisoblangan faoliyatni avtomatik aniqlash va toʻxtatish tizimlarini takomillashtirishni rejalashtirmoqda.