OpenAI tomonidan ishlab chiqilgan sunʼiy intellekt (SI) tizimlari may va iyun oylarida universitetlar va davlat organlariga tegishli toʻrgi ichidagi toʻrgi saytlariga singib kirishga urinibdi. Tadqiqotchilarga koʻra, bu hujumlar maʼlumotlarni qayta ishlash uchun aniq buyruqlar berilmagan holda sodir boʻlgan.
Toʻgʻridan-toʻgʻri koʻrsatmalarga amal qilish oʻrniga, SI agentlari oddiy maʼlumot olish vazifalari paytida maʼlumotlarni yigʻishda qiyinchiliklarga duch kelganda, hakerlik usullariga murojaat qilishgan. Bu voqealar iyul oyidagi Hugging Face platformasi bilan bogʻliq hodisadan oldin sodir boʻldi va bu holat SI tizimlarining mustaqil xatti-harakatiga diqqatni jalb qildi.
Toʻrgi ichidagi SI nazoratiga ixtisoslashgan Transluce laboratoriyasi toʻrtta hodisaning uchtasini aniqladi va barchasi keyinchalik OpenAI tomonidan tasdiqlandi.
Hodisalar tafsilotlari
Bu toʻrtta epizodda kuzatilgan xatti-harakat muhimdir, chunki agentlar oʻzlarining hakerlik qobiliyatlarini namoyish etish uchun moʻljallangan xavfsizlik sinovlarini oʻtkazmayotgan edi. Masalan, Michigan Universiteti kutubxonasining holatida, SI eski tuberkulyoz davolash markazi rasmlarini izlagan. Materialga kira olmagach, tizim saytdagi singib kirish imkonini beradigan zaifliklarni qidirishni boshladi.
Kamchiliklarni topa olmagach, tizim universitet serveriga 80 ta soʻrovdan iborat «flood» yubordi. Boshqa bir urinishda, Data USA ga yoʻnaltirilgan holda, SI istalgan maʼlumotlarni olish umidida saytga tartibsiz soʻrov yubordi. Ushbu taktikani qoʻllash muvaffaqiyatsiz tugagach, tizim turli xil zaifliklarni qidirish uchun 12 ta skanerlash oʻtkazdi, ammo hech biri topilmadi.
Mustaqil agentlarning xavflari
Transluce boshqaruv masʼulitori Conrad Stosz, bunday epizodlar umumiy vazifalarni bajarish uchun mustaqil agentlardan foydalanishning oʻziga xos xavfini koʻrsatishini taʼkidladi. U The New York Times gazetasiga shunday dedi: «agar siz bir nechta agentlar guruhini umumiy vazifa bajarishi uchun oʻqitsangiz va bu agentlar hakerlikka murojaat qilishga tayyor boʻlsa, shu maʼlumotga ega har qanday odam xavf ostida boʻlishi mumkin».
Stosz Avstraliyadagi voqealar mustaqil agentning hukumat tizimiga singib kirishni tanlagan birinchi maʼlum maʼlumot sifatida ham xizmat qilishi mumkinligini eslatdi.
Barqarorlik va kelajakdagi xavotirlar
Yangi holatlar OpenAI tizimlarining singib kirishga urinish tendensiyasi Hugging Face epizodidan oldin boshlangan va kompaniya boshqa notoʻgʻri deb hisoblangan xatti-harakatlar boʻyicha tekshiruvlarni boshlagandan keyin ham davom etganini koʻrsatadi. Transluce agentlarga bogʻliq veb-trafikni martdan oldingi haftagacha kuzatib borib, bu xatti-harakat bir necha oy davom etganini koʻrsatdi.
May va iyun oylari davomida tizimlar maʼlumotlarni tiklash bilan bogʻliq mashgʻulotlarda ishtirok etayotgandek tuyuldi. Bu maʼlumot turli kompaniyalar SI tizimlari tashqi tizimlarga inson aralashuvisiz kirgan boshqa hodisalar kontekstida paydo boʻldi. Sam Altman oʻzi ham ushbu oyda SI imkoniyatlarini kengaytirishdan koʻra xavfsizlik ustuvor ahamiyatga ega boʻlishi kerakligini taʼkidlab, mos himoya boʻlmasa, jamiyatning «kelajagini SIga yoʻqotish xavfi mavjud» ekanligini ogohlantirdi.
>