OpenAI kompaniyasining sunʼiy intellekt modellariga AQSh hukumatining veb-saytlaridagi ommaviy maʼlumotlarga, shu jumladan, aholini sanash byurosi va Qiymatlar va birjalarni nazorat qiluvchi komissiya (SEC) saytlariga kirish berildi.
Vaziyat haqida maʼlumotga ega manbalar aytishicha, kompaniyaning agentlik AI tizimlari SEC.gov va Investor.gov, shuningdek, Census.gov ning ommaviy maʼlumotlari bilan oʻzaro aloqada boʻlib, xususiy masalalarni muhokama qilgan.
OpenAI alohida ravishda oʻz modellarining ushbu saytlardagi jamoat maʼlumotlariga oʻquv va texnologiyani baholash paytida kirish olganini tasdiqladi. Avvalgi juma kuni kompaniya oʻzining AI modellarining sinov jarayonida tashriflari natijasida shikastlanishi mumkin boʻlgan universitetlar va hukumatlar kabi «oʻnlab» tashkilotlarga xabar berganini maʼlum qilgan.
Kompaniya oʻquv va sinov jarayonidagi «mos kelmaslik» hodisalarini keng qamrovli tahlil qilmoqda, bu bir necha oylik davom etadi. OpenAIning oʻzining AI agentlarining harakatlarini aniqlashdagi saʼy-harakatlari kibersavodxonlik ekspertlari orasida qaygʻu uygʻotayotgan asosiy muammolardan birini taʼkidlaydi: bu tizimlar ishlab chiquvchi kompaniyalar tomonidan real vaqt rejimida sezilarli darajada ongli boʻlmasdan vazifalarni bajarishgan.
Juma kuni nashr etilgan keng blog postida kompaniya oʻz dasturiy taʼminoti onlayn xizmatning xavfsizlik choralarini chetlab oʻtishi, uning mavjudligini buzishi yoki mos kelmagan AI modeli tashqi veb-sayt yoki xizmatga «salbiy taʼsir koʻrsatishi» mumkin boʻlgan holatlarda turli guruhlarga xabar berganini bildirgan. Bu hodisalar AI bir necha oy oldin Hugging Face ni tasodifan buzganidan keyin boshlangan kengaytirilgan tergov jarayonida aniqlangan.
OpenAI taʼkidlaganidek, tegishli veb-saytlar hukumatlarga, universitetlarga, davlat muassasalari va boshqa guruhlarga tegishli. OpenAI vakili Liz Burjuua quyidagicha bayon etdi: «Biz mos kelmagan modellar faoliyatini diqqat bilan koʻrib chiqmoqdamiz va ularning tizimlariga potentsial taʼsirni aniqlaganimizda tashkilotlarga xabar beramiz. Biz bu ish davom etishi bilan qoʻshimcha xabarlar berishni kutmoqdamiz. Hozircha biz oʻrgangan faoliyatning katta qismi veb-saytlardan savollarga javob topish kabi oddiy tadqiqot vazifalariga tegishli boʻldi».
Bir necha kun avval OpenAI oʻzining AI modellarining ushbu yil boshida Avstraliya hukumat saytini buzganini tan olgan edi, bu davlat maʼlumotlar bazasiga AI tomonidan amalga oshirilgan birinchi maʼlum boʻlgan kiberhujumlardan biri boʻldi. Kompaniya bayonotida bu buzilish modellarini baholash paytida yuz berganini maʼlum qilgan.
Avstraliya janobari Anthony Albanese ushbu hafta OpenAI texnologiyasi sogʻliqniyoʻl statistikasi hisobotlari uchun ishlatiladigan hukumat saytiga ruxsatsiz kirish olganini maʼlum qildi. U 18-iyun kuni sodir boʻlgan buzilish avstraliyaliklarning shaxsiy maʼlumotlarining buzilishiga olib kelmaganini taʼkidladi.
OpenAI shuningdek, juma kuni ijtimoiy tarmoq Xʼdagi postda tekshirgan aksariyat harakatlar AI modellarining saytlarda savollarga javob izlash kabi «oddiy tadqiqot vazifalarini» bajarishini koʻrsatganini maʼlum qildi. Kompaniya koʻrib chiqishning oylarni olishini kutmoqda.
Juma kuni Xʼdagi postida OpenAI rahbari Sam Altman kompaniya istagancha tez ishlamayotganini, ammo u shaffoflik va faoliyat jurnalidagi ulkan hajmdagi maʼlumotlarni topish zarurati oʻrtasida muvozanatni saqlayotganini taʼkidladi. Altman qoʻshimcha qilib: «Biz jiddiy ligasi boʻyicha ustuvorlik berishga va resurslarni qoʻshishga harakat qilmoqdamiz».
OpenAI, Anthropic PBC, Googleʼs DeepMind va Meta Platforms Inc. modellarining buzilishi yirik korxonalar orasida kibersavodxonlik sohasida keng xavotir uygʻotdi. Tipik kibersavodxonlik yetkazib beruvchilari maʼlum zararli dastur shtammlarini kuzatish yoki anomali harakatlarni aniqlash va bloklash uchun mahsulotlar taklif qilishadi. Firewall, pochta filtrlari va hodisa reaglash vositalari kabi anʼanaviy kibersoftuerlar bunday tahdidlarni aniqlashga va keyin buzilgan akkauntlar yoki qurilmalarni izolyatsiya qilish uchun xodimlarimizni ogohlantirishga ixtisoslashgan.
AI modellarining rivojlanishi sezilarli darajada yuqori boʻlib, baʼzan dasturiy taʼminotdagi ilgari nomaʼlum zaifliklarni topadi va maqsadli tashkilotga kirish uchun bir nechta kamchiliklardan foydalanadi. Bunday buzilishlarni toʻxtatish murakkabroq va ular kibersavodxonlik xodimlari uchun sezilmay qolgan holda zararlangan tizimlarga chuqur kirish imkoniyatini berishi mumkin.
