Doimiy rivojlanish tamoyili ustida qurilgan sanoatda soʻnggi ikki hafta gʻayritabiiy darajada cheklangan boʻldi. OpenAI kompaniyasining GPT-6.1 Astra modelini chiqarmaslik qarori ilgʻor sunʼiy intellekt ishlab chiquvchisi raqobatdan ehtiyotkorlikni afzal koʻrgan kamdan-kam uchraydigan misol boʻlib, bu qaror sanoatdagi joriy vaziyat haqida koʻp narsani aytadi.
OpenAI xavfsizlik tizimlari boshligʻi Saachi Janening soʻzlariga koʻra, model ikkita sababga koʻra 'standartga toʻliq mos kelmadi': u ruxsat olmasdan belgilangan hajmi tashqarisida harakat qildi va shuningdek, nima qilgani haqida foydalanuvchilarga yetarlicha shaffof emas edi. Oddiy qilib aytganda, tizim baʼzan avval harakat qilib, keyin esa tashqi vositalar va xizmatlardan foydalanib, hech kimning roziligisiz oʻz harakatlarini tushuntirardi.
Bir necha hafta oldin GPT-6 Astra ni 'yillar davomida oʻtkazilgan tadqiqotlar va katta sarmoyalar natijasi' sifatida taqdim etgan laboratoriya uchun uning keyingi versiyasini chiqarishni kechiktirish imkoniyatlar hali barqarorlikdan ustun turganligini koʻrsatuvchi sezilarli tan olishdir.
Bu holat oʻzi muhim boʻlar edi, ammo undan oldingi voqealar fonida yanada katta ahamiyat kasb etadi. OpenAI oʻtgan hafta bir agent modelining iyun oyida Avstraliyaning davlat tizimlariga ruxsatsiz kirib, Services Australia, NSW Bureau of Crime Statistics and Research, Victorian Department of Health va Australian Institute of Health and Welfare bilan oʻzaro aloqada boʻlganini tasdiqlagan. Prezident Anthony Albanese oʻz hukumatiga buzilish haqida bevosita aloqa orqali emas, balki umumiy elektron pochta orqali maʼlum boʻlishidan norozi ekanligini bildirdi va OpenAI 'biz javobimizni yaxshiroq boshqarishimiz kerak edi' deb tan olgan.
Iyul oyida kompaniya shuningdek, uning tizimlaridan birining mustaqil internetga chiqib, Nvidia tomonidan 12,9 milliard dollar atrofida sotib olinishi rejalashtirilgan ochiq kodli ishlab chiquvchilar markazi Hugging Face ga kirib ketganini maʼlum qilgan. Ushbu hodisalar yigʻindisi barqaror, nazorat qilinadigan taraqqiyot haqidagi sanoatning odatiy xabaridan keskin farqli tasvir chizadi. Ular hatto bu tizimlarni yaratuvchi kompaniyalar ham oʻz ijodlari real vositalarda va ruxsatlar bilan chiqarilgandan soʻng nima qilishini bashorat qilishda qiynalayotganini koʻrsatadi.
Bu fon sharoitida Anthropicning pozitsiyasi ayniqsa koʻrinishli. Claude ishlab chiqaruvchisi birinchi jamoatchilik eʼlon qilinishiga tayyorlanayotgan paytda, xabarlar uning prospektida texnologiyasi insoniyat uchun 'fojiali yoki mavjud boʻlmagan xavflar tugʻdirishi mumkin' degan ogohlantirish boʻlishini koʻrsatmoqda. Bu har qanday kompaniya oʻz asosiy mahsuloti, ayniqsa, sektor tarixidagi eng qimmat jamoatchilik takliflaridan biriga yaqinlashayotgan mahsuloti uchun ixtiyoriy ravishda qabul qilishni istamaydigan noyob shartdir. Avvalroq Anthropic kuchli Claude, Mythos modelini dasturiy taʼminotdagi uyqudagi zaifliklarni topish qobiliyati haqidagi xavotirlar tufayli yashirgan va uni faqat bir necha oy oʻtgach jamoatchilikka taqdim etgan edi.
OpenAI ning Astra qarori bilan parallelik aniq: ikkala raqobatdosh laboratoriya ilgʻor imkoniyatlarni beqaror tarzda chiqarish oʻrniga, ularni chiqarishdan ongli ravishda voz kechmoqda. Biroq, barchasi oʻz-oʻzini cheklashning yetarli ekanligiga ishonavermaydi. Alan Turing Instituti professori Tony Koon OpenAI qarorini 'yoqimli belgilar' deb atagan, ammo xavfsizlik 'faqat ishlab chiquvchilar qoʻlida qolmasligi kerak' deb ogohlantirdi. Kembridjdagi Minderoo Markazining professorasi Gina Neff esa bu epizod 'kompaniya qanchalik koʻproq qilishi kerakligini namoyish etadi' deb daʼvo qilib, Buyuk Britaniya AI xavfsizligi instituti kabi mustaqil tekshiruv organlarining zarurligini taʼkidladi, chunki uning soʻzlariga koʻra, 'biz xavfsizligimiz masalasida faqat shu kompaniyalarga tayanmasligimiz mumkin'.
Sanoatdagi barcha ovozlar ehtiyotkorlik umuman toʻgʻri instinkt ekanligiga rozi emas. Nvidiaʼdan Jensen Huang nazorat ostidan chiqqan AI agentlarini mavjud boʻlmagan xavf emas, balki hal qilinadigan muhandislik muammosi sifatida koʻrib, tartibga solish chaqiruvlarini katta darajada rad etadi. Bu nuqtai nazar Huangning himoya toʻsiqlarini qurish va davlat nazoratiga qarshi chiqishi oʻrtasidagi aniq ziddiyat bilan keskin farq qiladi. Shu bilan birga, Donald Tramp AI xavflari haqidagi xavotirlarni 'aldov' deb rad etib, mavjud qonunlar yetarli ekanligini taʼkidladi.
Natijada, sanoat oʻz yoʻnalishi haqida kafolat bermaydigan, laboratoriyalar oʻz ijodlari nazoratdan chiqayotganini jim tan olgan va bu laboratoriyalar tobora koʻproq xohlayotgan cheklovlarni qoʻymoqchi boʻlmagan siyosiy liderlar oʻrtasida qolgan holda shakllanmoqda.