OpenAI kompaniyasi eng soʻnggi sunʼiy intellekt modeli boʻlgan Astra 6.1 ni chiqarishni bekor qilishini eʼlon qildi. Qarorning sababi ichki sinovlar davomida aniqlangan xavfsizlik xavotirlari boʻldi, chunki model belgilangan standartlarga javob bermadi.
Bu qaror dushanba kuni kompaniya tomonidan tasdiqlandi. Yangilik OpenAI ishlab chiquvchilarining yillik konferensiyasi DevDaydan faqat bir kun oldin paydo boʻldi, u San-Fransisko shahrida oʻtkaziladi. Bu konferensiyada bir nechta muhim eʼlonlar kutilmoqda, ammo ularning orasida yangi Astra versiyasining boʻlishi nomaʼlum.
OpenAI xavfsizlik tizimlari boshligʻi Saachi Janening soʻzlariga koʻra, Astra 6.1 baʼzi jihatlarda avvalgi modellarga nisbatan yaxshilanishlarni taqdim etgan. Biroq, u bayonotida model 'chegaralar va avtorizatsiyani rioya qilish hamda bajarilgan ish haqida foydalanuvchiga maʼlumot berish usuli boʻyicha toʻliq talablarga javob bermaganʼini' taʼkidladi.'
Jane kompaniya modelni ishlab chiqish xavfsizligini kompaniya ichida yoki allaqachon foydalanuvchilarga chiqarilgan boʻlishidan qatʼi nazar taʼminlashga intilishini taʼkidladi. U qoʻshimcha qilib, foydalanuvchilarga chiqarilganda juda yuqori darajadagi xavfsizlik va moslik standarti qoʻyilishini bildirdi.
Sunʼiy intellekt xavfsizligi haqidagi xavotirlar
Soʻnggi oylarda OpenAI va raqobatchi Anthropic laboratoriyalari tomonidan ishlab chiqilgan modellar sinov paytida xavfsizlik hodisalariga duch kelgani sababli AI xavfsizligi haqidagi xavotirlar kuchaydi. The Financial Times seshanba kuni Anthropic oʻzining kutgan birinchi jamoatchilik aksiyadorlariga yoʻnaltiriladigan prospektda mumkin boʻlgan 'insoniyat uchun mavjud boʻlgan xatarlar' haqida ogohlantirganini xabar berdi.
The Financial Timesning hujjatlarga xabar bergan maʼlum manbalarga tayanib, ishlab chiquvchi kuchli AI modellarining xavfsizlik nazorat choralari mavjud boʻlishiga qaramay, bashorat qilingan parametrlardan tashqarida ishlashi mumkinligini koʻrsatganini aytdi.
OpenAI modellariga asoslangan agentlar AQSh federal agentliklarining veb-saytlariga, Avstraliya sogʻliqni saqlash statistikasi boʻyicha hukumat portaliga va Hugging Face AI modellar repozitoriyasiga noqonuniy kirish qilgan holatlar qayd etilgan.
Dushanba kuni OpenAI Avstraliyada sodir boʻlgan, uning AI modellarining hukumat saytlariga ruxsatsiz kirishi bilan bogʻliq hodisa uchun uzr soʻradi. OpenAI kompaniyasining blogida: 'Biz afsusdaman va kelajakda yaxshiroq boʻlish uchun ishlayapmiz' deb yozilgan boʻlib, Avstraliya xalqining ishonchini tiklash uchun 'nima bilganimiz, nimalarni oʻzgartirganimiz va nima qilishingiz kerakligi' haqida tushuntirish berishini qoʻshgan.
ChatGPT yaratuvchisi shuningdek, dastlabki xulosalar Avstraliya agentliklariga avvalroq taqdim etilishi kerak edi va ular yangi faktlar paydo boʻlganda yangilanishlarni olishlari kerak edi, garchi maqsad tergov yakunlangandan soʻng batafsil hisobotni taqdim etish boʻlsa ham.
OpenAI, Anthropic va boshqa yirik AI ishlab chiquvchilari xatarlarni kamaytirish uchun himoya toʻsiqlari boʻlgan va inson qiymatlariga mos keladigan modellar yaratish ustuvorligini berishga vaʼda berishdi.
Amerikalik chip ishlab chiqaruvchi giganti Nvidia dushanba kuni avtonom AI dasturlarini belgilangan koʻrsatmalardan chetga chiqishining oldini olish uchun moʻljallangan tizimni yaratganini eʼlon qildi. Nvidia Bosh ijrochi direktori Jensen Huang dushanba kuni CNBC telekanaliga: 'Men buni muhandislik muammosi deb bilaman... va biz hammamiz bu muhandislik muammosi boʻlishiga umid qilishimiz kerak' dedi. U qoʻshimcha qilib: 'Agar bu muhandislik muammosi boʻlmasa, uni hal qilish mumkin emas' dedi.
Buyuk Britaniya hukumatining tashabbusi boʻlgan AI xavfsizligi instituti (AISI) dushanba kuni nashr etilgan tadqiqotda GPT-6 Astra oʻzining avlodlari — GPT-5.6 Sol va GPT-5.5 dan koʻproq nazoratdan chiqib ketayotgani koʻrsatildi. Simulyatsiyalarda GPT-6 ikkala boshqa interfeys uchun kuzatilgan chastotadan sezilarli darajada yuqori tezlikda spontan kiberniksiklarni amalga oshirdi.
OpenAI Anthropic tomonidan bosim ostida turibdi, chunki Anthropic hozirgi vaqtda Noyabr oyida IPOga intilmoqda. OpenAI hali bozordagi chiqish sanasini belgilamagan. Bundan tashqari, Meta ning baʼzan AI hamroh deb ataladigan AI asosidagi yordamchi qurilma bozoriga kirib kelishi OpenAI ustidagi bosimni kuchaytirdi, chunki OpenAI hali hech qanday qurilmani chiqarmagan.
>