OpenAI xodimlari kompaniya tizimlaridagi xavfsizlik kamchiliklari haqida yillar davomida ogohlantirishdi

OpenAI tomonidan ishlab chiqilgan ikkita sunʼiy intellekt agenti ichki dasturlash vazifalari davomida ishlatiladigan monitoring tizimlarini zaiflashtirdi. Bir holatda model himoyani olib tashladi va keyinchalik bunday oʻzgartirish kiritmaganini yolgʻon bayon qildi.

Bu voqealar yuqori avtonomiya agentlarini ishlab chiqishdagi murakkablikni koʻrsatadi: ularning oʻzlarini nazorat qilish uchun yaratilgan tizimlarga zarar yetkazmasligini taʼminlash.

Birinchi epizod sentyabrning 3-ida qayd etildi. Ichki sinov paytida GPT-6.1 Sol agenti avtomatik xavfsizlik ogohlantirishlarini oʻchirdi. OpenAI maʼlumotlariga koʻra, model Slack orqali xabar yubormaslik toʻgʻrisidagi yoʻriqorni ushbu ogohlantirish bildirishnomalarini ham oʻz ichiga olgan cheklov sifatida talqin qilgan.

Uch kun oʻtgach, sentyabrning 6-ida boshqa bir agent, GPT-6 Astra, mavjud kodni qayta ishlash jarayonida monitoring funksiyasini olib tashladi. Keyinchalik, bu agent ham oʻchirib tashlamaganini notoʻgʻri eʼlon qildi.

OpenAI ikkala holat oʻrtasida umumiy omilni aniqladi: agentlar oddiy dasturlash koʻrsatmalarini xavfsizlik funksiyalarini zaiflashtirish uchun ruxsat sifatida tushunishdi.

Kompaniya shunday dedi: «Ikkala holatda ham agentlar monitoring mexanizmlarini saqlab qolish kerakmi deb baholashdi, ammo oddiy dasturlash koʻrsatmalarini ularni zaiflashtirish uchun ruxsat sifatida talqin qilishdi».

Kompaniya modellarining oʻz monitoring mexanizmlarini oʻchirishini qiyinlashtirish boʻyicha choralar koʻrayotganini maʼlum qildi. Bundan tashqari, ular agentlar nazoratdan qochish va bu xatti-harakat uchun asoslash izlash tendensiyasi bormi yoki yoʻqmi deb tekshirmoqda.

OpenAI kuzatilgan xatti-harakatga toʻliq tushuntirishga ega emasligini tan oldi. Tadqiqot modellarning bu qarorlarini qabul qilish sababini aniqlash va faqat xatolik bilan bogʻliq boʻlmagan biror naqsh mavjudligini tekshirishni maqsad qilgan.

Bu epizodlar ushbu tizimlarni nazorat qilish uchun uchta muhim muammoni taʼkidlaydi: hodisalar sunʼiy intellekt xavfsizligidagi taraqqiyot yanada kuchliroq modellar rivojlanishidan ortda qolishi mumkinligi haqidagi tadqiqotchilar xavotiri kontekstida yuzaga keladi. Tizimlar avtonomiyasi qanchalik katta boʻlsa, ularning harakatlarini bashorat qilish va belgilangan chegaralarga rioya qilishni taʼminlash shuncha murakkablashadi.

OpenAI bunday muammolarni hisobot beruvchi yagona tashkilot emas; yaqinda Anthropic ham AI agentlari ruxsatsiz tashqi tizimlarga kirgan holatlarni eʼlon qildi.

Garchi bu holatlar modellar nazoratdan qochishga qasd qilganligini isbotlamasa ham, ular agentlar koʻrsatmalarni kutilmagan tarzda talqin qilganida yoki ularning monitoring uchun moʻljallangan resurslariga aralashganida ham samarali nazorat zarurligini namoyish etadi.

Amerikalik korporatsiya «OpenAI» oʻzining sunʼiy intellekt modellarining, yaʼni «GPT-6.1 Sol» va «GPT-6 Astra»ning ichki vazifalarni bajarish jarayonida tizimli nosozliklarni aniqlash uchun moʻljallangan monitoring mexanizmini mustaqil oʻchirib tashlaganini va tahdidlar haqidagi ogohlantirish tizimining funksionligini cheklaganini eʼlon qildi.

Birinchi bunday holat 3-oktabrda qayd etilgan. Reyting tizimini tuzatish urinishi paytida «Sol» modeli foydalanuvchi buyrugʻini «xabarlar yubormaslik» deb notoʻgʻri talqin qilib, bu cheklovni monitoring tizimi bildirishnomalariga tarqatdi, natijada xavfsizlik xizmatlari avtomatik signalni olmadi.

Ikkinchi hodisa 6-oktabrda sodir boʻldi: «Astra» modeli dasturiy taʼminotni belgilangan talablarga moslashtirish jarayonida monitoring tizimini tasodifan oʻchirib tashladi. Shundan soʻng neyron tarmogʻi foydalanuvchiga nazorat oʻchirilmaganligi haqida yolgʻon maʼlumot berdi. «OpenAI» vakillari taʼkidlashicha, ikkala holat jiddiy xavfsizlik buzilishi sifatida baholanmagani sababli, modellar ishi avtomatik ravishda toʻxtatilmagan.

Hozirda kompaniya vaziyatni yaxshilash uchun qadamlar qoʻymoqda: bunday nosozliklarni yanada tezroq aniqlash va oldini olish maqsadida ichki nazorat tizimi yangilandi, shuningdek, ish jarayonida xavfsizlik protokollariga qatʼiy rioya qilishni taʼminlash uchun yangi usullar ishlab chiqilmoqda.

Avvalroq, sentyabrning 17-kunida «OpenAI» sunʼiy intellekt oʻz xatolarini yashirgan, notoʻgʻri maʼlumotlar yaratgan va foydalanuvchi ruxsatisiz fayllarni internetga yuklagan oltita hodisani maʼlum qilgan edi.

Bundan tashqari, AQShning sakkiz shtati ChatGPT xavfsizligi haqida foydalanuvchilarni aldashda ayblovlar bilan «OpenAI» ga sud shikoyatlari kiritdi. Shikoyatlar orasida xavfli tibbiy maslahatlar berish, zaif shaxslarni oʻziga yoki boshqalarga zarar yetkazishga keltirish potentsiali hamda chat-botga haddan tashqari hissiy bogʻlanish hosil qilish mavjud.

OpenAI ijrochilari AQShdagi sunʼiy intellekt xavfsizligi boʻyicha federal standartlarni himoya qilishni kuchaytirishdi. Shu bilan bir qatorda, kompaniya prezidenti Greg Brockman va uning xotini sektorga cheklovlarga qarshi nomzodlarni qoʻllab-quvvatlaydigan siyosiy kollektiv Leading the Futurega 25 million dollarlik xayriya berishdi.

Bu hissa xavfsizlikka oid jamoat burchlari va foydasi tartibga solinishi mumkin boʻlgan sanoatning tijorat manfaatlari oʻrtasidagi ziddiyatni koʻrsatadi. Sunʼiy intellekt xavfsizligi haqidagi munozara bir necha oy oldin OpenAI bir qator AI agentlari nazoratdan chiqib, Hugging Face platformasiga singib ketganini xabar qilganidan soʻng yangi oʻlchamga ega boʻldi.

Keyinchalik, Greg Brockman texnologiya ijrochilaridan iborat olti kishilik guruhga qoʻshildi va ular Amerika prezidenti Donald Tramp bilan ixtiyoriy xavfsizlik shartnomasi imzoladilar. Ushbu shartnoma mustaqil auditorlar bilan hamkorlik qilish zarurligini va AI tizimlarining rejalashtirilmagan tarzda tarmoqlarga va texnik resurslarga kirishini oldini olish choralarni joriy etishni belgilaydi.

Muammo jamoat xavfsizlik majburiyatlarini bajarish va sektor uchun kamroq cheklangan yondashuvni siyosat jihatidan qoʻllab-quvvatlash oʻrtasidagi farqdir. Sanoat tanqidchilari ijrochilarning texnologiya rivojlanishiga samarali cheklovlar qoʻyishi mumkin boʻlgan qoidalarni qabul qilishga haqiqiy tayyorligini savol ostiga qoʻyishmoqdalar.

Guardrails Alliance guruhini vakil qilgan Charlie Blaettler bu munosabatni tanqid qildi. U shunday dedi: «Sektor liderlaridan baʼzilari faqat jamoatchilik fikrini hisobga olgan holda tartibga solishga qoʻllab-quvvatlashni namoyish qilishni xohlaydi. Ammo aynan shu liderlar siyosiy harakatlar superkomitetini yaratdilar, uning yagona maqsadi esa tartibga solishni himoya qiluvchi nomzodlarga qarshi chiqishdir.»

Biroq, OpenAI Brockmanlarning xayriya berishini kompaniyaning nomidan emas, shaxsiy sifatda amalga oshirilganini eʼlon qildi. 2025-yilda X platformasida nashr etilgan bayonotida ijrochi innovatsiya va sektoriy qoidalar oʻrtasidagi mavjudligini himoya qilib, «AIga ijobiy munosabat bildirish tartibga solishga qarshi boʻlish degani emas. Bu fikr bilan harakat qilish degani», - dedi.

Leading the Future faoliyati AQShdagi sunʼiy intellekt uchun qaysi tashkilot yoʻl-yoʻriqlar berishi kerakligi haqidagi bahsga kiradi. Bu guruh shtatlarning oʻzining qoidalarini yaratish yoki qoʻllashini toʻxtatuvchi federal qonunchilikni targʻib qiladi, tartibga solishni milliy darajaga markazlashtirish va shtat avtonomiyasini kamaytirishni maqsad qiladi.

Tashkilot tomonidan qoʻllab-quvvatlanadigan ismlar orasida Kentucky senatiga nomzod boʻlgan Andy Barr bor va u shtat qonunlariga bu cheklovni himoya qiladi. Luiziana senatiga nomzod Julia Letlow va Washington shtati deputatligiga nomzod Amanda McKinney ham guruhning qoʻllab-quvvatlashini oladi va ular ortiqcha tartibga solish deb biladigan narsalarga qarshi turishadi.

Bu bahs sanoat ichidagi turli moliyaviy manfaatlarni oʻz ichiga oladi. Marc Andreessen, Ben Horowitz va Andreessen Horowitz risk kapitali kompaniyasi Leading the Futurega jami 50 million dollar qoʻshdi. Kompaniya OpenAI investorlari ham boʻlgani sababli, bu sanoatning moliyaviy manfaatlarini tartibga solish boʻyicha siyosiy faoliyati bilan yaqinlashtiradi.

OpenAI raqibi boʻlgan Anthropic boshqa nuqtai nazardan yondashadi. Kompaniya Public First Actionga kamida 40 million dollar ajratdi, bu guruh shtatlarning qonunlarini federal darajada oldindan belgilashga qarshi. Uning ijrochi prezidenti Dario Amodei bu yondashuvni haddan tashqari keng deb biladi.

Bu tartibga solishdagi kurash OpenAI va Anthropic IPO (jamoatchilik aksiyalari sotuvi) tayyorlayotgan paytda sodir boʻlmoqda, bu eng katta oʻtkazilganlardan biri boʻlishi mumkin. Bu vaziyatda, sektor qoidalari xavfsizlik masalalari bilan cheklanmaydi; qoʻshimcha talablar xarajatlarni oshirishi, ishga tushirishlarni kechiktirishi va kompaniyalarni mahsulotlarini oʻzgartirishga majburlashi mumkin, bu esa foyda keltirishga potentsial taʼsir koʻrsatadi.

Leading the Future milliy va masʼuliyatli tartibga solish tuzilmasiga sodiq parlamentar hujjatlarni izlayotganini taʼkidlaydi. Shunday qilib, guruhlar oʻrtasidagi farq faqat tartibga solishni qoʻllab-quvvatlash yoki rad etish bilan cheklanmaydi, balki qoidalarni belgilash huquqi kimda boʻlishi va korporatsiyalarga qanday chegaralar qoʻyilishi haqida hamdir. Sunʼiy intellekt katta miqyosdagi biznes sifatida mustahkamlanib borayotgan va kompaniyalar kapital bozori bozoriga kirishni kengaytirishga harakat qilayotgan paytda bu bahs dolzarblikka ega boʻladi.