ChatGPT yaratuvchisi boʻlgan OpenAI xavfsizlik sohasi boʻyicha sobiq hamkor kompaniya sunʼiy intellekt (SI) xavfsizligini boshqarish usullari haqida jiddiy tanqid bildirdi. Yaqinda tashkilotni tark etgan David Robinsonning maʼlumotlariga koʻra, juda tezkor rivojlanish madaniyati xatoliklar yuz berish xavfini oshirmoqda.
Shanba kuni (3) Amerika jurnal «The Atlantic» nashrida eʼlon qilingan maqolasida Robinson SI korporatsiyalari, shu jumladan OpenAI ham, yetarli darajada ehtiyotkorlikni namoyish etmayotganini taʼkidladi. U bu kompaniyalar murakkabroq tizimlarni ilgari surishdan oldin xavfsizlik mutaxassislari va tadqiqotlarga koʻproq va resurslarni ajratishi kerakligini himoya qildi.
Robinson sinov va xato davri tugashi kerakligini taʼkidlab, ilgʻor SI tizimlari aviatsiya va yadro energiyasi kabi muhim sohalarda qoʻllaniladigan xavfsizlik protokollariga ega boʻlishi kerakligini taʼkidladi. U shuningdek, OpenAI ning «iterativ joylashtirish» deb nomlangan metodologiyasini tanqid qildi, bu esa tizimlarni ishga tushirish va muammolar paydo boʻlgandan keyin faqat himoya choralarini mustahkamlashdan iborat.
OpenAI va uning raqobatchisi Anthropic allaqachon xavfsizlik mexanizmlari ishlamagan yoki eksperimental tizimlar kutilmagan xatti-harakatlar koʻrsatgan hodisalar tufayli savol ostida qoldi. David Robinson OpenAI da uch yarim yil ishlaganini va bu davrda kompaniyaning xatarlar boshqaruvi tuzilmasini yaratishga yordam berganini va oʻn ikki ta ilgʻor model chiqarilishining xavfsizlik hisobotlarini nazorat qilganini aytdi.
U kompaniya bir chiqarishdan ikkinchisiga tezlashayotgan paytda, u zarur deb hisoblaydigan vijdon darajasiga erisha olmasligini kuzatdi. Javob sifatida OpenAI oʻz maqsadining modellari kompaniya tomonidan xavfsiz boshqariladigan darajadan oshib ketishining oldini olish ekanligini bildirib, «biz surʼatni pasaytirishimiz kerak boʻlganda mashgʻulotlarni toʻxtatamiz yoki modellarni toʻxtatamiz» deb taʼkidladi.
Bundan tashqari, David Robinson SI imkoniyatlarining taraqqiyoti tadqiqotchilarning «sinxronlashuv» tushunchasi haqidagi bilimidan oshib ketayotganini ogohlantirdi, bu esa SI tizimlarining inson qiymatlari va maqsadlariga muvofiq ishlashini taʼminlashga qaratilgan sohadir.
Bu sunʼiy intellekt kompaniyalari haqida xodimning tashvish bildirgan birinchi holati emas. Oydan oldin, OpenAI dan Anthropic ga oʻtgan sobiq tadqiqotchi ikkala amerikalik kompaniyani «hayotimiz bilan oʻynayapti» deb aybladi. 27 yoshli Britaniya fuqarosi Jacob Coxon oxirgi uch yilini AI modellarining katta hajmdagi maʼlumotlarni oʻzlashtiradigan dastlabki oʻqitish bosqichida, avval OpenAI da, keyin esa asosiy raqobatchisi Anthropicda sarfladi.
Coxon oʻz fikrini ijtimoiy tarmoq Xda bildirib, quyidagicha daʼvo qildi: «Hech bir kompaniya masʼuliyatli harakat qilmayapti. Ular oʻzi takomillashtira oladigan superintellektga tomon bevosita yugurmoqda va bizning hayotimiz bilan tiksilmoqda».