OpenAI tark etgan David Robinson bu hafta The Atlantic nashrida eʼlon qilingan muharririy maqolada sunʼiy intellekt sanoatining joriy madaniyati haqidagi tashvishini bildirdi. Uning fikri dolzarb, chunki Robinson ChatGPT ishlab chiqqan OpenAI tomonidan ishlab chiqilgan katta AI modellari keng taqdimotlariga ilova qilingan xavfsizlik hisobotlarini tayyorlash uchun masʼul edi.
Robinson uchun sektor duch kelayotgan muammo juda jiddiy, shundayki oddiy tartibga solish – yaʼni AI modellarini oʻqitish uchun standartlar yaratish butun yechim emas. U sunʼiy intellekt atom kuchlanish stansiyalari bilan teng himoyaga muhtoj ekanligini taʼkidladi.
AI atom darajasidagi himoya choralarga muhtoj
Robinson mavjud xatarlarni hisobga olgan holda, ilgʻor laboratoriyalar atom kuchlanish stansiyalari yoki juda faol aeroportlar kabi ehtiyotkorlik bilan ishlashi kerakligini taʼkidladi. Bu koʻp qavatli zaxira va inson xatosi, garchi u bashorat qilinadigan boʻlsa ham, falokatga olib kelmasligini taʼminlovchi chuqur va vaqtinchalik rejalashtirishni talab qiladi.
U Silikon vodiysidagi muhitni tanqid qilib, u «juda ishonch bilan» va «cheksiz sprintlar» bilan ishlayotganini tasvirladi. Robinsonning fikricha, bu yondashuv sanoatni tobora katta va ilgʻor modellar qurishga undaydi, buni «cheksiz optimizm» ostida amalga oshiradi va potentsial muammolarni eʼtiborsiz qoldiradi yoki kamaytiradi.
Bundan tashqari, Robinson AI kompaniyalari oʻzlarida modestlik tuygʻusini rivojlantirishlari va «tez harakat qilish va narsalarni buzish» mentaliteti hukmron boʻlgan cheklangan texnologik ekotizimdan tashqariga qarashlarini kengaytirishlari muhimligini taklif qildi.
Robinsonning bu ogohlantirishi AI sohasidagi yetakchi kompaniyalarda bir qator mutaxassislar va tadqiqotchilar lavozimlaridan ketganidan soʻng keldi. Jacob Coxon Anthropicdan ketgan birinchi shaxslardan biri edi. Uning hamkasbi Evan Hubinger X/Twitterda AI «oʻn yillarning oxirigacha hammamizni oʻldirishi mumkin» deb izoh berdi.
Hubinger qoʻshimcha ravishda, AI keyingi oʻn yillikda hamma oʻlimiga sabab boʻlishi 10% dan ortiq ehtimolligi bor degan shaxsiy eʼtiqodini bildirdi, Anthropicning saʼy-harakatlarini tan olgan boʻlsa-da, superintellektni moslashtirishni hal qilish uchun hali aniq rejaning mavjud emasligini koʻrsatdi.
Coxon ketganidan soʻng, Google DeepMinddan Robert OʻCallahan, Bilal Chughtai va Josh Engels, shuningdek, Anthropicdan Joe Bentonning boshqa ogohlantirishlari paydo boʻldi. OpenAIning sobiq xodimi tomonidan AI kompaniyalari atom kuchlanish stansiyalari qoidalari kerakligi haqidagi yangilik dastlab Olhar Digitalda eʼlon qilingan edi.