OpenAI xavfsizlik boʻlimining sobiq xodimi, ChatGPT uchun masʼul boʻlgan kompaniya, sunʼiy intellekt (SI) bilan shugʻullanuvchi kompaniyalarning tobora mukammallashtirilayotgan tizimlarni ishlab chiqishda yuzaga keladigan xatarlarni boshqarishga yondashuvini tanqid qildi. David Robinson texnologik poyga tezlashishi nosozliklar ehtimolini oshirayotganini va yanada ehtiyotkor pozitsiya talab qilishini taʼkidlaydi.
Shanba kuni (3) Amerika jurnalidagi The Atlantic da nashr etilgan maqolada Robinson SI ishlab chiqarayotgan kompaniyalar, jumladan OpenAI, «yetarli darajada ehtiyotkor emas» deb bildirgan.
Sobiq xodim fikricha, kompaniyalar yanada ilgʻor tizimlarni ishlab chiqishdan oldin xavfsizlik mutaxassislari va tadqiqotlarga koʻproq eʼtibor qaratishi kerak. Robinson taʼkidladi: «Sinov va xato davri tugadi».
U ilgʻor SI tizimlarining atom energiyasi va aviatsiya kabi sektorlarda qoʻllaniladigan xavfsizlik choralariga ega boʻlishi kerak deb hisoblaydi. Robinson shuningdek, OpenAI ning «iterativ joriy etish» deb nomlagan amaliyotini tanqid qildi, bu tizimlarni ishga tushirish va muammolar aniqlangandan soʻng xavfsizlik choralari kuchaytirishni oʻz ichiga oladi.
Bu izohlar SI sohasidagi muhokamalarning bir qismi boʻlib, kompaniyalar tobora murakkab tizimlarni qanday tezlikda yaratayotgani haqida bormoqda. OpenAI va uning raqibi Anthropic tizimlar xavfsizlik choralari ishlamagan yoki eksperimental tizimlar kutilmagan xatti-harakatlar namoyish qilgan holatlardan keyin savol ostida qolmoqda.
Koʻproq maʼlumot:
Robinsonning tanqidlari SI kompaniyalari ishchilari orasida yolgʻiz holat emas. Oylikda OpenAI dan Anthropic ga oʻtgan sobiq tadqiqotchi ham sanoatdan ketib, ikkala amerikalik kompaniyani «bizning hayotimiz bilan oʻyin oʻynash»da aybladi.
Jakeb Kokson, 27 yoshli britaniyalik, dastlabki oʻqitish ustida uch yil ishladi — bu SI modellarining ulkan hajmdagi maʼlumotlarni oʻzlashtiradigan bosqichdir. U avval OpenAI da, soʻngra joriy yilda Anthropic da ishlagan.
Kokson X platformasida yozdiki: «Hech bir kompaniya masʼuliyat bilan harakat qilmayapti. Ular oʻzini takomillashtira oladigan superintellektga toʻgʻridan-toʻgʻri yugurib borishmoqda va bizning hayotimizni xavfga qoʻymoqda».