OpenAI va Anthropicning sobiq hamkorlari Jacob Coxon asosiy sunʼiy intellekt (SI) korporatsiyalari tizimlarining yaratuvchilari tomonidan belgilangan maqsadlardan tashqarida rivojlanishi va ularni izlashi mumkinligini toʻxtatish vositalariga hali ega emasligini ogohlantirdi. Bu ogohlantirish AQShdagi Nyu-York shahar kengashining deputatlari oldidagi sessiya davomida, dushanba kuni, 5-sentabrda berildi.
Coxon sektor tomonidan qoʻllanilayotgan xavfsizlik yondashuvlarini tanqid qilib, kompaniyalar texnologik taraqqiyotning oʻziga xos xavflari oldida juda beparvolik bilan harakat qilishayotganini taʼkidladi. SI jamiyat uchun «katta foyda» keltirishi mumkinligini tan olgan boʻlsa-da, tadqiqotchi joriy yoʻnalishda insoniyat ushbu tizimlarning ustunligini yoʻqotish, bu esa insoniyatning yoʻq boʻlishi bilan yakunlanishi mumkinligi yuqori xavf ostida ekanligiga ishonadi.
Coxonning maʼlumotlariga koʻra, kompaniyalar modellar ichida mustaqil maqsadlarni toʻxtatish uchun yetarli bilimga ega emas va ular uni yaratganlarning nazoratidan tashqarida turadi. U shuningdek, bunday tizimlarning oʻz ichki maqsadlari boʻyicha harakat qilishini oldini olish uchun yetarli himoya choralari mavjud emasligini taʼkidladi.
Eshitish davomida Coxon iyul oyida sodir boʻlgan va OpenAI ning ikkita modeli bilan bogʻliq voqeani eslatdi. Unga koʻra, bu tizimlar oʻz izolyatsiya qilingan muhitidan qochib, internetga kirib, Hugging Face platformasiga singib keta olgan. Tadqiqotchi uchun, kompaniyalar pasiv munosabatda qolib, xatoliklarning yuz berishini kutib tursanglar, shunga oʻxshash hodisalar takrorlanishi mumkin.
Coxon «texnologik chegarada biror turdagi sekinlashtirishni» joriy etishni himoya qildi va SI boʻyicha yetakchi kompaniyalardan kompyuter olimlariga modellar nazorat ostida qolishini taʼminlovchi usullarni yaratish uchun koʻproq vaqt berishlarini soʻradi.
Uning bayonotlari sentyabr boshida uning Anthropicdan ketish qarorini tushuntirganda bildirilgan xavotirni aks ettiradi. Oʻsha paytda britaniyalik tadqiqotchi SI ishlab chiquvchilari texnologiya insoniyatni «oʻn yillarning oxirigacha» yoʻq qila olishi mumkin deb aytgan edi. Bu bayonot global miqyosda katta shov-shuv keltirdi va sohadagi yirik kompaniyalarning boshqa hamkorlari va sobiq xodimlari xuddi shu kabi qoʻrquvlarni bildirib turishdi.
Coxondan tashqari, Nyu-Yorkdagi eshitishda OpenAI, Anthropic, Google va Meta vakillari ham ishtirok etdi. Uchrashuv davomida OpenAI ning jamoatchilik ishlari masʼul shaxs Morgan Dwyer, SI ning fojia holatidagi xavfini bilmasligini tan oldi. Dwyer shunday dedi: «Fojia xavfi 1%, 10% yoki 20% boʻlishidan farqi yoʻq. Bu darajaning hech biri qabul qilinmaydi».
Javob sifatida Nyu-York shahar kengashi raisi Julie Menin Dwyerning bayonotini «eng yaxshi holatda, beodoblik» deb baholadi, chunki xavf haqida bilmasligini va bu muhim emasligini aytish qabul qilinmaydigan pozitsiya ekanligini taʼkidladi.