OpenAI, Anthropic, Meta va Microsoftdagi tadqiqotchilar sunʼiy intellektni ishlab chiqishning darajasini kompaniyalar oʻzlari oʻrganishi kerakligi haqida vakolatli shaxslarga chaqiriq bildirdilar. Bu ogohlantirish tezkorlik bilan texnologiyalarni yaxshilay oladigan tizimlarga tegishli boʻlib, ularni kuzatib borish qiyin.
Dushanba kuni nashr etilgan maqolada sanoat rahbariyati va Jeffrey Hinton hamda Yoshua Bengio kabi tadqiqotchilar tadqiqotlarning avtomatlashtirilishi yillar davomidagi taraqqiyotni oylarga yoki undan kamroq muddatga qisqartirishi mumkinligini, bu esa muammolarni aniqlashni qiyinlashtirishini taʼkidlashmoqda. Ushbu maʼlumot The Wall Street Journal nashri tomonidan eʼlon qilindi.
AI ishlab chiqish jarayoniga tobora koʻproq jalb boʻladigan tizimlarni yaratish allaqachon amalga oshirilmoqda. Anthropic kompaniyasi Claude oʻzining ilmiy tadqiqotlari va ishlab chiqishlarining 26 foizini tashkil etishini va 90 foizdan ortiq vaqt davomida baʼzi imkoniyatlarda ishlatilishini maʼlum qildi.
Koʻproq maʼlumot:
OpenAI 2028 yilga toʻliq avtomatlashtirilgan AI tadqiqotchisini yaratishni maqsad qilgan. Kompaniya shuningdek, oʻzining tadqiqot xodimlariining taxminan 70 foizi ishda yordam berish uchun toʻrtta yoki undan ortiq AI agentlaridan foydalanishini maʼlum qildi.
WSJ maʼlumotlariga koʻra, bunday taraqqiyot inson aralashuvlari uchun imkoniyatlarni kamaytirishi va tadqiqotchilar muammolarni aniqlash va hal qilish uchun zarur boʻlgan tajribaning bir qismini yoʻqotishiga olib kelishi mumkin.
Maqalada yanada avtonom tizimlarni kuzatib borishning murakkabligini namoyish etuvchi misol keltirilgan. Izolyatsiya qilingan muhitda kiberxavfsizlikni sinovdan oʻtkazish uchun yaratilgan OpenAI ning yuzlab agentlari ruxsatsiz internetga kirib, Hugging Face ga singib kirdi. Operatsiya miqyosi shunchalik katta edi,ki, hodisani tahlil qilish masʼul boʻlgan mustaqil tadqiqotchilar OpenAI bilan kelishuvga binoan tergov oʻtkazish uchun AI dan foydalanishga majbur boʻldilar.
Bu hodisadan soʻng OpenAI xavfsizlik va monitoring choralari qoʻshish uchun baʼzi mashgʻulotlarni toʻxtatdi. Oʻtgan hafta u agentlarning notoʻgʻri xatti-harakatlarining yangi holatlari aniqlangach, eng kuchli modellarining oʻqitilishini yana toʻxtatdi.
Maqalada tadqiqotchilar ushbu jarayonni nazorat qilish boʻyicha takliflar ham taqdim etishdi: «Biz allaqachon agentlar nima qilayotganini kuzatish uchun AI tizimlariga muhtoj boʻlgan bosqichdaman. Bu agentlarni kuzatish va nazorat qilishning boshqa yoʻli yoʻq; odamlar yetarli emas».
Meta AI tadqiqotlari vitse-prezidenti va Kaliforniya universiteti, Berkli, Masʼul dezentralizatsiya qilingan intellekt markazining jamoaviy direktori Don Song WSJ uchun maqolaning mualliflaridan biridir. Uning soʻzlariga koʻra, «inson jamiyati bunday tezkor oʻzgarishlar va uzilishlarga tayyor emas».
Tadqiqotchilar yuqori malakali AI tizimlarining beqaror rivojlanishini va qoʻllanilishini oldini olish uchun xalqaro bitimlar qoʻllashni himoya qilishmoqda. Eng yomon ssenariyda ular nazoratni yoʻqotish insoniyatning «chegaralashishi yoki yoʻq boʻlishiga» olib kelishi mumkinligini bayon etishmoqda.
>
