Hozirgi kunda sunʼiy intellekt (SI) koʻplab sohalarda faol qoʻllanilmoqda — tasvir yaratish va savollarga javob topishdan tortib ofis vazifalarini bajarishgacha. Biroq, SI inson nazorati ostidan tashqarida harakat qilishni boshlashi haqida xavotir uygʻotilmoqda.
Bu tahdid yuzasidan Microsoft bosh ijrochi direktori Satya Nadella SI haqida muhim bayonot berdi. U ilgʻor SI modellarida odamga zarur boʻlganda ishni darhol toʻxtatish imkonini beradigan tizim mavjud boʻlishi kerak deb hisoblaydi; yaʼni, SI uchun favqulodda tormoz kerak.
Satya Nadella kompaniyalarning SI ishonchli ekanligi sababli unga faqatgina ishonmasligini taʼkidlaydi. SI tomonidan xatoliklar yoki uning tizimi buzilishi xavfi mavjud, shuning uchun oldindan tayyorgarlik talab etiladi.
U SI ni shunday yaratishni taklif qildiki, odam uning faoliyatini nazorat qila olishi va kerakli paytda ishni toʻxtatishi mumkin. SI qanchalik aqlli boʻlmasin, yakuniy nazorat inson qoʻlida qolishi kerak.
Nadella SI ni oʻchirish funksiyasini talab bilan cheklab qoʻymadi. U shuningdek, barcha SI harakatlari, qabul qilingan qarorlar va ularga olib kelgan jarayonlarni protokollash zarurligi borligiga urgʻu berdi. Bu SI xato qilganda sababni aniqlash imkonini beradi.
Bundan tashqari, hal qiluvchi qarorlar uchun bitta modelga tayanmaslik, balki turli SI modellaridan foydalanish hamda SI tizimlarini mustaqil tekshirish muhimligi taʼkidlandi.
Satya Nadella SI ning jiddiy xatolari yoki xavfsizlik muammolari bilan bogʻliq hodisalar haqidagi maʼlumotlar ommaga oshkor qilinishi kerakligini ham bildirdi. Bu boshqa kompaniyalarga bu xatolardan saboq olishiga va oʻz tizimlarining xavfsizligini oshirishiga imkon beradi.
Bugungi kunda SI oddiy savollarga javob berish bilan cheklanmaydi; yangi tizimlar bir qator vazifalarni mustaqil bajarish qobiliyatiga ega boʻlmoqda. Bunday sharoitlarda ularning xavfsizligini taʼminlash va inson nazoratini saqlab qolish yanada muhim ahamiyat kasb etadi.
Umuman olganda, Satya Nadellaning xabari aniq: SI rivojlanishi zarur, ammo unga mutlaq hokimiyatni topshirish aqldan ozgan. Mexanizm qanchalik aqlli boʻlmasin, toʻxtatish tugmasi inson qoʻlida qolishi kerak.