Dunyo boʻylab sunʼiy intellekt (SI)ga nisbatan katta ishtiyoq mavjud boʻlsa-da, shu bilan birga unga bogʻliq xavflar haqidagi munozara ham ortib bormoqda. Microsoftning bosh kotibidir Bill Geys SI haqida jiddiy ogohlantirish berdi va bu munozarani yanada keskinlashtirdi.
Geys SI shunchalik kuchayganligini va uni notoʻgʻri ishlatish milliardlab odamlarning halok boʻlishi kabi fojiali oqibatlarga olib kelishi mumkinligini taʼkidladi. Shu bilan birga, Geys SI majburan bunday sonlarda oʻlimlarga sabab boʻlishini daʼvo qilmasligini aniqlashtirdi; balki u mavjud va kelajakdagi SI imkoniyatlari noodobiy tomonlar tomonidan keng miqyosli zarar yetkazish uchun ishlatilishi mumkin deb hisoblaydi.
NBC Meet the Press dasturida Kristin Velker bilan suhbatlashayotganda, Geysga SI insoniyatni yoʻq qila olishi haqida savol berildi. U SI milliardlab odamlarning oʻlimiga olib kelishi mumkin boʻlgan voqealar yuzaga kelishi uchun yetarli kuchga ega ekanligini maʼlum qildi.
Biroq, Geysning xavotiri faqat robotlar SIga qarshi turadigan filmlardagi ssenariylardan iborat emas. Uning asosiy tashvishlari insonlarning oʻzlari SI dan foydalanib halokatli harakatlar qilishi mumkinligidir. U ayniqsa, kiberhujumlar va bioterorizm bilan bogʻliq tahdidlarni ajratib koʻrsatdi. U fikricha, SI kasalxonalar yoki elektr tarmoqlari kabi hayotiy muhim xizmatlarni paralizatsiya qila oladigan kiberhujumlarda qoʻllanilishi mumkin.
Shunday qilib, xavf SIning birdaniga mustaqil ravishda insonlarga hujum qilishida emas. Asosiy savol shundaki, SI ning kuchli vositalari noodobiy odamlar tomonidan qanchalik tez va qanday miqyosda ishlatilishi mumkin.
Geysning ogohlantirishi SI kompaniyalari ichida ham ushbu yoʻnalish bilan bogʻliq xatarlar haqida ovozlar koʻtarilayotgan paytda eshitildi. Masalan, Anthropic bosh ijrochi direktori Zario Amodi ham SI ning notoʻgʻri ishlatilishi bilan bogʻliq kiberhujumlar va bioterorizm xavflari haqida gapirgan. Yaqinda baʼzi yirik SI sanoati figuralari yanada ishonchliroq xavfsizlik tizimlari va tartibga solish zarurligini muhokama qilishdi.
Bu munozaraning eng qiziqarli jihati shundaki, SI ishlab chiqarayotgan kompaniyalar endi faqat oʻzlarining ichki xavfsizlik siyosatiga tayanishning yetarliligi masalasiga duch kelishmoqda. Geys oʻz-oʻzini tartibga solish, yaʼni kompaniyalar tomonidan oʻzlar uchun qoidalar yaratish yetarli emas deb hisoblaydi. Uning fikricha, hukumatlar, huquqni muhofaza qilish organlari va yetakchilar ham SI uchun qanday monitoring va xavfsizlik qoidalari kerakligini belgilashi lozim.
Geys SI ga qatʼiy qarshi emas. Bu vaziyatning ikkinchi, kam ahamiyatli boʻlmagan tomoni. U taxmin qiladiki, SI kelajakda kasalliklarni davolash, taʼlim va qishloq xoʻzaliq kabi sohalarda ulkan oʻzgarishlar olib kelishi mumkin. Uning xavotiri SI dan foydalanishni toʻxtatishda emas, balki insonlar qayta tiklanishga vaqt topishi uchun uning tezligini nazorat qilishda.
Dunyoning yirik texnologik korporatsiyalari Amerika va Xitoy oʻrtasidagi SI poygaida tezkor ravishda oldinga siljiyapti. Bunday vaziyatda, yanada yuqori xavfsizlikka intilish SI rivojlanish surʼatini sekinlashtiradimi degan savol tugʻiladi. Geys xavfsizlik choralarining SI taraqqiyotini butunlay toʻxtatmasligi kerakligini taʼkidlaydi. U SI ning kiberhujumlar yoki bioterorizm uchun ishlatilayotganini aniqlaydigan monitoring tizimlarining misollarini keltiradi va buning uchun SI ishlab chiqilishini toʻliq toʻxtatish shart emasligini taʼkidlaydi.
Ehtimol, haqiqiy tahdid SI dan emas, balki insondan kelib chiqadi. SI ning insoniy niyatlari yoʻq, ammo u inson qobiliyatlarini koʻp barobar kuchaytirishi mumkin. Agar bu kuch noodobiy odam, jinoyat tashkiloti yoki xavfli tarmoq qoʻlga kelsa, zarar darajasi zamonaviy texnologiyalardan foydalanishdan ancha yuqori boʻlishi mumkin. Bill Geysning «milliard oʻlimlar» haqidagi bayonoti aynan shu fundamental savolni koʻrsatib, bu SI ning notoʻgʻri ishlatilishi natijasida yuzaga kelishi mumkin boʻlgan zarar haqida bashorat emas, balki ogohlantirishdir. SI tobora kuchliroq boʻlib borayotgan sari, bu munozara faqat texnologik kompaniyalarning chegarasidan chiqib, global ahamiyat kasb etmoqda.
