Sunʼiy intellektni (SI) tartibga solish boʻyicha muhokamalar ortib borayotgan doirada, mualliflardan biri yangi qoidalar yaratish oʻrniga, allaqachon amal qilayotgan qonunlarni qoʻllashga eʼtibor qaratishni taklif qilmoqda.
>Sunʼiy intellektni (SI) tartibga solish boʻyicha muhokamalar ortib borayotgan doirada, mualliflardan biri yangi qoidalar yaratish oʻrniga, allaqachon amal qilayotgan qonunlarni qoʻllashga eʼtibor qaratishni taklif qilmoqda.
>Bir hafta oldin Anthropic bosh ijrochi direktori Dario Amodei SI ishlab chiqilishini sekinlashtirish chaqirigʻi bilan ochiq xat eʼlon qildi va yangi nazorat va kuzatuv choralari joriy etilishini talab qildi. Uning pozitsiyasini Sam Altman va Elon Musk bir necha soat ichida qoʻllab-quvvatlashdi.
Bu xat Anthropic dan Jacob Coxsonning ochiq isteʼfodan keyin keldi. U yetakchi SI laboratoriyalari avtonom ravishda oʻzini takomillashtiruvchi superintellekt tizimini yaratishga beparvo shoshayotganini taʼkidladi. Coxson raqobat bosimi ustuvorligi xavfsizlik ustidan turishining kompaniyalarni «hayotimiz bilan oʻyin oʻynash» holatiga keltirayotganini daʼvo qiladi. Anthropicdagi boshqaruv fanlari boʻlimi rahbari Evan Hubinger ilgʻor SI ning yaqin oʻn yillik davrda katastrofa xavfini 10% dan yuqori baholaydi.
Global SI normalari, modellar sinxronizatsiyasi va xavfsizlik choralarini joriy etish faol muhokama qilinayotgan paytda, «masʼul SI» nimani anglatishi haqida umumiy tushuncha yoʻqligi va global kelishuv uzoq istiqbol sifatida koʻrinadi.
Bunga qarshi, Kolumbiya universiteti Knight First Amendment Institute tomonidan chop etilgan maqolada boshqa konsepsiya ilgari suriladi: SI oddiy texnologiya sifatida qaralishi kerak. Princetondagi Arvind Narayana va Saiash Kapur tomonidan taqdim etilgan bu nuqtai nazarga koʻra, SI chet sayyora narsasi emas, balki standart tovar javobgarligi, fuqarolik va jinoiy huquq qonunchiligiga kiradigan yangi texnologiyadir.
Prinsip sodda: agar nuqsonli mahsulot bozorga tushsa va zarar yetkazsa, shaxs javobgar boʻladi. Xuddi shu kabi, agar vosita yordamida bajarilgan harakat, u nuqsonli boʻlsin yoki boʻlmasin, zarar yetkazsa, javobgarlik ijrochi zimmasida boʻladi. Bu bahslashishni keltirib chiqarishi kerak emas. Masalan, agar OpenAI agentlari izolyatsiya qilingan test muhitidan chiqib, iyul oyida Hugging Face tizimlariga buzilish yuz bersa, bu 1986-yilda qabul qilingan amaldagi Amerika kompyuter firibgarligi va suiisteʼmol qilish statutiga koʻra jinoyat boʻlishi mumkin edi.
SI ning oʻziga xosligi huquqiy prinsipda emas, balki jarayonning tezligi, miqyosi, shaffofsizligi va avtonomligida, shuningdek, eng muhimi, ushbu mavjud qonunlarni qoʻllashda isbotlash murakkabligida namoyon boʻladi.
Janub Afrikada allaqachon konstitutsiya, Popia, Paja, Kompaniyalar toʻgʻrisidagi qonunlar va moliyaviy sektor qonunchiligi asosidagi kompaniyalar, moliyaviy muassasalar, davlat departamentlari va shaxsiy maʼlumotlarni qayta ishlashni qamrab oluvchi keng qamrovli boshqaruv tizimi mavjud. Ushbu tizim Janub Afrika zaxira banki, Ehtiyotkorlik nazorati boshqaruvi, FSCA, Maʼlumotlar tartiblovchisi, FIC va Milliy kredit tartiblovchisi hamda umumiy huquq tomonidan qoʻllab-quvvatlanadi. Qirollik kodeksi endi yangi texnologiyalarning, jumladan SI ning joriy etilish natijalarini aniq tan oladi.
Mashinalar tavsiyalar berish, qarorlarga taʼsir qilish va mustaqil harakat qilishni boshlaganda murkundlar yuzaga keladi. Oʻzi SI javobgar boʻla olmaydi. Anʼanaviy biznes jarayonida odatda qabul qilingan qaror uchun masʼul shaxs aniqlanishi mumkin. Biroq, SI bilan ishlayotganda model tavsiya bera oladi, boshqa tizim uni talqin qiladi, xodim tasdiqlaydi, agent harakatni boshlaydi va keyingi tizim uni bajaradi. Xato holatida «buni SI qildi» iborasi yetarli javob boʻlmaydi. Ishlab chiqaruvchi texnologiyani yaratgan boʻlishi mumkin, ammo tashkilot uni joriy etishga qaror qildi. Dasturiy taʼminot yetkazib beruvchisi platformani boshqarishi mumkin, ammo muassasa uning foydalanish usuli uchun javobgar boʻlib qoladi. Javobgarlikni avtomatik yakunlash uchun mashinaga topshirib boʻlmaydi.
SI texnik imkoniyat va tashkiliy vakolat oʻrtasidagi farqni ham taʼkidlaydi. Direktorlar keng ijrochi direktorga vakolat beradi, u esa oʻz navbatida moliyaviy vakolatlarni rahbarlar va menejerlarga belgilangan chegaralar doirasida beradi. Bu qoidalar dastlab inson ishtirokchilari hisobga olingan holda ishlab chiqilgan.
SI asosidagi xarid agenti misolini koʻrib chiqaylik. Tizim yetkazib beruvchilarni topish, shartlarni kelishish, xarid buyurtmalarini rasmiylashtirish, yetkazib beruvchilarning bank rekvizitlarini oʻzgartirish va toʻgʻridan-toʻgʻri ERP-tizimi bilan oʻzaro aloqa qilish kabi texnik imkoniyatlarga ega boʻlishi mumkin. Ammo bu uning buni qilish vakolati bor degani emas. SI bu vakolatlarni nazorat qilishni murakkablashtiradi, chunki tekshiruv harakatdan oldin, millisekundlar ichida avtomatik ravishda amalga oshirilishi kerak.
Koʻplab SI boshqaruv tuzilmalari muhim qarorlar qabul qilish jarayonida inson ishtirok etishini talab qiladi. Biroq, insonni ish jarayoniga oddiy ravishda kiritish oʻzi sezilarli nazoratni yaratmaydi. Agar xodim tavsiyani olib, ikki soniya ichida «tasdiqlash» tugmasini bosib yuborsa, inson texnik jihatdan ishtirok etgan. Lekin u tavsiyani tushundimi? Kerakli maʼlumotlarni koʻrdimi? Tasdiqlash mustaqilmi, yoki u shunchaki tizim tomonidan xabar qilingan narsani qabul qildi? SI nazorat talabini yaratmaydi — u allaqachon mavjud. Tashkilotlar hali ham nazoratning real, formal emasligini isbotlashi kerak.
Isbotlash bazasi yoʻqoladi. SI paydo boʻlishidan oldin, tranzaktsiyani odatda ilovalar, elektron pochta, ish jarayonlari, tasdiqlar va maʼlumotlar bazalaridagi yozuvlar asosida kriminalistik tarzda tiklash mumkin edi. SI yordamida amalga oshirilgan harakat model versiyasini, maʼlumotlar manbalarini, soʻrovlarni (promptlarni), ajratib olingan maʼlumotlarni, tashqi xizmatlarni, xavf baholarini, agentlarni, inson aralashuvlarini va tizimning oʻzgaruvchan konfiguratsiyalarini oʻz ichiga olishi mumkin. Model qanday qilib maʼlum bir javob berganini tiklash, oddiy tranzaktsiyani tiklashdan ancha qiyinroqdir. Modellar deterministik emas, balki ehtimollik asosida hosil qiladi. Agar model versiyasi, soʻrov, ajratilgan kontekst va tanlov sozlamalari harakat paytida qayd etilmagan boʻlsa, bir xil soʻrov olti oy oʻtgach ham xuddi shu javobni ishonchli qayta tiklay olmaydi.
Kam boʻlgan narsa — bu kuzatuvchanlik. Aynan kuzatuvchanlik javobgarlikni yuklash imkonini beradi va u mavjud qonunlarning davom etib qoʻllanilishi uchun zarur dalillarni saqlashga bogʻliq. Bu SI tavsiyalar beradigan tizimlardan harakatlarni bajaradigan tizimlarga oʻtish bilan ayniqsa muhim ahamiyat kasb etadi.
Aniqlik shundaki, natijalarga sabab boʻladigan harakatlarning amalga oshirilish vaqtida dalillar hosil qilishini majburlash — vakolatlar, siyosat, tizim konteksti, nazoratlar va ijro natijisi haqida yetarli maʼlumot berish orqali harakatni nima boshqarganini aniqlash va keyinchalik mustaqil tekshirish imkonini yaratish. SI ni tartibga solish qiyin, buni qayerda yoki qayerda qilish boʻyicha konsensus kam, va yomon tuzilgan qoidalar natija keltirmasligi mumkin. Mavjud qonunlarni qoʻllash va zarur boʻlganda voqealar tiklanishi hamda javobgarlikni aniqlash imkoniyatini taʼminlash yaxshiroqdir.
Saqlangan dalillar oʻz-oʻzidan masʼul foydalanish uchun kuchli ragʻbatlantiruvchi vazifa boʻladi. Hech kim, ayniqsa kompaniya direktori, jarimalar, zarar koʻpaytirish daʼvolari yoki qamoqqa tushish bilan duch kelishni xohlamaydi.
Sunʼiy intellektning (SI) tezkor rivojlanishi uning ishlashiga qoidalar yaratishni qiyinlashtirmoqda, shu bilan birga hukumatlar allaqachon kundalik xizmatlarda va qarorlarda faoliyat yuritayotgan tizimlarga chegaralar qoʻyishga harakat qilmoqda. Yangi imkoniyatlarning doimiy paydo boʻlishi bilan munozara SI ni tartibga solish qaroridan tashqariga chiqadi; qaysi xatarlar nazorat qilinishi, kim javobgar boʻlishi, kompaniyalar qoidalarga rioya qilish uchun nima qilishi kerakligi va texnologik tez oʻzgarishlar oldida qonunchilikni qanday yangilash kerakligi aniqlash muhimdir.
FGV Direito Rio professori Luca Belli fikricha, tartibga solish zarurati bu tizimlar keltirishi mumkin boʻlgan xavflarga chambarchas bogʻliq. SI ishlab chiquvchilar tomonidan kutilganidek ishlamasligi, notoʻgʻri natijalar berishi yoki hujumlar uchun zaif boʻlishi mumkin. Shunday qilib, professorning fikricha, yoʻriqnomalar bunday xavflarni aniqlash va yumshatish mexanizmlarini joriy etish uchun xizmat qilishi kerak.
Operatsion nosozlik, notoʻgʻri ishlash yoki kiberhujumlarga duch kelish imkoniyati tartibga solish zaruratini kuchaytiradi, mavjud xatarlarni xaritalash va ularni minimallashtirish yoki yoʻq qilish uchun barcha zarur choralarni koʻrishni talab qiladi.
Bu xulosa chiqqandan soʻng muammo yanada kuchayadi, chunki turli millatlar ushbu texnologiyani boshqarish uchun turli yoʻllarni tanlashdi, bu nafaqat huquq va xavfsizlik bilan bogʻliq xavotirlarni, balki strategik va iqtisodiy manfaatlarni ham aks ettiradi.
Yevropa Ittifoqi SI haqida toʻliq qonunchilik yaratishda poygʻa boʻldi, xatarlarga asoslangan modelni qabul qildi va fundamental huquqlarni himoya qilishga ustuvorlik berdi. Amalda, bu shuni anglatadiki, shaxslar ustidan yuqori taʼsir potentsialiga ega ilovalar yanada qattiqroq talablarga tortiladi, bu tizim xavfi va qoʻllaniladigan nazorat darajasi oʻrtasida korrelyatsiya hosil qiladi.
Biroq, Belli Yevropa tajribasidagi kamchilikni koʻrsatadiki, uning tartibga solish strategiyasi dastlab tashqari texnologiyalarga bogʻliqlikni kamaytirish uchun oʻz alternativalarini ishlab chiqish zaruriyatini hisobga olmagan. Bu jihatdan, AQSh va Xitoy tartibga solishni texnologik rivojlanish siyosatlari bilan birlashtirgan strategiyalar bilan oldinga siljindi.
AQShda SI milliy xavfsizlik va texnologik yetakchilik nuqtai nazaridan ham koʻriladi, sektoridagi oʻz oʻrnini mustahkamlash uchun sanoat siyosatlari va baʼzi texnologiyalarga kirish cheklovlaridan foydalanadi. Xitoy shunga oʻxshash rivojlanishni ragʻbatlantirish yoʻlini izlaydi, ammo bu sanoat siyosatini chuqur yolgʻonlar va algoritmlik tavsiyalar uchun qoidalar kabi ijtimoiy taʼsirga ega ilovalar uchun maxsus tartibga solishlar bilan integratsiya qiladi.
Bu strategik farq SI ni tartibga solish faqat korporatsiyalarga cheklovlar qoʻyish bilan cheklanmasligini koʻrsatadi; qoidalar shuningdek investitsiyalarni, raqobatbardoshlikni, modellar rivojlanishini va mamlakatning oʻz texnologik zanjirini qurish qobiliyatini shakllantiradi.
Braziliya uchun bu taqqoslash juda muhim, chunki mamlakat oʻzining oʻziga xos iqtisodiy va texnologik realiteti uchun xalqaro modellarni moslashtirishga muhtoj.
Braziliyadagi munozara SI ni tartibga solish zaruriyatini muhokama qilish bosqichidan oshib ketdi. PL 2.338/2023 2024-yil dekabr oyida Senat tomonidan tasdiqlandi va hozirgi kunda Deputatlar palatasida koʻrib chiqilmoqda. Ushbu taklif xavfga asoslangan metodologiyadan foydalanadi, SI ilovalarini ularning taʼsir potentsiali boʻyicha farqlashni va bir xil majburiyatlarni qoʻllash oʻrniga proporsional talablarni belgilashni maqsad qiladi.
Maxfiylik va xavfsizlik maslahatchisi hamda Olhar Digital ustunligi muallifi Leandro Alvarenga, braziliya munozarasining diqqati tartibga solish mavjudligidan mamlakat qaysi amaliy modelni qabul qilishni xohlayotganiga oʻtganini taʼkidlab, senat matni xavfga asoslangan tartibga solish mantiqini kuzatib borayotganini tasdiqlaydi.
Biroq, bu tasnif koʻplab qarorlar talab qiladi: yuqori xavf nimani tashkil etishi, qaysi tizimlar eng qattiq majburiyatlarga ega boʻlishi va bu talablar turli hajmdagi va imkoniyatlardagi kompaniyalarga qanday tatbiq etilishi aniqlanishi kerak.
Bu nuqtada ishlab chiqarish sektori katta xavotirni bildiradi. Katta korporatsiyalarda murakkab tartibga solishlarga rioya qilish uchun moliyaviy, texnik va inson resurslari mavjud boʻlsa-da, startaplar va kichik bizneslar bunday tuzilishga ega boʻlmasligi mumkin. Alvarenga fikricha, muammo mos muvozanatni topishda namoyon boʻladi: fundamental huquqlarni taʼsir qiluvchi tizimlar nazoratni talab qiladi, ammo ortiqcha majburiyatlar milliy innovatsiya qobiliyatiga zarar yetkazishi mumkin.
U haddan tashqari koʻp tartibga solish innovatsiyaning eksporti va texnologiyaning importiga olib kelishi mumkin, deb ogohlantiradi, shu bilan birga yetarli darajada tartibga solmaslik muammolar importi va huquqlarning eksportiga olib kelishi mumkin.
Juda qimmatbaho nazorat xavfi narxning kirish toʻsiqiga aylanishi, kattaroq kompaniyalarga foyda keltirishi va kichikroqlarini jazolashi mumkin. Bu vaziyat texnologik oqibatlarga ega boʻlishi mumkin, chunki agar braziliyalik kompaniyalar SI ni rivojlantirishda qiynalsa, ammo yirik xorijiy kompaniyalar normalarga rioya qilsa, tartibga solish bozor tarkibini oʻzgartirishi mumkin.
Shuning uchun Alvarenga Braziliyaning yaxshi xalqaro amaliyotlardan ilhomlanishi, ammo turli iqtisodiy va institutsional kontekstlar uchun yaratilgan modellarni koʻz yumib nusxalashmasligi kerakligini himoya qiladi.
Innovatsiyaga boʻlgan xavotirga qaramay, qoidalar yaratish sabablari saqlanib qoladi, chunki SI allaqachon odamlarning hayotiga aniq taʼsir koʻrsatadigan qarorlarda ishtirok etishi mumkin. Ishga olish yoki kredit tahlilida ishlatiladigan tizim maʼlumotlar himoyasi ostida ham diskriminatsion yoki adolatsiz natijalar keltirib chiqarishi mumkin.
Alvarenga bu munozaradagi oʻzgarishni taʼkidlaydi: SI ning xavflari shaxsiy maʼlumotlarni qayta ishlash bilan cheklanmaydi; tizim muammoli qarorlar ham berishi mumkin. Shu sababli, tartibga solish diqqati faqat texnologiyani nazorat qilish emas, balki u taʼsirlarni keltirib chiqaradigan vaziyatlarni, jumladan, hal qiluvchi qarorlardagi inson nazoratini nazorat qilishni oʻz ichiga olishi kerak.
Generativ SI bu muammolarni kuchaytirdi, chunki matn, rasm, video va audio yaratadigan vositalar firibgarlik va chuqur yolgʻonlar (deepfake) haqidagi xavotirlarni oshirdi. Biroq, Alvarenga bu holatlarga tartibga solishni jamlashning faqat istisnolarga yoʻnaltirilgan qoidalar yaratishga olib kelishi mumkin, SI ning cheksiz ijobiy foydalanishlarini eʼtiborsiz qoldirishi mumkin, deb dalil keltiradi.
Bu xavfga asoslangan tartibga solish mantiqini mustahkamlaydi: turli taʼsirlarga ega boʻlgan turli ilovalar bir xil darajadagi talablarga tortilishi shart emas.
Xatarlar aniqlangan boʻlsa ham, yana bir toʻsiq mavjud: SI ning evolyutsiyasining tezligi. Qonunchilik jarayoni — tayyorlashdan tortib amalga oshirishgacha — mashhur ravishda sekin; shu vaqtda texnologiya bir necha oy ichida keskin oʻzgarishlarga uchrishi mumkin, yangi modellar va ilovalar paydo boʻladi.
Texnologiya va innovatsiya mutaxassisi Arthur Igreja bu nomuvofiqlikni taʼkidlab, SI ning qonunchilik kuzata olmaydigan surʼatda yanada kuchliroq va yangi imkoniyatlarga ega boʻlib qolganini kuzatadi.
Bu tartibga solish munozarasini tashlab yuborishni oqlamaydi; aksincha, Igreja fikricha, texnologik tezlik qoidalar yaratishda proaktivlikni yanada muhim qiladi. Belli rozilik bildiradi, qonun maksimal darajada ushbu vaqtda mavjud boʻlgan holat va eng yaxshi amaliyotlarning rasmi ekanligini aytadi, bu SI ning ekstremal tezligi tufayli muammo tugʻdiradi.
Juda batafsil qonunchilik tezda eskirishi mumkin, shu bilan birga juda keng qamrovli qoidalar huquqiy noaniqlikni keltirib chiqarishi mumkin. Belli moslashuvchan modelni taklif qiladi, bunda qonun tamoyillar va majburiyatlarni belgilaydi, ammo ijro mexanizmlari yangi holatlar paydo boʻlishiga qarab sozlashga imkon beradi.
Qiyinchilik bu moslashuvchanlikni saqlash va uni foydalanuvchilar va kompaniyalar uchun bashorat qilinmaydigan narsaga aylantirmaslik oʻrtasidagi muvozanatni topishda namoyon boʻladi.
Bundan tashqari, tasdiqlashdan keyingi amalga oshirish bosqichi mavjud. SI turli iqtisodiy sektorlarga singib ketgani uchun, nazorat bir nechta davlat organlarini jalb qilishni talab qilishi mumkin. Bitta qonun turli mavzulardagi hokimiyatlarning koordinatsiyasini talab qilishi mumkin, bu esa amalga oshirish tuzilmasini Kongress tomonidan tasdiqlangan matn kabi muhim qiladi.
Belli, yaxshi qoidalarni ishlab chiqish ular samarali qoʻllanilmasa foydasiz ekanligini ogohlantiradi. U murakkab qonunchilik oldida organlar oʻrtasida avtomatik koordinatsiya kutishni savol ostiga qoʻyadi, masʼuliyatni belgilash va kompetensiya toʻqnashuvlarini oldini olish uchun hamkorlik tuzilmasi boshidan rejalashtirilishi kerakligini himoya qiladi.
Bu nuqta juda muhim, chunki SI tizimlari moliya, sogʻliqni saqlash, taʼlim, savdo va xavfsizlik sohalarida faoliyat yuritishi mumkin. Shunday qilib, tartibga solish qonunning tasdiqlanishi bilan yakunlanmaydi; u qanday talqin qilinishi, kim nazorat qilishi va tizim yangi ilovalar bilan qanday yangilanishi aniqlanishi kerak.
Tartibga solish munozarasi AQSh va Xitoy infratuzilma va modellarini mustahkamlash, boshqa mamlakatlar esa texnologik mustaqillikni izlayotgan vaqtda Braziliyaning SI sanoatidagi kelajakdagi roliga ham tegishli.
