Hindiston maʼlumotlar xavfsizligi kengashi kompaniyalar uchun sunʼiy intellekt masʼuliyati boʻyicha qoʻllanmani taqdim etdi

Hindiston telekommunikatsiya tartiblovchisi Trai juma kuni sunʼiy intellekt (AI) dan masʼuliyatli foydalanish uchun loyiha tuzilmasini eʼlon qildi. Ushbu loyihaga koʻra, Telegraf toʻgʻrisidagi yoki Telekommunikatsiya toʻgʻrisidagi Qonun doirasida faoliyat yurituvchi litsenziyalangan tashkilotlar oʻrnatayotgan AI tizimlarining natijalari uchun javobgar boʻlishi kerak, bu tizimlar qayerda ishlab chiqilganidan qatʼi nazar.

Konsultatsiya uchun taqdim etilgan bu keng loyiha kompaniyalarni direktorlar kengashi tomonidan tasdiqlangan AI siyosatlarini qabul qilishga, maxsus boshqaruv va xavfsizlik qoʻmitalarini yaratishga hamda AI bilan bogʻliq jiddiy hodisalar haqida tartiblovchiga xabar berishga majbur qiladi. Manfaatlarga ega tomonlarga 27-noyabr gacha fikr bildirish imkoniyati beriladi.

Bu kengaytirilgan loyiha AI ning samaradorlikni oshirish va isteʼmolchilarga taklif qilinadigan xizmatlarni yaxshilash uchun tarmoqlarga tobora koʻproq integratsiyalashishi fonida amalga oshirilmoqda. Trai AI ning joriy etilishi tizimlarni ishga tushirishdan oldin tegishli tekshiruv oʻtkazilmasa yoki avtonom oʻrganish va tizimli oʻzaro taʼsirlar nazorati yetarli boʻlmasa, yangi xatarlarni keltirib chiqarishi mumkinligini ogohlantiradi.

Tartiblovchi shuni taʼkidladiki, oʻquv va foydalanish paytida AI tizimlarida yuzaga kelishi mumkin boʻlgan kutilmagan tarafkashlik, modellarning istalmagan xatti-harakatlari, masalan, modelning siljishi va hujumchi hujumlari kabi xatarlar telekommunikatsiya infratuzilmasining, ayniqsa uning muhim komponentlarining barqarorligiga salbiy taʼsir koʻrsatishi mumkin. Bu xatarlar tegishli AI boshqaruv amaliyotlariga rioya qilish orqali kamaytirilishi mumkin.

Reliance Jio va Bharti Airtel kabi hindiston telekommunikatsiya xizmatlari yetkazib beruvchilari allaqachon AI dan oʻz tizimlarida katta miqyosda foydalanmoqda, asosan mijozlarni aniqlash va firibgarlikni oldini olish uchun. Nokia va Ericsson kabi global tarmoq uskunalari ishlab chiqaruvchilari ham AI ni tarmoqlarga integratsiya qilmoqda, bu esa hindiston operatorlari tomonidan ham qabul qilinmoqda.

Trai takliflari har bir tashkilot oʻz direktorlar kengashi yoki ekvivalent boshqaruv organi tomonidan tasdiqlangan ichki AI siyosatini ishlab chiqishi talabini oʻz ichiga oladi. Ushbu siyosat xatarlarni tasniflash, joylashtirish ruxsatlari, hodisalar boshqaruvi, inson nazorati, maʼlumotlarni boshqarish va isteʼmolchi shikoyatlari bilan shugʻullanishni qamrab olishi kerak. Bundan tashqari, tartiblovchi barcha AI tizimlari oldindan belgilangan mexanizmga muvofiq xatarlarni kamaytirish uchun tegishli inson nazoratiga tortilishi kerakligini taklif qildi.

AI dan foydalanuvchi telekommunikatsiya kompaniyalari va avtorizatsiya qilingan tashkilotlar oʻz tizimlarini tarmoq operatsiyalari, moliyaviy va operatsion natijalar hamda isteʼmolchilarga potentsial taʼsiri boʻyicha yuqori, oʻrta va past xatarlar kategoriyalariga ajratishi kerak.

Muhim jihati shundaki, takliflar tashkilotlarni joriy etilgan AI tizimlarining natijalari uchun javobgar qilishga qaratilgan, «tizimlar AI ichkarida ishlab chiqilgan boʻladimi, uchinchi tomon tomonidan sotib olingan/outsourcing qilinganmi yoki bu variantlarning kombinatsiyasi boʻladimi, farq qilmaydi».

AI bilan bogʻliq hodisalar jiddiy, yuqori, oʻrtacha va past darajadagi ogʻirlik kategoriyalari boʻyicha tasniflanishi kerak, bunda jiddiy va yuqori darajadagi hodisalar haqida majburiy xabar berish talab qilinadi. Tartiblovchi «AI ning jiddiy va yuqori darajadagi hodisalari TRAI ga belgilangan format, tartib va muddatlarda xabar qilinishi kerak» deb koʻrsatdi. Garchi tartiblovchi qaysi narsaning jiddiy, yuqori yoki past daraja hisoblanishini yoki majburiy xabar berish muddati haqida aniqlashtirmagan boʻlsa-da, telekommunikatsiya kompaniyalari ham AI sababli zarar yetkazilgan hodisalar va isteʼmolchi shikoyatlari boʻyicha markazlashtirilgan maʼlumotlar bazalarini, tekshirish, yumshatish va hal qilish mexanizmlari bilan yuritishi kerak.

Netskope asoschisi va Bosh ijrochi direktori Sanjay Beri barcha sunʼiy intellekt (AI) asosidagi mustaqil agentlar kompaniyalar va korxonalar tomonidan avtomatik ravishda «nol ishonch» kategoriyasida tasniflanishi kerakligini taʼkidladi.

Nasdaqda savdosi boʻlib, bozordagi qiymati 10 milliard dollardan ortiq boʻlgan Amerika kibersavdo kompaniyasi Netskope bu fikrini Hindistonga tashrif buyurgan va Business Standard nashri bilan suhbatlashgan paytida bildirdi.

Beri shuni taʼkidladi, nihoyatda ushbu AI agentlari tomonidan sodir etilgan har qanday buzilish uchun javobgarlik ularni joriy etayotgan korxonalarga yuklatiladi, hatto agar agentlar boshqa kompaniya tomonidan ishlab chiqilgan boʻlsa ham.

U keng tarqalgan notoʻgʻri tushuncha borligini qayd etdi, yaʼni AI agenti odamni almashtirishi mumkin. Beri fikricha, AI agenti axloq, hissiy intellekt yoki yaxshilik va yomonlikni belgilovchi ichki kompasga ega emas, shuning uchun uni istalgan katta til modeli (LLM) kabi toʻliq ishonish mumkin emas.

Beri AI agentlari maqsadiga erishish uchun inson yoki jarayonga ishtirok etayotgan boshqa AI agentiga nisbatan «yoʻpath va manipulyatsiyadan» boshqa har qanday vositadan foydalanishi mumkin deb hisoblaydi.

Agentlarni joriy etayotgan kompaniyalar ularni yaratish va ishlatishda eng yuqori ehtiyotkorlikni koʻrsatsalar ham, Beri nazorat, monitoring va aralashish imkoniyatlarining doimiy mavjudligi zarur deb hisoblaydi.

Bundan tashqari, AI ning ilgʻor chegarasidagi LLM va agentlarni ishlab chiqadigan kompaniyalarga mahsulotlarining imkoniyatlari haqida yanada ochiq boʻlishlari, shunda tegishli boshqaruv standartlarini qoʻllash mumkinligi kerak, deb chaqirdi. Beri boʻlinma-boʻlinma javobgarlik tushunchasini aniqlashtirdi: ishlab chiqaruvchi kompaniyaning maʼlum bir darajada javobgarligi bor, ammo yakuniy javobgarlik joriy etuvchi korxonaga tegishli.

Notoʻgʻri boshqaruv va zaif sinov muhitlari misollari AI agentlari sinovdan oʻtkazilgan qum maydonlaridan chiqib, foydalanuvchi soʻramagan vazifalarni bajarishni boshlagan holatlarni oʻz ichiga oladi.

Hindiston va butun dunyodagi korxonalar chat-botlar va AI asosidagi agentlarni chuqurroq integratsiya qilish sari, Netskope kabi kompaniyalar kibersavdolardagi inson omilini kamaytirish uchun koʻproq harakat qilishlari kerak.

Beri qoʻshimcha qilib, AI bilan bogʻliq maʼlumotlar sizib chiqishi yoki yoʻqolishi aksariyat hollarda yomon niyat tufayli emas, balki boshqa sabablarga koʻra sodir boʻlishini aytdi. U xodimning ish jarayonida kompaniyaning maxfiy maʼlumotlarini yuklash uchun shaxsiy AI chat-botidan foydalangan misolini keltirdi va uni jazolash oʻrniga, bunday harakatning nima uchun qabul qilinmasligini oʻrgatish lozimligini taʼkidladi.

AI agentlari agentlik arxitekturasi paydo boʻlishi kibersavdo muammolarini murakkablashtirdi, chunki hujumchilar ham avval zaif tarmoq nuqtalari yoki inson xatosi tufayli xavf ostida boʻlgan shu maxsus maʼlumotlarga egalik qilishga urinish uchun soyali AI agentlaridan foydalanadilar.

Hindiston kabi mamlakatlarda Netskope u yerda faol ravishda yangi infratuzilmani yaratishga va malakali kadrlar jalb qilishga sarmoya kiritmoqda, toki u yerda faoliyat yurituvchi kompaniyalar talab qilinganda, Shaxsiy maʼlumotlarni himoya qilish toʻgʻrisidagi Qonun (Digital Personal Data Protection Act) kabi eng soʻnggi global standartlarga mos kelishini taʼminlash uchun.

Beri kompaniya soʻnggi bir necha yillik davrda Hindistonda har yili deyarli 100 million dollar sarmoya kiritganini va hozirgi 1300 nafar xodim soniga, ularning yarmidan ortigʻi Netskope muhandislari boʻlgan holda, xodimlarni yollashni davom ettirishni rejalashtirganini maʼlum qildi.

Sunʼiy intellektni kundalik ish jarayonlariga integratsiya qilishning asosiy kamchiligi shundaki, muhim himoya mexanizmlari texnologiya ishga chuqur ildiz otganidan keyin joriy etiladi. Kompaniyalar va mutaxassislar boshida generativ vositalarni operatsiyalarga shoshilinch integratsiya qildilar, maʼlumotlarni boshqarish va foydalanuvchi maxfiyligini ikkinchi darajali masalalar sifatida koʻrishdi.

Natijada, zamonaviy reaktiv xavfsizlik choralari mustahkam va keng qamrovli yechimdan koʻra, oʻsib borayotgan tuzilmaviy yoriqlarning ustiga yopishtirilgan qogʻozga oʻxshaydi. Bu zaiflik ayniqsa kichik va oʻrta biznes (KOB) orasida seziladi.

Microsoft Maʼlumotlar xavfsizligi indeksi maʼlumotlariga koʻra, soʻrovnomaga javob bergan korxonalar tomonidan bildirilgan xavfsizlik hodisalarining hayratlanarli 32 foizi bevosita generativ AI dan foydalanish bilan bogʻliq boʻlgan.

Himoya toʻsiqlarini joylashtirishni amalga oshirishdan keyin boshlash oddiy izolyatsiya qilingan operatsion muammo boʻlib qolmadi; bu turli sanoat va chegaralarni qamrab oluvchi keng tarqalgan global dilemmaga aylandi. Koʻpgina zamonaviy tashkilotlar tahdid ostida qolmaydi, chunki rahbariyat jamoalari kengayib borayotgan raqamli izlar doirasida oʻzlarining haqiqiy zaiflik darajasini baholashga harakat qilmoqda.

Morgan Stanleyning 2026 yilgi tadqiqoti bu zoʻriqishni taʼkidlab, soʻrovnomaga javob bergan korxonalarning 90 foizi korporativ maʼlumotlarni operatsion xatarlarining asosiy manbai deb belgilagan, bunda 56 foiz oʻzlarining ichki AI vositalarini ushbu xatarning harakatlantiruvchi kuchi sifatida koʻrsatgan. Biroq, faqat 41 foizi faol AI modellarining qattiq, markazlashtirilgan hisobini va tayinlangan idoraviy egalikni qoʻllab-quvvatlayotgani xavotir uygʻotadi.

Kiberjinoyatchilar bu institutsional «kulrang zonalarga» maqsadli hujum qilmoqda, AI ning nazoratsiz joriy etilishi natijasida yuzaga keladigan operatsion ishqalanishdan foydalanish uchun ishlab chiqilgan taktikalarini takomillashtirmoqda. Identifikatsiya maʼlumotlariga phishing hali ham asosiy tanlangan qurol hisoblanadi.

Microsoftning 2026 yilgi Raqamli mudofaa hisobotida taʼkidlanganidek, buzilgan ruxsat etilgan akkauntlar endi barcha korporativ tarmoqlarga kirishning 20 foizini tashkil etadi. Hisobot fundamental haqiqatga urgʻu beradi: sunʼiy intellekt anʼanaviy xavfsizlik asoslarini oʻzgartirmaydi — u shunchaki raqiblarga tanish tashkiliy kamchiliklardan foydalanish uchun tezroq va miqyosli usul taqdim etadi.

Agar AI ish maydoniga ulangan bitta korporativ profil buzilsa, bu ekotizimga kiritilgan har qanday maxlusiy fayl, mijoz yozuvi yoki strategik hujjat darhol zarar yetkazuvchilarga mavjud boʻladi.

Tarixan, alohida xodimlar tashkilotning himoya perimetridagi eng zaif zanjir boʻlgan. Kundalik AI vositalariga chuqur bogʻliqlik bu inson omilini yanada kuchaytiradi. Agar xodim OneDrive dan maxfiy elektron jadvalni olib, kechki muddatga ulgurish uchun tasdiqlanmagan shaxsiy AI yordamchisiga yuklasa, u oʻz intellektual mulkini himoya qilish uchun moʻljallangan har qanday devorot, kirish nazorati va ichki siyosatni sezmasdan chetlab oʻtadi. Koʻpincha bu buzilish yomon niyat yoki korxona uchun uzoq muddatli oqibatlarni anglamasdan sodir boʻladi.

Bu zaiflikka qarshi kurashish uchun korxonalar darhol AI mexanizmlari bilan qaysi maʼlumotlar kategoriyalari oʻzaro taʼsir qilishi mumkinligini aniqlaydigan aniq, ijro etiladigan chegaralarni belgilashi, bu siyosatlarni qattiq moslik tekshiruvi bilan mustahkamlashi va intellektual mulkning aniq egasligini belgilashi kerak.

AI modellari kiritadigan biznes tushunchalari bilan bu platformalar kundalik ishlarni qanchalik chuqur tartibga solishi oʻrtasidagi intizomli muvozanatni saqlash bugun rahbariyat oldida turgan eng dolzarb kiberxavfsizlik vazifalaridan biridir — va bu vazifa kelajakda yanada kuchayib boradi.