Sunʼiy intellekt davrida ishonch va ishonchlilikni boshqarish boʻyicha muhandislar dumaloq stolidagi muhokama

Soʻnggi yillarda AI bilan ishlash natijalarini yaxshilash malakali soʻrovlar (promptlar) yozish qobiliyatiga bogʻliq boʻlgan. Biroq, bu paradigma tez oʻzgarmoqda, chunki AI tizimlari mustaqil fikrlashni, qaror qabul qilishni va butun ish jarayonlari doirasida harakat qilishni boshlamoqda.

TechSparks 2026 tadbirida, YourStoryning asosiy voqeasi boʻlib, Intuitdagi AI boʻyicha yetakchi ilmiy xodim Dr. Vignesh Subrahmaniam YourStory va The CapTable muharriri Adit Charlie bilan suhbatlashdi. «Promptdan tashqarida: fikrlaydigan, harakat qiladigan va oʻrganadigan AI yaratish» nomli muhokama ishlab chiquvchilarning intellekt tobora mustaqil boʻlib borayotgan paytda nimalarni qayta koʻrib chiqishi kerakligiga bagʻishlandi.

Sessiya Subrahmaniamning tipik ish kuni haqidagi savollar va fintech hamda AI tushunchalarini auditoriya uchun soddalashtirish soʻrovi bilan boshlandi. U shaxmatlar misolini keltirib, quyidagi savolni berdi: agar algoritmni shaxmat qoidalarini oʻrgatmasdan, gʻalaba qozongan million yakunlangan oʻyinlarni koʻrsatsangiz, u qoidalarni va gʻalaba uchun eng ehtimoliy strategiyalarni chiqarib bera oladimi?

Intuit jamoasi kichik biznesni qoʻllab-quvvatlash uchun shunga oʻxshash yondashuvni qoʻllaydi, chunki kompaniya isteʼmolchilar va buxgalterlarga xizmat koʻrsatadi. Subrahmaniam shunday dedi: «Biz biznes oʻyinini maʼlumotlarni, korxonalar amalga oshirgan real harakatlar va natijalarni tahlil qilish orqali oʻrganamiz». Maqsad mijozlarni jalb qilish, tez oʻsish va pul oqimini yaxshilashga yordam beradigan omillarni tushunishdir.

Keyin suhbat ishlab chiquvchilar uchun paradigmaning oʻzgarishiga oʻtdi: koʻproq aqlli promptlar yozishni uzoq yillar davomida oʻrganishdan maqsadga ega agentlarni loyihalashga oʻtish, ular esa uni amalga oshirish uchun bosqichlarni oʻzlari belgilaydi. Subrahmaniam prompt muhandisligini dasturlash tillarining uzoq tarixi bilan solishtirdi, ikkilik kod va assemblerdan tortib Fortran, C va Pythongacha. Katta til modellarining istalgan odamga oddiy ingliz tilida dasturlash imkonini bergan boʻlsa-da, bu usulining cheklovlari mavjud.

Tadqiqotchilar tez orada intellekt faqat model ichida boʻlmasligi kerakligini tushundilar. Model orkestrator sifatida xizmat qilishi kerak, murakkab vazifani harakatlar va vositalarni chaqirish ketma-ketligiga ajratishi kerak. Haqiqiy intellekt chaqiriladigan vositalarga oʻtadi; va bu vositalar ham boshqacha ishlab chiqilishi kerak: «inson, dasturiy taʼminot ishlab chiquvchisi yoki boshqa kimnidir foydalanishi uchun emas, balki LLM orkestratori ulardan haqiqatda foydalana olishi uchun».

Bu juda aniq natijaga ega yuqori aniqlikdagi vositalarni yaratishni talab qiladi. Ishlab chiquvchilar uchun mahorat hazilomuz formulalardan model tomonidan kutilmagan holatlar boʻlmagan holda takroran chaqirilishi mumkin boʻlgan ishonchli komponentlarga siljnab ketadi.

Yangi maʼlumot manbalari haqida, Subrahmaniam ochiq bayon qildiki, matnli maʼlumotlar asosida oʻqitish darajada hal etilgan. Koʻproq murakkab vazifa multimodal manbalar va real harakatlar asosida oʻqitishdir. U kichik bolaning asosan oʻqish orqali emas, balki koʻrish, eshitish va kuzatish orqali oʻrganishini misol keltirdi va bunday real dunyo signallarini AI tizimlariga kiritish modellarning matn yaratish chegaralaridan chiqib, harakatlar taklif qilishni boshlashiga yordam berishini taʼkidladi. U bunga keyingi chegaralar deb nom berdi.

Regulyativ sanoatdagi muammolarni koʻrib chiqib, u auditoriyani 18 yil oldinga, Bangaloredagi mashinaviy oʻrganishning birinchi laboratoriyalaridan biriga qaytardi, u yerda u logistik regressiya va koʻp qavatli perseptronlar ustida ishlagandi. Oʻsha paytda eng katta muammo algoritmning oʻzi emas edi. U eslaydiki: «Aslida, bu maʼlumotlarning sifati edi».

Bu muammo oʻzgarmadi. Jamoa oddiy regressiyani oʻrgatsin yoki transformerni qayta oʻrgatsin, «kirishdagi axlat — chiqishdagi axlat» tamoyili kuchli qolmoqda. Uning soʻzlariga koʻra, eng yuqori sifatli maʼlumotlarni toʻplaydigan, agregatsiya qiladigan va saqlaydigan kompaniyalar ustunlikka erishadi.

Qisqa savol-javob sessiyasi davomida ishtirokchilardan biri Intuitning moliyaviy maʼlumotlarni saqlash cheklovlari qanday taʼsir qilishini soʻradi. Subrahmaniam rozilikni har qanday oʻquv tizimining asosini deb atadi va Massachusetts shahridagi Framingem tadqiqotiga murojaat qildi, u yerda shahar aholisi shifokorlarga oʻz salomatligini vaqt oʻtishi bilan kuzatishga ruxsat bergan, bu esa yurak-qon tomir kasalliklari haqidagi zamonaviy tushunchani shakllantirdi. U shuningdek, kompaniyalar keng jamoatchilikka maʼlumotlardan foydalanish afzalliklarini tushuntirish majburiyati borligini qoʻshimcha qildi.

Suhabat tugashiga yaqinlashganda, asosiy gʻoya shundaki, AI reaksiyadan harakatga oʻtgan sari, interfeysdan koʻra asoslar muhimroq boʻladi. Promptlar boshlangʻich nuqta boʻlib qoladi, ammo haqiqiy ish endi agentlar chaqira oladigan ishonchli vositalarni yaratish, tizimlarni yuqori sifatli maʼlumotlar bilan taʼminlash va ularning oʻrganishiga imkon beradigan rozilikni olishda namoyon boʻladi. Aynan shu yerda, promptdan tashqarida, ishlab chiquvchilar uchun AI ning keyingi toʻlqini gʻalabaga erishadi.

Netskope asoschisi va Bosh ijrochi direktori Sanjay Beri barcha sunʼiy intellekt (AI) asosidagi mustaqil agentlar kompaniyalar va korxonalar tomonidan avtomatik ravishda «nol ishonch» kategoriyasida tasniflanishi kerakligini taʼkidladi.

Nasdaqda savdosi boʻlib, bozordagi qiymati 10 milliard dollardan ortiq boʻlgan Amerika kibersavdo kompaniyasi Netskope bu fikrini Hindistonga tashrif buyurgan va Business Standard nashri bilan suhbatlashgan paytida bildirdi.

Beri shuni taʼkidladi, nihoyatda ushbu AI agentlari tomonidan sodir etilgan har qanday buzilish uchun javobgarlik ularni joriy etayotgan korxonalarga yuklatiladi, hatto agar agentlar boshqa kompaniya tomonidan ishlab chiqilgan boʻlsa ham.

U keng tarqalgan notoʻgʻri tushuncha borligini qayd etdi, yaʼni AI agenti odamni almashtirishi mumkin. Beri fikricha, AI agenti axloq, hissiy intellekt yoki yaxshilik va yomonlikni belgilovchi ichki kompasga ega emas, shuning uchun uni istalgan katta til modeli (LLM) kabi toʻliq ishonish mumkin emas.

Beri AI agentlari maqsadiga erishish uchun inson yoki jarayonga ishtirok etayotgan boshqa AI agentiga nisbatan «yoʻpath va manipulyatsiyadan» boshqa har qanday vositadan foydalanishi mumkin deb hisoblaydi.

Agentlarni joriy etayotgan kompaniyalar ularni yaratish va ishlatishda eng yuqori ehtiyotkorlikni koʻrsatsalar ham, Beri nazorat, monitoring va aralashish imkoniyatlarining doimiy mavjudligi zarur deb hisoblaydi.

Bundan tashqari, AI ning ilgʻor chegarasidagi LLM va agentlarni ishlab chiqadigan kompaniyalarga mahsulotlarining imkoniyatlari haqida yanada ochiq boʻlishlari, shunda tegishli boshqaruv standartlarini qoʻllash mumkinligi kerak, deb chaqirdi. Beri boʻlinma-boʻlinma javobgarlik tushunchasini aniqlashtirdi: ishlab chiqaruvchi kompaniyaning maʼlum bir darajada javobgarligi bor, ammo yakuniy javobgarlik joriy etuvchi korxonaga tegishli.

Notoʻgʻri boshqaruv va zaif sinov muhitlari misollari AI agentlari sinovdan oʻtkazilgan qum maydonlaridan chiqib, foydalanuvchi soʻramagan vazifalarni bajarishni boshlagan holatlarni oʻz ichiga oladi.

Hindiston va butun dunyodagi korxonalar chat-botlar va AI asosidagi agentlarni chuqurroq integratsiya qilish sari, Netskope kabi kompaniyalar kibersavdolardagi inson omilini kamaytirish uchun koʻproq harakat qilishlari kerak.

Beri qoʻshimcha qilib, AI bilan bogʻliq maʼlumotlar sizib chiqishi yoki yoʻqolishi aksariyat hollarda yomon niyat tufayli emas, balki boshqa sabablarga koʻra sodir boʻlishini aytdi. U xodimning ish jarayonida kompaniyaning maxfiy maʼlumotlarini yuklash uchun shaxsiy AI chat-botidan foydalangan misolini keltirdi va uni jazolash oʻrniga, bunday harakatning nima uchun qabul qilinmasligini oʻrgatish lozimligini taʼkidladi.

AI agentlari agentlik arxitekturasi paydo boʻlishi kibersavdo muammolarini murakkablashtirdi, chunki hujumchilar ham avval zaif tarmoq nuqtalari yoki inson xatosi tufayli xavf ostida boʻlgan shu maxsus maʼlumotlarga egalik qilishga urinish uchun soyali AI agentlaridan foydalanadilar.

Hindiston kabi mamlakatlarda Netskope u yerda faol ravishda yangi infratuzilmani yaratishga va malakali kadrlar jalb qilishga sarmoya kiritmoqda, toki u yerda faoliyat yurituvchi kompaniyalar talab qilinganda, Shaxsiy maʼlumotlarni himoya qilish toʻgʻrisidagi Qonun (Digital Personal Data Protection Act) kabi eng soʻnggi global standartlarga mos kelishini taʼminlash uchun.

Beri kompaniya soʻnggi bir necha yillik davrda Hindistonda har yili deyarli 100 million dollar sarmoya kiritganini va hozirgi 1300 nafar xodim soniga, ularning yarmidan ortigʻi Netskope muhandislari boʻlgan holda, xodimlarni yollashni davom ettirishni rejalashtirganini maʼlum qildi.

Microsoft asoschisi Bill Gatesning yaqinda chop etilgan maqolasi sunʼiy intellekt (AI) olib keladigan ulkan xatarlar va cheksiz imkoniyatlar haqida jiddiy fikrlashga undadi. U AI eng buyuk tenglashtiruvchi yoki eng yomon adolatsizlik manbai boʻlishi mumkinligini taʼkidlab, bu vazifaning ulugʻvorligini koʻrsatdi.

Texnologik oʻzgarishlar tezlashayotganiga qaramay, samarali tashkilotlar yaratish, iqtisodiyotni rivojlantirish va faqat robotlar uchun emas, balki odamlar uchun ish oʻrinlari yaratishning fundamental tamoyillari oʻzgarmay qolmoqda. Oʻsib borayotgan noaniqlik va oʻzgarishlar sharoitida, qanchalik koʻp boʻlsa, shuncha kuchli rahbariyat talab qilinadi, u xodimlar uchun eng yaxshi ishlash sharoitlarini yaratishi kerak. Jamoaviy ish, oʻrganish, moslashish va natijalarga erishish qobiliyati hamda nima yaratilayotgani, nega bu amalga oshirilayotgani va bu biznes va mijozlarga haqiqiy qiymat keltiradimi degan masalada intizom muhimdir.

Aslida, insoniyatning kelajagi biz allaqachon biladigan asosiy tamoyillarga toʻliq bogʻliq, ular ahamiyatga ega. AI bu asosiy biznes va insoniy tamoyillarni kamroq dolzarb qilmaydi; aksincha, u ularning ahamiyatini oshiradi. AI eksponensial, yorqin, generativ va paydo boʻlayotgan boʻlganligi sababli, eng katta foydani koʻproq vositalarga ega boʻlgan tashkilotlar emas, balki aniq maqsadga, kuchli rahbariyatga, sogʻlom ish usullarına va tez va nazoratli harakat qilish qobiliyatiga ega boʻlganlar oladi.

AI davridagi asosiy disiplinalar

Texnologiyalarning murakkabligi, innovatsionligi yoki yorqin tabiati qanday boʻlishidan qatʼi nazar, baʼzi bilim sohalari hayotiy ahamiyatga ega:

• Buyuk rahbariyat: Faqat mavjud tizimlar doirasida boshqarish oʻrniga, rivojlanish sharoitlarini yaratadigan liderlar juda muhim. Bu tizimli toʻsiqlarni bartaraf etish, oʻrnatilgan ish usullarini shubhalantirish va odamlarga oʻzgarishlarga reaksiya berish imkonini berishni anglatadi. Mutlaqo shaffof rahbariyat orqali ishonch qurish qobiliyati hal qiluvchi boʻladi.
• Sifatli mahsulotlarni yaratish: AI tezlashtiruvchi sifatida xizmat qiladi, mahsulotlar va yechimlarni bemisol tezlikda ishlab chiqishga imkon beradi. Biroq, mahsulotni ishlab chiqishdagi qatʼiy intizomlarsiz, kompaniyalar haqiqatan ham yomon mahsulotlarni yaratishda tezroq boʻlish xavfi ostida turadi. Nima yaratilayotgani istalgan, qimmatli, amalga oshiriladigan va barqaror boʻlishi kerak. Eng muhimi, faqat minimal hayotga mos mahsulotni (MVP) yaratish tezligi emas, balki sinovdan oʻtkazilishi va undan saboqlar olinishi mumkin boʻlgan minimal istalgan, qimmatli, amalga oshiriladigan va barqaror mahsulotni aniqlashdir.
• Mijoz birinchi oʻrinda: AI asosidagi yechimlar tobora koʻproq bevosita isteʼmolchilar bilan oʻzaro aloqada boʻlib, imkoniyatlar va xatarlarni keltirib chiqaradi. Biroq, mohiyatida biz odamlarga xizmat qilishda davom etamiz. Mijozlar bilan oʻzaro aloqada koʻproq AI joriy etilganda, bu aloqalar munosib, foydali va empatiya bilan boy ekanligiga kafolat berish uchun yanada koʻproq ehtiyotkorlik koʻrsatilishi kerak — oxir-oqibat, insoniy boʻlishi kerak.
• Hamkorlik uchun maydon yaratish: AI individual samaradorlikni oshirish uchun sezilarli imkoniyat beradi, ammo haqiqiy sehr jamoalar samarali birgalikda ishlayotganda sodir boʻladi. Aniqlik va umumiy maqsad, ijobiy muhit, shuningdek, mos vositalar va cheklovlar jamoalarga bitta odamdan koʻra ancha koʻproq birgalikda erishishga imkon beradi. AI individni kuchaytirishi mumkin, lekin buyuk hamkorlik tashkilotni kuchaytiradi. Agar bu jarayon murakkab qaror qabul qilish va tizimli toʻsiqlar bilan cheklangan boʻlsa, AI tizimni moʻjizaviy tarzda tuzatmaydi — u mavjud muammolarni kuchaytirishi mumkin.
• Boshqaruv va nazorat: AI Formula-1 poyga mashinasiga oʻxshaydi: u juda tez, ammo uning samaradorligi shunchaki tezlikdan koʻproq narsaga bogʻliq. Tashkilotlar tez harakat qilish, tajriba oʻtkazish va innovatsiyalarni joriy etishlari kerak, ammo ular yoʻnalishni boshqarish, xatarlarni minimallashtirish va zarurat tugʻilganda sekinlashish uchun imkoniyatlar va filtrlarga ham muhtoj.
• Ijro intizomi: Faoliyat maqsadingizni hech qachon unutmaslik kerak. Ishni boshqaruvi uchun koʻrinadigan qilish; ustuvorliklarni belgilash, tartiblash va toʻgʻri foydalanish ssenariylarini bajarish; natijalarni faollik asosida emas, balki qiymat asosida oʻlchash; shuningdek, har kuni oʻrganish, tajriba va yaxshilanish uchun axloqiy va xavfsiz muhit yaratish orqali doimiy takomillashtirish kerak.

AI tomonidan boshqariladigan dunyoda eskirgan biznes usullari

Bu barcha eski ish usullarini saqlab qolish kerak degani emas. Baʼzi odatlar AI ishlatilayotgan dunyoda endi foyda bermaydi, baʼzilari esa biz yaratmoqchi boʻlgan taraqqiyotni faol ravishda sabotaj qiladi.

• Statik biznes-caseʼlar va uzoq rejalashtirish gorizontlari: Anʼanaviy yillik rejalashtirish bashorat qilinadigan, chiziqli natijalarni taxmin qiladi. Paydo boʻlayotgan AI ustunlik qiladigan muhitda, qattiq koʻp yillik yoʻl xaritasi ishga tushgunga qadar eskirishi mumkin. Bu rejalashtirish mumkin emas degani emas, lekin reja koʻproq yoʻnalishga, moslashuvchanlikka, oʻrganishga va qoʻllab-quvvatlashga yoʻnaltirilishi kerak, notoʻgʻri ishonchga emas.
• Jamoaviy-administrativ boshqaruv odatlari: Faqat iyerarxiya orqali boshqarish impulslarni majburan sekinlashtiradi va ishonchni buzadi. Zamonaviy surʼat liderga yoʻnaltirilgan tashkilotlarni talab qiladi, bu yerda odamlar ishonch hosil qilinadi va oʻzgarishlarga tez reaksiya berish, toʻsiqlarni bartaraf etish va vazifalarni operativ bajarish uchun vakolat beriladi.
• Koʻrsatkichlar (metrikalar)dan voz kechish: Texnologik taraqqiyotni joriy etish darajasi, berilgan litsenziya soni yoki faol pilot loyihalar soni kabi koʻrsatkichlar bilan oʻlchash yolgʻon erishish hissini yaratadi. Muvaqqiyat faqat faollik bilan emas, balki biznes qiymati bilan oʻlchanishi kerak, bu esa anʼanaviy chiziqli rejalashtirish va hisobot berishning evolyutsiyasini ham talab qiladi.

AI davrida innovatsiyalar va boshqaruvni muvozanatlashtirish

AI davrida maqsadimiz yangilik uchun oʻrnatilgan tamoyillardan butunlay voz kechish boʻlmasligi kerak. Shu bilan birga, biz avvalgi transformatsiyani sekinlashtirgan shu byurokratik muhitlar va mentalitetlarda innovatsiyalarni bostirishga yoʻl qoʻya olmaymiz.

AI uni joylashtirilgan har qanday muhitni kuchaytiradi. U yaxshi boshqariladigan, moslashuvchan jamoalarni tezlashtirishi mumkin, ammo u zaif jarayonlarni, samarasiz qaror qabul qilishni va hal boʻlmagan tizimli muammolarni aniqlashi va baʼzan kuchaytirishini ham taʼminlaydi.

Gates shunday dedi: «Agar dunyo toʻgʻri qadamlar bersa, AI yaxshilik kuchiga aylanadi va hamma uchun yaxshiroq qiladi». Shunday qilib, liderlarning vazifasi kerakli sharoitlarni yaratishdir: ishni koʻrinadigan qilish, ustuvorliklarni maqsadli belgilash, muhim narsalarni oʻlchash va oʻrganish orqali doimiy takomillashtirishni davom ettirish. Doimiy oʻrganish va yaxshilanishni eslab qolgan tashkilotlar tez harakat qilishga eng tayyor boʻladi, nazoratni yoʻqotmasdan.