Tadqiqotchilar sunʼiy intellekt (SI) inson niyatlarini notoʻgʻri talqin qilganini miya signallarini tahlil qilish orqali aniqlashga qodir texnologiyani ishlab chiqdilar. Ushbu ishlab chiqishning maqsadi SI tizimlariga foydalanuvchi tomonidan soʻzli tushuntirish zarur boʻlmagan holda 'bu men nazarda tutgan narsa emas edi' holatini anglash imkonini berishdir.
Ish Korea Advanced Institute of Science and Technology (KAIST) olimlari Microsoft Research Asia bilan hamkorlikda amalga oshirdi. Neural Value Alignment (NVA) deb nomlangan bu texnologiya miya-kompyuter interfeysidan foydalanib, elektroteensefalografiya (EEG) yordamida olingan maʼlumotlarni tahlil qiladi va bu SI ga real vaqt rejimida oʻz xatti-harakatini tuzatish imkonini beradi.
Asosiy gʻoya odamlar va mashinalar oʻrtasidagi keng tarqalgan muammodan kelib chiqdi: bir xil inson harakati turli maqsadlarga mos kelishi mumkin, va bir xil maqsad koʻplab usullar bilan erishilishi mumkin. Masalan, insonning stakanni olishi uni undan ichimlik ichish niyatini bildirmaydi; inson obʼektni topshirmoq, uni yuvmoq yoki shunchaki boshqa joyga qoʻymoqchi boʻlishi mumkin.
Xuddi shu kabi, agar maqsad chanqoqlikni yengillashtirish boʻlsa, inson stakanni olishi, suv butilkasini topishi yoki kimdirdan ichimlik olib kelishni soʻrashi mumkin. Harakat va maqsad oʻrtasidagi bu ikkilik SI tizimlarining harakatni toʻgʻri talqin qilishi, ammo insonning haqiqiy istagini notoʻgʻri tushunishi yoki maqsadni tushunishi, lekin foydalanuvchi kutganidan boshqa usul bilan erishishi natijasida xato qilishiga olib keladi.
Eksperimentlar davomida tadqiqotchilar RPE, SPE yoki bu ikki holatning bir vaqtda yuzaga kelishi paytida miya toʻlqinlarida turli naqshlarni aniqladilar. Keyin ular EEG orqali olingan signallarga chuqur oʻrganish usullarini qoʻlladilar. Bu tizimga insonning SI harakatlariga reaksiyasini tasniflash imkonini berdi.
Amaliyotda ushbu texnologiya ikkita ssenariyni ajratib koʻrsatishga qodir: 'siz mening maqsadimni notoʻgʻri tushundingiz' va 'siz maqsadni tushundingiz, ammo uni notoʻgʻri usulda bajardingiz'. Dekodlangan signallar keyinchalik SI qaror qabul qilish jarayoni uchun qayta aloqa sifatida ishlatiladi. SPE aniqlanganda, tizim maqsad toʻgʻri ekanligini, ammo strategiya oʻzgartirilishi kerakligini talqin qiladi. RPE esa maqsadning oʻzi notoʻgʻri tushunilganini koʻrsatadi va SI inson niyatini yana aniqlashga urinishi kerak.
KAIST maʼlumotlariga koʻra, simulyatsiyalar ushbu metodning insonning maqsadini birdaniga oʻzgartirishi yoki neyronli qayta aloqaning bir qismi yoʻqligi kabi noaniqlik sharoitlarida ham mavjud usullardan tezroq moslashishini koʻrsatdi. Tadqiqot 2026-yil avgust oyida IEEE Transactions on Cybernetics jurnalida Neural Value Alignment: Human–AI Collaboration Under Goal–Action Ambiguity nomli maqolada nashr etildi.