Xitoyning Hebei viloyatida sunʼiy intellekt (AI) asosidagi yongʻin oʻchirish tizimi bilan bogʻliq gʻayritabiiy hodisa yuz berdi. Togʻli sayyohlik kurortida oʻrnatilgan tizim raqamli displeyda koʻrsatilayotgan olov animatsiyasini haqiqiy yongʻin deb qabul qildi.
Natijada, tizim displeyga suv quvurchasini yoʻnaltirdi va yonidagi ovqatlanish stendiga suv purkashni boshladi. Tez orada suv tovarlar va stend atrofidagi hududni nam qildi.
Bu hodisa 19-noyabr kuni Hebei viloyati, Zhangjiakou shahrida joylashgan Wanglang togʻli sayyohlik kurortida sodir boʻldi. Restoran oldida olov animatsiyasi namoyish etilayotgan raqamli displey mavjud edi. AI tizimi bu tasvirni haqiqiy olov deb talqin qildi va keyin suv quvurchasini displey tomon buradi.
Kurortdagi yongʻinlarni aniqlash uchun kameralar bilan jihozlangan tizim mavjud. U atrofdagi tasvirlarni tahlil qilib, olovni aniqlashga harakat qiladi. Biroq, bu holatda tizim xato qildi. Ijtimoiy tarmoqlarda viral boʻlgan video displeyga tushayotgan kuchli suv oqimini koʻrsatadi, uning yonida muzlatgich va bar stullar ham nam boʻlgan.
Hodisa natijasida hech kim jarohatlanmadi. Shunga qaramay, tozalash ishlari uchun stend vaqtincha yopilishi kerak boʻldi, undan soʻng kurortning qolgan qismi odatdagidek faoliyat yuritishda davom etdi. Kurort xodimlari tizim yongʻinlarni tezda aniqlash va oʻchirish uchun yaratilganini, ammo bu safar u suvni notoʻgʻri yoʻnaltirishini tushuntirdilar.
Turli hisobotlarda signalizatsiya ishga tushishining sababi oshxonada joylashgan uskunalar boʻlishi mumkinligi aytiladi, va keyin tizim haqiqiy manba oʻrniga olov rasmini koʻrsatuvchi displeyga suv purkashni boshlagan.
Odatda yongʻin oʻchirish tizimlari issiqlik yoki tutunlarga javob beradi. Biroq, AI tizimlari ham kameralardan olingan tasvirlarni tahlil qila oladi. Ular olov, ranglar va harakat kabi olov belgilarini tanib olishga harakat qilishadi. Bunday yondashuvning afzalligi yongʻin yuzaga kelganda tezkor reaksiya imkoniyatidir. Ammo Xitoydagi hodisa ushbu texnologiyaning jiddiy kamchiligini ham namoyish etdi: AI olovli tasvirni haqiqiy yongʻin deb qabul qilishi mumkin.
Shuning uchun ekspertlar taʼkidlashicha, xavfsizlikni taʼminlash uchun faqat kameralarga tayanish yetarli emas. Yongʻinni aniq aniqlash uchun harorat, tutun va kameralardan olingan maʼlumotlarni bir vaqtda tekshirish zarur. Bu holat, gʻayritabiiy tuyulsa-da, AI ga bunday muhim sohalarda, masalan, xavfsizlikda qanday darajada ishonch bildirish kerakligi haqida muhim savolni koʻtaradi.

