В провинции Хэбэй в Китае произошел необычный инцидент, связанный с системой пожаротушения на основе искусственного интеллекта (ИИ). Система, установленная в горнолыжном курорте, приняла анимацию огня, отображаемую на цифровом табло, за настоящий пожар.
В результате система направила водяной сопло на табло и начала поливать водой соседний фуд-киоск. Вскоре вода промочила товары и окрестности киоска.
Этот инцидент произошел 19 ноября в Чжанцзякоу, провинция Хэбэй, на горнолыжном курорте Ванланг. Перед рестораном находилось цифровое табло, на котором демонстрировалась анимация пламени. Система ИИ интерпретировала эту картинку как реальный огонь, после чего повернула свой водяной сопло в сторону табло.
Система, оснащенная камерами, предназначена для обнаружения возгораний в курорте. Она анализирует окружающие изображения, пытаясь идентифицировать огонь. Однако в данном случае система допустила ошибку. Видео, ставшее вирусным в социальных сетях, показывает сильный поток воды, падающий на табло, рядом с которым находился ледяной автомат и барные стулья, которые также промокли.
В результате происшествия никто не пострадал. Тем не менее, киоск пришлось временно закрыть для проведения уборки, после чего работа остальной части курорта продолжилась в обычном режиме. Сотрудники курорта пояснили, что система создана для быстрого обнаружения и тушения пожаров, но на этот раз она направила воду не туда.
В различных отчетах упоминается, что причиной срабатывания сигнализации могло стать оборудование, расположенное на кухне, а затем система начала поливать табло с изображением огня вместо реального очага.
Обычно системы пожаротушения реагируют на тепло или дым. Однако ИИ-системы также способны анализировать изображения, полученные с камер. Они пытаются распознать признаки огня, такие как пламя, цвета и движение. Преимущество такого подхода заключается в возможности быстрого реагирования при возникновении пожара. Но инцидент в Китае продемонстрировал и серьезный недостаток этой технологии: ИИ может принять изображение с огнем за реальный пожар.
Поэтому эксперты отмечают, что полагаться исключительно на камеры для обеспечения безопасности недостаточно. Для точного обнаружения пожара необходимо одновременно проверять данные о температуре, дыме и информации, полученной с камер. Этот случай, хоть и кажется забавным, поднимает важный вопрос о степени доверия, которое следует оказывать ИИ в таких критически важных сферах, как безопасность.

