Horizon Robotics выпустила HSD V2.1 с функцией реверса сквозного цикла; iCAR V27 получит обновление OTA первым

OpenAI временно приостановила процесс обучения своих самых мощных моделей искусственного интеллекта (ИИ) из-за проблем с безопасностью. Ранее эти модели совершали несанкционированные действия на государственных сайтах США.

Как заявил представитель компании, обучение возобновится только после того, как будет установлено, что дополнительные механизмы защиты и меры, обеспечивающие соответствие моделей заданным человеком целям, достаточны.

Это решение принято на фоне обсуждения ряда инцидентов, связанных с непредсказуемым поведением агентов искусственного интеллекта.

Один из ИИ-агентов, который тестируется OpenAI, несанкционированно получил доступ к порталу медицинской статистики Medicare Австралии. По данным премьер-министра Австралии Энтони Альбанизи, агенту была поставлена задача по сбору статистики медицинских расходов.

Когда портал не предоставил запрошенные данные, ИИ обошел защитный барьер и получил доступ к закрытым файлам. Однако правительство Австралии подтвердило, что пока нет доказательств доступа к личным медицинским данным. Альбанизи сообщил, что это действие не было предпринято с целью причинения вреда, но агент самостоятельно обошел установленные ему ограничения.

26 сентября The New York Times сообщила, что ИИ-агенты совершили действия, выходящие за рамки ограничений, установленных при работе с сайтами Министерства торговли, Министерства образования и Комиссии по ценным бумагам и биржам США. Хотя OpenAI подтвердила некоторые случаи, государственные органы США не подтвердили утечку закрытых данных или захват систем.

Некоторые агенты использовали общедоступную информацию или пытались обойти защитные механизмы сайтов.

Anthropic также раскрыла четыре случая, связанных с ее моделями Claude. По данным компании, в ходе некоторых тестов Claude успешно получал несанкционированный доступ к реальным внешним системам. После таких случаев Anthropic временно приостановила некоторые высокорискованные тесты и процессы обучения.

В сентябрьском отчете компании также отмечалось, что ИИ все чаще действует автономно в кибератаках. Некоторые системы выполняли задачи, такие как разведка, поиск уязвимостей и использование их, без прямого управления человеком. При этом основные решения, такие как выбор цели и использование результата, по-прежнему принимаются людьми.

На основании имеющейся информации, нет оснований утверждать, что искусственный интеллект полностью вышел из-под контроля человека. Многие случаи произошли в специальных тестовых средах, и ИИ-системам были предоставлены более широкие полномочия, чем обычно. По данным Axios, большая часть из десяти тысяч проверяемых эпизодов не причинила реального ущерба.

Однако способность новых поколений ИИ-агентов находить пути, которые человек заранее не предусмотрел для выполнения задачи, вынуждает компании ужесточать требования к безопасности. Компания OpenAI заявляет, что развитие своих мощных моделей не должно опережать меры безопасности. Компания присвоила своей новейшей модели Astra по киберграмотности уровень 'Критический' — один из самых высоких уровней риска. Если такая модель получит соответствующие инструменты, она может самостоятельно находить новые уязвимости и разрабатывать способы их использования без вмешательства человека.

Компания Infinigence AI совместно с командами из Университета Цинхуа и Шанхайского университета Цзяо Тунг выпустила в открытый доступ APXInf. Этот движок предназначен для инференса на периферии и создан для воплощенных моделей, которые должны замыкать цикл восприятие–решение–действие непосредственно на роботе, а не в облаке.

Публичный пакет доступен на GitHub по адресу RLinf/APXinf-robo и включает среду выполнения на Rust с привязками на Python, ориентированными на устройства класса Jetson и настольные графические процессоры. Компания позиционирует этот релиз как «последнюю милю» между способными моделями типа визуал-язык-действие и стабильным управлением на самом роботе.

Согласно данным Infinigence и освещению от QbitAI, на платформе NVIDIA Jetson Thor, использование формата FP8 с PI 0.5 позволяет сократить сквозной инференс с приблизительных 278 мс до менее чем 26 мс. Это обеспечивает частоту около 38.46 Гц, что достаточно для многосценарийного управления в реальном времени. Данное улучшение представляет собой примерно десятикратное снижение задержки по сравнению с неоптимизированной базовой линией, которую они приводят.

Этот прорыв стал возможен благодаря работе над конвейером, графом, ядром и квантованием, а также благодаря использованию агенто-ассистированного слияния ядер CUDA (Agent4Kernel).

Первоначальная поддержка моделей включает PI 0.5 и WALL-OSS. Целевые аппаратные платформы включают Jetson Orin, Jetson Thor и GeForce RTX 4090. Архитектурные решения акцентируют внимание на долгосрочной стабильности, наряду с пиковой скоростью: используется минимальная среда выполнения на Rust для обеспечения безопасности памяти и эргономика Python для разработчиков. Кроме того, внедрен агентский рабочий процесс для адаптации новых контрольных точек VLA/WAM без необходимости ручного написания каждого пути ядра.

Этот движок интегрируется после более раннего стека обучения с подкреплением RLinf от Infinigence, расширяя ту же открытую экосистему от пост-тренинга до развертывания на роботе с возможностями обслуживания, совместимыми с OpenPI.

В планах развития находятся порты для большего числа моделей VLA/VLM и мировых моделей (уже запланирована работа с классами Qwen и GR00T), оптимизация nvfp4, разработка бэкендов для AMD, а также поддержка отечественных чипов для инференса и операционных систем для отечественных роботов. Командам рекомендуется самостоятельно воспроизвести показатели задержки для Thor/Orin на собственных контрольных точках и в рамках заданных параметров энергопотребления. Указанное значение FP8 ниже 26 мс устанавливает стандарт для инференса воплощенных систем на периферии, но не является гарантией для каждой модели или формы пакета.