Beijing Academy of Artificial Intelligence (BAAI) представила FlagOS 2.2 — последнюю версию своего открытого программного стека, предназначенного для запуска моделей искусственного интеллекта на различных архитектурах чипов. Этот релиз вышел 30 сентября и был продемонстрирован на Конференции по открытым вычислениям ИИ в Пекине 17 октября 2026 года. BAAI характеризует это обновление как переход от адаптации моделей под множество чипов к оптимизации общего кода для них.
Основным достижением является масштаб. FlagOS 2.2 охватывает девять библиотек операторов, а количество публичных операторов в FlagGems и связанных библиотеках увеличилось с 564 до 1454, что составляет прирост в 890 единиц. Новая библиотека FlagGems-SGLang добавила 40 многочиповых операторов, которые покрывают такие функции, как внимание, обновления состояния Mamba, метод смешивания экспертов, LoRA, сэмплирование и квантование. BAAI утверждает, что благодаря более чем тысяче операторов на 10 типах аппаратного обеспечения ИИ, общая производительность операторов возросла примерно на 27%.
Значительная часть этого роста обусловлена автоматизацией. Генератор операторов KernelGen от BAAI теперь поддерживает девять типов ИИ-чипов и за этот квартал создал 765 новых операторов. Из них 416 прошли проверку точности как минимум на пяти отечественных чипах, достигнув более 80% производительности нативных операторов. Кроме того, инструмент для унифицированной отладки и профилирования FlagPrism связывает данные исходного кода Triton, промежуточное представление компилятора и данные выполнения на устройстве, поддерживая Huawei Ascend, Iluvatar CoreX, Moore Threads, Nvidia и Enflame.
Релиз также включает FlagOS-Compressor для преобразования весов и квантования между чипами. BAAI сообщила, что применение W8A8 к модели Qwen3.5-397B-A17B позволило уменьшить размер файлов модели с 751,41 ГБ до 382,45 ГБ, что является снижением на 49,1%, при этом модель показала 84,85% на GPQA-Diamond. В сочетании с плагинами фреймворков для vLLM, Megatron-LM, SGLang и других, новые модели могут быть адаптированы для до 12 платформ чипов всего за один день после выпуска.
Исследования на примере старого оборудования демонстрируют успехи. На серверах Ascend 910B BAAI отметила, что пропускная способность логического обслуживания модели GLM-5.3-Flash в тесте агентского воспроизведения увеличилась в 2,04 раза по сравнению с уровнем до оптимизации, поднявшись с 8,52 тыс. до 17,36 тыс. токенов в секунду. Модель Xing4.0-29B-A4B от China Telecom была адаптирована для 10 платформ чипов, что привело к снижению времени получения первого токена на 19,87% в тестах с длинным вводом по сравнению с нативными операторами.
BAAI считает, что проблема заключается во временных рамках: более 80% развернутых вычислений ИИ относятся к неновейшему поколению, в то время как модели быстро меняются. Стоит отметить, что все представленные цифры основаны на собственных тестах BAAI, и компания подчеркивает, что фактическая производительность при обслуживании по-прежнему зависит от рабочей нагрузки.