Huawei представила X-Router, саморазвивающийся маршрутизатор моделей, который является частью платформы openJiuwen. Эта платформа, разработанная командами Huawei Cloud, Лабораторий Huawei с 2012 года, а также университетами и разработчиками предприятий, предназначена для работы с ИИ-агентами.
Анонсированный 2 октября, X-Router функционирует между агентом и моделями, которые он вызывает. Его задача — определять для каждого входящего запроса, какая модель должна его обработать: простые задачи направляются к легким и недорогим моделям, тогда как сложные — к самым мощным.
Команда отмечает, что система дружественна к Ascend и в ходе тестирования позволила снизить потребление токенов более чем на 50%.
Принцип работы и архитектура
X-Router представляет собой один из алгоритмов в механизме маршрутизации моделей openJiuwen. Он имеет ядро на Rust и расширение на Python, и его код доступен на GitHub и AtomGit под лицензией Apache-2.0.
Классификатор Qwen3-0.6B, работающий в хост-процессе, анализирует диалог и присваивает ему один из пяти уровней сложности: SIMPLE, MEDIUM, COMPLEX, RESEARCH или REASONING. Запросы, соответствующие заданному уровню или ниже, обрабатываются локальной моделью, в то время как более сложные отправляются в облачную модель, соответствующую данному уровню.
Кроме того, если целевая модель начинает работать некорректно, маршрутизатор автоматически переключается на использование локальной модели вместо эскалации проблемы.
Механизм поддерживает профили возможностей для каждой модели, которые создаются офлайн на основе исторических данных и обновляются в течение минуты при изменении версии или производительности модели. При каждом шаге он изучает недавнюю беседу и прогресс вызова инструментов, учитывая последний запрос пользователя, а также взвешивает такие системные параметры, как близость к KV-cache, текущая нагрузка и факт недавнего таймаута или ограничения скорости модели.
Дополнительно, опциональный контекстный бандит обучается на результатах схожих прошлых запросов и может отменить решение классификатора, если другой уровень показал явно лучший результат, сохраняя при этом первоначальный выбор, если доказательная база слаба.
Поскольку алгоритмы маршрутизации являются чистыми функциями, а память хранится в отдельном слое состояния, потеря этого состояния лишь возвращает систему к холодной маршрутизации, предотвращая сбой запросов.
Результаты тестирования
Команда интегрировала X-Router в WorkSwarm, рабочую среду агентов openJiuwen, и провела все 147 задач PinchBench в 11 категориях. При отправке каждого запроса к Kimi-K2-Thinking достигнут показатель 71.36% при стоимости модели в $11.11. Статическая маршрутизация с использованием X-Router показала 66.3% при затратах в $8.25.
При включении обучения бандитом результат улучшился до 70.70%, а стоимость снизилась до $6.16, что примерно на 44.6% меньше базового уровня.
На Terminal-Bench через LLMRouterBench, используя пул моделей Opus 4.8, Qwen3.5-122B и Qwen3.5-35B, настройка, ориентированная на экономию средств, достигла 95.2% успеха при 51.4% меньшей стоимости по сравнению с Opus, а настройка, ориентированная на качество, показала 98.6% при снижении затрат на 15.7%.
Маршрутизатор также интегрирован с функцией многомодежного сотрудничества MoA в WorkSwarm, позволяя решать, когда несколько моделей должны ответить на сложный вопрос перед тем, как их результаты будут объединены. Команда планирует дальнейшее развитие саморазвивающихся функций, включая обучение стратегий маршрутизации с использованием обучения с подкреплением.