DeepSeek планирует обучать модель V5 на чипах Huawei Ascend

AI-компания HongYun, базирующаяся в Пекине, представила HyperLM V2.5 — новую версию своей платформы для комбинированного обучения и инференса больших моделей. Об этом сообщили издания IT Home и ifeng Tech 3 ноября. Компания утверждает, что стала первой, кто осуществил глубокую адаптацию к чипу Huawei Ascend 950DT, полностью совместима с системой Atlas 850E SuperPoD с воздушным охлаждением и прошла техническую сертификацию Huawei для Ascend Native.

HongYun считает, что определение поддержки часто бывает слишком расплывчатым, когда модель считается поддерживаемой лишь после установки и генерации токенов. Целью компании является помощь государственным и корпоративным клиентам, использующим частные развертывания, в получении максимальной производительности от новых ускорителей.

Компания описывает Ascend 950DT как флагманский чип для задач, требующих высокой пропускной способности, таких как длительное взаимодействие в чатах, обработка длинных документов и непрерывное рассуждение агентов. Кроме того, отмечается, что система Atlas 850E с воздушным охлаждением может быть интегрирована в существующие центры обработки данных без необходимости модернизации инфраструктуры.

HyperLM V2.5 адаптируется на нескольких уровнях. На уровне межсоединений платформа поддерживает технологию UnifiedBus 2.0 от Huawei, которая обеспечивает пропускную способность системного межсоединения в размере 13,4 ТБ/с, предотвращая узкие места при передаче трафика между картами, что важно для длинных контекстов или разделения этапов предварительного заполнения и декодирования. На уровне оператора система оптимизирована для инференса mxFP4, позволяя использовать 14,2 PFLOPS одного узла.

Платформа поддерживает последние модели с открытым исходным кодом, включая Qwen, GLM и DeepSeek, а ее планировщик был перестроен с учетом профиля памяти и пропускной способности 950DT.

Выпуск HyperLM V2.5 включает пять новых возможностей. Разделение предварительного заполнения и декодирования позволяет изолировать два этапа в независимые пулы ресурсов, чтобы они не конкурировали во время пиковых нагрузок. Многоуровневое кэширование KV повторно использует системные подсказки, часто встречающиеся контексты и фиксированные шаблоны сессий для снижения объема повторяющихся вычислений. Виртуализация vNPU сегментирует чипы Ascend 950DT, 910C и 910B, предоставляя гранулированные квоты и изоляцию для вычислений AI Core и памяти HBM, а также поддерживает горячую миграцию и автоматическое перепланирование при сбое оборудования.

Также добавлена унифицированная шлюзовая модель, совместимая с протоколом OpenAI, которая управляет маршрутизацией, ограничением скорости, бета-релизами и A/B-тестированием. Комплексный мониторинг всего стека отслеживает нагрузку, использование памяти, пропускную способность, задержку и QPS, предоставляя оповещения и автоматическую локализацию сбоев.

Для регулируемых отраслей, таких как государственное управление, энергетика, транспорт и финансы, платформа предусматривает разделение ролей администратора, службы безопасности и аудитора, многоуровневый контроль классификации и полные журналы операций, а также учет вычислительных мощностей, аудит вызовов моделей и статистику использования по каждому проекту.

HongYun была инкубирована Западным институтом вычислительных технологий при Китайской академии наук, а ее основная команда сформирована сотрудниками Института вычислительных технологий и Sugon. В 2020 году компания присоединилась к партнерской программе Ascend от Huawei. Компания планирует продолжать развитие на базе аппаратного обеспечения Ascend и Hygon DCU, уделяя особое внимание гетерогенному планированию, ускорению инференса, кэшированию и приложениям для агентов.

Разработчики обнаружили три новых идентификатора моделей в официальном репозитории Harness от DeepSeek на GitHub: deepseek-v5, deepseek-v5-open и deepseek-v5-next. На данный момент DeepSeek не анонсировал модель V5, и эти записи являются тестовыми заглушками в коде, а не доступными моделями.

При проверке репозитория было установлено, что эти идентификаторы находятся в тестовом файле для провайдера учетных записей DeepSeek, а именно в файле packages/llm/llm-deepseek-account/tests/provider.spec.ts, на строках 154–156, рядом с существующей записью deepseek-v4-pro. История репозитория показывает, что они были добавлены в коммите от 24 сентября, который переместил каталог моделей учетной записи DeepSeek в официальный список моделей.

Тестовый сценарий проверяет, как клиент фильтрует модели по требованию версии: запись v5-open требует минимальную версию клиента 0.0.1, тогда как v5-next требует 99.0.0-alpha.1, и тест ожидает, что в списке появятся только модель flash и v5-open. Это указывает на возможность переключения на новую модель с серверной стороны Harness, либо для всех клиентов, либо только для тех, кто обновился, без необходимости выпуска нового релиза. Однако это не подтверждает существование модели V5 или сроки ее появления, и некоторые разработчики считают эти названия просто тестовыми заглушками. По состоянию на 28 октября DeepSeek не опубликовал никаких объявлений, карточек моделей или идентификаторов API для серии V5.

Текущий ассортимент моделей включает V4-Pro и V4.1-Flash; последняя была выпущена в сентябре с новой архитектурой, сохраняя при этом название V4.

В ту же неделю был представлен новый результат бенчмаркинга для текущей модели. Artificial Analysis выпустила Intelligence Index v5, которая является крупнейшим обновлением с момента выхода v4 в январе, причем 60% веса теперь основано на закрытых тестовых наборах данных или скрытых ответах. Кодирование составляет 25% индекса, и из этих 15 баллов приходится на FrontierCode 2.0 от Cognition, который оценивает изменения кода в 132 реальных задачах с открытым исходным кодом на предмет того, одобрили бы их сопровождающие репозитория слияние запроса.

На платформе FrontierCode 2.0 модель DeepSeek V4.1-Flash-1017 при максимальном усилии набрала 28%, что является наивысшим показателем среди моделей с выпущенными весами. Kimi K3.1 Pro показала 25.5%, но ее полные веса еще не доступны. Gemini 4 Argon достигла 25.7%, а GPT-6 Luna — 25.2%.

Общий индекс оказался менее благоприятным. DeepSeek V4.1-Flash набрала 32 балла, сравнявшись с GLM-5.3, в то время как лидер, Claude Opus 5.5, получил 58 баллов. Artificial Analysis отмечает, что разрыв между лучшей открытой моделью с выпущенными весами и лидером таблицы увеличился с 3 баллов под v4.3 до 12 баллов под v5.

Компания DeepSeek выпустила DeepInfer, фреймворк для выполнения инференса, который лежит в основе ее сервисов больших моделей. Этот релиз состоялся 20 октября.

DeepInfer обладает поддержкой графических процессоров Nvidia, а также процессоров Huawei Ascend. Фреймворк предоставляет ряд функций, включая распределенный инференс, спекулятивное декодирование и структурированный вывод.

Согласно заявлению DeepSeek, цель этого выпуска — помочь разработчикам и предприятиям повысить пропускную способность и снизить задержки, одновременно уменьшая затраты на вычисления и потребление энергии.

Кроме того, компания сделала общедоступным компонент deepseek-recipe. Он отвечает за преобразование запросов API и обработку ввода и вывода модели в соответствии с собственными сервисами DeepSeek. В настоящее время DeepInfer поддерживает модель DeepSeek-V4.1-Flash-1017, и компания намерена продолжать выпуск кода инференса и оптимизаций для будущих моделей через данный проект.