Компания Huawei представила систему хранения данных OceanStor M900 Context Memory Storage на мероприятии HUAWEI CONNECT 2026, которое состоялось в Шанхае 17 сентября. Данное решение разработано как слой хранения, специально предназначенный для рабочих нагрузок AI inference SuperPoDs, а не как очередная дополнительная карта ускорителя.
В рамках презентации компания сосредоточилась на спецификациях продукта, касающихся инфраструктуры KV-кэша для искусственного интеллекта. При этом дорожные карты ускорителей Ascend SuperPoD и компоненты архитектуры Peerium, представленные в тот же период, не рассматривались.
По мере того как модели становятся триллионными по параметрам, а окна контекста превышают миллион токенов, рабочие нагрузки многоходовых агентов приводят к тому, что KV-кэш выходит за пределы встроенной памяти и DRAM. Ответ Huawei заключается в глобально объединенном многоуровневом KV-кэше, поддерживаемом UnifiedBus, который расширяет память SuperPoD с SRAM и DRAM на SSD.
Согласно материалам компании, один кластер способен достигать емкости в 64 петабайта. Это позволяет увеличить доступный KV-кэш на один NPU с уровня гигабайт до уровня терабайт для повторного использования, тем самым повышая частоту попаданий в кэш при инференсе с длинным контекстом.
Производительность системы основана на интегрированной архитектуре, объединяющей центральный процессор (CPU), сетевой контроллер и контроллер NAND. Благодаря этому NPU SuperPoD могут обращаться к SSD напрямую, минуя преобразование протокола или пересылку через CPU. Huawei утверждает, что этот путь сокращает задержку доступа с миллисекунд до примерно 60 микросекунд, что составляет заявленное снижение на 90%, и обеспечивает совокупную пропускную способность доступа около 40 ТБ/с, что на 1,5 раза выше, чем у конкурирующих решений.
В типичных сценариях программирования ИИ компания заявляет, что данная конструкция способна удвоить пропускную способность токенов кластера инференса и сократить время до первого токена (TTFT) вдвое; эти показатели остаются заявлениями вендора.
Вопросы ценообразования решаются за счет адаптивного хранения, чувствительного к KV, которое прогнозирует ценность жизненного цикла кэша и размещает данные в различных уровнях носителей. Huawei указывает на показатель до 24 операций записи диска в день (DWPD), что является заявленным увеличением долговечности SSD в 16 раз, а также на целевые показатели стабильности в течение трех лет, направленные на снижение затрат на замену носителей и стоимость токена для гипермасштабного инференса. Таким образом, OceanStor M900 представляет собой конкретный продукт Huawei, объединяющий вычисления, сеть и хранилище для общего контекстного кэша в масштабе петабайт, а не запуск чипа.
