A Huawei apresentou o sistema de armazenamento de dados OceanStor M900 Context Memory Storage no evento HUAWEI CONNECT 2026, realizado em Xangai em 17 de setembro. Esta solução foi desenvolvida como uma camada de armazenamento especificamente destinada a cargas de trabalho de inferência de IA SuperPoDs, e não como mais um cartão acelerador adicional.
Durante a apresentação, a empresa focou nas especificações do produto relativas à infraestrutura de cache KV para inteligência artificial. No entanto, os roteiros de aceleradores Ascend SuperPoD e os componentes da arquitetura Peerium apresentados no mesmo período não foram abordados.
À medida que os modelos se tornam trilhões de parâmetros e as janelas de contexto excedem um milhão de tokens, as cargas de trabalho de agentes multi-passos fazem com que o cache KV ultrapasse a memória integrada e a DRAM. A resposta da Huawei é um cache KV multinível globalmente unificado, suportado pelo UnifiedBus, que expande a memória SuperPoD de SRAM e DRAM para SSD.
De acordo com os materiais da empresa, um cluster pode atingir uma capacidade de 64 petabytes. Isso permite aumentar o cache KV disponível em um NPU de gigabytes para terabytes para reutilização, aumentando assim a taxa de acerto de cache durante a inferência com contexto longo.
O desempenho do sistema baseia-se em uma arquitetura integrada que combina processador central (CPU), controlador de rede e controlador NAND. Graças a isso, os NPU SuperPoD podem acessar diretamente o SSD, contornando a conversão de protocolo ou o reenvio através da CPU. A Huawei afirma que este caminho reduz a latência de acesso de milissegundos para aproximadamente 60 microssegundos, o que representa uma redução declarada de 90%, e fornece uma largura de banda de acesso agregada de cerca de 40 TB/s, 1,5 vezes superior às soluções concorrentes.
Em cenários típicos de programação de IA, a empresa declara que esta configuração é capaz de dobrar a largura de banda de tokens do cluster de inferência e reduzir o tempo até o primeiro token (TTFT) pela metade; esses indicadores permanecem declarações do fornecedor.
As questões de precificação são resolvidas por meio de armazenamento adaptativo sensível ao KV, que prevê o valor do ciclo de vida do cache e armazena os dados em diferentes níveis de mídia. A Huawei aponta para um índice de até 24 operações de gravação de disco por dia (DWPD), o que representa um aumento declarado de 16 vezes na durabilidade do SSD, bem como metas de estabilidade de três anos, visando reduzir os custos de substituição de mídia e o custo do token para inferência hiperescalável. Assim, o OceanStor M900 representa um produto específico da Huawei, que combina computação, rede e armazenamento para um cache de contexto geral em escala de petabytes, e não o lançamento de um chip.
