DeepSeek planeja treinar o modelo V5 em chips Huawei Ascend

A empresa de IA HongYun, sediada em Pequim, apresentou o HyperLM V2.5 — uma nova versão de sua plataforma para treinamento combinado e inferência de grandes modelos. Isso foi relatado pelas publicações IT Home e ifeng Tech em 3 de novembro. A empresa afirma ser a primeira a realizar uma adaptação profunda ao chip Huawei Ascend 950DT, sendo totalmente compatível com o sistema Atlas 850E SuperPoD com resfriamento a ar e tendo passado pela certificação técnica da Huawei para Ascend Native.

A HongYun acredita que a definição de suporte é frequentemente muito vaga, quando um modelo é considerado suportado apenas após a instalação e geração de tokens. O objetivo da empresa é ajudar clientes governamentais e corporativos que utilizam implantações privadas a obter o máximo desempenho dos novos aceleradores.

A empresa descreve o Ascend 950DT como um chip de ponta para tarefas que exigem alta taxa de transferência, como interações prolongadas em chats, processamento de documentos longos e raciocínio contínuo de agentes. Além disso, observa-se que o sistema Atlas 850E com resfriamento a ar pode ser integrado em data centers existentes sem a necessidade de modernizar a infraestrutura.

O HyperLM V2.5 se adapta em vários níveis. No nível de interconexão, a plataforma suporta a tecnologia UnifiedBus 2.0 da Huawei, que fornece uma largura de banda de interconexão do sistema de 13,4 TB/s, prevenindo gargalos na transmissão de tráfego entre placas, o que é importante para contextos longos ou divisão das fases de pré-preenchimento e decodificação. No nível do operador, o sistema é otimizado para inferência mxFP4, permitindo o uso de 14,2 PFLOPS por nó.

A plataforma suporta os modelos de código aberto mais recentes, incluindo Qwen, GLM e DeepSeek, e seu agendador foi reconstruído levando em consideração o perfil de memória e largura de banda do 950DT.

O lançamento do HyperLM V2.5 inclui cinco novos recursos. A divisão de pré-preenchimento e decodificação permite isolar duas fases em pools de recursos independentes para que não entrem em concorrência durante picos de carga. O cache KV multinível reutiliza prompts do sistema, contextos frequentemente encontrados e modelos de sessão fixos para reduzir o volume de cálculos repetidos. A virtualização vNPU segmenta os chips Ascend 950DT, 910C e 910B, fornecendo cotas granulares e isolamento para cálculos AI Core e memória HBM, além de suportar migração a quente e reagendamento automático em caso de falha de hardware.

Também foi adicionado um modelo de gateway unificado, compatível com o protocolo OpenAI, que gerencia roteamento, limitação de taxa, versões beta e testes A/B. O monitoramento abrangente de toda a pilha rastreia carga, uso de memória, largura de banda, latência e QPS, fornecendo alertas e localização automática de falhas.

Para setores regulamentados, como governo, energia, transporte e finanças, a plataforma prevê a separação de funções de administrador, segurança e auditor, controle multinível de classificação e logs operacionais completos, bem como contabilidade de capacidade computacional, auditoria de chamadas de modelos e estatísticas de uso por projeto.

A HongYun foi incubada pelo Instituto Ocidental de Tecnologia Computacional da Academia Chinesa de Ciências, e sua equipe principal é formada por funcionários do Instituto de Tecnologia Computacional e Sugon. Em 2020, a empresa aderiu ao programa de parceria Ascend da Huawei. A empresa planeja continuar o desenvolvimento com base no hardware Ascend e Hygon DCU, focando em agendamento heterogêneo, aceleração de inferência, cache e aplicações de agentes.

Desenvolvedores descobriram três novos identificadores de modelos no repositório oficial do Harness da DeepSeek no GitHub: deepseek-v5, deepseek-v5-open e deepseek-v5-next. Atualmente, a DeepSeek não anunciou o modelo V5, e esses registros são placeholders de teste no código, e não modelos disponíveis.

Ao verificar o repositório, foi constatado que esses identificadores estão em um arquivo de teste para o provedor de contas DeepSeek, especificamente no arquivo packages/llm/llm-deepseek-account/tests/provider.spec.ts, nas linhas 154–156, ao lado da entrada existente deepseek-v4-pro. O histórico do repositório mostra que eles foram adicionados em um commit de 24 de setembro, que moveu o diretório de modelos da conta DeepSeek para a lista oficial de modelos.

O cenário de teste verifica como o cliente filtra os modelos por requisito de versão: a entrada v5-open exige uma versão mínima do cliente 0.0.1, enquanto v5-next exige 99.0.0-alpha.1, e o teste espera que apenas os modelos flash e v5-open apareçam na lista. Isso indica a possibilidade de alternar para um novo modelo do lado do servidor do Harness, seja para todos os clientes ou apenas para aqueles que atualizaram, sem a necessidade de lançar uma nova versão. No entanto, isso não confirma a existência do modelo V5 nem seu cronograma de lançamento, e alguns desenvolvedores consideram esses nomes meros placeholders de teste. Até 28 de outubro, a DeepSeek não publicou nenhum anúncio, cartão de modelo ou identificador de API para a série V5.

A oferta atual de modelos inclui V4-Pro e V4.1-Flash; este último foi lançado em setembro com uma nova arquitetura, mantendo o nome V4.

Na mesma semana, um novo resultado de benchmarking foi apresentado para o modelo atual. A Artificial Analysis lançou o Intelligence Index v5, que é a maior atualização desde o lançamento do v4 em janeiro, com 60% do peso agora baseado em conjuntos de dados de teste fechados ou respostas ocultas. O codificação representa 25% do índice, e desses 15 pontos, FrontierCode 2.0 da Cognition corresponde a 132 tarefas reais de código aberto que avaliam se os repositórios acompanhantes aprovariam o pedido de fusão.

Na plataforma FrontierCode 2.0, o modelo DeepSeek V4.1-Flash-1017 alcançou 28% com esforço máximo, sendo o maior resultado entre os modelos com pesos lançados. Kimi K3.1 Pro obteve 25,5%, mas seus pesos completos ainda não estão disponíveis. Gemini 4 Argon atingiu 25,7%, e GPT-6 Luna — 25,2%.

O índice geral foi menos favorável. DeepSeek V4.1-Flash obteve 32 pontos, empatando com GLM-5.3, enquanto o líder, Claude Opus 5.5, recebeu 58 pontos. A Artificial Analysis observa que a lacuna entre o melhor modelo aberto com pesos lançados e o líder da tabela aumentou de 3 pontos sob v4.3 para 12 pontos sob v5.

A DeepSeek lançou o DeepInfer, um framework para execução de inferência que está na base dos seus serviços de grandes modelos. Este lançamento ocorreu em 20 de outubro.

O DeepInfer possui suporte para GPUs Nvidia, bem como processadores Huawei Ascend. O framework oferece uma série de funcionalidades, incluindo inferência distribuída, decodificação especulativa e saída estruturada.

De acordo com a DeepSeek, o objetivo deste lançamento é ajudar desenvolvedores e empresas a aumentar o throughput e reduzir a latência, ao mesmo tempo que diminuem os custos de computação e o consumo de energia.

Além disso, a empresa tornou público o componente deepseek-recipe. Ele é responsável por converter solicitações de API e processar a entrada e saída do modelo de acordo com os próprios serviços da DeepSeek. Atualmente, o DeepInfer suporta o modelo DeepSeek-V4.1-Flash-1017, e a empresa pretende continuar lançando código de inferência e otimizações para futuros modelos através deste projeto.