A Huawei liberou o código-fonte para os processos de pré-treinamento (pretraining), ajuste fino supervisionado (SFT) e aprendizado por reforço (RL) para o modelo openPangu-2.0. Este lançamento ocorreu em 28 de setembro de 2026, de acordo com informações da TMT Post e cobertura relacionada ao stack de treinamento otimizado para Ascend.
O branding oficial é usado como Huawei / openPangu. Anteriormente, os pesos dos modelos openPangu-2.0-Pro e openPangu-2.0-Flash já haviam sido lançados na plataforma Hugging Face; no entanto, este lançamento refere-se especificamente ao caminho do código de treinamento que está na base desses modelos MoE treinados em Ascend, e não ao lançamento de novos parâmetros.
Os cartões de modelo no Hugging Face descrevem o openPangu como uma marca de modelos de inteligência artificial abertos da Huawei, destinados a treinamento e inferência em Ascend. O modelo openPangu-2.0-Pro possui aproximadamente 505 bilhões de parâmetros totais com cerca de 18 bilhões ativos por token, janela de contexto de 512K e um orçamento de treinamento de cerca de 34 trilhões de tokens. O modelo openPangu-2.0-Flash tem cerca de 92 bilhões de parâmetros totais, aproximadamente 6 bilhões ativos, o mesmo tamanho de contexto de 512K e um orçamento comparável de ~34 trilhões de tokens.
Detalhes adicionais após o treinamento de ambos os modelos mencionam SFT rápido/lento combinado, RL altamente especializado e destilação online (OPD). As características arquitetônicas comuns ao Pro e Flash incluem atenção latente multi-cabeça, mistura de camadas DSA-plus-SWA (aproximadamente 1:2), topologia de resíduo mHC com quatro ramos, previsão de múltiplos tokens de três cabeças e treinamento usando o otimizador Muon.
O lançamento de 28 de setembro apresenta os componentes de pré-treinamento, SFT e RL como ferramentas específicas para Ascend, permitindo que os desenvolvedores reproduzam e expandam esse stack, em vez de apenas carregar pesos para inferência. É importante distinguir os pesos abertos, o código de inferência e este conjunto de código de treinamento: os pesos já estavam disponíveis publicamente; a notícia é que a Huawei está abrindo o caminho de treinamento do openPangu-2.0 na plataforma Ascend para os componentes pretrain/SFT/RL.
Para equipes que trabalham com Ascend, o resultado específico é um stack de treinamento OSS correspondente à família de modelos Pro confirmada (505B / ~18B ativos, 512K) e Flash (92B / ~6B ativos, 512K).