A empresa Iluvatar CoreX, durante seu dia de mídia realizado em 28 de outubro em Xangai, apresentou pela primeira vez o processador gráfico de propósito geral Tiangai 300 em funcionamento em hardware real. Até então, os materiais públicos da empresa sobre o chip focaram exclusivamente na arquitetura e no roteiro, e não em sistemas operacionais.
A principal declaração é uma comparação de desempenho. A Iluvatar CoreX afirma que o Tiangai 300 se tornou o primeiro GPU de propósito geral doméstico com desempenho medido que atinge o nível do NVIDIA H200. Além disso, testes de terceiros, após conversão de dados, mostraram que a largura de banda total de um único cartão é 1,05 vezes maior do que a do H200. É importante notar que a empresa não divulgou a metodologia de teste, os modelos utilizados ou as condições de carga de trabalho, portanto, este resultado ainda não pode ser verificado independentemente.
Este chip é destinado à implementação no supernó IXL144, apresentado anteriormente pela empresa na Feira Internacional Industrial da China. Um telhado IXL144 combina 144 GPUs, 18 CPUs e cerca de 10,1 TB de memória GPU, o que a Iluvatar CoreX chama de supernó GPU mais denso do setor. Segundo suas próprias estimativas, essa configuração reduz o custo em um milhão de tokens eficientes em 40% em comparação com soluções internacionais principais.
No dia aberto, também foram apresentadas informações sobre implantação heterogênea. A Iluvatar CoreX informou que implementou o primeiro esquema doméstico de desagregação AFD entre GPU e XPU, o que permitiu reduzir a latência de inferência em 60%. A desagregação AFD geralmente implica a divisão das etapas de cálculo do modelo, como camadas de atenção e propagação direta, entre diferentes tipos de processadores, para que cada um execute o trabalho no qual é mais eficiente.
Quanto aos dispositivos periféricos, a empresa declarou que seu chip Tongyang TY1200 supera o NVIDIA Thor T5000 em testes realizados, novamente sem publicar detalhes. O TY1200, que foi anunciado anteriormente com 300 TOPS de computação densa para PCs de IA e inteligência incorporada, também foi nomeado como o primeiro produto periférico doméstico capaz de realizar simulação física com aceleração de GPU baseada em MuJoCo-Warp — uma função crítica para o treinamento de robôs em simulação.
Em geral, essas demonstrações levam a linha de produtos de próxima geração da Iluvatar CoreX do campo das especificações em papel para sistemas operacionais. O próximo ponto a ser observado serão os benchmarks independentes com cargas de trabalho divulgadas.