O desenvolvedor de Shenzhen, MetaChip, apresentou detalhes sobre o progresso de seu coprocessador para inferência de IA na borda, o MEGA188. De acordo com as informações apresentadas no evento em Pequim em 18 de novembro, o chip passou pelas etapas de lançamento de silício e testes de modelos. Atualmente, os trabalhos estão focados em amostras e validação de engenharia, e a produção em massa está planejada para o primeiro trimestre de 2027, e não antes.
A empresa descreveu as etapas alcançadas em uma entrevista publicada pelo veículo tecnológico chinês Zhidx, e a IT Home cobriu este desenvolvimento em 20 de novembro. Vale notar que este não foi o primeiro envolvimento do chip: a MetaChip informa que o silício foi recebido em 14 de outubro e foi lançado nesse dia. A conexão via PCIe foi estabelecida em 19 de outubro, e a verificação de leitura/escrita da memória empilhada ocorreu no final de outubro.
O design do chip é realizado em processo tecnológico de 28 nanômetros e integra verticalmente DRAM com lógica por meio de conexão híbrida e vias de silício através. A MetaChip declara uma largura de banda de memória de pico de 600 GB por segundo, configurações de memória de 2 GB, 4 GB e 8 GB, e um consumo médio de energia do chip de cerca de 5 a 10 watts. Esses indicadores são especificações do fornecedor, e não resultados de medições independentes de eficiência do sistema.
O MEGA188 destina-se a complementar o processador principal do host através de interfaces como PCIe e M.2, e não a substituir a CPU do computador. A ideia principal é que aproximar a memória dos blocos de computação pode reduzir o gargalo associado ao movimento de dados durante a inferência local de modelos de linguagem.
Em testes próprios, a empresa alcançou um desempenho de aproximadamente 293 tokens por segundo no modo de alto desempenho ao usar o MiniCPM5-2B e quase 80 tokens por segundo ao trabalhar com o Qwen3-8B. No modo de baixo consumo, os números foram de cerca de 92 e 26 tokens por segundo, respectivamente. Não se deve combinar esses modos em uma única promessa de largura de banda máxima com consumo mínimo de energia.
Um aspecto importante é a diferença entre o funcionamento de um cartão e de vários. A MetaChip informou que para o Qwen3-30B-A3B em um único cartão, é alcançado cerca de 19 tokens por segundo, enquanto com o funcionamento paralelo de vários cartões, o indicador aumenta para cerca de 80 tokens por segundo. Este indicador para múltiplos cartões não é resultado do trabalho de um único chip, e as medições fornecidas não estabelecem o desempenho para consultas, configurações de modelos ou aplicativos arbitrários.
O desenvolvedor também está estudando a possibilidade de implantar uma arquitetura mixture-of-experts com suporte a SSD: os pesos completos dos especialistas são armazenados no drive, enquanto a DRAM empilhada armazena em cache os especialistas ativos. Configurações maiores de classe de 120 bilhões de parâmetros, utilizando vários cartões e armazenamento distribuído SSD, ainda estão em fase de verificação.
Um obstáculo de curto prazo permanece sendo a transformação de amostras de engenharia em produtos reprodutíveis e suportados. A compatibilidade das interfaces, o teste de confiabilidade, o software de tempo de execução e a integração com clientes continuam sendo parte desse trabalho; o período de produção anunciado é um objetivo da empresa, e não um volume de fornecimento confirmado.



