Компания Iluvatar CoreX во время своего медиа-дня, состоявшегося 28 октября в Шанхае, впервые представила общецелевой графический процессор Tiangai 300 в работающем состоянии на реальном оборудовании. До этого момента публичные материалы компании о чипе фокусировались исключительно на архитектуре и дорожной карте, а не на функционирующих системах.
Основным заявлением является сравнение производительности. Iluvatar CoreX утверждает, что Tiangai 300 стал первым отечественным общецелевым GPU, чья измеренная производительность достигает уровня NVIDIA H200. Кроме того, стороннее тестирование, после конвертации данных, показало, что общая пропускная способность одной карты составляет 1.05 раза больше, чем у H200. Важно отметить, что компания не раскрыла методику тестирования, использованные модели или условия рабочей нагрузки, поэтому данный результат пока не может быть проверен независимо.
Этот чип предназначен для внедрения в суперузел IXL144, который ранее был представлен компанией на Китайской международной промышленной ярмарке. Один такой стеллаж IXL144 объединяет 144 GPU, 18 CPU и около 10.1 ТБ памяти GPU, что Iluvatar CoreX называет самым плотным суперузлом GPU в отрасли. По собственным оценкам, такая конфигурация снижает стоимость на миллион эффективных токенов на 40% по сравнению с основными международными решениями.
На открытом дне также была представлена информация о гетерогенном развертывании. Iluvatar CoreX сообщила, что реализовала первую отечественную схему дезагрегации AFD между GPU и XPU, что позволило сократить задержку инференса на 60%. Дезагрегация AFD обычно подразумевает разделение этапов вычислений модели, таких как слои внимания и прямого распространения, между различными типами процессоров, чтобы каждый выполнял ту работу, в которой он наиболее эффективен.
Что касается периферийных устройств, компания заявила, что ее чип Tongyang TY1200 превосходит NVIDIA Thor T5000 в проведенных тестах, опять же без публикации подробностей. TY1200, который ранее был анонсирован с 300 TOPS плотных вычислений для ПК с ИИ и воплощенного интеллекта, также назван первым отечественным периферийным продуктом, способным выполнять симуляцию физики с ускорением GPU на основе MuJoCo-Warp — функция, критически важная для обучения роботов в симуляции.
В целом, эти демонстрации выводят линейку продуктов следующего поколения от Iluvatar CoreX из области бумажных спецификаций к работающим системам. Следующим моментом, за которым стоит следить, станут независимые бенчмарки с раскрытыми рабочими нагрузками.