Команда большой языковой модели Ling от Ant Group выпустила Ling-3.1-flash-1019, обновленную версию ранее представленной модели Ling-3.1-flash, а также одновременно опубликовала лежащую в основе предварительно обученную модель Ling-3.1-flash-base. Обе версии доступны на платформе Hugging Face под лицензией MIT.
Архитектура Ling-3.1-flash-1019 сохранила черты своего предшественника: это гибридная конструкция с линейным механизмом Mixture-of-Experts, обладающая общим количеством параметров около 560 миллиардов и примерно 25 миллиардами активных параметров на токен, а также контекстным окном в один миллион токенов. Согласно описанию модели, стек включает 63 слоя линейного внимания KDA и 9 слоев управляемого MLA, среди которых 512 маршрутизированных экспертов, активируются 8 одновременно. Основное изменение в данном релизе связано с дополнительным постобучением, направленным на улучшение рассуждений, использования инструментов и многоэтапного выполнения задач.
Согласно индексу искусственного анализа третьих сторон Artificial Analysis Intelligence Index v4.3.2, новая версия получила оценку 44, что на три пункта выше предыдущего выпуска. Остальные показатели являются результатами, заявленными самой Ant. Команда сообщила, что ее балл на тесте AA-Briefcase, который является комплексным тестом на знание, увеличился с приблизительно 1400 до 1524 Elo, а показатель GDPval-AA вырос с около 1618 до 1644 Elo. Кроме того, в области автоматизации процессов AutomationBench-AA улучшился с 62% до 68%, а решение научных задач повысилось: CritPt поднялся с 18% до 26%, а SciCode — с 54% до 57%.
Базовая модель представляет собой более значимое дополнение для разработчиков. Ant утверждает, что Ling-3.1-flash-base превзошла DeepSeek-V4-Pro-Base и MiMo-V2.5-Pro-Base по 32 из 47 бенчмарков в восьми областях, основываясь на собственных тестах, охватывающих знания, рассуждения, код, математику и длинный контекст. Веса выпущены в формате BF16, что позволяет командам проводить дальнейшее предварительное обучение, адаптацию к предметной области и собственное постобучение.
Ant позиционирует этот выпуск вокруг концепции персональных агентов, а не чат-ботов. Обновление появилось на день после того, как приложение AI-ассистента Ant LingGuang 2.0 было перепозиционировано как личный помощник, способный продолжать работу над задачами после того, как пользователь завершил диалог, используя память между сессиями, планирование долгосрочных задач и выделенный облачный хостинг. Примеры, приведенные командой, включают отслеживание погоды и бронирований перед поездкой или мониторинг цен на товары относительно установленного бюджета. Также команда заявила, что обучила вариант с распознаванием изображений и языком, Ling-3.1-flash-VL, который уже используется внутри LingGuang и будет выпущен публично позднее.
В списке рекомендуемых конфигураций для обслуживания, указанных в карточке модели, фигурируют SGLang и vLLM на восьми узлах с GPU.
