Разработка более мощных моделей искусственного интеллекта — это лишь половина задачи; вторая половина заключается в обеспечении их доступности для работы в больших масштабах. Компания DeepSeek анонсировала обновление V4.1 Flash, направленное на ускорение выполнения задач и сокращение длины выходных данных, а также выпустила фреймворк с открытым исходным кодом для более эффективного процесса инференса.
17 октября DeepSeek выпустила модель V4.1-Flash-1017, которая является обновлением ее модели V4.1 Flash. Согласно опубликованным результатам тестирования компании, были достигнуты улучшения в ряде областей, включая задачи по кодированию и агентские задачи. Например, показатель Terminal-Bench 4.0 увеличился с 31.2 до 42.3, а DeepSWE v1.1 вырос с 74.2 до 77.0.
На диаграмме соотношения стоимости и производительности для бенчмарка кодирования DeepSWE v1.1 показано, что V4.1 Flash-1017 достигает показателя Pass@1 в 77% при стоимости около 0.20 доллара за задачу, превосходя при этом ряд моделей, которые требуют значительно больших затрат на эксплуатацию. При более низких настройках, составляющих от 0.11 до 0.14 доллара за задачу, модель все равно демонстрирует результаты в районе 72–73%.
DeepSeek также сообщает о сокращении времени выполнения задач и уменьшении объема выходных данных, что позволяет снизить расходы на инференс, поскольку модель выполняет ту же работу, используя меньше токенов и меньшее вычислительное время. Данное обновление оптимизировано для агентских фреймворков, таких как DeepSeek Harness, Tencent CodeBuddy и WorkBuddy.
Однако следует отметить, что представленные цифры являются в первую очередь собственными результатами тестирования компании, и различные тесты используют разные настройки оценки и фреймворки, что не гарантирует одинаковой производительности модели во всех приложениях.
Отдельный сигнал поступил с таблицы лидеров Agent Arena от Arena. Согласно отчету ITHome от 20 октября, обновленная модель заняла первое место среди моделей с открытым весом и 11-е место в общем зачете, основываясь на 7498 сессиях реального использования. Медианная стоимость составила приблизительно 0.18 доллара за задачу, хотя на разных страницах таблицы лидеров фигурировали значения от 0.18 до 0.19 доллара.
20 октября DeepSeek представила DeepInfer, свой внутренний фреймворк для инференса, а также библиотеку deepseek-recipe для обработки запросов API, подготовки промптов для модели и парсинга результатов. Фреймворки инференса определяют, как модели используют вычислительные ресурсы для обработки запросов. Их конструкция влияет на задержку, пропускную способность и необходимое оборудование для обслуживания пользователей, что делает их важным, хотя и менее заметным, фактором в операционных расходах ИИ.
DeepSeek описывает DeepInfer как фреймворк, который обеспечивает работу ее крупномасштабных производственных сервисов. Выпуск с открытым исходным кодом включает оптимизированные вычислительные ядра, асинхронное планирование и поддержку распределенного инференса и спекулятивного декодирования, согласно документации README и развертывания. В настоящее время он поддерживает графические процессоры Nvidia SM100 и NPU Huawei Ascend 950, при этом DeepSeek V4.1 Flash указан как поддерживаемая модель.
Этот релиз не представляет собой полный стек инференса. Документация DeepSeek указывает, что для полноценного сервиса требуются система KV-cache, дисагрегация префилла/декодирования и балансировка нагрузки между репликами с параллелизмом данных, которые не полностью покрываются этим выпуском, хотя большая часть основной функциональности дисагрегации уже реализована.
Предоставление кода с открытым исходным кодом дает разработчикам доступ к части технологии обслуживания моделей DeepSeek. Практическая польза будет зависеть от их оборудования, рабочих нагрузок и дополнительных инженерных усилий, необходимых для развертывания.
При запуске V4.1 Flash в сентябре DeepSeek сообщила о сокращении требований к памяти KV-cache до четверти и потребностей в хранилище SSD до восьмой части по сравнению с предыдущим поколением. Компания также предлагает тарифы API в непиковое время с половиной цены пикового тарифа.
В октябре DeepSeek открыла свои API Search и Fetch для разработчиков, установив цену 5 юаней за каждые 1000 успешных запросов. Вызовы через интеграции DeepSeek API с Claude Code и Codex временно бесплатны, а выставление счета за запрос запланировано на 1 ноября.
Эти достижения демонстрируют, что DeepSeek работает над повышением эффективности как на уровне модели, так и на уровне инфраструктуры, одновременно расширяя набор инструментов для агентов ИИ. То, превратятся ли эти улучшения в надежную производительность и снижение общих затрат, будет зависеть от реальных рабочих нагрузок, развертывания и обслуживания.
