Компания ModelBest представила новую версию своей линейки мультимодальных моделей для работы на устройствах — MiniCPM-V 4.7. Эта модель доступна в двух размерах: 35B-A3B и 1B. Важно отметить, что версия 35B-A3B является первой моделью с архитектурой Mixture-of-Experts (MoE) в серии MiniCPM-V.
Веса, код и документация данной модели опубликованы в репозитории OpenBMB на GitHub под лицензией Apache-2.0.
Эффективность на мобильных устройствах
Основным заявленным преимуществом является высокая эффективность при работе на смартфонах. ModelBest утверждает, что модель 35B-A3B, активирующая около 3 миллиардов параметров на каждый токен, способна работать на iPhone 17 Pro Max, используя всего около 3 ГБ оперативной памяти. При этом скорость декодирования превышает 13 токенов в секунду.
Компания объясняет этот результат новой техникой ускорения инференса, которую они назвали LES (lookahead expert scheduling), и характеризует модель как первую модель с открытым исходным кодом MoE, которая может бесшовно и без потерь функционировать непосредственно на устройстве.
Результаты тестирования и сравнение
Согласно бенчмаркам, представленным командой, модель 35B-A3B демонстрирует следующие результаты: 91.72 на MMBench, 91.2 на OCRBench и 90.21 на CMMLU. В режиме инструкций ModelBest заявляет, что она превосходит Qwen3.6 35B-A3B по общему показателю, при этом время рассуждения занимает меньше.
Версия 1B улучшила базовые возможности по сравнению с MiniCPM-V 4.6. Кроме того, компания сообщает, что эта версия опережает Qwen3.5 0.8B как по общему баллу, так и по эффективности инференса.
Тестирование, проведенное QbitAI, показало, что модель успешно справляется с задачами рассуждения по графикам и преобразованием академических статей в формат Markdown, причем все это происходит в автономном режиме на телефоне, что ориентировано на конфиденциальную локальную работу с документами.
Поддержка платформ и дополнительные инструменты
MiniCPM-V 4.7 поддерживает операционные системы iOS, Android и HarmonyOS. Модель была адаптирована для работы с чипсетными платформами от Intel, AMD, Arm, Rockchip и Houmo AI, что позволяет использовать ее как на мобильных гаджетах, так и на локальных ПК.
Наряду с самой моделью, ModelBest предоставила открытый исходный код метода Self-Replay Fine-Tuning (SRFT). Этот метод тонкой настройки предназначен для помощи разработчикам в добавлении новых функций с минимальными затратами, одновременно предотвращая забывание ранее приобретенных навыков.
Этот релиз продолжает стабильный выпуск моделей в линейке MiniCPM, следуя за MiniCPM-V 4.6 в мае и текстовой моделью MiniCPM5-2B в сентябре.