Taobao kompaniyasining MNN jamoasi MNN-Pocket-0.3B modelini jamoatchilik uchun ochdi. Taxminan 300 million parametrga ega bu til modeli mobil ilovalar ichida bevosita ishlash uchun ishlab chiqilgan. IT Homening 6-noyabr xabaringizga koʻra, model MNN inferensiya dvigateli asosida qurilgan va Taobao kabi yirik universal xizmat va savdo ilovalari uchun moʻljallangan, bu yerda qurilmada hisoblash quvvati, xotira va batareya quvvati cheklangan boʻlib, ular koʻplab funksiyalar oʻrtasida taqsimlanishi kerak.
Jamoa oʻzining 'ilova-natiqli katta model' deb nomlangan modeli uchun toʻrtta asosiy maqsad qoʻydi. Bu maqsadlarga maʼlum qurilmalarda sekundiga 200 token dan ortiq dekodlash tezligiga erishish kiradi. Maksimal xotira sarfi 300 MB dan past boʻlishi kerak, bu kontekst oʻsishi va integratsiya yuklari uchun umumiy model byudjeti doirasida taxminan 500 MB zaxira qoldirishni anglatadi. Bundan tashqari, bitta tipik inferensiya jarayoni standart telefon batareyasi quvvatining oʻn mingdan biridan ortiq sarflamasligi kerak, bu esa 100 marta ishga tushirish 1% dan kamroq narxga tushishi degani. Nihoyat, belgilangan biznes vazifalarini bajarishda model 8B sinfidagi modellar bilan taqqoslanadigan natijalarni namoyish etishi kerak.
Sinovlar shuni koʻrsatdiki, MNN-Pocket-0.3B iPhone 18 Pro da MNN dvigateli yordamida butunlay avtonom rejimda ishlaydi va oʻrtacha dekodlash tezligi taxminan 350 token/sekund ga yetadi. INT4 joylashtirish paketi, u ogʻirliklar, tokenizator, hisoblash grafi va inferensiya konfiguratsiyasini oʻz ichiga oladi, 173 MB hajmga ega. M5 chipli iPad Pro da Metal backendidan foydalangan holda jamoa 466 token/sekund dekodlash tezligi va 8721 token/sekund oldindan toʻldirish tezligini qayd etdi, shu bilan birga maksimal xotira bazaviy daraga nisbatan 228 MB ga oshdi. Snapdragon 8 Gen 5 telefonda CPU backendidan foydalangan holda 251 token/sekund qayd etildi, va OnePlus 13 da 100 marta ishga tushirish uchun qoʻshimcha energiya xarajatlari batareya quvvatining taxminan 0,3% ni tashkil etdi.
Model nol dan boshlab oʻrgatildi, xitoy va ingliz tillariga alohida eʼtibor qaratildi. 50 milliondan 1,3 milliard parametr gacha boʻlgan zich konfiguratsiyalarni sinovdan oʻtkazgandan soʻng, jamoa xotira va tezlik talablarini bir vaqtda qondiradigan eng katta hajmni taxminan 300 million deb aniqladi. 36 qatlamga oʻtish oʻrtacha koʻrsatkichlarni oshirmagan, ammo dekodlashni sekinlashtirganligi sababli, guruhli savol berish (grouped-query attention) bilan 28 qatlamdan foydalanish qaror qilingan. Lugʻat boyligi Qwen3 tokenizatoridagi taxminan 151 000 token dan 64 000 ga qisqartirildi, bu embedding va chiqish qatlami xarajatlarini kamaytirish imkonini berdi.
Jamoa IFEval 73,20, xitoy IFEval 74,59 va 11 ta xitoy va inglizcha benchmark boʻyicha oʻrtacha 50,00 darajasini hisobot berdi, bu hajmi va kattaroq modellarni, jumladan Qwen3-0.6B ni ortda qoldirdi. Model kartochkasida, milliarddan kichik parametrlarga ega boshqa modellar kabi, u murakkab matematik vazifalar yoki uzun gorizontalda kod yaratish uchun tavsiya etilmasligi qayd etilgan.
Hugging Face da joylashtirilgan variantlar quyidagilarni oʻz ichiga oladi: davomli oldingi oʻqitish uchun asosiy model, ustoz bilan nozik sozlash kontrol nuqtasi, koʻrsatma sozlamasi modeli, GGUF yigʻindisi, MNN INT4 yigʻindisi va nomzodlar orasidan tanlash uchun qaror qabul qilish sarlavhasi. Chiqish shuningdek, jamoa aytishicha, baʼzi vazifalarda dekodlash tranzmissiya tezligini ikki baravar oshirishga qodir boʻlgan DFlash2 spekulyativ dekodlash modelining loyihasini oʻz ichiga oladi.
