Tencent kompaniyasi oʻzining flagman modeli Hy4 ning yuklab olish mumkin boʻlgan ogʻirlarini 20-noyabr kuni eʼlon qildi va bu chiqarish bilan birga yangi Tizim xaritasi ham taqdim etildi. Bu nashr 4-noyabrdagi xizmatni ishga tushirishdan soʻng amalga oshirildi va ushbu hafta mavjud boʻlgan Hy4 ning avvalgi nazorat nuqtalaridan farq qiladi.
Modelning rasmiy kartochkasida 770 milliard parametrga ega til yadrosiga ega 'ekspertlar aralashmasi' turidagi multimodal tizim tavsif qilingan. Faollashtirilganda, har bir matn tokeni uchun 49 milliard parametr ishlatiladi va kontekst oynasi 1 048 576 tokenni tashkil etadi. Shu bilan birga, yadroni hisoblashga koʻrish kodlovchisi, adapter va DFly2 loyiha nusxalarini yaratish komponenti kirmaydi.
Tencent ishlab chiquvchilarga yanada oʻqitish yoki joriy etish uchun turli boshlangʻich nuqtalarni taqdim etdi, jumladan Hy4, Hy4-FP8 va Hy4 ning asosiy nazorat nuqtalari roʻyxatiga kiritildi.
Pandaily uchta omborxonadagi ogʻirlar shardlaridan kichik bayt diapazonini olganligini tasdiqladi. Biroq, kompaniya toʻliq nazorat nuqtalarini yuklab olmadi va inferens oʻtkazmadi.
Joylashtirish hujjatlari sakkiz tomonlama tensor parallelizmi yordamida vLLM va SGLang uchun retseptlarni oʻz ichiga oladi; bu oddiy noutbukda flagman modelining ishlashini isbotlamaydigan, sezilarli infratuzilma joylashtirishlardir.
Ogʻirlar Apache 2.0 emas, balki Tencent Hy License 1.0 litsenziyasidan foydalanadi. Qoʻshimcha tijorat shartlari uchinchi tomonlarga umumiy maqsadli masofaviy chiqarish yoki nozik sozlashni taqdim etadigan operatorlarga qoʻllaniladi. Xizmat sifatida model operatorlari, agar ularning umumiy jahon yillik daromadi istalgan ketma-ket 12 oylik davrda 50 million dollardan oshsa, Hy4 tomonidan bu daromad hosil qilingan boʻlmasligi yoki model 100 milliondan ortiq faol foydalanuvchiga ega mahsulot yoki xizmatda ishlatilmagan boʻlmasligi holatida ham alohida yozma ruxsat olishlari kerak.
Litsenziya cheklangan funksionallikka ega yakuniy foydalanuvchi jarayonlarini va mustaqil boshqariladigan model xizmatlariga sodda qayta yoʻnaltirishlarni oʻzining model xizmati taʼrifidan chiqarib tashlaydi. Ichki foydalanish uchun tor istisno model, uning hosilalari yoki natijalari uchinchi tomonlarga taqdim etilmasligi talab qilinadi. Shunday qilib, bu chegaralar har bir tijorat foydalanuvchisi uchun keng qamrovli cheklov sifatida koʻrilmasligi kerak.
Tencent shuningdek, kiberxavfsizlik boʻyicha zararli oʻquv materialini filtrlash va mutaxassislar tomonidan ichki xavfsizlik auditlarini oʻtkazishni koʻrsatadi. Ushbu baholar nashriyot tomonidan berilgan boʻlib, model notoʻgʻri ishlatilmasligiga oid mustaqil kafolatlar emas. Joylashtirishni baholaydigan ishlab chiquvchilar hali ham oʻzlarining vazifa samaradorligi, resurs talablari va xavfsizlik choralarini baholashlari kerak.
Amaliy oʻzgarish flagman modelining artefaktlariga va uning foydalanishini tartibga soluvchi shartlarga kirishda boʻlib, Hy4 ning koʻrish va kompyuterlashtirilgan foydalanish sohasidagi avval eʼlon qilingan imkoniyatlarining yangi debiutida emas.



