DeepSeek Huawei Ascend chiplari ustida V5 modelini oʻqitishni rejalashtirmoqda

Pekin markazidagi sunʼiy intellekt (AI) kompaniyasi HongYun oʻzining katta modellarni birlashtirilgan oʻqitish va inferens uchun platformasi boʻlgan HyperLM V2.5 ning yangi versiyasini taqdim etdi. Bu haqda IT Home va ifeng Tech nashrlari 3-noyabr kuni xabar berdilar. Kompaniya oʻzini Huawei Ascend 950DT chipiga chuqur moslashtirishni amalga oshirgan birinchi kompaniya deb daʼvo qiladi, u havo sovutgichli Atlas 850E SuperPoD tizimi bilan toʻliq mos keladi va Ascend Native uchun Huawei tomonidan texnik sertifikatsiyalangan.

HongYun shuni taxmin qiladiki, model faqat tokenlar oʻrnatilgandan va hosil qilingandan soʻng qoʻllab-quvvatlanishi deb hisoblanganida, qoʻllab-quvvatlashni aniqlash koʻpincha juda noaniq boʻladi. Kompaniyaning maqsadi shundaki, u xususiy joylashtirishlardan foydalanadigan davlat va korporativ mijozlarga yangi tezlatgichlardan maksimal samaradorlikni olishga yordam beradi.

Kompaniya Ascend 950DT ni yuqori tranzit quvvati talab qiladigan vazifalar uchun flagman chip sifatida tasvirlaydi, masalan, chatlarda uzoq muloqot, uzun hujjatlarni qayta ishlash va agentlarning uzluksiz fikrlashi. Bundan tashqari, havo sovutgichli Atlas 850E tizimi infratuzilmani modernizatsiya qilish zarurati boʻlmagan holda mavjud maʼlumotlar bazasi markazlariga integratsiya qilinishi mumkinligi taʼkidlanadi.

HyperLM V2.5 bir nechta darajalarda moslashadi. Ulanishlar darajasida platforma Huawei ning UnifiedBus 2.0 texnologiyasini qoʻllab-quvvatlaydi, bu tizimaro ulanish tranzit quvvatini 13,4 TB/s ga taʼminlab, kartalar orasidagi trafik uzatilishi paytida togʻinlarni oldini oladi, bu uzun kontekstlar yoki oldingi toʻldirish va dekodlash bosqichlarini ajratish uchun muhimdir. Operator darajasida tizim mxFP4 inferensi uchun optimallashtirilgan boʻlib, bitta tugunning 14,2 PFLOPS dan foydalanish imkonini beradi.

Platforma Qwen, GLM va DeepSeek kabi eng soʻnggi ochiq kodli modellarni qoʻllab-quvvatlaydi va uning rejalashtiruvchisi 950DT ning xotira va tranzit quvvati profili hisobga olingan holda qayta qurilgan.

HyperLM V2.5 ning chiqarilishi beshta yangi imkoniyatni oʻz ichiga oladi. Oldingi toʻldirish va dekodlashni ajratish ikkita bosqichni mustaqil resurs puliga ajratish imkonini beradi, shunda ular yuqori yuklanish paytida raqobatlashmaydi. Koʻp darajali KV keshlash tizimaro yoʻl-yoʻriqlar, tez-tez uchraydigan kontekstlar va sessiya uchun fiksatsiya qilingan shablonlarni qayta ishlatib, takrorlanuvchi hisoblash hajmini kamaytiradi. vNPU virtualizatsiyasi Ascend 950DT, 910C va 910B chiplarini segmentatsiya qiladi, AI Core va HBM xotirasi uchun granulli kvotalar va izolyatsiyani taʼminlaydi, shuningdek, uskuna nosozligida issiq migratsiya va avtomatik qayta rejalashtirishni qoʻllab-quvvatlaydi.

Shuningdek, OpenAI protokoli bilan mos keladigan birlashtirilgan shlyuz modeli qoʻshildi, u marshrutlash, tezlikni cheklash, beta-chiqishlar va A/B-testlashni boshqaradi. Butun stekni kompleks monitoring yuklanish, xotira ishlatilishi, tranzit quvvati, kechikish va QPS ni kuzatib boradi, ogohlantirishlar va nosozliklarning avtomatik lokalizatsiyasini taʼminlaydi.

Davlat boshqaruvi, energiya, transport va moliya kabi tartibga solingan sohalar uchun platforma administrator, xavfsizlik xizmati va auditor rollarini ajratishni, koʻp darajali tasnif nazoratini va toʻliq operatsiya jurnalini nazarda tutadi, shuningdek, hisoblash quvvatlarini hisobga olish, modellarni chaqiruvlarni audit qilish va har bir loyiha boʻyicha foydalanish statistikasi.

HongYun Xitoy Fanlari Akademiyasi Tasbiqiy hisoblash texnologiyalari guruhida inkubatorlangan boʻlib, uning asosiy jamoasi Tasbiqiy hisoblash texnologiyalari instituti va Sugon xodimlaridan tashkil topgan. 2020 yilda kompaniya Huawei Ascend dasturi hamkorlik dasturiga qoʻshildi. Kompaniya Ascend va Hygon DCU apparat merosiga asoslanib rivojlanishni davom ettirishni rejalashtirmoqda, bunda heterogen rejalashtirish, inferensni tezlashtirish, keshlash va agentlar ilovalariga alohida eʼtibor qaratiladi.

Ishlab chiqaruvchilar DeepSeekning rasmiy Harness GitHub omborida uchta yangi model identifikatorini aniqladilar: deepseek-v5, deepseek-v5-open va deepseek-v5-next. Hozirda DeepSeek V5 modelini eʼlon qilmagan va bu yozuvlar mavjud modellar emas, balki koddagi sinovli shamollardir.

Omborni tekshirish natijasida ushbu identifikatorlarning DeepSeek hisobdor provayderining sinov faylida, yaʼni packages/llm/llm-deepseek-account/tests/provider.spec.ts faylida, 154–156 qatorlarda, mavjud deepseek-v4-pro yozuvi yonida joylashganligi aniqlandi. Ombor tarixi shuni koʻrsatadiki, ular 24-sentabrdagi commitda qoʻshilgan boʻlib, bu commit DeepSeek hisobdor modellari katalogini rasmiy model roʻyxatiga oʻtkazgan.

Sinov ssenariysi mijoz versiyasiga koʻra modellarni qanday filtrlashini tekshiradi: v5-open yozuvi minimal mijoz versiyasi 0.0.1 talab qiladi, v5-next esa 99.0.0-alpha.1 talab qiladi, va test roʻyxatda faqat flash va v5-open modellarining paydo boʻlishini kutadi. Bu Harness server tomonida yangi modelga oʻtish imkoniyatini bildiradi, ham barcha mijozlar uchun, ham faqat yangilanganlar uchun, yangi reliz chiqarish zarurati boʻlmasdan. Biroq, bu V5 modelining mavjudligini yoki uning paydo boʻlish muddatlarini tasdiqlamaydi, va baʼzi ishlab chiquvchilar bu nomlarni shunchaki sinovli shamollar deb hisoblashadi. 28-oktyabr holatiga koʻra, DeepSeek V5 seriyasi uchun hech qanday eʼlon, model kartochkalari yoki API identifikatorlarini nashr etmagan.

Hozirgi model assortimenti V4-Pro va V4.1-Flashni oʻz ichiga oladi; oxirgi biri sentabrda yangi arxitektura bilan chiqarildi, ammo V4 nomi saqlab qolingan.

Oʻsha hafta joriy model uchun yangi benchmarking natijasi taqdim etildi. Artificial Analysis Intelligence Index v5 ni chiqardi, bu v4 ning yanvar oyidagi chiqishidan beri eng katta yangilanish boʻlib, uning 60% ogʻirligi endi yopiq sinov maʼlumotlar toʻplamlari yoki yashirilgan javoblarga asoslangan. Kodlash indeksning 25% ni tashkil etadi, va bu 15 balldan Cognitionning FrontierCode 2.0 ga tegishli boʻlib, u 132 ta real ochiq kodli vazifada kod oʻzgarishlarini tahlil qilib, ularni omborning hamrohlariga tomonidan birlashtirish soʻrovi sifatida tasdiqlashlari kerakligini baholaydi.

FrontierCode 2.0 platformasida DeepSeek V4.1-Flash-1017 maksimal harakatda 28% ball oldi, bu chiqarilgan ogʻirliklarga ega modellar orasida eng yuqori koʻrsatkichdir. Kimi K3.1 Pro 25.5% koʻrsatdi, lekin uning toʻliq ogʻirliklari hali mavjud emas. Gemini 4 Argon 25.7% ga erishdi, GPT-6 Luna esa 25.2% ni oldi.

Umumiy indeks kamroq ijobiy boʻldi. DeepSeek V4.1-Flash 32 ball oldi, GLM-5.3 bilan tenglashdi, shu bois lider Claude Opus 5.5 58 ball oldi. Artificial Analysis eng yaxshi chiqarilgan ogʻirliklarga ega ochiq model va jadval lideri oʻrtasidagi farq v4.3 ostida 3 balldan v5 ostida 12 ballga oshganini qayd etadi.

DeepSeek kompaniyasi uning katta modellar xizmatlarining asosini tashkil etuvchi inferensiya uchun freymvork boʻlgan DeepInferni chiqardi. Ushbu chiqarish 20 oktyabrda amalga oshirildi.

DeepInfer Nvidia grafik protsessorlari, shuningdek, Huawei Ascend protsessorlarini qoʻllab-quvvatlaydi. Freymvork tarqatilgan inferensiya, spekulyativ dekodlash va tuzilgan chiqish kabi bir qator funksiyalarni taqdim etadi.

DeepSeek bayonotiga koʻra, ushbu chiqarishning maqsadi ishlab chiquvchilar va korxonalarga hisoblash va energiya sarfini kamaytirish bilan birga tranzit quvvatni oshirish va kechikishlarni pasaytirishga yordam berishdir.

Bundan tashqari, kompaniya deepseek-recipe komponentini ommaviy foydalanish uchun mavjud qildi. U API soʻrovlarini oʻzgartirish va DeepSeekning oʻz xizmatlariga muvofiq modelning kirish va chiqishini qayta ishlash uchun javobgar. Hozirda DeepInfer DeepSeek-V4.1-Flash-1017 modelini qoʻllab-quvvatlaydi va kompaniya bu loyiha orqali kelajakdagi modellar uchun inferensiya kodi va optimallashtirishlarni chiqarishni nazarda tutmoqda.