डीपसीक हावेई एस्केंड चिप्स पर मॉडल V5 को प्रशिक्षित करने की योजना बना रहा है

बीजिंग स्थित एआई कंपनी होंगयून ने बड़े मॉडल के संयुक्त प्रशिक्षण और अनुमान के लिए अपने प्लेटफॉर्म का नया संस्करण HyperLM V2.5 पेश किया। यह जानकारी आईटी होम और इफेंग टेक द्वारा 3 नवंबर को दी गई। कंपनी का दावा है कि यह पहली कंपनी है जिसने Huawei Ascend 950DT चिप के साथ गहन अनुकूलन किया है, जो एयर-कूल्ड Atlas 850E SuperPoD सिस्टम के साथ पूरी तरह से संगत है और Ascend Native के लिए Huawei द्वारा तकनीकी प्रमाणन प्राप्त कर चुका है।

होंगयून का मानना है कि जब किसी मॉडल को केवल टोकन स्थापित करने और उत्पन्न करने के बाद समर्थित माना जाता है तो समर्थन की परिभाषा अक्सर बहुत अस्पष्ट होती है। कंपनी का लक्ष्य सरकारी और कॉर्पोरेट ग्राहकों की मदद करना है जो निजी परिनियोजन का उपयोग करते हैं, ताकि वे नए एक्सेलेरेटर से अधिकतम प्रदर्शन प्राप्त कर सकें।

कंपनी Ascend 950DT को उच्च थ्रूपुट वाले कार्यों के लिए एक फ्लैगशिप चिप के रूप में वर्णित करती है, जैसे कि चैट में लंबी बातचीत, लंबे दस्तावेज़ों का प्रसंस्करण और एजेंटों का निरंतर तर्क। इसके अलावा, यह उल्लेख किया गया है कि एयर-कूल्ड Atlas 850E सिस्टम को बुनियादी ढांचे के आधुनिकीकरण की आवश्यकता के बिना मौजूदा डेटा केंद्रों में एकीकृत किया जा सकता है।

HyperLM V2.5 कई स्तरों पर अनुकूलित होता है। इंटरकनेक्ट स्तर पर, प्लेटफॉर्म Huawei की UnifiedBus 2.0 तकनीक का समर्थन करता है, जो सिस्टम इंटरकनेक्ट थ्रूपुट को 13.4 TB/s तक प्रदान करता है, जिससे कार्डों के बीच ट्रैफ़िक हस्तांतरण में बाधाएं नहीं आती हैं, जो लंबे संदर्भ या प्रीफिलिंग और डिकोडिंग चरणों के विभाजन के लिए महत्वपूर्ण है। ऑपरेटर स्तर पर, सिस्टम mxFP4 अनुमान के लिए अनुकूलित है, जिससे एक नोड पर 14.2 PFLOPS का उपयोग किया जा सकता है।

प्लेटफॉर्म Qwen, GLM और DeepSeek सहित नवीनतम ओपन-सोर्स मॉडल का समर्थन करता है, और इसके शेड्यूलर को 950DT के मेमोरी प्रोफाइल और थ्रूपुट को ध्यान में रखते हुए फिर से बनाया गया है।

HyperLM V2.5 के लॉन्च में पांच नई क्षमताएं शामिल हैं। प्रीफिलिंग और डिकोडिंग का पृथक्करण दो चरणों को स्वतंत्र संसाधन पूल में अलग करने की अनुमति देता है ताकि वे चरम भार के दौरान प्रतिस्पर्धा न करें। मल्टी-लेवल KV कैशिंग दोहराए जाने वाले सिस्टम प्रॉम्प्ट्स, अक्सर आने वाले संदर्भों और निश्चित सत्र टेम्पलेट्स का पुन: उपयोग करती है ताकि दोहराए जाने वाले गणनाओं की मात्रा कम हो सके। vNPU वर्चुअलाइजेशन Ascend 950DT, 910C और 910B चिप्स को सेगमेंट करता है, AI कोर और HBM मेमोरी के लिए दानेदार कोटा और अलगाव प्रदान करता है, और हार्डवेयर विफलता पर हॉट माइग्रेशन और स्वचालित पुन: शेड्यूलिंग का समर्थन करता है।

एक एकीकृत गेटवे मॉडल भी जोड़ा गया है, जो OpenAI प्रोटोकॉल के साथ संगत है, जो रूटिंग, दर सीमितता, बीटा रिलीज़ और A/B परीक्षण का प्रबंधन करता है। पूरे स्टैक की व्यापक निगरानी लोड, मेमोरी उपयोग, थ्रूपुट, विलंबता और QPS को ट्रैक करती है, अलर्ट और स्वचालित दोष स्थानीयकरण प्रदान करती है।

सरकारी प्रशासन, ऊर्जा, परिवहन और वित्त जैसे विनियमित उद्योगों के लिए, प्लेटफॉर्म प्रशासक, सुरक्षा और ऑडिटर की भूमिकाओं के विभाजन, बहु-स्तरीय वर्गीकरण नियंत्रण और पूर्ण ऑपरेशन लॉग प्रदान करता है, साथ ही कंप्यूटिंग क्षमताओं, मॉडल कॉल ऑडिट और प्रत्येक परियोजना के लिए उपयोग सांख्यिकी को भी ट्रैक करता है।

होंगयून को चाइनीज एकेडमी ऑफ साइंसेज के वेस्टर्न इंस्टीट्यूट ऑफ कम्प्यूटेशनल टेक्नोलॉजी द्वारा इनक्यूबेट किया गया था, और इसकी मुख्य टीम इंस्टीट्यूट ऑफ कम्प्यूटेशनल टेक्नोलॉजी और सुगोन के कर्मचारियों से बनी है। कंपनी ने 2020 में Huawei के Ascend पार्टनर कार्यक्रम में शामिल हो गया था। कंपनी Ascend और Hygon DCU हार्डवेयर पर विकास जारी रखने की योजना बना रही है, जिसमें विषम शेड्यूलिंग, अनुमान त्वरण, कैशिंग और एजेंट अनुप्रयोगों पर विशेष ध्यान दिया जाएगा।

डेवलपर्स ने GitHub पर DeepSeek के आधिकारिक Harness रिपॉजिटरी में तीन नए मॉडल पहचानकर्ता पाए हैं: deepseek-v5, deepseek-v5-open और deepseek-v5-next। वर्तमान में DeepSeek ने V5 मॉडल की घोषणा नहीं की है, और ये प्रविष्टियाँ उपलब्ध मॉडल के बजाय कोड में परीक्षण प्लेसहोल्डर हैं।

रिपॉजिटरी की जांच से पता चला कि ये पहचानकर्ता DeepSeek खाते के प्रदाता के लिए एक परीक्षण फ़ाइल में स्थित हैं, विशेष रूप से packages/llm/llm-deepseek-account/tests/provider.spec.ts फ़ाइल में, पंक्तियों 154-156 पर, मौजूदा deepseek-v4-pro प्रविष्टि के बगल में। रिपॉजिटरी का इतिहास दिखाता है कि इन्हें 24 सितंबर के कमिट में जोड़ा गया था, जिसने DeepSeek खाता मॉडल निर्देशिका को आधिकारिक मॉडल सूची में स्थानांतरित कर दिया।

परीक्षण परिदृश्य यह जांचता है कि क्लाइंट संस्करण आवश्यकता के आधार पर मॉडलों को कैसे फ़िल्टर करता है: v5-open प्रविष्टि के लिए न्यूनतम क्लाइंट संस्करण 0.0.1 की आवश्यकता होती है, जबकि v5-next के लिए 99.0.0-alpha.1 की आवश्यकता होती है, और परीक्षण अपेक्षा करता है कि सूची में केवल फ्लैश और v5-open मॉडल दिखाई दें। यह हार्नेस की ओर से नई मॉडल पर स्विच करने की संभावना को इंगित करता है, या तो सभी ग्राहकों के लिए या केवल उन लोगों के लिए जो अपडेट हो गए हैं, बिना किसी नए रिलीज़ की आवश्यकता के। हालांकि, यह V5 मॉडल के अस्तित्व या इसके आने की समय-सीमा की पुष्टि नहीं करता है, और कुछ डेवलपर्स इन नामों को केवल परीक्षण प्लेसहोल्डर मानते हैं। 28 अक्टूबर तक, DeepSeek ने V5 श्रृंखला के लिए कोई घोषणा, मॉडल कार्ड या API पहचानकर्ता प्रकाशित नहीं किया है।

वर्तमान मॉडल रेंज में V4-Pro और V4.1-Flash शामिल हैं; नवीनतम सितंबर में एक नई वास्तुकला के साथ जारी किया गया था, जबकि V4 नाम बरकरार रखा गया था।

उसी सप्ताह वर्तमान मॉडल के लिए एक नया बेंचमार्किंग परिणाम प्रस्तुत किया गया था। आर्टिफिशियल एनालिसिस ने इंटेलिजेंस इंडेक्स v5 जारी किया, जो जनवरी में v4 के रिलीज के बाद से सबसे बड़ा अपडेट है, जिसमें 60% भार अब बंद परीक्षण डेटासेट या छिपे हुए उत्तरों पर आधारित है। कोडिंग इंडेक्स का 25% है, और इन 15 अंकों में से FrontierCode 2.0 से 132 वास्तविक ओपन-सोर्स कार्यों में कोड परिवर्तनों का मूल्यांकन करने वाला हिस्सा आता है, यह निर्धारित करता है कि क्या उनके रिपॉजिटरी अनुरक्षक विलय अनुरोध को मंजूरी देंगे।

FrontierCode 2.0 प्लेटफॉर्म पर, DeepSeek V4.1-Flash-1017 ने अधिकतम प्रयास पर 28% अंक प्राप्त किए, जो जारी किए गए भार वाले मॉडलों में उच्चतम स्कोर है। Kimi K3.1 Pro ने 25.5% दिखाया, लेकिन उसके पूर्ण भार अभी तक उपलब्ध नहीं हैं। Gemini 4 Argon ने 25.7% हासिल किया, और GPT-6 Luna ने 25.2% हासिल किया।

समग्र सूचकांक कम अनुकूल रहा। DeepSeek V4.1-Flash ने 32 अंक प्राप्त किए, जो GLM-5.3 के बराबर है, जबकि लीडर, Claude Opus 5.5, ने 58 अंक प्राप्त किए। आर्टिफिशियल एनालिसिस отмечает कि जारी किए गए भार वाले सर्वश्रेष्ठ खुले मॉडल और लीडर तालिका के बीच का अंतर v4.3 के तहत 3 अंक से बढ़कर v5 के तहत 12 अंक हो गया है।

DeepSeek कंपनी ने DeepInfer जारी किया है, जो इन्फेरेंस निष्पादन के लिए एक फ्रेमवर्क है और यह उनकी बड़े मॉडल सेवाओं का आधार है। यह रिलीज़ 20 अक्टूबर को हुई।

DeepInfer में Nvidia ग्राफिक्स प्रोसेसर के साथ-साथ Huawei Ascend प्रोसेसर का भी समर्थन है। यह फ्रेमवर्क वितरित इन्फेरेंस, सट्टा डिकोडिंग और संरचित आउटपुट सहित कई सुविधाएँ प्रदान करता है।

DeepSeek के बयान के अनुसार, इस रिलीज़ का उद्देश्य डेवलपर्स और उद्यमों को कंप्यूटिंग लागत और ऊर्जा खपत को कम करते हुए थ्रूपुट बढ़ाने और विलंबता कम करने में मदद करना है।

इसके अलावा, कंपनी ने deepseek-recipe घटक को सार्वजनिक रूप से उपलब्ध कराया है। यह API अनुरोधों को बदलने और DeepSeek की अपनी सेवाओं के अनुसार मॉडल इनपुट और आउटपुट को संसाधित करने के लिए जिम्मेदार है। वर्तमान में DeepInfer DeepSeek-V4.1-Flash-1017 मॉडल का समर्थन करता है, और कंपनी इस परियोजना के माध्यम से भविष्य के मॉडलों के लिए इन्फेरेंस कोड और अनुकूलन जारी करना जारी रखने का इरादा रखती है।