अधिक शक्तिशाली आर्टिफिशियल इंटेलिजेंस मॉडल विकसित करना केवल आधा काम है; दूसरा आधा हिस्सा उन्हें बड़े पैमाने पर चलाने के लिए सुलभ बनाना है। कंपनी DeepSeek ने कार्य निष्पादन को तेज करने और आउटपुट की लंबाई को कम करने के उद्देश्य से V4.1 फ्लैश अपडेट की घोषणा की, साथ ही अधिक कुशल इन्फेरेंस प्रक्रिया के लिए एक ओपन-सोर्स फ्रेमवर्क भी जारी किया।
17 अक्टूबर को DeepSeek ने V4.1-Flash-1017 मॉडल जारी किया, जो इसके V4.1 फ्लैश मॉडल का एक अपडेट है। कंपनी द्वारा प्रकाशित परीक्षण परिणामों के अनुसार, कोडिंग और एजेंट कार्यों सहित कई क्षेत्रों में सुधार हासिल किए गए हैं। उदाहरण के लिए, टर्मिनल-बेंच 4.0 स्कोर 31.2 से बढ़कर 42.3 हो गया, और DeepSWE v1.1 74.2 से बढ़कर 77.0 हो गया।
DeepSWE v1.1 कोडिंग बेंचमार्क के लिए लागत बनाम प्रदर्शन डायग्राम में दिखाया गया है कि V4.1 Flash-1017 लगभग 0.20 डॉलर प्रति कार्य की लागत पर 77% पास@1 स्कोर प्राप्त करता है, जो कई मॉडलों से बेहतर प्रदर्शन करता है जिन्हें संचालन के लिए काफी अधिक खर्च की आवश्यकता होती है। कम सेटिंग्स पर, जो प्रति कार्य 0.11 से 0.14 डॉलर तक हैं, मॉडल अभी भी 72-73% के आसपास परिणाम प्रदर्शित करता है।
DeepSeek यह भी बताता है कि कार्यों के निष्पादन समय में कमी और आउटपुट की मात्रा में कमी आई है, जिससे इन्फेरेंस की लागत कम हो जाती है, क्योंकि मॉडल कम टोकन और कम कम्प्यूटेशनल समय का उपयोग करके वही काम करता है। यह अपडेट DeepSeek Harness, Tencent CodeBuddy और WorkBuddy जैसे एजेंट फ्रेमवर्क के लिए अनुकूलित है।
हालांकि, यह ध्यान रखना महत्वपूर्ण है कि प्रस्तुत आंकड़े मुख्य रूप से कंपनी के अपने परीक्षण परिणाम हैं, और विभिन्न परीक्षण मूल्यांकन सेटिंग्स और फ्रेमवर्क का उपयोग करते हैं, जो सभी अनुप्रयोगों में मॉडल के समान प्रदर्शन की गारंटी नहीं देता है।
Arena से Agent Arena लीडरबोर्ड से एक अलग संकेत मिला। 20 अक्टूबर की ITHome रिपोर्ट के अनुसार, अपडेटेड मॉडल ने वास्तविक उपयोग के 7498 सत्रों के आधार पर ओपन-वेट मॉडल में पहला स्थान और समग्र रूप से 11वां स्थान हासिल किया। माध्य लागत लगभग 0.18 डॉलर प्रति कार्य थी, हालांकि लीडरबोर्ड के विभिन्न पृष्ठों पर 0.18 से 0.19 डॉलर तक के मान दिखाई दिए।
20 अक्टूबर को DeepSeek ने इन्फेरेंस के लिए अपना आंतरिक फ्रेमवर्क DeepInfer और एपीआई अनुरोधों को संसाधित करने, मॉडल के लिए प्रॉम्प्ट तैयार करने और परिणामों को पार्स करने के लिए deepseek-recipe लाइब्रेरी पेश की। इन्फेरेंस फ्रेमवर्क परिभाषित करते हैं कि मॉडल अनुरोधों को संसाधित करने के लिए कम्प्यूटेशनल संसाधनों का उपयोग कैसे करते हैं। उनकी संरचना विलंबता, थ्रूपुट और उपयोगकर्ताओं की सेवा के लिए आवश्यक हार्डवेयर को प्रभावित करती है, जो इसे परिचालन लागत में एक महत्वपूर्ण, हालांकि कम दिखाई देने वाला, कारक बनाता है।
DeepSeek DeepInfer को एक ऐसे फ्रेमवर्क के रूप में वर्णित करता है जो इसकी बड़े पैमाने पर उत्पादन सेवाओं के संचालन को सुनिश्चित करता है। ओपन-सोर्स रिलीज में अनुकूलित कंप्यूटिंग कोर, एसिंक्रोनस शेड्यूलिंग और वितरित इन्फेरेंस और स्यूडोडेकोडिंग समर्थन शामिल है, जैसा कि README और परिनियोजन दस्तावेज़ीकरण में बताया गया है। वर्तमान में यह Nvidia SM100 और Huawei Ascend 950 NPU दोनों का समर्थन करता है, जिसमें DeepSeek V4.1 Flash एक समर्थित मॉडल के रूप में सूचीबद्ध है।
यह रिलीज़ पूर्ण इन्फेरेंस स्टैक का प्रतिनिधित्व नहीं करती है। DeepSeek का दस्तावेज़ीकरण इंगित करता है कि एक पूर्ण सेवा के लिए KV-कैश सिस्टम, प्रीफाइल/डिकोडिंग डिसएग्रीगेशन और डेटा पैरेललिज्म के साथ प्रतिकृतियों के बीच लोड संतुलन की आवश्यकता होती है, जो इस रिलीज़ द्वारा पूरी तरह से कवर नहीं होते हैं, हालांकि डिसएग्रीगेशन की अधिकांश मुख्य कार्यक्षमता पहले ही लागू कर दी गई है।
ओपन-सोर्स कोड प्रदान करने से डेवलपर्स को DeepSeek मॉडल होस्टिंग तकनीक के एक हिस्से तक पहुंच मिलती है। व्यावहारिक लाभ उनके हार्डवेयर, वर्कलोड और परिनियोजन के लिए आवश्यक अतिरिक्त इंजीनियरिंग प्रयासों पर निर्भर करेगा।
सितंबर में V4.1 फ्लैश लॉन्च होने पर, DeepSeek ने पिछले पीढ़ी की तुलना में KV-कैश मेमोरी आवश्यकताओं को एक चौथाई और SSD स्टोरेज की जरूरतों को आठवें हिस्से तक कम करने की सूचना दी। कंपनी पीक दर के आधे मूल्य पर ऑफ-पीक समय में एपीआई दरें भी प्रदान करती है।
अक्टूबर में DeepSeek ने डेवलपर्स के लिए अपनी API Search और Fetch खोल दी, जिसकी कीमत प्रत्येक 1000 सफल अनुरोधों के लिए 5 युआन निर्धारित की गई है। Claude Code और Codex के साथ DeepSeek API इंटीग्रेशन के माध्यम से कॉल अस्थायी रूप से मुफ़्त हैं, और अनुरोधों के लिए बिलिंग 1 नवंबर को निर्धारित है।
ये उपलब्धियां दर्शाती हैं कि DeepSeek मॉडल स्तर और बुनियादी ढांचे दोनों स्तरों पर दक्षता बढ़ाने पर काम कर रहा है, साथ ही एआई एजेंटों के लिए टूलकिट का विस्तार भी कर रहा है। ये सुधार विश्वसनीय प्रदर्शन और कुल लागत में कमी में बदलेंगे या नहीं, यह वास्तविक वर्कलोड, परिनियोजन और रखरखाव पर निर्भर करेगा।
