शेन्ज़ेन स्थित डेवलपर MetaChip ने एज एआई इन्फेरेंस के लिए अपने कोप्रोसेसर, MEGA188 की प्रगति का विवरण प्रस्तुत किया। जानकारी के अनुसार, जो 18 नवंबर को बीजिंग में एक कार्यक्रम में प्रस्तुत की गई थी, चिप ने सिलिकॉन लॉन्च और मॉडल परीक्षण के चरणों को पार कर लिया है। वर्तमान में नमूना और इंजीनियरिंग सत्यापन पर काम चल रहा है, और बड़े पैमाने पर उत्पादन 2027 की पहली तिमाही के लिए निर्धारित है, इससे पहले नहीं।
कंपनी ने चीनी तकनीकी प्रकाशन Zhidx में प्रकाशित साक्षात्कार में प्राप्त चरणों का वर्णन किया, और IT Home ने इस विकास पर 20 नवंबर को प्रकाश डाला। यह ध्यान रखना महत्वपूर्ण है कि यह चिप का पहला कार्यान्वयन नहीं था: MetaChip बताता है कि सिलिकॉन 14 अक्टूबर को प्राप्त हुआ था, और उसी दिन इसे लॉन्च किया गया था। PCIe के माध्यम से कनेक्शन 19 अक्टूबर को स्थापित किया गया था, और स्टैक्ड मेमोरी पढ़ने/लिखने की जांच अक्टूबर के अंत में हुई थी।
चिप का डिज़ाइन 28-नैनोमीटर प्रौद्योगिकी प्रक्रिया में बनाया गया है और हाइब्रिड इंटरकनेक्शन और थ्रू-सिलिकॉन वाया के माध्यम से लॉजिक के साथ DRAM को वर्टिकली इंटीग्रेट करता है। MetaChip मेमोरी की पीक बैंडविड्थ 600 जीबी प्रति सेकंड, 2 जीबी, 4 जीबी और 8 जीबी की मेमोरी कॉन्फ़िगरेशन, और चिप की औसत बिजली खपत लगभग 5-10 वाट होने का दावा करता है। ये आंकड़े विक्रेता के विनिर्देश हैं, न कि सिस्टम दक्षता के स्वतंत्र माप के परिणाम।
MEGA188 कंप्यूटर के केंद्रीय प्रोसेसर को बदलने के बजाय PCIe और M.2 जैसे इंटरफेस के माध्यम से मुख्य होस्ट प्रोसेसर को पूरक करने के लिए डिज़ाइन किया गया है। मुख्य विचार यह है कि मेमोरी को कंप्यूटिंग ब्लॉकों के करीब लाने से स्थानीय भाषा मॉडल इन्फेरेंस के दौरान डेटा स्थानांतरण से जुड़ी बाधा कम हो सकती है।
अपने स्वयं के परीक्षणों के दौरान, कंपनी ने MiniCPM5-2B का उपयोग करते हुए उच्च प्रदर्शन मोड में लगभग 293 टोकन प्रति सेकंड और Qwen3-8B के साथ काम करते समय लगभग 80 टोकन प्रति सेकंड का प्रदर्शन हासिल किया। कम बिजली खपत वाले मोड में क्रमशः लगभग 92 और 26 टोकन प्रति सेकंड का प्रदर्शन दर्ज किया गया। हालांकि, इन दोनों मोडों को न्यूनतम ऊर्जा खपत पर अधिकतम थ्रूपुट के एकल वादे में संयोजित नहीं किया जा सकता है।
एक महत्वपूर्ण पहलू एक कार्ड बनाम कई कार्ड के संचालन के बीच अंतर है। MetaChip ने बताया कि एक कार्ड पर Qwen3-30B-A3B के लिए लगभग 19 टोकन प्रति सेकंड प्राप्त होता है, जबकि कई कार्डों के समानांतर संचालन पर यह आंकड़ा बढ़कर लगभग 80 टोकन प्रति सेकंड हो जाता है। कई कार्डों के लिए यह आंकड़ा एक चिप के संचालन का परिणाम नहीं है, और प्रदान किए गए माप मनमाने ढंग से अनुरोधों, मॉडल सेटिंग्स या अनुप्रयोगों के लिए प्रदर्शन स्थापित नहीं करते हैं।
डेवलपर SSD समर्थन के साथ मिश्रण-ऑफ-एक्सपर्ट्स आर्किटेक्चर को तैनात करने की संभावना का भी पता लगा रहा है: विशेषज्ञों के पूर्ण भार को स्टोरेज पर संग्रहीत किया जाता है, जबकि स्टैक्ड DRAM सक्रिय विशेषज्ञों को कैश करती है। 120 बिलियन पैरामीटर वर्ग की बड़ी कॉन्फ़िगरेशन, जो कई कार्डों और वितरित SSD स्टोरेज का उपयोग करती हैं, अभी भी सत्यापन चरण में हैं।
अल्पकालिक बाधा इंजीनियरिंग नमूनों को पुनरुत्पादित और समर्थित उत्पादों में बदलना बनी हुई है। इंटरफ़ेस संगतता, विश्वसनीयता परीक्षण, रनटाइम सॉफ़्टवेयर और ग्राहकों के साथ एकीकरण इस कार्य का हिस्सा बने हुए हैं; घोषित उत्पादन अवधि कंपनी का लक्ष्य है, न कि पुष्टि की गई आपूर्ति मात्रा।



