ताओबाओ की MNN टीम ने उपकरणों पर चलाने के लिए 173 एमबी आकार का MNN-Pocket-0.3B मॉडल जारी किया
और पढ़ें
Pandaily
pandaily.com

ताओबाओ की MNN टीम ने उपकरणों पर चलाने के लिए 173 एमबी आकार का MNN-Pocket-0.3B मॉडल जारी किया

ताओबाओ कंपनी की MNN टीम ने MNN-Pocket-0.3B मॉडल जनता के लिए जारी किया है। यह भाषा मॉडल, जिसमें लगभग 300 मिलियन पैरामीटर हैं, विशेष रूप से मोबाइल एप्लिकेशन के भीतर सीधे काम करने के लिए विकसित किया गया है। 6 नवंबर को IT Home की रिपोर्ट के अनुसार, यह मॉडल MNN इन्फेरेंस इंजन पर आधारित है और Taobao जैसे बड़े सामान्य सेवा और खुदरा अनुप्रयोगों के लिए डिज़ाइन किया गया है, जहां डिवाइस पर सीमित कंप्यूटिंग शक्ति, मेमोरी और बैटरी चार्ज को कई कार्यों के बीच वितरित किया जाना चाहिए।

टीम ने अपने मॉडल, जिसे उन्होंने एप्लिकेशन-नेटिव लार्ज मॉडल कहा, के लिए चार मुख्य लक्ष्य निर्धारित किए। इन लक्ष्यों में कुछ विशिष्ट उपकरणों पर 200 टोकन प्रति सेकंड से अधिक की डिकोडिंग गति प्राप्त करना शामिल था। पीक मेमोरी खपत 300 एमबी से नीचे रहनी चाहिए, जिससे संदर्भ वृद्धि और एकीकरण ओवरहेड के लिए मॉडल के कुल बजट में लगभग 500 एमबी का बफर बचे। इसके अलावा, एक विशिष्ट इन्फेरेंस प्रक्रिया को मानक फोन की बैटरी चार्ज का एक दसवें हिस्से से अधिक खर्च नहीं करना चाहिए, जिसका अर्थ है कि 100 रन 1% से कम लागत पर होने चाहिए। अंत में, निर्दिष्ट व्यावसायिक कार्यों को पूरा करते समय मॉडल को 8B वर्ग के मॉडलों के तुलनीय परिणाम प्रदर्शित करने चाहिए।

परीक्षणों से पता चला कि MNN-Pocket-0.3B MNN इंजन का उपयोग करके iPhone 18 Pro पर पूरी तरह से ऑफ़लाइन काम करता है, जिसमें औसत डिकोडिंग गति लगभग 350 टोकन प्रति सेकंड है। INT4 डिप्लॉयमेंट पैकेज, जिसमें वेट्स, टोकनाइज़र, कंप्यूट ग्राफ और इन्फेरेंस कॉन्फ़िगरेशन शामिल हैं, का आकार 173 एमबी है। M5 चिप वाले iPad Pro पर मेटल बैकएंड का उपयोग करते हुए, टीम ने 466 टोकन प्रति सेकंड की डिकोडिंग गति और 8721 टोकन प्रति सेकंड की प्रीफिलिंग गति दर्ज की, जबकि पीक मेमोरी बेसलाइन की तुलना में 228 एमबी बढ़ गई। Snapdragon 8 Gen 5 सीपीयू बैकएंड का उपयोग करने वाले फोन पर 251 टोकन प्रति सेकंड दर्ज किया गया, और OnePlus 13 पर 100 रन के लिए अतिरिक्त ऊर्जा लागत बैटरी चार्ज का लगभग 0.3% थी।

मॉडल को स्क्रैच से प्रशिक्षित किया गया था, जिसमें चीनी और अंग्रेजी भाषाओं पर विशेष ध्यान दिया गया था। 50 मिलियन से 1.3 बिलियन पैरामीटर की सीमा में सघन विन्यासों के परीक्षण के बाद, टीम ने निष्कर्ष निकाला कि लगभग 300 मिलियन का आकार सबसे बड़ा है जो मेमोरी और गति दोनों की आवश्यकताओं को पूरा करता है। 28 लेयर्स के साथ ग्रुपेड-क्वेरी अटेंशन का उपयोग करने का निर्णय लिया गया, क्योंकि 36 लेयर्स में जाने से औसत प्रदर्शन में वृद्धि नहीं हुई, लेकिन डिकोडिंग धीमी हो गई। शब्दावली को Qwen3 टोकनाइज़र से लगभग 151,000 टोकन से घटाकर 64,000 कर दिया गया, जिससे एम्बेडिंग और आउटपुट लेयर की लागत कम हो गई।

टीम ने IFEval स्तर 73.20, चीनी IFEval 74.59 और 11 चीनी और अंग्रेजी बेंचमार्क पर 50.00 का औसत मान बताया, जो Qwen3-0.6B सहित समान आकार और बड़े मॉडलों से बेहतर प्रदर्शन करता है। मॉडल कार्ड में उल्लेख किया गया है कि अरब से कम पैरामीटर वाले अन्य मॉडलों की तरह, इसे जटिल गणितीय समस्याओं या लंबी क्षितिज पर कोड जनरेशन के लिए अनुशंसित नहीं किया जाता है।

Hugging Face पर प्रकाशित विकल्प में निरंतर पूर्व-प्रशिक्षण के लिए आधार मॉडल, पर्यवेक्षित फाइन-ट्यूनिंग चेकपॉइंट, निर्देश ट्यूनिंग मॉडल, GGUF बिल्ड, MNN INT4 बिल्ड और उम्मीदवारों के चयन के लिए निर्णय लेने वाले हेड वाला मॉडल शामिल है। इस रिलीज़ में DFlash2 नामक एक अनुमानित डिकोडिंग मॉडल का मसौदा भी शामिल है, जो टीम के अनुसार कुछ कार्यों में डिकोडिंग थ्रूपुट को दोगुना करने में सक्षम है।

समान कहानियाँ

Lenovo ने 35B मॉडल को स्थानीय रूप से चलाने के लिए Zhaoxin KX-7000 प्रोसेसर और NPU Houmo LQ50 के साथ AI होस्ट Kaitian पेश किया
और पढ़ें
pandaily.com

Lenovo ने 35B मॉडल को स्थानीय रूप से चलाने के लिए Zhaoxin KX-7000 प्रोसेसर और NPU Houmo LQ50 के साथ AI होस्ट Kaitian पेश किया

Lenovo ने चीन के आईटी नवाचार बाजार (Xinchuang) के लिए Kaitian श्रृंखला में पहला AI होस्ट सिस्टम जारी किया है। यह 1.6 लीटर का डेस्कटॉप कंप्यूटर Zhaoxin प्रोसेसर को Houmo के AI NPU के साथ जोड़ता है, जिससे लगभग 35 बिलियन पैरामीटर वाले मॉडल को स्थानीय रूप से चलाया जा सकता है।

डिवाइस में आठ-कोर Zhaoxin KX-7000 प्रोसेसर और Houmo Liqing LQ50 NPU लगा हुआ है। मानक कॉन्फ़िगरेशन में सिस्टम INT8 प्रारूप में 160 TOPS की कंप्यूटिंग शक्ति प्रदान करता है, और NPU विकल्प के साथ यह शक्ति 320 TOPS तक पहुंच सकती है। NPU में 153.6 GB/s बैंडविड्थ के साथ 24 GB समर्पित मेमोरी है। होस्ट Kylin OS पर चलता है और Lenovo के Tianxi AI Pro एजेंट के साथ प्री-इंस्टॉल किया गया है।

कंपनी ने Qwen3.5 और Qwen3.6-35B-A3B सीरीज़ सहित ओपन मॉडल का उपयोग करके डिवाइस का परीक्षण किया। 24 GB NPU और W4A8 क्वांटाइजेशन का उपयोग करते हुए, Qwen3.6-35B-A3B मॉडल ने स्थानीय आउटपुट पर प्रति सेकंड लगभग 28.99 टोकन की गति से टेक्स्ट उत्पन्न किया। सिस्टम लंबी दस्तावेज़ों और मल्टी-टर्न कार्यों को संसाधित करने के लिए 200,000 टोकन तक डेटा इनपुट का समर्थन करता है। Houmo प्लेटफॉर्म डेवलपर्स को मॉडल प्रोफाइलिंग, संकलन, निष्पादन समय प्रबंधन और क्वांटाइजेशन के लिए उपकरण प्रदान करता है।

Lenovo इस होस्ट को एक स्थायी डिजिटल कर्मचारी के रूप में प्रस्तुत करता है जिसे चौबीसों घंटे काम करने के लिए डिज़ाइन किया गया है। यह एजेंटों को स्थानीय ज्ञान की खोज, दस्तावेज़ तैयार करने और जानकारी को सारांशित करने जैसे निर्धारित कार्यों को करने की अनुमति देता है, जबकि आउटपुट प्रोसेसिंग सीधे डिवाइस पर होती है, न कि क्लाउड टोकन के माध्यम से, जिससे डेटा स्थानीय रूप से सुरक्षित रहता है। Tianxi AI Pro कार्यक्रम में, परीक्षकों ने मोबाइल ऑपरेटर एप्लिकेशन की जांच करने का एक निर्देश दिया, और डिवाइस ने टेस्ट कॉल किया, सत्यापन कोड विलंबता को मापा और एक रिपोर्ट प्रदान की।

थर्मल प्रबंधन के संबंध में, प्रोसेसर और NPU में हेक्सागोनल फ्रंट पैनल के पीछे उच्च दबाव वाले पंखों के साथ अलग वायु चैनल हैं। Lenovo बताता है कि कमरे के तापमान 25 डिग्री सेल्सियस पर होने पर आइडल मोड में केस का तापमान लगभग 33 डिग्री सेल्सियस होता है, और पूर्ण लोड पर 41 डिग्री सेल्सियस होता है। 35 डिग्री सेल्सियस के कमरे में पूर्ण लोड पर तापमान लगभग 46 डिग्री तक पहुंच जाता है। निष्क्रिय मोड में शोर का स्तर 19.4 dB और पूर्ण NPU इन्फेरेंस के दौरान लगभग 29.5 dB है। डिवाइस का वजन लगभग 1.5 किलोग्राम है और इसमें दो स्वतंत्र 2.5GbE पोर्ट लगे हैं।

यह ध्यान रखना महत्वपूर्ण है कि Kaitian होस्ट अक्टूबर में Houmo M50 और CIX P1 चिप्स के साथ पेश किए गए Lenovo AI Host P7 से अलग है।

Xiaomi ने 0.8 बिलियन पैरामीटर वाला Xiaomi-OCR-0 मॉडल जारी किया, जो OmniDocBench वर्ग में अग्रणी है
और पढ़ें
pandaily.com

Xiaomi ने 0.8 बिलियन पैरामीटर वाला Xiaomi-OCR-0 मॉडल जारी किया, जो OmniDocBench वर्ग में अग्रणी है

Xiaomi कंपनी ने Xiaomi-OCR-0 मॉडल के जारी होने की घोषणा की है, जो दस्तावेज़ों को समझने के लिए एक हल्का मॉडल है। कंपनी ने 30 अक्टूबर को बताया कि इस मॉडल के वजन और इन्फेरेंस कोड Hugging Face और GitHub प्लेटफॉर्म पर उपलब्ध हैं।

इस मॉडल में 0.8 बिलियन पैरामीटर हैं और इसे एक ही सिस्टम के भीतर तीन प्रकार के कार्यों को करने के लिए डिज़ाइन किया गया है: दस्तावेज़ पार्सिंग, प्रमुख जानकारी निकालना और OCR पर विज़ुअल प्रश्नों का उत्तर देना।

पार्सिंग कार्यक्षमता में मुख्य पाठ, तालिकाओं और गणितीय सूत्रों की पहचान करना शामिल है, जो पढ़ने के क्रम में संरचित परिणाम Markdown और LaTeX के देशी प्रारूपों के समर्थन के साथ आउटपुट करता है। प्रमुख जानकारी निकालने के लिए, मॉडल चालान, रसीदें, पहचान पत्र और व्यावसायिक फॉर्म पर ध्यान केंद्रित करता है, अनुरोधित फ़ील्ड ढूंढता है और स्वचालित वर्कफ़्लो के लिए JSON प्रारूप में परिणाम प्रदान करता है।

विज़ुअल प्रश्नों के उत्तर केवल प्रतिलेखन से परे जाते हैं, जिससे क्षेत्रों के बीच खोज करना, संख्यात्मक गणना करना और दस्तावेज़ों और ग्राफ़ के आधार पर तर्क करना संभव हो जाता है।

प्रशिक्षण और प्रशिक्षण पद्धति

Xiaomi का दावा है कि यह मॉडल Qwen3.5-0.8B-Base मॉडल पर बनाया गया है और इसे लगभग 170 मिलियन OCR और दस्तावेज़ नमूनों पर प्रशिक्षित किया गया था। डेटा लेबलिंग कई विशेषज्ञ OCR मॉडलों के आम सहमति तक पहुंचने द्वारा फ़िल्टर की गई थी, जिन्होंने टेक्स्ट, तालिका और सूत्र क्षेत्रों पर आपसी सत्यापन और मतदान किया।

जटिल तालिकाओं और सूत्रों के साथ काम करते समय, टीम ने 'भविष्यवाणी, पुन: रेंडरिंग और तुलना' लूप का उपयोग किया: उम्मीदवार परिणामों को वापस छवियों में प्रस्तुत किया गया और विस्थापित पंक्तियों या लापता वर्णों का पता लगाने के लिए पिक्सेल और संरचना स्तर पर मूल के साथ तुलना की गई। सिंथेटिक जटिल मामलों में बहुभाषी पाठ, हस्तलिखित लिखावट, स्क्रीन मोइरे प्रभाव और विकृत प्रकाश व्यवस्था शामिल थे।

प्रशिक्षण प्रक्रिया तीन चरणों में हुई: पहले दृश्य क्षेत्रों को पाठ टोकन के साथ संरेखित करने के लिए पाठ स्थिरीकरण, फिर दर्जनों अरब टोकन पर OCR का निरंतर पूर्व-प्रशिक्षण, और अंत में स्ट्रक्चरल एडिटिंग डिस्टेंस और तालिका मिलान स्कोर जैसे सत्यापन योग्य पुरस्कारों के साथ मिश्रित कार्यों के लिए सुदृढीकरण शिक्षण।

परीक्षण परिणाम

OmniDocBench v1.6 बेंचमार्क पर, मॉडल ने 96.83 का परिणाम दिखाया, जिसने समग्र रूप से दूसरा स्थान प्राप्त किया, जो लीडर से केवल 0.04 अंक पीछे था, और एक बिलियन से कम पैरामीटर वाले मॉडलों में पहला बन गया। Real5-OmniDocBench टेस्ट पर, जो स्कैनिंग, मुड़े हुए कागज, स्क्रीनशॉट, प्रकाश परिवर्तन और झुके हुए फ्रेम का अनुकरण करता है, मॉडल ने 95.24 अंक प्राप्त किए। Wild-OmniDocBench पर प्रदर्शन 87.94 रहा।

मॉडल UniMER-Test के मानक सूत्र परीक्षण पर 97.84 और तालिका संरचना मूल्यांकन के लिए PubTabNet पर 92.27 प्राप्त करता है। DocVQA, InfoVQA, ChartQA, OCRBench और TextVQA के परिणामों का औसत करने पर, यह 83.2 अंक प्राप्त करता है, जो HunyuanOCR-1.5 के 76.5 और 8B MiniCPM-V-4.5 के 82.6 से बेहतर है, हालांकि यह Qwen3.5-4B के 84.9 से पीछे है। यह ध्यान रखना महत्वपूर्ण है कि सभी प्रस्तुत आंकड़े Xiaomi के अपने डेटा हैं।

Xiaomi ने बताया कि यह तकनीक पहले से ही उनके फोन पर सुपर शियाओएआई सहायक में एकीकृत है, जहां यह सीधे स्क्रीन से क्यूआर कोड, कतार संख्या, बिल विवरण और मीटिंग समय निकाल सकता है। मॉडल के वजन के अलावा, Xiaomi डेवलपर्स को ब्राउज़र में एक डेमो संस्करण, MCP सेवा और एजेंट स्किल टूलकिट प्रदान करता है।

01.AI कंपनी कोई-फू ली ने हांगझोउ से सैकड़ों मिलियन युआन के सरकारी निवेश प्राप्त किए
और पढ़ें
technode.com

01.AI कंपनी कोई-फू ली ने हांगझोउ से सैकड़ों मिलियन युआन के सरकारी निवेश प्राप्त किए

काई-फू ली द्वारा स्थापित 01.AI ने हांगझोउ और शहर के लिन्पिंग क्षेत्र के सरकारी निवेशकों से सैकड़ों मिलियन युआन की राशि का निवेश आकर्षित किया है। इस समझौते की घोषणा 30 अक्टूबर को की गई, जो दो दिन पहले हस्ताक्षरित हुआ था।

लेनदेन की शर्तों के अनुसार, 01.AI लिन्पिंग में अपना मुख्यालय स्थापित करने और उद्यमों को आर्टिफिशियल इंटेलिजेंस को लागू करने में सहायता के लिए एक आधार बनाने की योजना बना रहा है। ये धन कंपनी के कॉर्पोरेट अनुप्रयोगों और उद्योगों के लिए विशेष एआई सिस्टम पर बढ़ते ध्यान का समर्थन करने के लिए निर्देशित हैं।

कंपनी धीरे-धीरे अंतिम उपयोगकर्ताओं पर केंद्रित सेवाओं को छोड़ रही है और कॉर्पोरेट एआई समाधानों की ओर बढ़ रही है। सार्वजनिक मॉडल प्लेटफॉर्म ने सितंबर में मॉडलों के परीक्षण संस्करण और एपीआई सेवाएं प्रदान करना बंद कर दिया। ली ने कहा कि अब कंपनी चीनी ओपन मॉडल, जैसे डीपसीक (DeepSeek), क्यूवेन (Qwen) और जीएलएम (GLM) को व्यावसायिक ग्राहकों के लिए अनुकूलित कर रही है, और इसकी लगभग आधी आय चीन के बाहर से आती है।

लोकप्रिय