allworld.mediaButun dunyo bo‘ylab yangiliklar
Baidu barcha uzunlikdagi hujjatlarni bir marta skanerlash uchun Unlimited OCR 2 modelini chiqardi
Batafsil
Pandaily
pandaily.com

Baidu barcha uzunlikdagi hujjatlarni bir marta skanerlash uchun Unlimited OCR 2 modelini chiqardi

Baidu kompaniyasi hujjatlarni tahlil qilish uchun oʻzining modelining ikkinchi versiyasi boʻlgan Unlimited OCR 2 ni taqdim etdi va jamoatchilik uchun ochdi. Ushbu ishlab chiqishning maqsadi har qanday sonli sahifalardagi hujjatlarni bitta uzluksiz skanerlash imkoniyatiga ega boʻlishdir.

Modelning kodi va ogʻirliklari MIT litsenziyasi ostida GitHub va Hugging Face platformalarida mavjud. Bundan tashqari, model Baidu AI Cloud va Baidu AI Open Platform orqali ham taqdim etiladi.

Iyun oyida chiqarilgan Unlimited-OCR ning birinchi versiyasi sahimalardan oʻnlab ketma-ket sahifalarga qadar parsing imkoniyatlarini kengaytirish uchun havolalarga asoslangan silliq oynali diqqat mexanizmini ishlatgan edi. Ikkinchi versiyada bu mexanizm Sparse Reference Sliding Window Attention yoki SR-SWA bilan almashtirildi.

Baidu yangi yondashuvni inson kitob nusxalash usuli bilan solishtiradi: u joriy sahifaga eʼtibor qaratadi va faqat sahifalararo maʼlumot kerak boʻlganda oldingi sahifalarga murojaat qiladi. Amalda, maxsus sahifa darvozasi avval har bir soʻrovning vizual havolasini butun hujjatdan tegishli sahifalarga toraytiradi, shu bilan birga sahifalar orasidagi joylarni modellashtiradi. Keyin esa uzoq muddatli bogʻliqliklarni qayd etish uchun eng yuqori baholangan vizual token guruhlari jalb qilinadi.

Loyihaning tavsifiga koʻra, SR-SWA ultra uzun ketma-ketliklardan matn-vizual diqqatni aniq ishlaydigan havolalar toʻplamiga, masalan, 512 ta tokenlarga siqib chiqaradi. Bu har bir bosqichdagi dekodlash latensiyasi va xotira sarfini hujjat uzunligidan qatʼiy nazar deyarli doimiy saqlab qolish imkonini beradi. Baidu nomlagan Unlimited-Horizon Decoding texnologiyasi bilan birgalikda, bu modelga juda uzun kirish maʼlumotlarini cheklangan kontekst oynasi ichida qayta ishlash imkonini beradi.

Baidu oʻz misolida model 3600 sahifadan ortiq boʻlgan barcha yetti Harry Potter kitobini bitta sessiya davomida qayta ishlashga muvaffaq boʻlganini namoyish etdi.

Kiritilgan koʻrsatkichlar kompaniyaning oʻz sinovlariga asoslanadi. Baidu koʻp sahifali parsing uchun benchmark boʻlgan MPDocBenchda 84.6 ball, shuningdek, Baidu model bilan Hugging Face da eʼlon qilgan stuz sahifali hujjatlar uchun MarathonDocBenchda 77.1 ball erishganini maʼlum qiladi. Kompaniya aytadiki, bu ikkala natija ham toʻliq parsing uchun ilgʻor hisoblanadi va u sinovdan oʻtkazgan bir nechta umumiy flash-tier darajasidagi modellardan ustun turadi.

100 sahifali ssenariyda Baidu hisobotida SR-SWA har bir bosqichni toʻliq diqqatdan yetti baravar tezroq, avvalgi R-SWA tuzilishidan esa 5,6 baravar tezroq dekod qilishi koʻrsatilgan. Maqola yozilishi paytida mustaqil baholar hali chop etilmagan.

Birinchi versiya ishlab chiquvchilar orasida katta qiziqish uygʻotdi. Baidu model Hugging Face da 10 milliondan ortiq yuklab olish va GitHub da 28 500 ta yulduzga ega ekanligini taʼkidlaydi. Hozirda model tezkor sinovlar uchun Transformers va xizmat koʻrsatish uchun SGLang dan foydalanmoqda. Baidu 12-noyabrda boʻlib oʻtadigan Baidu World 2026 tadbirida model haqida koʻproq maʼlumot berishni rejalashtirmoqda.

Oʻxshash hikoyalar

SenseTime agentli chiqarish uchun Prefill/Decode ajratilgan klasterlarni taqdim etdi
Batafsil
pandaily.com

SenseTime agentli chiqarish uchun Prefill/Decode ajratilgan klasterlarni taqdim etdi

16-oktabrda Shenʼchžendagi CSDI 10-sammitida SenseTime vitse-prezidenti va texnik direktori SenseCore Xuan Shanming kompaniya agentlar davri uchun chiqarish infratuzilmasini qanday qayta qurayotganini tushuntirdi. Ushbu yangi davrda koʻp agentli ish jarayonlari va doimiy nazoratsiz bajariladigan uzoq muddatli vazifalar tufayli tokenlarga boʻlgan talab chat-botlarning imkoniyatlaridan sezilarli darajada oshib ketmoqda.

Taqdimotdagi asosiy eʼtibor markazlashuvni markaziy protsessorlar (CPU)dagi akseleratorlar soniga emas, balki ushbu markazning belgilangan xarajat va xizmat darajasi cheklovlari doirasida yuqori sifatli tokenlarni barqaror ishlab chiqarish qobiliyatiga qaratildi.

SenseCore yechimi Lingangdagi AIDCʼsida joylashgan 10 000 ta GPU miqyosidagi heterogen klasterlar ichida Prefill va Decode (PD) jarayonlarini ajratishga asoslangan. Prefill jarayoni kirish tokenlarini qayta ishlash bilan shugʻullanadi va hisoblash jihatidan intensivdir, shu bois Decode chiqish tokenlarini yaratadi, kontekst keshiga doimiy murojaat qiladi va yuqori xotira uzatish tezligini talab qiladi.

SenseCore arxitekturasida mahalliy akseleratorlar Prefillni bajarishga eʼtibor qaratgan, tepa darajadagi GPUlar esa Decode uchun javobgar boʻladi. Bu bosqichlar bir klaster ichidagi 800G, 400G va 200G uzatish tezligiga ega aralash fabrikalar orqali KV Cache kanallari orqali holat almashinadi.

Bunday ajratish operatsion xavf tugʻdiradi: baʼzi konfiguratsiyalarda oʻrtacha yoki past darajadagi uchdan ellikgacha Prefill tugunlari bitta Decode tuguniga xizmat qilishi mumkin, bu esa Decode tugunining ishdan chiqishi katta guruh Prefill tugunlarini toʻxtatishi mumkinligini anglatadi. Ushbu xavfni minimallashtirish uchun SenseCore Prefill pulidagi yuqori darajadagi kartalarning kichik zaxirasini tezkor almashtirish uchun qoʻllab-quvvatlaydi, shuningdek, tugunlarga yuklanishga qarab Prefill va Decode rollarini dinamik ravishda oʻzgartirish imkonini beradi.

Bunday PD heterogen rejalashtirishni joriy etgandan soʻng, bazaviy konfiguratsiyadagidek shu miqdordagi flagman yuqori samarali GPUlardan foydalanadigan sinov ssenariysida, kompaniya umumiy token uzatish tezligida taxminan besh baravar oshish haqida maʼlumot berdi. Bundan tashqari, kompaniya Prefill ishini mintaqaviy oʻrta darajadagi quvvatlarga, Decode ishini esa yuqori uzatish tezligiga ega masofaviy klasterlarga yoʻnaltirib, kesma-soha PD imkoniyatini oʻrganmoqda.

Bu million tokenli kontekstlar uchun KV Cache hajmi kamayayotgani fonida dolzarb ahamiyat kasb etmoqda — baʼzi modellar uchun u deyarli 100 GB dan taxminan 1 GB gacha qisqarmoqda, shuningdek, Decode jarayoni ichida Attention/FFN ajratilishi tufayli.

SenseCore davoomcha platformasi hozirda kuniga taxminan 6 trillion tokenni qayta ishlayotganini va 2026-yil toʻrtinchi choragacha kuniga 10 trillion tokenga erishishni maqsad qilganini taʼkidlaydi, shu bilan birga, yil davomida umumiy token hajmining taxminan 25 barobar oʻsishi prognoz qilinmoqda. Shuni taʼkidlash kerakki, bu uzatish tezligi va tezlik oshishi koʻrsatkichlari kompaniyaning bayonotlaridir. Nutqda mahalliy chiplar Decode uchun ishlatiladigan yuqori samarali GPUlarni toʻliq almashtirish oʻrniga, Prefill va aralash chiqarish vazifalarida katta ulush egallashga moʻljallanganligi taʼkidlandi.

Mashhur