OvisOCR2 Technical Report
OvisOCR2 एक 0.8B एंड-टू-एंड डॉक्यूमेंट पार्सिंग मॉडल है जो दस्तावेज़ पृष्ठों के सीधे मार्कडाउन निरूपण (Markdown representations) उत्पन्न करने के लिए एक नवीन डेटा इंजन और सुदृढीकरण शिक्षण (reinforcement learning) एवं डिस्टिलेशन (distillation) से युक्त एक बहु-चरणीय प्रशिक्षण रेसिपी का लाभ उठाकर बेंचमार्क डेटासेट पर अत्याधुनिक प्रदर्शन प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अपने हाथ में एक भौतिक पुस्तक, एक हस्तलिखित पत्र, या एक जटिल रसीद पकड़ी हुई है। एक इंसान के लिए, इसे पढ़ना आसान है: आप जानते हैं कि किस कॉलम से शुरू करना है, आप किसी चित्र को छोड़कर वापस टेक्स्ट पर कैसे आ सकते हैं, और आप यह कैसे समझ सकते हैं कि एक टेढ़ी-मेढ़ी रेखा केवल एक डूडल नहीं बल्कि एक गणितीय समीकरण है। लेकिन एक कंप्यूटर के लिए, वही पन्ना केवल रंगीन पिक्सेल का एक सपाट ग्रिड है। वह बिना यह समझे आकृतियों के एक ढेर को देखता है कि एक टेबल एक ग्रिड है, एक फॉर्मूला एक गणना है, या पन्ने के नीचे का टेक्स्ट अगले कॉलम के ऊपरी हिस्से से संबंधित है। यह "डॉक्यूमेंट पार्सिंग" (document parsing) की दुनिया है। यह एक तस्वीर को डिजिटल फाइल में बदलने का जादू है जिसे कंप्यूटर वास्तव में पढ़, खोज और उपयोग कर सके। लंबे समय तक, कंप्यूटर इस काम को छोटे, अलग-अलग चरणों में तोड़कर करने की कोशिश करते थे—पहले रेखाएं ढूंढना, फिर शब्दों को पढ़ना, फिर यह अनुमान लगाना कि टेबल कहाँ हैं। लेकिन यह "असेंबली लाइन" वाला दृष्टिकोण बोझिल है; यदि पहला चरण टेबल की सीमा को पहचानने में चूक जाता है, तो बाकी की मशीन ठप हो जाती है। इस क्षेत्र में बड़ा सवाल यह रहा है: क्या हम एक एकल, स्मार्ट मस्तिष्क बना सकते हैं जो पूरी तस्वीर को एक साथ देखे और एक ही बार में कहानी लिख दे, ठीक वैसे ही जैसे एक इंसान करता है?
यहाँ OvisOCR2 आता है, एक नया डिजिटल "पाठक" जिसे अलीबाबा के शोधकर्ताओं द्वारा विकसित किया गया है। OvisOCR2 को एक विशाल, सुस्त सुपर-कंप्यूटर के रूप में नहीं, बल्कि एक फुर्तीले, 0.8-बिलियन-पैरामीटर वाले "पॉकेट-साइज" जीनियस के रूप में सोचें। जबकि अन्य मॉडल जो इस समस्या को हल करने की कोशिश कर रहे हैं, अक्सर बहुत बड़े होते हैं और उन्हें विशाल डेटा सेंटरों की आवश्यकता होती है, OvisOCR2 को छोटा, तेज़ और अविश्वसनीय रूप से शक्तिशाली होने के लिए डिज़ाइन किया गया है। शोधकर्ताओं ने इस मॉडल को एक चतुर दो-चरणीय प्रशिक्षण रणनीति का उपयोग करके बनाया। पहले, उन्होंने इसे वास्तविक दुनिया के दस्तावेजों का एक विशाल पुस्तकालय दिया—स्कैन किए गए पेपर, रसीदें और रिपोर्ट—लेकिन वे "उत्तरों" को साफ करने में सावधानी बरतते रहे ताकि मॉडल गलतियों से नहीं, बल्कि सटीक उदाहरणों से सीख सके। फिर, उन्होंने एक "सिंथेटिक" प्रशिक्षण मैदान बनाया। एक वीडियो गेम की कल्पना करें जहाँ वे दस्तावेजों के अनंत पन्ने उत्पन्न कर सकते हैं जिनमें सटीक, ज्ञात उत्तर हों, जिन्हें विशेष रूप से कठिन (जैसे बिखरी हुई लिखावट वाले पन्ने या ऐसे टेबल जिनमें सेल अजीब तरह से जुड़े हों) बनाने के लिए डिज़ाइन किया गया है। इसने मॉडल को सबसे कठिन पहेलियों पर अभ्यास करने की अनुमति दी बिना वास्तविक दुनिया में उन्हें खोजने की आवश्यकता के।
प्रशिक्षण प्रक्रिया एक कठोर स्पोर्ट्स कैंप की तरह थी। मॉडल ने बुनियादी बातें सीखने (Supervised Fine-Tuning) से शुरुआत की, फिर एक "रिनफोर्समेंट लर्निंग" (Reinforcement Learning) चरण में गया जहाँ इसने एक खेल खेला: यह एक पन्ने को पढ़ने की कोशिश करता, और यदि इसने टेबल्स या गणितीय सूत्रों को सही पढ़ा, तो इसे उच्च स्कोर मिलता; यदि इसने क्रम बिगाड़ दिया या कोई लाइन छोड़ दी, तो इसे कम स्कोर मिलता। यह सुनिश्चित करने के लिए कि छोटा 0.8B मॉडल सर्वश्रेष्ठ से सीख सके, शोधकर्ताओं ने "टीचर-स्टूडेंट" (शिक्षक-शिष्य) दृष्टिकोण का उपयोग किया। पहले उन्होंने एक बड़े, 4-बिलियन-पैरामीटर वाले "टीचर" मॉडल को इन कार्यों में माहिर बनने के लिए प्रशिक्षित किया, और फिर उन्होंने छोटे "स्टूडेंट" मॉडल (OvisOCR2) को सिखाया कि वह शिक्षक की बेहतरीन चालों की नकल कैसे करे। इसने छोटे मॉडल को उसकी क्षमता से कहीं अधिक प्रभावी बनाने की अनुमति दी।
इसके परिणाम क्रांतिकारी हैं। जब OmniDocBench v1.6 जैसे मानक बेंचमार्क पर परीक्षण किया गया, जो डॉक्यूमेंट पढ़ने के "ओलंपिक्स" की तरह है, तो OvisOCR2 ने प्रभावशाली 96.58 का स्कोर प्राप्त किया। यह एक बड़ी बात है क्योंकि इसका मतलब है कि इस छोटे, एंड-टू-एंड मॉडल ने वास्तव में उन सबसे बड़े और जटिल "असेंबली लाइन" सिस्टमों को हरा दिया है जो इस क्षेत्र पर हावी रहे हैं। इसने न केवल समग्र रूप से जीत हासिल की; बल्कि यह टेक्स्ट पढ़ने, गणितीय सूत्रों को समझने और जटिल टेबल्स को पुनर्गठित करने में भी सर्वश्रेष्ठ था। इसने PureDocBench पर 75.06 के स्कोर के साथ भी उच्चतम स्थान प्राप्त किया। लेखकों द्वारा बनाए गए एक कस्टम, कठिन टेस्ट पर भी, जिसमें जटिल लिखावट और बिखरे हुए टेबल्स शामिल थे, OvisOCR2 शीर्ष पर रहा, जिससे यह सिद्ध हुआ कि यह केवल साफ-सुथरे, आदर्श पन्नों पर ही नहीं, बल्कि वास्तविक दुनिया की अव्यवस्था को भी संभाल सकता है।
हालांतु, शोधकर्ता इसकी सीमाओं के बारे में ईमानदार हैं। हालाँकि OvisOCR2 एक बड़ी छलांग है, फिर भी यह बहुत धुंधली, क्षतिग्रस्त या खराब रोशनी में फोन से ली गई छवियों के साथ थोड़ा संघर्ष करता है, यदि इसकी तुलना कुछ विशाल, सामान्य-उद्देश्य वाले AI मॉडलों से की जाए। यह सब कुछ ठीक करने वाली जादुई छड़ी नहीं है, लेकिन यह एक बहुत ही मजबूत, कुशल उपकरण है जो यह साबित करता है कि दस्तावेज़ को पूरी तरह से पढ़ने के लिए आपको अरबों डॉलर के कंप्यूटर की आवश्यकता नहीं है। यह शोधपत्र सुझाव देता है कि इस दृष्टिकोण के साथ, हम अंततः बोझिल, बहु-चरणीय मशीनों से हटकर सुंदर, एकल-मॉडल समाधानों की ओर बढ़ सकते हैं जो रोजमर्रा के ऐप्स में उपयोग के लिए तैयार हैं, जिससे डिजिटल दुनिया बहुत अधिक सुलभ हो जाएगी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।