← नवीनतम पेपर
💻 computer science

DocPO: Advancing Document Policy Optimization via Tailored Step-Aware Rewards

यह शोध पत्र DocPO प्रस्तुत करता है, जो एक दस्तावेज़ नीति अनुकूलन (document policy optimization) ढांचा है, जो संदर्भ-आधारित पुरस्कारों को तीक्ष्ण करने के लिए एक नवीन स्टेप-अवेयर एनीलिंग (Step-Aware Annealing) तंत्र का उपयोग करता है, जिससे पारंपरिक एडिट-डिस्टेंस मेट्रिक्स के कमजोर विभेदक संकेतों पर विजय प्राप्त होती है और उच्च-सटीक दस्तावेज़ पार्सिंग के लिए सुदृढीकरण शिक्षण (reinforcement learning) प्रदर्शन में महत्वपूर्ण सुधार होता है।

मूल लेखक: Yunhao Wang, Binghong Wu, Zhenyu Huang, Jiacheng Shi, Shuo Huang, Tinghao Yu, Feng Zhang

प्रकाशित 2026-08-04
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Yunhao Wang, Binghong Wu, Zhenyu Huang, Jiacheng Shi, Shuo Huang, Tinghao Yu, Feng Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को हाथ से लिखे गए एक बिखरे-बिखरे रेसिपी कार्ड को पढ़ना सिखा रहे हैं। रोबोट को न केवल शब्दों को समझना है, बल्कि यह भी पता लगाना है कि सामग्री की सूची कहाँ समाप्त होती है और खाना बनाने के चरण कहाँ से शुरू होते हैं, और माप की एक तालिका या एक जटिल गणितीय सूत्र को कैसे संभालना है। यह डॉक्यूमेंट पार्सिंग (Document Parsing) की दुनिया है, जो आर्टिफिशियल इंटेलिजेंस की एक शाखा है जहाँ कंप्यूटर कागज (या स्क्रीन) की 2D छवियों को साफ, व्यवस्थित डिजिटल टेक्स्ट में बदलने की कोशिश करते हैं। लंबे समय तक, इन रोबोटों को सिखाने का सबसे अच्छा तरीका सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) था, जो एक शिक्षक की तरह है जो रोबोट को हजारों आदर्श उदाहरण दिखाता है और कहता है, "इसे बिल्कुल ऐसे ही कॉपी करो।" लेकिन ठीक वैसे ही जैसे एक छात्र जो बिना समझे उत्तर रट लेता है, रोबोट तब भ्रमित हो जाता है जब वह कुछ थोड़ा अलग देखता है।

इसे ठीक करने के लिए, वैज्ञानिकों ने रीइन्फोर्समेंट लर्निंग (RL) का उपयोग करना शुरू किया। इसे एक वीडियो गेम की तरह समझें जहाँ रोबोट पहेली सुलझाने की कोशिश करता है, और हर बार जब वह सही होता है, तो उसे एक "स्कोर" या इनाम मिलता है। रोबोट उच्चतम स्कोर प्राप्त करने की कोशिश करके बेहतर खेलना सीखता है। हालाँकि, एक पेचीदा समस्या है: जब रोबोट पहले से ही काफी अच्छा कर रहा होता है, तो उसे मिलने वाले स्कोर "लगभग पूर्ण" और "पूर्ण" के लिए लगभग समान होते हैं। यह एक टेस्ट में 98% और 99% प्राप्त करने जैसा है; अंतर बहुत मामूली लगता है, इसलिए रोबोट को पता नहीं चलता कि 100% तक पहुँचने के लिए कौन सा छोटा सा बदलाव करना है। यह पेपर इसी विशिष्ट "हाई-स्कोर प्लेटो" (high-score plateau) समस्या से निपटता है।


समस्या: रोबोट "लगभग पूर्ण" पर अटक गया है

मिलिए DocPO से, एक नई विधि जिसे इन डॉक्यूमेंट-रीडिंग रोबोटों को उनके हाई-स्कोर प्लेटो को तोड़ने में मदद करने के लिए डिज़ाइन किया गया है। शोधकर्ताओं ने पाया कि जब एक रोबित पहले से ही बहुत अच्छा काम कर रहा होता है, तो फीडबैक देने का सामान्य तरीका (इनाम) बहुत धुंधला हो जाता है।

कल्पना कीजिए कि आप एक कुत्ते को गेंद लाने के लिए प्रशिक्षित कर रहे हैं। यदि कुत्ता गेंद को 90% रास्ते तक वापस लाता है, तो आप कह सकते हैं "अच्छा काम किया!" यदि वह इसे 95% तक लाता है, तो भी आप कहते हैं "अच्छा काम किया!" कुत्ता दोनों के लिए एक ही बात सुनता है, इसलिए उसे पता नहीं चलता कि गेंद को पूरा लाना कहीं अधिक बेहतर है। डॉक्यूमेंट पार्सिंग की दुनिया में, ऐसा तब होता है जब रोबोट पहले से ही 90% टेक्स्ट या टेबल स्ट्रक्चर को सही कर रहा होता है। कंप्यूटर का "स्कोर" एक 90% सही उत्तर और एक 95% सही उत्तर के लिए इतना करीब होता है कि रोबोट अंतर नहीं कर पाता, और वह अंतिम विवरणों को सटीक बनाने के लिए सीखना बंद कर देता है।

समाधान: एक "स्टेप-अवेयर" रिवॉर्ड सिस्टम

टीम ने स्टेप-अवेयर एनिलिंग (SAA) नामक एक चतुर समाधान प्रस्तावित किया है। इसे एक स्मार्ट कोच की तरह समझें जो खिलाड़ी के बेहतर होने के साथ खेल के नियम बदल देता है।

शुरुआत में, जब रोबोट अभी बुनियादी बातें सीख रहा होता है, तो कोच हल्का और व्यापक फीडबैक देता है। "अच्छा काम किया!" कहना ठीक है। लेकिन जैसे-जैसे रोबोट वास्तव में अच्छा करने लगता है (उच्च-सटीकता शासन/high-accuracy regime), कोच एक तेज, अधिक आलोचनात्मक कान में बदल जाता है। अचानक, 90% स्कोर और 95% स्कोर के बीच का अंतर केवल एक मामूली अंतर नहीं रह जाता; कोच इसे बढ़ा देता है, जिससे 95% का स्कोर 90% की तुलना में कहीं अधिक बेहतर महसूस होता है। यह "शार्पनिंग" (तीक्ष्णता) रोबोट को उन सूक्ष्म विवरणों पर ध्यान देने के लिए मजबूर करती है जिन्हें वह पहले अनदेखा कर रहा था।

SAA का जादू यह है कि यह केवल स्कोर को ऊँचा नहीं बनाता; यह समय के साथ रिवॉर्ड के कर्वेचर (वक्रता) को बदल देता है। यह नरम रूप से शुरू होता है और धीरे-धीरे "स्पाइकी" (नुकीला) होता जाता है, यह सुनिश्चित करता है कि रोबोट के पास हमेशा सुधार करने के लिए एक स्पष्ट संकेत हो, भले ही वह पहले से ही शीर्ष के करीब हो।

विभिन्न कार्यों के लिए अनुकूलित रिवॉर्ड्स

पेपर ने यह भी महसूस किया कि आप एक पैराग्राफ के टेक्स्ट की तुलना टेबल के साथ नहीं कर सकते।

  • टेक्स्ट के लिए: वे एक सरल "एडिट डिस्टेंस" स्कोर का उपयोग करते हैं। यदि आप एक अक्षर चूक जाते हैं, तो आप थोड़े से अंक खो देते हैं।
  • टेबल्स के लिए: टेबल्स शाखाओं (पंक्तियों और कॉलम) वाले पेड़ों की तरह होते हैं। यदि आप संरचना (जैसे किसी सेल को गलत पंक्ति में रखना) बिगाड़ देते हैं, तो यह एक टाइपो की तुलना में बड़ी बात है। रोबोट को एक विशेष "ट्री एडिट डिस्टेंस" स्कोर मिलता है जो संरचनात्मक गलतियों को अधिक भारी दंड देता है।
  • गणितीय सूत्रों के लिए: यह सबसे कठिन है। एक सूत्र अलग दिख सकता है लेकिन उसका अर्थ समान हो सकता है (जैसे a/ba/b के बजाय a÷ba \div b लिखना)। टीम ने एक "हाइब्रिड" रिवॉर्ड बनाया जो पहले यह जाँचता है कि गणित वैध है या नहीं (एक "सिंटैक्स गेट"), और फिर यह जाँचता है कि क्या अर्थ सही है, भले ही प्रतीक थोड़े अलग हों।

उन्होंने क्या पाया

शोधकर्ताओं ने अपने नए DocPO फ्रेमवर्क का परीक्षण दस्तावेजों के दो बड़े सेटों पर किया: OmniDocBench (1,355 पृष्ठों वाला एक सार्वजनिक डेटासेट) और DocElemHard (एक कठिन, कस्टम-मेड सेट जिसमें 9,400 छवियां हैं)।

यहाँ डेटा क्या सुझाव देता है:

  • तेजी से सीखना: जब उन्होंने "शार्पन्ड" रिवॉर्ड सिस्टम का उपयोग किया, तो रोबोट ने पुराने, मानक रिवॉर्ड्स की तुलना में टेबल-रीडिंग सटीकता का उच्च स्तर लगभग 1.8 गुना तेजी से प्राप्त किया।
  • बेहतर अंतिम स्कोर: रोबोट ने न केवल तेजी से सीखा; वह अंत में बेहतर भी हुआ। कठिन DocElemHard टेस्ट पर, नए तरीके ने 93.76 का समग्र स्कोर प्राप्त किया, जो पिछले सर्वश्रेष्ठ विशिष्ट मॉडलों (जो अक्सर बहुत अधिक जटिल और महंगे हार्डवेयर सेटअप का उपयोग करते हैं) को पीछे छोड़ देता है।
  • कोई अतिरिक्त हार्डवेयर आवश्यक नहीं: सबसे शानदार हिस्सों में से एक यह है कि उन्हें एक नया, विशाल रोबोट मस्तिष्क बनाने की आवश्यकता नहीं थी। उन्होंने Qwen2.5-VL-3B नामक एक मानक, ऑफ-द-शेल्फ मॉडल का उपयोग किया और बस उनके फीडबैक देने के तरीके को बदल दिया। यह सुझाव देता है कि कभी-कभी, "कोच" के फीडबैक को सुधारना एक बड़े "प्लेयर" को बनाने से अधिक शक्तिशाली होता है।

सावधानी और भविष्य

लेखक सावधानी बरतते हुए नोट करते हैं कि यह हर चीज़ के लिए जादुई छड़ी नहीं है। इस तरह से रोबोट को प्रशिक्षित करना पुराने तरीकों की तुलना में अधिक महंगा और समय लेने वाला है क्योंकि रोबोट को सीखने के लिए खेल को कई बार खेलना पड़ता है। इसके अलावा, "रिवॉर्ड्स" अभी भी उन नियमों पर आधारित हैं जो मनुष्यों ने लिखे हैं, इसलिए यदि नियम एक सूक्ष्म बारीकी को मिस कर देते हैं, तो रोबोट अभी भी भ्रमित हो सकता है। अंत में, उन्होंने केवल टेक्स्ट, टेबल्स और गणितीय सूत्रों पर इसका परीक्षण किया है; उन्होंने अभी तक चार्ट या आरेख (diagrams) पर इसे आज़माया नहीं है।

लेकिन मुख्य निष्कर्ष स्पष्ट है: जैसे-जैसे रोबोट में सुधार होता है, फीडबैक को तेज और स्मार्ट बनाकर, हम इसे दस्तावेज़ पढ़ने के जटिल विवरणों में महारत हासिल करने में मदद कर सकते हैं, बिना खुद रोबोट को फिर से आविष्कार किए। यह एक याद दिलाता है कि कभी-कभी, बेहतर होने का रहस्य कड़ी मेहनत करना नहीं है, बल्कि यह जानना है कि किस चीज़ पर काम करना है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →