📊 statistics

Why Agentic Theorem Prover Works: A Statistical Provability Theory of Mathematical Reasoning Models

यह शोध पत्र एक सांख्यिकीय प्रमाणयोग्यता सिद्धांत स्थापित करता है जो औपचारिक प्रमाण खोज (formal proof search) को एक परिमित-क्षितिज MDP के रूप में मॉडल करता है ताकि यह प्रदर्शित किया जा सके कि कैसे रिट्रीवल (retrieval) और वेरिफिकेशन (verification) जैसे एजेंटिक घटक ऑक्यूपेंसी-वेटेड एक्शन-वैल्यू त्रुटियों को न्यूनतम करके प्रमाण सफलता में सुधार करते हैं, जिससे शास्त्रीय वर्स्ट-केस हार्डनेस (worst-case hardness) का खंडन किए बिना वास्तविक दुनिया के वर्कलोड पर उनकी प्रभावशीलता स्पष्ट होती है।

मूल लेखक: Sho Sonoda, Shunta Akiyama, Yuya Uezato

प्रकाशित 2026-05-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sho Sonoda, Shunta Akiyama, Yuya Uezato

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, जटिल भूलभुलैया (maze) को सुलझाने की कोशिश कर रहे हैं। तर्कशास्त्र के पुराने दिनों में, गणितज्ञ एक सरल प्रश्न पूछते थे: "क्या निकास तक पहुँचने का कोई रास्ता मौजूद है?" यदि उत्तर "हाँ" था, तो समस्या को हल माना जाता था, चाहे रास्ता खोजने में कितना भी समय लगे या आप कितने भी गलत रास्तों (dead ends) पर टकराएँ।

लेकिन आधुनिक AI थ्योरम प्रूवर (जैसे इस शोध पत्र में उल्लेखित "एजेंटिक" वाले) केवल यह नहीं पूछते कि क्या कोई रास्ता मौजूद है। वे पूछते हैं: "क्या हम एक विशिष्ट समय सीमा के भीतर, ऊर्जा की एक सीमित मात्रा का उपयोग करके, उन विशिष्ट प्रकार की भूलभुलैयाओं को देखते हुए निकास खोज सकते हैं जो हम आमतौर पर सामना करते हैं?"

यह शोध पत्र एक नया "नियम पुस्तिका" (एक सांख्यिकीय सिद्धांत) प्रदान करता है जो यह समझाने के लिए है कि ये AI एजेंट गणित की समस्याओं को हल करने में इतने कुशल क्यों हो रहे हैं, भले ही गणित को हर एक मामले में पूरी तरह से हल करना सैद्धांतिक रूप से असंभव है।

यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:

1. खेल: एक परिमित-क्षितिज वाली भूलभुलैया (A Finite-Horizon Maze)

लेखक गणितीय प्रमेय को सिद्ध करने को एक स्थिर पहेली के रूप में नहीं, बल्कि एक वीडियो गेम में खेले जाने वाले खेल के रूप में देखते हैं।

अवस्था (The State): भूलभुलैया में आपकी वर्तमान स्थिति (उन गणितीय लक्ष्यों की सूची जिन्हें आपको अभी भी सिद्ध करना है)।
क्रिया (The Action): आपके द्वारा किया जाने वाला अगला कदम (कोई रणनीति चुनना, कोई लेम्मा देखना, या किसी नियम को लागू करना)।
सत्यापनकर्ता (The Verifier): खेल का रेफरी। यह तुरंत आपको बताता है कि आपका कदम वैध है या आप दीवार से टकरा गए हैं। यह कभी झूठ नहीं बोलता।
बजट (The Budget): आपके पास खेल समाप्त होने से पहले सीमित संख्या में चालें (या "वेरिफायर कॉल्स") हैं।

शोध पत्र का तर्क है कि हमें "ब्रह्मांड की सबसे कठिन संभव भूलभुलैया" की परवाह नहीं करनी चाहिए। इसके बजाय, हमें उस औसत भूलभुलैया की परवाह करनी चाहिए जिसका सामना AI वास्तव में करता है। वास्तविक गणितीय समस्याएँ यादृच्छिक (random) नहीं होती हैं; वे पैटर्न का पालन करती हैं, पुराने परिभाषाओं का पुन: उपयोग करती हैं, और उन समस्याओं की तरह दिखती हैं जिन्हें AI पहले देख चुका है।

2. रणनीति: एक "स्मार्ट GPS"

AI हर संभावित रास्ते को याद करने की कोशिश नहीं करता है। इसके बजाय, वह एक स्मार्ट GPS बनना सीखता है।

ऑफलाइन प्रशिक्षण (Offline Training): खेलने से पहले, AI पिछले हजारों खेलों को देखता है। यह प्रत्येक संभावित चाल के लिए एक "स्कोर" सीखना सीखता है। वह पूछता है: "यदि मैं यह चाल चलता हूँ, तो इस शेष समय के भीतर निकास तक पहुँचने की कितनी संभावना है?"
लालची खेल (Greedy Play): जब वह वास्तव में खेल खेलता है, तो वह 100 कदम आगे नहीं देखता। वह बस अभी के लिए उच्चतम स्कोर वाली चाल चुनता है, अपने GPS पर भरोसा करता है।

3. बड़ी खोज: यह क्यों काम करता है

शोध पत्र का मुख्य निष्कर्ष एक ऐसा सूत्र प्रदान करता है जो बताता है कि यह GPS रणनीति इतनी अच्छी तरह से क्यों काम करती है। AI की सफलता दर और पूर्ण सफलता दर के बीच का "अंतर" तीन चीजों पर निर्भर करता है:

GPS कितना सटीक है: यदि AI का किसी चाल के लिए स्कोर गलत है, तो वह एक बुरा रास्ता चुन सकता है।
रास्ता कितना लंबा है: यह सबसे महत्वपूर्ण हिस्सा है। शोध पत्र एक अवधारणा पेश करता है जिसे "औसत ट्रंकेटेड प्रूफ लेंथ" (Average Truncated Proof Length) कहा जाता है।
- उपमा: कल्पना कीजिए कि आप जंगल में खो गए हैं। यदि आप निकास के पास खड़े हैं, तो आपको बाहर निकलने के लिए केवल 5 कदम चलने की आवश्यकता है। भले ही आपका GPS थोड़ा गलत हो, फिर भी आप शायद पहुँच जाएँगे। लेकिन यदि आप जंगल के किनारे पर हैं और आपको 1,000 मील पैदल चलना है, तो आपके GPS की दिशा में एक छोटी सी त्रुटि भी आपको मीलों दूर भेज देगी।
- शोध पत्र का दावा: AI इसलिए काम करता है क्योंकि वह रास्ते को छोटा करने में कुशल है। यदि AI एक बड़ी समस्या को छोटे टुकड़ों में तोड़ सकता है (decomposition) या एक शॉर्टकट ढूंढ सकता है (retrieval), तो "रास्ते की लंबाई" छोटी हो जाती है। जब रास्ता छोटा होता है, तो AI छोटी गलतियाँ करने के बावजूद सफल हो सकता है।

4. सफलता के घटक

शोध पत्र समझाता है कि विशिष्ट उपकरण AI की मदद कैसे करते हैं, इस तर्क का उपयोग करते हुए:

रिट्रीवल (चीजों को ढूँढना/देखना): यह स्थानीय क्षेत्र के मानचित्र होने जैसा है। यह AI को गलत रास्तों में भटकने से बचने में मदद करता है, जिससे "रास्ता" छोटा होता है और "GPS" अधिक सटीक होता है।
वेरिफायर (रेफरी): यह अत्यंत महत्वपूर्ण है। यह AI को अमान्य शाखाओं में भटकने से रोकता है। यह एक सुरक्षा जाल के रूप में कार्य करता है, यह सुनिश्चित करता है कि भले ही AI का अनुमान गलत हो जाए, वह अपने पूरे बजट को एक टूटे हुए रास्ते पर बर्बाद न करे।
प्रतिनिधित्व (AI दुनिया को कैसे देखता है): यदि AI भूलभुलैया को इस तरह देख सकता है जिससे निकास करीब लगे और दीवारें स्पष्ट दिखें, तो वह तेजी से सीखता है। शोध पत्र कहता है कि एक अच्छा प्रतिनिधित्व गणित को "सुगम" (smoother) बनाता है और नेविगेट करना आसान बनाता है।

5. निचोड़ (The Bottom Line)

शोध पत्र निष्कर्ष निकालता है कि ये AI एजेंट जादुई नहीं हैं। वे काम करते हैं क्योंकि:

वास्तविक दुनिया की गणितीय समस्याएँ पूर्वाग्रह युक्त (biased) होती हैं (वे पैटर्न का पालन करती हैं), यादृच्छिक नहीं।
AI उन पैटर्न के आधार पर चालों के मूल्य का अनुमान लगाना सीखता है।
वे तंत्र जो प्रमाण को छोटा करते हैं (जैसे समस्याओं को तोड़ना) या चाल-अनुमान की सटीकता में सुधार करते हैं, सफलता पर बहुत बड़ा प्रभाव डालते हैं।

संक्षेप में: यदि आप यात्रा को छोटा कर सकते हैं और अपने मानचित्र को थोड़ा अधिक सटीक बना सकते हैं, तो आप गंतव्य तक बहुत अधिक बार पहुँचेंगे, भले ही मानचित्र पूर्ण न हो। यही कारण है कि ये "एजेंटिक" प्रूवर उन असंभव "सबसे खराब स्थिति" (worst-case scenarios) वाले मामलों को मात दे रहे हैं जिन्होंने सदियों से गणितज्ञों को उलझा रखा है।

तकनीकी सारांश: एजेंटिक थ्योरम प्रूवर (Agentic Theorem Prover) क्यों काम करता है

समस्या विवरण (Problem Statement)

हाल के एजेंटिक थ्योरम प्रूवर्स, जो बड़े भाषा मॉडलों (LLMs) को रिट्रीवल (retrieval), सर्च और प्रूफ असिस्टेंट वेरीफायर के साथ जोड़ते हैं, ने सत्यापित गणितीय प्रमाण (verified mathematical proofs) उत्पन्न करने में अनुभवजन्य सफलता (empirical success) प्रदर्शित की है। हालांकि, मौजूदा सैद्धांतिक ढांचे इस सफलता को समझाने में संघर्ष करते हैं। शास्त्रीय प्रमाण सिद्धांत (Classical proof theory) प्रमाणों के अस्तित्व को संबोधित करता है, जबकि जटिलता सिद्धांत (complexity theory) सबसे खराब स्थिति (worst-case) की कठिनाई को संबोधित करता है। दोनों ही पर्याप्त रूप से यह नहीं समझा पाते कि एक विशिष्ट एल्गोरिदम एक निश्चित कंप्यूट बजट पर, अभ्यास में सामना किए जाने वाले विशिष्ट, पक्षपाती वितरणों (जैसे लाइब्रेरी थ्योरम्स, बेंचमार्क परिवार) के लिए उच्च संभावना के साथ क्यों सफल होता है।

यह शोध पत्र इस प्रश्न को संबोधित करता है: एक विशिष्ट एजेंटिक प्रूवर द्वारा एक निर्दिष्ट थ्योरम स्ट्रीम पर एक निश्चित बजट के भीतर वेरीफायर-स्वीकृत प्रमाण उत्पन्न करने की संभावना क्या है? लेखक तर्क देते हैं कि यह समझना कि रिट्रीवल, वेरीफायर फीडबैक और डिकंपोजिशन (decomposition) शास्त्रीय अनिर्णयता (undecidability) या सबसे खराब स्थिति के निचले स्तरों (lower bounds) का विरोध किए बिना प्रदर्शन में सुधार क्यों करते हैं, अत्यंत आवश्यक है।

कार्यप्रणाली (Methodology)

1. रीचेबिलिटी MDP के रूप में औपचारिकीकरण (Formalization as a Reachability MDP)

लेखक औपचारिक प्रमाण खोज को एक फाइनाइट-होराइजन रीचेबिलिटी मार्कोव डिसीजन प्रोसेस (MDP) के रूप में मॉडल करते हैं जिसके डायनेमिक्स नियत (deterministic) हैं:

अवस्था (State - $X$ ): वर्तमान प्रमाण दायित्व (जैसे, Lean में खुले लक्ष्यों की एक सूची) प्लस वेरीफायर फीडबैक।
क्रिया (Action - $A$ ): प्रूवर मूव्स जैसे टैक्टिक्स (tactics), इन्फरेंस रूल्स, या रिट्रीवल कमांड्स।
संक्रमण (Transition - $F$ ): एक नियत वेरीफायर अपडेट मैप $F: X \times A \to X$ । अमान्य क्रियाएं विफलता अवस्थाओं (failure states) की ओर ले जाती हैं; वैध क्रियाएं नए प्रमाण अवस्थाओं की ओर संक्रमण करती हैं।
लक्ष्य (Goal - $G$ ): हल की गई अवस्थाओं का सेट (खाली लक्ष्य सूचियाँ)।

यह निरूपण वेरीफायर के ऑपरेशनल सिमेंटिक्स को ट्रांजिशन कर्नेल के रूप में मानता है। लेखक सिद्ध करते हैं कि एक फिथफुल स्टेट एब्स्ट्रैक्शन (faithful state abstraction) के तहत, अनुकूलतम MDP सफलता की संभावना ठीक उसी बजट के भीतर साधारण सिंटैक्टिक प्रोवेबिलिटी (syntactic provability) के साथ मेल खाती है, जो तार्किक अखंडता को बनाए रखते हुए सांख्यिकीय विश्लेषण को सक्षम बनाती है।

2. सांख्यिकीय प्रोवेबिलिटी परिभाषा (Statistical Provability Definition)

मुख्य मीट्रिक सांख्यिकीय प्रोवेबिलिटी ( $SP^\pi_B(q_0)$ ) है, जिसे एक प्रूवर पॉलिसी $\pi$ द्वारा $B$ वेरीफायर कॉल्स के भीतर एक सत्यापित प्रमाण तक पहुँचने की संभावना के रूप में परिभाषित किया गया है, जो एक प्रारंभिक थ्योरम वितरण $q_0$ और प्रूवर की आंतरिक रैंडमनेस (randomness) पर औसत है। इसकी तुलना $SP^*_B(q_0)$ से की जाती है, जो इष्टतम सफलता की संभावना है।

लेखक औसत ट्रंकेटेड प्रूफ लेंथ ( $Len^\pi_B(q_0)$ ) को भी ट्रैक करते हैं, जिसे सफलता या बजट समाप्ति से पहले अपेक्षित वेरीफायर कॉल्स की संख्या के रूप में परिभाषित किया गया है। यह मीट्रिक उनके बाउंड्स (bounds) में एक महत्वपूर्ण व्याख्यात्मक हैंडल (interpretability handle) के रूप में कार्य करता है।

3. लर्निंग पाइपलाइन विश्लेषण (Learning Pipeline Analysis)

यह शोध पत्र एक पाइपलाइन का विश्लेषण करता है जो वर्तमान अभ्यास के अनुरूप है:

ऑफलाइन एक्शन-वैल्यू रिग्रेशन: प्रशिक्षण वितरण पर वेरीफायर-समर्थित रोलआउट्स (सिम्युलेटेड प्रमाणों) से डेप्थ-वाइज एक्शन-वैल्यू फंक्शन्स ( $Q^*_t$ ) सीखना।
ग्रीडी टेस्ट-टाइम प्रूविंग: टेस्ट-टाइम पर सर्वोत्तम क्रिया चुनने के लिए सीखे गए स्कोर्स का उपयोग करना।

विश्लेषण Assumption 3.1 पर आधारित है, जो यह प्रतिपादित करता है:

कॉम्पैक्ट कंसन्ट्रेशन सेट्स ( $C_t$ ) जहाँ प्रशिक्षण और परीक्षण होता है।
ऑप्टिमल वैल्यू फंक्शन और हाइपोथीसिस क्लास की लिप्सचिट्ज़ निरंतरता (Lipschitz continuity)।
स्टेट-एक्शन स्पेस का अन्वेषण वितरण (exploration distribution) द्वारा पर्याप्त कवरेज।
शोर (noise) को कम करने के लिए प्रति क्वेरी कई स्वतंत्र रोलआउट लेबल की उपलब्धता।

मुख्य योगदान और परिणाम (Key Contributions and Results)

1. मुख्य प्रमेय (सांख्यिकीय प्रोवेबिलिटी बाउंड)

केंद्रीय परिणाम (Theorem 3.1) सीखे गए प्रूवर की सफलता की संभावना और इष्टतम प्रूवर की सफलता की संभावना के बीच के अंतर को सीमित करता है। यह बाउंड एक ऑक्यूपेंसी-वेटेड सम ऑफ यूनिफॉर्म एक्शन-वैल्यू एरर्स है:

$SP^*_B(q_0) - SP^{\hat{\pi}}_B(q_0) \leq 2 \sum_{s=1}^B P^{\hat{\pi}}_{q_0}(T_G \geq s) \cdot \epsilon_{B-s+1}$

जहाँ:

$P^{\hat{\pi}}_{q_0}(T_G \geq s)$ वह संभावना है कि सीखा गया प्रूवर चरण $s$ पर समस्या को हल नहीं कर पाया है (अनसॉल्व्ड-मास कर्व)।
$\epsilon_t$ डेप्थ $t$ पर सीखे गए एक्शन-वैल्यू एस्टीमेटर का यूनिफॉर्म एरर बाउंड है।

एरर टर्म ( $\epsilon_t$ ) की व्याख्या:
यह तीन घटकों में विभाजित है:

एप्रोक्सिमेशन एरर (Approximation Error): हाइपोथीसिस क्लास की वास्तविक वैल्यू फंक्शन को दर्शाने में असमर्थता।
कवरेज/ज्यामिति एरर (Coverage/Geometry Error): प्रशिक्षण वितरण के प्रभावी स्थानीय आयाम ( $d_t$ ) और कवरेज कांस्टेंट ( $c_t$ ) पर निर्भर।
रोलआउट नॉइज़ (Rollout Noise): रिग्रेशन के लिए उपयोग किए गए परिमित मोंटे कार्लो लेबल ( $m_t$ ) से उत्पन्न विचलन।

2. औसत प्रूफ लेंथ की भूमिका

एक प्रमुख अंतर्दृष्टि यह है कि बाउंड में अग्रणी कॉम्प्लेक्सिटी मल्टीप्लायर (complexity multiplier) सीखा गया प्रूवर का औसत ट्रंकेटेड प्रूफ लेंथ ( $Len^{\hat{\pi}}_B(q_0)$ ) है।
$SP^*_B(q_0) - SP^{\hat{\pi}}_B(q_0) \lesssim \bar{\epsilon}_B \cdot Len^{\hat{\pi}}_B(q_0)$
इसका तात्पर्य यह है कि वे तंत्र जो प्रमाणों को छोटा करते हैं (जैसे, प्रभावी डिकंपोजिशन, लेम्मा इंट्रोडक्शन), सीधे एंड-टू-एंड लॉस को कम करते हैं, भले ही स्थानीय वैल्यू एस्टीमेशन एरर ( $\bar{\epsilon}_B$ ) स्थिर रहे।

3. मार्जिन कंडीशंस और फास्ट रेट्स

एक मार्जिन कंडीशन के तहत (जहाँ सर्वश्रेष्ठ और दूसरे सर्वश्रेष्ठ एक्शन वैल्यू के बीच का अंतर उच्च संभावना के साथ पर्याप्त बड़ा है), बाउंड एक फास्ट रेट में सुधर जाता है:
$SP^*_B(q_0) - SP^{\hat{\pi}}_B(q_0) \lesssim Len^{\hat{\pi}}_B(q_0) \cdot \bar{\epsilon}_B^{\beta+1}$
यह सुझाव देता है कि एक्शन गैप्स में सुधार करना (सही मूव्स को स्पष्ट रूप से श्रेष्ठ बनाना) अभिसरण (convergence) को काफी तेज कर देता है।

4. स्केलिंग लॉज़ (Scaling Laws)

शोध पत्र सैंपल-कॉम्प्लेक्सिटी ह्यूरिस्टिक्स (heuristics) प्राप्त करता है। लॉगरिदमिक कारकों को अनदेखा करते हुए, एरर $n^{-1/(d+2)}$ के रूप में स्केल होता है, जहाँ $n$ वेरीफायर-लेबल बजट है और $d$ प्रभावी स्थानीय आयाम है। यह स्पष्ट करता है कि "टेस्ट-टाइम स्केलिंग" लाभ निम्नलिखित से उत्पन्न हो सकते हैं:

प्रभावी होराइजन को कम करना (छोटे प्रमाण)।
प्रभावी ज्यामितीय आयाम को कम करना (बेहतर रिट्रीवल/रिप्रेजेंटेशन)।
एक्शन-गैप मार्जिन को बढ़ाना।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि यह एक कंपोनेंट-सेंसिटिव अकाउंट प्रदान करता है कि एजेंटिक थ्योरम प्रूवर पक्षपाती वर्कलोड पर क्यों काम करते हैं। यह शास्त्रीय तर्क और सांख्यिकीय शिक्षण के बीच के अंतर को पाटता है, यह दिखाकर कि:

वेरीफायर फीडबैक: एप्रोक्सिमेशन एरर को कम करके, कवरेज में सुधार करके और एक्शन गैप्स को बढ़ाकर प्रोवेबिलिटी में सुधार करता है।
रिट्रीवल और रिप्रेजेंटेशन: वैल्यू फंक्शन को स्मूथ करके, स्टेट स्पेस को लोअर-डायमेंशनल क्षेत्रों पर केंद्रित करके और बैड चॉइस को हटाकर मार्जिन को बढ़ाकर मदद करते हैं।
प्रूफ शॉर्टनिंग: डिकंपोजिशन जैसे तंत्र "ऑक्यूपेंसी वेट" (औसत प्रूफ लेंथ) को कम करते हैं, जो बाउंड में एरर का प्राथमिक मल्टीप्लायर है।

लेखक इस बात पर जोर देते हैं कि यह सिद्धांत वर्स्ट-केस हार्डनेस का खंडन नहीं करता है। इसके बजाय, यह बताता है कि एजेंटिक सिस्टम विशिष्ट, संरचित वितरणों (लाइब्रेरी थ्योरम्स, बेंचमार्क) पर क्यों सफल होते हैं जहाँ प्रमाण छोटे होते हैं, गैप बड़े होते हैं, और कवरेज अच्छी होती है। फ्रेमवर्क वेरीफायर को एक सूचना चैनल (information channel) के रूप में और प्रूवर को एक सीमित बजट के तहत उपयोगी जानकारी निकालने वाले एक सांख्यिकीय शिक्षार्थी के रूप में मानता है, जो आधुनिक एजेंटिक सिस्टम में प्रचलित इंजीनियरिंग विकल्पों (रिट्रीवल, डिकंपोजिशन, वेरीफायर लूप्स) को एक कठोर औचित्य प्रदान करता है।