Scaling Natural-Language Graph-Based Test Time Compute for Automated Theorem Proving
यह शोधपत्र KG-prover को प्रस्तुत करता है, जो एक नवीन ढांचा है जो स्वचालित प्रमेय सिद्ध करने (ऑटोमेटेड थ्योरम प्रूविंग) को बढ़ाने के लिए गणितीय ग्रंथों से खोजी गई नॉलेज ग्राफ्स के साथ सामान्य प्रयोजन वाले लार्ज लैंग्वेज मॉडल्स को संवर्धित करता है, और बिना किसी अतिरिक्त फाइन-ट्यूनिंग की आवश्यकता के कई डेटासेट्स पर महत्वपूर्ण प्रदर्शन लाभ प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Scaling Natural-Language Graph-Based Test Time Compute for Automated Theorem Proving" नामक शोध पत्र का सरल अवधारणाओं और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
मुख्य विचार: गणितीय मॉडलों को एक "चीट शीट" देना
कल्पना कीजिए कि आप एक बहुत ही कठिन गणितीय पहेली को हल करने की कोशिश कर रहे हैं। आपके पास एक बहुत ही बुद्धिमान मित्र (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो गणित के बारे में बहुत कुछ जानता है, लेकिन कभी-कभी वे अटक जाते हैं क्योंकि उन्हें कोई विशिष्ट नियम याद नहीं आता या वे यह नहीं देख पाते कि दो अलग-अलग विचार आपस में कैसे जुड़े हैं।
आमतौर पर, इन मित्रों को अधिक स्मार्ट बनाने के लिए, आपको उन्हें वर्षों तक प्रशिक्षण (फाइन-ट्यूनिंग) के लिए वापस स्कूल भेजना पड़ता है। यह शोध पत्र कहता है: "अतिरिक्त स्कूल जाने की आवश्यकता नहीं है!" इसके बजाय, हम उन्हें काम करते समय एक बेहतर मानचित्र और एक बेहतर लाइब्रेरी दे सकते हैं।
लेखकों ने KG-Prover नामक एक प्रणाली बनाई है। यह आपके बुद्धिमान मित्र को गणित के तथ्यों का एक विशाल, परस्पर जुड़ा हुआ जाल (नॉलेज ग्राफ) देने और उन्हें पहेली सुलझाने के दौरान वास्तविक समय में सही सुरागों को "खोजने" (look up) देने जैसा है।
यह कैसे काम करता है: जासूस की उपमा
AI को एक जासूस के रूप में सोचें जो अपराध (गणितीय प्रमेय) को सुलझाने की कोशिश कर रहा है।
- अपराध स्थल (समस्या): जासूस को एक कथन दिया जाता है जिसे उन्हें यह सिद्ध करने के लिए दिया गया है कि वह सत्य है।
- लाइब्रेरी (नॉलेज ग्राफ): लेखकों ने ProofWiki (गणितीय प्रमाणों से भरी एक वेबसाइट) से एक विशाल लाइब्रेरी बनाई है। उन्होंने इस लाइब्रेरी को एक विशाल मकड़ी के जाल में बदल दिया जहाँ गणित की प्रत्येक अवधारणा एक 'नोड' है, और उन्हें जोड़ने वाली रेखाएँ दिखाती हैं कि वे कैसे संबंधित हैं (जैसे, "प्रमेय A, परिभाषा B का उपयोग करता है")।
- जांच (सर्च):
- अनुमान लगाने के बजाय, जासूस मकड़ी के जाल को देखता है।
- वह अपराध स्थल से शुरू करता है और पूछता है, "इससे कौन संबंधित है?"
- वह समान अवधारणाओं, परिभाषाओं और पिछले प्रमाणों को खोजने के लिए रेखाओं का अनुसरण करता है।
- यदि वे अटक जाते हैं, तो वे हार नहीं मानते; वे जाल में और गहराई तक जाते हैं, छिपे हुए सुराग खोजने के लिए अधिक रेखाओं का अनुसरण करते हैं। इसे "स्केलिंग टेस्ट-टाइम कंप्यूट" कहा जाता है—मूल रूप से, जांच के दौरान उत्तर खोजने के लिए अधिक समय और प्रयास खर्च करना।
- ड्राफ्ट (अनौपचारिक प्रमाण): जासूस मिले हुए सुरागों का उपयोग करके सामान्य अंग्रेजी में समाधान का एक कच्चा मसौदा (draft) लिखता है।
- अनुवाद (फॉर्मलाइजेशन): एक विशेष अनुवादक (एक अन्य AI) उस अंग्रेजी मसौदे को लेती है और उसे सख्त, कंप्यूटर-पठनीय कोड (Lean 4) में बदल देती है।
- न्यायाधीश (वेरिफिकेशन): एक सख्त रेफरी कोड की जाँच करता है। यदि यह गलत है, तो जासूस को संकेत मिलता है कि कहाँ गलती हुई, वह वापस मकड़ी के जाल पर जाता है, एक नया सुराग ढूँढता है, और फिर से प्रयास करता है।
वह "चीट" जो काम करती है
शोध पत्र का दावा है कि इस "सर्च और रिट्रीव" प्रक्रिया को करके, उन्हें AI मॉडल को फिर से प्रशिक्षित करने की आवश्यकता नहीं पड़ी। उन्होंने केवल मौजूदा, सामान्य-उद्देश्य वाले मॉडल (जैसे GPT-4o-mini या Llama 3) का उपयोग किया और उन्हें मानचित्र का उपयोग करने दिया।
परिणाम:
- बेहतर स्कोर: जब उन्होंने इस "मकड़ी के जाल वाले मानचित्र" को जोड़ा, तो गणितीय समस्याओं पर AI की सफलता दर काफी बढ़ गई (परीक्षण के आधार पर 2% से 21% तक)।
- "डीप डाइव" प्रभाव: AI को ग्राफ में जितनी गहराई तक खोजने (अधिक कनेक्शनों का अनुसरण करने) की अनुमति दी गई, वह कठिन समस्याओं को हल करने में उतना ही बेहतर होता गया। यह कहने जैसा है कि, "यदि आप इसे एक मिनट में हल नहीं कर सकते, तो दस मिनट लें और लाइब्रेरी में संबंधित हर किताब को देखें।"
- कोई अतिरिक्त प्रशिक्षण नहीं: सबसे बड़ी जीत यह है कि उन्हें एक नया मॉडल प्रशिक्षित करने के लिए लाखों डॉलर खर्च करने की आवश्यकता नहीं पड़ी। उन्होंने बस पुराने मॉडलों को काम करते समय उपयोग करने के लिए एक बेहतर उपकरण दे दिया।
सीमाएँ (जहाँ जासूस अटक जाता है)
शोध पत्र इस बात के प्रति ईमानदार है कि यह विधि कहाँ विफल होती है:
- अनुवाद अंतराल (Translation Gap): कभी-कभी जासूस एक सटीक अंग्रेजी स्पष्टीकरण लिखता है, लेकिन अनुवादक सख्त कोड में बदलते समय गलती कर देता है। गणितीय तर्क सही था, लेकिन कंप्यूटर भाषा का "व्याकरण" गलत था।
- लुप्त सुराग: यदि उत्तर के लिए किसी बहुत ही दुर्लभ गणितीय तथ्य की आवश्यकता है जो उनकी लाइब्रेरी (ProofWiki) में नहीं है, तो जासूस चाहे कितनी भी गहराई से खोज ले, वह उसे नहीं ढूंढ पाएगा।
- बहुत अधिक शोर (Noise): यदि मकड़ी का जाल बहुत अधिक अस्त-व्यस्त है, तो जासूस अप्रासंगिक जानकारी से भ्रमित हो सकता है।
सारांश
यह शोध पत्र AI गणित विशेषज्ञों को बिना पुन: प्रशिक्षित किए स्मार्ट बनाने का एक तरीका पेश करता है। यह एक प्रतिभाशाली छात्र को स्मार्टफोन के साथ एक पूर्ण, परस्पर जुड़ी विश्वकोश देने और उसे यह कहने जैसा है, "अपना समय लें, जितने भी संबंधित तथ्यों को खोजने की आवश्यकता हो उन्हें खोजें, और अपना प्रमाण लिखें।" AI को टेस्ट के दौरान अपने नॉलेज ग्राफ में अधिक गहराई से सोचने और खोजने की अनुमति देकर, यह अधिक समस्याओं को सही ढंग से हल करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।