Evolutionary Pre-Prompt Optimization for Mathematical Reasoning
यह शोध पत्र इवोल्यूशनरी प्री-प्रॉम्ट ऑप्टिमाइज़ेशन (EPPO) पेश करता है, जो एक ऐसी विधि है जो फ्यू-शॉट चेन-ऑफ-थॉट उदाहरणों को चुनने के लिए इवोल्यूशनरी एल्गोरिदम का लाभ उठाती है, जो नैइव (naive) दृष्टिकोणों की तुलना में GSM8k और MathQA जैसे बेंचमार्क पर गणितीय तर्क प्रदर्शन को 10 से अधिक एब्सोल्यूट पॉइंट्स से काफी बेहतर बनाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन थोड़े भ्रमित छात्र (एक लार्ज लैंग्वेज मॉडल) को जटिल गणितीय समस्याओं को हल करना सिखाने की कोशिश कर रहे हैं। आप छात्र के मस्तिष्क को फिर से नहीं लिख सकते (आप मॉडल को रिट्रेन नहीं कर सकते), इसलिए इसके बजाय, आपको उन्हें टेस्ट देने से पहले देखने के लिए कुछ उदाहरण या एक "चीट शीट" देनी होगी। इसे फ्यू-शॉट प्रॉम्पटिंग (few-shot prompting) कहा जाता है।
बड़ी चुनौती यह है कि: उस चीट शीट पर कौन से उदाहरण होने चाहिए?
ज्यादातर लोग बस कुछ रैंडम उदाहरण ले लेते हैं या ऐसे उदाहरण चुनते हैं जो "कठिन" दिखते हों। यह पेपर तर्क देता है कि इन उदाहरणों को चुनने का एक बहुत अधिक स्मार्ट तरीका है, जो विकास (evolution) से प्रेरित है।
यहाँ उनकी खोज, EPPO (इवोल्यूशनरी प्री-प्रॉम्प्ट ऑप्टिमाइज़ेशन) का सरल उपमाओं के साथ विवरण दिया गया है:
1. समस्या: "चीट शीट" का लॉटरी खेल
आमतौर पर, जब हम चाहते हैं कि AI गणित की समस्याएं हल करे, तो हम उसे पहले से ही समान समस्याओं को हल करने के कुछ उदाहरण देते हैं।
- पुराना तरीका: लोग अक्सर रैंडम तरीके से या हाथ से उदाहरण चुनते हैं। यह अपने जन्मदिन के आधार पर नंबर चुनकर लॉटरी जीतने की कोशिश करने जैसा है। यह कभी-कभी काम कर सकता है, लेकिन यह विश्वसनीय नहीं है।
- पेपर की अंतर्दृष्टि: उदाहरणों का विशिष्ट चुनाव केवल अधिक उदाहरण होने से ज्यादा महत्वपूर्ण है। वास्तव में, AI को बहुत अधिक उदाहरण देने से वह भ्रमित भी हो सकता है (थोड़ा ऐसा ही जैसे 4 बेहतरीन किताबों पर ध्यान केंद्रित करने के बजाय 50 अलग-अलग पाठ्यपुस्तकें पढ़ने के बजाय पढ़ाई करने की कोशिश करना)।
2. समाधान: "सर्वाइवल ऑफ द फिटेस्ट" चीट शीट
लेखकों ने एक सिस्टम बनाया जिसे EPPO कहा जाता है। इसे एक कुकिंग कॉम्पिटिशन की तरह समझें जहाँ एक परफेक्ट रेसिपी खोजने के लिए मुकाबला हो रहा है, लेकिन यहाँ भोजन के बजाय, वे गणित के उदाहरणों को मिला और मिला रहे हैं।
- सामग्री (Ingredients): उनके पास हजारों गणित की समस्याओं का एक विशाल भंडार (डेमोंस्ट्रेशन सेट) है।
- प्रतियोगिता: कंप्यूटर एक छोटा समूह चुनता है (मान लीजिए 4 समस्याएं) जिन्हें "चीट शीट" पर रखने के लिए उपयोग किया जाएगा।
- टेस्टिंग (Taste Test): यह AI को उस विशिष्ट चीट शीट का उपयोग करके कई अभ्यास गणित की समस्याएं हल करने के लिए कहता है।
- विकास (Evolution):
- यदि AI अच्छा प्रदर्शन करता है, तो कंप्यूटर उस चीट शीट को रख लेता है।
- यदि AI खराब प्रदर्शन करता है, तो कंप्यूटर भंडार में से नए उदाहरणों के साथ एक या दो उदाहरणों को बदल देता है।
- यह हजारों बार दोहराया जाता है, हमेशा "फिटेस्ट" (सबसे अच्छा प्रदर्शन करने वाले) चीट शीट्स को रखता है और खराब वाले को हटा देता है।
समय के साथ, सिस्टम एक छोटी, परफेक्ट चीट शीट विकसित करता है जो AI को काफी बेहतर प्रदर्शन करने में मदद करती है।
3. चौंकाने वाली खोज: कम ही ज्यादा है (Less is More)
इस पेपर की एक सबसे दिलचस्प खोज यह है कि कितने उदाहरणों की आवश्यकता है।
- सामान्य ज्ञान कहता है: "अधिक उदाहरण = बेहतर समझ।"
- EPPO कहता है: "वास्तव में, 4 उदाहरण अक्सर सबसे सटीक होते हैं।"
पेपर में पाया गया कि जब उन्होंने 8, 12, या 16 उदाहरणों का उपयोग करने की कोशिश की, तो AI वास्तव में और खराब हो गया। यह किसी भाषण को 20 बार पढ़ने की कोशिश करने जैसा है; आप भ्रमित या बोर होना शुरू कर सकते हैं। AI "ओवरफिट" हो गया, जिसका अर्थ है कि उसने विशिष्ट उदाहरणों को बहुत अच्छी तरह से याद कर लिया और नई, थोड़ी अलग समस्याओं पर तर्क लागू नहीं कर सका। "इवोल्यूशनरी" पद्धति ने स्वाभाविक रूप से पाया कि एक संक्षिप्त 4 उच्च-गुणवत्ता वाले उदाहरणों की सूची सबसे अच्छा काम करती है।
4. यह क्यों बड़ी बात है
- यह सस्ता और तेज़ है: एक विशाल AI मॉडल को फिर से प्रशिक्षित करने के बजाय (जिसमें बिजली और समय का बहुत खर्च होता है), वे केवल "चीट शीट" को ऑप्टिमाइज़ करते हैं। यह एक नई कार बनाने के बजाय कार के इंजन को ट्यून करने जैसा है।
- यह कठिन गणित पर काम करता है: उन्होंने इसे बहुत कठिन गणितीय डेटासेट (जैसे हाई स्कूल और कॉलेज स्तर का गणित) पर टेस्ट किया। केवल चीट शीट पर उदाहरण बदलकर AI का स्कोर 10 अंकों से अधिक बढ़ गया।
- यह मजबूत (Robust) है: भले ही जो उदाहरण उन्होंने खोजे थे वे AI द्वारा ही जेनरेट किए गए थे (और परफेक्ट मानव-निर्मित नहीं थे), सिस्टम फिर भी उन्हें काम करने का तरीका ढूंढ ही लेता है। यह खोजने जैसा है कि एक छात्र के बिखरे हुए नोट्स वास्तव में टेस्ट के लिए अध्ययन करने का सबसे अच्छा तरीका हैं।
5. "जादुई" संयोजन
पेपर ने यह भी पाया कि यह तरीका सेल्फ-कंसिस्टेंसी (Self-Consistency) के साथ मिलकर और भी बेहतर काम करता है।
- सेल्फ-कंसिस्टेंसी एक ही समस्या को 8 बार हल करने और फिर उस उत्तर को लेने जैसा है जो सबसे अधिक बार आता है (जैसे एक जूरी का वोट)।
- परिणाम: जब आप "इवॉल्व्ड चीट शीट" (EPPO) प्लस "जूरी वोट" (Self-Consistency) का उपयोग करते हैं, तो AI गणित का जादूगर बन जाता है। दोनों विधियां मिलकर और भी बेहतर परिणाम देने के लिए एक दूसरे पर काम करती हैं।
सारांश
पेपर दिखाता है कि हमें AI को गणित में स्मार्ट बनाने के लिए उसके दिमाग को बदलने की आवश्यकता नहीं है। हमें बस उसे दिखाने के लिए बेहतरीन 4 उदाहरण चुनने के लिए एक स्मार्ट, विकासवादी प्रक्रिया का उपयोग करने की आवश्यकता है। यह "इवोल्यूशनरी प्री-प्रॉम्प्ट ऑप्टिमाइज़ेशन" (EPPO) AI को बहुत अधिक जानकारी से भ्रमित होने से रोकता है और उसे जटिल समस्याओं के माध्यम से तर्क करने में बहुत अधिक प्रभावी ढंग से मदद करता है।
संक्षेप में: AI को केवल रैंडम उदाहरण न दें। विकास को परफेक्ट कुछ उदाहरण चुनने दें, और देखें कि AI के गणित कौशल में कैसे जबरदस्त उछाल आता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।