PPDL: LLM-Based Flows as Probabilistic Programs
यह शोध पत्र PPDL को प्रस्तुत करता है, जो एक संभाव्य प्रोग्रामिंग भाषा (probabilistic programming language) है जो डेवलपर्स को कोर लॉजिक को बदले बिना LLM-आधारित एप्लिकेशन फ्लो में अनिश्चितता को मापने और प्रसारित करने तथा इन्फरेंस स्केलिंग तकनीकों के साथ प्रयोग करने में सक्षम बनाता है, जैसा कि Rocq प्रवर (prover) के लिए एक प्रमेय सिद्ध करने वाले एजेंट (theorem proving agent) के माध्यम से प्रदर्शित किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही कठिन पहेली को हल करने की कोशिश कर रहे हैं, लेकिन आप इसे अकेले नहीं कर रहे हैं, बल्कि आपके पास एक बहुत ही बुद्धिमान, रचनात्मक मित्र है जो आपसे बात कर सकता है। यह मित्र एक आर्टिफिशियल इंटेलिजेंस है जिसे 'लार्ज लैंग्वेज मॉडल' (LLM) कहा जाता है। वे कहानियाँ लिखने, गणित की समस्याओं को हल करने और यहाँ तक कि कंप्यूटर कोड लिखने में भी माहिर हैं। हालाँकि, वे पूर्ण नहीं हैं। कभी-कभी वे गलत उत्तर के बारे में बहुत आत्मविश्वासी हो जाते, या वे ऐसे तथ्य बना सकते हैं जो सुनने में वास्तविक लगते हैं लेकिन वास्तव में नहीं होते। इसे "अनिश्चितता" (uncertainty) कहा जाता है।
अब, कल्पना कीजिए कि आपको एक बहुत ही कठिन समस्या को हल करने की आवश्यकता है जिसके लिए कई चरणों की आवश्यकता है। आप अपने AI मित्र से एक योजना बनाने के लिए कहते हैं, फिर उन्हें उस योजना के आधार पर कोड लिखने के लिए कहते हैं, फिर उन्हें कोड की जाँच करने के लिए कहते हैं, इत्यादि। हर बार जब आप कोई प्रश्न पूछते हैं, तो AI एक उत्तर देता है, लेकिन वह उत्तर थोड़ा डगमगा सकता है। यदि आप इन दस डगमगाते उत्तरों को एक साथ जोड़ते हैं, तो अंतिम परिणाम पूरी तरह से गड़बड़ हो सकता है। यह जेन्गा (Jenga) ब्लॉक्स का एक टॉवर बनाने जैसा है जहाँ हर ब्लॉक थोड़ा डगमगाता हुआ है; आप जितना ऊपर जाएंगे, पूरे टॉवर के ढहने की संभावना उतनी ही अधिक होगी। डेवलपर्स और उपयोगकर्ता यहाँ खोया हुआ महसूस करते हैं: "क्या यह उत्तर सही है? हम कितने आश्वस्त हैं? क्या मुझे इस पर भरोसा करना चाहिए?"
इसे ठीक करने के लिए, वैज्ञानिकों ने कुछ तरकीबें आजमाई हैं। एक लोकप्रिय विचार "इन्फरेंस स्केलिंग" (inference scaling) है। इसे ऐसे समझें जैसे आप अपने AI मित्र को एक ही पहेली को दस अलग-अलग तरीकों से हल करने के लिए कहते हैं और देखते हैं कि कौन सा उत्तर सबसे अधिक बार आता है। यह दोस्तों के एक समूह से किसी पहेली का उत्तर बताने के लिए कहने और बहुमत वाले उत्तर के साथ जाने जैसा है। लेकिन यहाँ एक पेच है: इसे मैन्युअल रूप से करना बहुत अव्यवस्थित है। आपको उन दस प्रयासों को चलाने के लिए विशेष कंप्यूटर कोड लिखना होगा, यह ट्रैक रखना होगा कि कौन से अच्छे दिख रहे हैं, और जो खराब हैं उन्हें हटाना होगा। यह हर बार कुकीज़ का एक बैच बनाने के लिए एक नया कारखाना बनाने जैसा है ताकि यह सुनिश्चित किया जा सके कि वे सही स्वाद दें। यह जटिल, महंगा और बदलाव करना कठिन है यदि आप बेकिंग का एक अलग तरीका आजमाना चाहते हैं।
पेपर का बड़ा विचार: "मैजिक स्कोरकार्ड"
यह पेपर एक नया टूल पेश करता है जिसे PPDL (प्रोबेबिलिस्टिक प्रॉम्प्ट डिक्लेरेशन लैंग्वेज) कहा जाता है। आप PPDL को AI वर्कफ़्लो के लिए एक विशेष "मैजिक स्कोरकार्ड" के रूप में देख सकते हैं। केवल AI से एक प्रश्न पूछने और एक एकल उत्तर प्राप्त करने के बजाय, PPDL आपको एक ऐसा प्रोग्राम लिखने की अनुमति देता है जो स्वाभाविक रूप से यह समझता है कि AI अनिश्चित हो सकता है।
यह इस प्रकार काम करता है:
- प्रवाह (The Flow): आप AI के लिए अपने निर्देश वैसे ही लिखते हैं जैसे आप सामान्य रूप से लिखेंगे (जैसे, "कोड की योजना बनाएं," फिर "कोड लिखें," फिर "कोड की जाँच करें")।
- जादुई कारक (The Magic Factor): आप एक विशेष निर्देश जोड़ते हैं जिसे
factorकहा जाता है। यह एक स्कोरकार्ड की तरह है जहाँ आप AI को बताते हैं, "हे, यदि योजना तार्किक लगती है, तो उसे उच्च स्कोर दें। यदि कोड में त्रुटियां हैं, तो उसे कम स्कोर दें।" - परिणाम (The Result): जब आप प्रोग्राम चलाते हैं, तो कंप्यूटर केवल एक उत्तर नहीं देता। यह पूरी प्रक्रिया को समानांतर (parallel) में कई बार चलाता है (जैसे कि आपके सौ अलग-अलग संस्करण एक साथ पहेली सुलझाने की कोशिश कर रहे हों)। यह आपके "स्कोरकार्ड" का उपयोग परिणामों को तौलने के लिए करता है। यदि एक पथ बहुत ही आशाजनक दिखता है, तो कंप्यूटर उस पथ पर अधिक ऊर्जा केंद्रित करता है। यदि कोई पथ बुरा दिखता है, तो वह उसे छोड़ देता है।
सबसे अच्छी बात यह है कि आपको वह जटिल "दस बार चलाने वाला" कोड खुद नहीं लिखना पड़ता है। PPDL बैकग्राउंड में सारा भारी काम संभाल लेता है। आप बस लॉजिक एक बार लिखते हैं, और सिस्टम स्वचालित रूप से सभी संभावनाओं को खोजने का सबसे अच्छा तरीका तय कर लेता है।
उन्होंने क्या पाया
लेखकों ने कई चुनौतियों पर इस विचार का परीक्षण किया, जिनमें स्कूली गणित की समस्याओं को हल करने से लेकर जटिल कंप्यूटर कोड लिखना और यहाँ तक कि गणितीय प्रमेयों (theorems) को सिद्ध करना शामिल है।
- बेहतर सटीकता: उनके परीक्षणों में, PPDL के साथ इन "स्कोरकार्ड" का उपयोग करने से AI काफी अधिक सटीक हो गया। उदाहरण के लिए, GSM8k नामक गणित के टेस्ट पर, एक मानक AI ने लगभग 83.8% उत्तर सही दिए। लेकिन जब उन्होंने "इम्पॉर्टेंस सैंपलिंग" (Importance Sampling - जो कि सबसे अच्छे अनुमानों को चुनने का एक स्मार्ट तरीका है) नामक विधि के साथ PPDL का उपयोग किया, तो सटीकता बढ़कर 93.7% हो गई।
- "स्मार्ट" तरीका जीतता है: उन्होंने स्कोरकार्ड का उपयोग करने के विभिन्न तरीकों की तुलना की। कभी-कभी, केवल "बहुमत के वोट" (सबसे आम उत्तर) को लेना अच्छा काम करता है। लेकिन अक्सर, स्मार्ट तरीके (जैसे इम्पॉर्टेंस सैंपलिंग और सीक्वेंशियल मोंटे कार्लो) बहुत बेहतर होते हैं। ये तरीके एक ऐसे जासूस की तरह हैं जो केवल वोटों को नहीं गिनता बल्कि वास्तव में जांच करता है कि कोई उत्तर अच्छा क्यों है या बुरा क्यों है, बुरे रास्तों को जल्दी से त्याग देता है और अच्छे रास्तों पर ध्यान केंद्रित करता है।
- थ्योरम प्रोवर केस स्टडी: सिस्टम का परीक्षण करने के लिए, उन्होंने Rocq नामक टूल का उपयोग करके गणितीय प्रमेयों को सिद्ध करने के लिए एक AI एजेंट बनाया। यह एक बहुत ही कठिन कार्य है जहाँ AI को एक प्रमाण (proof) लिखना होता है, यह जाँच करनी होती है कि वह गलत है या नहीं, और बार-बार उसे ठीक करना होता है। उन्होंने पाया कि "स्मार्ट" तरीका (सीक्वेंशियल मोंटे कार्लो) केवल बार-बार रैंडम अनुमान लगाने की तुलना में सही प्रमाण खोजने में बहुत बेहतर था। यह एक साथ कई अलग-अलग रास्तों का पता लगा सकता था और उन रास्तों को तुरंत छोड़ सकता था जो कहीं नहीं ले जा रहे थे।
उन्होंने क्या दावा नहीं किया
लेखक सावधान हैं कि वे यह नहीं कह रहे हैं कि यह सब कुछ हल करने वाला "जादुई समाधान" (magic bullet) है। वे बताते हैं कि "स्कोरकार्ड" (factors) केवल उतने ही अच्छे हैं जितनी जानकारी आप उनमें डालते हैं। यदि आपका स्कोरकार्ड खराब है, तो सिस्टम जादू से उसे ठीक नहीं करेगा। इसके अलावा, जबकि यह तरीका AI को अधिक विश्वसनीय बनाता है, इसका मतलब यह नहीं है कि AI अचानक पूर्ण हो गया है; इसका मतलब केवल यह है कि हमारे पास यह मापने का एक बेहतर तरीका है कि हमें उत्तर के बारे में कितना आश्वस्त होना चाहिए।
यह क्यों महत्वपूर्ण है
यह पेपर सुझाव देता है कि AI वर्कफ़्लो को "प्रोबेबिलिस्टिक प्रोग्राम" (वे प्रोग्राम जो अनिश्चितता को समझते हैं) के रूप में मानकर, हम AI अनुप्रयोगों को बहुत अधिक विश्वसनीय बना सकते हैं, बिना उन्हें अविश्वसनीय रूप से जटिल बनाए। यह डेवलपर्स को नए उपकरणों का एक सेट देने जैसा है जो स्वचालित रूप से "बार-बार प्रयास करने" के कठिन काम को संभालते हैं, ताकि वे सही उत्तर पाने के सर्वोत्तम तरीके को खोजने के लिए कंप्यूटर को छोड़ने के बजाय शानदार चीजें बनाने पर ध्यान केंद्रित कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।