🤖 machine learning

SQLConductor: Search-to-Policy Learning for Step-wise Text-to-SQL Orchestration

यह शोध पत्र SQLConductor को प्रस्तुत करता है, जो एक चरण-दर-चरण ऑर्केस्ट्रेशन फ्रेमवर्क है जो 'सर्च-टू-पॉलिसी लर्निंग' का उपयोग करके मध्यवर्ती फीडबैक के आधार पर गतिशील रूप से SQL उप-कार्यों (subtasks) का चयन करने के लिए एक पॉलिसी मॉडल को प्रशिक्षित करता है, जिससे फिक्स्ड पाइपलाइनों और डायरेक्ट बैकबोन ट्रेनिंग की तुलना में जटिल टेक्स्ट-टू-एसक्यूएल (Text-to-SQL) बेंचमार्क पर बेहतर निष्पादन सटीकता और सामान्यीकरण प्राप्त होता है।

मूल लेखक: Yizhang Zhu, Zhangyang Peng, Boyan Li, Yuyu Luo

प्रकाशित 2026-06-23

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yizhang Zhu, Zhangyang Peng, Boyan Li, Yuyu Luo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही विशिष्ट उत्तर पाने की कोशिश कर रहे हैं जो सूचनाओं के एक विशाल, अव्यवस्थित पुस्तकालय (एक डेटाबेस) में छिपा है, और इसके लिए आप साधारण अंग्रेजी में एक प्रश्न पूछ रहे हैं। यह "Text-to-SQL" की समस्या है: एक मानवीय प्रश्न को कंप्यूटर कमांड (SQL) में बदलना जिसे पुस्तकालय समझ सके।

लंबे समय तक, कंप्यूटरों ने इसे एक कठोर, पूर्व-लिखित रेसिपी का पालन करके हल करने की कोशिश की। आप चाहे कुछ भी पूछें, कंप्यूटर को उन्हीं चरणों का पालन करना पड़ता था: चरण 1, चरण 2, चरण 3, चरण 4। यदि आपने "फ्रांस की राजधानी क्या है?" जैसा सरल प्रश्न पूछा, तो कंप्यूटर को फिर भी चारों चरणों से गुजरना पड़ता था, जिससे समय बर्बाद होता था और कभी-कभी वह भ्रमित भी हो जाता था। यदि आपने कोई कठिन प्रश्न पूछा और कंप्यूटर ने चरण 2 में गलती कर दी, तो वह उस गलती के साथ आगे बढ़ता रहता, जिससे गलत उत्तर मिलता।

SQLConductor एक नया सिस्टम है जो खेल बदल देता है। एक कठोर रेसिपी का पालन करने के बजाय, यह एक स्मार्ट प्रोजेक्ट मैनेजर या एक कंडक्टर (संचालक) की तरह काम करता है जो अभी क्या हो रहा है, उसके आधार पर अगला कदम तय करता है।

यह कैसे काम करता है, यहाँ सरल उपमाओं का उपयोग किया गया है:

1. टूलबॉक्स (एक्शन स्पेस)

कल्पना कीजिए कि कंप्यूटर के पास अलग-अलग विशेष उपकरणों वाला एक टूलबॉक्स है:

द ब्रेकर (The Breaker): एक बड़े प्रश्न को छोटे हिस्सों में तोड़ता है।
द फाइंडर (The Finder): डेटाबेस में विशिष्ट नंबर या नाम खोजता है।
द फिल्टर (The Filter): अप्रासंगिक जानकारी को काट देता है।
द राइटर (The Writer): वास्तविक कंप्यूटर कमांड लिखता है।
द एडिटर (The Editor): कमांड में गलतियों को ठीक करता है।
द फिनिशर (The Finisher): कहता है, "हमारा काम हो गया, यह रहा उत्तर।"

पुराने सिस्टम कंप्यूटर को एक विशिष्ट क्रम में उपकरण चुनने के लिए मजबूर करते थे (जैसे, ब्रेकर $\to$ फाइंडर $\to$ राइटर $\to$ फिनिशर)। SQLConductor "कंडक्टर" को यह चुनने की अनुमति देता है कि अभी किस उपकरण की आवश्यकता है। यदि फाइंडर को अधिक जानकारी की आवश्यकता महसूस होती है, तो कंडक्टर फिर से ब्रेकर को बुला सकता है। यदि राइटर ने कोई गलती की है, तो कंडक्टर तुरंत एडिटर को बुला सकता है।

2. ट्रेनिंग कैंप (सर्च-टू-पॉलिसी लर्निंग)

कंडक्टर इन स्मार्ट निर्णयों को लेना कैसे सीखता है? यह केवल एक मैनुअल नहीं पढ़ता; यह एक कठोर प्रशिक्षण शिविर से गुजरता है जिसे सर्च-टू-पॉलिसी लर्निंग कहा जाता है।

सिमुलेशन (MCTS): कल्पना कीजिए कि एक शतरंज खिलाड़ी कंप्यूटर के खिलाफ अभ्यास कर रहा है। कंप्यूटर जीतने वाले हजारों अलग-अलग गेम पथों (वर्कफ्लो) को आज़माता है ताकि देख सके कि कौन से सफल होते हैं। SQLConductor भी यही करता है: यह एक प्रश्न को हल करने के लाखों अलग-अलग तरीकों का अनुकरण (simulate) करता है, और उपकरणों के विभिन्न संयोजनों को आज़माता है।
स्टेबिलिटी चेक (स्थिरता की जाँच): केवल इसलिए कि एक रास्ता एक बार काम कर गया, इसका मतलब यह नहीं है कि वह एक अच्छी रणनीति है; यह केवल किस्मत हो सकती है। सिस्टम यह देखता है कि कौन से रास्ते लगातार काम करते हैं। यह एक कोच की तरह है जो कहता है, "केवल उस एक बार की नकल न करें जब आप किस्मत से जीते थे; उस रणनीति की नकल करें जो 10 में से 9 बार जीतती है।"
"करिकुलम" (कठिन समस्याएँ): एक बार जब कंडक्टर आसान समस्याओं में कुशल हो जाता है, तो प्रशिक्षण शिविर उसके सामने कठिन, पेचीदा प्रश्न फेंकता है। सिस्टम विशेष रूप से उन कठिन मामलों को संभालने के लिए सीखता है जहाँ वह आमतौर पर विफल हो जाता है।

3. परिणाम: एक लचीला, कुशल कार्यकर्ता

प्रशिक्षण के बाद, SQLConductor वास्तविक प्रश्नों को हल करने के लिए तैनात किया जाता है।

अनुकूलन क्षमता (Adaptability): यदि आप एक सरल प्रश्न पूछते हैं, तो कंडक्टर कह सकता है, "मुझे एडिटर या ब्रेकर की आवश्यकता नहीं है; मैं बस राइटर और फिनिशर का उपयोग करूँगा।" यह समय बचाता है। यदि आप एक जटिल प्रश्न पूछते हैं, तो उसे पता होता है कि वापस जाना है, अधिक साक्ष्य जुटाना है, और उत्तर को परिष्कृत करना है।
दक्षता (Efficiency): क्योंकि यह केवल उन्हीं उपकरणों का उपयोग करता है जिनकी इसे वास्तव में आवश्यकता है, यह कम कंप्यूटिंग पावर का उपयोग करता है और उन प्रणालियों की तुलना में कम लागत आता है जो हर प्रश्न को एक लंबे, निश्चित पाइपलाइन के माध्यम से भेजते हैं।
सटीकता (Accuracy): परीक्षणों में, इस सिस्टम ने पिछले तरीकों की तुलना में अधिक बार सही उत्तर दिया, भले ही प्रश्न बहुत कठिन हों या डेटाबेस बहुत अव्यवस्थित हों।

बड़ी तस्वीर

पुराने Text-to-SQL सिस्टम को एक फैक्ट्री में कन्वेयर बेल्ट की तरह समझें: हर वस्तु एक ही मशीनों से गुजरती है, चाहे उन्हें उनकी आवश्यकता हो या न हो। यदि बेल्ट पर कोई हिस्सा टूट जाता है, तो पूरी लाइन चलती रहती है, जिससे खराब उत्पाद बनते हैं।

SQLConductor एक कार्यशाला में एक कुशल शिल्पकार की तरह है। वे वस्तु (प्रश्न) को देखते हैं, निर्णय लेते हैं कि कौन से उपकरण उठाने हैं, एक कदम आज़माते हैं, परिणाम की जाँच करते हैं, और फिर तय करते हैं कि आगे क्या करना है। यदि वे कोई गलती करते हैं, तो वे उसे तुरंत ठीक करते हैं। यदि काम सरल है, तो वे इसे जल्दी पूरा करते हैं। यदि यह जटिल है, तो वे इसे सही करने के लिए समय लेते हैं।

पेपर का दावा है कि कंप्यूटर को एक कठोर मशीन के बजाय इस कुशल शिल्पकार की तरह कार्य करना सिखाकर, यह डेटाबेस प्रश्नों को अधिक सटीकता, दक्षता और विभिन्न प्रकार की समस्याओं के प्रति बेहतर अनुकूलन क्षमता के साथ हल कर सकता है।

तकनीकी सारांश: SQLConductor

1. समस्या विवरण (Problem Statement)

वास्तविक दुनिया का Text-to-SQL एक चुनौतीपूर्ण कार्य बना हुआ है क्योंकि इसके लिए जटिल, विषम डेटाबेस वातावरणों पर समन्वित तर्क (coordinated reasoning) की आवश्यकता होती है। मौजूदा प्रणालियाँ आम तौर पर दो श्रेणियों में आती हैं, जिनमें से दोनों में अनुकूलन क्षमता (adaptivity) की सीमाएँ हैं:

निश्चित पाइपलाइन (Fixed Pipelines): ये पूर्व-निर्धारित, कठोर चरणों के क्रम (जैसे, स्कीमा लिंकिंग $\to$ वैल्यू रिट्रीवल $\to$ जनरेशन $\to$ रिवीज़न) पर निर्भर करती हैं। हालांकि ये संरचित हैं, लेकिन ये मध्यवर्ती फीडबैक या निष्पादन त्रुटियों (execution errors) के आधार पर पिछले निर्णयों पर पुनर्विचार नहीं कर सकतीं, जिससे त्रुटियों का प्रसार (error propagation) होता है।
योजना-फिर-निष्पादन ऑर्केस्ट्रेशन (Plan-then-Execute Orchestration): ये विधियाँ निष्पादन से पहले एक पूर्ण वर्कफ़्लो योजना उत्पन्न करती हैं। हालांकि ये निश्चित पाइपलाइनों की तुलना में अधिक लचीली हैं, फिर भी वे निष्पादन प्रक्रिया के दौरान मध्यवर्ती आर्टिफैक्ट्स या निष्पादन फीडबैक के आधार पर खुद को ढालने में सक्षम नहीं हैं और एक बार शुरू होने के बाद एक स्थिर अनुक्रम (static sequence) के प्रति प्रतिबद्ध रहती हैं।

मुख्य चुनौती एक चरण-वार ऑर्केस्ट्रेशन पॉलिसी (step-wise orchestration policy) सीखने की है जो वर्तमान समाधान संदर्भ (solving context) और मध्यवर्ती साक्ष्यों के आधार पर गतिशील रूप से अगले कार्य का चयन कर सके, बिना मानव-निर्मित वर्कफ़्लो डेटा पर निर्भर हुए या इन्फरेंस के समय अत्यधिक ऑनलाइन खोज लागत (online search costs) उठाए।

2. कार्यप्रणाली: SQLConductor

SQLConductor एक चरण-वार ऑर्केस्ट्रेशन लर्निंग फ्रेमवर्क है जो प्रक्रिया संगठन (orchestration) को उप-कार्य निष्पादन (reasoning) से अलग करता है। यह एक सर्च-टू-पॉलिसी लर्निंग (Search-to-Policy Learning) प्रतिमान का उपयोग करता है, जो व्यापक ऑफलाइन वर्कफ़्लो खोज को कुशल इन्फरेंस के लिए एक तैनात (deployable) पॉलिसी में बदल देता है।

2.1 एक्शन स्पेस (Action Space)

सिस्टम एक मॉड्यूलर एक्शन स्पेस $\mathcal{A}$ को परिभाषित करता है जिसमें सात विशिष्ट मॉड्यूल शामिल हैं, जिन्हें फ्रोजन (frozen) लार्ज लैंग्वेज मॉडल्स (LLMs) द्वारा बुलाया जाता है:

प्रश्न अपघटन ( $a_{dec}$ ): जटिल प्रश्नों को सूक्ष्म-स्तरीय आवश्यकताओं में पुनर्गठित करना।
प्रासंगिक मान निष्कर्षण ( $a_{val}$ ): SQL प्रेडिकेट्स के लिए कंडीशन वैल्यूज की पहचान करना।
ऑपरेशन पहचान ( $a_{op}$ ): आवश्यक SQL ऑपरेशन्स (जैसे, एग्रीगेशन, ऑर्डरिंग) को रिकॉर्ड करना।
स्कीमा प्रूनिंग ( $a_{sch}$ ): प्रासंगिक टेबल्स और कॉलम्स का चयन करना।
SQL क्वेरी जनरेशन ( $a_{gen}$ ): एक SQL कैंडिडेट का संश्लेषण करना।
SQL क्वेरी रिफाइनमेंट ( $a_{ref}$ ): सिंटैक्स या निष्पादन त्रुटियों को ठीक करना।
समाप्त और आउटपुट ( $a_{term}$ ): वर्कफ़्लो को समाप्त करना और अंतिम SQL लौटाना।

2.2 सर्च-टू-पॉलिसी लर्निंग (Search-to-Policy Learning)

प्रशिक्षण प्रक्रिया में एक ऑफलाइन चरण और एक ऑनलाइन डिप्लॉयमेंट चरण शामिल है।

चरण 1: ऑफलाइन सर्च-टू-पॉलिसी ट्रेनिंग

MCTS-आधारित वर्कफ़्लो अन्वेषण:
- प्रत्येक प्रशिक्षण उदाहरण के लिए, SQLConductor एक्शन स्पेस पर मोंटे कार्लो ट्री सर्च (MCTS) करता है।
- नोड्स ऑर्केस्ट्रेशन अवस्थाओं (states) का प्रतिनिधित्व करते; किनारे (edges) एक्शन चयन का प्रतिनिधित्व करते हैं।
- खोज विविध एक्शन कंपोजिशन और गहराई का अन्वेषण करती है, जो निष्पादन-निरंतरता पुरस्कारों (execution-consistency rewards) द्वारा निर्देशित होती है (यह मापना कि क्या उत्पन्न SQL कई नमूनों में सुसंगत परिणाम देता है)।
- यह विविध उम्मीदवार प्रक्षेपवक्रों (trajectories) $\mathcal{X}(q, D)$ का एक सेट उत्पन्न करता है।
वर्कफ़्लो सुपरविजन क्यूरेशन:
- स्केलेटन निष्कर्षण (Skeleton Extraction): प्रक्षेपवक्रों को उनके एक्शन अनुक्रमों (वर्कफ़्लो स्केलेटन) द्वारा समूहीकृत किया जाता है।
- स्थिरता अनुमान (Stability Estimation): चूंकि खोज स्थान कॉम्बिनेटोरियल और शोर युक्त (noisy) है, SQLConctor लैप्लेस के उत्तराधिकार नियम (Laplace's rule of succession) का उपयोग करके प्रत्येक वर्कफ़्लो की स्थिरता का अनुमान लगाता है: $\hat{p}_\tau = \frac{s_\tau + 1}{n_\tau + 2}$ , जहाँ $s_\tau$ सफल निष्पादनों की संख्या है और $n_\tau$ कुल संख्या है।
- चयन: उच्चतम स्थिरता स्कोर वाले शीर्ष- $k$ वर्कफ़्लो का चयन किया जाता है। प्रत्येक समूह से एक प्रतिनिधि के रूप में एक सफल प्रक्षेपवक्र चुना जाता है।
- रीजनिंग ऑग्मेंटेशन: एक तैनात LLM चरण-स्तरीय तर्क ( $e_t$ ) उत्पन्न करता है जो यह समझाता है कि वर्तमान संदर्भ को देखते हुए एक विशिष्ट क्रिया क्यों चुनी गई, जिससे एक ऑगमेंटेड प्रक्षेपवक्र $\bar{\xi}$ बनता है।
स्टेबिलिटी-वेटेड सुपरवाइज्ड फाइन-ट्यूनिंग (SFT):
- पॉलिसी मॉडल को क्यूरेट किए गए ऑगमेंटेड प्रक्षेपवक्रों पर प्रशिक्षित किया जाता है।
- मास्किंग: लॉस फंक्शन <results> टोकन (एक्शन आउटपुट्स) को मास्क कर देता है ताकि पॉलिसी एक्शन आउटपुट्स की भविष्यवाणी करना न सीखे, बल्कि ऑर्केस्ट्रेशन निर्णयों पर ध्यान केंद्रित करे।
- वेटिंग: मजबूत ऑर्केस्ट्रेशन पैटर्न को प्राथमिकता देने के लिए प्रक्षेपवपथों को उनके स्थिरता स्कोर ( $\hat{p}_\tau$ ) द्वारा भारित (weighting) किया जाता है, जबकि विविधता को बनाए रखा जाता है।
करिकुलम रीइन्फोर्समेंट लर्निंग (RL):
- उन कठिन प्रश्नों को संभालने के लिए जहाँ सफल प्रक्षेपवक्र कम होते हैं, सिस्टम चुनौतीपूर्ण उदाहरणों (कम MCTS सफलता अनुपात) का एक करिकुलम सेट बनाता है।
- ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइजेशन (GRPO) का उपयोग करके, पॉलिसी इन कठिन मामलों पर सेल्फ-रोलआउट (self-rollouts) करती है।
- पुरस्कार (Rewards): रिवॉर्ड फंक्शन एक्सेक्यूटेबिलिटी (वैध SQL) और आउटकम क्वालिटी (ग्राउंड ट्रुथ के विरुद्ध निष्पादन F1 स्कोर) को जोड़ता है, जो पॉलिसी को जटिल मामलों के लिए रिकवरी रणनीतियाँ सीखने के लिए प्रोत्साहित करता है।

चरण 2: ऑनलाइन डिप्लॉयमेंट

प्रशिक्षित पॉलिसी मॉडल फ्रोजन एक्शन मॉड्यूल्स को चरण-दर-चरण समन्वित करता है।
प्रत्येक चरण में, पॉलिसी वर्तमान स्थिति (संचित साक्ष्य और फीडबैक) के आधार पर तर्क उत्पन्न करती है और अगला एक्शन चुनती है।
वर्कफ़्लो का निर्माण निष्पादन के दौरान गतिशील रूप से किया जाता है, जो क्वेरी की विशिष्ट मांगों के अनुकूल होता है।

3. प्रमुख योगदान (Key Contributions)

स्टेप-वाइज ऑर्केस्ट्रेशन फ्रेमवर्क: SQLConductor एक ऐसा फ्रेमवर्क पेश करता है जो प्रक्रिया संगठन को उप-कार्य निष्पादन से अलग करता है, जिससे अनुकूल गहराई और मॉड्यूल कंपोजिशन के साथ क्वेरी-विशिष्ट वर्कफ़्लो सक्षम होते हैं, जो निश्चित पाइपलाइन या प्लान-देन-एग्जीक्यूट दृष्टिकोण के विपरीत है।
सर्च-टू-पॉलिसी लर्निंग: यह पेपर बिना मानव-निर्मित वर्कफ़्लो डेटा के एक अनुकूल ऑर्केस्ट्रेशन पॉलिसी को प्रशिक्षित करने के लिए एक तंत्र प्रस्तावित करता है। यह अन्वेषण के लिए MCTS, क्यूरेशन के लिए स्थिरता अनुमान, और प्रशिक्षण के लिए स्टेबिलिटी-वेटेड SFT और करिकुलम RL के संयोजन का उपयोग करता है।
अनुभवजन्य प्रदर्शन और सामान्यीकरण (Empirical Performance and Generalization):
- BIRD-Dev: SQLConductor BIRD-Dev बेंचमार्क पर 73.2% निष्पादन सटीकता (EX) प्राप्त करता है, जो तुलनात्मक या बड़े Text-to-SQL बैकबोन को सीधे प्रशिक्षित करने वाली पूर्व विधियों से बेहतर प्रदर्शन करता है।
- पैरामीटर दक्षता: यह इन परिणामों को केवल एक कॉम्पैक्ट ऑर्केस्ट्रेशन पॉलिसी (जैसे, 8B पैरामीटर्स) को प्रशिक्षित करके प्राप्त करता है जो फ्रोजन बड़े एक्शन मॉडल्स (जैसे, 32B) को समन्वित करती है, जो श्रेष्ठ 'एक्क्यूरेसी-पर-ट्रेन्ड-पैरामीटर' दक्षता प्रदर्शित करता है।
- सामान्यीकरण: मॉडल डेटासेट-विशिष्ट पुन: प्रशिक्षण के बिना आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डेटासेट्स (Spider-Test, KaggleDBQA, ScienceBenchmark) पर मजबूत सामान्यीकरण दिखाता है।
- दक्षता: यह इन्फरेंस-टाइम टोकन उपयोग और API लागत को काफी कम कर देता है (CHESS जैसे बेसलाइन्स की तुलना में लगभग 8 गुना सस्ता), जबकि उच्च सटीकता बनाए रखता है।

4. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि सीखा गया ऑर्केस्ट्रेशन (learned orchestration), मोनोलिथिक Text-to-SQL मॉडल को और अधिक प्रशिक्षित करने की तुलना में अधिक पैरामीटर-कुशल और प्रभावी है।

अनुकूलन क्षमता बनाम ब्रूट फोर्स: परिणाम दर्शाते हैं कि प्रदर्शन में वृद्धि केवल वर्कफ़्लो की लंबाई या मॉडल के आकार को बढ़ाने से नहीं, बल्कि पॉलिसी की ऑर्केस्ट्रेशन प्रयास को अनुकूल रूप से आवंटित करने की क्षमता से आती है। प्रशिक्षित पॉलिसी चुनौतीपूर्ण क्वेरीज़ के लिए अधिक स्टेप्स आवंटित करती है जबकि सरल क्वेरीज़ को कुशल रखती है।
मजबूती (Robustness): स्टेबिलिटी-वेटेड क्यूरेशन यह सुनिश्चित करता है कि पॉलिसी आकस्मिक सफलताओं के बजाय मजबूत पैटर्न सीखे, जिससे यह जटिल, शोर युक्त और डोमेन-विशेषज्ञता वाले प्रश्नों को प्रभावी ढंग से संभालने में सक्षम होती है।
स्केलेबिलिटी: ऑर्केस्ट्रेशन पॉलिसी को एक्शन मॉड्यूल्स से अलग करके, यह फ्रेमवर्क पूरे सिस्टम को पुन: प्रशिक्षित किए बिना बड़े या विशिष्ट एक्शन मॉडल्स को एकीकृत करने की अनुमति देता है, जो जटिल Text-to-SQL कार्यों के लिए एक स्केलेबल मार्ग प्रदान करता है।

संक्षेप में, SQLConductor एक गतिशील, चरण-वार ऑर्केस्ट्रेशन पॉलिसी सीखने के माध्यम से मौजूदा Text-to-SQL सिस्टम की कठोरता को संबोधित करता है, जो मध्यवर्ती साक्ष्यों के अनुकूल होता है और काफी कम कम्प्यूटेशनल लागत के साथ अत्याधुनिक प्रदर्शन प्राप्त करता है।