💬 NLP

Skill-Conditioned Gated Self-Distillation for LLM Reasoning

यह शोध पत्र स्किल-कंडीशन्ड गेटेड सेल्फ-डिस्टिलेशन (SGSD) का प्रस्ताव करता है, जो एक नवीन ढांचा है जो शिक्षक परिकल्पना सत्यापन और गेटेड डिस्टिलेशन के लिए एक स्किल बैंक का लाभ उठाकर LLM तर्क क्षमता को बढ़ाता है, जिससे GRPO की तुलना में बेहतर प्रदर्शन और कमजोर प्रिविलेज्ड इन्फॉर्मेशन धारणाओं के तहत आंसर-कंडीशन्ड विधियों के विरुद्ध प्रतिस्पर्धी परिणाम प्राप्त होते हैं।

मूल लेखक: Jiazhen Huang, Xiao Chen, Xiao Luo, Yong Dai, Senkang Hu, Yuzhi Zhao

प्रकाशित 2026-05-28

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jiazhen Huang, Xiao Chen, Xiao Luo, Yong Dai, Senkang Hu, Yuzhi Zhao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Skill-Conditioned Gated Self-Distillation for LLM Reasoning" (SGSD) शोध पत्र का सरल अवधारणाओं और रोज़मर्रा के उदाहरणों के साथ हिंदी अनुवाद दिया गया है।

बड़ी तस्वीर: एक छात्र को सोचना सिखाना

कल्पना कीजिए कि आप एक छात्र (AI मॉडल) को कठिन गणित के सवाल हल करना सिखाने की कोशिश कर रहे हैं।

पुराना तरीका ("स्पार्स" दृष्टिकोण):
आमतौर पर, आप छात्र को एक समस्या हल करने देते हैं। यदि वे अंतिम उत्तर सही देते हैं, तो आप कहते हैं "बहुत अच्छा!" यदि वे गलत होते हैं, तो आप कहते हैं "फिर से प्रयास करें।"

समस्या: यह ऐसा है जैसे एक शिक्षक केवल अंतिम परीक्षा का ग्रेड देता है। छात्र को यह पता नहीं चलता कि निबंध के बीच में कहाँ गलती हुई। हो सकता है कि स्टेप 3 में उनसे एक छोटी सी तार्किक त्रुटि हुई हो, लेकिन क्योंकि अंतिम उत्तर गलत था, इसलिए शिक्षक बस कहता है "असफल"। छात्र बहुत धीरे सीखता है क्योंकि फीडबैक बहुत अस्पष्ट होता है।

"सेल्फ-डिस्टिलेशन" (Self-Distillation) का तरीका:
इसे ठीक करने के लिए, शोधकर्ता छात्र को अपना स्वयं का शिक्षक बनने देते हैं। छात्र एक समाधान बनाता है, और उसी छात्र का एक "टीचर वर्जन" (जिसके पास थोड़ा अधिक संदर्भ/context होता है) छात्र द्वारा लिखे गए हर एक शब्द को ग्रेड देता है। यह घना और विशिष्ट फीडबैक प्रदान करता है।

चुनौती: अधिकांश विधियाँ मानती हैं कि "टीचर" के पास हमेशा सही उत्तर कुंजी (answer key) या कॉपी करने के लिए एक आदर्श उदाहरण होता है। लेकिन क्या होगा अगर हमारे पास उत्तर कुंजी न हो? क्या होगा अगर हमारे पास केवल "टिप्स और ट्रिक्स" (कौशल/Skills) और "सामान्य गलतियों" की एक सूची हो जो शायद लागू भी हों या भी न हों?

नया विचार: SGSD ("स्किल-कंडीशन्ड गेटेड" विधि)

लेखक SGSD का प्रस्ताव करते हैं, जो उन "टिप्स और ट्रिक्स" का उपयोग करने का एक स्मार्ट तरीका है, बिना यह माने कि वे हमेशा सही होते हैं।

1. स्किल बैंक (द "चीट शीट")

एक आदर्श उत्तर कुंजी रखने के बजाय, AI के पास एक स्किल बैंक होता है। यह निम्नलिखित का एक पुस्तकालय है:

सामान्य कौशल (General Skills): "जब आप भिन्न (fraction) देखें, तो सामान्य हर (common denominator) खोजने का प्रयास करें।"
सामान्य गलतियाँ (Common Mistakes): "यह जांचना न भूलें कि हर (denominator) शून्य तो नहीं है।"

ये पिछले छात्रों द्वारा छोड़े गए स्टिकी नोट्स की तरह हैं। ये मददगार हैं, लेकिन ये पूर्ण नहीं हैं। कभी-कभी एक स्टिकी नोट प्रासंगिक होता है; कभी-कभी यह पूरी तरह से अलग समस्या के लिए होता है।

2. मल्टी-टीचर पूल (द "पैनल ऑफ एक्सपर्ट्स")

जब छात्र के सामने एक नई गणित की समस्या आती है, तो सिस्टम केवल एक स्टिकी नोट नहीं चुनता। यह कुछ प्रासंगिक नोट्स निकालता है और एक पैनल ऑफ टीचर्स बनाता है।

टीचर A समस्या को "टिप #1" को ध्यान में रखते हुए देखता है।
टीचर B इसे "टिप #2" को ध्यान में रखते हुए देखता है।
टीचर C इसे "मिस्टेक वार्निंग #3" को ध्यान में रखते हुए देखता है।

ये सभी शिक्षक भविष्यवाणी करने की कोशिश करते हैं कि छात्र को आगे क्या लिखना चाहिए।

3. गेटकीपर (द "रियलिटी चेक")

यहाँ सबसे महत्वपूर्ण हिस्सा है। सिस्टम जानता है कि एक शिक्षक गलत हो सकता है। हो सकता है कि "टिप #1" वास्तव में इस विशिष्ट समस्या के लिए खराब सलाह हो।

इसलिए, सिस्टम शिक्षकों की जाँच करने के लिए एक गेटकीपर (वेरिफायर) का उपयोग करता है:

छात्र समस्या को हल करता है और एक अंतिम परिणाम प्राप्त करता है (सही या गलत)।
गेटकीपर शिक्षकों की सलाह को देखता है।
- परिदृश्य A (मददगार): छात्र ने इसे सही किया, और टीचर A ने कहा, "हाँ, यह करो!" -> गेटकीपर कहता है: "शानदार! टीचर A सही है। चलिए उनसे सीखते हैं।"
- परिदृश्य B (भ्रामक): छात्र ने इसे गलत किया, लेकिन टीचर A ने कहा, "हाँ, यह करो!" -> गेटkeeper कहता है: "रुको, टीचर A ने गलत सलाह दी! हमें उनके द्वारा कही गई बात के विपरीत करने की आवश्यकता है।"
- परिदृश्य C (अनिश्चित): शिक्षक की सलाह कमजोर या भ्रमित करने वाली है। -> गेटकीपर कहता है: "मुझे इस शिक्षक पर भरोसा नहीं है। उन्हें अभी के लिए अनदेखा करें।"

यह "गेटेड" (Gated) वाला हिस्सा है। यह आँख बंद करके शिक्षक की नकल नहीं करता; यह सत्यापित करता है कि शिक्षक की सलाह वास्तव में मदद करती है या नुकसान पहुँचाती है।

4. "रोबस्ट" लर्निंग (अति-प्रतिक्रिया न देना)

कभी-कभी, एक शिक्षक अत्यधिक आत्मविश्वास के साथ चिल्लाकर कह सकता है "यह करो!", भले ही वह थोड़ा सा गलत हो। यदि AI उस अत्यधिक आवाज़ को बहुत ध्यान से सुनता, तो वह भ्रमित हो सकता था।

SGSD विधि एक सेफ्टी वाल्व का उपयोग करती है। यह कहती है:

यदि शिक्षक और छात्र सहमत हैं, तो कुछ न करें (सीखने की आवश्यकता नहीं है)।
यदि वे थोड़ा असहमत हैं, तो वह सीखने के लिए "स्वीट स्पॉट" है।
यदि वे बहुत अधिक असहमत हैं (अत्यधिक बेमेल), तो सिस्टम कहता है, "यह शायद शोर या ग्लिच है," और सिग्नल को कम कर देता है ताकि AI अति-प्रतिक्रिया न दे।

यह एक बड़ी बात क्यों है?

उत्तर कुंजी की आवश्यकता नहीं: अन्य विधियों के विपरीत जिन्हें AI को सिखाने के लिए एक पूर्ण संदर्भ उत्तर की आवश्यकता होती है, SGSD को केवल एक "हाँ/नहीं" वेरिफायर (क्या आपने सही संख्या प्राप्त की?) और कौशलों के पुस्तकालय की आवश्यकता होती है।
खराब सलाह को संभालना: यह जानता है कि क्या करना है जब एक "टिप" वर्तमान समस्या के लिए वास्तव में गलत हो। यह अंधाधुंध पालन करने के बजाय सलाह को उलट देता है।
बेहतर परिणाम: कठिन गणित प्रतियोगिताओं (जैसे AIME और HMMT) पर परीक्षणों में, इस विधि ने एक छोटे AI मॉडल (Qwen3-1.7B) को मानक विधियों की तुलना में काफी अधिक स्कोर करने में मदद की, यहाँ तक कि उन विधियों को भी पछाड़ दिया जिनके पास पूर्ण उत्तर कुंजियाँ थीं।

सारांश उपमा

कल्पना कीजिए कि आप गाड़ी चलाना सीख रहे हैं।

पुराना तरीका: आप गाड़ी चलाते हैं, और यदि आप दुर्घटनाग्रस्त होते हैं, तो आपको टिकट मिलता है। यदि आप दुर्घटनाग्रस्त नहीं होते हैं, तो आपको एक गोल्ड स्टार मिलता है। आपको यह नहीं पता कि आप तेज़ गति से चल रहे थे या गाड़ी मोड़ रहे थे।
SGSD तरीका: आपके पास एक डैशबोर्ड है जिसमें "ड्राइविंग टिप्स" की एक सूची है (जैसे, "मुड़ने से पहले शीशे देखें")।
- आप गाड़ी चलाते हैं।
- सिस्टम जाँचता है: "क्या आप सुरक्षित रूप से गंतव्य तक पहुँच गए?"
- यदि आप पहुँच गए, और "शीशे देखें" टिप का उपयोग किया गया था, तो सिस्टम कहता है, "अच्छा काम किया, इसे जारी रखें।"
- यदि आप दुर्घटनाग्रस्त हो गए, लेकिन "शीशे देखें" टिप का उपयोग किया गया था, तो सिस्टम कहता है, "यह टिप इस बार काम नहीं आई; शायद आपने इसे बहुत देर से देखा। अगली बार इसके विपरीत दृष्टिकोण आज़माते हैं।"
- यदि कोई टिप बहुत अस्पष्ट थी, तो सिस्टम उसे अनदेखा कर देता है।

वास्तविक समय में यह जाँचते हुए कि "टिप्स" वास्तव में काम कर रहे हैं या नहीं, AI बहुत तेज़ी से और अधिक विश्वसनीय रूप से तर्क करना सीखता है।

तकनीकी सारांश: LLM रीजनिंग के लिए स्किल-कंडीशन्ड गेटेड सेल्फ-डिस्टिलेशन (Skill-Conditioned Gated Self-Distillation)

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल (LLM) की रीजनिंग को अक्सर 'वेरिफिएबल रिवॉर्ड्स विद रीइन्फोर्समेंट लर्निंग' (RLVR), जैसे कि ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइजेशन (GRPO) के माध्यम से बढ़ाया जाता है। जबकि RLVR के लिए केवल एक वेरिफायर की आवश्यकता होती है और टोकन-लेवल एनोटेशन की नहीं, फिर भी यह पूरे रीजनिंग ट्राजेक्टरीज (reasoning trajectories) में विरल (sparse), विलंबित (delayed) और लगभग समान रिवॉर्ड सिग्नल से ग्रस्त रहता है। ऑन-पॉलिसी सेल्फ-डिस्टिलेशन (SD) एक मजबूत "टीचर" कॉन्टेक्स्ट का उपयोग करके सघन (dense) टोकन-लेवल सुपरविजन प्रदान करके इस समस्या का समाधान करता है। हालाँकि, मौजूदा SD विधियाँ आमतौर पर ट्रस्टेड प्रिविलेज्ड इंफॉर्मेशन (PI) पर निर्भर करती हैं, जैसे कि संदर्भ उत्तर (reference answers) या सफल ट्रेसेस (successful traces), जो कमजोर सुपरविजन व्यवस्थाओं (जैसे, जब केवल एक वेरिफायर मौजूद हो) में उपलब्ध नहीं हो सकते हैं।

यह शोध जांच करता है कि क्या PI को एक अनुभव-आधारित स्किल बैंक (experience-based skill bank) से प्राप्त किया जा सकता है—जो संक्षिप्त, पुन: प्रयोज्य प्राकृतिक भाषा के सिद्धांतों और गलती के पैटर्न का एक संग्रह है। मुख्य चुनौती यह है कि रिट्रीव किए गए स्किल्स स्वाभाविक रूप से विश्वसनीय नहीं होते; वे किसी विशिष्ट समस्या के लिए अप्रासंगिक, पुराने या भ्रामक हो सकते हैं। इसके अलावा, एक संभावित रूप से गलत स्किल द्वारा कंडീഷन्ड टीचर का अंधाधुंध अनुकरण करना प्रदर्शन को खराब कर सकता है। केंद्रीय प्रश्न यह है: क्या अनुभव-व्युत्पन्न स्किल्स, यह मान बिना कि प्रत्येक रिट्रीव किया गया स्किल विश्वसनीय है, ट्रेनिंग-ओनली प्रिविलेज्ड इंफॉर्मेशन के रूप में कार्य कर सकते हैं?

2. कार्यप्रणाली: स्किल-कंडीशन्ड गेटेड सेल्फ-डिस्टिलेशन (SGSD)

लेखक SGSD प्रस्तावित करते हैं, जो एक ऐसा फ्रेमवर्क है जो स्किल-आधारित सेल्फ-डिस्टिलेशन को अनकंडीशनल इमिटेशन के बजाय एक टीचर हाइपोथेसिस वैलिडेशन (teacher hypothesis validation) समस्या के रूप में मानता है। यह विधि एक सिंगल पॉलिसी मॉडल $\pi_\theta$ पर कार्य करती है जो अलग-अलग कॉन्टेक्स्ट के तहत स्टूडेंट और टीचर दोनों के रूप में कार्य करता है।

2.1 स्ट्रक्चर्ड स्किल बैंक निर्माण

SGSD एक स्ट्रक्चर्ड बैंक $B = \{G, E\}$ बनाए रखता है जिसमें शामिल हैं:

जनरल स्किल्स ( $G$ ): पुन: प्रयोज्य रीजनिंग सिद्धांत (क्या करना है)।
कॉमन मिस्टेक्स ( $E$ ): त्रुटि पैटर्न, कारण और उनसे बचने की रणनीतियाँ (क्या नहीं करना है)।
बैंक को एक "कोल्ड-स्टार्ट" प्रक्रिया के माध्यम से इनिशियलाइज़ किया जाता है जहाँ सफल ट्रेसेस को स्किल्स में और विफल ट्रेसेस को मिस्टेक्स में सारांशित किया जाता है। प्रशिक्षण के दौरान, बैंक को हाल के रोलआउट्स से नए उम्मीदवारों को मर्ज करके ऑनलाइन अपडेट किया जाता है।

2.2 स्किल-कंडीशन्ड मल्टी-टीचर पूल

किसी दिए गए समस्या $x$ के लिए, सिस्टम टॉप- $K$ स्किल-मिस्टेक पेयर्स को रिट्रीव करता है। प्रत्येक पेयर $(g_k, e_k)$ को समस्या के साथ जोड़कर एक अद्वितीय टीचर कॉन्टेक्स $c_k(x) = g_k \oplus e_k \oplus x$ बनाया जाता है।

स्टूडेंट: केवल प्लेन प्रॉम्प्ट $x$ का उपयोग करके एक रोलआउट $y$ सैंपल करता है।
टीचर्स: $K$ टीचर्स का एक पूल, जिनमें से प्रत्येक समान पॉलिसी वेट्स (स्टॉप-ग्रेडिएंट) साझा करता है लेकिन एक विशिष्ट रिट्रीव किए गए स्किल-मिस्टेक पेयर पर कंडീഷन्ड होता है। सभी टीचर्स एक ही स्टूडेंट रोलआउट को स्कोर करते हैं।

2.3 आउटकम-वैलिडेटेड टीचर पोलैरिटी (Outcome-Validated Teacher Polarity)

सभी टीचर्स को सही मानने के बजाय, SGSD वेरिफायर आउटकम $r \in \{-1, 1\}$ के विरुद्ध उनके स्टैंड को वैलिडेट करता है।

गैप कैलकुलेशन: प्रत्येक टोकन के लिए टीचर $k$ और स्टूडेंट के बीच लॉग-प्रोबेबिलिटी गैप $\Delta^{(k)}_t$ की गणना करें।
रोबस्ट सपोर्ट एस्टीमेशन: नॉन-रीजनिंग टोकन्स को मास्क करके, एक्सट्रीम गैप्स को क्लिप करके और औसत निकालकर एक रोबस्ट सपोर्ट स्कोर $\tilde{a}_k$ की गणना करें।
पोलैरिटी इन्फरेंस: टीचर की पोलैरिटी $\rho_k$ $ρ_{k}$ को टीचर के सपोर्ट ( $\tilde{a}_k$ $\tilde{a}_{k}$ ) और आउटकम ( $r$ $r$ ) के बीच संरेखण (alignment) के आधार पर निर्धारित करें:
- हेल्पफुल (Helpful): टीचर सफलता का समर्थन करता है या विफलता को दबाता है ( $\rho_k = +1$ )।
- मिसलीडिंग (Misleading): टीचर विफलता का समर्थन करता है या सफलता को दबाता है ( $\rho_k = -1$ )।
- अनसर्टेन (Uncertain): यदि सपोर्ट स्कोर शून्य के करीब है, तो टीचर को अनदेखा किया जाता है ( $\rho_k = 0$ )।

2.4 रोबस्ट गेटेड डिस्टिलेशन ऑब्जेक्टिव

अंतिम लॉस फंक्शन भारित (weighted), पोलैरिटी-अवेयर डिसएग्रीमेंट्स को एग्रीगेट करता है:
$L_{SGSD}(x) = \sum_{k=1}^{K_x} \alpha_k(x) \rho_k \bar{\ell}^{(k)}$
जहाँ $\bar{\ell}^{(k)}$ एक गेटेड लॉस $\ell_{gate}(\Delta)$ है जिसे डिज़ाइन किया गया है:

जब टीचर और स्टूडेंट सहमत हों (नगण्य गैप्स), तो यह शून्य के करीब रहे।
मध्यम असहमति के लिए बढ़े (इंफॉर्मेटिव रीजन)।
आउटलायर लॉजिट्स को ग्रेडिएंट पर हावी होने से रोकने के लिए एक्सट्रीम मिसमैच के लिए सैचुरेट (saturate) हो जाए।
इस लॉस का डेरिवेटिव सुनिश्चित करता है कि अपडेट बाउंडेड हो और इंफॉर्मेटिव रीजन में लोकल रिवर्स-KL एप्रोक्सिमेशन की तरह व्यवहार करे, जबकि एक्सट्रीम सिग्नल्स को दबा दे।

3. मुख्य योगदान (Key Contributions)

फॉर्मूलेशन: पेपर गणितीय रीजनिंग के लिए अनुभव-व्युत्पन्न स्किल्स को प्रिविलेज्ड इंफॉर्मेशन के रूप में उपयोग करने की अवधारणा पेश करता है, जो समस्या को डिफॉल्ट इमिटेशन के बजाय टीचर हाइपोथेसिस वैलिडेशन के रूप में फ्रेम करती है।
फ्रेमवर्क (SGSD): एक मल्टी-टीचर, स्किल-कंडीशन्ड सेल्फ-डिस्टिलेशन फ्रेमवर्क जो रोलआउट आउटकम के साथ टीचर पोलैरिटी को इन्फर करता है, और शोर या विरोधाभासी सिग्नल्स को संभालने के लिए एक रोबस्ट गेटेड ऑब्जेक्टिव का उपयोग करता है।
एम्पिरिकल वैलिडेशन: Qwen3 मॉडल्स (1.7B, 4B, 8B) पर AIME24, AIME25, और HMMT25 जैसे बेंचमार्क्स पर प्रदर्शित किया गया, जो दिखाता है कि SGSD लगातार GRPO से बेहतर प्रदर्शन करता है और OPSD (जो आंसर-कंडीशन्ड सेल्फ-डिस्टिलेशन है) के प्रतिस्पर्धी बना रहता है, जबकि यह एक कमजोर PI धारणा के तहत काम करता है (उत्तर बनाम स्किल्स)।

4. प्रयोगात्मक परिणाम (Experimental Results)

प्रयोग DAPO-Math-17K पर प्रशिक्षित Qwen3 मॉडल्स (1.7B, 4B, 8B) पर किए गए और प्रतियोगिता-शैली के बेंचमार्क्स पर मूल्यांकित किए गए।

परफॉरमेंस: Qwen3-1.7B पर, SGSD ने AIME24, AIME25, और HMMT25 में औसत सटीकता को 37.4% से बढ़ाकर 43.7% कर दिया। यह GRPO पर 6.2% का सुधार और OPSD (जो विश्वसनीय संदर्भ उत्तरों का उपयोग करता है) पर 1.7% का सुधार है।
स्थिरता (Stability): OPSD के विपरीत, जो प्रशिक्षण के बाद के चरणों में गिरावट दिखाता है, SGHS ने स्थिर सुधार बनाए रखा। इसका श्रेय आउटकम-वैलिडेशन मैकेनिज्म को जाता है जो भ्रामक स्किल सिग्नल्स को फ़िल्टर करता है।
एब्लेशन (Ablations):
- पोलैरिटी वैलिडेशन को हटाने से परफॉरमेंस कोलैप्स हो गया, जो पुष्टि करता है कि स्किल्स का अंधाधुंध पालन करना हानिकारक है।
- सिंगल टीचर का उपयोग मल्टी-टीचर पूल की तुलना में कम प्रभावी था, जो विविध हाइपोथीसिस के महत्व को उजागर करता है।
- रोबस्ट सपोर्ट एस्टीमेशन (मास्किंग, क्लिपिंग, थ्रेशोल्डिंग) स्थिरता के लिए महत्वपूर्ण था।
- स्किल-कंडीशन्ड टीचर में रेफरेंस एंसर्स जोड़ने से परफॉरमेंस में गिरावट आई, जो सुझाव देता है कि विश्वसनीय और अविश्वसनीय PI को मिलाने से असंगत अपडेट दिशाएं उत्पन्न होती हैं।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि SGSD यह प्रदर्शित करता है कि अनुभव-व्युत्पन्न स्किल्स उपयोगी सघन सुपरविजन प्रदान कर सकती हैं, भले ही उनकी दिशा पहले से सत्यापित न हो, बशर्ते उनकी पोलैरिटी को ऑन-पॉलिसी साक्ष्य के विरुद्ध वैलिडेट किया जाए।

कमजोर धारणा: SGSD, ग्राउंड-ट्रुथ रेफरेंस सॉल्यूशंस के बजाय केवल एक वेरिफायर और एक स्किल बैंक की उपस्थिति मानकर, आंसर-कंडीशन्ड मेथड्स (OPSD) के साथ प्रतिस्पर्धी परिणाम प्राप्त करता है।
मैकेनिज्म: इसकी सफलता इस बात पर टिकी है कि स्किल्स को निर्देशों के रूप में मानने के बजाय हाइपोथीसिस के रूप में लिया जाए जिन्हें वैलिडेट किया जाना है। गेटेड ऑब्जेक्टिव शोर और एक्सट्रीम सिग्नल्स को दबाते हुए, इंफॉर्मेटिव टीचर-स्टूडेंट डिसएग्रीमेंट्स को प्रभावी ढंग से निकालता है।
सीमाएँ: लेखक नोट करते हैं कि वर्तमान में विधि मुख्य रूप से ऑटोमैटिक वेरिफिकेशन वाले गणितीय रीजनिंग पर मूल्यांकित की गई है। ओपन-एंडेड जनरेशन के विस्तार के लिए कैलिब्रेटेड जजों की आवश्यकता होगी। इसके अतिरिक्त, स्किल बैंक निर्माण एक सरल कोल्ड-स्टार्ट और पदानुक्रमित मर्जिंग (hierarchical merging) पर निर्भर करता है, जो भविष्य के कार्य में अधिक एडेप्टिव रणनीतियों से लाभान्वित हो सकता है।

संक्षेप में, SGSD यह मार्ग प्रशस्त करता है कि जहाँ ग्राउंड-ट्रुथ उत्तर उपलब्ध नहीं हैं, वहाँ LLM रीजनिंग को बढ़ाने के लिए अपने स्वयं के विकसित होते अनुभव का उपयोग करके अपने स्वयं के टीचिंग सिग्नल्स को जेनरेट और वैलिडेट किया जा सकता है।