← नवीनतम पेपर
💬 NLP

Structured Agent Distillation for Large Language Model

यह शोध पत्र स्ट्रक्चर्ड एजेंट डिस्टिलेशन (Structured Agent Distillation) का प्रस्ताव करता है, जो एक ऐसा ढांचा है जो तर्क (reasoning) और क्रिया (action) खंडों को संरेखित करने के लिए स्पैन-विशिष्ट नुकसान (span-specific losses) लागू करके बड़े भाषा मॉडल एजेंटों को छोटे, कुशल मॉडलों में संकुचित करता है, जिससे मानक टोकन-स्तरीय डिस्टिलेशन से बेहतर प्रदर्शन करते हुए निर्णय लेने की निष्ठा (decision-making fidelity) को संरक्षित किया जाता है।

मूल लेखक: Jun Liu, Zhenglun Kong, Peiyan Dong, Changdi Yang, Tianqi Li, Hao Tang, Geng Yuan, Wei Niu, Wenbin Zhang, Pu Zhao, Xue Lin, Dong Huang, Yanzhi Wang

प्रकाशित 2026-03-13
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Jun Liu, Zhenglun Kong, Peiyan Dong, Changdi Yang, Tianqi Li, Hao Tang, Geng Yuan, Wei Niu, Wenbin Zhang, Pu Zhao, Xue Lin, Dong Huang, Yanzhi Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक शानदार, विश्व-स्तरीय शेफ (शिक्षक) है जो जटिल, बहु-कोर्स भोजन बना सकता है। यह शेफ केवल सामग्री को बर्तन में नहीं डालता; उनके सोचने का एक विशिष्ट तरीका है: "पहले, मुझे प्याज काटने की जरूरत है। फिर, मैं उन्हें भूनूंगा। ओह, कड़ाही बहुत गर्म है, मुझे आंच कम कर देनी चाहिए। अब, लहसुन डालें।"

अब, आप एक युवा, अनुभवहीन रसोइये (छात्र) को वही भोजन बनाना सिखाना चाहते हैं, लेकिन उस युवा रसोइये के पास एक छोटा सा किचन है और बजट भी सीमित है। वे उस महंगे, उच्च-स्तरीय उपकरण को नहीं खरीद सकते जिसका उपयोग मास्टर शेफ करते हैं।

पुराना तरीका: "बस देखो और नकल करो"

पहले, शोधकर्ता छात्र को यह कहकर सिखाने की कोशिश करते थे कि, "मास्टर जो भी शब्द कहें, उन्हें ध्यान से देखें और ठीक वैसे ही दोहराएं।"

  • समस्या: छात्र शब्दों को तो याद कर लेता है लेकिन उनके पीछे के तर्क (logic) को नहीं समझ पाता। वे शायद कह दें, "लहसुन डालें," लेकिन वे प्याज काटना भूल जाते हैं क्योंकि मास्टर ने ट्रांसक्रिप्ट में एक कदम छोड़ दिया था। या, वे भ्रमित हो सकते हैं क्योंकि मास्टर के आंतरिक विचार ("कड़ाही बहुत गर्म है") और उनके शारीरिक कार्य ("आंच कम करें") शब्दों की एक लंबी, सपाट सूची में आपस में मिल गए हैं। छात्र सतह को नकल करना सीख जाता है, लेकिन स्थिति थोड़ी भी बदलने पर विफल हो जाता है। वे एक "शेफ" के बजाय एक "तोता" बन जाते हैं।

नया तरीका: "स्ट्रक्चर्ड एजेंट डिस्टिलेशन" (SAD)

यह पेपर एक नई शिक्षण पद्धति पेश करता है जिसे स्ट्रक्चर्ड एजेंट डिस्टिलेशन (SAD) कहा जाता है। मास्टर शेफ की पूरी प्रक्रिया को शब्दों के एक लंबे, अव्यवस्थित प्रवाह के रूप में मानने के बजाय, यह विधि एक स्मार्ट एडिटर की तरह काम करती है जो स्क्रिप्ट को दो अलग-अलग प्रकार के दृश्यों में काट देती है:

  1. "सोचने" का दृश्य (REASON): जहाँ शेफ योजना बनाता है, चिंता करता है और गणना करता है। "मुझे पहले प्याज काटने की जरूरत है।"
  2. "करने" का दृश्य (ACT): जहाँ शेफ वास्तव में अपने हाथ चलाता है। "प्याज काटें।"

उपमा: निर्देशक और अभिनेता

सोचिए कि शिक्षक एक निर्देशक (Director) है और छात्र एक अभिनेता (Actor) है।

  • टोकन-लेवल डिस्टिलेशन (पुराना तरीका): निर्देशक कहता है, "जो मैं कह रहा हूँ, उसे बिल्कुल वैसा ही बोलो, शब्द दर शब्द।" अभिनेता स्क्रिप्ट को रट लेता है लेकिन यह नहीं समझ पाता कि वह ऐसा क्यों कह रहा है। यदि निर्देशक लाइन में थोड़ा सा भी बदलाव करता है, तो अभिनेता जम जाता है।
  • स्ट्रक्चर्ड एजेंट डिस्टिलेशन (नया तरीका): निर्देशक अभिनेता को दो अलग-अलग रंगों के हाइलाइटर वाली एक स्क्रिप्ट देता है:
    • नीला हाइलाइट (रीजनिंग/तर्क): "यह हिस्सा आपका आंतरिक संवाद है। आपको यहाँ तर्क को समझना होगा। केवल शब्द न बोलें; इसके पीछे के 'क्यों' को समझें।"
    • लाल हाइलाइट (एक्शन/कार्य): "यह हिस्सा आपकी शारीरिक गतिविधि है। आपको इस विशिष्ट कमांड का सटीक रूप से पालन करना है।"

छात्र यह सीखता है कि सोचना और करना दो अलग-अलग कौशल हैं जिन्हें अलग-अलग तरह के अभ्यास की आवश्यकता होती है।

  • जब छात्र "ब्लू ज़ोन" में होता है, तो उसे इस आधार पर ग्रेड दिया जाता है कि वह तर्क को कितनी अच्छी तरह समझता है।
  • जब वह "रेड ज़ोन" में होता है, तो उसे इस आधार पर ग्रेड दिया जाता है कि क्या उसने वास्तव में सही उपकरण उठाया।

यह क्यों महत्वपूर्ण है

वास्तविक दुनिया में, AI एजेंटों (जैसे चैटबॉट्स जो वेब ब्राउज़ कर सकते हैं या रोबोट को नियंत्रित कर सकते हैं) को दोनों काम करने की आवश्यकता होती है: सोचना (रास्ता तय करना, गणित की समस्या हल करना) और करना (बटन क्लिक करना, रोबोट का हाथ हिलाना)।

  • SAD के बिना: AI सोचने और करने को एक साथ सीखने की कोशिश करता है, जैसे कार चलाना सीखने के साथ-साथ एक ही समय में करतब (juggling) सीखना। वह भ्रमित हो जाता है, गलतियाँ करता है, और उसका "सोचने" वाला हिस्सा अक्सर अस्त-व्यस्त हो जाता है।
  • SAD के साथ: AI इन दोनों को अलग करना सीख जाता है। वह "सोचने" वाले हिस्से में (योजना बनाने में) बहुत अच्छा हो जाता है और "करने" वाले हिस्से में (कार्यान्वयन में) भी बहुत कुशल हो जाता है।

परिणाम

इस पेपर ने तीन अलग-अलग "किचनों" पर इसका परीक्षण किया:

  1. ALFWorld: एक वर्चुअल घर जहाँ एक एजेंट को वस्तुओं को खोजना होता है (जैसे एक रोबोट बटलर)।
  2. WebShop: एक ऑनलाइन स्टोर जहाँ एक एजेंट को विशिष्ट चीजें खरीदनी होती हैं।
  3. HotPotQA: एक ट्रिविया गेम जहाँ एजेंट को कठिन सवालों के जवाब देने के लिए वेब पर सर्च करना होता है।

परिणाम:
इस नए "रंगीन हाइलाइटर" पद्धति (SAD) से प्रशिक्षित छात्र:

  • अधिक बुद्धिमान थे: उन्होंने अधिक कार्यों को सफलतापूर्वक पूरा किया।
  • तेज थे: उन्होंने उन चीजों के बारे में सोचने में समय बर्बाद नहीं किया जिनकी उन्हें आवश्यकता नहीं थी।
  • अधिक निष्ठावान (Faithful) थे: उनकी आंतरिक विचार प्रक्रिया मास्टर के तर्क से बहुत बेहतर ढंग से मेल खाती थी, न कि केवल उनके अंतिम उत्तर से।

मुख्य बात (Bottom Line)

यह पेपर इस खोज जैसा है कि यदि आप किसी रोबोट को अपना स्मार्ट असिस्टेंट बनाने के लिए सिखाना चाहते हैं, तो आपको केवल उसे यह नहीं बताना चाहिए कि इंसान ने क्या किया था। आपको उसे "सोचने" और "करने" के बीच का अंतर सिखाना होगा। प्रशिक्षण के दौरान इन दो कौशलों को अलग करके, आप छोटे, सस्ते और तेज़ AI एजेंट बना सकते हैं जो बड़े और महंगे एजेंटों जितने ही स्मार्ट होते हैं, बिना किसी सुपरकंप्यूटर की आवश्यकता के।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💬 cs.CL →