Hierarchical Latent Prediction for Language Models
यह शोध पत्र पदानुक्रमित लेटेंट प्रेडिक्शन (Hierarchical Latent Prediction - HiLP) को प्रस्तुत करता है, जो एक नवीन सहायक उद्देश्य है जो लेटेंट-स्पेस रोलआउट्स में त्रुटि संचय को कम करने के लिए उच्च-स्तरीय अमूर्त लेटेंट्स का लाभ उठाता है, जिससे भाषा मॉडलों में दीर्घकालिक तर्क (long-horizon reasoning), कोडिंग प्रदर्शन और स्पेक्युलेटिव डिकोडिंग दक्षता में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को कहानी लिखना सिखा रहे हैं। इसे करने का मानक तरीका "नेक्स्ट-टोकन प्रेडिक्शन" (Next-Token Prediction) कहलाता है। यह "मैड लिब्स" (Mad Libs) के खेल जैसा है जहाँ रोबोट आपके द्वारा लिखे गए पिछले शब्द को देखता है और अगले शब्द का अनुमान लगाता है। यदि आप कहते हैं "The cat sat on the", तो रोबोट अनुमान लगाता है "mat"। फिर, आप उसे "The cat sat on the mat" खिलाते हैं, और वह अनुमान लगाता है "soft"। इस पद्धति ने अविश्वसनीय रूप से स्मार्ट रोबोट बनाए हैं, लेकिन इसमें एक दोष है। क्योंकि रोबोट केवल एक कदम आगे देखता है, वह लंबी कहानियों में खो सकता है। यदि वह शुरुआत में एक छोटी सी गलती करता है, तो वह गलती बढ़ती जाती है, जैसे पहाड़ से नीचे लुढ़कता हुआ बर्फ का गोला (स्नोबॉल)। इसे "एक्सपोज़र बायस" (exposure bias) कहा जाता है।
इसे ठीक करने के लिए, वैज्ञानिकों ने रोबोट को कुछ कदम आगे देखने या केवल अगले अक्षर के बजाय अगले कुछ शब्दों के "वाइब" (vibe) का अनुमान लगाने के लिए सिखाने की कोशिश की है। लेकिन इन विधियों की अपनी समस्याएं हैं: या तो वे भविष्य में बहुत दूर तक नहीं देख पातीं, या जब वे बहुत आगे की योजना बनाने की कोशिश करती हैं, तो अपनी ही गलतियों से भ्रमित हो जाती हैं। बड़ा सवाल यह है: क्या हम रोबोट को एक साथ कई स्तरों पर कहानी की संरचना को समझने के लिए सिखा सकते हैं—जैसे कि एक अध्याय के कथानक को जानते हुए भी अगले वाक्य को जानना—बिना रोबोट को बहुत धीमा या जटिल बनाए?
यही वह सवाल है जिसे माइक्रोसॉफ्ट रिसर्च और यूनिवर्सिटी ऑफ टेक्सास एट ऑस्टिन के शोधकर्ताओं ने अपने नए पेपर, "Hierical Latent Prediction for Language Models" में हल किया। उन्होंने एक चतुर नई प्रशिक्षण विधि पेश की जिसे HiLP (Hierarchical Latent Prediction) कहा जाता है। रोबोट के मस्तिष्क को दो परतों वाली सोच के रूप में सोचें। पहली परत "स्ट्रीट-लेवल" (street-level) दृश्य है, जो तुरंत अगले शब्द पर ध्यान केंद्रित करती है, ठीक पुराने तरीके की तरह। दूसरी परत "हेलीकॉप्टर व्यू" (helicopter view) है, जो बड़े परिदृश्य को समझने के लिए शब्दों के एक समूह को एक साथ देखती है, जैसे कि एक पैराग्राफ या एक दृश्य।
अपने प्रयोगों में, शोधकर्ताओं ने रोबोट को इस "हेलीकॉप्टर व्यू" का उपयोग एक गुप्त प्रशिक्षण उपकरण के रूप में करने के लिए सिखाया। उन्होंने एक विशेष "एब्स्ट्रैक्ट" (abstract) परत बनाई जो पिछले कुछ शब्दों को एक एकल, उच्च-स्तरीय अवधारणा में संक्षेपित करती है। फिर, उन्होंने रोबोट को यह अनुमान लगाने के लिए कहा कि वह उच्च-स्तरीय अवधारणा कुछ कदमों में कहाँ होगी। इसने रोबोट को यह सीखने के लिए मजबूर किया कि कहानी को लंबी दूरी तक कैसे बहना चाहिए, न कि केवल शब्द से शब्द तक। महत्वपूर्ण रूप से, यह "हेलीकॉप्टर व्यू" केवल प्रशिक्षण के दौरान उपयोग किया जाता है। एक बार जब रोबोट सीखना समाप्त कर लेता है, तो शोधकर्ता अतिरिक्त परतों को हटा देते हैं। जब रोबोट आपके लिए कहानी लिखता है, तो वह केवल सरल, तेज़ "स्ट्रीट-लेवल" दृश्य का उपयोग करता है। इसका मतलब है कि रोबोट बिना धीमा या भारी हुए लंबी अवधि की योजना बनाने में स्मार्ट हो जाता है।
परिणाम बताते हैं कि यह दृष्टिकोण अच्छी तरह काम करता है। जब उन्होंने कोडिंग कार्यों और बहु-चरणीय तर्क पहेलियों पर नए रोबोट का परीक्षण किया, तो इसने उन पिछले तरीकों से बेहतर प्रदर्शन किया जो आगे देखने की कोशिश करते थे। उदाहरण के लिए, कोडिंग बेंचमार्क HumanEval पर, नए तरीके ने 11.33 का स्कोर प्राप्त किया, जो मानक विधि (जिसने 8.77 स्कोर किया) और NextLat (जिसने 10.58 स्कोर किया) जैसे हालिया प्रयासों को पछाड़ देता है। शोधकर्ताओं ने यह भी पाया कि इस पद्धति ने "स्पेक्टिवल डिकोडिंग" (speculative decoding) को अधिक कुशल बनाया। यह एक ऐसी तकनीक है जहाँ रोबroट एक साथ कई शब्दों का अनुमान लगाता है ताकि गति बढ़ सके; HiLP के साथ, रोबोट के अनुमान अधिक सटीक थे, जिसका अर्थ है कि उसने खुद को सुधारने में कम समय बर्बाद किया।
पेपर का तर्क है कि जबकि केवल एक कदम आगे देखना स्थानीय विवरणों के लिए अच्छा है, यह भाषा की दीर्घकालिक संरचना को पकड़ने में विफल रहता है। प्रशिक्षण के दौरान इस पदानुक्रमित "हेलीकॉप्टर व्यू" को जोड़कर, रोबोट लंबे समय के लक्ष्यों को ध्यान में रखना सीख जाता है, जिससे त्रुटियों का "स्नोबॉल प्रभाव" कम हो जाता है। लेखक सुझाव देते हैं कि यह विधि बिना गति या जटिलता के सामान्य समझौतों के, दीर्घकालिक योजना के लाभ उठाने का एक तरीका प्रदान करती है, हालांकि वे उल्लेख करते हैं कि उनके द्वारा उपयोग की गई विशिष्ट "लुकअहेड" (lookahead) दूरी एक मैनुअल सेटिंग थी, और भविष्य के कार्य इसे अधिक लचीला बना सकते हैं। अंततः, HiLP दिखाता है कि भाषा मॉडल को अभ्यास के दौरान जंगल और पेड़ों दोनों को देखना सिखाने से वह बेहतर कहानियाँ लिख सकता है, भले ही प्रदर्शन के समय वह केवल पेड़ों का उपयोग करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।