🤖 machine learning
When Does Online Imitation Learning Help in LLM Post-Training? The Role of (Non-)Realizability Beyond Horizon
यह शोध पत्र इस पारंपरिक दृष्टिकोण को चुनौती देता है कि त्रुटि संचय (error accumulation) ऑनलाइन इमिटेशन लर्निंग की सफलता को संचालित करता है, और इसके बजाय यह प्रदर्शित करता है कि ऑफलाइन विधियों पर इसका लाभ मुख्य रूप से गैर-यथार्थता (non-realizability) द्वारा निर्धारित होता है, जहाँ ऑनलाइन इंटरेक्शन उन सूचनात्मक बाधाओं (information-theoretic bottlenecks) को दूर करता है जो मिसस्पेसिफाइड सेटिंग्स में ऑफलाइन दृष्टिकोणों द्वारा एक हॉराइजन (horizon) के स्तर पर भी हल नहीं की जा सकती हैं।