Stabilizing LLM Supervised Fine-Tuning via Explicit Distributional Control
यह योगदान एंकोर्ड लर्निंग (Anchored Learning) को प्रस्तुत करता है, जो वितरण विचलन (distribution drift) को नियंत्रित करने के लिए एक गतिशील रूप से विकसित होते मूविंग एंकर (moving anchor) का उपयोग करके एलएलएम (LLM) के सुपरवाइज्ड फाइन-ट्यूनिंग में कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को कम करता है, जिससे मानक विधियों की तुलना में क्षमता क्षरण को काफी कम करते हुए लगभग इष्टतम प्रदर्शन लाभ प्राप्त होता है।