AlphaToken: Decoupling Adaptation and Stability for Path-Aware Response Token Valuation in LLM Post-Training
अल्फाटोकन (AlphaToken) एक पाथ-अवेयर (path-aware) टोकन मूल्यांकन ढांचे को पेश करता है जो अनुकूलन (adaptation) और स्थिरता (stability) उद्देश्यों को अलग करता है ताकि एलएलएम (LLM) पोस्ट-ट्रेनिंग के दौरान कम-मूल्य वाले रिस्पॉन्स टोकन को चुनिंदा रूप से मास्क किया जा सके, जिससे कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को कम करते हुए कार्य-विशिष्ट प्रदर्शन को बढ़ाया जा सके।