Self-Distillation as a Performance Recovery Mechanism for LLMs: Counteracting Compression and Catastrophic Forgetting
यह शोध पत्र संपीड़न (compression) या कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) द्वारा क्षीण हुए LLM प्रदर्शन को पुनः प्राप्त करने के लिए एक सेल्फ-डिस्टिलेशन फाइन-ट्यूनिंग (SDFT) फ्रेमवर्क पेश करता है, जिसे सैद्धांतिक साक्ष्य द्वारा समर्थित किया गया है जो दर्शाता है कि रिकवरी, सेंटर्ड कर्नेल एलाइनमेंट (Centered Kernel Alignment) के माध्यम से छात्र मॉडल के उच्च-आयामी मैनिफोल्ड को शिक्षक की इष्टतम संरचना के साथ संरेखित करने से संबंधित है।