Beyond Inference-Only Deployment: Comparing Weight-Based Consolidation Against Cascading Compaction
यह शोध पत्र तर्क देता है कि केवल अनुमान-आधारित (inference-only) परिनियोजन से आगे बढ़कर LoRA के माध्यम से रात्रिगत भार-आधारित एकत्रीकरण (nightly weight-based consolidation) अपनाना, उपयोगकर्ता ज्ञान को बनाए रखने में संदर्भ-विंडो-आधारित कैस्केडिंग संपीड़न (context-window-based cascading compaction) की तुलना में काफी बेहतर प्रदर्शन करता है, जबकि यह भी प्रदर्शित करता है कि माध्य (mean) की तुलना में मध्यिका प्रति-टोकन क्रॉस-एन्ट्रॉपी (median per-token cross-entropy) एक अधिक विश्वसनीय सटीकता मीट्रिक है।