Ablation, Statistical Inference, and Validation for KV-Cache Compression
यह शोध पत्र सांख्यिकीय सत्यापन के माध्यम से Turbo-Quant और SpectralQuant जैसे KV-कैश संपीड़न (compression) विधियों का व्यवस्थित रूप से मूल्यांकन करता है, जिससे यह पता चलता है कि जहाँ आइगनबेसिस-आधारित (eigenbasis-based) दृष्टिकोण कोवैरिएंस अस्थिरता के कारण हेवी-टेल्ड (heavy-tailed) डेटा के साथ संघर्ष करना पड़ता है, वहीं वे उन संरचित व्यवस्थाओं में अच्छा प्रदर्शन करते हैं जहाँ प्रभावी सिमेंटिक आयाम वास्तविक डेटा रैंक के बजाय कैलिब्रेशन बजट के अनुकूल होता है।