HARD-KV: Head-Adaptive Regularization for Decoding-time KV Compression
HARD-KV एक एकीकृत ढांचा है जो कैस्केड कैश पदानुक्रम (Cascade Cache hierarchy), लॉजिट्स कैलिब्रेशन (Logits Calibration) और एक सिस्टम-स्तरीय लेआउट रीराइटिंग तंत्र को पेश करके डायनेमिक, हेड-एडेप्टिव KV संपीड़न और रिजिड इन्फरेंस इंजन बाधाओं के बीच के संघर्ष को हल करता है, जिससे लंबे-संदर्भ वाले परिदृश्यों में उच्च-फिडेलिटी जनरेशन बनाए रखते हुए 2 तक थ्रूपुट सुधार प्राप्त होता है।