💻 computer science
Squeezing the Cache, Preserving the Truth: Monotonic Equipotential Allocation with Geodesia-KV
Geodesia-KV 是一个无需训练、硬件就绪的 KV 缓存压缩框架，它采用单调块级精度分配和查询稀疏读取技术，在困惑度（perplexity）和带宽效率方面显著超越现有方法，从而实现在消费级 16 GiB GPU 上生成 1M token 的上下文。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。