💻 コンピュータサイエンス
Efficient Long-Context Reasoning in Large Language Models: Hierarchical Token Compression with Sparse Attention and Dynamic Memory Management
本論文は、階層的なトークン圧縮、スパースなアテンションのオーケストレーション、および動的なメモリ管理を組み合わせることで、大規模言語モデルにおける効率的な長文脈推論を可能にし、長文脈ベンチマークにおける高い精度を維持しつつ、計算量とメモリ使用量の劇的な削減を実現する統一フレームワークであるCLEARを導入するものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
自分の分野の論文に埋もれていませんか?
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。