Efficient Long-Context Reasoning in Large Language Models: Hierarchical Token Compression with Sparse Attention and Dynamic Memory Management
यह शोध पत्र CLEAR को प्रस्तुत करता है, जो एक एकीकृत ढांचा है जो बड़े भाषा मॉडलों (large language models) में कुशल दीर्घ-संदर्भ तर्क (long-context reasoning) को सक्षम करने के लिए पदानुक्रमित टोकन संपीड़न (hierarchical token compression), विरल ध्यान ऑर्केस्ट्रेशन (sparse attention orchestration) और गतिशील स्मृति प्रबंधन (dynamic memory management) को संयोजित करता है, जिससे दीर्घ-संदर्भ बेंचमार्क पर उच्च सटीकता बनाए रखते हुए कम्प्यूटेशनल जटिलता और मेमोरी उपयोग में महत्वपूर्ण कमी आती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।