KEEP: A KV-Cache-Centric Memory Management System for Efficient Embodied Planning
यह शोध पत्र KEEP को प्रस्तुत करता है, जो एक KV-कैश-केंद्रित मेमोरी प्रबंधन प्रणाली है जो स्टैटिक-डायनामिक कंस्ट्रक्शन, मल्टी-हॉप री-कंप्यूटेशन और लेयर-बैलेंस्ड लोडिंग का उपयोग करती है ताकि उच्च सटीकता बनाए रखते हुए मेमोरी-ऑगमेंटेड LLMs में एम्बोडीड प्लानिंग (embodied planning) को महत्वपूर्ण रूप से त्वरित किया जा सके।