AdaPLD: Adaptive Retrieval and Reuse for Efficient Model-Free Speculative Decoding
AdaPLD एक प्रशिक्षण-मुक्त (training-free), मॉडल-मुक्त (model-free) स्पेक्युलेटिव डिकोडिंग विधि है जो मौजूदा पुनरुपयोग-आधारित (reuse-based) दृष्टिकोणों की सीमाओं को दूर करने के लिए लेक्सिकल और सिमेंटिक रिट्रीवल को ब्रांच्ड हाइपोथीसिस कंस्ट्रक्शन के साथ अनुकूल रूप से संयोजित करके जनरेशन दक्षता को बढ़ाती है, जिससे 3.10× तक की गति वृद्धि प्राप्त होती है।