Vegas: Self-Speculative Decoding with Verification-Guided Sparse Attention
वेगास (Vegas) एक स्व-अनुमानित डिकोडिंग (self-speculative decoding) विधि है जो सत्यापन-निर्देशित विरल ध्यान (verification-guided sparse attention) का लाभ उठाकर सत्यापन प्रक्रिया के एक उपोत्पाद के रूप में महत्वपूर्ण KV कैश प्रविष्टियों की पहचान करती है, जिससे मौजूदा दृष्टिकोणों की तुलना में न्यूनतम ओवरहेड के साथ ड्राफ्ट टोकन स्वीकृति दरों और डिकोडिंग थ्रूपुट में सुधार होता है।