Not-a-Bandit: Provably No-Regret Drafter Selection in Speculative Decoding for LLMs
تقدم هذه الورقة البحثية "Not-a-Bandit"، وهي خوارزمية "لا ندم مثبت" (no-regret) لاختيار نماذج المسودة عبر الإنترنت في عملية فك التشفير التخميني، والتي تقيم بكفاءة جميع النماذج المرشحة دون استعلامات إضافية من النموذج المستهدف، مما يتفوق بشكل أسي على النهج القائم على الـ "bandit" والأساليب المرجعية الحديثة مثل EAGLE3 عبر مجالات متنوعة.