Oilbird: Training-Free Speculative Decoding with Keys the Verifier Already Computes

تخيل أنك تحاول تخمين الكلمة التالية في قصة يرويها لك صديقك. إذا كنت حاسوباً فائق السرعة، فقد تحاول تخمين الجملة التالية بأكملها دفعة واحدة، ثم تتحقق مما إذا كنت قد أصبت. هذه هي الفكرة الأساسية وراء "الترميز الاستدلالي" (Speculative Decoding)، وهي خدعة تُستخدم لجعل روبوتات الدردشة بالذكاء الاصطناعي تتحدث بشكل أسرع. فبدلاً من كتابة كلمة واحدة في كل مرة والانتظار بعد كل حرف للتحقق، يقوم الذكاء الاصطناعي بتخمين كتلة كاملة من النص بسرعة، ثم يقوم "العقل الرئيسي" بفحص الكتلة بأكملة مرة واحدة. وإذا كان التخمين صحيحاً، يتمكن الذكاء الاصطناعي من تجاوز الكثير من وقت الانتظار.

ومع ذلك، هناك عقبة. عملية "التخمين" تعتمد عادةً على النظر فيما قاله الذكنا الاصطناعي سابقاً ونسخه. الأمر يشبه طالباً لا يعرف سوى كيفية إنهاء الجملة إذا كان قد سمع تلك الجملة بالتحديد من قبل. إذا كان على الطالب قول شيء جديد — مثل اسم محدد أو رقم لم يستخدمه بهذا الترتيب المحدد من قبل — فإن ذاكرته تفشل، ويضطر للتوقف والتفكير ببطء مرة أخرى. تتناول هذه الورقة البحثية، التي تحمل عنوان "أويل بيرد" (Oilbird)، إحباطاً محدداً: ماذا لو كانت الإجابة موجودة بالفعل في ذاكرة الذكاء الاصطناعي، لكن "الطالب" لا يستطيع العثور عليها لأنه يبحث عن الشيء الخطأ؟ وجد الباحثون أن المشكلة ليست في أن الإجابة مفقودة، بل في أن "مفتاح البحث" الذي يستخدمونه جامد للغاية.

المشكلة: "النقطة العمياء" في الذاكرة

لفهم هذا الاختراق، دعونا نتخيل أن الذكاء الاصطناعي هو أمين مكتبة يحاول العثاء عن كتاب لإنهاء قصة. القصة حتى الآن هي: "الاجتماع مخصص للموظفين الذين لا يسافرون. لقد تحققنا من جون، والآن نحتاج للتحقق من..."

يعرف أمين المكتبة أن الكلمة التالية ستكون على الأرجى "ماري" لأنه رأى هذا النمط من القصة من قبل. ولكن في النسخة السابقة من القصة، كان الاسم هو "جون". أمين المكتبة التقليدي الذي يعتمد على "النسخ واللصق" يبحث عن العبارة الدقيقة "الاجتماع مخصص للموظفين الذين لا يسافرون. لقد تحققنا من جون...". وبما أن القصة الحالية تقول "لقد تحققنا من جون" ولكن سجلات المكتبة لديها سجل لـ "لقد تحققنا من جون" متبوعاً باسم مختلف، فإن أمين المكتبة يصاب بالارتباك. يرى كلمة "جون" ويفكر: "أوه، لقد رأيت هذا من قبل!"، فيقوم بنسخ بقية الجملة بما في ذلك الاسم "جون".

لكن الذكاء الاصطناعي يحتاج لقول "ماري". يفشل أمين المكتبة التقليدي لأنه يبحث عن تطابق نصي دقيق. إنه أعمى عن حقيقة أن الموقف هو نفسه، حتى لو كان الاسم مختلفاً. تطلق الورقة البحثية على هذا "فجوة القابلية للتمييز" (Identifiability Gap). الإجابة موجودة هناك في تاريخ المكتبة، لكن مفتاح بحث أمين المكتبة (النص نفسه) لا يمكنه الوصول إليها لأن كلمة واحدة صغيرة مختلفة.

الحل: "إحساس" أويل بيرد بالماضي

أدرك مؤلفو هذه الورقة، تاو جين وفريقه، أن الذكاء الاصطناعي لا يمتلك نصاً فحسب، بل يمتلك "حالة خفية" (Hidden State). فكر في هذه الحالة الخفية كـ "شعور داخلي" أو "حالة ذهنية" للذكاء الاصطناعي عند كل خطوة من خطوات الجملة. حتى لو تغير الاسم من "جون" إلى "ماري"، فإن إحساس هيكل الجملة — التحقق من قائمة أشخاص، والاستعداد لتسمية الشخص التالي — يبدو متطابقاً تماماً بالنسبة لعقل الذكاء الاصطناعي.

أويل بيرد (Oilbird) هو طريقة جديدة تستخدم هذا "الشعور الداخلي" لإيجاد الإجابات. بدلاً من مجرد السؤال: "هل رأيت هذه الكلمات الدقيقة من قبل؟"، يسأل أويل بيرد: "هل سبق لي أن كنت في موقف يشبه هذا؟".

إليك كيف يعمل ذلك في الممارسة العملية:

1. المكتبة: يحتفظ الذكاء الاصطناعي بسجل لكل جملة أنهها، ولكن بدلاً من حفظ النص فقط، فإنه يحفظ "الحالة الخفية" (المزاج الذهني) لكل كلمة كتبها.
2. البحث: عندما يحتاج الذكاء الاصطناعي لتخمين الكلمة التالية، فإنه لا يبحث فقط عن نصوص متطابقة، بل يبحث عن "أمزجة" متطابقة. إذا كان الموقف الحالي يشبه وقتاً تحقق فيه من "جون"، فهو يعرف أنه في "مزاج" التحقق من الأسماء، حتى لو كان الاسم الجديد مختلفاً.
3. الدمج: لا يتخلص "أويل بيرد" من طريقة مطابقة النصوص القديمة، بل يضيف طريقة "مطابقة المزاج" هذه في نفس شجرة التخمينات. الأمر يشبه وجود أمناء مكتبة يعملون معاً: أحدهم بارع في العثور على النص الدقيق، والآخر بارع في العثور على المواقف المشابهة. يتشاركون العمل، وإذا وجد أمين المكتبة المتخصص في "المزاج" مساراً جيداً، يتبعه الذكاء الاصطناعي.

ما وجدوه

اختبر الفريق هذه الطريقة على معيار يسمى API-Bank، وهو مليء بالمهام المتكررة مثل حجز الاجتماعات أو التحقق من حالة الموظفين. ووجدوا أن طرق مطابقة النصوص القياسية فاتتها حوالي 6.8% من الإجابات الصحيحة التي كانت موجودة بالفعل في التاريخ، ولكنها كانت بعيدة المنال بسبب تلك الكلمة المختلفة الواحدة.

من خلال إضافة بحث "المزاج"، تمكن "أويل بيرد" من إيجاد 81% من تلك الإجابات المفقودة. لم يجد الكلمة المفقودة فحسب، بل وجد المسار الكامل للأمام. ولأن الذكاء الاصطناعي استطاع تخمين المزيد من الكلمات بشكل صحيح مسبقاً، لم يضطر للتوقف والتفكير كثيراً.

كانت النتائج مبهرة:

• في اختبار API-Bank، جعل "أويل بيرد" الذكاء الاصطناعي أسرع بـ 4.4 مرة من الطريقة البطيئة القياسية.
• كان أسرع من أفضل الطرق الحالية التي "لا تتطلب تدريباً" (والتي حققت سرعة تقارب 3.9 مرة)، بل وتفوق حتى على طريقة معقدة وعالية التدريب تسمى EAGLE-3 (والتي حققت سرعة 2.0 مرة).
• عملت الطريقة عبر أنواع مختلفة من نماذج الذكاء الاصطناعي، بما في ذلك Llama-3.1 و Qwen3.

لماذا يهم هذا الأمر؟

الجزء الأكثر إثارة في هذا الاكتشاف هو أن "أويل بيرد" لا يتطلب تدريباً (Training-free). وهذا يعني أنك لست بحاجة لقضاء أسابيع في تعليم ذكاء اصطناعي جديد كيفية القيام بذلك. يمكنك ببساطة توصيل نظام "مطابقة المزاج" هذا بأي ذكاء اصطناعي موجود حالياً، وسوف يصبح أسرع على الفور.

كما أظهر الباحثون أن هذا يعمل بشكل أفضل في المهام المتكررة، مثل بوت خدمة العملاء الذي يجيب على نفس الأسئلة مراراً وتكراراً. في تلك اللحظات، يتكرر "مزاج" المحادثة كثيراً، حتى لو تغيرت الأسماء أو الأرقام المحددة. ومن خلال استخدام "الشعور الداخلي" للذكاء الاصطناعي للعثور على المسار الصحيح، يساعد "أويل بيرد" الذكاء الاصطناعي على التوقف عن التعثر في التفاصيل الصغيرة والمضي قدماً بسرعة البرق.

باختاً، تثبت هذه الورقة أنه في بعض الأحيان، لكي تجد الإجابة الصحيحة، لا ينبغي أن تنظر فقط إلى الكلمات التي قلتها من قبل، بل يجب أن تنظر إلى كيف "شعرت" تلك الكلمات عندما قلتها. ومن خلال فعل ذلك، يمكنك جعل الذكاء الاصطناعي أسرع بشكل ملحوظ دون الحاجة لتعليمه أي شيء جديد.