TreeWY: Speculative Verification for Gated DeltaNet Hybrids

في عالم الذكاء الاصطناعي الحديث، تعمل نماذج اللغات الكبيرة كمحركات قوية تولد النصوص كلمة بكلمة. وللقيام بذلك، يجب عليها تذكر كل ما كتبته حتى الآن لضمان ملاءمة الكلمة التالية للسياق. لسنوات عديدة، كانت الطريقة الأكثر شيوعاً للتعامل مع هذه الذاكرة هي الاحتفاظ بقائمة متنامية من كل كلمة سابقة والبيانات المرتبطة بها، وهي طريقة تعمل بشكل جيد ولكنها تتطلب كمية هائلة من ذاكرة الكمبيوتر مع طول المحادثة. مؤخراً، ظهر جيل جديد من النماذج يمزج بين هذا النهج التقليدي وطريقة أخرى أكثر إيجازاً. تستخدم هذه النماذج الهجينة نوعاً خاصاً من الطبقات التي تلخص التاريخ بأكمله في لقطة واحدة ثابتة الحجم، بدلاً من قائمة متنامية. وهذا يجعلها فعالة للغاية لمهام القراءة والكتابة القياسية، مما يسمح لها بالعمل على أجهزة كمبيوتر أصغر. ومع ذلك، فإن هذه الكفاءة تخلق مشكلة جديدة عند محاولة تسريع العملية باستخدام تقنية تسمى "التشفير الاستنباطي" (speculative decoding).

التشفيد الاستنباطي هو استراتيجية تُستخدم لجعل هذه النماذج أكثر سرعة. فبدلاً من توليد كلمة واحدة في كل مرة، يقوم نموذج "مسودة" أصغر وأرخص بتخمين عدة كلمات للأمام، ثم يقوم النموذج الرئيسي بالتحقق منها جميعاً دفعة واحدة ليرى أي التخمينات كانت صحيحة. إذا تمكن النموذج الرئيسي من التحقق من سلسلة طويلة من التخمينات، فيمكنه إخراج كلمات متعددة في خطوة واحدة، مما يزيد السرعة بشكل كبير. وتنشأ المشكلة مع النماذج الهجينة المذكورة سابقاً؛ فبسبب كون ذاكرتها عبارة عن لقطة واحدة ثابتة لا يمكن قصها أو لصقها بسهءولة، تضطر الأنظمة الحالية إلى أخذ نسخة كاملة من هذه اللقطة لكل كلمة يخمنها نموذج المسودة. إذا خمن نموذج المسودة قائمة طويلة من الكلمات، يجب على النظام تخزين نسخة من الذاكرة لكل تخمين. وهذا يملأ ذاكرة الكمبيوتر بسرعة، مما يجبر النظام على التوقف عن تخمين قوائم طويلة ويحد من مكاسب السرعة. إنه عنق زجاجة يمنع هذه النماذج الفعالة من العمل بالسرعة التي يمكنها الوصول إليها نظرياً.

قام باحثون في "ثومسون رويترز" (Thomson Reuters)، بقيادة سنيها مورتي غانثابالا، بتطوير طريقة جديدة تسمى TreeWY لحل مشكلة عنق زجاجة الذاكرة هذه تحديداً. يركز عملهم على عائلة من النماذج الهجينة تُعرف باسم Qwen3.5، المصممة لتكون فعالة ولكنها تعاني مع متطلبات الذاكرة الخاصة بالتشفيد الاستنباطي. أدرك الفريق أن الطريقة التي تحدث بها هذه النماذج تحديثاً لذاكرتها تتبع نمطاً رياضياً محدداً يمكن إعادة ترتيبه. فبدلاً من حفظ نسخة كاملة من حالة الذاكرة لكل تخمين، وجدوا طريقة لحساب نتائج جميع التخمينات دفعة واحدة باستخدام عملية رياضية واحدة مبسطة. تعامل هذه العملية تسلسل التخمينات ليس كسلسلة من اللقطات المنفصلة، بل كبنية شجرية منظمة حيث يتم مشاركة المعلومات وحسابها بكفاءة.

إن جوهر اكتشافهم هو أنهم لم يعودوا بحاجة إلى تخزين حالة الذاكرة الكاملة لكل رمز (token) من رموز المسودة. في الطريقة القديمة، إذا خمن النموذج عشر كلمات، كان عليه حفظ عشر نسخ كاملة من ذاكرته، مما يستهلك مساحة ضعة. أما مع TreeWY، فيقوم النظام فقط بحفظ ملخص مضغوط وصغير جداً للتغييرات التي حدثت خلال مرحلة التخمين. إنه يقوم بعملية حسابية واحدة للتحقق من جميع التخمينات في وقت واحد. وإذا تم قبول تخمين ما، يقوم النظام بإعادة بناء حالة الذاكرة الصحيحة من ذلك الملخص الصغير. وإذا تم رفض تخمين ما، يقوم النظام ببساطة بالتخلص من الملخص دون الحاجة أبداً لتخزين حالة الذاكرة الكاملة والثقيلة في المقام الأول. هذا النهج يلغي الحاجة إلى العبء الهائل للذاكرة الذي جعل سلاسل التخمين الطويلة مستحيلة في السابق.

اختبر الباحثون هذه الطريقة على حجمين من نموذج Qwen3.5، نسخة بـ 35 مليار معلمة (parameter) ونسخة أكبر بكثير بـ 397 مليار معلمة، مع تشغيلها على بطاقات رسوميات عالية الأداء. وقارنوا طريقة TreeWY الجديدة بالنهج القياسي المستخدم في برامج الذكاء الاصطناعي الشهيرة. أظهرت النتائج أنه عندما كانت ذاكرة الكمبيوتر تحت ضغط شديد، سمحت الطريقة الجديدة للنظام بمعالجة عدد أكبر بكثير من الطلبات في آن واحد. وفي بعض الحالات، زادت سرعة توليد النص بنسبة تقارب الخمسين بالمائة، وانخفض الوقت المستغرق لبدء توليد الاستجابة بشكل كبير. حدث هذا لأن مساحة الذاكرة التي تم توفيرها سمحت للنظام بإبقاء المزيد من المحادثات النشطة تعمل في وقت واحد دون تعطل أو تباطؤ.

ومع ذلك، وجدت الدراسة أيضاً أن الفوائد تعتمد بشكل كبير على مقدار الذاكرة المتاحة. فعندما كان لدى الكمبيوتر ذاكرة وفيرة، كانت الطريقة الجديدة أبطأ قليلاً من النهج القياسي، حيث كلفت بضع درجات مئوية من السرعة. وذلك لأن الحساب الجديد، رغم توفيره للذاكرة، يستغرق وقتاً أطول قليلاً للقيام به مقارنة بالطريقة البسيطة المتمثلة في مجرد نسخ البيانات. وأشار الباحثون إلى أن الفوز الحقيقي يأتي عندما يكون النظام محدوداً بالذاكرة، وهو وضع شائع للنماذج الكبيرة. في هذه السيناريوهات، تفوق القدرة على تشغيل المزيد من المحادثات في وقت واحد التكلفة الضئيلة للحساب.

استكشف الفريق أيضاً ما إذا كان بإمكان هذه الطريقة دعم استراتيجيات تخمين أكثر طموحاً، مثل هيكل "شجري" حيث يخمن النموذج مسارات مختلفة متعددة في نفس الوقت، بدلاً من مجرد خط واحد من الكلمات. جعلت الطريقة الجديدة هذا ممكناً من خلال إبقاء استخدام الذاكرة ثابتاً بغض النظر عن مدى اتساع شجرة التخمينات. في السابق، كان اتساع شجرة التخمينات يتطلب ذاكرة كبيرة جداً لدرجة تجعل الأمر مستحيلاً. أما الآن، فيمكن للنظام تحمل محاولة تجربة مسارات مختلفة في وقت واحد. ورغم أن هذا لم يؤدِ فوراً إلى زيادة هائلة في سرعة النماذج المختبرة، إلا أنه أثبت أن الطريقة مرنة بما يكفي للتعامل مع هياكل تخمين واسعة ومعقدة كانت غير متاحة مادياً في السابق.

أكد الباحثون أن حلهم خاص بالقواعد الرياضية التي تحكم هذه النماذج الهجينة. فهو لا يعتمد على التفاصيل الدقيقة لتصميم النموذج، بل على الطريقة الجوهرية التي يحدث بها تحديث الذاكرة. وهذا يعني أن النهج يمكن تطبيقه على نماذج أخرى تستخدم هياكل ذاكرة مماثلة. وقد تم تنفيذ العمل في إطار برمجيات واسع الاستخدام لتشغيل نماذج الذكاء الاصطناعي، وتحقق الباحثون من أن الطة الجديدة تنتج نتائج مطابقة رياضياً للنهج القياسي، مما يضمن بقاء جودة النص دون تغيير.

في النهاية، يوضح هذا البحث أنه من خلال إعادة التفكير في كيفية التعامل مع الذاكرة أثناء مرحلة التخمين، يمكن إطلاق العنان لإمكانات السرعة الكاملة للنماذج الهجينة الفعالة. وتظهر الدراسة أن القيد لم يكن في النماذج نفسها، بل في الطريقة التي تدير بها البرمجيات ذاكرتها. ومن خلال الانتقال من تخزين اللقطات الكاملة إلى حساب ملخص مشترك، حول الباحثون عنق زجاجة الذاكرة إلى مسار للأداء العالي. وهذا يسمح لهذه النماذج الفعالة بالعمل بشكل أسرع والتعامل مع عدد أكبر من المستخدمين، لا سيما في الحالات التي تكون فيها ذاكرة الكمبيوتر في أقصى درجات الضيق. وتشير النتائج إلى أن التحسينات المستقبلية في سرعة الذكاء الاصطناعي قد لا تأتي فقط من بناء نماذج أكبر، بل من طرق أذكى لإدارة البيانات التي تمتلكها بالفعل.