Tandem: Riding Together with Large and Small Language Models for Efficient Reasoning

إليك شرح لورقة بحثية بعنوان "Tandem: الركوب معاً مع النماذج اللغوية الكبيرة والصغيرة من أجل استنتاج فعال".

المشكلة الكبرى: "المُفرط في التفكير"

تخيل بروفيسوراً عبقرياً عالمياً (النموذج اللغوي الكبير أو LLM) يمكنه حل أصعب المسائل الرياضية. ومع ذلك، لديه عادة سيئة: قبل أن يعطيك الإجابة، يكتب مقالاً مكوناً من 5000 كلمة يشرح فيه كل فكرة خطرت بباله، وكل طريق مسدود فكر فيه، وكل عملية حسابية صغيرة قام بها.

على الرغم من أن الإجابة تكون صحيحة عادةً، إلا أن هذه العملية بطيئة ومكلفة. الأمر يشبه توظيف مهندس معماري ماهر لبناء بيت عصافير بسيط، لكن هذا المهندس يقضي ثلاثة أيام في رسم المخططات، وحساب خصائص ألياف الخشب، وكتابة تاريخ النجارة قبل أن يدق مسماراً واحداً.

من ناح otra، لديك متدرب نشيط وسريع (النموذج اللغوي الصغير أو SLM). هو سريع ورخيص، ولكن إذا سألته ببساطة السؤال الصعب، فغالباً ما يخمن بشكل خاطئ أو يتعثر.

الحل: فريق "التاندم" (Tandem)

يقترح المؤلفون طريقة جديدة للعمل تسمى Tandem. بدلاً من ترك البروفيسور يقوم بكل العمل بمفرده أو ترك المتدرب يخمن بعشوائية، يعملان معاً في علاقة "مُوجّه ومتدرب".

إليك كيف يعمل نظام "Tandem":

1. المُوجّه يقدم "ورقة غش" (لا الكتاب بأكمله)

النموذج الكبير (المُوجّه) لا يكتب المقال بأكه. بدلاً من ذلك، يقوم بسرعة بإنشاء "ورقة غش" مكثفة تحتوي على أربع رؤى رئيسية:

• الهدف: ما الذي نحاول حله فعلياً؟
• التخطيط: ما هي الاستراتيجية الشاملة؟
• الاسترجاع: ما هي الحقائق أو الصيغ المحددة التي نحتاجها؟
• الإجراء: ما هي الخطوات المنطقية الأولى؟

تخيل هذا كأن البروفيسور يعطي المتدرب خريطة مفصلة وبوصلة، بدلاً من أن يقود السيارة بدلاً منه.

2. المتدرب يقود السيارة

يأخذ النموذج الصغير (المتدرب) "ورقة الغش" هذه ويستخدمها للقيام بالعمل الشاق. بما أن لديه الخريطة، فلن يضل الطريق. هو يقود السيارة (يولد خطوات الاستنتاج) بشكل أسرع وأرخص مما لو كان البروفيسور قد فعل ذلك بمفرده.

3. آلية "علامة التوقف" (التقييم الواعي بالتكلفة)

هذا هو الجزء الأكثر ذكاءً في النظام. النظام لا يتبع قاعدة عمياء مثل "اجعل البروفيسور يتحدث دائماً لمدة 5 دقائق".

بدلاً من ذلك، يمتلك النموذج الصغير مقياس ثقة مدمجاً. أثناء قراءة تلميحات المُوجّه، يتحقق من شعوره الداخلي:

• "هل أفهم هذا جيداً بما يكفي لإنهاء العمل؟"
• "هل أنا مرتبك أم أشعر بالأمان؟"

إذا شعر النموذج الصغير بالأمان (انخفاض "الاعتلاج" أو عدم اليقين)، فإنه يرفع علامة التوقف. يتوقف المُوجّه عن الكلام فوراً، ويكمل النموذج الصغير الإجابة. إذا كان لا يزال مرتبكاً، يضيف المُوجّه مزيداً من التوجيه البسيط فقط.

النتائج: أسرع، أرخص، وأذكى

اختبرت الورقة البحثية هذا على مسائل رياضية صعبة ومهام توليد الأكواد البرمجية. وإليكم ما وجدوه:

• النقطة المثالية: الفريق المكون من "عقل كبير" (نموذج 32B) و"عقل صغير" (نموذج 7B) يعملان معاً حلوا المسائل بشكل أفضل من العقل الكبير وحده.
• التوفير: حققوا هذه الدقة الأعلى مع 40% أقل من قوة الحوسبة (والمال) في نفس الوقت.
• النقل السحري: تم تدريب "مقياس الثقة" (المصنف الذي يقرر متى يتوقف) على المسائل الرياضية. ومن المثير للدهشة، أنه عمل بنفس الكفاءة على مسائل البرمجة دون الحاجة إلى إعادة تدريبه. إنه يشبه سائقاً تعلم التوقف عند الإشارات الحمراء في نيويورك ويمكنه فوراً التوقف عند الإشارات الحمراء في طوكيو دون الحاجة إلى درس جديد.

لماذا هذا مهم؟

تجادل الورقة بأننا لسنا بحاجة لإجبار أكبر نماذجنا وأكثرها تكلفة على أداء كل خطوة استنتاجية. من خلال السماح لها بالعمل كـ قادة استراتيجيين بينما تتولى النماذج الأصغر والأرخص مهمة التنفيذ، يمكننا الحصول على أفضل ما في العالمين: التفكير العميق لنموذج ضخم مع سرة وكفاءة نموذج صغير.

باختصار: لا تسأل المدير التنفيذي عما إذا كان يجب عليه أرشفة الأوراق. اطلب من المدير التنفيذي كتابة المذكرة، واترك المساعد الفعال يقوم بأرشفة الأوراق. نظام "Tandem" يؤتمت هذا التقسيم المثالي للعمل.