Rethinking Reasoning with MDLMs: Early Exits, Post-hoc Reasoning, and Beyond
تقدم هذه الورقة البحثية تقنية "الاستدلال كعملية إكمال للفراغات" (reasoning-as-infilling) لنماذج اللغات الانتشارية المقنعة (MDLMs)، وهي تقنية تفتح آفاقاً لقدرات فريدة مثل الخروج المبكر والاستدلال البعدي من خلال التحديد الصريح لمناطق الإجابة، مما يثبت في النهاية أن نماذج MDLMs يمكنها تحقيق أداء استدلالي يضاهي المسارات المكتوبة بشرياً وتوفير تقييم أكثر دقة للخطوات المتوسطة مقارنة بالنماذج ذات التوليد الذاتي (autoregressive models).
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت كيفية حل لغز محير. لفترة طويلة، كانت الطريقة المثلى لتعليم الروبوت هي جعله يقرأ قصة كلمة بكلمة، متوقعاً الكلمة التالية بناءً على كل ما قرأه حتى الآن. هذا يشبه طالباً يؤدي اختباراً حيث يجب عليه كتابة إجابته سطراً بسطر، دون أن يُسمح له أبداً بالنظر مسبقاً أو تغيير ما كتبه بالفعل. وبينما تنجح هذه الطريقة جيداً في كثير من الأمور، إلا أن بها عيباً: بمجرد أن يكتب الروبوت كلمة خاطئة، يظل عالقاً مع هذا الخطأ، ولا يمكنه بسهولة "رؤية" الإجابة النهائية بينما لا يزال في مرحل اكتشاف الخطوات للوصول إليها.
مؤخراً، بدأ العلماء في تجربة نوع مختلف من أدمغة الروبوتات يسمى "نموذج لغة الانتشار المقنع" (MDLM). بدلاً من القراءة كلمة بكلمة، تخيل أن الروبوت أُعطي صفحة تغطي بعض كلماتها قصاصات ورقية لاصقة. مهمته هي تخمين ما تحت هذه القصاصات، لكن السحر يكمن في أنه يمكنه النظر إلى الصفحة بأكملة دفعة واحدة وتخمين جميع الكلمات المفقودة في وقت واحد، أو بأي ترتيب يفضله. الأمر يشبه امتلاك لغز يمكنك فيه ملء الزوايا، أو المنتصف، أو الحواف في آن واحد. تستكشف هذه الورقة البحثية ما إذا كان هذا النوع من التفكير بأسلوب "ملء الفراغات" هو في الواقع أفضل لحل المسائل الرياضية والألغاز المنطقية مقارنة بالأسلوب التقليدي "كلمة بكلمة". أراد الباحثون معرفة ما إذا كان بإمكانهم استخدام هذا الأسلوب الجديد لجعل الروبوت أكثر ذكاءً، وأسرع، وأكثر صدقاً بشأن معرفته بالإجابة.
يقترح الباحثون، بقيادة زكريا هورفيتز وراغاف سينغال، خدعة جديدة ذكية تسمى "الاستدلال كعملية ملء فراغات". فبدلاً من مجرد طلب "التفكير ثم الإجابة" من الروبوت، يعطونه نموذجاً يحتوي على مربعات محددة: مربع كبير لخطوات التفكير، ومربع أصغر محدد بوضوح في النهاية للإجابة النهائية. ثم يقومون بملء مربع الإجابة قبل أن يبدأ الروبوت في التفكير. قد يبدو هذا معكوساً، لكنه يفتح آفاقاً خارقة.
أولاً، لأن الروبوت يعرف بالضبط مكان مربع الإجابة، يمكنه استراق النظر إلى مدى ثقته بنفسه بينما لا يزال يكتب خطوات التفكير. إذا أصبح الروبوت متأكداً جداً من الإجابة داخل ذلك المربع، فيمكنه التوقف عن التفكير فوراً وإخراج النتيجة فقط. تُظهر الورقة البحثية أنه في اختبار رياضي يسمى GSM8k، تسمح استراتيجية "الخروج المبكر" هذه للروبوت بإنهاء العمل أسرع بمقدار 1.3 مرة دون أي خسارة تذكر في الدقة. وعند دمجها مع حيل أخرى لزياة السرعة، يمكنها أن تعمل أسرع بـ 4 مرات. إنه يشبه طالباً يدرك في منتصف مقال طويل أنه يعرف الخاتمة بالفعل، فيكتفي بكتابة الجملة الأخيرة ويسلم الاختبار مبكراً.
ثانياً، تسمح هذه الطريقة بـ "الاستدلال اللاحق". عادةً، إذا أخطأ الروبوت في مسألة رياضية، فمن الصعب تعليمه الطريقة الصحيحة للتفكير لأنه لا يعرف الإجابة بعد. ولكن مع هذه الطريقة الجديدة، إذا أعطيت الروبوت الإجابة الصحيحة أولاً، يمكنه العمل بشكل عكسي لتوليد شرح مثالي خطوة بخطوة لكيفية الوصول إلى هناك. وجد الباحثون أن تدريب الروبوت على هذه الشروحات "المولدة عكسياً" حسن درجاته في الرياضيات بنسبة 14.9%. هذه قفزة هائلة، تضاهي التحسن الذي ستحصل عليه إذا وظفت بشرًا لكتابة الشروحات المثالية ليدرسها الروبوت. وهذا يشير إلى أن الروبوت يمكنه تعليم نفسه باستخدام "معرفته المستقبلية".
أخيراً، توضح الورقة البحثية أن هذه الطريقة تساعد الروبوت على تقييم عمله أثناء القيام به. فبينما يكتب الروبوت خطوات تفكيره، يمكنه التحقق باستمرار: "إذا أكملت تفكيري بهذه الطريقة، ما مدى احتمالية أن أحصل على الإجابة التي أهدف إليها؟". وجد الباحثون أن درجة التقييم الذاتي هذه أفضل بكثير في التنبؤ بما إذا كانت الإجابة النهائية ستكون صحيحة أم لا، مقارنة بالدرجات التي تولدها الروبوتات التقليدية. وبينما غالباً ما تكتشف الروبوتات القديمة أنها مخطئة في نهاية المطاف، فإن هذا الروبوت الجديد يمكنه رصد الخطأ في وقت مبكر.
كما تشير الورقة البحثية إلى ما لا يعمل بشكل جيد. فقد اختبروا ترك الروبوت يملأ قطع اللغز بترتيب عشوائي تماماً (مثل القفز من الزاوية العلوية اليسرى إلى الزاوية السفلية اليمنى دون نمط معين). ووجدوا أنه بالنسبة للمسائل الرياضية، فإن هذا النهج الفوضوي يجعل الروبوت أسوأ في حلها، وغالباً ما يؤدي به إلى تخمين الإجابة الخاطئة أولاً ثم يحاول اختلاق قصة وهمية لتبريرها. يحتاج الروبوت إلى قدر من الهيكلية، مثل قالب "مربع الاستدلال" و"مربع الإجابة"، ليبقى على المسار الصحيح.
باختصار، تشير هذه الورقة إلى أنه من خلال تغيير الطريقة التي نطلب بها من الذكاء الاصطناعي التفكير — عبر إعطائه قالباً ليملأه بدلاً من صفحة فارغة ليكتب عليها — يمكننا جعل الروبوت أسرع، وأفضل في التعلم من أخطائه، وأكثر قدرة على مراجعة عمله. إنها ليست حلاً سحرياً يحل كل شيء، لكنها تقدم طريقة واعدة لبناء آلات استدلال أكثر ذكاءً وكفاءة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.