← أحدث الأبحاث
💬 NLP

MACRO: Markov Chain Routing of Transformer Layers

تقدم الورقة البحثية إطار العمل MACRO، الذي يعزز النماذج اللغوية الكبيرة من خلال تعلم سياسات توجيه طبقات ديناميكية ومخصصة للمهام عبر سلاسل ماركوف دون تعديل أوزان النموذج، محققاً تحسينات كبيرة في الدقة وأوقات بحث أسرع مقارنة بالطرق الحالية.

المؤلفون الأصليون: Paweł Batorski, Abtin Pourhadi, Akylgali Aitaza, Przemysław Spurek, Paul Swoboda

نُشر 2026-08-07
📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Paweł Batorski, Abtin Pourhadi, Akylgali Aitaza, Przemysław Spurek, Paul Swoboda

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك روبوتًا فائق الذكاء يقرأ الكتب ويجيب على الأسئلة. لكي يقوم بعمله، يمتلك الروبوت خط تجميع طويلًا يتكون من 28 أو 32 عاملًا صغيرًا (تسمى "طبقات"). في الإعداد القياسي، يجب على كل قطعة من المعلومات أن تمر بكل عامل من هؤلاء العمال، من الأول تمامًا إلى الأخير، في خط صارم وغير قابل للتغيير. الأمر يشبه حافلة مدرسية يجب أن تتوقف عند كل منزل في الشارع، حتى لو كان الراكب يحتاج فقط للنزول بعد ثلاث كتل سكنية. هكذا تعمل معظم نماذج الذكاء الاصطناوي اليوم: فهي تتبع جدولًا زمنيًا صارمًا، بغض النظر عن مدى سهولة أو صعوبة السؤال.

ولكن ماذا لو كان بإمكان الروبوت أن يكون أكثر مرونة؟ ماذا لو استطاع أن يقرر تخطي عامل لا داعي له، أو حتى العودة وسؤال عامل سابق ليدقق حساباته؟ هذه الفكرة تسمى "التوجيه الديناميكي" (dynamic routing). فكر في الأمر كجهاز تحديد المواقع (GPS) الذي لا يكتفي باتباع خريطة مطبوعة مسبقًا، بل يمكنه فورًا تغيير مساره لتجنب الازدحام المروري أو اتخاذ طريق مختصر. لقد حاول العلماء تعليم الذكاء الاصطناعي القيام بذلك، لكن معظم المحاولات كانت تشبه محاولة تعليم سائق حافلة القيادة عبر إعادة توصيل أسلاك المحرك في كل مرة يصادف فيها طريقًا جديدًا، أو عبر توظيف دليل منفصل ومكلف ليصرخ بالاتجاهات لكل راكب على حدة. هذا الأمر بطيء، ومكلف، وغالبًا ما يؤدي إلى تعطل عقل الروبوت.

هنا يأتي دور دراسة جديدة تسمى MACRO. فقد طرح الباحثون سؤالًا بسيطًا: هل يمكننا تعليم روبوت "مجمد" (أي روبوت لا يُسمح لنا بتغيير دماغه) كيف يجد مسارًا أفضل عبر عماله دون أن يكسر أي شيء؟ اكتشفوا أنه من خلال التعامل مع مسار الروبوت كلعبة "اختر مغامرتك الخاصة" بناءً على مجموعة من قواعد الاحتمالات البسيطة (تسمى "سلسلة ماركوف")، تمكنوا من إيجاد مسار أذكى بكثير. فبدلاً من إعادة تدريب الروبوت أو استخدام أدلة مكلفة، جعلوا الروبوت يستكشف مسارات مختلفة عبر بعض الأسئلة التدريبية، وتعلموا مجموعة واحدة من القواعد الخاصة بمهمة معينة للملاحة بين عماله، ثم استخدموا خدعة رياضية ذكية لتحديد المسار الأمثل لتلك المهمة المحددة. يتم بعد ذلك استخدام هذا المسار الأفضل بشكل موحد لجميع الأسئلة في تلك المهمة، بدلاً من حساب مسار جديد لكل سؤال جديد.

النتائج فعالة بشكل مثير للإعجاب. ففي مجموعة متنوعة من الاختبارات الرياضية والعلمية الصعبة، ساعدت تقنية MACRO الروبوت على أن يصبح أذكى بشكل ملحوظ. على سبيل المثال، في اختبار رياضي صعب يسمى GSM8K، قفز نموذج روبوت صغير من الإجابة على 43.4% من الأسئلة بشكل صحيح إلى 69.5% — وهي قفزة هائلة — فقط عبر تغيير الترتيب الذي زار به عماله. ووجد الباحثون أن هذه الطريقة كانت أسرع في الإعداد من الطرق السابقة؛ فبينما استغرقت الأساليب الأخرى ما يقرب من 15 ساعة لتحديد المسار الأفضل لمهمة ما، أنجزت MACRO ذلك في 1.6 ساعة فقط.

الرؤية الجوهرية هي أن الروبوت كان يعرف الإجابات بالفعل؛ كان يحتاج فقط إلى طريقة أفضل "للاستماع" إلى أفكاره الداخلية. فمن خلال السماح للروبوت بتخطي الخطوات غير الضرورية أو العودة لمراجعة عمله، أطلق الباحثون العنان لإمكاناته الكامنة دون تغيير وزن واحد في دماغ الروبوت. الأمر كما لو أنهم لم يعلموا الروبوت حقائق جديدة، بل علموه ببساطة كيف يفكر بكفاءة أكبر. تشير الدراسة إلى أنه بالنسبة للعديد من المهام المعقدة، كانت الإجابة موجودة بالفعل داخل النموذج؛ كنا نحتاج فقط إلى خريطة أفضل للعثور عليها.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💬 cs.CL →