ملخص تقني: التعلم مع الاستشراف (MnLP)

بيان المشكلة

تُعد مشكلات توجيه المركبات (VRP)، بما في ذلك مسألة البائع المتجول (TSP) ومسألة توجيه المركبات ذات السعة المحددة (CVRP)، تحديات من فئة "NP-hard" منتشرة في مجالات اللوجستيات والتخطيط الصناعي. وبينما برزت سياسات التوجيه العصبية، لا سيما تلك القائمة على بنيات "Transformer"، كبدائل فعالة للنماذج الاستدلالية التقليدية، إلا أن نماذج التدريب الحالية تواجه قيدًا جوهريًا.

تعتمد معظم أساليب التعلم الخاضع للإشراف (SL) للتوجيه العصبي على التنبؤ بالعقدة التالية. في هذا النموذج، يتم تدريب النموذج للتنبؤ فقط بالعقدة التالية المباشرة في المسار بناءً على الحالة الراهنة. ويرى المؤلفون أن هذا النهج يؤدي إلى صنع قرار قاصر النظر (Myopic decision-making). نظرًا لأن بناء حلول مسألة VRP هو مهمة تخطيط طويلة الأمد تتضمن مئات أو آلاف العقد، فإن التحسين المقتصر فقط على الخطوة التالية الفورية يفشل في استيعاب السياق بعيد المدى الضروري لتحقيق الأمثلية العالمية. ويؤدي هذا إلى تراكم الأخطاء والنزوع نحو الاستقرار في الحلول المحلية المثلى (Local optima)، خاصة مع زيادة حجم المسائل.

المنهجية: التنبؤ متعدد العقد الاستشرافي (MnLP)

لمعالجة قصر النظر في التنبؤ القياسي بالعقدة التالية، يقترح البحث التنبؤ متعدد العقد الاستشرافي (MnLP)، وهو استراتيجية تدريب مبتكرة توسع نطاق نموذج التعلم الخاضع للإشراف.

المفهوم الجوهري

يقدم MnLP آلية يتم من خلالها تدريب النموذج على التنبؤ بعدة عقد مستقبلية في آن واحد (على سبيل المثال، العقد الـ $K$ التالية) بالإضافة إلى العقدة التالية المباشرة. ويتم تحقيق ذلك من خلال وحدات MnLP سببية وقابلة للاستبعاد تعمل حصريًا خلال مرحلة التدريب.

البنية الهيكلية

تبني الإطار المقترح على نموذج المُشفر الخفيف والمُفكك الثقيل (LEHD):

1. المُشفر المشترك (Shared Encoder): يقوم مُشفر خفيف بمعالجة ميزات العقد الخام (مثل الإحداثيات) إلى تمثيلات (Embeddings) للعقد.
2. المُفكك الرئيسي (Main Decoder): يتنبأ بالعقدة التالية المباشرة ($x_t$) باستخدام آليات الانتباه القياسية.
3. وحدات MnLP: يتم إضافة سلسلة من $K$ وحدات مساعدة ($k=1, \dots, K$).
   • السلسلة السببية (Causal Chain): تتنبأ الوحدة رقم $k$ بالعقدة عند الخطوة $t+k$ ($x_{t+k}$). وهي تستقبل معلومات سياقية من الوحدة $(k-1)$ ومن التمثيل (Embedding) الحقيقي للعقدة عند الخطوة $t+k-1$. وهذا يفرض سلسلة سببية حيث تعتمد التنبؤات للخطوات المستقبلية على تسلسل الخطوات السابقة.
   • القابلية للتنفيذ (Feasibility): تحترم هذه الوحدات قيود المسألة (مثل العقد غير المزورة في TSP، أو قيود السعة في CVRP) من خلال حجب العقد غير الممكنة من النتائج (Logits).
   • القابلية للاستبعاد (Discardable): من المهم ملاحظة أن وحدات MnLP هذه تُزال أثناء عملية الاستدلال (Inference). حيث يُستخدم فقط رأس التنبؤ بالعقدة التالية الرئيسي، مما يضمن عدم وجود أي عبء حسابي إضافي وقت الاختبار.

هدف التدريب

هدف التدريب هو مجموع موزون لخسارة المهمة الرئيسية وخسائر الاستشراف المساعدة:
$$\mathcal{L} = \mathcal{L}_{\text{main}} + \gamma \mathcal{L}_{\text{MnLP}}$$
حيث أن:

• $\mathcal{L}_{\text{main}}$ هي خسارة الإنتروبيا المتقاطعة (Cross-entropy loss) القياسية للتنبؤ بالعقدة التالية.
• $\mathcal{L}_{\text{MnMP}}$ هي متوسط خسارة الإنتروبيا المتقاطة عبر وحدات الاستشراف الـ $K$.
• $\gamma$ هو معامل (Hyperparameter) يتحكم في وزن الإشراف المساعد، والذي يتم رفعه خطيًا خلال فترة التمهيد (Warm-up) لمنع المهمة المساعدة من الهيمنة على التدريب المبكر.

يعمل هذا الإشراف متعدد العمق كمنظم (Regularizer)، مما يشجع المُشفر على تعلم تمثيلات تلتقط التبعيات طويلة المدى وتحسن تخصيص الاعتمادات (Credit assignment) عبر التسلسل.

المساهمات الرئيسية

1. تصميم معماري مبتكر: تقديم وحدات MnLP التي تتيح التنبؤ متعدد الخطوات أثناء التدريب دون تغيير بنية الاستد أو إضافة زمن انتقال (Latency) أثناء الاستدلال.
2. الإشراف المساعد متعدد العمق: استراتيجية تدريب توجه النموذج لتوقع القرارات المستقبلية بما يتجاوز الخطوة التالية المباشرة، مما يقلل بفعالية من انحياز التعرض (Exposure bias) والسلوك القاصر النظر.
3. التحقق التجريبي: تجارب واسعة النطاق تثبت أن MnLP يعزز القدرة على التعميم عبر أحجام وتوزيعات مختلفة، ومعايير عالمية.

النتائج التجريبية

قيم المؤلفون نموذج MnLP على حالات TSP وCVRP بأحجام متفاوتة (100 إلى 1000 عقدة) وتوزيعات مختلفة (منتظمة، دورانية، انفجارية، ومعايير واقعية مثل TSPLib وCVRPLib).

• مكاسب الأداء: تفوق MnLP باستمرار على نموذج LEHD الأساسي. على سبيل المثال، في مسألة TSP مع 1000 عقدة، تحسنت فجوة الأمثلية من 3.563% (LEHD) إلى 2.852% (MnLP)، وهو تحسن نسبي قدره 20%.
• التعميم: أظهرت الطريقة قدرة فائقة على التعميم عبر الأحجام والتوزيعات المختلفة. وفي الحالات واسعة النطاق ($n=1000$)، اتسعت الفجوة في الأداء بين MnLP والنماذج الأساسية، مما يشير إلى أن آلية الاستشراف فعالة بشكل خاص للتخطيط طويل الأمد والمعقد.
• المعايير الواقعية: حقق MnLP نتائج هي الأفضل حاليًا (SOTA) بين سياسات التوجيه العصبية في TSPLib وCVRPLib، متفوقًا على استراتيجيات التدريب المتقدمة الأخرى مثل POMO (القائم على التعلم التعزيزي) وSA-DABL (التعلم الخاضع للإشراف مع التعزيز).
• الكفاءة: بما أن وحدات MnMP تُستبعد عند الاستدلال، فإن الطريقة تحافظ على نفس سرعة الاستد الخاصة بنموذج LEHD الأساسي.

الأهمية والادعاءات

يزعم البحث أن MnLP يعالج عائقًا حرجًا في التوجيه التوافقي العصبي: وهو عدم قدرة التنبؤ بالعقدة التالية القياسي على التقاط إشارات التخطيط طويلة الأمد. ومن خلال حقن الفهم السياقي بعيد المدى في عملية التدريب دون المساس بكفاءة الاستدلال، يوفر MnLP طريقة قابلة للتوسع وفعالة لتحسين سياسات التوجيه العصبية.

يضع المؤلفون MnLP كاستراتيجية تدريب قابلة للتعميم يمكن دمجها بسلاسة في بنيات عصبية متنوعة. ويجادلون بأن نجاح MnLP يؤكد الفرضية القائلة بأن الإشراف متعدد الخطوات ضروري لتدريب سياسات عصبية قوية قادرة على حل مشكلات التوجيه واسعة النطاق والمعقدة، مما يسد الفجوة بين صنع القرار المحلي والأمثلية العالمية.