Rule-Compliant Visual Spatial Planning for Multimodal Large Language Models
تقدم هذه الورقة RuleMaze، وهو معيار قابل للتحكم لتقييم التخطيط البصري المكاني المتوافق مع القواعد في النماذج اللغوية الكبيرة متعددة الوسائط، إلى جانب إطار عمل هجين لتوليد القواعد وطريقة التخطيط متعدد الوسائط المنفصل (DMP) التي تحسن بشكل كبير من الالتزام بالقواعد والتعميم من خلال فصل الإدراك والتنفيذ والتحقق.
المؤلفون الأصليون:Yu Chen, Ting Lei, Yaoyi Li, Jia Cai, Zhecen Wu, Yang Liu
تخيل عالماً يستطيع فيه الحاسوب النظر إلى صورة لا ليفهم فقط ما بداخلها، بل كيف يتحرك من خلالها. هذا هو الوعد الذي تقدمه النماذج اللغوية الكبيرة متعددة الوسائط، وهي جيل جديد من الذكاء الاصطناعي يجمع بين القدرة على القراءة والاستنتاج والقدرة على الرؤية. لقد تعلمت هذه الأنظمة بالفعل وصف الصور، والإجابة عن أسئلة حول الصور الفوتوغرافية، وحل الألغاز البصرية. ولكن هناك فجوة في معرفتها؛ فبينما يمكنها التنقل في مسار بسيط، فإنها تواجه صعوبة عندما يكون المسار مسدوداً بمجموعة محددة من التعليمات التي تتغير من لحظة إلى أخرى. في العالم الحقيقي، يجب على مركبة ذاتية القيادة أو روبوت مساعد ألا يجد طريقاً من النقطة (أ) إلى النقطة (ب) فحسب، بل يجب عليه أيضاً الالتزام بمجموعة متغيرة باستمرار من القواعد، مثل "لا تنعطف يساراً عند الإشارة الحمراء" أو "تجنب الأرضية المبللة". وغالباً ما تفشل النماذج الحالية هنا، حيث تتعامل مع القواعد كاقتراحات بدلاً من كونها قيوداً صارمة، أو تنساها تماماً أثناء تخطيطها لخطوتها التالية.
ولفهم سبب صعوبة ذلك، أنشأ الباحث يو تشن وفريقه في جامعة بكين وشركة "يين وانغ" للتقنيات الذكية بيئة اختبار جديدة تسمى "RuleMaze" (متاهة القواعد). لقد بنوا بيئة رقمية مليئة بالمتاهات، لكنها لم تكن مجرد ألغاز من الجدران والمساحات المفتوحة؛ بل جاءت كل متاهة مع مجموعة فريدة من القواعد باللغة الطبيعية، مكتوبة بلغة إنجليزية بسيطة، والتي تحدد بدقة كيفية تحرك الشخصية. كانت بعض القواعد بسيطة، مثل "لا يمكنك الخطو على المربعات الوردية". وكانت بعضها الآخر معقدة، تتطلب من الشخصية تذكر أين كانت أو تغيير سلوكها بناءً على موقعها الحالي، مثل "إذا كنت تقف على مربع برتقالي، يجب أن تكون خطوتك التالية للأعلى". وقد قام الباحثون بتوليد آلاف من هذه السيناريوهات باستخدام طريقة تحول القواعد المكتوبة بشرياً تلقائياً إلى منطق صارم يمكن للآلة التحقق منه. وقد سمح هذا باختبار ما إذا كان بإمكان الذكاء الاصطناعي فهم واتباع قاعدة ما حقاً أثناء التنقل في مساحة بصرية، بدلاً من مجرد التخمين للمسار الصحيح بناءً على الأنماط التي رآها من قبل.
اكتشف الفريق أن مجرد مطالبة نموذج قوي بالنظر إلى المتاهة وكتابة قائمة بالتحركات لا يعمل بشكل جيد، خاصة عندما تكون القواعد جديدة أو معقدة. فعندما تتغير القواعد، غالباً ما تنسى النماذج التعليمات أو تنتهكها دون أن تدرك ذلك. ولحل هذه المشكلة، اقترح الباحثون طريقة جديدة للتفكير تسمى "التخطيط متعدد الوسائط المنفصل" (Disentangled Multimodal Planning). وبدلاً من إجبار النموذج على القيام بكل شيء في آن واحد —رؤية الصورة، والتفكير في القواعد، واتخاذ الخطوة التالية كلها في خطوة واحدة— قاموا بتقسيم المهمة إلى ثلاث وظائف منفصلة وواضحة. أولاً، يستخدم النموذج أداة للنظر في المتاهة وتحديد مكان وجوده والرموز الخاصة القريبة منه. ثانياً، يستخدم أداة لتجربة حركة ما ورؤية كيف سيبدو الشكل الجديد. ثالثاً، والأهم من ذلك، يستخدم أداة مخصصة للتحقق مما إذا كانت الحركة التي قام بها للتو تتبع القواعد. تعمل أداة التحقق هذه كحكم صارم يقول "نعم" أو "لا" فوراً لكل خطوة قبل أن يُسمح للنموذج بالاستمرار.
لقد غير هذا النهج النتيجة بشكل دراماتيكي. ففي اختباراتهم، سمحت الطريقة الجديدة للنماذج باتباع القواعد بنسبة نجاح بلغت 90 بالمائة في مهام لم يسبق لها رؤيتها، وهو تحسن هائل مقارنة بالطرق السابقة التي كانت تفشل تماماً أمام القواعد الجديدة. ووجد الباحثون أنه عندما أُجبر النموذج على مراجعة عمله عند كل خطوة، توقف عن ارتكاب أنواع الأخطاء التي تحدث عندما يحاول النظام التخطيط لرحلة كاملة في ذهنه دون التحقق من كل خطوة. تعلم النموذج أن يتوقف، وينظر إلى القاعدة، ويتحقق من الحركة، ثم يمضي قدماً فقط. وقد نجح هذا حتى عندما كانت القواعد صعبة، وتتضمن شروطاً متعددة أو تتطلب من النموذج تذكر الأشياء التي التقطها في طريقه. تشير الدراسة إلى أنه لكي يكون الذكاء الاصطناعي موثوقاً حقاً في البيئات المعقدة المقيدة بالقواعد، لا يمكنه أن يكون مجرد "مخمن ذكي"؛ بل يجب تزويده بنظام يجبره على التحقق من أفعاله مقابل القيود التي يواجهها في العالم الذي يتنقل فيه. ومن خلال فصل فعل الرؤية، وفعل الحركة، وفعل التحقق، أظهر الباحثون أن الآلات يمكنها تعلم اتباع التعليمات بمستوى من الانضباط كان بعيد المنال سابقاً.
ملخص تقني: التخطيط المكاني البصري المتوافق مع القواعد للنماذج اللغوية الكبيرة متعددة الوسائط
1. تعريف المشكلة
أظهرت النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) قدرات كبيرة في الاستدلال البصري وفهم اللغة. ومع ذلك، لا تزال قدرتها على إجراء التخطيط المكاني البصري المتوافق مع القواعد غير مستكشفة بشكل كافٍ. تتطلب هذه القدرة المحددة من الوكيل القيام بما يلي في آن واحد:
إدراك التخطيطات المكانية البصرية المعقدة.
تفسير القواعد الصريحة باللغة الطبيعية (والتي قد تكون ديناميكية أو غير مسبوقة).
توليد خطط عمل متعددة الخطوات تلتزم بدقة بهذه القيود.
تفترض الاختبارات المعيارية والأساليب الحالية غالبًا التخطيط غير المقيد أو التحسين لأهداف مفردة دون فرض الامتثال للقواعد الخارجية. تتطلب التطبيقات في العالم الحقيقي، مثل القيادة الذاتية في بيئات تنظيمية جديدة أو الذكاء المتجسد، أن تعمل الوكلاء تحت قيود متغيرة وسياقية بدلاً من الأهداف العالمية الثابتة. تعاني الأساليب الحالية من هذا بسبب:
ندرة البيانات: نادراً ما توفر المشاهد الواقعية تسلسلات حركة ذات حقيقة أرضية (ground-truth) لمجموعات قواعد متغيرة ديناميكياً، مما يجعل التعلم الخاضع للإشراف مكلفاً وصعب التوسع.
القيود المنهجية: غالباً ما تؤدي الصيغ النهائية (end-to-end) إلى خلط الإدراك والتنفيذ والاستدلال على القواعد. يؤدي هذا إلى سلوك هش عندما تواجه النماذج قيوداً متعددة الخطوات أو قواعد جديدة، حيث يجب على النموذج إعادة تعلم القدرات المستقرة كلما تغيرت القواعد.
2. المنهجية
يقترح البحث حلاً ذا شقين: اختبار معياري قابل للتحكم للتقييم، وإطار عمل مفكك للتخطيط.
2.1 RuleMaze: اختبار معياري قابل للتحكم
لمعالجة نقص التقييم المنهجي، قدم المؤلفون RuleMaze، وهو مجموعة بيانات من أزواج (المتاهة-القاعدة) المولدة إجرائياً.
تهجين اللغة-المنطق-الوظيفة: لتمكين بناء القواعد القابل للتوسع دون هندسة يدوية، اقترح المؤلفون مسار عمل يتكون من:
ابتكار القواعد: تقوم النماذج اللغوية الكبيرة بتوليد قواعد متنوعة وغنية لغوياً باللغة الطبيعية (مثلاً: "إذا كنت في منطقة برتقالية، تحرك للأعلى").
الصياغة المنطقية: يتم ترجمة القواعد إلى تمثيلات منطقية مهيكلة (مثلاً: Zone(t,orange)→Move(t,up)).
توليد المصدق (Validator): تقوم النماذج اللغوية الكبيرة تلقائياً بتوليد دوال بايثون قابلة للتنفيذ (مصدقات) تتحقق مما إذا كان المسار المرشح يستوفي القاعدة المنطقية.
المطابقة الاستدلالية القائمة على القيود: يتم استخدام استراتيجية لربط القواعد بالمتاهات التي تكون فيها القاعدة ذات معنى. يتم اختيار متاهة لقاعدة ما فقط إذا كانت:
القاعدة تقيد مجموعة المسارات الصالحة (القدرة على التقييد - Restrictiveness).
يوجد حل واحد على الأقل متوافق مع القاعدة (الوجود - Existence).
سيناريوهات مجموعة البيانات:
RegularMaze: تركز على الأهداف الثابتة والقيود المحلية (مثل تجنب المناطق الملونة).
QuestMaze: تقدم كائنات دلالية (مفاتيح، كنوز) وقواعد تعتمد على الحالة، مما يتطلب الذاكرة والتعامل مع ظروف الأهداف الديناميكية.
مستويات الصعوبة: تُصنف القواعد إلى سهلة، متوسطة، أو صعبة بناءً على التعقيد النحوي (عدد الروابط المنطقية) لصياغاتها الرسمية.
2.2 التخطيط متعدد الوسائط المفكك (DMP)
لتحسين التعميم والامتثال للقواعد، يقترح المؤلفون DMP، وهو إطار عمل يعمل على نمذجة عملية التخطيط بشكل وحداتي بدلاً من الاعتماد على التدريب النهائي الشامل.
بنية قائمة على الأدوات: يزود DMP النموذج اللغوي الكبير بمجموعة من الأدوات القابلة للتفسير والاستدعاء، منظمة في ثلاث فئات:
أدوات الإدراك: استخراج المعلومات الرمزية من صورة المتاهة (مثل تحديد نوع الخلية الحالية، مواقع البداية/الهدف).
أدوات التنفيذ: تحديث الحالة البصرية بشكل حتمي عن طريق تطبيق إجراءات الحركة (مثل ExecuteMove).
أدوات التحقق: تقييم الامتثال للقواعد وتحقيق الهدف باستخدام المصدقات التي تم توليدها أثناء بناء مجموعة البيانات (مثل VerifyRule و VerifyEndpoint).
عملية اتخاذ القرار التكرارية: يعمل النموذج كـ "متحكم" يتناوب بين الاستدلال الداخلي واستدعاء الأدوات الخارجية. في كل خطوة، يقوم بتوليد برنامج لاختيار أداة وتحديد معاملاتها.
الميزة الرئيسية: من خلال إخراج المكونات المستقرة (الإدراك، التنفيذ، التحقق) إلى أدوات، يحتاج المتحكم فقط إلى تعلم متى و كيف ينسق بينها. وهذا يسمح للنظام بالتعميم على قواعد جديدة دون إعادة تدريب المتحكم الأساسي، حيث تتطلب القواعد الجديدة ببساطة مصدقات جديدة.
3. المساهمات الرئيسية
اختبار RuleMaze المعياري: اختبار معياري مبدئي يتميز بمتاهات متنوعة مولدة إجرائياً ومجموعات قواعد مبنية بشكل منهجي، مدعومة بأدوات تحقق قابلة للتنفيذ لضمان تقييم غير غامض.
تهجين اللغة-المنطق-الوظيفة: مسار عمل لبناء مجموعات القواعد بشكل آلي وقابل للتوسع مع تعقيد محكوم، مما يلغي الحاجة إلى الهندسة اليدوية للقواعد.
التخطيط متعدد الوسائط المفكك (DMP): إطار عمل يعزز اتباع القواعد من خلال فصل الإدراك والتنفيذ والتحقق إلى أدوات قابلة لإعادة الاستخدام، مما يتيح استدلالاً متعدد الخطوات وقابلاً للتفسير تحت القيود.
التحقق التجريبي: تجارب واسعة النطاق تثبت أن DMP يتفوق بشكل كبير على نماذج التخطيط النصي النهائية، خاصة في التعميم بأسلوب "الصفر محاولة" (zero-shot) على القواعد غير المرئية والمعقدة.
4. النتائج التجريبية
قيم المؤلفون DMP (باستخدام نموذج Qwen2.5-VL-3B كقاعدة) مقابل نماذج أساسية تشمل التلقين المباشر (Direct prompting)، وسلسلة الأفكال (CoT)، والضبط الدقيق الخاضع للإشراف (SFT)، والنماذج المملوكة (Gemini 2.5 Pro/Flash).
أداء RegularMaze:
القواعد المرئية: حقق DMP نسبة 98.0% في المطابقة التامة (EM)، متفوقاً على SFT (94.0%).
القواعد غير المرئية: حقق DMP نسبة 90.0% في المطابقة التامة، وهو تحسن كبير عن SFT (70.3%)، وأعلى بكثير من الأساليب القائمة على التلقين (التي عانت من نسبة قريبة من 0% للنماذج مفتوحة المصدر).
التعقيد: حافظ DMP على أداء عالٍ عبر مستويات تعقيد القواعد السهلة والمتوسطة والصعبة، بينما اتسعت الفجوات في الأداء للنماذج الأساسية مع زيادة التعقيد.
أداء QuestMaze:
في البيئة الدلالية الأكثر تعقيداً، حقق DMP نسبة 91.4% في المطابقة التامة للقواعد المرئية و88.0% للقواعد غير المرئية.
حسن DMP أداء القواعد غير المرئية بنسبة +31.7% مقارنة بـ SFT (88.0% مقابل 56.3%).
بينما أظهرت النماذج المملوكة مثل Gemini 2.5 Pro أداءً أقوى في QuestMaze مقارنة بـ RegularMaze، إلا أن DMP لا يزال يتفوق عليها، خاصة في سيناريوهات القواعد الصعبة.
التحليل النوعي: غالباً ما فشلت النماذج الأساسية عن طريق انتهاك القواعد بعد دخول المناطق المقيدة أو التنازل عن القواعد بشكل استدلالي عند مواجهة عائق. نجح DMP في استخدام أدوات التحقق خطوة بخوة لاكتشاف الانتهاكات المحتملة ومراجعة الخطط قبل التنفيذ.
5. الأهمية والادعاءات
يدعي البحث أن RuleMaze يؤسس إطاراً مبدئياً لدراسة التخطيط المكاني القائم على القواعد والمفسر والمترسخ في النماذج اللغوية الكبيرة متعددة الوسائط. تكمن أهمية العمل في:
معالجة الفجوة: يستهدف القدرة الحرجة ولكن غير المدروسة كفاية المتمثلة في العمل تحت قيود قواعد صريحة وديناميكية، وهو أمر ضروري للذكاء المتجسد في العالم الحقيقي.
القابلية للتوسع: يحل مسار التهجين المقترح مشكلة نقص البيانات من خلال أتمتة إنشاء أزواج (القاعدة-المتاهة) المعقدة.
التعميم: يوضح إطار عمل DMP أن تفكيك القدرات المستقرة عن منطق التنسيق يسمح للنماذج بالتعميم على قواعد لم تكن مرئية سابقاً دون إعادة تدريب، مما يوفر مساراً نحو وكلاء متعددي الوسائط أكثر قوة وقدرة على التكيف.
خلص المؤلفون إلى أنه على الرغم من أن النماذج اللغوية الكبيرة الحالية تظهر وعوداً، إلا أن الأساليب المهيكلة مثل DMP ضرورية لتحقيق تخطيط مكاني موثوق ومتوافق مع القواعد في البيئات المعقدة.