MemVLN: Episodic and Procedural Memory for Vision-and-Language Navigation
يُعد MemVLN إطار عمل للملاحة البصرية واللغوية في الوقت الفعلي، حيث يحقق أداءً هو الأفضل في فئته وبسرعة استدلال تبلغ 14 إطاراً في الثانية من خلال دمج ذاكرة عرضية هرمية للاحتفاظ الفعال بالتاريخ طويل المدى مع ذاكرة إجرائية تستخدم إجراءات ذرية متوسطة المستوى لتجاوز زمن تأخير فك الترميز ذاتي الانحدار.
تخيل أنك تحاول تعليم روبوت كيف يسير داخل منزل لم يره من قبل، مسترشداً فقط بصوت يقول: "اذهب إلى المطبخ، انعطف يساراً عند المزهرية الزرقاء، وتوقف بجانب الثلاجة". هذا هو عالم الملاحة عبر الرؤية واللغة (VLN). إنه فرع من فروع الروبوتات والذكاء الاصطناعي حيث يجب على العميل الحاسوبي فهم التعليمات المنطوقة والنظر إلى العالم من خلال كاميرا لتحديد وجهته التالية. الجزء الصعب هو أن الروبوت لا يمكنه مجرد القفز من مكان إلى آخر كما في ألعاب الفيديو؛ بل يتعين عليه اتخاذ إجراءات حقيقية خطوة بخطوة في مساحة مستمرة. وللقيام بذلك بشكل جيد، يحتاج الروبوت إلى قوتين خارقتين: ذاكرة طويلة المدى لتذكر من أين بدأ وإلى أين يتجه (حتى لا يضيع)، وردود فعل سريعة للاستجابة فوراً لما يراه الآن. إذا كان الروبوت بطيئاً جداً في التفكير، فسيصطدم بالجدران؛ وإذا نسي الماضي، فسوف يدور في حلقات مفرغة. لقد حاول العلماء بناء روبوتات يمكنها القيام بكليهما في وقت واحد، لكنهم عادة ما يضطرون للاختيار بين أن يكون الروبوت ذكياً أو سريعاً.
إليك MemVLN، وهو "دماغ روبوت" جديد صُمم ليكون قادراً على الجمع بين الميزتين معاً. أدرك الباحثون وراء هذا المشروع أن الروبوتات الحالية تعاني لأنها تحاول تذكر كل تفصيل من رحلتها بنفس الجودة العالية، مما يبطئ حركتها بشكل كبير. يحل MemVLN هذه المشكلة من خلال محاكاة كيفية عمل الذاكرة البشرية فعلياً؛ حيث يقسم ذاكرته إلى نوعين خاصين: الذاكرة العرضية (Episodic Memory) والذاكرة الإجرائية (Procedural Memory). فكر في الذاكرة العرضية كألبوم صور تكون فيه الصور الأخيرة عالية الدقة، بينما تُختصر الصور الأقدم إلى صور مصغرة جداً. هذا يسمح للروبوت بالحفاظ على صورة واضحة لما هو موجود فيه الآن، مع استمرار تذكره للشكل العام للمسار الذي اتخذه قبل ساعات، دون أن يثقله الكثير من البيانات. أما الذاكرة الإجرائية، فهي تشبه "ذاكرة العضلات" عند القيادة أو الكتابة على لوحة المفاتيح. فبدلاً من أن يتوقف الروبوت ليكتب بعناً جملة طويلة مثل "سأنعطف الآن يساراً وأمشي للأمام"، فإنه يستخدم مفردات مختصرة من "رموز أفعال" جاهزة. وهذا يسم يسمح له باتخاذ القرارات في لمح البصر، متجاوزاً عملية التفكير البطيئة خطوة بخطوة التي تسبب التأخير عادةً.
يقدم البحث إطار عمل MemVLN الذي ينجح في دمج هذين النوعين من الذاكرة للتنقل في البيئات المستمرة بسرعة تصل إلى 14 إطاراً في الثانية (FPS). ويمثل هذا قفزة كبيرة في السرعة مقارنة بالطرق السابقة، والتي يشير المؤلفون إلى أنها غالباً ما تكافح لتحقيق التوازن بين الحاجة إلى تاريخ بصري طويل والحاجة إلى التحكم في الوقت الفعلي. وباستخدام استراتيجية "الدقة الهرمية" لذاكرته العرضية، يعالج النظام المشاهد الفورية بدقة كاملة تبلغ 512 × 512، والمشاهد قصيرة المدى بدقة 256 × 256، والتاريخ طويل المدى بدقة مضغوطة تبلغ 128 × 128. يضمن ذلك بقاء الروبوت مركزاً على ما هو أمامه مباشرة مع الاحتفاظ بملخص مضغوط للماضي. وبالنسبة لذاكرته الإجرائية، استبدل الفريق الطريقة التقليدية البطيئة لتوليد الأفعال (والتي تستغرق أكثر من 300 مللي ثانية للتسلسل الواحد) بآلية "الفعل السريع" التي تستخدم رمزاً واحداً لتمثيل حركة معقدة، مما قلل الوقت إلى حوالي 70 مللي ثانية.
تشير نتائج اختبار MemVLN على معايير الملاحة القياسية، وتحديداً R2R-CE وRxR-CE، إلى أن هذا النهج يعمل بشكل جيد للغاية. وجد المؤلفون أن نموذجهم MemVLN-4B قد تفوق على بنية Qwen3-VL-4B الأساسية بنسبة 5.8% في معدل النجاح على مجموعة بيانات R2R وبنسبة 9.7% على مجموعة بيانات RxR. ولعل الأمر الأكثر إثارة للإعجاب هو أن النظام الجديد حقق تسريعاً بمقدار 7 أضعاف في زمن استجابة الاستدلال، مما سمح له بالعمل في الوقت الفعلي. ويجادل البحث صراحة ضد فكرة أن "دمج الرموز" (وهي طريقة تستخدمها أنظمة أخرى لضغط البيانات) هي الحل الأمثل، مشيراً إلى أنها تدمر الشبة المكانية اللازمة لتحديد المواقع المتقدم. بدلاً من ذلك، تحافظ "الدقة الهرمية" الخاصة بهم على هيكل الشبكة مع ضغط البيانات في الوقت نفسه. كما اختبر المؤلفون "أشكالاً" مختلفة لهرم الذاكرة ووجدوا أن التصميم "الصاعد"، الذي يمنح المشاهد الأحدث أعلى دقة، هو الأفضل أداءً. وبينما يعتمد النموذج فقط على فيديو RGB قياسي (تماماً مثل العين البشرية) واللغة الطبيعية، دون مستشعرات إضافية مثل كاميرات العمق، فإن هذا يشير إلى أن نظام الذاكرة الذكي يمكنه تعويض محدودية البيانات البصرية. وتؤكد الدراسة أنه من خلال الموازنة بين الملاحظات عالية الدقة للمشاهد الحديثة والتاريخ المضغوط، واستخدام مفردات الحركة السريعة، يمكن للروبوتات التنقل في المساحات المعقدة وغير المرئية بشكل أكثر فعالية وسرعة من أي وقت مضى.
ملخص تقني: MemVLN – الذاكرة العرضية والإجرائية للملاحة عبر الرؤية واللغة
بيان المشكلة
تتطلب الملاحة عبر الرؤية واللغة في البيئات المستمرة (VLN-CE) من الوكلاء المجسدين التنقل في مساحات ثلاثية الأبعاد غير مرئية بناءً على تعليمات لغوية طبيعية وملاحظات منظورية (egocentric) من نوع RGB، دون الاعتماد على خرائط مسبقة أو مستشعرات مساعدة مثل العمق أو قياس المسافات (odometry). ويكمن التحدي الجوهري في تلبية مطلبين متضاربين في آن واحد:
الاتساق طويل الأمد: يجب على الوكلاء الحفاظ على سجل بصري طويل الأمد لضمان اتساق المسار ومنع الانحراف عبر المسارات الممتدة.
زمن الاستجابة في الوقت الفعلي: يجب على الوكلاء تنفيذ إجراءات منخفضة المستوى بأقل زمن استجابة ممكن (معدل إطارات مرتفع FPS) للعمل بفعالية في البيئات المستمرة والديناميكية.
تعاني النهج الحالية من صعوبة في موازنة هذه الاحتياجات. فأساليب الفيديو غالبًا ما تضحي بالكثافة الزمنية عبر أخذ عينات من إطارات ثابتة ومتباعدة، بينما تقوم أساليب أخرى بضغط الرموز البصرية (tokens) عبر التجميع أو الدمج، مما يضحي بالتفاصيل المكانية ويتعارض مع الترميزات الموضعية المتقدمة (مثل M-RoPE) وبنى المحولات (transformers) الحديثة. علاوة على ذلك، فإن الطبيعة التوليدية الذاتية (auto-regressive) للنماذج اللغوية الكبيرة للرؤية واللغة (LVLMs) تفرض زمن استجابة كبير أثناء الاستدلال، مما يجعل التحكم في الوقت الفعلي أمرًا صعبًا.
المنهجية: إطار عمل MemVLN
MemVLN هو إطار عمل مبتكر للملاحة عبر الرؤية واللغة، صُمم للتوفيق بين سياق الفيديو طويل المدى والاستجابة في الوقت الفعلي من خلال محاكاة أنظمة الذاكرة البشرية. يدمج الإطار مشفرًا بصريًا لمعالجة الملاحظات المستمرة ونموذج لغة كبير (LLM) لتفسير التعليمات وتوليد الإجراءات. تعتمد البنية على آليتين مستوحاتين من البيولوجيا:
1. الذاكرة العرضية بالدقة الهرمية
لإدارة السجلات البصرية الواسعة بكفاءة، يستخدم MemVLN استراتيجية الدقة الهرمية بدلاً من أخذ العينات الموحدة أو دمج الرموز.
الآلية: يتم تصنيف الملاحظات التاريخية إلى ثلاث طبقات زمنية: فورية، قصيرة المدى، وطويلة المدى.
الإطارات الفورية (الأحدث) تتم معالجتها بدقة عالية لالتقاط الإشارات المحلية الدقيقة.
الإطارات قصيرة وطويلة المدى يتم تقليل دقتها تدريجيًا (الضغط المكاني) للحفاظ على اتساق المسار العالمي مع تقليل عدد الرموز (tokens).
التعليل: يكشف تحليل الانتباه أن الملاحظات الأخيرة تهيمن على تركيز النموذج، بينما يوفر التاريخ البعيد السياق الضروري ولكنه يتطلب دقة إدراكية أقل.
الميزة: على عكس دمج الرموز، الذي يدمر الشبكة المكانية ثنائية الأبعاد الموحدة ويتعارض مع الترميزات الموضعية مثل M-RoPE، تقوم الدقة الهرمية بتقليل الدقة في مساحة البكسل الخام قبل عملية الترميز (tokenization). هذا يحافظ على طوبولوجيا مكانية صارمة، مما يضمن التوافق مع النماذج الأساسية لـ LVLM (مثل Qwen3-VL) وDeepStack.
2. الذاكرة الإجرائية للإجراء السريع
للتغلب على عقبة زمن الاستجابة الناتجة عن التوليد الذاتي التكراري، يقدم MemVLN آلية إجراء سريع مستوحاة من الذاكرة الإجرائية.
الآلية: بدلاً من توليد تسلسلات الإجراءات رمزًا تلو الآخر (على سبيل المثال، "انعطف يسارًا 30 درجة")، يقوم النموذج بربط إشارات التحكم المستمرة بمفردات مدمجة من رموز الإجراءات ذرية المستوى.
التنفيذ: هذه الإجراءات المعززة (مثل <a1> لـ "تحرك للأمام"، <a2> لـ "انعطف يسارًا") هي رموز مفردة ضمن مفردات النموذج اللغوي الكبير (LLM).
الفائدة: يسمح هذا للنموذج بالتنبؤ بقرارات ملاحية معقدة في تمريرة أمامية واحدة (one-shot decoding)، متجاوزًا حلقة التوليد التكرارية التي تسبب التأخير عادةً.
المساهمات الرئيسية
بنية MemVLN: نموذج مبتरीय للملاحة عبر الرؤية واللغة يستفيد بفعالية من الملاحظات البصرية طويلة المدى مع رفع سرعة الاستدلال إلى 14 إطارًا في الثانية (FPS).
آلية الذاكرة المستوحاة من البيولوجيا:
الذاكرة العرضية: استراتيجية دقة هرمية توازن بين الملاحة المحلية عالية الدقة والتاريخ المضغوط، مما يحسن إدارة الملاحظات دون زيادة ميزانية الرموز.
الذاكرة الإجرائية: وحدة إجراء سريع تستخدم مفردات الرمز الواحد للإجراءات متوسطة المستوى، مما يقلل زمن استجابة الاستدلال عبر تجاوز التوليد الذاتي التكراري.
أداء رائد (State-of-the-Art): التحقق من الأداء على معايير VLN-CE القياسية (R2R وRxR) باستخدام مدخلات RGB أحادية فقط، مما يثبت أن التعميم المتفوق يمكن أن يعوض نقص مستشعرات العمق أو البانوراما.
النتائج التجريبية
قام المؤلفون بتقييم MemVLN على معايير R2R-CE وRxR-CE (تقسيمات Val-Unseen) باستخدام العمود الفقري Qwen3-VL.
الأداء:
حقق MemVLN-8B نتائج رائدة مع 65.3% نجاح أوراكل (OS) و58.4% معدل نجاح (SR) في R2R، و66.0% معدل نجاح (SR) و57.3% نجاح مرجح بطول المسار (SPL) في RxR.
تفوق MemVLN-4B على النموذج المرجعي Qwen3-VL-4B بنسبة 5.8% في SR على R2R و9.7% في SR على RxR.
تفوق النموذج على الطرق القائمة على نقاط المسار (waypoints) والتحكم المستمر، وكذلك على مناهج VLM الأخرى (مثل NaVILA وUni-NaVid وStreamVLN)، رغم استخدامه لمدخلات RGB أحادية المنظر فقط.
الكفاءة:
حققت آلية الذاكرة الإجرائية تسريعًا بمقدار 7 أضعاف في زمن استجابة الاستدلال مقارنة بالتوليد الذاتي التكراري القياسي، مما رفع الإنتاجية من 2 إطار في الثانية إلى 14 إطارًا في الثانية.
أكدت دراسات الاستئصال (Ablation) أن وحدة الإجراء السريع حسنت SR بنسبة 1.8% على R2R و2.1% على RxR مع تقليل زمن الاستجافة بشكل جذري.
رؤى الاستئصال:
الدقة الهرمية: حقق تكوين "الصعود" (الذي يعطي الأولوية للإطارات الحديثة عالية الدقة) أفضل أداء، حيث حسن SR بنسبة 1.2% وSPL بنسبة 1.9% على R2R مقارنة بالنماذج المرجعية غير الهرمية.
بيانات التدريب: تحسن الأداء مع حجم البيانات. أظهر تضمين البيانات الاصطناعية المولدة عبر DAgger تحسنًا ملحوظًا في OS وSR، مما يسلط الض light على قيمة البيانات التفاعلية (on-policy).
الأهمية والادعاءات
يزعم البحث أن MemVLN يضع مسارًا قابلاً للتوسع ومتينًا لنشر نماذج VLN في البيئات المستمرة. من خلال فصل الحاجة إلى سياق طويل الأمد عن التكلفة الحسابية عبر الدقة الهرمية، وإلغاء زمن استجابة التوليد الذاتي التكراري عبر الذاكرة الإجرائية، يثبت MemVLN أن الملاحة عالية الأداء في الوقت الفعلي يمكن تحقيقها باستخدام مدخلات RGB أحادية فقط وبنى LVLM قياسية. يشير العمل إلى أن الوكلاء المجسدين في المستقبل يمكنهم الاعتماد على أطر عمل موحدة للرؤية واللغة تكون متسقة زمنيًا وسريعة الاستجابة في آن واحد، دون الحاجة إلى مستشعرات متخصصة أو خطوط أنابيب معقدة.