A Compositional Paradigm for Foundation Models: Towards Smarter Robotic Agents
تقترح هذه الورقة دمج مبادئ التعلم المستمر والتركيبية في النماذج التأسيسية للتغلب على قيودها في التكيف مع السيناريوهات الديناميكية في العالم الحقيقي، مما يتيح تطوير وكلاء روبوتيين أكثر مرونة وكفاءة وذكاءً.
تخيل أنك تحاول تعليم روبوت القيام بكل شيء، من صنع التوست إلى إصلاح صنبور يسرب الماء. لفترة طويلة، كانت أفضل طريقة للقيام بذلك هي بناء "عقل فائق" للروبوت — نموذج ضخم كلي المعرفة يتم تدريبه على تيرابايت من البيانات. فكر في هذا الأمر كأنك توظف عبقرياً قرأ كل كتاب في المكتبة وشاهد كل فيديو على الإنترنت. هذه "النماذج التأسيسية" ذكية للغاية؛ يمكنها الدردشة كالبشر، والتعرف على الصور، وحتى التحكم في أذرع الروبوت. لكن هناك مشكلة: فهي تشبه حقيبة ظهر ضخمة وثقيلة. بمجرد أن ترتديها، يصعب تغييرها. إذا احتاج الروبوت لتعلم مهارة جديدة تماماً، مثل فتح نوع معين من البرطمانات، فغالباً ما يتعين عليك خلع الحقيبة الضخمة بالكامل، وإعادة تدريب العبقري من الصفر ثم إعادتها. هذا يستغرق وقتاً طويلاً، ويستهلك الكثير من الكهرباء، وإذا نسي الروبوت كيفية صنع التوست أثناء تعلمه عن البرطمانات، فهذه مشكلة تُعرف باسم "النسيان الكارثي".
لحل هذه المشكلة، ينظر العلماء إلى فكرتين مختلفتين: "التعلم المستمر" و"التركيبية". التعلم المستمر يشبه طالباً لا يتوقف أبداً عن الدراسة؛ فهو يستمر في إضافة معارف جديدة إلى دماغه دون نسيان ما تعلمه سابقاً. أما التركيبية فهي تشبه البناء بقطع "الليغو" (LEGO). بدلاً من كتلة واحدة ضخمة من البلاستيك، لديك العديد من القطع الصغيرة المتخصصة. يمكنك تركيبها معاً بطرق مختلفة لبناء قلعة، أو سيارة، أو سفينة فضاء. إذا كنت بحاجة لتحويل السفينة إلى غواصة، يمكنك ببساطة استبدال بعض القطع بدلاً من صهر الكتلة بأكملها. السؤال الكبير هو: هل يمكننا استخدام قطع البناء الشبيهة بالليغو هذه لجعل الروبوتات أكثر ذكاءً، وأسرع، وأسهل في التحديث من حقائب الظهر الضخمة التي لدينا اليوم؟
تقترح هذه الورقة البحثية، بعنوان "نموذج تركيبي للنماذج التأسيسية: نحو وكلاء روبوتيين أكثر ذكاءً"، أن الإجابة هي نعم. يجادل المؤلفون بأن مجرد جعل نماذج الذكاء الاصطناعي أكبر وأكبر يوصلنا إلى طريق مسدود. هم يقترحون أنه بدلاً من تدريب نموذج واحد ضخم وصلب، يجب علينا بناء أنظمة تجمع بين أجزاء أصغر ومتخصصة. لقد اختبروا هذه الفكرة في عالمين مختلفين تماماً: التعرف على الصور والتحكم في أذرع الروبوت.
أولاً، نظروا في تصنيف الصور. تخيل أنك تعرض على كمبيوتر تدفقاً من أنواع مختلفة من الصور، مثل الطيور، والسيارات، والزهور، واحداً تلو الآخر. بدلاً من إعادة تدريب نظام رؤية الكمبيوتر بالكامل في كل مرة يظهر فيها نوع جديد من الصور، استخدم المؤلفون نهج "الليغو". لقد قاموا بتدريب وحدات صغيرة ومنفصلة (تسمى محولات LoRA) لكل مهمة جديدة. ثم استخدموا عملية دمج ذكية لتركيب هذه الوحدات معاً. وجدوا أن هذه الطريقة لم تكن أكثر دقة فحسب، بل كانت أيضاً أسرع بكثير في التدريب. في اختباراتهم على مجموعة بيانات تضم 50 مهمة مختلفة، وصلت طريقتهم "الليغو" إلى دقة قدرها 55.17%، متفوقة على الطرق الأخرى التي لم تتمكن إلا من تحقيق 47.56% أو 36.02%. والأفضل من ذلك، استغرق تدريبها 170.61 ثانية فقط، بينما استغرق المنافسون أكثر من 300 ثانية.
بعد ذلك، نقلوا هذه الفكرة إلى عالم الروبوتات الحقيقي. أرادوا معرفة ما إذا كان بإمكان الروبوت تعلم التعامل مع الأشياء دون الحاجة إلى كمبيوتر خارق. قاموا ببناء نظام يستخدم "محولات" صغيرة مدربة مسبقاً لتعديل دماغ الروبوت الحالي، مما يسمح له بالتكيف مع السياقات الجديدة فوراً. كانت النتائج مذهلة. في مهمة معالجة روبوتية، حققت طريقتهم خفيفة الوزن معدل نجاح قدره 0.91 (بمعنى أنها نجحت بنسبة 91%) وحققت مكافأة قدرها 0.60 لكل خطوة. في المقابل، فشلت النماذج الأكثر تعقيداً وشهرة مثل OpenVLA وInstructRL تماماً، حيث حققت معدل نجاح قدره 0.0. وبينما استغرق تدريب النماذج الثقيلة من 40 إلى 92 ساعة، أنجزت طريقتهم المهمة في 14 ساعة فقط.
تخلص الورقة البحثية إلى أنه لكي تصبح الروبوتات وكلاء أذكياء يمكنهم التعامل مع العالم الحقيقي الفوضوي والمتغير، يجب أن تتوقف عن كونها عمالقة ثابتة وتبدأ في كونها مجموعات مرنة من المهارات. من خلال الجمع بين هذه الأجزاء الصغيرة والفعالة، يمكننا إنشاء وكلاء يتعلمون أشياء جديدة دون نسيان القديم، كل ذلك مع استخدام طاقة ووقت أقل بكثير. إنه تحول من بناء "عقل فائق" واحد غير قابل للتغيير إلى تجميع فريق من الخبراء المتخصصين الذين يمكنهم العمل معاً، والتكيف فوراً، وحل المشكلات بمستوى من المرونة لم تستطع الطريقة القديمة مضاهاة مستواه.
ملخص تقني: نموذج تركيبي للنماذج التأسيسية
بيان المشكلة
بينما حققت النماذج التأسيسية (FMs) نتائج غير مسبوقة عبر مجالات اللغة، والرؤية، والتحكم الروبوتي من خلال الاستفادة من مليارات المعلمات ومجموعات البيانات الضخمة، إلا أنها تواجه قيودًا حرجة في السيناريوهات الواقعية الديناميكية. تعتمد النهج الحالية بشكل كبير على توسيع حجم النموذج وبيانات التدريب، وهي استراتيجية تحقق عوائد متناقصة فيما يتعلق بتحسين الأداء، بينما تتسبب في تكاليف حوسبة وطاقة باهظة.
تحديدًا، تعاني النماذج التأسيسية من:
التكيف مع توزيعات البيانات المتغيرة دون الحاجة لإعادة تدريب النموذج بالكامل من الصفر.
التعميم عبر المهام بمرور الوقت، حيث يعتمد أداؤها غالبًا على الارتباطات الإحصائية بدلاً من الاستدلال العميق.
التعامل بكفاءة مع مهام الروبوتات المعقدة متعددة المهارات، حيث تتطلب البنى المتجانسة (Monolithic) ميزانيات حوسبة ضخمة وتواجه صعوبة في النسيان الكارثي أو عدم المواءمة مع معايب السلامة أثناء التكيف.
المنهجية
يقترح المؤلفون تحولًا في النموذج من التوسع المتجانس إلى نموذج تركيبي (Compositional Paradigm) قائم على التعلم المستمر (CL) والتركيبية (Compositionality). الفرضية الأساسية هي أن تقسيم المشكلات المعقدة إلى مكونات متخصصة يسمح ببناء أنظمة ذكاء اصطناعي أكثر مرونة وكفاءة وقابلية للتكيف.
تتضمن المنهجية نهجين تجريبيين رئيسيين:
تركيب المحولات الهرمي لتصنيف الصور:
الآلية: يقوم المؤلفون بتكييف نماذج محولات الرؤية (ViT) مع تدفق من المهام باستخدام تركيب من عدة محولات منخفضة الرتبة (LoRA).
العملية: لكل مهمة جديدة (خبرة)، يتم تدريب وحدة LoRA منفصلة. ثم يتم دمج هذه الوحدات باستخدام عملية دمج هرمية:
أولاً، يتم تجميع وحدات LoRA حسب التشابه ودمجها.
لاحقًا، يتم دمج مجموعات المحولات هذه في وحدة موحدة واحدة.
الهدف: إنشاء نموذج موحد قادر على حل جميع المهام التي تمت رؤيتها سابقًا مع تقليل التداخل أثناء عملية الدمج.
البنية التركيبية للتلاعب الروبوتي:
الآلية: بنية خفيفة الوزن تستخدم محولات صغيرة وآليات انتباه لزيادة نطاق المكونات سابقة التدريب ديناميكيًا.
العملية: بدلاً من الضبط الدقيق للنماذج الأساسية الضخمة (مثل Llama 7B المستخدم في OpenVLA)، يستخدم النظام نماذج صغيرة سابقة التدريب وجاهزة للاستخدام مع محولات صغيرة. يتيح ذلك للوكيل التكيف مع سياقات مختلفة وتوسيع قدراته ديناميكيًا دون إعادة تدريب مكثفة.
الهدف: تمكين الوكلاء الروبوتيين من تعلم المهارات منخفضة المستوى والسياسات المجردة بكفاءة تحت قيود حوسبة صارمة.
المساهمات الرئيسية
اقتراح النموذج: يدعو البحث إلى "التركيبية" (فرق تسد) كعنصر تمكين رئيسي للجيل القادم من الذكاء الاصطناعي، مما يسمح للنماذج المتخصصة بالتعايش، ومشاركة المعرفة، وحل المهام المعقدة بشكل جماعي أكثر فعالية من النماذج المتجانسة الواحدة.
إطار التكيف الفعال: يثبت المؤلفون أن تركيب النماذج يتيح أداءً قويًا بموارد محدودة، متجنبًا الحاجة إلى تحديثات ضخمة للمعلمات أو إعادة تدريب النموذج بالكامل.
استراتيجية الدمج الهرمي: تقنية محددة لدمج محولات LoRA تقلل من التداخل، مما يسمح بتراكم المعرفة عبر تدفق من المهام.
التحكم الروبوتي خفيف الوزن: إثبات أن المحولات الصغيرة يمكن أن تتفوق على نماذج (VLA) الأكبر والأكثر تعقيدًا في التلاعب الروبوتي عندما تكون ميزانيات الحوسبة مقيدة.
النتائج التجريبية
يقدم المؤلفون نتائج أولية في مجالين:
1. تصنيف الصور (مجموعة بيانات CUB200، 50 مهمة):
الأداء: حققت الطريقة المقترحة (HAM) دقة بلغت 55.17% ± 1.04، متفوقة بشكل كبير على المنافسين SD-LoRA (47.56%) و InfLoRA (36.02%).
الكفاءة: كان وقت التدريب لـ HAM هو 170.61 ثانية، وهو أسرع من SD-LoRA (318.22ث) و InfLoRA (196.89ث).
2. التلاعب الروبوتي:
الأداء: حققت الطريقة المقترحة (WSA) مكافأة/خطوة (Reward/Step) قدرها 0.60 ومعدل نجاح 0.91. في المقابل، حققت النماذج المرجعية المعقدة مثل InstructRL و OpenVLA معدل نجاح 0.0 تحت نفس القيود.
الكفاءة: تطلبت WSA 14 ساعة فقط من التدريب، مقارنة بـ 40 ساعة لـ InstructRL و 92 ساعة لـ OpenVLA.
الملاحظة: تشير النتائج إلى أنه بينما تفشل النماذج المعقدة مثل OpenVLA تحت قيود الحوسبة المحدودة، فإن النهج التركيبي الخفيف ينجح في حل مهام التلاعب بكفاءة ومعدلات نجاح أعلى.
الأهمية والادعاءات
يجادل البحث بأنه لكي تصل النماذج التأسيسية إلى كامل إمكاناتها وتقترب من "الذكاء الاصطناعي الوكيل" (Agentic AI)، يجب أن تتجاوز التوسع المتجانس والثابت. تكمكم تكمن أهمية هذا العمل في إثبات أن:
المرونة والقابلية للتكيف: يمكن للأنظمة التركيبية التكيف مع السيناريوهات المتغيرة باستمرار وتوزيعات البيانات المتطورة بشكل أكثر فعالية من الحلول الثابتة عبر تغيير تنسيق النماذج بدلاً من إعادة تدريبها.
كفاءة الموارد: يمكن تحقيق أداء عالٍ في الروبوتات والتصنيف مع "القليل من أو بدون مراحل تدريب" وتقليل ميزانيات الحوسبة من خلال استغلال الإمكانات الكاملة للنماذج التأسيسية سابقة التدريب عبر التركيب.
السلامة والاستدلال: من خلال فصل تعلم المهارات منخفضة المستوى عن الاستدلال عالي المستوى، يمكن للوكلاء فهم التفاعلات مع الأشياء والبشر بشكل أفضل، والتطور المستمر في قدراتهم، والتكيف مع التغيرات المفاجئة في العالم دون نسيان كارثي أو عدم مواءمة مع معايير السلامة.
يخلص المؤلفون إلى أن الانتقال إلى الجيل القادم من الذكاء الاصطناعي يتطلب هذا التحول نحو أنظمة مرنة، قابلة للتكيف، وفعالة حوسبيًا، باستخدام التركيبية لحل المهام المعقدة بشكل أكثر فعالية من النماذج المنفردة.