🤖 machine learning

Composition of Memory Experts for Diffusion World Models

تقدم هذه الورقة نموذج عالم قائم على الانتشار يتغلب على مقايضة الذاكرة والدقة في البنيات الحالية من خلال دمج خبراء ذاكرة متخصصة قصيرة المدى، وحلقية، ومكانية عبر صيغة تباينية لـ "حاصل ضرب الخبراء"، محققاً بذلك تنبؤاً مستقبلياً عالي الدقة وقابلاً للتوسع دون تكاليف حوسبة تربيعية.

المؤلفون الأصليون: Sebastian Stapf, Pablo Acuaviva Huertos, Aram Davtyan, Paolo Favaro

نُشر 2026-05-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Sebastian Stapf, Pablo Acuaviva Huertos, Aram Davtyan, Paolo Favaro

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول سرد قصة عن رحلة طويلة خضتها عبر متاهة. تريد أن تكون القصة مثالية: أن تكون المنعطفات منطقية، وأن تبدو الغرف التي زرتها قبل ساعات متطابقة تماماً عندما تعود إليها، وأن تكون تفاصيل المشهد حادة وواضحة.

المشكلة في "رواة القصص" الحاليين من الذكاء الاصطناعي (والذين يُطلق عليهم "نماذج العالم" - World Models) هي مشكلة الذاكرة.

الذكاء الاصطناعي "قصير المدى": يشبه شخصاً يمتلك ذاكرة ممتازة لآخر بضع جمل سمعها، لكنه ينسى ما حدث قبل ساعة. يمكنه وصف الخطوة التالية مباشرة بشكل مثالي، لكنه يفقد خيط القصة للرحلة بأكملها.
الذكاء الاصطناعي "طويل المدى": يشبه المؤرخ الذي يتذكر الرحلة بأكملها، لكن تفاصيل الخطوة التالية المباشرة تصبح ضبابية لديه. هو يعرف الشكل العام للمتاهة، لكنه قد يخلط بين ألوان الجدران في الغرفة التي تقف فيها الآن.

محاولة بناء ذكاء اصطناعي واحد عملاق يتذكر كل شيء بدقة تشبه محاولة حمل مكتبة داخل حقيبة ظهر أثناء ركضك في ماراثون؛ سيكون الأمر ثقيلاً جداً، وبطيئاً، وفي النهاية ستتعثر بالكتب.

الحل: فريق من المتخصصين

يقترح مؤلفو هذه الورقة البحثية طريقة جديدة لبناء هؤلاء الرواة من الذكاء الاصطناعي. فبدلاً من وجود عقل واحد عملاق، يستخدمون فريقاً من الخبراء المتخصصين الذين يعملون معاً لسرد القصة. وقد أطلقوا عليه اسم "تركيب خبراء الذاكرة" (Composition of Memory Experts - CoME).

فكر في الأمر كأنه فريق إنتاج لفيلم سينمائي:

الخبير "قصير المدى" (كاتب السيناريو): يركز هذا الخبير على المشهد المباشر. ينظر إلى الإطارات القليلة الأخيرة من الفيديو ويقول: "حسناً، لقد انعطفت الشخصية لليسار للتو، لذا يجب أن يظهر الجدار على اليمين في الإطار التالي". هو بارع في التفاصيل الدقيقة والحركة الفورية، لكنه لا يستطيع تذكر ما حدث قبل 100 إطار.
الخبير "طويل المدى" (الأرشيفي): يمتلك هذا الخبير مكتبة ضخمة للرحلة بأكملها. هو لا ينظر إلى كل إطار بمفرده في الوقت الفعلي (لأن ذلك سيكون بطيئاً جداً)، بل "يدرس" تاريخ الرحلة ويحدث ملاحظاته الداخلية (أوزانه) لتذكر الصورة الكبيرة. إذا سألته: "كيف كان شكل تلك الغرفة قبل 5 دقائق؟"، يمكنه استرجاعها بدقة لأنه حفظ الحلقة.
الخبير "المكاني" (رسام الخرائط): يتتبع هذا الخبير أين توجد الأشياء. إذا كان الذكاء الاصطناعي يسير في حلقة (مثل ممر يبدو متشابهاً في كل مكان)، فقد يرتبك الخبراء الآخرون. هنا يتدخل رسام الخرائط ويقول: "انتظر، نحن عند المدخل الشمالي، وليس الجنوبي"، مما يضمن بقاء القصة في مكانها الصحيح.

كيف يعملون معاً: "حاصل ضرب الخبراء"

عادةً، إذا طلبت النصيحة من ثلاثة أشخاص، فقد تأخذ متوسط آرائهم فقط. لكن في الذكاء الاصطناعي، يمكن أن يؤدي "المتوسط" أحياناً إلى نتيجة مشوشة وغير واضحة.

استخدم المؤلفون حيلة ذكية تسمى "حاصل ضرب الخبراء" (Product of Experts). تخيل أن الخبراء الثلاثة يرفعون لوحات بتوقعاتهم:

إذا اتفق كاتب السيناريو، والأرشيفي، ورسام الخرائط على شكل الإطار التالي، يكون الذكاء الاصطناعي واثقاً جداً ويرسم ذلك الإطار.
إذا اختلفوا، فإن الذكاء الاصطناعي لا يكتفي بالتخمين فحسب، بل يبحث عن "الأرضية المشتركة".

ومع ذلك، هناك عقبة. فأحياناً يتفق الخبراء على أشياء خاطئة لمجرد أنهم يحاكون بعضهم البعض. ولحل هذه المشكلة، ابتكر المؤلفون طريقة "تضادية" (Contrastive).

التشبيه: تخيل أن الخبراء يغنون أغنية. أحياناً يدندنون جميعاً نفس النغمة الخاطئة لأنهم يستمعون لبعضهم البعض أكثر من اللازم. تعمل الطريقة "التضادية" مثل قائد الأوركسترا الذي يقول: "توقفوا عن دندنة الضوضاء الخلفية! ركزوا فقط على النغمات الفريدة التي تختلف عن عاداتكم المعتادة". هذا يضمن عدم وقوع الذكاء الاصطناعي في حلقة مفرغة من تكرار الأخطاء ويحافظ على حيوية القصة ودقتها.

النتائج

اختبر الفريق هذا النهج في:

المتاهات الافتراضية: حيث يتعين على وكيل (Agent) التنقل في متاهة ثلاثية الأبعاد وتذكر الأماكن التي زارها.
فيديوهات من العالم الحقيقي: مثل المشي داخل منزل أو قيادة روبوت.

ووجدوا أن نهج الفريق هذا كان أفضل بكثير من محاولة استخدام ذكاء اصطناعي واحد عملاق.

ذاكرة أفضل: استطاع الذكاء الاصطناعي تذكر التفاصيل من مئات الإطارات الماضية دون ارتباك.
سرعة أكبر: لم يكن بحاجة لحمل "مكتبة" ضخمة من البيانات في رأسه عند كل خطوة؛ بل كان يستشير متخصصيه فقط.
اتساق أكبر: عندما عاد الذكاء الاصطناعي إلى غرفة زارها سابقاً، بدت الغرفة متطابقة تماماً، وليست مجرد كتلة ضبابية.

باختصار

تجادل الورقة البحثية بأنه بدلاً من محاولة بناء "عقل خارق" واحد يقوم بكل شيء، يجب علينا بناء لجنة من العقول المتخصصة. من خلال ترك الخبير قصير المدى يتولى التفاصيل، والأرشيفي يتولى التاريخ، ورسام الخرائط يتولى الموقع، ومن ثم جعلهم يصوتون على المستقبل باستخدام قاعدة "تضادية" خاصة، يمكننا إنشاء ذكاء اصطناعي يتذكر الماضي بدقة بينما يتنبأ بالمستقبل بدقة أيضاً — وكل ذلك دون الحاجة إلى حاسوب خارق للقيام بذلك.

ملخص تقني: تكوين خبراء الذاكرة لنماذج العالم الانتشارية

بيان المشكلة

تعد نماذج العالم (WMs) ضرورية للتعلم التعزيزي (RL) والتخطيط، حيث تتنبأ بحالات مستقبلية معقولة تتوافق مع الملاحظات الماضية. ومع ذلك، تواجه البنى الحالية مقايضة جوهرية بين دقة الذاكرة والكفاءة الحسابية. تحافظ النماذج القائمة على المحولات (Transformers) على التفاصيل المحلية ولكنها تعاني من تكاليف الانتباه التربيعية، مما يحد من طول السياق. وفي المقابل، تعمل الشبكات المتكررة ونماذج حالة الفضاء (SSMs) بكفاءة في التوسع ولكنها تضغط التاريخ في حالات خفية، مما يؤدي حتمًا إلى التخلص من التفاصيل الدقيقة بمرور الوقت. كما أن مجرد زيادة طول السياق في بنية واحدة يؤدي إلى عدم استقرار التدريب وتكاليف استدلال باهظة. علاوة على ذلك، غالبًا ما يؤدي التكوين الساذج لعدة نماذج إلى "انهيار النمط" (mode collapse)، حيث تبالغ التوزيعات المجمعة في حدة المناطق الشائعة وتفقد التنوع.

المنهجية

يقترح المؤلفون تكوين خبراء الذاكرة (CoME)، وهو إطار عمل يعتمد على الانتشار (diffusion) يعمل على فصل الاتساق بين المستقبل والماضي عن بنية أحادية ضخمة. بدلاً من ذلك، يستفيد CoME من مجموعة من الخبراء المتخصصين، حيث يتولى كل منهم دورًا ذاكريًا محددًا، ويتم دمجهم احتماليًا في وقت الاستدلال.

1. منتج الخبراء التبايني (PoCE)

لمعالجة قيود نموذج "منتج الخبراء" (PoE) القياسي، والذي يمكن أن يقمع التنوع ويضخم الأنماط الزائفة، قدم المؤلفون صيغة منتج الخبراء التبايني (Product of Contrastive Experts).

الآلية: بالنسبة لمجموعة من الخبراء غير المتجانسين $p_i(x)$ ، يتم تعريف التكوين كـ $p(x) \propto \prod \tilde{p}_i(x)$ ، حيث $\tilde{p}_i(x) \propto p_i(x)^{\alpha_i} \bar{p}_i(x)^{1-\alpha_i}$ .
الأساس التبايني: يمثل $\bar{p}_i(x)$ التوزيع الأساسي غير المشروط للخبير. يعمل المعامل $\alpha_i > 1$ كعامل تباين.
التبرير النظري: على عكس التهدئة (tempering) الساذجة (التي تقلص تباين النواة وتشوّه الهندسة المحلية)، يعيد هذا المزيج التبايني وزن مكونات المزيج مع الحفاظ على شكل النوى. فهو يعمل بفعالية على قمع الأنماط الزائفة (حيث يخصص الخبير احتمالية عالية دون دليل قوي) مع الحفاظ على الأنماط الثانوية الصالحة، بشرما إذا كان الخبير الشرطي يخصص احتمالية أعلى للأنماط الصالحة مقارنة بالأساس.

2. خبراء الذاكرة المتخصصون

يقوم إطار العمل بتجسيد ثلاثة خبراء متكاملين:

الذاكرة قصيرة المدى (STM): نموذج انتشار مشروط بنافذة سياق حديثة ( $10\text{--}100$ إطار). يلتقط الديناميكيات المحلية الدقيقة والتبعيات الزمنية الفورية باستخدام بنية ذات سياق ممتد (مثل انتباه النافذة المنزلقة).
الذاكرة طويلة المدى (LTM): نموذج انتشار منفصل يخزن التاريخ الحلقي ( $100\text{--}1000$ إطار) مباشرة في أوزانه. يتم تحقيق ذلك عبر الضبط الدقيق في وقت الاختبار لمحولات LoRA خفيفة الوزن على السياق طويل المدى. تساهم هذه الطريقة في تقليل تكلفة الاستدعاء، مما يسمح بإعادة استخدام الخبرات الماضية في وقت ثابت دون الحاجة لتمرير التاريخ بأكمله عبر النموذج في كل خطوة. وهي تتجنب النسيان الكارثي عبر تجميد الهيكل الأساسي وتحديث المحولات فقط.
الذاكرة المكانية طويلة المدى (SLTM): امتداد لـ LTM يدمج الأولويات المكانية (مثل وضعيات الكاميرا، وخرائط النقاط) المستخرجة من التاريخ. يفرض هذا الخبير التماسك الهندسي والمكاني، مما يزيل الغموض عن المواقع في البيئات المتكررة أو المتشابهة بصريًا.

3. التوليد الموحد

التوزيع النهائي هو منتج للنموذج المسبق المدرب والخبراء التباينيين الثلاثة (STM، LTM، SLTM). أثناء أخذ العينات، يتم دمج دالات الدرجة (score functions) لهذه الخبراء بشكل تراكمي (في الفضاء اللوغاريتمي) لتوجيه عملية إزالة الضجيج، مما يضمن أن المستقبل المولد يحترم الديناميكيات الحديثة، والتاريخ طويل المدى، والاتساق المكاني.

المساهمات الرئيسية

بنية ذاكرة مفككة: يقترح البحث حل مقايضة الذاكرة عبر توزيع الذاكرة على خبراء متخصصين، مصاغة كمسألة "منتج الخبراء".
منتج الخبراء التبايني (PoCE): استراتيجية مبتكرة لدمج الخبراء غير المتجانسين. يقدم المؤلفون أدلة نظرية وتجريبية على أن هذه الطريقة تمنع انهيار النمط والثقة المفرطة عن طريق استبعاد الأنماط الزائدة، على عكس PoE التقليدي.
ذاكرة الانتشار الخارجية: تقديم وحدة LTM تستخدم الضبط الدقيق لـ LoRA في وقت الاختبار لتخزين المعرفة الحلقية في الأوزان. تم توسيع ذلك إلى SLTM لدمج البنية المكانية، مما يحسن الدقة في مهام الملاحة.

النتائج التجريبية

تم تقييم الطريقة على مجموعات بيانات اصطناعية (Memory Maze, DMLab, Minecraft) وواقعية (RealEstate10K, RECON).

جودة إعادة البناء: في مجموعة بيانات Memory Maze، حقق CoME أداءً رائدًا في LPIPS (0.097)، وSSIM (0.892)، وPSNR (23.07)، متفوقًا بشكل كبير على النماذج المرجعية بما في ذلك المحولات كاملة الانتباه، ونماذج SSM، ونماذج النافذة المنزلقة.
القابلية للتوسع: على عكس نماذج الانتباه الكامل التي تتطلب قدرة حوسبة أكبر بـ $60\times$ من نموذج STM الأساسي، يحقق CoME اتساقًا فائقًا بجزء بسيط من تكلفة التدريب والاستدلال.
طول السياق: لم يظهر النموذج أي تشبع في اتساق الأداء حتى 480 إطارًا من السياق، مما يثبت فعالية مكون LTM.
التخطيط والملاحة: في مهام الملاحة المشروطة بالهدف (اختبار RECON)، قلل CoME من خطأ المسار المطلق (ATE) إلى 0.96، متفوقًا على نماذج عالم الملاحة (NWM) المتخصصة وغيرها من النماذج المرجعية.
القدرة على الاستدعاء: في تجربة المسار العكسي على RealEstate10K، نجح CoME في استدعاء الإطارات الأولية بعد عمليات التمرير الأمامي، بينما أنتجت النماذج المرجعية التي تفتقر للذاكرة مشاهد معقولة ولكن غير متسقة.
دراسات الاستئصال (Ablation Studies): أدى إزالة الصيغة التباينية إلى انهيار الأداء، مما أكد ضرورة آلية PoCE. كما أدى زيادة رتبة LoRA وطول سياق LTM إلى تحسين النتائج باستمرار دون حدوث فرط في التخصيص (overfitting).

الأهمية والادعاءات

يزعم البحث تأسيس نموذج جديد لبناء نماذج عالم مدعومة بالذاكرة والانتشار. من خلال توزيع الذاكرة عبر خبراء متخصصين واستخدام استراتيجية تكوين تباينية، يوازن CoME بين الكفاءة والاتساق الزمني عالي الدقة. يجادل المؤلفون بأن هذا النهج يسمح لنماذج العالم بالتوسع إلى سياقات طويلة دون تحمل تكاليف تربيعية أو المعاناة من فقدان التفاصيل المتأصل في الضغط المتكرر. يتم تقديم الطريقة كإطار عمل عام قابل للتطبيق على مختلف نماذج العالم الانتشارية، مما يعزز موثوقيتها للتخطيط واتخاذ القرار في بيئات التعلم التعزيزي. ويؤكد العمل على أن الذاكرة يجب أن تكون خاصية نظام موزعة وليس قيدًا لبنية واحدة.