🤖 machine learning

World Machine: Towards Generative World Modeling for Time-Series

تقدم الورقة البحثية "World Machine"، وهو نموذج عالمي توليدي قائم على المحولات (transformer) للسلاسل الزمنية يستخدم الحالات الكامنة لتحقيق قابلية توسع خطية وقدرة على التكيف عبر سياقات البيانات المتنوعة، متجاوزاً بذلك القيود الحسابية التربيعية للمحولات التقليدية.

المؤلفون الأصليون: Elton Cardoso do Nascimento, Alexandre da Silva Simões, Esther Luna Colombini, Ricardo Ribeiro Gudwin, Paula Dornhofer Paro Costa

نُشر 2026-05-25

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Elton Cardoso do Nascimento, Alexandre da Silva Simões, Esther Luna Colombini, Ricardo Ribeiro Gudwin, Paula Dornhofer Paro Costa

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تراقب لاعب كرة طائرة. هو لا يكتفي بمجرد رد الفعل عندما تصطدم به الكرة؛ بل إنه يتنبأ بمكان ذهابها قبل أن تصل إليه. يبني دماغه "فيلمًا داخليًا" غير مرئي للعبة، يحاكي مسار الكرة، وحركات اللاعبين الآخرين، وفيزياء الشبكة. هذا الفيلم الداخلي هو ما يسميه العلماء بـ "نموذج العالم" (World Model).

تقدم الورقة البحثية التي قدمتها نظام ذكاء اصطناعي جديدًا يسمى "آلة العالم" (World Machine)، صُمم لبناء هذه الأفلام الداخلية، وتحديدًا لـ البيانات السلاسل الزمنية (البيانات التي تتغير بمرور الوقت، مثل أسعار الأسهم، أو أنماط الطقس، أو قراءات المستشعرات).

إليك شرح لكيفية عمله، باستخدام تشبيهات بسيطة:

١. المشكلة: "جدار الذاكرة"

نماذج الذكاء الاصطناعي التقليدية (مثل تلك التي تشغل العديد من روبوتات الدردشة) تشبه الطلاب الذين يحاولون حفظ كتاب كامل للإجابة على سؤال حول الصفحة ٥٠. كلما أصبح الكتاب أطول، زاد الجهد المطلوب لتذكر كل شيء بشكل انفجاري (تربيعي). إذا كنت تريد من الذكاء الاصطناعي التنبؤ بالمستقبل بناءً على تاريخ طويل، فسيصبح الأمر ثقيلاً وبطيئاً جداً للتعامل معه.

٢. الحل: "آلة العالم"

"آلة العالم" هي نوع جديد من الذكاء الاصطناعي لا يحاول حفظ كل تفصيل من الماضي. بدلاً من ذلك، يقوم بإنشاء ملخص مضغوط للعالم في أي لحظة معينة.

"الحالة الكامنة" (اللقطة الداخلية): تخيل أن الذكاء الاصطناعي يلتقط صورة للوضع الحالي ويقوم بتقليصها إلى "لقطة" واحدة صغيرة ومجردة (تسمى الحالة الكامنة - latent state). تحتوي هذه اللقطة على كل ما يحتاه الذكاء الاصطناعي للتنبؤ بما سيحدث بعد ذلك.
"الجوهر" (المحاكي): يمتلك الذكاء الاصطناعي دماغًا يسمى "الجوهر" (Core). بدلاً من النظر إلى كتاب التاريخ بأكه، ينظر "الجوهر" إلى اللقطة السابقة والمدخلات الحسية الحالية (ما يراه أو يسمعه الآن) لإنتاج اللقطة التالية.
النتيجة: يمكنه التنبؤ بالمستقبل عن طريق ربط هذه اللقطات معًا فحسب، متجاوزًا الحاجة إلى إعادة قراءة التاريخ بأكمله في كل مرة.

٣. كيف يتعلم: لعبة "اكتشاف الحالة"

هذا هو الجزء الصعب: الذكاء الاصطناعي لا يعرف كيف يجب أن تبدو هذه "اللقطات" في البداية. عليه أن يبتكرها بنفسه.

قام المؤلفون بإنشاء لعبة تدريب خاصة تسمى "اكتشاف الحالة" (State Discovery):
١. الإعداد: يتم إعطاء الذكاء الاصطناعي تسلسلاً من البيانات (مثل فيديو لكرة تقفز).
٢. التخمين: يحاول الذكاء الاصطناعي تخمين "اللقطة" المناسبة لكل لحظة.
٣. الإزاحة: بعد التخمين، يأخذ الذكاء الاصطناعي تخميناته الخاصة، ويزيحها للأمام في الزمن، ويستخدمها كـ "حقيقة" للجولة التالية من التدريب.
٤. الحلقة: بمرور الوقت، يتعلم الذكاء الاصطناعي إنشاء لقطات جيدة للغاية، لدرجة أنها تستطيع إعادة إنشاء بيانات المستقبل بدقة بمفردها.

٤. صالة الألعاب الرياضية للتدريب: "كسر التسلسل"

لجعل الذكاء الاصطناعي قويًا حقًا، لم يكتفِ المؤلفون بتركه يتدرب بشكل طبيعي، بل استخدموا "صالة ألعاب رياضية للتدريب" تحتوي على تمارين خاصة (بروتوكولات) لإجباره على التعلم بشكل أفضل:

حجب الحواس: قاموا بتغطية أجزاء من البيانات (مثل وضع عصبة على عين الذكاء الاصطناعي) وأجبروه على تخمين ما هو مفقود باستخدام لقطته الداخلية فقط.
كسر التسلسل: قاموا بتقطيع البيانات إلى قطع عشوائية. يتعين على الذكاء الاصطناعي تعلم التقاط القصة من المنتصف دون رؤية البداية. هذا يعلمه الاعتماد على لقطته الداخلية بدلاً من مجرد الجملة السابقة.
حقن الضجيج: أضافوا تشويشًا أو "ضبابًا" إلى البيانات لجعل الذكاء الاصطناعي يتعلم الرؤية من خلال الضجيج.

٥. الاختبار: تحدي "التنبؤ الضحل"

اختبر المؤلفون "آلة العالم" على مجموعة بيانات اصطناعية تسمى Toy1D (عالم وهمي بسيط من الكرات المرتدة والموجات).

كان الاختبار الأهم يسمى "التنبؤ الضحل" (Prediction Shallow).

التحدي: تم عرض النصف الأول من التسلسل للذكاء الاصطناعي، ثم طُلب منه التنبؤ بـ النصف الثاني بالكامل باستخدام آخر لقطة فقط لديه. لم يُسمح له بالنظر إلى الـ ٤٩ خطوة السابقة.
لماذا يهم هذا: هذا يثبت أن الذكاء الاصطناعي تعلم بالفعل "قواعد العالم" (الفيزياء) بدلاً من مجرد حفظ قائمة طويلة من الأرقام. إذا كان بإمكانه التنبؤ بالمستقبل من لقطة واحدة صغيرة فقط، فهذا يعني أنه يمتلك فهمًا حقيقيًا للنظام.

٦. النتائج

إنه يعمل: نجحت "آلة العالم" في تعلم كيفية إنشاء هذه اللقطات الداخلية والتنبؤ بالمستقبل.
إنه فعال: من خلال استخدام آخر لقطة فقط للتنبؤ بالمستقبل، يتجنب مشكلة "جدار الذاكرة" الثقيلة التي تعاني منها نماذج الذكاء الاصطناعي التقليدية.
العائق: لا يزال يواجه بعض الصعوبات عندما تكون البيانات معقدة جدًا أو عالية التردد (مثل كرة تتحرك بسرعة كبيرة)، ويتطلب عملية تدريب محددة ومعقدة نوعًا ما لضبط "اللقطات" بشكل صحيح.

ملخص التشبيه

فكر في الذكاء الاصطناعي التقليدي كـ مصور فوتوغرافي يلتقط صورة لكل خطوة في الرقصة ليتذكر الروتين. إذا كانت الرقصة طويلة، فسيكون لديه ألبوم ضخم.

أما "آلة العالم" فهي مصممة رقصات (Choreographer). هي لا تحتاج لرؤية كل خطوة؛ بل تفهم أسلوب وفيزياء الرقصة. إذا أريتها الحركة الأخيرة، يمكنها تخيل الحركات الثلاث التالية بدقة لأنها بنت "فيلمًا داخليًا" لكيفية عمل الرقصة، بدلاً من مجرد ألبوم صور.

تثبت الورقة البحثية أن نهج "مصمم الرقصات" هذا ممكن ويمكن تدريبه للتعامل مع المعلومات المفقودة، رغم أنه لا يزال عملاً قيد التطوير مقارنة بـ "المصورين" الذين نستخدمهم اليوم.

ملخص تقني: آلة العالم (World Machine): نحو نمذجة عالم توليدية للبيانات السلاسل الزمنية

1. بيان المشكلة

تواجه نماذج الذكاء الاصطناائي التوليدي الحالية، ولا سيما تلك القائمة على المحولات (Transformers)، تحديات كبيرة في إنشاء "نماذج عالم" حقيقية—وهي أنظمة قادرة على الفهم التنبؤي والمحاكاة القابلة للتحكم للبيئات. تعاني المحولات التقليدية من تكاليف حسابية وذاكرة تربيعية بالنسبة لطول السياق، مما يحد من قابليتها للتوسع في السلاسل الزمنية الطويلة. علاوة على ذلك، تعتمد النهج الحالية غالبًا على قواعد مصممة يدويًا أو تركز فقط على الارتباطات بين التدفقات الحسية دون نمذجة صريحة للحالات الكامنة الداخلية التي تولد تلك الملاحظات. هناك حاجة إلى بنية يمكنها:

التكيف مع كميات متفاوتة من البيانات المرصودة والسياقات.
نمذجة الحالات العالمية الكامنة (التمثيلات الكامنة) بشكل صريح بدلاً من مجرد الارتباطات الحسية.
تقليل تكاليف الاستدلال من خلال تمكين التنبؤ من سياقات مبتورة (على سبيل المثال، حالة سابقة واحدة) دون الاعتماد على التاريخ الكامل.
التعامل مع البيانات غير المتجانسة والقنوات الحسية المتعددة (المتعددة الوسائط محتملاً).

2. المنهجية

2.1. بنية آلة العالم (World Machine Architecture)

آلة العالم هي بنية نمذجة سلاسل زمنية متعددة الوسائط وتوليدية، تعتمد على محولات تعمل بنظام فك الترميز فقط (decoder-only Transformers) وتعمل على حالات عالم كامنة ($ws$).

حالات العالم الكامنة ($ws$): هي متجهات ذات قيم حقيقية تشفر التكوين الحالي للعالم المحاكى، وهي تشبه التضمينات (embeddings) في المحولات القياسية ولكنها تتطور بمرور الوقت بتردد محاكاة ثابت.
القنوات الحسية: يعالج النموذج البيانات الحسية للمدخلات والمخرجات من خلال قنوات محددة. تمر قنوات المدخلات عبر مشفرات مسبقة، بينما يقوم النموذج بفك تشفير $ws$ لتوليد البيانات الحسية للمخرجات.
الجوهر (The Core): يتكون محرك المحاكاة من كتل المحولات (Transformer blocks). يستخدم كتل حسية (من نوع adaLn-Zero تحديدًا) تقوم بتكييف الحالة الكامنة مع البيانات الحسية عبر تغيير القياس والإزاحة (scaling and shifting). إذا كانت البيانات الحسية مفقودة عند خطوة معينة، تتخطى هذه الكتل هذه العمليات.
الترميز الموضعي: يستخدم النموذج ALiBi (الانتباه مع الانحيازات الخطية) بدلاً من الترميزات الجيبية. يسمح هذا بأحجام تسلسل غير محدودة ويحقن المعلومات الموضعية مباشرة في مصفوفة الانتباه، مما يتجنب إزعاج تضمينات الحالة الكامنة.
تنشيط الحالة: يتم تطبيق تنشيط tanh على مخرج الحالة لضمان استقرار النموذج.

2.2. بروتوكول التدريب: اكتشاف الحالة (State Discovery)

يتمثل التحدي الرئيسي في أن "الجوهر" يعمل على حالات كامنة ($ws$) لا تتوفر لها بيانات حقيقية (ground truth). ولحل ذلك، يقترح المؤلفون عملية اكتشاف الحالة:

التهيئة: يتم تهيئة الحالات الكامنة بتوزيع موحد.
التحديث التكراري: أثناء التدريب، يتم إزاحة الحالات المتوقعة ( $\hat{ws}$ ) من "الجوهر" زمنياً (باستخدام عامل "الإزاحة إلى اليسار") وإعادة تغذيتها كمدخل للحقبة التالية. يتم إعادة تعيين الحالة الأولى من كل تسلسل إلى متجه صفري (null vector).
التحسين: يتم تدريب النموذج على التنبؤ بالخطوة الزمنية التالية للبيانات الحسية (على غرار التنبؤ بالرمز التالي) باستخدام مجموع مرجح من الخسائر عبر الأبعاد المخرجة. هذا يجبر $ws$ على تشفير المعلومات الضرورية لإعادة بناء البيانات الحسية.

2.3. بروتوكولات التدريب المعززة

لتحسين جودة التمثيل والمتانة، يتضمن بروتوكول التدريب عدة خطوات محددة:

الحجب الحسي (Sensory Masking): يخفي البيانات الحسية عشوائياً أثناء التدريب لإجبار النموذج على الاعتماد على الحالات الكامنة عند فقدان البيانات.
كسر التسلسل (Sequence Breaking): تقسيم التسلسلات إلى أجزاء عشوائية. يجب على النموذج التعامل مع حالات منتصف التسلسل دون وجود بيانات سابقة. تعمل آلية "التقديم السريع" (Fast Forward) على نقل الحالة الأخيرة من جزء ما إلى الحالة الأولى من الجزء التالي لنشر تدرجات المعلومات.
إضافة الضجيج (Noise Addition): إضافة ضجيج غاوسي إلى $ws$ و/أو الأبعاد الحسية.
استدعاء الوقت القصير (Short Time Recall): إنشاء قنوات اصطناعية تمثل بيانات ماضية أو مستقبلية بالنسبة للخطوة الحالية لتحسين السياق الزمني.
الوضع المحلي (Local Mode): تعطيل آلية الانتباه عشوائياً لأجزاء معينة، مما يجبر النموذج على الاعتماد فقط على $ws$ الحالية والبيانات الحسية المباشرة (بشكل مشابه لمعالجة الحالة المخفية لـ RNN).

2.4. إطار التقييم

قدم المؤلفون مجموعة بيانات Toy1D، وهي سلسلة زمنية أحادية البعد اصطناعية تمثل نظاماً فيزيائياً مخمداً مع حالات أولية عشوائية ومدخلات موجة نبضية/مربعة. تشمل مهام التقييم:

التنبؤ الضحل (Prediction Shallow): استنتاج الـ 50% المستقبلية من التسلسل باستخدام آخر حالة مشفرة فقط (بدون بيانات حسية). يختبر هذا قدرات اختزال السياق.
استخدام الحالة (Use State): توليد مخرجات من حالات تم تشفيرها مسبقاً دون مدخلات حسية.
حجب الحسي (Mask Sensory): توليد تسلسلات مع حجب نسب مئوية عشوائية من البيانات الحسية.
اختبار التأثير (Impact Testing): طريقة إحصائية (باستخدام اختبار ويلكوكسون لمراتب الإشارات الموقعة) لقياس تأثير معاملات فرط معينة وخطوات البروتوكول على الأداء ووقت التدريب.

3. المساهمات الرئيسية

بنية مبتكرة: تقديم "آلة العالم"، وهي بنية موحدة شاملة (end-to-end) تعمل على نمذجة حالات عالم كامنة ($ws$) بشكل صريح بدلاً من مجرد الارتباطات الحسية، ومعاملة الخبرة كعملية ماركوف من رتبة أعلى.
بروتوكول اكتشاف الحالة: آلية تدريب تسمح للنموذج بتعلم كيفية تشفير وتطوير الحالات الكامنة دون وجود تسميات (labels) للحالة الحقيقية، مما يتيح الاستدلال ذاتي التراجع (autoregressive inference) من متجه صفري.
قدرة اختزال السياق: إثبات القدرة على إجراء الاستدلال باستخدام سياقات مبتورة (تحديداً مهمة "التنبؤ الضحل")، مما يوفر مساراً محتملاً لتقليل التكلفة التربيعية المرتبطة بالمحولات القياسية.
تحليل تأثير شامل: تقييم منهجي لمكونات بروتوكول التدريب (مثل الحجب، كسر التسلسل، الوضع المحلي) باستخدام إطار اختبار التأثير لتحديد مساهماتها المحددة في الأداء والتكلفة.
خط أساس مفتوح المصدر: إصدار البنية، وبروتوكول التدريب، ومجموعة البيانات الاصطناعية لمعالجة غموض نماذج العالم واسعة النطاق الحديثة.

4. النتائج

أُجريت التجارب على مجموعة بيانات Toy1D باستخدام تكوينات وبروتوكولات تدريب متنوعة.

القابلية للتدريب: نجحت تقنية اكتشاف الحالة في تمكين النموذج من التدريب، كما يتضح من منحنيات الخسارة المتناقصة.
أداء المهام:
- أدى النماذج أداءً أفضل في الاستدلال ذاتي التراجع "العادي".
- فشل النموذج الأساسي (الذي استخدم اكتشاف الحالة فقط) في أداء المهام التي تتطلب غياب البيانات الحسية.
- أظهر البروتوكول الكامل (الذي يدمج الحجب، كسر التسلسل، الضجيج، إلخ) تحسينات كبيرة، خاصة في مهمة التنبؤ الضحل، رغم أنها ظلت المهمة الأكثر صعوبة.
- أظهرت النتائج النوعية تنبؤات متماسكة، خاصة عندما كانت البيانات الحسية متاحة، رغم أن التسلسلات عالية التردد ظلت صعبة.
تأثير البروتوكول:
- الاستقرار: كان استخدام تنشيط tanh للحالة أمراً حاسماً؛ حيث أدى إزالته (استبداله بتنظيم MSE) إلى معدل تباعد بلغ 20% تقريباً، بينما أدى الإبقاء عليه إلى تقليل التباعد إلى أقل من 1%.
- الأداء: أظهرت مهمة "التنبؤ الضحل" أكبر قدر من التباين. حقق أفضل تكوين تجريبي (الذي يجمع بين كسر التسلسل، وتكوينات الكتل المحددة، وإضافة الضجيج، والوضع المحلي) متوسط خطأ تربيعي (MSE) قدره 0.3435 في التنبؤ الضحل بعد 1,000 حقبة تدريبية.
- التكلفة/الفائدة: أظهر متغير الوضع المحلي تأثيراً إيجابياً على كل من الأداء ووقت التدريب، حيث يتجاوز آلية الانتباه المكلفة.
- الارتباط: أظهرت مهام "استخدام الحالة" و"التنبؤ الضحل" ارتباطاً منخفضاً مع المهام الأخرى، مما يشير إلى أنها مقيمات فريدة وضرورية لقدرات نمذجة العالم.

5. الأهمية والادعاءات

تضع الورقة "آلة العالم" كخطوة تأسيسية نحو نمذجة العالم التوليدية التي توازن بين الفهم التنبؤي والمحاكاة القابلة للتحكم.

الكفاءة: تشير القدرة على استنتاج الحالات المستقبلية من حالة كامنة واحدة (التنبؤ الضحل) إلى مسار محتمل لتخفيف مشاوهات التوسع التربيعي للمحولات الحالية، مما يوفر نهجاً أكثر فعالية من حيث التكلفة للتخطيط طويل الأمد.
القدرة على التكيف: صُممت البنية للتعامل مع البيانات المفقودة والمدخلات الحسية المتغيرة، مما يجعلها مناسبة للبيئات المعقدة والديناميكية حيث لا يكون الحصول على ملاحظات كاملة ممكناً دائماً.
الشفافية: من خلال إصدار خط أساس قابل لإعادة الإنتاج بالكامل ومفتوح المصدر، يهدف المؤلفون إلى إزالة الغموض عن آليات نماذج العالم، والتي غالباً ما تكون غامضة في الأنظمة المملوكة واسعة النطية.
الإمكانات المستقبلية: يشير المؤلفون إلى إمكانية تطبيق هذا النهج على المشكلات متعددة الوسائط (مثل الملاحة بالرؤية والقصور الذاتي) ونماذج اللغات الكبيرة (LLMs) لتقليل تكاليف الاستدلال وتحسين التحكم في المقايضة بين الجودة والتكلفة. كما يقرون بالحاجة إلى عمل مستقبلي لاختبار هذه التقنيات على مجموعات بيانات حقيقية متعددة الوسائط ومعالجة المخاوف الأخلاقية المتعلقة بتوليد البيانات والتكاليف البيئية.

تخلص الورقة إلى أنه على الرغم من أن النتائج الحالية على البيانات الاصطناعية واعدة، إلا أن البنية قابلة للتدريب وقادرة على توليد تنبؤات متماسكة، مما يؤكد جدوى اقتراح بروتوكولات اكتشاف الحالة والتدريب.