🤖 machine learning

Mini-JEPA Foundation Model Fleet Enables Agentic Hydrologic Intelligence

تقدم هذه الورقة Mini-JEPAs، وهي مجموعة من النماذج التأسيسية المتخصصة وخفيفة الوزن التي تتفوق، عند توجيهها بواسطة وكيل توجيه، على نموذج مكاني جيولوجي واحد واسع النطاق في مهام الذكاء الهيدرولوجي، مع توفير إمكانية وصول أكبر وكفاءة حوسبية أعلى.

المؤلفون الأصليون: Mashrekur Rahman

نُشر 2026-05-15

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Mashrekur Rahman

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول فهم أنظمة المياه في الأرض، ولكن ليس لديك سوى موسوعة واحدة ضخمة وعالمة بكل شيء. هذه الموسوعة، لنسمّها "AlphaEarth". إنها ضخمة، وتعرف القليل عن كل شيء: الغابات، الصحاري، الأنهار، والمدن. وهي رائعة للأسئلة العامة مثل: "كيف يبدو هذا القارة؟"

ولكن ماذا لو طرحت سؤالاً محدداً للغاية، مثل: "ما مدى رطوبة التربة تحت هذه السحابة مباشرة؟" أو "كيف تتغير درجة الحرارة في هذا الوادي تحديداً؟" قد تصبح هذه الموسوعة الضخمة مشوشة قليلاً هنا. لقد حاولت تعلم كل شيء دفعة واحدة، مما قد يؤدي إلى تمييع التفاصيل الدقيقة اللازمة لهذه الأسئلة الصعبة. بالإضافة إلى ذلك، هذه الموسوعة كبيرة ومكلفة للغاية لدرجة أن قلة من الناس فقط يمكنهم فتحها.

قرر الباحثون في هذه الورقة تجربة نهج مختلف. فبدلاً من عقل واحد ضخم، قاموا ببناء فريق من خمسة خبراء صغيرين ومتخصصين. يطلقون على هذا الفريق اسم "أسطول Mini-JEPA".

فريق المتخصصين

فكر في هؤلاء الخمسة من Mini-JEPAs كخمسة محققين مختلفين، لكل منهم نظارات فريدة:

المحقق البصري: يرتدي نظارات ترى الضوء المرئي (مثل الكاميرا العادية). إنه بارع في رؤية ما تفعله النباتات وكيف تبدو الأرض عندما تكون الشمس ساطعة.
محقق الرادار: يرتدي نظارات ترى من خلال السحب باستخدام موجات الراديو. يمكنه "الشعور" بمدى خشونة الأرض أو مدى رطوبة التربة، حتى أثناء العواصف.
محقق الحرارة: يرتدي نظارات حرارية ترى درجة الحرارة. هو يعرف بالضبط مدى سخونة أو برودة الأرض، نهاراً وليلاً.
المحقق الموسمي: يرتدي نظارات تتبع تغير النباتات عبر الفصول الأربعة. إنه يفهم إيقام نمو الربيع وخمول الشتاء.
محقق التضاريس: يرتدي نظارات ترى شكل الأرض ونوع التربة. هو يعرف الارتفاع وكيف يمكن للمياه أن تتدفق أسفل التل.

كيف تم تدريبهم

لم يكتفِ الباحثون بالتخمين فيما يجب أن يعرفه هؤلاء الخبراء، بل قاموا بتدريبهم باستخدام طريقة ذكية تسمى JEPA.

عادةً، عندما تعلم حاسوباً كيف "يرى"، فإنك تعرض عليه صورة وتطلب منه إعادة رسم الأجزاء المفقودة بكسل تلو الآخر. يشبه هذا طلب نسخ كتاب مدرسي كلمة بكلمة من طالب. إنه أمر بطيء ويجبر الطالب على حفظ "الضجيج" (مثل التشويش على شاشة التلفاز).

بدلاً من ذلك، تم تعليم هؤلاء الـ Mini-JEPAs التنبؤ بـ معنى الأجزاء المفقودة. يشبه الأمر إظهار بعض الأدلة لمحقق وسؤاله: "ما هي القصة المرجحة هنا؟". سمح هذا لهم بتعلم فيزياء المستشعر الخاص بهم (مثل كيفية سلوك الحرارة أو كيفية ارتداد الرادار) دون التشتت بالتفاصيل الفوضوية للصور الخام.

ولأنهم جميعاً تم تدريبهم باستخدام نفس بنية الحاسوب ولكن مع "نظارات" مختلفة، استطاع الباحثون إثبات أن أي اختلافات في عقولهم جاءت حصرياً من المستشعرات التي استخدموها، وليس من طريقة تعليمهم.

وكيل "الموجه" (The Router Agent)

وجود خمسة خبراء أمر رائع، ولكنك تحتاج إلى شخص يقرر من تسأل. قام الباحثون ببناء وكيل موجه (يعمل بنموذج لغوي كبير).

عندما تطرح سؤالاً مثل: "هل هناك فيضانات تحت هذه السحب؟"، يقرأ الموجه "بطاقة هوية" صغيرة لكل خبير. تخبر بطاقة الهوية الموجه بما يجيده كل خبير.

يرى الموجه "سحباً" و"فيضانات".
يعرف أن المحقق البصري لا يستطيع الرؤية عبر السحب.
يعرف أن محقق الرادار يمكنه الرؤية عبر السحب وهو حساس للمياه.
لذا، يرسل الموجه السؤال خصيصاً إلى محقق الرادار.

ماذا وجدوا

اختبر الباحثون هذا النظام مقابل موسوعة "AlphaEarth" العملاست ووجدوا بعض الأشياء المثيرة للاهتمام:

التخصص يعمل: كان كل Mini-JEPA الأفضل في التنبؤ بالشيء الذي يراه مستشعره فيزيائياً. كان محقق الحرارة مذهلاً في التنبؤ بدرجة الحرارة؛ وكان محقق التضاريس مذهلاً في التنبؤ بالارتفاع.
أشكال عقول مختلفة: على الرغم من أنهم بنفس الحجم، إلا أن "عقولهم" (تسمى رياضياً المجموعات أو Manifolds) لها أشكال مختلفة. عقل محقق الحرارة بسيط وناعم (مثل خط مستقيم)، بينما عقل محقق الرادار معقد ومتعرج (مثل ورقة مجعدة). وهذا يثبت أنهم يعالجون العالم بطرق مختلفة جوهرياً.
أفضل معاً: عندما دمج الباحثون الـ Mini-JEPAs مع AlphaEarth العملاقة، حصلوا على إجابات أفضل لأشياء محددة مثل رطوبة التربة وهطول الأمطار مما استطاعت AlphaEarth الحصول عليه بمفردها.
"الموجه" هو الفائز: عندما اختار الموجه الخبير المناسب للمهمة، كانت الإجابات أكثر دقة وواقعية بكثير مما لو حاولت الموسوعة العملاقة الإجابة على كل شيء بمفردها.

الخلاصة

تجادل الورقة بأنه ليس عليك دائماً امتلاك كمبيوتر خارق ضخم ومكلف على مستوى كوكبي لفهم الأرض. يمكنك بناء أسطول من النماذج الصغيرة والرخيصة والمتخصصة التي يمكن تدريبها على جهاز كمبيوتر واحد.

من خلال استخدام "موجه" ذكي لاختيار المتخصص المناسب للمهمة، يمكنك الحصول على إجابات جيدة بقدر (أو أحياناً أفضل من) النماذج العملاقة، ولكن مع قدر أقل بكثير من قوة الحوسبة وشفافية أكبر. إنه الفرق بين توظيف شخص عام يمتلك معرفة سطحية بكل شيء، وبين توظيف فريق من خمسة خبراء مركزين يعرفون تماماً ما يفعلونه.

ملخص تقني: أسطول نماذج التأسيس Mini-JEPA يُمكّن الذكاء الهيدرولوجي الوكيل

بيان المشكلة

تتبع النماذج التأسيسية الجيومكانية عادةً نموذج "العام الشامل": تدريب نموذج واحد ضخم على بيانات متنوعة متعددة الأطياف، ورادارية، وغلاف جوي لإنتاج فضاء تضمين عالمي. وبينما يعد هذا النهج فعالاً للتوصيف الواسع، إلا أنه يواجه ثلاث عوائق حرجة في المجالات المتخصصة مثل الهيدرولوجيا (علم المياه):

تسوية الإشارات (Signal Compromise): يجب على فضاء التضمين الواحد تخصيص أبعاد لظواهر ذات أصول فيزيائية متباينة (مثل الانعكاس البصري مقابل التشتت الميكروي)، مما يؤدي غالباً إلى تقليل وزن الإشارات المتخصصة ذات الصلة بالمهام الهيدرولوجية المحددة.
إمكانية الوصول والتكلفة: النماذج ذات النطاق الكوكبي (مثل Google AlphaEarth) مكلفة التدريب، وغالباً ما تكون مغلقة المصدر، وتتطلب موارد حوسبة هائلة، مما يجعلها غير متاحة للعديد من المجموعات البحثية ويصعب تدقيقها أو توسيعها.
الافتقار إلى التخصص: قد لا تلتقط النماذج العامة الإشارات الفيزيائية الدقيقة المطلوبة للاستدلال الهيدرولوجي المتخصص، حيث تكمن البيانات ذات الصلة غالباً في مستشعر محدد النوع.

يقترح المؤلفون أنه بدلاً من نموذج واحد متجانس، يمكن لأسطول من النماذج الصغيرة المتخصصة حسب المستشعر، والتي يديرها موجه وكيل (Agentic Router)، أن يقدم بديلاً أكثر كفاءة وقابلية للتفسير والأداء لذكاء الهيدرولوجيا.

المنهجية

1. أسطول Mini-JEPA

المساهمة الجوهرية هي أسطول مكون من خمسة نماذج Mini-JEPA (بنية التضمين المشترك التنبؤية) التأسيسية.

البنية: تشترك جميع النماذج الخمسة في بنية أساسية موحدة من نوع Vision Transformer-Small (ViT-S) (12 طبقة، 6 رؤوس انتباه، بُعد خفي 384) وفضاء مخرجات بـ 64 بُعداً لضمان القابلية المباشرة للمقارنة مع النماذج ذات النطاق الكوكبي مثل AlphaEarth.
وصفة التدريب: يستخدمون هدف تدريب I-JEPA مع منظم VICReg. وخلافاً لترميز المحركات المقنعة (MAE) التي تعيد بناء البكسلات (مما يجبر النموذج على تعلم الضوضاء الخاصة بالمستشعر)، يتنبأ JEPA بالتمثيلات الكامنة المقنعة. وهذا يسمح بتطبيق نفس وصفة التدريب عبر أنواع مختلفة من المستشعرات دون انحياز نحو ملفات تعريف ضوضاء محددة (مثل "النمش" في رادار SAR أو "التخطيط" في MODIS).
البيانات: تم تدريب كل نموذج مسبقاً على منتج قمر صناعي متميز من Google Earth Engine يغطي 9,704 رقعة (128×128 بكسل، بدقة 30 متراً) عبر الولايات المتحدة القارية (CONUS) لعام 2022. الأنواع الخمسة هي:
1. S2-Optical: الانعكاس السطحي لـ Sentinel-2 (الوسيط السنوي).
2. S1-SAR: رادار Sentinel-1 ثنائي الاستقطاب (VV+VH).
3. MODIS-Thermal: درجة حرارة سطح الأرض من MODIS (ليل/نهار).
4. S2-Phenology: مركبات ربع سنوية من Sentinel-2 تلتقط الديناميكيات الموسمية.
5. Topo-Soil: طبقات من الارتفاع/الميل/الاتجاه من SRTM وخصائص SoilGrids.

2. إطار التقييم

يصنف المؤلفون الأسطول وفق ثلاثة محاور:

القابلية للتفسير على مستوى الأبعاد: استخدام ارتباط سبيرمان وأهمية التبديل في الغابة العشوائية (Random Forest permutation importance) لربط أبعاد التضمين بالمتغيرات البيئية (مثل رطوبة التربة، الهطول، ودرجة الحرارة).
هندسة المتشعب (Manifold Geometry): تحليل البنية الهندسية لفضاءات التضمين ذات الـ 64 بُعداً عبر نسب المشاركة العالمية (الأبعاد الفعالة) والبعد الجوهري المحلي (المعتمد على k-NN).
التكامل (Complementarity): استخدام تحليل الارتباط الكنسي (CCA) وانحدار الغابة العشوائية المشترك لتحديد ما إذا كانت Mini-JEPAs توفر معلومات لم يلتقطها AlphaEarth بالفعل.

3. النظام الوكيل (Agentic System)

تم تنفيذ وكيل توجيه (LLM) لتشغيل الأسطول:

بطاقات المرجع (Reference Cards): يتم تلخيص كل Mini-JEPA في "بطاقة مرجع" مدمجة تحتوي على قاموس أبعادها، ملفها الهندسي، وصف إشارتها الفيزيائية، ومقاييس أدائها التنبؤي.
منطق التوجيه: عند تلقي سؤال هيدرولوجي بلغة طبيعية، يقرأ نموذج اللغة الكبير (Router LLM) هذه البطاقات ويصدر خطة مهيكلة لاستعلام نماذج Mini-JEPA محددة (ويمكن إضافة AlphaEarth اختيارياً).
الاسترجاع والتركيب: تقوم النماذج المختارة بعملية استرجاع أقرب الجيران (k-nearest-neighbor) ضد فهارس FAISS. ثم يقوم نموذج لغة تركيبي بدمج السياق المسترجع لتوليد إجابة نهائية.

النتائج الرئيسية

1. فيزياء المستشعر تقود التخصص

أظهر كل نموذج Mini-JEPA أقوى مهارة تنبؤية له على المتغير البيئي المطابق فيزيائياً لمستشعره:

MODIS-Thermal: حقق $R^2 = 0.97$ لمتوسط درجة الحرارة السنوية.
Topo-Soil: حقق $R^2 = 0.97$ للارتفاع.
S2-Phenology: حقق $R^2 = 0.81$ للهطول (عبر استجابة الغطاء النباتي).
S1-SAR: حقق $R^2 = 0.62$ للهطول.
S2-Optical: حقق $R^2 = 0.73$ للجفاف.
ومن الملاحظ أن أنماط أداء الأسطول لم تكن مجرد عمليات بحث بسيطة من مستشعر إلى متغير، بل عكست عمليات سطحية معقدة (على سبيل المثال، التنبؤ بالهطول عبر الظواهر الموسمية كان أفضل من رادار SAR). واجهت جميع النماذج صعوبة في تصنيف الغطاء الأرضي الفئوي (NLCD)، مما يشير إلى قصور في المهمة وليس فشلاً في النموذج.

2. هندسات متشعبات متميزة

أنتجت النماذج الخمسة متشعبات تضمين ذات هياكل هندسية متميزة، تعكس فيزياء مستشعراتها:

الأبعاد العالمية: تراوحت من 8.9 (S1-SAR) إلى 20.2 (MODIS-Thermal).
التعقيد المحلي: أظهر S1-SAR تعقيداً محلياً عالياً (متوسط $n_{80} \approx 6.0$ )، بينما كان MODIS-Thermal أحادي البعد تقريباً محلياً ( $n_{80} \approx 2.0$ )، وهو ما يتوافق مع تغير درجات الحرارة عبر تدرجات سلسة.
يؤكد هذا أن تثبيت البنية والوصفة يعزل المستشعر كدافع رئيسي للاختلافات الهيكلية.

3. التكامل مع AlphaEarth

القيمة المضافة: أدى دمج Topo-Soil أو S2-Phenology مع AlphaEarth إلى تحقيق مكاسب إيجابية ( $\Delta R^2$ تصل إلى 0.031) لرطوبة التربة، والجفاف، والهطول.
التكرار (Redundancy): بالنسبة للمتغيرات التي كان AlphaEarth يؤدي فيها بشكل جيد (درجة الحرارة، الارتفاع)، لم تقدم Mini-JEPAs أي زيادة إضافية تذكر، رغم أنها استطاعت مضاهاة أداء AlphaEarth بشكل فردي.
الاستبدال: في المتغيرات المطابقة فيزيائياً، استطاع نموذج Mini-JEPA واحد (22 مليون معلمة) أن يحل محل النموذج العام ذي النطاق الكوكبي، محققاً درجات $R^2$ مماثلة بكسر بسيط من الحوسبة.

4. الأداء الوكيل

دقة التوجيه: حقق نموذج التوجيه (Router LLM) نسبة نجاح 100% في تحديد الأنواع المستهدلة لمجموعة مختارة من 40 سؤالاً.
جودة الاستجابة: في تقييمات "النموذج اللغوي كحكم" (LLM-as-Judge):
- الإجمالي: أظهر نظام الاسترجاع المزدوج (AlphaEarth + الأسطول) مكاسب إجمالية طفيفة فقط مقارنة بـ AlphaEarth وحده ( $\Delta \approx +0.021$ )، ويرجع ذلك أساساً إلى تشبع الدرجات في الأسئلة العامة.
- الأسئلة أحادية النوع: بالنسبة للأسئلة التي تقع فيها الإشارة الفيزيائية بوضوح في مستشعر واحد، تفوق الأسطول الموجه بشكل كبير على AlphaEarth وحده (Cohen's $d = 1.10, p = 0.031$ ).
- الاستبدال: أدى الأسطول الموجه بمفرده أداءً مقارباً لـ AlphaEarth في الأسئلة المطابقة فيزيائياً، مما يثبت صلاحيته كبديل مستقل عندما لا تتوفر النماذج العامة.

الأهمية والادعاءات

يدعي البحث أن نماذج Mini-JEPAs المتخصصة والمدرّبة محلياً توفر مساراً مكملاً وحيوياً للنماذج التأسيسية ذات النطاق الكوكبي لعلوم البيئة.

الديمقراطية: تصميم الأسطول يخفض حاجز الدخول، مما يسمح للمؤسسات ذات موارد الحوسبة المتواضعة (جهاز عمل واحد مزود بمعالج رسومي) ببناء وتدقيق وتوسيع تضمينات بيئية مخصصة.
القابلية للتفسير: من خلال فصل النماذج حسب فيزياء المستشعرات، يوفر النظام تفسيراً أوضح حول الإشارات الفيزيائية التي تقود تنبؤات محددة، بخلاف طبيعة "الصندوق الأسود" لتضمينات النماذج العامة.
المرونة الوكيلية: نجح وكيل التوجيه في تركيب هذه المتخصصات في نظام وظيفي يتكيف مع المتطلبات الفيزيائية للاستعلام، متفوقاً على النماذج العامة في المهام المتخصصة.
التعايش: يتصور المؤلفون مستقبلاً يتعايش فيه التضمين العام مع أساطيل المتخصصين، حيث تختار الوكلاء ديناميكياً الأداة المناسبة بناءً على فيزياء السؤال.

يظل المؤلفون متواضعين، معترفين بوجود قيود مثل الاقتصار على بيانات CONUS، ومجموعة التدريب لعام واحد، وتشبع درجات "النموذج اللغوي كحكم" في الأسئلة العامة. ويقترحون أن العمل المستقبلي يجب أن يستكشف التخصص حسب النظم الهيدرولوجية (مثل الثلوج، أو المناطق القاحلة) والمقاييس الزمنية، واختبار التعميم الجغرافي خارج نطاق التدريب.