ملخص تقني: FieldFormer

بيان المشكلة

تُلاحظ الأنظمة الزمكانية في العالم الحقيقي، والتي تحكمها معادلات تفاضلية جزئية (PDEs)، غالباً من خلال شبكات استشعار متباعدة، مشوشة، وغير منتظمة. يخلق هذا عدم تطابق في القدرة على الملاحظة (observability mismatch): حيث يتطور الحالة الفيزيائية الكامنة في فضاء مستمر عالي الأبعاد، بينما تقتصر الملاحظات على فضاء استشعار منخفض الأبعاد.

تحت ظروف التشتت المكاني الشديد، تصبح مشكلة إعادة بناء المجال العالمي (global field reconstruction) غير محددة جوهرياً. إذ يمكن لعدة مجالات كامنة متميزة فيزيائياً أن تنتج مسارات استشعار متطابقة، مما يجعل استعادة الحالة العالمية الحقيقية غير قابلة للتعريف (non-identifiable) دون وجود انحيازات استقرائية قوية، وغالباً ما تكون غير قابلة للتحقق. وبناءً على ذلك، فإن الاعتماد على الاستعادة العالمية غير المقيدة يؤدي إلى تنبؤات غير موثوقة بعيداً عن مواقع المستشعرات المرصودة. تجادل الورقة بأنه في مثل هذه الأنظمة، ينتقل الهدف الموثوق من الاستعادة الدقيقة للحالة الكامنة إلى نمذجة فضاء المستشعر (sensor-space modeling): أي بناء مجال بديل منطقي فيزيائياً يظل متسقاً مع الملاحظات المتفرقة وهياكل النقل المحلية.

المنهجية: FieldFormer

تم تقديم FieldFormer كـ بنية ترانسفورمر خالية من الشبكات (mesh-free transformer architecture) مصممة خصيصاً لنمذجة فضاء المستشعر المدركة للمحلية. وهي تبتعد عن آليات الانتباه العالمي وافتراضات الشبكات الثابتة، وتركز بدلاً من ذلك على أحياء محلية تكيفية تحترم الهندسة المعلوماتية للاستشعار المتفرق.

المكونات المعمارية الأساسية

1. مقياس مسافة قابل للتعلم ومدرج بمقياس السرعة:
   بدلاً من استخدام المسافة الإقليدية الساذجة، يستخدم FieldFormer مقياساً قابلاً للتعلم لتحديد هندسة الحي:
   $$d((x_q, t_q), (x_i, t_i)) = \sum_{k} \gamma_k^2 (x_{q,k} - x_{i,k})^2 + \gamma_t^2 (t_q - t_i)^2$$
   المعلمات $\gamma$ قابلة للتعلم (يتم تمثيلها كـ $\exp(\theta)$ لضمان الإيجابية) للتكيف مع الديناميكيات متباينة الخواص. على سبيل المثال، يمكن للنموذج تعلم تمديد الأحياء على طول اتجاهات التدفق للأنظمة التي يهيمن عليها الحمل (advection-dominated)، أو إعطاء الأولوية للقرب الزمني للأنظمة الانتشارية (diffusive systems).

2. سياق متفرق أقصى ثابت:
   لضمان القابلية للتوسع والاستقرار، يبني النموذج سياقاً ثابتاً $C(q)$ لكل استعلام. يتضمن هذا السياق مجموعة مرشحة مكانية من المستشعرات القريبة ونافذة زمنية محدودة. يتم استبعاد الملاحظات المفقودة ضمن هذه النافذة، ويتم حشو أو تقليص الرموز (tokens) المتبقية الصالحة. يتجنب هذا النهج التكلفة الحسابية لعمليات البحث عن أقرب جار (kNN) لكل استعلام، مع ضمان عمل النموذج على عدد ثابت من الرموز.

3. مشفر ترانسفورمر محلي:
   يتم ترميز رموز الحي كإزاحات نسبية ($x_j - x_q, t_j - t_q$) وقيم مرصودة. يقوم مشفر ترانسفورمر محلي بتجميع هذه المعلومات. ولأن المدخلات ثابتة بالنسبة للترجمة (relative deltas)، فلا حاجة لترميز موضعي عالمي. يقوم تجميع المتوسط (Mean pooling) بتجميع تضمينات الجيران، والتي تُمرر بعد ذلك إلى رأس تنبؤ MLP.

4. الاستدلال الخالي من الشبكات (Mesh-Free Inference):
   تدعم البنية الاستدلال عند أي إحداثيات مكانية وزمانية دون إعادة تدريب أو إعادة تعريف هياكل الشبكة. وهذا يسمح للنموذج بالتعامل مع شبكات الاستشعار المتطورة (مثل فشل المستشعرات أو إضافتها) بشكل طبيعي.

المتغيرات

• FieldFormer-PINN: يدمب بقايا المعادلات التفاضلية الجزئية (PDE residuals) وخسائر الشروط الحدودية كأشكال اختيارية للتنظيم. يعامل النموذج التنبؤ كحقل عصبي إحداثي، مما يسمح بالحساب المباشر للتدرجات عبر التفاضل التلقائي.
• FieldFormer–Gamma Field: يوسع مقياس السرعة العالمي عبر استبدال معلمات المقياس الثابت بحقول عصبية تعتمد على الإحداثيات ($g_\psi(x, t)$). وهذا يسم يسمح لمفهوم المحلية بالتفاوت عبر النطاقات، والتكيف مع الأنظمة الفيزيائية غير المتجانسة.

المساهمات الرئيسية

1. إعادة صياغة الهدف: تجادل الورقة بأن نمذجة فضاء المستشعر هي هدف أكثر قابلية للتعريف وأكثر فائدة عملية من الاستعادة العالمية للمجال تحت ظروف التشتت الشديد. وتؤكد أن الاستعادة العالمية تعتمد بشدة على المسبقات (priors)، بينما تعتمد عملية استكمال فضاء المستشعر على الدعم الرصدي.
2. بنية للاستشعار المتفرق: يقدم FieldFormer ترانسفورمر خالٍ من الشبكات ومدرك للمحلية، ينظم ديناميكياً الملاحظات المتفرقة بناءً على هندسة مكانية-زمانية متعلمة، متجنباً تعقيد $O(N^2)$ للانتباه العالمي وجمود الرسوم البيانية الثابتة.
3. التحليل النظري: يقدم المؤلفون رؤى نظرية توضح حدود القدرة على الاستعادة. فقد أثبتوا أنه بينما يمتلك FieldFormer قدرة تعبيرية كافية لتمثيل ديناميكيات PDE المحلية (النظرية 5.1)، فإن الاستشعار المتفرق يسبب خطأ "نقص تغطية" لا يمكن تجنبه (النظرية 5.3) عندما تكون التبعيات المكانية الحرجة غير مرصودة. وهذا يفسر سبب فشل الاستعادة العالمية دون افتراضات هيكلية إضافية.

النتائج التجريبية

تم تقييم FieldFormer عبر خمسة اختبارات مرجعية: ثلاثة أنظمة PDE اصطناعية (انتشار حرارة متباين الخواص، ديناميكيات المياه الضحلة، انتشار التلوث بالحمل والانتشار) ومجموعتان من البيانات الواقعية (جودة الهواء في نيودلهي والمراقبة الجوية).

• استكمال فضاء المستشعر (Sensor-Space Imputation): حقق FieldFormer باستمرار أداءً يضاهي أو يتفوق على أفضل النتائج في إعادة بناء القياسات المفقودة عبر طبولوجيا مستمرة من المستشعرات. وقد تفوق بشكل كبير على النماذج المعتمدة على الشبكات (RecFNO, ImputeFormer, Senseiver) والحقول العصبية القائمة على الإحداثيات العالمية (Fourier-MLP, SIREN) في مجموعات البيانات الواقعية، خاصة لمقاييس درجة الحرارة والرطوبة والتلوث.
• إعادة بناء المجال العالمي (Global Field Reconstruction): تباينت النتائج بشكل كبير عبر مجموعات البيانات والأساليب المختلفة. لم تهيمن بنية واحدة على مهام إعادة البناء العالمي. ظل FieldFormer منافساً ولكنه لم يتفوق عالمياً على النماذج المرجعية، مما يدعم الادعاء بأن الاستعادة العالمية حساسة للغاية للتوافق بين الانحياز الاستقرائي للنموذج والعملية المولدة للبيانات.
• دراسات الاستئصال (Ablation Studies):
  • أدى إزالة الترانسفورمر (استبداله بـ MLP) إلى تدهور الأداء في الأنظمة المترابطة أو التي يهيمن عليها النقل، مما يسلط الضوء على أهمية التجميع العلاقاتي.
  • إضافة تنظيم الفيزياء من نوع PINN لم يحسن باستمرار أداء فضاء المستشعر بل أدى أحياناً إلى تدهوره، مما يشير إلى أن بقايا الفيزياء قد تتعارض مع الملاحظات المتفرقة والمشوشة.
  • أظهر متغير Gamma Field تحسينات مختلطة، مما يشير إلى أن الهندسة المعتمدة على الإحداثيات مفيدة في الأنظمة غير المتجانسة ولكنها ليست متفوقة بشكل عام.

الأهمية والادعاءات

تدعي الورقة أن FieldFormer يوفر إطاراً عملياً لإعادة البناء الزمكاني المتفرق ومنظوراً مفاهمياً حول حدود الاستدلال تحت ظروف الاستشعار المتفرق.

• الفائدة العملية: يعد FieldFormer فعالاً لتطبيقات حيث تكون القياسات متفرقة مكانياً ولكنها كثيفة زمنياً، مثل مراقبة البيئة، وتتبع التلوث، وإنترنت الأشياء الصناعي. وطبيعته الخالية من الشبكات تسمح له بالتكيف مع شبكات الاستشوار غير المنتظمة والمتطورة دون تغيير في البنية.
• الرؤية المفاهيمية: تؤكد الورقة أن إعادة بناء المجال الفيزيائي من مستشعرات متفرقة ليس مجرد تحدٍ معماري، بل هو مشكلة استدلال مقيدة بالمعلومات. إن موثوقية إعادة البناء تتشكل أساساً من خلال الهندسة المعلوماتية التي تفرضها شبكة المستشعرات نفسها.
• الادعاءات المتواضعة: يصرح المؤلفون صراحةً أن FieldFormer لا يلغي عدم القدرة على تحديد الهوية (non-identifiability) في إعادة البناء العالمي تحت التشتت الشديد. بدلاً من ذلك، فإنه يوفر نموذجاً بديلاً مهيكلاً تكون موثوقيته في أعلى مستوياتها عندما تكون النطاقات المحلية للتبعية مرصودة. ويحذرون من أن التنبؤات العالمية بعيداً عن دعم المستشعرات يجب أن تُفسر كتقديرات موجهة بالمسبقات وليس كحقائق مطلقة.