تقترح هذه الورقة طريقة تنبؤ تآلفي مجزأ للبيانات الهرمية تتضمن خطوة إسقاط (مصالحة) للاستفادة من التبعيات الهيكلية، مما يحقق مناطق تنبؤ أصغر عالمياً مع الحفاظ على ضمانات التغطية المشتركة والمكونات على حد سواء.
تخيل أنك تحاول التنبؤ بالطقس لدولة بأكملة. لديك نموذج يعطيك توقعات لكل مدينة وبلدة وقرية. ولكن هناك مشكلة، نموذجك فوضوي بعض الشيء؛ فقد يتوقع أن إجمالي هطول الأمطار في الدولة بأكملها هو 100 ملم، ولكن إذا جمعت هطول الأمطار لجميع البلدات، يصبح الإجمالي 120 ملم. الأرقام لا تتطابق. في عالم البيانات، يسمى هذا نقصًا في الاتساق (Coherence).
هذه الورقة البحثية تدور حول إصلاح هذه الفوضى وجعل "شبكة الأمان" المحيطة بتوقعاتك أصغر وأكثر دقة، دون جعل الشبكة أقل أمانًا.
إليك تفصيل عملهم، باستخدام تشبيهات بسيطة:
1. المشكلة: "الخريطة الفوضوية"
تخيل أن لديك خريطة لبلد مقسم إلى مناطق، والمناطق مقسمة إلى مدن.
الهيكل الهرمي: إجمالي هطول الأمطار في الدولة يجب أن يساوي مجموع الأمطار في جميع مناطقها، والذي يجب أن يساوي بدوره مجموع الأمطار في جميع مدنها. هذا هو "الهيكل الهرمي".
التوقع: أنت تستخدم نموذج حاسوبي ذكي لتخمين كمية المطر لكل مدينة.
المشكلة: الحاسوب جيد ولكنه ليس مثاليًا. إذا أخذت تخميناته الخام فقط، فلن تتطابق الأرقام. "إجمالي الدولة" لن يتطابق مع "مجموع المدن".
2. شبكة الأمان: التنبؤ المطابق (Conformal Prediction)
عندما نضع توقعات، فنحن لا نعرف الإجابة الدقيقة أبدًا. لذا، بدلًا من قول "سيهطل المطر بمقدار 5 ملم بالضبط"، نرسم صندوقًا (منطقة تنبؤ) ونقول "سيهطل المخل بمقدار يتراوح بين 4 ملم و6 ملم".
الهدف: نريد أن يكون هذا الصندوق صغيرًا (دقيقًا) ولكن كبيرًا بما يكفي للإمساك بالإجابة الحقيقية بنسبة 90% من الوقت (موثوقًا).
الطريقة الحالية: الطرق القياسية ترسم هذه الصناديق بشكل مستقل لكل مدينة. هي لا تهتم إذا كانت صناديق المدن تتوافق مع صندوق الدولة. وهذا غالبًا ما يؤدي إلى صناديق ضخمة ومضيعة للجهد لأن الطريقة تلعب دور "الأكثر أمانًا"، متجاهلة حقيقة أن المدن مرتبطة ببعضها البعض.
3. الحل: "التوفيق" (المسقط - The Projector)
جمع المؤلفون بين فكرتين:
التنبؤ المطابق (Conformal Prediction): وهي الطريقة المستخدمة لرسم صناديق الأمان.
توفيق التوقعات (Forecast Reconciliation): وهي تقنية تُستخدم لإصلاح "الخريطة الفوضوية" لكي تتطابق الأرقام.
التشبيه: تخيل أنك تسقط ظل جسم ثلاثي الأبعاد على جدار ثنائي الأبعاد.
التوقع الخام: لديك جسم ثلاثي الأبعاد (توقعاتك) يطفو قليلاً بعيدًا عن الجدار؛ إنه لا يلمس السطح حيث ينبغي له أن يكون.
خطوة الإسقاط: يأخذ المؤلفون هذا الجسم الطافي و"يسقطونه" مباشرة على الجدار. هذا يجبر الجسم على الاستقرار بشكل مسطح والالتزام بقواعد الجدار (الهيكل الهرمي).
النتيجة: بمجرد تسطيح الجسم على الجدار، تصبح الظلال (صناديق التنبؤ) أكثر إحكامًا وكفاءة.
4. الاكتشاف الكبير: صناديق أصغر، نفس مستوى الأمان
أثبتت الورقة شيئين رئيسيين:
بالنسبة للصورة الكاملة (التغطية المشتركة - Joint Coverage): إذا كنت تريد صندوقًا واحدًا عملاقًا يغطي طقس الدولة بأكملها في وقت واحد، فإن استخدام خطوة "الإسقاط" هذه يجعل الصندوق أصغر (أكثر دقة) مع الحفاظ على نفس ضمان الأمان بنسبة 90%. الأمر يشبه تقليص بطانية فضفاضة لتناسب سريرًا تمامًا دون ترك أي فجوات.
بالنسبة للأجزاء الفردية (التغطية لكل مكون - Component-wise Coverage): هذا هو الجزء الأصعب. أرادوا جعل الصناديق أصغر لكل مدينة محددة على حدة، مع ضمان عمل النظام بأكل.
قدموا طريقة جديدة لقياس الكفاءة.
أثبتوا أنه باستخدام نوع معين من "الإسقاط" (يسمى خطوة التوفيق) الذي يحترم الهيكل الهرمي، تصبح الصناديق الفردية لكل مدينة أصغر مما لو كنت قد خمنت كل واحدة منها على حدة.
العقبة: للحصول على أفضل الصناديب الصغيرة الممكنة، تحتاج إلى معرفة القليل عن كيفية سلوك الأخطاء في نموذجك (تحديدًا "التباين المشترك" أو Covariance الخاص بها). إذا كنت لا تعرف هذا بدقة، فلا يزال بإمكانك الحصول على صناديق أفضل باستخدام نسخة "قوية" (Robust) من الإسقاط، وإن كانت ربما ليست الأصغر مطلقًا.
5. ماذا اختبروا؟
لم يكتفوا بالرياضيات على الورق؛ بل أجروا عمليات محاكاة.
أنشأوا بيانات وهمية تشبه هيكلًا هرميًا معقدًا (مثل شجرة عائلة لاستهلاك الطاقة أو المبيعات).
قارنوا طريقتهم الجديدة "الموفقة" (Reconciled) بالطريقة القديمة "الخام" (Raw).
النتيجة: أنتجت الطريقة الجديدة باستمرار مناطق تنبؤ أكثر إحكامًا وكفاءة (صناديق أصغر) دون فقدان أي من ضمانات الأمان. وفي بعض الحالات، كان التحسن هائلًا (تقليل حجم منطقة التنبؤ بنسبة تصل إلى 65% في اختباراتهم).
ملخص في جملة واحدة
عرف المؤلفون كيفية أخذ مجموعة فوضوية من التوقعات التي لا تتطابق أرقامها، وإجبارها على الالتزام بقواعد هيكلها الهرمي (مثل شجرة العائلة)، واستخدام هذا الهيكل لتقليص "شبكات الأمان" حول التوقعات، مما يجعلها أكثر دقة بكثير دون جعلها أقل موثوقية.
ملخص تقني: التنبؤ المطابق للبيانات الهرمية
بيان المشكلة تتناول الورقة البحثية تحدي بناء مناطق تنبؤ صالحة للبيانات متعددة المتغيرات التي تظهر بنية هرمية، حيث تكون بعض المكونات عبارة عن تركيبات خطية من مكونات أخرى (مثل المجاميع الإقليمية التي تجمع إلى إجماليات وطنية). وبينما يوفر التنبؤ المطابق (Conformal Prediction - CP) القياسي ضمانات تغطية في العينات المحدودة للبيانات متعددة المتغيرات، إلا أنه غالباً ما يتجاهل القيود الهيكلية المتأصلة في البيانات الهرمية. وفي المقابل، تستغل تقنيات تسوية التوقعات (Forecast Reconciliation) هذه القيود الخطية لتحسين دقة التوقعات النقطية، لكنها واجهت تاريخياً صعوبات في التوسع لتشمل التنبؤ الاحتمالي مع التحديد الكمي الدقيق لعدم اليقين. وتتمثل المشكلة الجوهرية في الجمع بين هذين الإجراءين اللاحقين (Post-hoc) لإنتاج مناطق تنبؤ تكون صالحة إحصائياً (تضمن التغطية) وفعالة (تقلل حجم المنطقة) مع احترام قيود الاتساق الهرمي.
المنهجية يقترح المؤلفون إطار عمل يدمج التنبؤ المطابق المنقسم (Split Conformal Prediction - SCP) مع تسوية التوقعات عبر خطوة إسقاط. تعمل المنهجية تحت فرضية التوزيع المستقل والمتماثل (i.i.d.) للبيانات ولدرجات عدم التطابق، مع تقديم افتراضات توزيعية محددة للتحليل الخاص بالكفاءة.
الإطار الهرمي: تحقق البيانات y∈Rm العلاقة y=Hy1:n، حيث H هي مصفوفة هيكلية معروفة تربط المستويات الأكثر تفصيلاً (n) بالمستويات المجمعة (m). وتُسمى المتجهات التي تحقق u=Hu1:n بالمتجهات "المتسقة".
هدفان للتغطية:
التغطية المشتركة (Joint Coverage): ضمان وقوع المتجه الحقيقي yT+1 ضمن منطقة تنبؤ متعددة المتغيرات C(xT+1) باحتمالية 1−α.
التغطية لكل مكون (Component-wise Coverage): ضمان وقوع كل مكون فردي yT+1,i ضمن فترته الخاصة Ci(xT+1) باحتمالية 1−α. وقد تم تحديد هذا كهدف أكثر طبيعية للبيانات الهرمية حيث يتم تحليل المكونات غالباً بشكل فردي.
للتغطية المشتركة: يتبنى المؤلفون نهج SCP الإهليلجي (Johnstone & Cox, 2021; Messoudi et al., 2022). ويقدمون مصفوفة إسقاط PA (متعامدة في معيار A) على الفضاء المتسق Im(H). ويتم تعديل المفسر (Regressor) ليصبح μ^=PAμ^base، وتُحسب درجات عدم التطابق بناءً على المسافة بين الملاحظات والتوقعات المسقطة.
للتغطية لكل مكون: يستخدم المؤلفون درجات عدم التطابق الموقعة (st=yt−μ^t). وبخلاف البواقي المطلقة، تحافظ البواقي الموقعة على خاصية الاتساق الخطي (st=Pst إذا كان μ^t مسقطاً). ويطبق الإجراء SCP لكل مكون على هذه الدرجات الموقعة بعد إسقاط التوقعات الأساسية على الفضاء المتسق.
تحليل الكفاءة:
يتم تحليل الكفاءة النظرية تحت افتراض أن البواقي تتبع توزيعاً إهليلجياً.
بالنسبة لمتجه أوزان ثابت w، يثبت المؤلفون أن إسقاط التوقعات باستخدام مصفوفة إسقاط محددة Pw (مشتقة من H و w) يقلل من مجموع مربعات أطوال الفترات المتوقع مقارنة بالتوقعات غير المسقطة.
يتم استخلاص نتيجة "أوراكل" (Oracle) أقوى بافتراض معرفة مصفوفة التغاير Σ للدرجات. باستخدام إسقاط الحد الأدنى للأثر (MinT) (PΣ−1)، تحقق الطريقة تحسينات كفاءة موحدة فوق أي مصفوفة إسقاط أخرى.
المساهمات الرئيسية
توليف مبتكر: يعد هذا العمل أول من يجمع رسمياً بين التنبؤ المطابق وتسوية التوقعات لبناء مناطق تنبؤ صالحة وفعالة للبيانات الهرمية.
ضمانات التغطية لكل مكون: تقدم الورقة وتحلل معيار التغطية لكل مكون، وهو معيار أكثر صلة بالتطبيقات الهرمية من التغطية المشتركة. كما تثبت أن SCP المُسوّى المقترح (الخوارزمية 5) يحافظ على هذه الضمانات.
إثباتات الكفاءة:
التغطية المشتركة: يثبت المؤلفون أن مناطق التنبؤ الإهليلجية المُسوّاة أصغر (من حيث مقياس ليبيج) من المناطق الإهليلجية القياسية، بشرط اختيار مصفوفة الإسقاط بشكل صحيح.
التغطية لكل مكون: تحت افتراضات التوزيع الإهليجي، تثبت الورقة أن فترات التنبؤ المطابقة المُسوّاة أكثر كفاءة (أصغر في متوسط مربعات الأطوال) من الفترات القياسية لكل مكون. ويتحقق ذلك من خلال ربط تقليل أطوال الفترات بمسائل تقليل الأثر المركزية في أدبيات تسوية التوقعات (تحديداً نهج MinT).
الابتكار التقني: يربط المؤلفون بين هذين المجالين عبر استخدام درجات عدم التطابق الموقعة للتعامل مع غياب افتراضات عدم الانحياز المطلوبة عادةً في تسوية التوقعات، مع الاستفادة من متراجحات الأثر لإثبات مكاسب الكفاءة في سياق التنبؤ المطابق.
النتائج تم التحقق من النتائج النظرية من خلال تجارب مكثفة على بيانات هرمية اصطناعية ذات تعقيدات متغيرة (تصل إلى 1,801 عقدة).
التغطية: حققت جميع الخوارزميات المقترحة مستويات التغطية المستهدفة (90%) لكل من أهداف التغطية المشتركة والتغطية لكل مكون عبر جميع الإعدادات.
الكفاءة (المشتركة): تنتج الطريقة الإهليلجية المُسوّاة (الخوارزمية 2) باستمرار أحجام تنبؤ أصغر من النموذج المرجعي (الخوارزمية 1).
الكفاءة (لكل مكون):
استراتيجية تسوية المربعات الصغرى الموزونة (WLS) (باستخدام تقديرات مصفوفة التغاير القطرية) تفوقت باستمرار على النموذج المرجعي (Direct) وعلى الطرق الأخرى (OLS, Combi)، مما قلل إجمالي أطوال الفترات بنسبة تتراوح بين 15% إلى 65%.
استراتيجية MinT (باستخدام مصفوفة التغاير الكاملة) كانت الأفضل للهياكل الصغيرة، لكنها أصبحت غير موثوقة للهياكل الكبيرة (الإعدادات 5 و 6) بسبب مشاكل محتملة في تفرد مصفوفة التغاير عند التقدير.
أظهرت طرق Combi و OLS أداءً مختلطاً، حيث كان OLS قوياً ولكنه أقل كفاءة من WLS.
الأهمية والادعاءات تدعي الورقة توفير أساس نظري لتحسين التقييم الكمي لعدم اليقين في السياقات الهرمية. ومن خلال إثبات أن القيود الهيكلية يمكن استغلالها لاحقاً (post-hoc) لتقليص مناطق التنبؤ دون التضحية بالتغطية، يقدم هذا العمل بديلاً عملياً للنماذج الهرمية المكلفة حوسبياً أثناء مرحلة التدريب.
يتسم المؤلفون بالتواضع فيما يتعلق بنطاق ضماناتهم النظرية، مشيرين إلى أن التحليل يعتمد على إطار عمل i.i.d. وافتراضات التوزيع الإهليجي. كما أوضحوا صراحة أن السلاسل الزمنية الهرمية في العالم الحقيقي غالباً ما تنتهك فرضية i.i.d. لدرجات عدم التطابق. وبناءً على ذلك، تضع الورقة نتائجها كخطوة تأسيسية، مقترحة أن العمل المستقبلي يجب أن يوسع هذه المبادئ لتشمل البيانات غير المتماثلة (على سبيل المثال، عبر الاستدلال المطابق التكيفي) والهياكل الديناميكية. تكمن الأهمية الأساسية في إثبات أن "التسوية" ليست مجرد أداة للتوقعات النقطية، بل هي آلية صالحة لتعزيز كفاءة مجموعات التنبؤ الخالية من التوزيع.