🤖 machine learning

Outlier-robust Autocovariance Least Square Estimation via Iteratively Reweighted Least Square

تقترح هذه الورقة خوارزمية ALS-IRLS، وهي خوارزمية جديدة قوية تجاه القيم المتطرفة تدمج آلية عتبة تكيفية على مستوى الابتكار مع دالة تكلفة "هوبر" القائمة على طريقة المربعات الصغرى التكرارية (IRLS) لتحسين دقة تقدير تغاير الضجيج وترشيح الحالة بشكل كبير في ظل وجود قيم قياس متطرفة مقارنة بالطرق التقليدية.

المؤلفون الأصليون: Jiahong Li, Fang Deng

نُشر 2026-03-10

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jiahong Li, Fang Deng

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت كيف يسير عبر غرفة ضبابية ومليئة بالضجيج. للقيام بذلك، يستخدم الروبوت "مرشح كالمان" (Kalman Filter)، وهو يشبه "المُخمّن الذكي". فهو يتنبأ بمكان الروبوت في الخطوة التالية، ثم يتحقق من مستشعراته ليرى أين هو بالفعل، وبعد ذلك يمزج بين هاتين القطعتين من المعلومات ليقدم أفضل تخمين ممكن.

ومع ذلك، لكي يعمل هذا المُخمّن بشكل مثالي، فإنه يحتاج لمعرفة شيئين:

مقدار "التمايل" الذي يحدث للروبوت من تلقاء نفسه (ضجيج العملية - Process Noise).
مقدار الكذب أو الخلل في المستشعرات (ضجيج القياس - Measurement Noise).

في العالم الحقيقي، نادراً ما نعرف هذه الأرقام بدقة. لذا، يتعين علينا تقديرها من خلال مراقبة حركة الروبوت. وهنا يأتي دور طريقة "الأقل مربعات ذاتية التغاير" (Autocovariance Least Squares - ALS). إنها تشبه المحقق الذي ينظر في سجل من بيانات المستشعرات ليكتشف مستويات الضجيج.

المشكلة: تأثير "التفاحة الفاسدة"

المحقق القديم (طريقة ALS القياسية) حساس جداً تجاه "التفاحات السيئة". تخيل أنك تحاول حساب متوسط طول مجموعة من الناس، ولكن إذا كان هناك شخص واحد عملاق (قيمة متطرفة ناتجة عن خلل في المستشعر أو قفزة مفاجئة)، فإن المحقق القديم سيصاب بالارتباك. سيفكر قائلاً: "واو، لا بد أن الجميع عمالقة!"، وسيقوم بحساب متوسط خاطئ وضخم جداً.

في مثال الروبوت الخاص بنا، يجعل خلل واحد في المستشعر المحقق القديم يعتقد أن المستشعرات غير موثوقة للغاية. ومن ثم، يخبر الروبوت بأن يتجاهل تنبؤات حركته الخاصة ويثق في المستشعرات بشكل أعمى، مما يؤدي إلى تعثر الروبوت وسقوطه.

الحل: "المرشح الذكي" (ALS-IRLS)

تقدم هذه الورقة طريقة جديدة وذكية للغاية تسمى ALS-IRLS. وهي تستخدم استراتيجية "ثنائية المستويات" للتعامل مع التفاحات السيئة، مثل وجود "حارس بوابة" عند النادي و"رجل أمن" بداخله.

المستوى الأول: حارس البوابة (العتبة على مستوى الابتكار)

قبل أن يبدأ المحقق حتى في معالجة الأرقام، فإنه يرتدي "نظارات ذكية".

الاستعارة: تخيل أن الروبوت يمشي، وكل خطوة يخطوها هي "تنبؤ". المستشعر يخبره بمكانه. الفرق بين التنبؤ والمستشعر هو "الابتكار" (المفاجأة).
الإجراء: إذا تنبأ الروبوت بأنه على الأرض، لكن المستشعر قال فجأة إنه على السقف، فإن "حارس البوابة" يقول: "هذا مستحيل! هذا خلل!" ويطرد تلك البيانات المحددة خارج الغرفة فوراً.
النتيجة: المحقق لا يرى حتى التفاحات العملاقة السيئة؛ فهو ينظر فقط إلى البيانات السليمة والطبيعية.

المستوى الثاني: رجل الأمن (طريقة المربعات الصغرى الموزونة تكرارياً)

أحياناً، قد تتسلل تفاحة سيئة من خلف حارس البوابة، أو قد تكون قطعة من البيانات "مريبة" ولكنها ليست تالفة بشكل واضح.

الاستعارة: تخيل أن المحقق يحاول الآن حل لغز (بازل). معظم القطع تتناسب تماماً، لكن هناك قطعة واحدة تبدو ملتوية قليلاً.
الإجراء: بدلاً من إجبار تلك القطعة الملتوية على التناسب (مما قد يفسد الصورة بأكملها)، يقول "رجل الأمن": "سنستخدم هذه القطعة، لكننا سنمسكها بخفة شديدة حتى لا تسحب اللغز بأكمله وتفسد شكله".
السحر: يقوم المحقق بذلك بشكل تكراري. يحل اللغز، ويرى أي القطع لا تزال تسحب الأمور خارج شكلها الصحيح، ثم يجعلها أخف وزناً أكثر. ويكرر هذه العملية حتى تصبح الصورة مثالية. هذا هو جزء "المربعات الصغرى الموزونة تكرارياً" (IRLS).

لماذا يهم هذا؟

اختبرت هذه الورقة طريقتها الجديدة مقابل الطريقة القديمة وبعض الطرق الأخرى "القوية" (Robust). وإليك ما حدث:

الدقة: كانت الطريقة القديمة مخطئة بهامش هائل (مثل تقدير شخص طوله 5 أقدام على أنه 50 قدماً). أما الطريقة الجديدة فكانت شبه مثالية، حيث قللت الخطأ بمقدار 100 ضعف.
هدف "الأوراكل" (الخبير المطلق): في العلم، هناك "أوراكل" (كائن سحري يعرف مستويات الضجيج الحقيقية بدقة تامة). وصلت الطريقة الجديدة بأداء الروبوت إلى ضمن 9% من أداء هذا "الأوراكل" السحري.
أفضل من المنافسين: حاولت طرق أخرى حل المشكلة عن طريق تغيير طريقة "تفكير" الروبوت (باستخدام رياضيات معقدة للتعامل مع الأعطال). لكن هذه الورقة أظهرت أنه إذا قمت فقط بـ "تنظيف البيانات" أولاً (عن طريق إزالة الأعطال)، فيمكن للروبوت استخدام "تفكير بسيط ومعياري" ومع ذلك يؤدي بشكل مذهل.

الخلاصة

فكر في الطريقة القديمة على أنها محاولة لخبز كعكة بينما يستمر شخص ما في رمي الحجارة داخل العجين؛ ستنتهي بك الحال بكعكة مليئة بالحجارة.

أما طريقة ALS-IRLS الجديدة، فهي تشبه وجود طباخ:

يفحص المكونات ويرمي الحجارة قبل أن تصل إلى الوعاء.
يخلط بلطف، ويتأكد من أن أي حصوات صغيرة قد تسللت لا تفسد القوام.

النتيجة؟ كعكة مثالية (روبوت يسير بسلاسة) حتى في مطبخ فوضوي للغاية. وهذا يثبت أن تنظيف بياناتك غالباً ما يكون أقوى من محاولة بناء خوارزمية أذكى للتعامل مع بيانات متسخة.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تقدير المربعات الصغرى لتباين التغاير الذاتي المتين ضد القيم المتطرفة عبر المربعات الصغرى الموزونة تكرارياً" للباحثين جياهونج لي وفانغ دينج.

1. بيان المشكلة

تتناول الورقة البحثية التحدي الحرج المتمثل في تقدير مصفوفة تغاير ضوضاء العملية ( $Q$ ) ومصفوفة تغاير ضوضاء القياس ( $R$ ) في مرشحات كالمان (KF) للأنظمة الخطية غير المتغيرة زمنياً (LTI) عندما يكون النظام عرضة للقيم المتطرفة في القياسات.

السياق: تفترض مرشحات كالمان القياسية وجود ضوضاء ذات توزيع غاوسي (طبيعي). ومع ذلك، في الواقع العملي، غالباً ما تعاني المستشعرات من أعطال أو تداخلات خارجية، مما يؤدي إلى توزيعات ضوضاء "ثقيلة الذيول" (قيم متطرفة).
قصور الطرق الحالية:
- المربعات الصغرى لتباين التغاير الذاتي (ALS): وهي طريقة شائعة وفعالة حاسوبياً لتقدير $Q$ و $R$ دون الحاجة لنماذج ضوضاء محددة. ومع ذلك، فهي تعتمد على معيار المربعات الصغرى (LMS) (معيار $\ell_2$ -norm)، مما يجعلها شديدة الحساسية للقيم المتطرفة. حيث يمكن لنقطة بيانات واحدة ملوثة أن تؤدي إلى تحيز شديد في تقديرات تباين التغاير الذاتي، مما يؤدي إلى تباعد المرشح.
- مرشحات كالمان المتينة ضد القيم المتطرفة (ORKF): تعتمد المرشحات المتينة الموجودة (مثل مرشح كالمان بتوزيع "ستودنت-t"، أو مرشح "ماكسيموم كورينتروبي") غالباً على تباينات ضوضاء ثابتة ومخطئة، أو تعتمد على توزيعات بارامترية/غير بارامترية معقدة يصعب ضبطها في الوقت الفعلي وتتطلب جهداً حاسوبياً كبيراً.
الهدف: تطوير طريقة تستعيد بدقة مصفوفات تغاير الضوضاء ( $Q, R$ ) من البيانات الملوثة بالقيم المتطرفة، مما يمكّن مرشح كالمان من العمل بالقرب من أدائه الأمثل (حد الأوراكل/Oracle bound) حتى في البيئات الصاخبة.

2. المنهجية: ALS-IRLS

يقترح المؤلفون خوارزمية ALS-IRLS، وهي خوارزمية مبتكرة تدمج إطار عمل المربعات الصغرى الموزونة تكرارياً (IRLS) في طريقة ALS القياسية. يستخدم هذا النهج استراتيجية تحصين ثنائية المستويات:

المستوى الأول: العتبة التكيفية على مستوى الابتكار

قبل حساب مصفوفة تباين التغاير الذاتي، تقوم الخوارزمية بتصفية تسلسل الابتكار الخام ( $e_k = z_k - H\hat{x}_{k|k-1}$ ).

الآلية: تستخدم تقديراً متيناً للمقياس يعتمد على الانحراف المطلق عن الوسيط (MAD) لتحديد عتبة ديناميكية ( $\gamma_{thr} = 3.5 \hat{\sigma}_e$ ).
الإجراء: أي ابتكار يتجاوز هذه العتبة يتم تصنيفه كقيمة متطرفة ويُستبعد من مجموعة البيانات المستخدمة لحساب متجه تباين التغاير الذاتي التجريبي ( $\hat{b}$ ).
الفائدة: هذا الاستبعاد "الصلب" يقضي على نقاط البيانات الملوثة بشدة والتي قد تهيمن على حل المربعات الصغرى.

المستوى الثاني: IRLS مع دالة تكلفة "هوبر" (Huber)

بعد تشكيل مسألة الانحدار $A\theta = b$ (حيث يحتوي $\theta$ على المتجه الممتد لـ $Q$ و $R$ )، تطبق الخوارية طريقة IRLS للتعامل مع القيم المتطرفة المتبقية في البواقي.

الصياغة: يتم استبدال معيار LMS القياسي بـ دالة تكلفة هوبر ( $\rho(\cdot)$ )، والتي تتصرف بشكل تربيعي للقيم المتبقية الصغيرة وبشكل خطي للقيم المتبقية الكبيرة.
العملية التكرارية:
1. تهيئة الأوزان $W$ كمتطابقة.
2. حل مسألة المربعات الصغرى الموزونة: $\theta^{(t+1)} = (A^T W^{(t)} A)^{-1} A^T W^{(t)} b$ .
3. تحديث الأوزان بناءً على البواقي: $w_i = 1$ إذا كان $|r_i| \le \delta$ ، و $w_i = \delta/|r_i|$ إذا كان $|r_i| > \delta$ (حيث $\delta$ هو عتبة هوبر).
4. التكرار حتى التقارب.
التعامل مع القيود: تفرض الخوارزمية قيود شبه موجبة التحديد (PSD) على مصفوفات $Q$ و $R$ المقدرة بعد كل تكرار خارجي من خلال إسقاط القيم الذاتية إلى الصفر إذا كانت سالبة.

3. المساهمات الرئيسية

إعادة صياغة ALS: يضع المؤلفون رابطاً نظرياً بين الانحدار المتين ضد القيم المتطرفة وبين ALS، محولين مسألة تقدير تباين الضوضاء إلى مسألة انحدار متينة يمكن حلها عبر IRLS.
التحصين ثنائي المستويات: يوفر الجمع الفريد بين العتبة الصلبة القائمة على MAD (عند مستوى الابتكار) و إعادة الوزن الناعمة القائمة على هوبر (عند مستوى انحدار تباين التغاير الذاتي) نقطة انهيار عالية (تصل إلى 50%) مع الحفاظ على الكفاءة الحسابية.
التقارب والتعقيد: تقدم الورقة برهاناً على تقارب تسلسل ALS-IRLS إلى الحد الأدنى العالمي الوحيد تحت الظروف القياسية. كما تحلل التعقيد الحسابي، مبينة أنه يتوسع بشكل مشابه لـ ALS القياسي ولكن مع معامل إضافي لعمليات تكرار IRLS.
الأداء المتفوق: تثبت الطريقة أن التقدير الدقيق لتباين التغاير أكثر أهمية للأداء اللاحق من استخدام هياكل مرشحات متينة معقدة ذات نماذج ضوضاء خاطئة.

4. نتائج المحاكاة

قام المؤلفون بتقييم ALS-IRLS على نظام LTI من الدرجة الثالثة مع تلوث $\epsilon$ (معدل قيم متطرفة 15%، وبمقدار 8 أضعاف الانحراف المعياري).

دقة تقدير تباين التغاير:
- ALS القياسي: فشل تماماً، حيث بالغ في تقدير $Q$ بنحو 10.7 ضعف و $R$ بنحو 36.7 ضعف بسبب تحيز القيم المتطرفة.
- ALS-IRLS: حقق استعادة شبه مثالية. تم تقليل جذر متوسط مربع الخطأ (RMSE) لكل من $Q$ و $R$ بأكثر من رتبتين عشريتين مقارنة بـ ALS القياسي.
- المتانة: ظل الأداء مستقراً حتى مع زيادة معدل القيم المتطرفة من 0% إلى 30%.
تقدير الحالة اللاحق:
- حقق مرشح كالمان باستخدام تقديرات ALS-IRLS جذر متوسط مربع خطأ (RMSE) للحالة قدره 1.97، وهو ما يقع ضمن 9% من حد الأوراكل الأدنى (1.80، باستخدام التباينات الحقيقية).
- المقارنة: تفوق بشكل كبير على المرشحات المتينة الموجودة (Student-t KF و MCKF)، التي عانت من تباينات ثابتة خاطئة التوصيف. قللت الطريقة المقترحة من خطأ تقدير الحالة بمقدار 2.3 إلى 3.5 ضعفاً مقارنة بهذه المعايير.

5. الأهمية

تحول في النموذج: تجادل الورقة بأنه بالنسبة للأنظمة ذات إحصائيات ضوضاء غير معروفة، فإن الاستعادة الدقيقة لتباين التغاير عبر الإنترنت أكثر فعالية من الاعتماد فقط على خطوات تحديث المرشح المتين. فمرشح كالمان القياسي مع تباينات صحيحة يتفوق على مرشح كالمان المتين مع تباينات خاطئة.
الواقعية: تحتفظ الخوارزمية بالبساطة الحسابية لطريقة ALS الأصلية، مما يجعلها مناسبة للتطبيقات في الوقت الفلي (Real-time) حيث تكون الطرق البايزية أو غير البارامترية المعقدة ثقيلة جداً.
الموثوقية: من خلال فصل رفض القيم المتطرفة عند مستوى القياس عن مستوى الانحدار، تضمن الطريقة بقاء مرشح كالمان مستقراً ومثالياً حتى في ظل وجود أعطال شديدة في المستشعرات أو شذوذ بيئي.

في الختام، توفر ALS-IRLS حلاً دقيقاً وفعالاً ومتيناً للغاية لتقدير تباين الضوضاء، مما يسد الفجوة بين المثالية النظرية والمتانة العملية في ترشيح كالمان.