⚡ electrical engineering

Robust Verification of Controllers under State Uncertainty via Hamilton-Jacobi Reachability Analysis

تقدم هذه الورقة RoVer-CoRe، وهو إطار عمل مبتكر يتيح التحقق الرسمي القوي وتصميم المتحكمات القائمة على الإدراك تحت حالة عدم اليقين في الحالة، وذلك عن طريق دمج مكونات النظام في نموذج حلقة مغلقة مكافئ متوافق مع تحليل الوصول لهاملتون-جاكوبي.

المؤلفون الأصليون: Albert Lin, Alessandro Pinto, Somil Bansal

نُشر 2026-04-16

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Albert Lin, Alessandro Pinto, Somil Bansal

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم كلباً آلياً كيف يمشي في حديقة مزدحمة. تريد أن تكون متأكداً بنسبة 100% من أنه لن يتعثر بمقعد أو يصطدم بشخص ما، حتى لو كانت عيناه (الكاميرات) مشوشة، أو ارتكب عقله (الذكاء الاصطناعي) خطأً، أو دفعه الريح (الاضطراب) عن مساره.

هذه هي المشكلة التي تحاول ورقة بحثية بعنوان "RoVer-CoRe" حلها. إنها تقدم طريقة جديدة لإثبات سلامة الروبوتات رياضياً، حتى عندما لا تستطيع الرؤية بوضوح.

إليك الشرح باستخدام تشبيهات بسيطة:

1. المشكلة: الروبوت ذو "النظارات الضبابية"

تستخدم معظم الروبوتات الحديثة الذكاء الاصطناعي لـ "رؤية" العالم. لكن الذكاء الاصطناوني ليس مثالياً.

المشكلة: إذا كانت كاميرا الروبوت ضبابية أو أخطأ الذكاء الاصطناعي في تفسير صورة ما، فقد يعتقد الروبوت أن الجدار بعيد بينما هو في الواقع أمامه مباشرة.
الطريقة القديمة: كانت فحوصات السلامة السابقة تشبه محاولة التنبؤ بالمستقبل عبر رسم سحابة ضخمة وضبابية حول الروبوت. لقد افترضوا أن الروبوت يمكن أن يكون في أي مكان داخل تلك السحابة. ولأن السحابة كانت كبيرة جداً، كان فحص السلامة يقول غالباً: "لا يمكنني ضمان سلامتك"، حتى لو كان الروبوت في الواقع بخير. لقد كان هذا النهج متشائماً للغاية (محافظاً).

2. الحل: خدعة "الخريطة المثالية"

ابتكر المؤلفون إطار عمل يسمى RoVer-CoRe. فكر فيه كأنه محاكي ذكي للغاية لا يكتفي بالتخمين فحسب، بل يحسب السيناريو الأسوأ على الإطلاق بدقة رياضية.

لقد فعلوا ذلك من خلال ربط ثلاثة أجزاء من عقل الروبوت في "نظام فائق" واحد:

العيون: ما يراه الروبوت (والذي قد يكون مشوشاً).
العقل: الذكاء الاصطناعي الذي يحاول فهم مكان وجود الروبوت بناءً على تلك العيون.
الأرجل: وحدة التحكم التي تخبر الروبوت بكيفية التحرك.

بدلاً من معاملة "الرؤية الضبابية" كمشكلة منفصلة ومربكة، قاموا بلصق هذه الأجزاء الثلاثة معاً. الآن، تعامل الرياضيات مع ارتباك الروبوت كأنه مجرد نوع آخر من "الريح" أو "الدفع" الذي يجب على الروبوت مقاومته.

3. المحرك الأساسي: الوصول عبر هاميلتون-جاكوبي (Hamilton-Jacobi Reachability)

هذا هو الجزء الرياضي المعقد، ولكن فكر فيه كأنه "محاكاة عكسية للفيضان".

تخيل فيضاناً: أنت تعرف "منطقة الخطر" (مثل منحدر أو جدار).
المحاكاة: بدلاً من السؤال: "أين سيذهب الروبوت إذا بدأ من هنا؟"، تسأل الرياضيات: "إذا انتهى الأمر بالروبوت في منطقة الخطر، فمن أين كان من الممكن أن يبدأ؟"
النتيجة: ترسم الرياضيات فقاعة مثالية ومحكمة حول جميع نقاط البداية التي يمكن أن تؤدي إلى اصطدام، حتى لو كانت رؤية الروبوت سيئة والرياح تهب بقوة.
- إذا بدأ الروبوت خارج هذه الفقاعة، فلديك ضمان رياضي: لن يصطدم أبداً.
- إذا بدأ داخلها، فقد يصطدم.

4. التعامل مع "الصندوق الأسود" (الشبكات العصبية)

الجزء الأصعب هو أن العديد من عقول الروبوتات هي "صناديق سوداء" (شبكات عصبية). نحن لا نعرف بالضبط كيف تفكر، نحن نعرف فقط ما تنتجه.

التحدي: لا يمكنك حساب "الفيضان العكسي" بسهولة إذا كنت لا تعرف بالضبط كيف سيكون رد فعل الروبوت تجاه صورة ضبابية.
الحل: تقدم الورقة البحثية طريقتين للتعامل مع هذا:
1. الحساب الدقيق: إذا كان عقل الروبوت بسيطاً (مثل كتاب قواعد أساسي)، فإنهم يحسبون المسار الأسوأ بدقة.
2. "شبكة الأمان" (التحديد): إذا كان العقل عبارة عن ذكاء اصطناعي معقد، فإنهم ينشئون "صندوقاً" يضمن احتواء جميع القرارات الممكنة التي يمكن أن يتخذها الذكاء الاصطناعي. ثم يقومون بتشغيل محاكاة الفيضان باستخدام هذا الصندوق. إنه أكثر حذراً (محافظاً) قليلاً، لكنه لا يزال مضموناً رياضياً.

5. أمثلة من الواقع

اختبر المؤلفون هذا على سيناريوهين:

تحرك الطائرة على المدرج: طائرة تحاول البقاء على المدرج باستخدام الكاميرا فقط.
- النتيجة: أثبتوا بدقة مدى الضبابية التي يمكن أن تصيب الكاميرا قبل أن تصبح الطائرة غير آمنة. حتى أنهم وجدوا أنه من خلال تعديل "قواعد التوجيه" الخاصة بالطائرة بشكل طفيف، يمكن جعلها آمنة حتى مع رؤية ضبابية جداً.
مركبة القمر (Moon Rover): روبوت يقود على سطح القمر ليلاً.
- المشكلة: في الظلام، تسوء رؤية الروبوت كلما طالت مدة قيادته دون استخدام المصابيح الأمامية. تشغيل المصابيح يستهلك الكثير من البطارية.
- الحل: قام نظام RoVer-CoRe بحساب اللحظة الدقيقة التي ستصبح فيها رؤية الروبوت ضبابية جداً لدرجة عدم الأمان. وضع النظام سياسة محددة: "قد في الظلام حتى تصل إلى خط السلامة المحدد هذا، ثم قم بتشغيل المصابيح". وفر هذا الطاقة مع ضمان عدم اصطدام المركبة.

الملخص

RoVer-CoRe يشبه توقعات الطقس فائقة الدقة للروبوتات. بدلاً من القول: "قد تمطر، لذا ابقَ في الداخل"، فإنه يقول: "إذا بدأت من هذا الموقع المحدد، حتى لو انهمر المطر بغزارة وهبت الرياح، فستبقى جافاً".

إنه يسمح للمهندسين بـ:

إثبات أن روبوتاتهم آمنة حتى مع وجود مستشعرات سيئة.
معرفة السبب الدقيق الذي قد يؤدي لاصطدام الروبوت (التشخيص).
تصميم روبوتات أفضل تعرف تماماً متى تكون حذرة ومتى يمكنها الاسترخاء.

إليك ملخص تقني مفصل لورقة البحث بعنوان "التحقق القوي من المتحكمات تحت حالة عدم اليقين في الحالة عبر تحليل الوصول هاميلتون-جاكوبي" (RoVer-CoRe).

1. بيان المشكلة

تتناول الورقة التحدي الحرج المتمثل في التحقق الرسمي من السلامة للأنظمة ذاتية القيادة التي تعتمد على متحكمات قائمة على الإدراك (مثل تلك التي تستخدم الشبكات العصبية أو مُقدِّرات الحالة) في ظل وجود عدم يقين إدراكي.

السياق: مع اعتماد الأنظمة ذاتية القيادة (مثل المركبات الجوالة والطائرات) بشكل متزايد على المستشعرات ووحدات التعلم، تصبح تقديرات حالتها ( $\hat{x}$ ) مشوبة بالضجيج بسبب ضجيج المستشعرات، أو أخطاء التعلم، أو العوامل البيئية (مثل انقطاع نظام تحديد المواقع العالمي GPS).
الفجوة: تواجه طرق التحقق الحالية صعوبة في التعامل مع هذا التعقيد.
- طرق الوصول التقريبية: تستخدم أدوات مثل NNV تقنية انتشار المجموعات (Zonotopes، Polytopes)، لكنها غالبًا ما تؤدي إلى تحليلات مفرطة في التحفظ تفشل في اعتماد السلامة، أو تكون مقيدة بفئات محددة من الأنظمة.
- الطرق القائمة على الشهادات: تواجه دوال حاجز التحكم (CBFs) تحديات تتعلق بالجدوى العالمية وبناء الحواجض للأنظمة غير الخطية العامة تحت ظروف عدم اليقين.
- محدودية هاميلتون-جاكوبي (HJ): يفترض تحليل الوصول التقليدي لـ HJ أن المتحكم لديه إمكانية الوصول إلى الحالة الحقيقية. ولا يمكن تطبيقه مباشرة عندما يعمل المتحكم بناءً على تقدير مشوب بالضجيج $\hat{x}$ .

الهدف: حساب ضمانات السلامة الرسمية (أنابيب الوصول الخلفي - Backward Reachable Tubes) للأنظمة حيث يعمل المتحكم $u = \pi(\hat{x})$ تحت أسوأ حالات أخطاء الإدراك $e$ والاضطرابات الخارجية $d$ .

2. المنهجية: إطار عمل RoVer-CoRe

يقترح المؤلفون RoVer-CoRe (التحقق القوي من المتحكمات عبر الوصول)، وهو إطار عمل يكيف تحليل الوصول HJ للتعامل مع الأنظمة القائمة على الإدراك.

أ. تجريد النظام مغلق الحلقة

تتمثل الرؤية الجوهرية في معاملة المتحكم، وخريطة الملاحظة، ومُقدِّر الحالة كمنظومة واحدة متصلة مغلقة الحلقة.

ديناميكيات النظام: $\dot{x} = f(x, u, d)$
الملاحظة: $o = p(x)$
التقدير: $\hat{x} = q(o, e)$ (حيث $e$ هو الخطأ الإدراكي)
التحكم: $u = \pi(\hat{x})$
التجريد: يعرّف المؤلفون دالة ديناميكية مكافئة هي $h(x, d, e) = f(x, \pi(q(p(x), e)), d)$ .
التحول الرئيسي: في هذا التجريد، المدخلات الخارجية الوحيدة هي الاضطراب $d$ والخطأ الإدراكي $e$ . وهذا يسمح بمعاملة النظام كمسألة HJ قياسية حيث تكون $d$ و $e$ مدخلات معادية.

ب. تحدي الهاميلتوني (Hamiltonian Challenge)

العقبة التقنية الرئيسية هي حساب الهاميلتوني مغلق الحلقة:
$H(x, t, \nabla V) = \min_{d \in D, e \in E} \nabla V(x, t) \cdot h(x, d, e)$
نظرًا لأن المتحكم $\pi$ والمُقدِّر $q$ غالبًا ما يكونان غير محدبين (مثل الشبكات العصبية)، فإن حل هذا التحسين بدقة يعد أمرًا صعبًا. تقترح الورقة نهجين:

الحساب الدقيق: إذا كان المتحكم بسيطًا (مثل التغذية الراجعة الخطية أو القائمة على الشبكة)، يمكن حل الهاميلتوني بدقة. وهذا يؤدي إلى نتائج غير متحفظة ويوفر أمثلة مضادة ملموسة للحالات الأسوأ.
الحد الأدنى (تحفظي ولكنه سليم): بالنسبة للمتحكمات المعقدة (مثل الشبكات العصبية)، يقترح المؤلفون وضع حدود لمخرجات المتحكم.
- نفترض أن خطأ تقدير الحالة محدود: $\hat{x} = x + e$ ، حيث $e \in \mathcal{E}$ .
- حساب حدود مخرجات التحكم $u$ : $\underline{U}(x) \leq \pi(\hat{x}) \leq \bar{U}(x)$ .
- بالنسبة للشبكات العصبية، يتم حساب هذه الحدود باستخدام أدوات التحقق مثل $\alpha,\beta$ -CROWN.
- يتم بعد ذلك حساب الحد الأدنى للهاميلتوني عن طريق التقليل عبر مجموعة عناصر التحكم الممكنة $\mathcal{U}(x)$ بدلاً من الدالة المحددة. ينتج عن ذلك تحقق محافظ (أكثر أمانًا) ولكنه سليم.

ج. تصميم المتحكم القوي

بعيدًا عن التحقق، يدعم إطار العمل تحسين المعلمات الفائقة الموجه بالسلامة. من خلال تقييم دالة القيمة القوية $V_\alpha$ عبر عائلة من المتحكمات المحددة بالمعلمة $\alpha$ ، يمكن اختيار المعلمات التي تزيد من هوامش السلامة أو حجم المجموعة الآمنة.

3. المساهمات الرئيسية

إطار عمل RoVer-CoRe: أول إطار عمل قائم على وصول HJ مصمم خصيصًا للتحقق من الأنظمة القائمة على الإدراك تحت عدم اليقين الإدراكي.
التعامل مع الهاميلتوني المبتكر: طرق لحساب الهاميلتوني مغلق الحلقة بدقة أو وضع حدود محافظة له، مما يسد الفجوة بين نظرية HJ والمتحكمات القائمة على الإدراك أو "الصندوق الأسود".
الضمانات والتصميم الرسمي: نهج موحد لكل من التحقق من السلامة وتصميم متحكمات قوية (مثل تحسين الكسب أو سياسات التنشيط).
المصدر المفتوح: إصدار الكود البرمجي وتطبيقات دراسة الحالة.

4. النتائج ودراسات الحالة

تحقق المؤلفون من صحة RoVer-CoRe عبر دراستي حالة مختلفتين:

دراسة الحالة 1: تحرك الطائرة على المدرج

السيناريو: تتبع طائرة خط منتصف المدرج باستخدام شبكة عصبية عميقة لتقدير أخطاء المسار العرضي والاتجاه من صور الكاميرا.
التحقق: المتحكم بسيط بما يكفي لـ حساب الهاميلتوني بدقة.
النتيجة: تم التحقق رسميًا من سلامة النظام حتى تغطية خطأ إدراكي بلغت 99.68%.
التصميم: حدد الإطار قيم الكسب غير الآمنة للمتحكم (مثل الكسب العرضي العالي الذي يسبب تصحيحًا مفرطًا) ووجه عملية اختيار الكسب القوي الذي يحافظ على السلامة تحت أسوأ حالات أخطاء الإدراك.

دراسة الحالة 2: ملاحة مركبة جوالة تعتمد على الشبكة العصبية

السيناريو: تتحرك مركبة جوالة قمرية لتفادي العقبات باستخدام الملاحة البصرية. يزدادة عدم اليقين بمرور الوقت عند إطفاء المصابيح الأمامية (ظروف الإضاءة المنخفضة).
التحقق: قارن بين متحكمين:
1. التحكم التنبئي بالنماذج (MPC) القائم على الشبكة: تم التحقق منه عبر التعداد الدقيق.
2. الشبكة العصبية القائمة على المحاكاة: تم التحقق منها باستخدام $\alpha,\beta$ -CROWN لوضع حدود لمخرجات الشبكة العصبية.
النتيجة:
- أنتج RoVer-CoRe ضمانات سلامة أكثر دقة من الأداة الشهيرة القائمة على المجموعات NNV 2.0.
- نجح في تحديد الحالات غير الآمنة التي فاتتها محاكاة مونت كارلو (مما يثبت الاكتمال).
- امتلك المتحكم القائم على الشبكة العصبية أنابيب وصول خلفي (BRTs) أكبر بسبب خطأ المحاكاة وعدم دقة التحقق، مما يعكس بدقة ضعف متانته.
التطبيق: استُخدم الإطار لاستنباط سياسة تفعيل المصابيح. فهو يحسب أقصى وقت يمكن للمركبة الجوالة أن تعمل فيه مع المصابيح مطفأة قبل أن يؤدي تزايد عدم اليقين إلى دفعها نحو مجموعة الفشل، مما يضمن السلامة مع تقليل استهلاك الطاقة.

5. الأهمية

الربط بين النظرية والتطبيق: يوسع الضمانات الصارمة والأسوأ للحالة التي يوفرها تحليل الوصول HJ لتشمل الواقع الحديث للأنظمة المعتمدة على الإدراك والتحكم المدعوم بالتعلم.
تقليل التحفظ: من خلال الابتعاد عن انتشار المجموعات التقريبي (الذي غالبًا ما يفشل في اعتماد السلامة بسبب الإفراط في التقريب) نحو صياغات التحكم الأمثل، يوفر RoVer-CoRe شهادات سلامة أكثر دقة وفائدة.
رؤى قابلة للتنفيذ: على عكس التحقق "للصندوق الأسود" الذي يكتفي بالقول "آمن/غير آمن"، يوفر RoVer-CoRe مسارات الحالة الأسوأ (أمثلة مضادة) ورؤى تشخيصية حول سبب فشل النظام (مثل أنماط خطأ محددة)، مما يسمح بتحسين مبدئي للمتحكم.
القابلية للتوسع: بينما يعاني تحليل الوصول HJ من "لعنة الأبعاد"، توضح الورقة فعاليته في مساحات الحالة ثلاثية الأبعاد (الموقع، الاتجاه، الزمن) وتقدم مسارًا للتوسع المستقبلي القائم على التعلم.

باختًا، يوفر RoVer-CoRe طريقة دقيقة رياضيًا، وممكنة حوسبيًا، وقابلة للتطبيق عمليًا لضمان بقاء الأنظمة ذاتية القيادة آمنة حتى عندما تكون "عيونها" (المستشعرات) و"عقلها" (المُقدِّرات) غير مثالية.