Robust Risk Under Evolving Uncertainty: A Wasserstein Counterpart of the Entropic Value-at-Risk
تقدم هذه الورقة البحثية "قيمة المخاطر المتوقعة الإنتروبية-واسرشتاين"، وهي مقياس مخاطر قوي يتغلب على قيود "قيمة المخاطر المتوقعة الإنتروبية" التقليدية عبر استخدام كرات النقل الأمثل لمراعاة السيناريوهات الكارثية التي تعتبرها النماذج الاسمية مستحيلة، مما يتيح إطار عمل لاتخاذ القرار الديناميكي ينتقل من الحذر إلى الثقة مع انخفاض عدم اليقين البيئي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الآلات ذاتية القيادة، من طائرات التوصيل بدون طيار إلى السيارات ذاتية القيادة، يوجد توتر جوهري بين السرعة والسلامة. يجب على العميل، أو الآلة، اتخاذ القرارات بينما لا يزال يتعلم عن محيطه. وعندما لا يعرف إلا القليل، يجب أن يكون حذرًا للغاية، متجنبًا أي مسار قد يؤدي إلى كارثة. ولكن بمجرد أن يجمع ما يكفي من الأدلة لفهم البيئة، يجب أن يصبح جريئًا بما يكفي للتصرف بكفاءة. ويكمن التحدي في إنشاء نظام يمكنه الانتقال بسلاسة من الحذر الشديد إلى العمل الواثق مع نمو معرفته، دون ارتكاب خطأ فادح واحد خلال عملية التعلم. وهذا يتطلب طريقة لقياس المخاطر تتغير ديناميكيًا: إذ يجب أن تحدد درجة عدم يقين الآلة تجاه العالم مدى خوفها من المجهول.
لقد طور باحثون في جامعة ميونيخ التقنية وجامعة ماساريك طريقة جديدة لحل هذه المشكلة، مما يوفر وسيلة أكثر أمانًا للآلات للتنقل في البيئات غير المستقرة. لقد ركزوا على نوع محدد من حساب المخاطر المستخدم للحماية من السيناريوهات الأسوأ. اعتمدت الطرق السابقة على مفهوم رياضي، رغم كونه مفيدًا، إلا أنه كان يعاني من خلل حرج: فإذا قال نموذج الآلة الحالي للعالم إن وقوع كارثة أمر مستحيل، فإن نظام السلامة سيتجاهل تلك الكارثة تمامًا، حتى لو كانت ممكنة من الناحية الفيزيائية. ويستبدل النهج الجديد هذا الأسلوب القديم بأداة رياضية مختلفة تسمح للآلة بالنظر في النتائج الكارثية التي يعتبرها نموذجها الحالي غير مرجحة، لكنها ليست مستحيلة. وهذا يضمن بقاء الآلة يقظة ضد الأحداث النادرة ولكن المدمرة حتى تتأكد تمامًا من أنها لا تحدث.
بنى الباحثون حلهم حول مفهوم يسمى "القيمة المتوقعة للمخاطر الإنتروبية" (entropic value-at-risk)، وهي طريقة قياسية لحساب أسوأ خسارة محتملة قد يواجهها النظام. تعمل هذه الطريقة القياسية من خلال تخيل دائرة من الواقعات البديلة المحتملة حول أفضل تخمين حالي للآلة. إذا كانت الآلة غير متأكدة، تكون الدائرة كبيرة، وتأخذ في الاعتبار العديد من الاحتمالات المختلفة. ومع تعلم الآلة، تتقلص الدائرة. ومع ذلك، كان شكل هذه الدائرة في الطريقة القديمة جامدًا؛ فقد تم بناؤه باستخدام قاعدة تعني أنه إذا خصص أفضل تخمين للآلة احتمالية صفر لحدث كارثي معين، فلن يتمكن أي قدر من عدم اليقين من إعادة ذلك الحدث إلى دائرة الاعتبار مرة أخرى. لقد أصبحت الكارثة غير مرئية فعليًا لنظام السلامة، مما خلق نقطة عمياء قد تؤدي إلى أخطاء قاتلة عندما تبالغ الآلة في الثقة.
ولإصلاح ذلك، قدم الفريق مقياسًا جديدًا يسمون به "قيمة فاشرستينين المتوقعة للإنتروبيا" (Wasserstein entropic value-at-risk). وبدلاً من استخدام الدائرة الجامدة للطريقة القديمة، استخدموا شكلاً هندسيًا مختلفًا يعتمد على المسافة الفيزيائية بين النتائج. تخيل آلة تحاول عبور أخدود؛ إذا كانت الرياح هادئة، فقد تخمن الآلة أن الهواء ساكن. وإذا هبت عاصفة مفاجئة، تحتاج الآلة إلى معرفة أن العاصفة ممكنة، حتى لو كانت بياناتها الحالية تقول إن الهواء هادئ. الطريقة القديمة كانت ستقول: "بما أن بياناتي تقول إن الجو هادئ، فإن العاصفة مستحيلة، لذا سأتجاهلها". أما الطريقة الجديدة فتقول: "العاصفة بعيدة عن تخميني الحالي، لكن الوصول إليها ممكن. سأدفع ثمنًا لاعتبارها، بما يتناسب مع مدى بعدها". وهذا يسمح لنظام السلامة بأخذ الكوارث في الاعتبار، تلك التي هي ممكنة فيزيائيًا ولكنها تبدو غير مرجحة حاليًا، مما يضمن تحوط الآلة ضدها حتى تتأكد من عدم حدوثها.
أثبت الباحثون أن هذه الطريقة الجديدة سليمة رياضيًا وتتناسب تمامًا مع التسلسل الهرمي الحالي لمقاييس المخاطر. وأظهروا أنها تسلك تمامًا كما ينبغي لنظام آمن أن يسلك: فهي محافظة عندما تكون الآلة جاهلة، وتصبح أقل تحفظًا مع تعلم الآلة. والأهم من ذلك، أنهم أثبتوا أن هذا المقياس الجديد يأخذ في الاعใจ بدقة تلك الكوارث ذات "الاحتمالية الصفرية" التي تجاهلتها الطريقة القديمة. وفي اختباراتهم، عندما أدخلوا سيناريو كارثي ذكر نموذج الآلة أن احتمال حدوثه هو صفر، لم يتغير حساب المخاطر في الطريقة القديمة على الإطلاق، مهما بلغت خطورة السيناريو. ومع ذلك، رفعت الطريقة الجديدة مستوى حذرها فورًا، مما عكس الخطر الحقيقي للوضع.
ولجعل هذا الأمر عمليًا لاتخاذ القرار في الوقت الفعلي، ربط الفريق حجم هامش السلامة مباشرة بـ "إنتروبيا الاعتقاد" الخاصة بالآلة، وهي مقياس لمدى ارتباك أو عدم يقين الآلة. عندما تكون الآلة مرتبكة، يكون هامش السلامة واسعًا، مما يجبرها على التحرك ببطء وحذر. ومع جمع الآلة لمزيد من البيانات وتوضح اعتقادها، يتقلص الهامش تلقائيًا، مما يسمح لها بالتحرك بشكل أسرع. وهذا يخلق نظامًا مغلق الحلقة حيث يتطور حذر الآلة طبيعيًا مع معرفتها. لقد اختبروا ذلك على طائرة بدون طيار محاكية تعبر أخدودًا؛ بدأت الطائرة بالتحليق والتقدم ببطء شديد، وهو الخيار الأكثر أمانًا ولكنه الأبطأ. ومع جمعها للأدلة على أن الرياح هادئة، انخفض عدم اليقين الداخلي لديها، وتقلص هامش السلامة، وانتقلت إلى سياسة الطيران السريع. حدث الانتقال تلقائيًا، دون وجود مفتاح برمجي ثابت، وحافظ النظام على حد سلامة مضمون طوال العملية.
أكدت نتائج عمليات المحاكاة أن الطريقة الجديدة تعمل تمامًا كما توقعت النظرية. نجحت الآلة في تجنب الإخفاقات الكارثية التي كانت الطريقة القديمة ستغفل عنها، مع القدرة أيضًا على التحرك بكفاءة بمجرد أن أصبحت واثقة. وتحقق الباحثون من أن صيغهم الرياضية تطابق نتائج عمليات المحاكاة الحاسوبية المعقدة بدرجة عالية جدًا من الدقة. كما أظهروا أن النظام يتقارب بسرعة نحو حل مستقر، مما يعني إمكانية استخدامه في التطبيقات في الوقت الفعلي. ومن خلال استبدال افتراض هندسي معيب بآخر أكثر قوة، قدم الفريق وسيلة للآلات لتكون آمنة وفعالة في آن واحد، مما يضمن بقاءها حذرة عندما ينبغي لها ذلك، وجريئة عندما يكون من الآمن أن تكون كذلك. يقدم هذا العمل مسارًا ملموسًا لبناء آلات يمكنها التعلم والتكيف في العالم الحقيقي دون التضحية بالسلامة من أجل السرعة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.