🤖 machine learning

Diffusion-Guided Search via Exponential Tilting (DiffTilt): An Application to Falsification of Safety-Critical Systems

تقدم هذه الورقة DiffTilt، وهو إطار توزيعي يستفيد من الإمالة الأسية لنموذج الانتشار للتغلب على الندرة الضربيه للإخفاقات الحرجة للسلامة من خلال تمكين أخذ العينات بالأهمية في الفضاء المشترك للبيئات والتنفيذات، مما يؤدي بشكل مبرهن إلى تضخيم احتمالات الإخفاق والتفوق على طرق أخذ العينات الشرطية التقليدية في تفنيد الأنظمة الحرجة للسلامة.

المؤلفون الأصليون: Tanmay Khandait, Preetom Biswas, Hideki Okamoto, Bardh Hoxha, Georgios Fainekos, Giulia Pedrielli

نُشر 2026-07-28

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Tanmay Khandait, Preetom Biswas, Hideki Okamoto, Bardh Hoxha, Georgios Fainekos, Giulia Pedrielli

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

رحلة البحث عن السلامة: البحث عن الإبرة في كومة القش

تخيل أنك مفتش سلامة لأسطول من السيارات ذاتية القيادة. مهمتك هي العثور على خطأ واحد محدد وصغير للغاية قد يتسبب في حادث. المشكلة هي أن العالم واسع جدًا، والأخطاء نادرة للغاية. الأمر يشبه محاولة العثور على حبة رمل واحدة محددة على الشاطئ، لكن الشاطئ يغير شكله باستمرار، وحبات الرمل تختبئ داخل حبات رمل أخرى. هذا هو عالم التحقق والتحقق من الصلاحية (Verification and Validation) في الروبوتات والأنظمة المستقلة. يستخدم العلماء المحاكاة (Simulations) —وهي تجارب قيادة افتراضية— لمعرفة ما إذا كانت السيارة قد تصطدم. ولكن نظرًا لأن الحوادث نادرة الحدوث، فقد تحتاج إلى تشغيل ملايين عمليات المحاكاة لمجرد رؤية حادث واحد. هذا هدر هائل للوقت وقدرة الحوسبة.

لجعل الأمر أسهل، يستخدم الباحثون نماذج الانتشار (Diffusion Models)، وهي تشبه فنانين يعملون بالذكاء الاصطناٍعي يتعلمون رسم مشاهد واقعية (مثل شارع مزدحم أو يوم ممطر) من خلال البدء بضجيج ساكن وتنظيفه ببطء حتى تظهر الصورة. كما يستخدمون أيضًا أخذ العينات بالأهمية (Importance Sampling)، وهي حيلة ذكية حيث لا تبحث بشكل عشوائي فحسب؛ بل تقوم "بإمالة" بحثك للتركيز على المناطق التي يُحتمل فيها وقوع الحوادث بشكل أكبر. السؤال الكبير هو: هل يمكننا دمج هذه الأدوات للعثور على تلك الأخطاء الخطيرة والنادرة بشكل أسرع وأذكى مما سبق؟

الفكرة الكبرى للورقة البحثية: "البوصلة السحرية"

تقدم هذه الورقة طريقة جديدة تسمى DIFFTILT (البحث الموجه بالانتشار عبر الإمالة الأسية). فكر في الأمر كمنح الفنان الذي يعمل بالذكاء الاصطناعي "بوصلة سحرية" تشير مباشرة نحو مناطق الخطر.

في الطريقة القديمة، حاول الباحثون العثور على الحوادث من خلال عملية من خطوتين: أولاً، يختارون سيناريو طريق عشوائي (مثل يوم ممطر)، ثم يحاولون قيادة السيارة ليروا ما إذا كانت ستصطدم. تقول الورقة إن هذا يشبه البحث عن إبرة من خلال اختيار مكان عشوائي على الشاطل أولاً، ثم الأمل في أن تكون الإبرة هناك. ولأن كلاً من "الطقس السيئ" و"القيادة السيئة" أمران نادران، فإن احتمالات العثور على حادث هي حاصل ضرب رقمين ضئيلين (تأثير الندرة الضربِي). إنه يشبه محاولة الفوز باليانصيب حيث يتعين عليك اختيار التذكرة الصحيحة و الوقت الصحيح لشرائها.

تغير DIFFTILT قواعد اللعبة. فبدلاً من اختيار الطريق ثم القيادة بشكل منفصل، تتعلم الطريقة التوزيع المشترك (Joint Distribution) —الصورة الكاملة لكيفية توافق الطرق وسلوكيات القيادة معاً. ثم تستخدم آلية "الإمالة". تخيل أن لديك خريطة لجميع سيناريوهات القيما الممكنة. معظم الخريطة باللون الأخضر (آمن). وركن صغير جداً باللون الأحمر (خطير). "الإمالة" تشبه استخدام مغناطيس لسحب كل الكتلة الاحتمالية (فرصة اختيار سيناريو ما) من المناطق الخضراء وضغطها في المنطقة الحمراء.

تثبت الورقة رياضياً أنه إذا كان لديك "درجة" (طريقة لتخمين مدى قرب السيناريو من وقوع حادث)، يمكنك استخدام هذا المغناطيس لجعل الذكاء الاصطناعي يولد سيناريوهات خطيرة بشكل متكرر أكثر. إنها ليست مجرد تخمين؛ بل هي إزاحة محسوبة تضمن لك العثور على حالات الفشل بشكل أسرع، بشرط أن تكون "درجتك" جيدة في ترتيب السيناريوهات السيئة أعلى من الجيدة.

ما وجدوه (وما لم يجدوه)

اختبر الباحثون DIFFTIL على عدة اختبارات معيارية، بما في ذلك نظام ناقل حركة أوتوماتيكي، ومجموعة من السيارات التي تطارد بعضها البعض، وشاحنة تحاول الاصطفاف.

الأخبار الجيدة:
عندما كان الهدف معقداً —مثل شاحنة تحاول الاصطفاف في مكان ضيق مع وجود عوائق، أو سيارات تطارد بعضها البعض لفترة طويلة— كانت DIFFTILT نجمة متألقة. في اختبارات "الشاحنة"، وجدت الطريقة حوادث في كل محاولة تقريباً (نسبة نجاح 100% في 10 تجارب) باستخدام عدد أقل بكثير من عمليات المحاكاة مقارنة بأفضل طريقة سابقة، وهي FReaK. لقد كانت بارعة بشكل خاص عندما كانت قواعد التصادم معقدة ولا يمكن كتابتها بسهولة كجمل منطقية بسيطة. تعلمت الطريقة "معرفة سابقة" (فهم عام لكيفية سلوك النظام) مرة واحدة، ثم أعادت استخدامها لمهام مختلفة دون الحاجة لإعادة التدريب، مما وفر الكثير من الوقت.

الأخبار السيئة (والحدود):
ومع ذلك، فإن الورقة صريحة بشأن المجالات التي تعاني فيها. فعندما كان النظام يحتوي على "تضاريس مسطحة" —مثل نظام تغيير التروس حيث تؤدي مدخلات مختلفة عديدة إلى نفس النتيجة تماماً— ارتبكت "البوصلة السحرية". لم تستطع "الدرجة" التمييز بين القيادة الآمنة والقيادة الخطيرة لأن "إشارة الخطر" كانت مسطحة. في هذه الحالات المحددة، فشلت DIFFTILT في العثة الحوادث، بينما نجحت الطريقة القديمة (FReaK). توضح الورقة أن هذا يحدث لأن الطريقة تعتمد على قدرة "الدرجة" على ترتيب السيناريوهات السيئة لتكون أعلى من الجيدة؛ وإذا تعطل هذا الترتيب، فإن المغناطيس لا يعمل.

الخلاصة

ليست DIFFTILT عصا سحرية تحل كل مشاكل السلامة فوراً. فهي لا تعمل إذا كان النظام "مسطحاً" للغاية أو إذا كانت إشارات الخطر خفية جداً بحيث لا يمكن ترتيبها. ولكن بالنسبة للأنظمة المعقدة وعالية الأبعاد حيث تكون القواعد صعبة والانهيارات نادرة، فإنها تقدم طريقة قوية جديدة للبحث.

بدلاً من رمي السهام عشوائياً على لوحة الهدف، تُعلم DIFFTILT رامي السهام كيف يشعر بالرياح ويصوب نحو مركز الهدف. إنها تظهر أنه من خلال الجمع بين ذكاء اصطناعي توليدي (الفنان) ونظام تسجيل ذكي (البوصلة)، يمكننا العثور على حالات الفشل النادرة والحرجة للسلامة والتي كانت ستظل مخفية في كومة القش لولا ذلك. ويشير المؤلفون إلى أنه بينما تعد هذه الطريقة خطوة كبيرة للأمام، فإن العثور على "الدرجة" المثالية لكل نوع من الأنظمة يظل تحدياً للمستقبل.

ملخص تقني: البحث الموجه بالانتشار عبر الإمالة الأسية (DIFFTILT)

بيان المشكلة

تواجه عملية التحقق من صحة الأنظمة ذاتية القيادة والأنظمة السيبرانية-الفيزيائية (CPS) تحديًا جوهريًا: اكتشاف حالات الفشل النادرة والحرجة على السلامة. غالبًا ما تتميز حالات الفشل هذه بـ الندرة الضربِيّة (multiplicative rarity)، حيث يتطلب حدث الفشل حدوث سيناريو مدخلات نادر وتتبع تنفيذ نظام نادر في آن واحد.

تعتمد أساليب التكذيب (falsification) الحالية عادةً على استراتيجيات أخذ العينات الشرطية. تقوم هذه الأساليب بتفكيك التوزيع المشترك للبيئات والتنفيذات، حيث تأخذ العينات من المدخلات أولاً ثم تولد مسارات مشروطة بتلك المدخلات. ويجادل البحث بأن هذا النهج يعاني من تأثير الندرة الضربِيّة: فحتى مع وجود نماذج شرطية دقيقة، فإن احتمال ملاحظة الفشل هو حاصل ضرب ندرة المدخلات ( $\delta$ ) وندرة المسار المعطى لهذا المدخل ( $\epsilon$ ). وبناءً على ذلك، فإن عدد العينات المتوقع المطلوب لإيجما الفشل يتناسب طرديًا مع $O(1/(\delta\epsilon))$ ، مما يجعل البحث الشامل مكلفًا للغاية. علاوة على ذلك، غالبًا ما تتطلب طرق أخذ العينات بالأهمية (Importance Sampling - IS) الكلاسيكية الوصول إلى توزيعات مرجعية مثالية أو نماذج احتمالية صريحة، وهي أمور نادرًا ما تتوفر في مسارات الاختبار الواقعية ذات الصندوق الأسود.

المنهجية: DIFFTILT

يقترح البحث إطار عمل DIFFTILT (البحث الموجه بالانتشار عبر الإمالة الأسية)، والذي يعيد صياغة عملية التكذيب كعملية إمالة أسية (exponential tilting) لتوزيع مشترك مُتعلم للبيئات والتنفيذات.

1. النمذجة التوليدية المشتركة

بدلاً من نمذجة المدخلات والمسارات بشكل منفصل، يتعلم DIFFTILT نموذج انتشار مشترك $p_\theta(x, y)$ ، حيث يمثل $x$ مدخلات البيئة ويمثل $y$ مسارات تنفيذ النظام. يعمل هذا النموذج كـ "سابق" (prior) قابل لإعادة الاستخدام فوق السيناريوهات. ومن الأهمية بمكان أن النموذج التوليدي يعمل ككثافة أساسية ولا يشترط أن يمثل ديناميكيات النظام الحقيقية بدقة؛ بل يكفي أن يوفر دعامة للمُعاين (sampler).

2. الإمالة الأسية كأخذ عينات بالأهمية

تتمثل الآلية الجوهرية في إعادة وزن التوزيع المشترك باستخدام دالة درجة بديلة (surrogate score function) $S(x, y)$ (مثل متنبئ المتانة أو دالة المكافأة) ترتبط بالفشل. يُعرف التوزيع المائل كالتالي:
$p_{\theta, \beta}(x, y) \propto p_\theta(x, y) \exp(\beta S(x, y))$
حيث $\beta$ هو معامل الإمالة.

يؤكد البحث أن أخذ العينات الموجه بالانتشار هذا يقبل تفسيرًا دقيقًا كأخذ عينات بالأهمية في الفضاء المشترك. تعمل درجات التوجيه (guidance scores) كإمالات لنسب الاحتمالية (likelihood-ratio tilts) تعيد تخصيص الكتلة الاحتمالية نحو السلوكيات المرتبطة بالفشل. وقد أثبت المؤلفون أن إعادة الوزن هذه هي التوزيع المنحاز الأمثل من حيث تباعد KL (الذي يقلل تباعد كولباك-ليبلر) والذي يستوفي قيدًا على الدرجة المتوقعة، مما يؤدي إلى تضخيم احتمال الفشل تحت افتراضات مخففة.

3. الضمانات النظرية

تضخيم احتمال الفشل: يثبت البحث أن الإمالة الأسية تزيد بشكل مؤكد من احتمال أخذ عينات للفشل إذا كانت دالة الدرجة $S$ تصنف سلوكيات الفشل بدرجة أعلى من غيرها من الناحية التوزيعية (تحديدًا، تحت افتراض الهيمنة العشوائية من الدرجة الأولى - FOSD).
التغلب على الندرة الضربِيّة: على عكس أخذ العينات الشرطي، الذي يتقيد بمعدل الفشل ضمن مدخل معين، يمكن للإمالة المشتركة إعادة وزن الفضاء المشترك بأكل. وهذا يسمح للطريقة بالتغلب على عنق زجاجة الندرة الضربِيّة عبر نقل الكتلة مباشرة نحو المناطق المشتركة التي يُحتمل فيها وقوع الفشل.
الأنظمة الحتمية: بالنسبة للأنظمة الديناميكية الحتمية حيث $y = \Phi(x)$ ، تتحول الإمالة المشتركة إلى أخذ عينات بالأهمية أمثل للمدخلات على طول مانيفولد (manifold) الديناميكيات. وهذا يضمن أنه حتى لو كان المسار المتوقع $\hat{y}$ غير دقيق، فإن الطريقة تظل صالحة لأن المحاكي الحقيقي لا يتم استدعاؤه إلا على المدخل المختار $x$ .

4. المسار الخوارمازمي

يعمل مسار DIFFTILT في مرحلتين:

مرحلة ما قبل التشغيل (Offline): يتم تدريب نموذج انتشار مشترك على بيانات $(x, y)$ مقترنة. هذا "السابق" (prior) يكون ثابتًا ويُعاد استخدامه عبر مواصفات مختلفة دون الحاجة لإعادة التدريب.
م مرحلة التشغيل (Online):
1. يتم تدريب دالة درجة بديلة $S_k$ على بيانات المحاكاة المتراكمة لتقريب احتمالية الفشل.
2. يتم توليد المرشحين عبر الانتشار العكسي الموجه بالمتدرج (gradient-guided reverse diffusion)، حيث يقوم تدرج الدرجة $\nabla S_k$ بتوجيه عملية إزالة الضجيج نحو المناطق ذات الدرجة العالية (الأكثر عرضة للفشل).
3. يتم اختيار مرشح، وتنفيذه في محاكي الصندوق الأسود للحصول على المسار الحقيقي والمتانة، وتُستخدم النتيجة لتنقيح الدالة البديلة.
4. تستمر هذه الحلقة حتى يتم العثور على حالة تكذيب أو استنفاد ميزانية المحاكاة.

المساهمات الرئيسية

الأساس الرسمي: يوفر البحث أساسًا رسميًا للتكذيب الموجه بالانتشار، مفسرًا إياه كعملية توليد أمثلة مضادة مبدئية عبر الإمالة الأسية لتوزيع مشترك.
التحليل النظري: يضع شروطًا كافية وضرورية لزيادة احتمال الفشل عبر الإمالة الأسية، موضحًا عبر الهيمنة العشوائية من الدرجة الأولى (FOSD) أن الطريقة فعالة عندما تصنف الدرجة حالات الفشل فوق حالات عدم الفشل.
تحديد قصور أخذ العينات الشرطي: يحدد العمل القصور الجوهري لأخذ العينات الشرطي (الندرة الضربِيّة) ويظهر كيف يتغلب DIFFTILT على ذلك عبر إعادة تخصيص الكتلة في الفضاء المشترك.
الاختزال إلى أخذ العينات بالأهمية في فضاء المدخلات: بالنسبة للأنظمة الحتمية، يوضح المؤلفون أن الإمالة المشتركة تختزل إلى أخذ عينات بالأهمية أمثل للمدخلات، مما يربط الإطار مع سير عمل التحقق القائم على المحاكاة.
معيار جديد: يقدم البحث معيار TT2D (جرار-مقطورة)، المعدل من أعمال سابقة، لتقييم التكذيب تحت مواصفات محددة وأهداف على مستوى المسار، مما يسلط الضضوء على السيناريوهات التي تختلف فيها مكافآت المواصفات عن تكاليف المسار.

النتائج التجريبية

قيم المؤلفون DIFFTILT مقابل FReaK، وهو أسلوب متطور للتكذيب يعتمد على خطية مؤثر كوبمان (Koopman operator linearization)، عبر ثلاث مجموعات معيارية: ناقل الحركة الأوتوماتيكي (AT)، مطاردة السيارات (CC)، والمقترح جرار-مقطورة (TT2D).

ناقل الحركة الأوتوماتيكي (AT): كان DIFFTILT أقل تنافسية من FReaK في المواصفات التي تتضمن إشارات تروس منفصلة (مثل AT51، AT54). ويعزو المؤلفون ذلك إلى مشهد المتانة "المسطح" الناتج عن الديناميكيات المنفصلة، مما يجعل التوجيه القائم على المتدرج غير مفيد. ومع ذلك، كان أداؤه تنافسيًا في المواصفات المستمرة.
مطاردة السيارات (CC): في المواصفات طويلة الأمد والمتداخلة (CC4, CC5, CCx)، أظهر DIFFTILT مزايا كبيرة. فبينما يصبح تحسين FReK مكلفًا وأقل دقة مع زيادة الأفق وعمق التداخل، حافظ DIFFTILT على معدلات تكذيب عالية بعدد أقل من عمليات المحاكاة، لأنه يعتمد على الدرجة البديلة للمسارات المحققة بدلاً من ترميز الصيغة المنطقية.
جرار-مقطورة (TT2D): حقق DIFFTILT معدل تكذيب بنسبة 100% عبر جميع السيناريوهات الستة (بما في ذلك تلك التي تحتوي على عوائق وتفاوتات ضيقة) باستخدام 4000 نقطة تدريب، متفوقًا بشكل كبير على FReaK في كل من معدل النجاح وكفاءة المحاكاة. تشير النتائج إلى أن DIFFTILT يستفيد من إشارات توجيه أغنى على مستوى المسار (تكاليف الوصول للهدف) والتي يصعب ترميزها في أطر التحسين القياسية القائمة على STL.

الأهمية والادعاءات

يدعي البحث أن DIFFTILT يقدم تعزيزًا رصينًا ومدركًا للتوزيع لتوليد الأمثلة المضادة. تكمن أهميته الأساسية في:

فصل "السابق" عن النظام: يعمل النموذج التوليدي فقط ككثافة أساسية ولا يشترط أن يكون نموذجًا مثاليًا للنظام قيد الاختبار. عمليات تقييم النظام الحقيقية تقتصر على تعلم دالة الدرجة، مما يتيح استخدامًا انتقائيًا ومتكيفًا للمحاكاة المكلفة.
القدرة على التعميم: رغم التركيز على التكذيب، فإن الإطار عام وقابل للتطبيق على مشكلات توليد السيناريوهات الأخرى مثل التخطيط والتركيب. فهو يسم ي لاستكشاف مدرك للتوزيع في مساحات السيناريوهات المعقدة بما يتجاوز مجرد انتهاكات السلامة البسيطة.
الصرامة النظرية: من خلال تأصيل البحث الموجه بالانتشار في نظرية أخذ العينات بالأهمية وتحليل الترتيب العشوائي، يوفر البحث ضمانات قابلة للإثبات فيما يتعلق بتضخيم احتمالات الفشل، متجاوزًا استراتيجيات البحث التجريبية.

يقر المؤلفون بوجود قيود، لا سيما فيما يتعلق بالأداء في الأنظمة ذات الديناميكيات المنفصلة حيث تتلاشى المتدرجات، ويشيرون إلى أن قوة الإمالة $\beta$ تتطلب حاليًا ضبطًا يدويًا. كما يقترحون أعمالًا مستقبلية في الضبط التكيفي لـ $\beta$ ، والتعامل مع الديناميكيات الهجينة، وتوسيع التحليل ليشمل الأنظمة العشوائية.