On the Applicability of Safety Nets: A Safety-By-Design Solution for Certifying Neural Networks
تقدم هذه الورقة تحليلاً منهجياً وتنفيذاً مفتوح المصدر لـ "شبكات الأمان" (Safety Nets)، وهي حل قائم على مبدأ "السلامة بالتصميم" يجمع بين الشبكات العصبية المُحسّنة وجداول البحث المدمجة لتحقيق صحة تشغيلية بنسبة 100% وتقليل بصمات الذاكرة بشكل جذري، مما يتيح اعتماد الأنظمة القائمة على الذكاء الاصطناك لتطبيقات الطيران ذات الأهمية المتعلقة بالسلامة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
لطالما كان الطيران المعيار الذهبي للسلامة، وهو مجال يتم فيه تقليل الخطأ البشري من خلال الهندسة الصارمة والقواعد الحازمة. ومع ذلك، مع امتلاء الأجواء بمزيد من الطائرات وتقلص عدد الطيارين المتاحين، يتجه القطاع إلى الذكاء الاصطناعي للمساعدة في إدارة عبء العمل. وتكمن المعضلة في أن هذه الأنظمة الحاسوبية الجديدة يجب أن تكون موثوقة بقدر الأنظمة الميكانيكية التي تحل محلها، وهو مطلب يصعب تلبيته عندما يتعلم البرنامج من البيانات بدلاً من اتباع مجموعة ثابتة من التعليمات. وفي الحالة المحددة لمنع الاصطدقات الجوية، تعتمد الطريقة التقليدية على جداول بحث ضخمة — وهي في الأساس كتيبات تعليمات عملاقة تخبر الحاسوب بالضبط بما يجب فعله في كل موقف محتمل. هذه الجداول كبيرة جداً لدرجة أنها ستؤدي إلى إرهاق ذاكرة حواسيب الطائرات الحالية، مما يجعل تثبيتها مستحيلاً. ولحل هذه المشكلة، حاول المهندسون ضغط هذه التعليمات في برامج أصغر وأكثر ذكاءً باستخدام الشبكات العصبية، وهي أنظمة حاسوبية مصممة لمحاكة الطريقة التي يتعرف بها الدماغ البشري على الأنماط. ومع ذلك، نظرًا لأن هذه الشبكات العصبية يمكن أن ترتكب أخطاء، يطلب المنظمون وسيلة لضمان عدم فشلها في اللحظات الحرجة.
لقد طور باحثون في مركز الفضاء الألماني حلاً يسمى "شبكة الأمان" لسد هذه الفجوة، وقد اختبروا الآن بشكل منهجي كيفية جعل هذه الشبكات أصغر وأكثر كفاءة قدر الإمكان. يركز عملهم على نظامين محددين لتجنب الاصطدام: أحدهما يخبر الطيار متى ينعطف يساراً أو يميناً، والآخر ينصحه متى يصعد أو يهبط. الفكرة الجوهرية بسيطة ولكنها قوية: استخدام شبكة عصبية للتعامل مع الغالبية العظمى من المواقف، مع الاحتفاظ بقائمة احتياطية صغيرة ومثالية للحالات النادرة التي قد ترتبك فيها الشبكة. لقد تعامل الباحثون مع حجم الشبكة العصبية وحجم قائمة الاحتياط هذه كعملية توازن؛ حيث أرادوا إيجاد الشكل والحجم الدقيق للشبكة العصبية الذي يجعل قائمة الاحتياط أصغر ما يمكن دون جعل الشبكة نفسها كبيرة جداً بحيث لا تتسع في الطائرة.
ولإيجاد هذه النقطة المثالية، أجرى الفريق آلاف التجارب، حيث قاموا بتعديل البنية الداخلية للشبكات العصبية مثل ميكانيكي يضبط محركاً. لقد اختبروا أنواعاً مختلفة من الدوال الرياضية التي تساعد الشبكة على التعلم، وغيروا عدد الطبقات داخل الشبكة، وغيروا عدد وحدات المعالجة في كل طبقة. كما جربوا طرقاً مختلفة لتعليم الشبكة، مثل مطالبتها بالتنبؤ بقيمة محددة مقابل مجرد مطالبتها باختيار الخيار الأفضل الوحيد من قائمة. كانت النتائج محددة للغاية؛ فقد اكتشف الفريق أن التصاميم الأكثر كفاءة لم تكن الأكثر تعقيداً. بدلاً من ذلك، فإن الشبكات التي تتكون من ثلاث إلى خمس طبقات، وكل منها يحتوي على حوالي خمسين إلى مائة وحدة معالجة، حققت التوازن المثالي. علاوة على ذلك، وجدوا أن دالة رياضية قياسية تُعرف باسم (ReLU) كانت تعمل بشكل أفضل من البدائل الأكثر تقدماً، وأن تعليم الشبكة ببساطة اختيار الخيار الأفضل كان يعمل بشكل أفضل بكثير من مطالبتها بحساب أرقام معقدة.
وعند تطبيق هذه الإعدادات المثلى، كانت النتائج مذهلة. بالنسبة للنظام الذي يتعامل مع الانعطافات الأفقية، تقلص الحجم الإجمالي للشبكة العصبية وقائمة الاحتياط إلى 4.76 ميجابايت فقط. أما بالنسبة للنظام الرأسي، الذي يتعامل مع الصعود والهبوط، فقد بلغ الحجم الإجمالي 222.83 ميجابايت. تمثل هذه الأرقام انخفاضاً هائلاً عن كتيبات التعليمات الأصلية، التي كانت ستتطلب أربعة جيجابايت من الذاكرة — أي ما يعادل ألف ضعف المساحة المطلوبة للنظام الجديد الخاص بحالة الانعطاف. هذا الاختزال يعني أن النظام يمكنه الآن التوافق بسهولة مع الحواسيب المستخدمة حالياً في الطائرات، وهو إنجاز كان مستحيلاً في السابق. كما أكد الباحثون أن النظام سريع للغاية، حيث يتخذ القرارات في أجزاء من المليون من الثانية (مايكرو ثانية)، وهو أسرع بكثير من دورة التحديث المطلوبة لسلامة الطيران والتي تبلغ ثانية واحدة.
ولعل الأهم من ذلك هو أن الدراسة أثبتت أن هذا النهج يلبي أشد معايير السلامة صرامة. ونظرًا لأن قائمة الاحتياط تحتوي على الإجابة الصحيحة لكل موقف قد تخطئ فيه الشبكة العصبية، فإن النظام المدمج مضمون بنسبة 100 بالمائة عبر كامل نطاق سيناريوهات الطيران الممكنة. وهذا يعني أن النظام لا يعتمد على الاحتمالات أو الأمل؛ بل هو مؤكد رياضياً في تقديم النصيحة الصحيحة. لقد نشر الباحثون جميع أكوادهم وبياناتهم للجمهور، مما يسمح للمهندسين الآخرين بالتحقق من نتائجهم والبناء عليها. ومن خلال إثبات أن الشبكة العصبية يمكن اقترانها بـ "احتياطي مثالي صغير" لإنشاء نظام يتسم بالصغر وعدم القابلية للخطأ، يوفر هذا العمل مساراً واضحاً وعملياً لاعتماد الذكاء الاصطناعي للاستخدام في الأجزاء الأكثر حرجاً من حيث السلامة في الطيران. وتظهر الدراسة أنه مع التصميم الصحيح، يمكننا الحصول على قدرة التعلم الآلي على التكيف دون التضحية بالموثوقية المطلقة التي تحافظ على سلامة الركاب في السماء.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.