Artificial Intelligence in Safety-Critical Aerospace Systems: Applications, Challenges, and Implications

تخيل مركبة فضائية تندفع عبر الغلاف الجوي بسرعات تجعل الهواء نفسه يتحول إلى بلازما شديدة السخونة، أو كوكبة من الأقمار الصناعية التي تبحر في سماء مزدحمة حيث يمكن لخطأ واحد في الحسابات أن يؤدي إلى سلسلة من الاصطدامات. في هذه اللحظات، تكون أوقات الاستجابة البشرية بطيئة للغاية. إن القرارات التي تحافظ على سلامة المركبة يجب أن تُتخذ في أجزاء من الثانية، وغالباً عندما ينقطع الاتصال مع الأرض بسبب الحرارة أو المسافة. هذا هو عالم الأنظمة الجوية والفضائية ذات الأهمية البالغة للسلامة، حيث هامش الخطأ هو صفر. لعقود من الزمن، اعتمد المهندسون على قواعد مبرمجة مسبقاً لتوجيه هذه الآلات، لكن تعقيد المهمات الحديثة قد تجاوز تلك التعليمات الثابتة. هنا يأتي دور الذكاء الاصطناعي، ليس كحلم مستقبلي، بل كأداة عملية يتم دمجها الآن مباشرة في قلب المركبات الفضائية. وتحديداً، يبحث الباحثون في نوع من التعلم حيث يقوم برنامج كمبيوتر بتحسين أدائه من خلال تجربة الأفعال والتعلم من النتائج، تماماً مثل طفل يتعلم المشي عن طريق السقود والتعديل، ولكن بسرعة ودقة لا يمكن لأي إنسان مضاهاتها. والسؤال الذي يواجه الصناعة لم يعد ما إذا كانت هذه الأنظمة قادرة على العمل، بل كيف يمكن الوثوق بها عندما تتخذ قرارات تتعلق بالحياة أو الموت في فراغ الفضاء.

لقد شرع فريق من الباحثين من جامعة نورث داكوتا وجامعة تكساس ريو غراندي فالي في رسم خريطة لهذا الإقليم الجديد. هم لا يبنون مجرد برمجيات أفضل؛ بل يشيدون إطاراً لفهم كيف يغير الذكاء الاصطناعي الطبيعة الجوهرية للمسؤولية عندما تكون الآلة هي من يقود السفينة. يركز عملهم على ثلاث سيناريوهات عالية المخاطر: مركبة تعيد دخول الغلاف الجوي للأرض بسرعات فرط صوتية، وشبكة من الأقمار الصناعية ذاتية القيادة تدير مداراتها الخاصة، والمجال الناشئ للدفع الفضائي بالطاقة النووية. في كل من هذه المجالات، وجد الباحثون أن الذكاء الاصطناعي ينتقل من كونه مساعداً مفيداً إلى صانع قرار مستقل. ويجادلون بأنه بينما توفر هذه الأنظمة مزايا مذهلة في السرعة والكفاءة، إلا أنها تفرض تحدياً عميقاً: كيف يمكننا محاسبة أي شخص عندما يرتكب الكمبيوتر خطأً يؤدي إلى كارثة؟

بدأ الباحثون بفحص كيفية استخدام هذه الأنظمة الذكية فعلياً. في حالة مركبة عائدة إلى الأرض، تواجه المركبة حرارة وضغطاً شديدين يمكن أن يدمر المستشعرات ويقطع إشارات الراديو. هنا، يجب على الذكاء الاصطناعي أن يعمل بمفرده. وجد الفريق أن المهندسين يستخدمون تقنية تسمى "التعلم التعزيزي"، حيث يتم تدريب الكمبيوتر في عمليات محاكاة لإيجاد المسار الأفضل للأسفل، موازناً بين الحاجة إلى البقاء بارداً والحاجة إلى الهبوط في المكان الصحيح. بدلاً من اتباع مجموعة صارمة من التعليمات، يتعلم الذكاء الاصطناعي التنقل في شبكة معقدة من المتغيرات، مثل الرياح والحرارة، من خلال اختبار ملايين المسارات الممكنة في بيئة افتراضية قبل إطلاق المهمة. وهذا يسمح للمركبة الفضائية بإجراء تعديلات في الوقت الفعلي لا يمكن لطيار بشري حسابها في الوقت المناسب. ومع ذلك، لاحظ الباحثون نقطة ضعف حرجة: إذا اعتمد الذكاء الاصطناعي على بيانات غير كاملة أو منحازة، فقد يتخذ قراراً يبدو منطقياً للآلة ولكنه كارثي في الواقع.

كما درست الدراسة الأقمار الصناعية، التي تعمل بشكل متزايد في مجموعات كبيرة أو كوكبات. في الماضي، كان المتحكمون الأرضيون يعدلون مدارات هذه الأقمار يدوياً لمنعها من الاصطدام ببعضها البعض. أما الآن، فالذكاء الاصطناعي يتولى مهمة التنسيق هذه. لاحظ الباحثون أن هذه الأنظمة يمكنها إدارة تشكيلات معقدة، وتعديل مواقعها لتجنب الحطام الفضائي أو الحفاظ على شكل معين للاتصالات. ومع ذلك، فإن هذه الاستقلالية تخلق مشكلة جديدة. إذا اتخذ قمر صناعي حركة خاطئة واصطدم بآخر، فمن الملام؟ تشير الورقة البحثية إلى أنه بموجب القوانين الدولية الحالية، تكون الدولة التي أطلقت القمر الصناعي هي المسؤولة، بغض النظر عما إذا كان بشر أو آلة هو من اتخذ القرار النهائي. ويشير المؤلفون إلى أن هذا الإطار القانوني كُتب عندما كانت الرحلات الفضائية بطيئة ويتحكم فيها البشر، وقد لا يكون كافياً لمستقبل تتخذ فيه الآلات قرارات في أجزاء من الثانية دون إشراف بشري.

لعل المجال الأكثر تعقيداً الذي استكشفوه هو الدفع النووي، وهي تقنية تستخدم التفاعلات النووية لتوليد قوة الدفع للسفر في الفضاء العميق. هذه الأنظمة حساسة للغاية؛ إذ يمكن لتقلب طفيف في درجة الحرارة أو الضغط أن يؤدي إلى وضع خطير. وجد الباحثون أن الذكاء الاصطناستخدام في نمذجة هذه المفاعلات والتنبؤ بسلوكها، مما يساعد المهندسين على تصميم أنظمة أكثر أماناً. كما يستكشفون كيف يمكن للذكاء الاصطناعي التحكم في المفاعل في الوقت الفعلي، وتعديل إنتاج الطاقة بسرعة تفوق أي مشغل بشري. ولكن نظرًا لأنه لم يسبق اختبار أي مفاعل نووي للدفع الفضائي في الفضاء، فإن البيانات المتاحة لتدريب هذه الأنظمة الذكية شحيحة. سلط الفريق الضوء على أن المهندسين يعتمدون بشكل كبير على عمليات المحاكاة الحاسوبية لسد هذه الفجوة. وبينما تعتبر هذه المحاكاة قوية، يحذر الباحثون من أنها ليست مثالية. فإذا تم تدريب الذكاء الاصطناعي على محاكاة تغفل تفصيلاً فيزيائياً حاسماً، فقد يتصرف المفاعل في العالم الحقيقي بطرق غير متوقعة.

وبعيداً عن التحديات التقنية، تتعمق الورقة في الجانب البشري للمعادلة: الثقة والأخلاق. يجادل الباحثون بأننا لا يمكننا ببساء الثقة في هذه الأنظمة لأنها ذكية؛ بل يجب أن نثق بها لأننا نفهم كيف تم بناؤها واختبارها. وهم يقترحون طريقة جديدة للتفكير في المساءلة. بدلاً من محاولة شرح كل قرار تتخذه الآلة - وهو أمر غالباً ما يكون مستحيلاً مع الذكاء الاصطناعي المعقد - يجب أن نركز على هيكل النظام نفسه. هل عملت الآلة ضمن الحدود التي صُممت لها؟ هل كانت البيانات التي استخدمتها موثوقة؟ هل كانت عملية اتخاذ القرار شفافة بما يكفي للمراجعة بعد وقوع الحدث؟ يقترح المؤلفون أننا بحاجة إلى معاملة عملية اتخاذ القرار في الذكاء الاصطناعي كمكون حيوي للسلامة، تماماً مثل المحرك أو الدرع الحراري. وهذا يعني الاحتفاظ بسجلات مفصلة لما كان يفكر فيه الذكاء الاصطناعي، حتى لو كانت تلك السجلات مجرد سجلات لحالته الداخلية، بحيث إذا حدث خطأ ما، يمكن للمحققين إعادة بناء الحدث.

كما يؤكد الفريق أن دور المشغل البشري يتغير. في الماضي، كان الإنسان دائماً "داخل الحلقة" (in the loop)، مستعداً لتولي السيطرة. وفي هذه الأنظمة الجديدة، غالباً ما يكون الإنسان "على الحلقة" (on the loop)، مما يعني أنه يراقب النظام ولكنه لا يستطيع التدخل في الوقت الفعلي بسبب سرعة المهمة أو المسافة من الأرض. هذا التحول يتطلب نوعاً مختلفاً من الثقة. الأمر لا يتعلق بالوثوق في أن تقوم الآلة بما يفعله الإنسان تماماً، بل بالوثوق في أن الآلة ستلتزم بالحدود الآمنة التي وضعها الإنسان خلال مرحلة التصميم. ويحذر الباحثون من أننا إذا لم نحدد هذه الحدود والقواعد التي تحدد متى يمكن للآلة أن تعمل من تلقاء نفسها بعناية، فإننا نخاطر بخلق وضع لا يكون فيه أحد مسيطراً حقاً.

في الختام، تعد هذه الورقة بمثابة دعوة للعمل للمهندسين والمحامين وصناع السياسات. فهي تجادل بأننا لا نستطيع الانتظار حتى وقوع كارثة لنعرف كيف ننظم ونصمم هذه الأنظمة. إن دمج الذكاء الاصطناستمرار في المجال الجوي والفضائي يحدث الآن، وهو يتحرك بسرعة أكبر من قوانيننا وإرشاداتنا الأخلاقية. ويخلص الباحثون إلى أنه لكي تكون هذه التقنيات آمنة ومفيدة، يجب أن نبني المساءلة والأخلاق مباشرة في عملية التصميم. نحن بحاجة إلى ضمان إمكانية تتبع كل قرار تتخذه الآلة والرجوع به إلى إنسان وافق على القواعد التي تتبعها. وبينما نتطلع نحو مستقبل لاستكشاف الفضاء العميق والأقمار الصناعية ذاتية القيادة، فإن نجاح هذه المهمات لن يعتمد فقط على براعة الكود الخاص بنا، بل على قدرتنا على البقاء الحراس النهائيين للأنظمة التي نبتكرها. التكنولوجيا جاهزة للطيران، لكن فهمنا لكيفية حكمها لا يزال على الأرض، ويحتاج إلى اللحاق بها.