Cybersecurity Assurance of AI-Generated Scientific Claims in Autonomous Deep-Space Multi-Agent Systems

الفضاء العميق هو مكان لا تستطيع الأيدي البشرية الوصول إليه، وتستغرق فيه الأصوات البشرية ساعات أو حتى أياماً لتنتقل. عندما تبتعد مركبة فضائية ملايين الأميال عن الأرض، لا يمكنها انتظار أمر من مركز التحكم في المهمة لتقرر ما ستفعله بعد ذلك؛ بل يجب أن تعمل من تلقاء نفسها. في الماضي، كانت هذه الاستقلالية تعني ببساطة توجيه سفينة أو إطلاق محرك دفع. لكن الجيل القادم من استكشاف الفضاء يطلب من هذه الآلات القيام بشيء أكثر تعقيداً بكثير: أن تعمل كعلماء. لقد يتم تصميمها لتنظر إلى صخرة غريبة، وتقرر أنها قد تحتوي على ماء، ثم تبلغنا بهذا الاكتشاف. المشكلة هي أنه إذا أخطأت الآلة، أو إذا خدعها مخترق (هكر) لرؤية الماء حيث لا يوجد، فقد نبني مهمة مستقبلية بناءً على كذبة. نحن بحاجة إلى طريقة لمعرفة ما إذا كانت القصة التي ترويها الآلة حقيقية، حتى عندما لا يكون هناك بشر للتحقق من الحقائق.

هذا هو التحدي الذي سعى "عبا عبد الله واكيلي"، وهو باحث مستقل مقيم في نيجيريا، إلى حله. يتناول البحث خطراً محدداً ومتزايداً: مع تولي الذكاء الاصطناعي وظيفة إجراء الاكتشافات العلمية في الفضاء، كيف يمكننا الوثوق بالنتائج؟ يقترح المؤلف نظاماً جديداً صُمم ليعمل بمثابة جهاز مناعة رقمي لمهام الفضاء. بدلاً من الاعتماد على مركبة فضائية واحدة لقول الحقيقة، يعامل النظام كل ادعاء علمي كحزمة من الأدلة التي يجب التحقق منها من قبل المجموعة. إنه يجمع بين ثلاثة أفكاء موجودة بالفعل — فحص تاريخ البيانات، وقياس مدى موثوقية الآلة في الماضي، ومقارنة الملاحظات بين المركبات الفضائية المختلفة — لإنشاء طريقة لرصد الأكاذيب أو الأخطاء أو البيانات المخترقة قبل وصولها إلى الأرض.

جوهر المقترح هو بنية متعددة الطبقات، وهي مجموعة من الخطوات التي يجب أن تمر عبرها كل قطعة من المعلومات قبل قبولها كحقيقة. أولاً، تجمع المركبة الفضائية بيانات خام من مستشعراتها، مثل الكاميرات أو الكواشف الكيميائية. يقوم مدير متخصص بفحص هذه البيانات بحثاً عن علامات التلف أو الخطأ، مثل مستشعر انحرف عن المعايرة بسبب الإشعاع. ثم تستخدم المركبة الفضائية ذكاءها الاصطناعي لتحويل تلك البيانات الخام إلى ادعاء علمي، مثل "المعدن X موجود". والأهم من ذلك، أن الآلة لا ترسل النتيجة فحسب، بل ترسل "جواز سفر للثقة". جواز السفر هذا هو سجل مفصل يتضمن البيانات الأصلية، والخطوات التي اتخذها الكمبيوتر للوصول إلى استنتاجه، ومقياساً لمدى ثقته، وتوقيعاً رقمياً لإثبات أن البيانات لم يتم التلاعب بها.

بمجرد إرسال جوازات السفر هذه، تدخل مرحلة التحقق حيث تتحدث المركبات الفضائية مع بعضها البعض. تخيل مجموعة من المستكشفين في كهف مظلم، كل منهم يحمل مصباحاً مختلفاً. إذا قال أحدهم إنهم رأوا بركة من الماء، فإن النظام لا يكتفي بأخذ كلمته فقط؛ بل يسأل الآخرين عما يرونه. إذا رأى المستكشفون الآخرون صخوراً جافة، فإن النظام يرفع راية التعارض. ثم ينظر بعمق أكبر في تاريخ الشخص الذي ادعى رؤية الماء. هل كان هذا المستكشف موثوقاً في السابق؟ هل يعمل مصباحه بشكل صحيح؟ يزن النظام هذه العوامل معاً. إذا كان للمركبة الفضائية سجل من الأخطاء، أو إذا كانت بياناتها تتعارض مع الآخرين دون تفسير جيد، يتم خفض درجة موثوقية ادعائها أو رفضه. تحدث هذه العملية تلقائياً، دون انتظار تدخل بشري، مما يسمح للأسطول بالاتفاق على ما هو حقيقي وما هو خلل أو خدعة.

لاختبار مدى فعالية هذه الفكرة، قام الباحث ببناء محاكاة حاسوبية لمهمة في الفضاء العميق. أنشأت المحاكاة أسطولاً من ست إلى خمس وعشرين مسباراً ذاتي التحكم تستكشف كوكباً. تمت برمجة المسابير للبحث عن ثلاث ظواهر مختلفة، مثل وجود الماء أو معادن محددة. ولجعل الاختبار واقعياً، أدخل الباحث "طرفاً سيئاً" في المزيج. في بعض السيناريوهات، تم اختراق جزء كبير من المسابير، مما يعني أنه تمت برمجتها للكذب؛ حيث نسقت لإرسال تقارير كاذبة، مدعية رؤية أشياء غير موجودة، وحاولت جعل أكاذيبها تبدو مقنعة عبر تزييف درجات ثقة عالية. كما تضمنت المحاكاة خصماً ذكياً يمكنه تعديل سلوك الكذب الخاص به للبقاء تحت رادار آليات الكشف في النظام.

أظهرت نتائج هذه المحاكاة أن النظام المقترح، الذي يسميه المؤلف TRUSTPASS، كان أفضل بكثير في إيجاد الحقيقة من الطرق المستخدمة حالياً في الأنظمة الأبسط. عندما قارن الباحثون النظام الجديد بطريقة أساسية حيث تعتمد المجموعة ببساطة على تصويت الأغلبية، كان النظام الجديد أكثر دقة. في أصعب اختبار، حيث كان الأسطول يضم ستة مسابير فقط ويواجه مجموعة منسقة من الكاذبين، حدد النظام الجديد الحقيقة بنسبة 88 في المئة من الوقت، بينما كان تصويت الأغلبية البسيط صحيحاً بنسبة 78 في المئة فقط. ومع نمو الأسطول، تقلصت ميزة النظام الجديد، لكنه ظل الطريقة الأكثر دقة في كل اختبار. أثبت النظام كفاءة خاصة في رصد متى تحاول مجموعة من الكاذبين خلق إجماع زائف، وهو تكتيك يمكن أن يخدع بسهولة نظام التصويت البسيط.

بحثت الدراسة أيضاً في تكلفة تشغيل هذا النظام. نظرًا لأن كل مركبة فضائية يجب أن ترسل "جواز سفر" مفصلاً بدلاً من مجرد رسالة بسيطة، فإن كمية البيانات المرسلة تكون أكبر. أظهرت المحاكاة أن النظام الجديد يتطلب حوالي ضعف كمية نقل البيانات وتقريباً ضعف قوة الحوسبة مقارنة بالطريقة الأبسط. ومع ذلك، يرى المؤلف أن هذه التكلفة الإضافية هي ثمن ضروري للأمان. ففي صمت الفضاء العميق، حيث يمكن لحقيقة واحدة خاطئة أن تؤدي إلى فشل المهمة أو إهدار الميزانية، فإن القدرة على التحقق من الحقيقة هي أكثر قيمة من توفير بضعة كيلوبايتات من البيانات.

من المهم ملاحظة أن هذه النتائج تأتي من محاكاة حاسوبية، وليس من اختبار طيران على مركبة فضائية حقيقية. كانت النماذج المستخدمة للمستشعرات والمخترقين نسخاً مبسطة من الواقع. ويقر المؤلف بأن مهام الفضاء الحقيقية تواجه مشكلات أكثر تعقيداً، مثل ضرر الإشعاع الذي يؤثر على أنظمة متعددة في آن واحد، والتي لم يتم استيعابها بالكامل في المحاكاة. لا يدعي البحث أنه حل مشكلة الأمن السيبراني في الفضاء إلى الأبد، بل يقدم مخططاً وإثباتاً للمفهوم. إنه يوضح أنه من خلال الجمع بين درجات الثقة، وتواريخ البيانات المفصلة، والتدقيق المتبادل بين الآلات، من الممكن بناء نظام يمكنه تقييم موثوقية الادعاءات العلمية حتى عندما لا يراقب البشر شيئاً.

تشير هذه الأعمال إلى مستقبل لا يقتصر فيه استكشاف الفضاء على إرسال آلات لتنظر إلى النجوم، بل يتعلق بإرسال آلات يمكنها التفكير، والمجادلة، والتحقق من بعضها البعض. ومع زيادة قدرة الذكاء الاصطناعي على إجراء الاكتشافات بمفرده، تصبح الحاجة إلى نظام يمكنه التمييز بين الرؤية الثاقبة وبين "الهلوسة" المتطورة أمراً بالغ الأهمية. يوفر هذا البحث إطاراً لهذا المستقبل، مبيناً أنه حتى في أكثر البيئات عزلة وخطورة، يمكن لمجموعة من الآلات أن تعمل معاً لضمان أن العلم الذي تنتجه هو علم حقيقي.