تخيل عالماً تعمل فيه روبوتات صغيرة، مثل الطائرات بدون طيار الأرضية أو المركبات الأرضية المتدحرجة، معاً في مجموعات ضخمة تسمى "الأسراب" للقيام بمهام أخطر أو أكثر تعقيداً من أن يقوم بها البشر. فكر فيها كأنها أسراب من الأسماك أو أسراب من الطيور، ولكنها مصنوعة من المعدن والبرمجيات، ومهمتها مراقبة السواحل أو البحث عن المتنزهين المفقودين. ولكي تعمل هذه الأسراب، يجب أن تكون ذكية بما يكفي لفهم ما يحدث حولها باستخدام حواس مختلفة — مثل الرادار، والصوت، والكاميرات — ومن ثم تقرير ما ستفعله بعد ذلك. ولكن هنا يكمكم الجزء الصعب: ماذا لو أصيب "عقل" الروبوتات (البرمجيات) بالارتباك، أو تم اختراقه، أو خداعه بإشارة مزيفة؟ إذا ارتكب العقل خطأً، فقد تتحطم المجموعة بأكملها أو تتسبب في حادث. هذه هي المشكلة الكبيرة التي يحاول العلماء حلها: كيف يمكننا جعل الروبوتات ذكية ومرنة، ولكن مع ضمان عدم قيامها أبداً بشيء خطير حقاً، حتى لو خرجت برمجياتها عن السيطرة؟

تقدم هذه الورقة البحثية طريقة مبتكرة لبناء هذه الفرق الروبوتية، تسمى "الأسراب المحروسة" (Guarded Swarms). فبدلاً من الاعتماد فقط على برنامج كمبيوتر فائق الذكاء لاتخاذ جميع القرارات، يقترح المؤلفون تقسيم المهمة إلى طبقتين متمايزتين. الطبقة العليا هي "العقل الرقمي"، الذي يستخدم الرياضيات المتقدمة والذكاء الاصطناائي للاستماع إلى جميع المستشعرات المختلفة، وفهم ما يجري، وتخطيط المهمة. أما الطبقة السفلى فهي "شبكة أمان عتادية" (Hardware Safety Net) — وهي لوحة دوائر بسيطة وغير قابلة للكسر تعمل كحارس شخصي صارم. هذا الحارس لا يهتم بالخطط المعقدة أو نظريات الذكاء الاصطناعي؛ هو يهتم فقط بشيء واحد: "هل هذا الأمر آمن؟" إذا حاول العقل الرقمي إخبار الروبوت بالطيران نحو جبل أو الاصطدام بمبنى، فإن الحارس العتادي يوقفه فوراً دون أي نقاش. تُظهر الورقة كيف يمكن لهذا النظام ثنائي الطبقات أن يأخذ المعلومات الفوضوية والمربكة من العالم الحقيقي ويحولها إلى أفعال منسقة وآمنة، حتى عندما تتعرض الروبوتات للتشويش أو الخداع من قبل الأعداء.

قصة السرب المحروس

تخيل أنك قبطان لسفينة قرصنة ضخمة وعالية التقنية، ولكن بدلاً من طاقم من البشر، سفينتك هي سرب من مئات الطائرات بدون طيار والمركبات الصغيرة. مهمتك هي مراقبة ساحل ضبابي ورصد أي سفن معادية متسللة. المشكلة هي أن المحيط صاخب. قد يصدر الرادار صوتاً بسبب طائر، وقد يسمع الميكروفون صوت حوت، وقد ترى الكاميرا مجرد سحابة. إذا حاول كمبيوتر سفينتك تخمين ماهية كل شيء، فقد يرتبك ويأمر أسطولك بأكمله بالهجوم على سرب من طيور النورس. سيكون ذلك كارثة.

تقترح هذه الورقة طريقة جديدة لإدارة السفينة، باستخدام نظام يسمى TB-CSPN (والذي يبدو كأنه "حساء حروف" معقد للروبوتات، لكن لنسمه "لوحة التحكم في المهمة"). إليك كيف يعمل، خطوة بخطوة:

1. فريق التحري (الوكلاء المستشارون)
أولاً، تقترح الورقة وجود فريق من "المحققين" (وكلاء ذكاء اصطناعي متخصصين) الذين ينظرون في البيانات الخام من المستشعرات. هم لا يكتفون بالصراخ "هناك شيء ما!"، بل يحولون الضجيج إلى أدلة واضحة ومصنفة.

• إذا رأى الرادار ومضة، فقد يكتب أحد المحققين ملاحظة: "احتمال وجود مركبة جوية غير مأهولة (UAV) مكتشفة".
• إذا سمع الميكروفون صوتاً طنيناً، فسيقوم آخر بكتابة: "ضجيج محرك طائرة بدون طيار على الأرجح".
• إذا رصدت الكاميرا جسماً طائراً صغيراً، فسيقوم الثالث بكتابة: "طائرة صغيرة مؤكدة".
  هذه الملاحظات تسمى "الرموز" (Tokens). فكر فيها كأنها قصاصات ملاحظات لاصقة ذات تسميات محددة. المحققون لا يقررون الهجوم بعد؛ هم فقط ينظمون الأدلة الفوضوية في بطاقات مرتبة ومصنفة.

2. لوحة التحكم في المهمة (طبقة TB-CSPN)
الآن، توضع كل هذه الملاحظات اللاصقة (الرموز) على لوحة ألعاب ضخمة تسمى TB-CSPN. هذه ليست لوحة ألعاب عادية؛ إنها نظام قائم على القواعد لا يسمح بحدوث الأشياء إلا عندما تكون البطاقات الصحيحة في الأماكن الصحيحة وفي الوقت الصحيح.

• النافذة الزمنية: للوحة قاعدة تقول: "نحن نثق فقط في الأدلة التي تحدث خلال ثوانٍ قليلة من بعضها البعض". إذا رأى الرادار شيئاً قبل 10 دقائق، بينما رأت الكاميرا شيئاً الآن، فإن اللوحة تقول: "هذه لا تتطابق! لا توجد مهمة بعد". هذا يمنع السرب من التفاعل مع معلومات قديمة وغير مفيدة.
• الانتقالات المحروسة: تحتوي اللوحة على بوابات خاصة. البوابة لا تفتح إلا إذا كان لديك مزيج صحيح من الأدلة. على سبيل المثال، لفتح بوابة "اكتشاف التهديد"، قد تحتاج إلى كل من ملاحظة "احتمال وجود UAV" وملاحظة "طائرة بدون طيار مؤكدة". إذا كان لديك واحدة فقط، تظل البوابة مغلقة. هذا يضمن عدم ذعر السرب بسبب الإنذارات الكاذبة.

3. القبطان البشري (الوكلاء المشرفون)
حتى لو قالت اللحة: "مهلاً، لدينا تهديد مؤكد!"، فلا يمكن للسرب الهجوم بعد. تشدد الورقة على قاعدة "الإنسان في الحلقة" (Human-in-the-Loop). يجب أن يعطي مشرف بشري (أو سياسة صارمة) "رمز تفويض" خاصاً لفتح المهمة.

• تخيل أن اللوحة بها زر أحمر مكتوب عليه "اعتراض". الزر مقفل. القبطان البشري هو من يملك المفتاح. حتى لو اعتقد الكمبيوتر أنه تهديد، إذا قال القبطان: "انتظر، تلك طائرة إنقاذ وليست عدواً"، فإن المفتاح لن يدور، وسيبقى السرب في مكانه. هذا يضمن أن يكون الإنسان دائماً هو المسؤول عن القرارات الكبرى.

4. الحارس الشخصي الذي لا يُقهر (الغلاف الآمن التناظري)
هذا هو الجزء الأكثر إثارة. بمجرد أن يعطي القبطان البشري الضوء الأخضر، يتلقى السرب أوامر التحرك. ولكن قبل أن تصل تلك الأوامر إلى محركات الروبوت، يجب أن تمر عبر "غلاف سلامة عتادي".

• فكر في هذا كأنه حارس عند ملهى ليلي لا يتحدث الإنجليزية ولا يهتم بتذكرة الـ VIP الخاصة بك. هذا الحارس هو لوحة دوائر بسيطة، موصلة مباشرة بمحرك الروبوت.
• إذا تعرض العقل الرقمي (الكمبيوتر) للاختراق أو الخلل وحاول إعطاء أمر "الطيران مباشرة نحو المنحدر"، فإن الحارس يتحقق من السرعة والاتجاه. سيرى: "مهلاً، هذا سريع جداً وقريب جداً من الجدار!"، وسيقوم فيزيائياً بقطع الطاقة أو الضغط على المكابح.
• يحدث هذا في العالم الحقيقي، بالكهرباء والأسلاك، وليس في كود الكمبيوتر. لذا، حتى لو كان الكمبيوتر يكذب، أو معطلاً، أو يتم خداعه من قبل مخترق، فإن الروبوت لا يمكنه القيام بالشيء غير الآمن. إنه يشبه حزام الأمان الذي ينغلق تلقائياً إذا حاولت القيادة نحو منحدر، بغض النظر عما يقوله السائق.

ماذا يحدث عندما تسوء الأمور؟

الورقة لا تتحدث فقط عن النجاح؛ بل تُظهر أيضاً ما يحدث عندما تسوء الأمور، وهو المكان الذي يتألق فيه هذا النظام فعلياً.

• سيناريو "الدليل القديم": تخيل أن الرادار رأى طائراً، لكن الكاميرا كانت بطيئة ولم تره إلا بعد 5 ثوانٍ. بحلول ذلك الوقت، تكون "النافذة الزمنية" في لوحة التحكم قد أُغلقت. ترفض اللوحة دمج الأدلة. لا يهاجم السرب الطائر لأن الأدلة لم تتطابق في الوقت المناسب. يقوم النظام بتصفية الارتباك بشكل طبيعي دون الحاجة إلى صراخ بشري "توقف!".
• سيناريو "القصص المتضاربة": ماذا لو قال الرادار "عدو!" لكن جهاز كشف الراديو قال "مجرد طائرة مدنية"؟ ترى لوحة التحكم في المهمة هذا التضارب. تظل بوابة "الهجوم" مغلقة لأن الأدلة لا تتفق. ينتظر السرب المزيد من المعلومات بدلاً من اتخاذ خطأ متهور.
• سيناريو "العقل المخترق": إذا استولى مخترق على الكمبيوتر وحاول إرسال أمر "تدمير ذاتي"، فإن الحارس العتادي (الغلاف الآمن التناظري) يتجاهل الأمر تماماً. هو يسمح فقط بالحركات الآمنة. قد يتوقف الروبوت عن الحركة، لكنه لن يصطدم.

لماذا هذا مهم؟

المؤلفون في هذه الورقة واضحون جداً بشأن ما حققوه وما لم يحققوه بعد. هم لم يبنوا جيشاً ضخماً من الروبوتات التي تخوض حرباً حقيقية بعد، ولم يجروا ملايين عمليات المحاكاة لإثبات أن نظامهم يعمل بشكل مثالي في كل موقف. بدلاً من ذلك، قاموا بتصميم مخطط أو بنية هندسية. لقد أظهروا طريقة لتنظيم تفكير وسلامة أسراب الروبوتات بحيث تكون ذكية وآمنة في آن واحد.

إنهم يجادلون بأن الاعتماد فقط على البرمجيات أمر محفوف بالمخاطر لأن البرمجيات يمكن اختراقها أو إرباكها. كما يجادلون بأن الاعتماد فقط على البشر أمر بطيء. حلهم هو "السرب المحروس" حيث يقوم الكمبيوتر بالعمل الشاق المتمثل في فهم الخطة، ولكن طبقة عتادية بسيطة وغير قابلة للكسر تعمل كحكم نهائي لضمان عدم حدوث أي شيء خطير.

في النهاية، تشير هذه الورقة إلى أن مستقبل أسراب الروبوتات لا يتعلق فقط بجعل ذكائها الاصطناعي أكثر ذكاءً؛ بل يتعلق ببنائها مع "شبكة أمان" قوية جداً لدرجة أنها لا تحتاج حتى للتفكير. هي فقط تعرف ما هو "آمن"، وتوقف أي شيء ليس كذلك. إنها طريقة تتيح للروبوتات الانطلاق والاستكشاف، مع العلم أنه إذا حاولت القيام بشيء أحمق، فإن جداراً فيزيائياً سيمسك بها قبل أن تسقط.