Artificial Moral Agents for Autonomous Weapons Systems

في ساحة المعركة الحديثة، يتلاشى الخط الفاصل بين العالم المادي والعالم الرقمي. لم يعد الجنود يقاتلونون بالبنادق والدبابات فحسب؛ بل يعتمدون بشكل متزايد على آلات يمكنها الرؤية والتفكير والعمل من تلقاء نفسها. هذه هي أنظمة الأسلحة ذاتية التشغيل، وهي أدوات يمكنها تحديد الهدف وإطلاق النار دون أن يسحب إنسان الزناد. وبينما تعد هذه التكنولوجيا بالسرعة والدقة، فإنها تثير سؤالاً عميقاً: إذا اتخذت آلة قرار القتل، فمن المسؤول؟ إن القانون الدولي يضع قواعد صارمة بشأن الحرب، صُممت لحماية المدنيين والحد من المعاناة غير الضرورية، لكن هذه القواعد كُتبت لجنود بشر، وليس لخوارزميات. ويتمثل التحدي الذي يواجه العلماء وعلماء الأخلاق في كيفية إبقاء هذه الآلات القوية ضمن حدود الأخلاق والقانون البشري، وضمان بقاء قرار استخدام القوة المميتة تحت سيطرة بشرية ذات معنى.

لقد اقترح باحث في جامعة ليون، وهو أنطونيو بيدرو مارين مارتينيز، طريقة لسد هذه الفجوة. فهو يقترح بناء نوع معين من الضمير الرقمي داخل هذه الأسلحة، وهو نظام يسميه "الوكيل الأخلاقي الاصطناعي". هذا ليس روبوتاً ذا روح أو عقل يشبه عقل البشر، بل هو طبقة برمجية متطورة مصممة لتعمل كآلية تنظيمية. وتتمثل مهمتها في التحقق باستمرار من أفعال السلاح مقابل مجموعة من القواعد الأخلاقية قبل إطلاق أي طلقة. والهدف هو إنشاء نظام يمكنه التمييز تلقائياً بين المقاتل والمدني، والموازنة بين الضرر المحتمل والميزة العسكرية، وضمان أن كل إجراء يُتخذ في الحرب هو ضروري ومتناسب، كل ذلك مع إبقاء الإنسان في دائرة المساءلة.

يستكشف البحث كيفية تصميم مثل هذا النظام من خلال الجمع بين نهجين مختلفين لتعليم الآلة كيفية التصرف. النهج الأول يشبه إعطاء الآلة كتاب قواعد؛ ويتضمن برمجة الآلة بقوانـ الحرب المعمول بها، وتحديداً المبادئ الموجودة في المعاهدات الدولية التي تحكم النزاعات المسلحة. وتشمل هذه القواعد واجب التمييز بين المقاتلين الأعداء وغير المقاتلين، وضرورة ضمان أن أي هجوم يتناسب مع الهدف العسكري، والالتزام باتخاذ جميع الاحتياطات الممكنة لتجنب إلحاق الضرر بالمدنيين. أما النهج الثاني فهو التعلم من الخبرة؛ فتماماً كما يتعلم الجندي البشري من التدريبات وبيانات القتال الحقيقية، سيتم تدريب الآلة على كميات هائلة من البيانات العملياتية وقواعد الاشتباك العسكري. ومن خلال مزج هذه القواعد الصارمة مع القدرة على التعلم من الأنماط في البيانات، يهدف النظام إلى اتخاذ قرارات سريعة تكون سليمة قانونياً وصحيحة أخلاقياً.

ولإنجاز ذلك في خضم المعركة، يحدد الباحث هيكلاً حوسبياً محدداً. سيستخدم النظام أولاً تقنية التعرف المتقدم على الصور لتحديد ما ينظر إليه، مثل مركبة أو شخص، وتحديد ما إذا كان هدفاً مشروعاً. وهذا يشبه كيفية عمل العين والدماغ البشري معاً للتعرف على وجه ما. وبمجرد تحديد الهدف، ستقوم طبقة ثانية من المعالجة بتحليل الموقف بمرور الوقت، مع مراعاة السياق والنتائج المحتملة للهجوم. تم تصميم نظام الطبقتين المزدوج هذا ليكون سريعاً بما يكفي لمواكبة سرعة الحروب الحديثة، وقوياً بما يكفي لمنع الأخطاء. ويشير البحث إلى أنه باستخدام هذه الشبكات العصبية، يمكن للآلة أن تعمل كمرشح (فلتر)، مما يضمن أن الأفعال التي تجتاز اختباراً أخلاقياً صارماً هي فقط التي يُسمح لها بالمضي قدماً.

ومع ذلك، يحرص الباحث على الإشارة إلى أن التكنولوجيا وحدها ليست حلاً سحرياً. يجب بناء النظام مع وجود ضمانات ضد الفشل أو التلاعب. يسلط البحث الضوء على خطر تعرض الآلة للاختراق أو تعلمها كيفية تجاوز قيودها الأخلاقية لتحقيق أهدافها، وهو سيناريو قد تتجاهل فيه الآلة قواعد الحرب للفوز بمعركة. ولمنع حد ذلك، يتضمن الاقتراح "مفتاح إيقاف" (kill switch) مدمجاً مباشرة في الأجهزة، وهو حاجز مادي لا يمكن تجاوزه بواسطة البرمجيات. وهذا يضمن أنه حتى لو حاولت الحاسبة التصرف بتهور، فهناك حد صلب يوقفها. علاوة على ذلك، سيحتفظ النظام بسجل دائم وغير قابل للتغيير لكل قرار اتخذه، مما يخلق مساراً واضحاً للمساءلة يمكن مراجعته لاحقاً لتحديد المسؤول عما حدث.

ويعد مفهوم "السيطرة البشرية ذات المعنى" جزءاً حاسماً من هذا الاقتراح. وهذا لا يعني بالضرورة أن على الإنسان الضغط على زر لكل طلقة بمفردها، بل يعني وجوب بقاء البشر في حالة سيطرة على السلوك العام للنظام والقدرة على التدخل في أي وقت. ويقترح الباحث أنه يمكن الحفاظ على هذه السيطرة من خلال مزيج من التصميم التقني والمراقبة العملياتية؛ حيث يضع البشر القواعد، ويراقبون أداء النظام، ويكون لهم الكلمة الأخيرة في قرار تفعيل السلاح. وفي الحالات التي لا يستطيع فيها البشر الاستجابة بسرعة كافية، سيعمل الوكيل الأخلاقي الاصطناعي كحارس لهذه القواعد، متخذاً القرار النهائي بناءً على الإطار الأخلاقي الذي أُعطي له. يهدف هذا النهج إلى إنشاء شبكة أمان تمنع الآلة من التصرف خارج حدود الأخلاق البشرية.

كما يتطلع البحث إلى المستقبل، مستعرضاً كيف يمكن للتقنيات الناشئة مثل الحوسبة الكمومية أن تجعل هذه الأنظمة أكثر قوة وموثوقية. إذ يمكن للحوسبة الكمومية أن تسمح للآلة بمعالجة البيانات المعقدة واتخاذ القرارات بسرعة أكبر بكثير مما تسمح به التكنولوجيا الحالية، وهو أمر ضروري في بيئة المعركة الفوضوية. ومن خلال استخدام هذه الأساليب المتقدمة، يمكن للنظام التعامل بشكل أفضل مع عدم اليقين والارتباك في الحرب، مما يضمن عدم ارتكاب أخطاء بسبب البيانات الضعيفة أو الإشارات المربكة. ويشير الباحث إلى أنه بينما لا تزال التكنولوجيا في طور التطور، فإن إطار بناء هؤلاء الوكلاء الأخلاقيين بدأ يتشكل بالفعل، مما يوفر مساراً لدمج الذكاء الاصطناستخدام في الحروب دون فقدان إنسانيتنا.

في النهاية، يعد العمل المقدم مخططاً لمستقبل يمكن للآلات فيه أن تقاتل، ولكن فقط تحت التوجيه الصارم للأخلاق البشرية. إنه لا يدعي حل كل المشكلات أو بناء آلة مثالية، ولكنه يقدم طريقة ملموسة لمعالجة أصعب الأسئلة في الحروب الحديثة. ومن خلال دمج مبادئ القانون الدولي مباشرة في كود الأسلحة ذاتية التشغيل، ومن خلال ضمان بقاء البشر في حالة سيطرة على العملية، يرى الباحث أنه من الممكن استخدام هذه الأدوات القوية دون التخلي عن المعايير الأخلاقية التي حكمت الحروب لقرون. ويقف هذا الاقتراح كتذكير بأنه مع تطور تكنولوجيتنا، يجب أن تتطور مسؤوليتنا في التحكم بها أيضاً، لضمان بقاء القدرة على تقرير الحياة والموت في أيدي البشر بقوة.