Law as Code in Autonomous Drone Perception: Active Inference for Context-Dependent Legal Compliance
تقترح هذه الورقة طبقة مُنفذ قانوني (LAL) تدمج الاستدلال النشط لتمكين الطائرات المسيرة ذاتية القيادة من موازنة وإنفاذ الالتزامات القانونية المتعارضة ديناميكيًا في الوقت الفعلي، متفوقةً بذلك على الأنظمة القائمة على القواعد الجامدة في السيناريوهات المعقدة مع الحفاظ على الكفاءة الحسابية ومعالجة الحدود الجوهرية في تعلم البيانات ذات الصلة بالامتثال.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل طائرة بدون طيار (درون) تحلق فوق مدينة، وكاميراتها تراقب الشوارع في الأسفل. يجب عليها اتباع مجموعة صارمة من القواعد: لا يمكنها الطيران فوق الملكية الخاصة، ولا يمكنها تسجيل وجوه الأشخاص الذين لم يوافقوا على التصوير، ويجب أن تلتزم بمسارات طيران محددة. بالنسبة للمشغل البشري، هذه تعليمات واضحة. ولكن بالنسبة لآلة تتخذ القرارات في جزء من الثانية، فإن الموقف أكثر تعقيداً بكثير. ماذا يحدث إذا وقعت حالة طبية طارئة، تتطلب من الطائرة دخول منطقة محظورة لتقديم المساعدة، بينما تنتهك في الوقت نفسه قانوناً للخصوصية؟ إن برنامجاً حاسوبياً بسيطاً يتبع قائمة جامدة من أوامر "إذا حدث هذا، فافعل ذاك" سيؤدي على الأرجح إلى التوقف عن العمل أو ارتكاب خطأ، حيث سيعجز عن الموازنة بين إلحاح إنقاذ حياة وبين قاعدة البقاء خارج منطقة حظر الطيران. هذا هو التحدي المركزي لتنظيم الآلات ذاتية القيادة: القوانين ليست مجرد قوائم ثابتة من القواعد، بل هي مبادئ مرنة تتغير بناءً على السياق.
اقترح باحثون في جامعة كيبيك في مونتريال ومعهد ماكس بلانك لعلوم الإدراك والدماغ البشرية طريقة جديدة لحل هذه المشكلة. فبدلاً من برمجة الطائرة بدون طيار بقائمة من القواعد المبرمجة مسبقاً، قاموا ببناء نظام يعامل القوانـيـن كأنها "تفضيلات". في هذا النهج، لا تكتفي الطائرة بمجرد التحقق من خانة لمعرفة ما إذا كان الفعل مسموحاً به أم لا؛ بل تقوم باستمرار بحساب ما "تريد" فعله بناءً على تسلسل هرمي للقيم. إذا كانت الطائرة في وضع طبيعي، فإنها تفضل بشدة تجنب المناطق المحظورة وحماية خصوصية الناس. ولكن إذا رصدت حالة طبية طارئة، فإن هذه التفضيلات تتغير. تصبح الرغبة في الوصول إلى الهدف قوية جداً لدرجة أنها تطغى على التفضيل بالبقاء بعيداً، مما يسمح للطائرة بالتصرف بشكل قانوني بطريقة لا تستطيع البرامج الحاسوبية الجامدة القيام بها. اختبر الباحثون هذه الفكرة في سلسلة من المحاكاة الحاسوبية، حيث أنشأوا طبقة رقمية بين عيون الطائرة ومحركاتها تعمل بمثابة "ضمير قانوني".
يطلق الفريق، بقيادة ماهولت ألبراسين ونيكولاس هينريش، على هذا النظام اسم "طبقة المشغل القانوني" (Legal Actuator Layer). لقد صمموها لتكون بمثابة وسيط بين إدراك الطائرة للعالم وحركاتها الفيزيائية. في الإعداد القياسي، قد تتبع الطائرة هدفاً ببساطة، متجاهلة ما إذا كانت تحلق فوق حشد أو داخل منطقة محظورة. تقوم "طبقة المشغل القانوني" باعتراض هذه الأوامر. فقبل أن تتحرك الطائرة، تطرح هذه الطبقة سلسلة من الأسئلة بناءً على ما تراه: هل هناك حالة طوارج؟ هل يوجد مارة بالقرب؟ هل المجال الجوي محظور؟ ثم توازن الإجابات مقابل مجموعة من الأهداف القانونية. هذه الأهداف ليست مكتوبة كأوامر صارمة، بل كتفضيلات. على سبيل المثال، لدى الطائرة تفضيل قوي لعدم التقاط وجوه الغرباء، لكن لديها تفضيل أقوى لتجنب الاصطدام أو الوصول إلى شخص في حاجة ماسة للمساعدة.
لاختبار مدى فعالية هذا النظام، أجرى الباحثون تسع تجارب محاكاة مختلفة. في أحد السيناريوهات، طلبوا من الطائرة تتبع شخص ما مع تجنب التقاط وجوه المارين. كان النظام القائم على القواعد التقليدية سيقوم إما بتعتيم الفيديو دائماً ليكون آمناً، مما يجعل تتبع الهدف أصعب، أو لن يقوم بتعتيم الفيديو أبداً، مما يخاطر بانتهاك الخصوصية. ومع ذلك، نظر النظام الجديد إلى الموقف؛ فإذا رأت الكاميرا الهدف فقط، أبقت الفيديو واضحاً. وإذا رأت حشداً، قامت بتعتيم الوجوه. وعندما كان النظام غير متأكد مما يراه، اختار الخيار الأكثر أماناً، وهو تعتيم الفيديو لحماية الخصوصية. طابق هذا السلوك أداء قاعدة مكتوبة بشرياً، ولكنه تحقق من خلال عملية أكثر مرونة يمكنها التكيف مع عدم اليقين.
جاء الاختبار الأكثر حرجاً عندما تتعارض القواعد. أنشأ الباحثون سيناريو تحتاج فيه الطائرة إلى دخول منطقة محظورة لمساعدة شخص في حالة طبية طارئة. النظام الصارم القائم على القواعد الذي يمنع منعاً باتاً دخول المناطق المحظورة سيفشل في مساعدة الشخص. أما النظام الذي يحتوي على "استثناء طوارئ" بسيط، فسيسمح للطائرة بالدخول، ولكنه سيجعلها تطير أيضاً في كل مرة تسمع فيها إنذاراً كاذباً، مما ينتهك القواعد بنسبة 56 بالمائة في الحالات العادية. ومع ذلك، تصرف النظام الجديد بشكل مختلف؛ فقد سمع إشارة الطوارئ ولكنه لم يندفع فوراً للدخول، بل توقف لجمع المزيد من الأدلة، وفحص مستشعراته ليتأكد من أن الحالة الطارئة حقيقية. وبمجرد أن تأكد، دخل المنطقة المحظورة لإتمام المهمة. في كل تجربة كانت فيها الحالة الطارئة حقيقية، نجح النظام. وفي كل تجربة لم تكن فيها حالة طوارئ، بقي في الخارج. لقد تمكن من الموازنة بين الحاجة إلى السرعة والحاجة إلى الحذر بطريقة لم تستطع الأنظمة الأخرى القيام بها.
اكتشف الباحثون أيضاً قيداً مفاجئاً في كيفية تعلم هذه الأنظمة. لقد حاولوا تعليم الطائرة القواعد من خلال تركها تتعلم من تجربتها الخاصة، تماماً كما يتعلم الطفل من خلال التجربة والخطأ، لكن هذا النهج فشل. لم تتمكن الطائرة من تعلم القواعد المتعلقة بالخصوصية والمناطق المحظورة لأنها، لكي تتعلمها، سيتعين عليها كسرها أولاً. فالطائرة التي تلتزم بالقانون لا تختبر أبداً عواقب كسر هذا القانون، لذا فهي لا تتعلم أبداً كيف تبدو تلك العواقب. وجد الباحثون أن النظام لا يعمل إلا عندما يتم معايرة المستشعرات الأكثر أهمية مسبقاً بواسطة البشر (تلك التي تخبر الطائرة بموقعها وما إذا كانت الحالة الطارئة حقيقية أم لا). يمكن للطائرة أن تتعلم التعرف على البيئة، لكنها لا تستطيع تعلم القوانين نفسها من الصفر.
رغم هذا القيد، أثبت النظام أنه سريع بما يكفي للاستخدام في العالم الحقيقي. فقد قاس الباحثون المدة التي استغرقها اتخاذ قرار قانوني؛ حيث استغرقت العملية بأكملها، من رؤية العالم إلى اتخاذ قرار بالحركة، 0.31 مللي ثانية فقط. هذا الوقت سريع بما يكفي للعمل على الحواسيب الصغيرة الموجودة في الطائرات الفعلية، مما يسمح للضمير القانوني بالعمل في الوقت الفعلي دون إبطاء عملية الطيران. كما أظهر النظام آلية سلامة طبيعية: عندما كانت المستشعرات مشوشة جداً ولم تستطع الطائرة التأكد مما يحدث، كانت ببساطة تتوقف عن العمل. لقد فضلت التحليق في مكانها بدلاً من المخاطرة بخرق القانون عبر التخمين.
تخلص الدراسة إلى أن ترميز القوانين كتفضيلات مرنة بدلاً من قواعد جامدة يسمح للآلات ذاتية القيادة بالتعامل مع المواقف المعقدة في العالم الحقيقي. ومن خلال التعامل مع الالتزامات القانونية كمجموعة من الرغبات المتنافسة التي تتغير بناءً على السياق، يمكن للطائرة اتخاذ قرارات فعالة ومتوافقة في آن واحد. لا يحتاج النظام إلى أن يكون محامياً مثالياً؛ بل يحتاج فقط إلى فهم أن بعض القواعد أكثر أهمية من غيرها، وأن الشيء الصحيح الذي يجب فعله يعتمد أحياناً على ما يحدث في اللحظة الراهنة. يقدم هذا النهج مساراً مستقبلياً لبناء آلات يمكنها التنقل في متطلبات المجتمع البشري المتداخلة والمتناقضة دون الحاجة إلى إنسان يضغط على زر لكل قرار.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.