⚡ electrical engineering

Learning Probabilistic Responsibility Allocations for Multi-Agent Interactions

تقترح هذه الورقة طريقة قابلة للتنفيذ باستخدام مشفر تلقائي تبايني شرطي وطبقة تحسين قابلة للتفاضل لتعلم نموذج احتمالي لكيفية تخصيص الوكلاء للمسؤولية في التفاعلات متعددة الوكلاء، مما يتيح تحليل السلوكيات المتوافقة اجتماعياً على مجموعة بيانات INTERACTION للقيادة رغم غياب تسميات المسؤولية الحقيقية.

المؤلفون الأصليون: Isaac Remy, Caleb Chang, Karen Leung

نُشر 2026-04-16

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Isaac Remy, Caleb Chang, Karen Leung

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تقود سيارتك في شارع مزدحم. تريد الوصول إلى وجهتك بسرعة (هدفك)، ولكنك ترى سيارة تندمج أمامك. لديك خياران: إما أن تضغط على المكابح بقوة لتفسح لها المجال، أو أن تزيد من سرعتك وتأمل أن تنتظر هي.

في عالم السيارات ذاتية القيادة، يعد تحديد من يجب أن يهدئ سرعته ومن يمكنه الاستمرار في المضي قدماً لغزاً كبيراً. تقدم هذه الورقة البحثية طريقة جديدة لتعليم الحواسيب كيفية تعلم كيف يقرر البشر بشكل طبيعي من هو "المسؤول" عن تجنب التصادم.

إليك تفصيل فكرتهم، باستخدام بعض التشبيهات من الحياة اليومية:

١. المشكلة: لعبة "من الملام؟"

تقليدياً، حاول المهندسون برمجة السيارات بقواعد جامدة: "إذا كانت السيارة قريبة، توقف". لكن البشر ليسوا روبوتات. أحياناً نكون مهذبين ونفسح المجال لشخص ما؛ وأحياناً نكون حازمين ونستمر في المضي قدماً. الأمر يعتمد على الموقف.

أدرك المؤلفون أنه بدلاً من برمجة القواعد برمجياً، يجب علينا تعليم الذكاء الاصطناعي تعلم مفهوم المسؤولية.

المسؤولية هنا لا تعني "من تسبب في الحادث".
بل تعني: "إلى أي مدى يرغب هذا السائق في تغيير خطته للحفاظ على سلامة الجميع؟"

إذا كنت شخصاً مسؤولاً للغاية، فقد تبطئ سرعتك حتى لو لم يكن عليك فعل ذلك. أما إذا كنت أقل مسؤولية (بطريقة آمنة وقانونية)، فقد تلتزم بسرعتك وتتوقع من الشخص الآخر أن يتنازل.

٢. الحل: "البلورة السحرية" للسلوك

بنى الفريق نموذج ذكاء اصطناعي خاص (نموذج المسؤولية الاحتمالي - Probabilistic Responsibility Model) يعمل مثل البلورة السحرية.

الطريقة القديمة (الحتمية - Deterministic): ينظر الذكاء الاصطناعي إلى المشهد ويقول: "حسناً، يجب على السيارة (أ) أن تبطئ سرعتها بمقدار ٢ ميل في الساعة". إنه يعطي إجابة واحدة فقط.
الطريقة الجديدة (الاحتمالية - Probabilistic): ينظر الذكاء الاصطناعي إلى المشهد ويقول: "هناك احتمال ٥٠٪ أن تبطئ السيارة (أ) سرعتها، واحتمال ٥٠٪ أن تزيد السيارة (ب) سرعتها".

لماذا هذه الطريقة أفضل؟ لأن السلوك البشري فوضوي وله احتمالات متعددة (متعدد الأنماط - Multimodal). أحياناً يكون الناس مهذبين، وأحياناً يكونون في عجلة من أمرهم. النموذج الجديد يلتقط كل هذه الاحتمالات في وقت واحد.

٣. كيف يعمل: "المترجم" للغة الصندوق الأسود

هذا هو الجزء الصعب: لدينا بيانات عن قيادة السيارات (أين ذهبت وبأي سرعة)، لكن ليس لدينا تسمية توضح "في هذه اللحظة، كان السائق مسؤولاً بنسبة ٧٠٪". لا يمكننا سؤال السائق: "مهلاً، كم كنت مسؤولاً؟".

لذا، ابتكر المؤلفون حلاً ذكياً باستخدام "المشفّر التلقائي المتغير الشرطي" (CVAE). فكر في هذا كـ مترجم يمتلك لغة سرية:

١. المدخلات: يراقب الذكاء الاصطناعي المشهد (السياق).
٢. اللغة السرية (الفضاء الكامن - Latent Space): يقوم الذكاء الاصطناعي بضغط المشهد إلى رمز مخفي. هذا الرمز يمثل "مزاج" أو "نية" السائقين.
٣. الترجمة: يترجم الذكال الاصطناعي ذلك الرمز المخفي إلى درجة مسؤولية لكل سيارة.
٤. فلتر السلامة: هذه هي الخطوة الأهم. يأخذ الذكاء الاصطناعي درجات المسؤولية تلك ويمررها عبر فلتر سلامة رياضي. يسأل هذا الفلتر: "إذا كانت السيارة (أ) تملك درجة المسؤولية هذه والسيارة (ب) تملك تلك الدرجة، فما هي أدوات التحكم (المكابح/التوجيه) التي سيستخدمونها فعلياً لتجنب التصادم؟"
٥. التحقق: يقارن الذكاء الاصطناዊ بين أدوات التحكم المتوقعة وأدوات التحكم الحقيقية من بيانات الفيديو. إذا تطابقا، يعرف الذكاء الاصطناعي أنه خمن درجات المسؤولية بشكل صحيح!

الأمر يشبه محققاً يحاول معرفة من كان "الشخص الطيب" في قصة من خلال مراقبة أفعال الشخصيات. المحقق لا يرى الأفكار، لكن من خلال مراقبة الأفعال، يمكنه استنتاج الأفكار.

٤. سحر "المحول" (Transformer)

للتعامل مع حركة المرور المعقدة التي تشمل العديد من السيارات الداخلة والخارجة، استخدموا تقنية المحول (Transformer) (وهي نفس التقنية التي تقف وراء روبوتات الدردشة مثلي).

تخيل تقاطعاً مزدحماً. تدخل السيارات وتخرج.
المحول يشبه قائد أوركسترا فائق التنظيم. لا يهتم إذا كانت آلات الكمان (السيارات) تجلس في الصف الأمامي أو الخلفي؛ فهو يعرف بالضبط كيف تتفاعل كل آلة مع الآلات الأخرى، حتى مع انضمام آلات جديدة إلى الفرقة الموسيقية.

٥. النتائج: هل نجح الأمر؟

اختبروا هذا على بيانات قيادة حقيقية من مجموعة بيانات INTERACTION (التي سجلتها طائرات بدون طيار).

التنبؤ: تنبأ نموذجهم بمسارات السيارات المستقبلية بشكل أفضل من مجرد التخمين بأن "الجميع سيستمر في القيادة في خط مستقيم".
الرؤية: تعلم النموذج أشياءً حدسية. على سبيل المثال، إذا وصلت سيارة إلى التقاطع بعد وصول سيارة أخرى بالفعل، فإن النموذج يحدد بشكل صحيح المزيد من "المسؤولية" (الرغبة في التنازل) للسيارة المتأخرة. أما إذا كانت السيارة موجودة بالفعل في التقاطع، فإن النموذج يعرف أنها أقل مسؤولية عن التنازل.

الصورة الكبيرة

هذه الورقة البحثية لا تتعلق فقط بالتنبؤ بمكان ذهاب السيارة تالياً. إنها تتعلق بـ فهم العقد الاجتماعي للطريق.

من خلال تعليم الذكاء الاصطناعي فهم المسؤولية كمفهوم مرن واحتمالي، يمكننا بناء سيارات ذاتية القيادة لا تكتفي باتباع القواعد فحسب، بل تفهم روح القواعد. ستصبح هذه السيارات قادرة على التفاوض، والتنازل، والتفاعل مع البشر بطريقة تبدو طبيعية، وآمنة، وموثوقة.

باختصار: لقد علموا الذكاء الاصطناعي كيف يلعب لعبة "من سيتنازل؟" من خلال مراقبة كيف يلعبها البشر فعلياً، بدلاً من كتابة كتاب قواعد لها.

إليك ملخص تقني مفصل لورقة البحث بعنوان "تعلم تخصيصات المسؤولية الاحتمالية للتفاعلات متعددة الوكلاء".

1. تعريف المشكلة

تتناول الورقة البحثية تحدي نمذجة السلوك البشري في البيئات التفاعلية متعددة الوكلاء (مثل القيادة الذاتية). وبينما تركز الأساليب الحالية غالبًا على التنبؤ بـ ماذا سيفعل الوكلاء (التنبؤ بالمسار)، يركز هذا العمل على فهم لماذا يحيدون عن مساراتهم المرغوبة للحفاظ على السلامة.

المفهوم الجوهري: تُعرف المسؤولية بأنها درجة استعداد الوكيل للانحراف عن سياسة التحكم المرغوبة لديه من أجل تلبية قيود السلامة المشتركة (مثل تجنب الاصطدامات).
الفجوة: نمذت الأعمال السابقة المسؤولية كخريطة حتمية من سياق المشهد إلى قيمة مسؤولية واحدة. ومع ذلك، فإن التفاعلات البشرية هي بطبيعتها متعددة الأنماط (على سبيل المثال، في سيناريو وشيك التصادم، يمكن لأحد الوكيلين أن يتنازل، أو يمكن لكليهما التنازل قليلاً). يفشل النموذج الحتمي في التقاط هذا النوع من عدم اليقين وتنوع التفاعلات الاجتماعية الصالحة.
التحدي: لا توجد تسميات (labels) للحقائق الأرضية (ground-truth) لـ "المسؤولية" في مجموعات البيانات الواقعية. يجب على النموذج تعلم توزيع تخصيص المسؤولية بشكل غير مباشر، باستخدام حالات الوكلاء وعمليات التحكم المرصودة فقط.

2. المنهجية

يقترح المؤلفون نموذج مسؤولية احتمالي يتعلم توزيعًا لتخصيصات المسؤولية مشروطًا بسياق المشهد. يدمج الإطار عمل دالات حاجز التحكم (CBFs)، والمشفرات التلقائية المتغيرة الشرطية (CVAEs)، وبنيات المحولات (Transformers).

أ. الأساس النظري: مرشح سلامة المسؤولية

يعتمد الأسلوب على دالات حاجز التحكم (CBFs) لضمان السلامة.

دالة CBF القياسية: تضمن بقاء وكيل واحد ضمن مجموعة آمنة من خلال تقليل الانحراف عن التحكم المرغوب.
التوسيع متعدد الوكلاء: وسع المؤلفون هذا المفهوم ليشمل $N$ $N$ من الوكلاء من خلال صياغة مشكلة تحسين مشتركة (المشكلة 2).
- الهدف: تقليل مجموع الانحرافات الموزونة عن الضوابط المرغوبة لجميع الوكلاء.
- متجه المسؤولية ( $\gamma$ ): هو متجه حيث يمثل كل عنصر $\gamma_i$ "تكلفة" الانحراف للوكيل $i$ . تشير قيمة $\gamma_i$ العالية إلى أن الوكيل أقل استعدادًا للانحراف (أقل مسؤولية)، بينما تشير قيمة $\gamma_i$ المنخفضة إلى استعداد أعلى للتنازل (أكثر مسؤولية).
- القيد: تخضع عملية التحسين لمجموعة من قيود CBF الزوجية التي تضمن تجنب الاصطدام بين جميع أزواج الوكلاء.

ب. بنية التعلم: CVAE المسؤولية

بما أن $\gamma$ (الحقيقة الأرضية) غير مرصودة، استخدم المؤلفون مشفرًا تلقائيًا متغيرًا شرطيًا (CVAE) لتعلم توزيع $p(\gamma | s)$ ، حيث $s$ هو سياق المشهد.

المتغير الكامن ( $z$ ): يلتقط متغير كامن غاوسي (Gaussian) عدم اليقين متعدد الأنماط في التفاعل البشري.
بنية فك التشفيد (Decoder):
1. من الكامن إلى المسؤولية: يتم تمرير $z$ عبر طبقات شبكة عصبية لتوليد متجه المسؤولية $\gamma = g_\phi(z)$ .
2. طبقة التحسين القابلة للتفاضل: يتم إدخال $\gamma$ المتولد في مرشح سلامة CBF متعدد الوكلاء المسؤول (مشكلة التحسين المذكورة أعلاه). هذه الطبقة قابلة للتفاضل، مما يسمح بتدفق الاشتقاقات (gradients) عائدًا إلى الشبكة العصبية.
3. المخرجات: ينتج المرشح مدخلات التحكم المتوقعة $\hat{u}$ .
هدف التدريب: يقلل النموذج من حد أدنى للاحتمال (ELBO)، مما يؤدي فعليًا إلى تعلم توليد توزيعات $\gamma$ بحيث تتطابق ضوابط التحكم المتوقعة $\hat{u}$ مع الضوابط المرصودة $u$ في مجموعة البيانات.

ج. نمذجة التسلسل: نموذج CVAE القائم على المحولات (Transformer)

للتعامل مع المشاهد المعقدة والديناميكية ذات الأعداد المتغيرة من الوكلاء، قام المؤلفون بتكييف بنية AgentFormer:

المدخلات: تسلسل من حالات الوكلاء الماضية (الموقع، السرعة، النوع) والتحكم الحالي.
الآلية: يستخدم الانتباه الذاتي (self-attention) والقناع (masking) للتعامل مع الوكلاء الذين يدخلون أو يغادرون المشهد ولتعلم العلاقات بين الوكلاء بغض النظر عن الترتيب (ثبات التبديل/permutation invariance).
المخرجات: توزيع على تخصيصات المسؤولية للخطوة الزمنية الحالية، مشروطًا بتاريخ التفاعل.

3. المساهمات الرئيسية

الصياغة الاحتمالية: أول صياغة للمسؤولية كـ توزيع احتمالي بدلاً من تقدير نقطي، مما يلتقط الطبيعة متعددة الأنماط للتفاعلات البشرية.
التعلم غير المباشر عبر التحسين: بنية مبتكرة تتعلم متغيرات المسؤولية غير المرصودة من خلال الانتشار الخلفي عبر طبقة تحسين قابلة للتفاضل (مرشح سلامة CBF)، مما يتجاوز الحاجة إلى بيانات مسؤولية مصنفة.
نموذج محول قابل للتوسع: نموذج مسؤولية من تسلسل إلى تسلسل قادر على التعامل مع أعداد متغيرة من الوكلاء غير المتجانسين وتاريخ تفاعلات معقد.
القابلية للتفسير: يوفر النموذج مقياسًا كميًا ومؤسسًا رياضيًا لـ "من هو المسؤول" في سيناريو التصادم، مما يقدم رؤى تتجاوز مجرد التنبؤ بالمسار.

4. النتائج التجريبية

تم تقييم الطريقة على كل من البيانات الاصطناعية ومجموعة بيانات القيادة الواقعية INTERACTION.

البيانات الاصطناعية:
- نجح النموذج في إعادة بناء توزيع ثنائي الأنماط (bimodal) للحقيقة الأرضية لتخصيصات المسؤولية.
- أظهر أن الفضاء الكامن الغاوسي يمكنه التقاط نمطي التفاعل المتميزين بفعالية (على سبيل المثال، الوكيل (أ) يتنازل مقابل الوكيل (ب) يتنازل).
مجموعة بيانات INTERACTION (القيادة في العالم الحقيقي):
- التنبؤ بالمسار: حققت المسارات المستحثة بواسطة المسؤولية أداءً تنبؤيًا قويًا (انخفاض في متوسط خطأ الإزاحة ومعدل الخطأ)، متفوقة بشكل كبير على النماذج المرجعية التي تتبع ببساطة الضوابط المرغوبة أو تتنبأ بالضوابط مباشرة دون مرشح السلامة.
- دراسات الاستئصال (Ablation Studies): اختبر المؤلفون دوال تنشيط مختلفة لـ $\gamma$ . ووجدوا أن النماذج التي تسمت بقيم سالبة (مثل tanh أو clip at -β) كانت أفضل من تلك المقيدة بـ $[0, 1]$ ، حيث تظهر الوكلاء في العالم الحقيقي أحيانًا "مسؤولية سلبية" (السعي بعدوانية نحو هدفهم رغم القيود).
- رؤى نوعية:
  - حدد النموذج بشكل صحيح أن الوكيل الذي يصل لاحقًا إلى التقاطع (السيارة الخضراء) يجب أن يكون له قيمة مسؤولية أقل (استعداد أعلى للتنازل) مقارنة بالوكيل الموجود بالفعل في التقاطع (السيارة الحمراء).
  - التقط النموذج السلوكيات ثنائية الأنماط: في بعض السيناريوهات، توقع النموذج توزيعًا حيث يمكن للسيارة الخضراء إما التسارع أو التباطؤ، مما يعكس غموض اتخاذ القرار البشري.

5. الأهمية والعمل المستقبلي

الأهمية: ينقل هذا العمل النموذج من "التنبؤ بأين يذهب الوكلاء" إلى "فهم كيفية تفاوض الوكلاء على السلامة". من خلال قياس المسؤولية، يمكن للأنظمة المستقلة أن تصبح أكثر امتثالًا اجتماعيًا وموثوقية، حيث يمكنها توقع ليس فقط المسار، بل أيضًا النية والاستعداد للتنازل لدى السائقين البشر.
القيود: كانت مجموعة البيانات الواقعية منحازة نحو سيناريوهات السرعة الثابتة، مما حد من تنوع نتائج المسؤولية المتعلمة. يعتمد اختيار الوكلاء الحالي على قواعد المسافة بدلاً من الوصول الديناميكي.
الاتجاهات المستقبلية:
- دمج هندسة الطرق المعقدة والسياق البصري (اللافتات، الإشارات).
- استخدام الأساليب القائمة على الوصول (reachability-based) لتصفية الوكلاء ذوي الصلة بدقة أكبر.
- تطبيق النموذج على التحليل المضاد للواقع (counterfactual analysis) (مثل: "ماذا لو كان الوكيل الآخر أكثر مسؤولية؟") لتحسين تصميم السياسات للروبوتات والمركبات ذاتية القيادة.