ملخص تقني: PAVE – بنية معرفية للانتهاك المشروع في مجتمعات الوكلاء التوليديّين

1. بيان المشكلة

أظهر الوكلاء التوليديّون القائمون على النماذج اللغوية الكبيرة (LLMs) قدرة على محاكاة السلوك البشري الموثوق في البيئات التعاونية. ومع ذلك، فإن قدرتهم على التفكير في السيناريوهات التي يتطلب فيها كسر القواعد اتخاذ إجراء — مثل عمليات الإخلاء من الحرائق، أو حالات الطوارئ الطبية، أو المواقف التي تنطوي على سلطات متضاربة — لا تزال غير مشخصة بشكل جيد. تركز البنيات الحالية، مثل "الوكلاء التوليديّين" التأسيسية لـ Park et al. [2023]، بشكل أساسي على الامتثال للقواعد والتعاون. وغالبًا ما تفشل في التمييز بين الانتهاكات "المريحة" والانتهاكات "المشروعة" المدفوعة بالضرورة.

تعاني النماذج الحالية من ثلاثة أنماط فشل محددة:

1. الإفراط في الامتثال: يتبع الوكلاء القواعد حتى عندما تتطلب حالة الطوارراء الحقيقية خلاف ذلك (على سبيل المثال، الانتظار عند إشارة حمراء أثناء اندلاع حريق).
2. الإفراط في الانتهاك: يكسر الوكلاء القواعد لمجرد الراحة أو بسبب ضغط الأقران دون وجود محفز مبرر.
3. العدوى غير المحدودة: ينسخ الوكلاء سلوكيات الآخرين في كسر القواعد حتى يصبح كسر القاعدة هو المعيار الجديد، مما يؤدي إلى الفشل في استعادة الامتثال الأساسي بمجرد زوال المحفز.

التحدي الجوهري ليس في نقص القواعد، بل في الآلية التي يوازن بها الوكلاء بين تلك القواعد وبين الضرورة الموقفية، والسلطة، والسياق الاجتماعي.

2. المنهجية: بنية PAVE

لمعالجة هذه الفجوات، يقترح المؤلفون بنية PAVE (الإدراك، التقييم، الحكم، المحاكاة)، وهي بنية معرفية مكونة من أربع وحدات مصممة لنمذجة عملية اتخاذ القرار المتعلقة بكسر القواعد بطريقة مبدئية. تعمل PAVE على توسيع حلقة (الذاكرة-التأمل-التخطيط) الخاصة بـ Park et al. [2023] عبر إدخال وحدات استدلال مخصصة لانتهاك القواعد.

2.1 الوحدات الأربع

1. الإدراك (Perception):

   • الوظيفة: استخراج سياق مهيكل من البيئة قبل بدء عملية الاستدلال.
   • المخرجات: كائن سياقي $C = \langle apres, dauth, B_{peer}, ucue, \zeta \rangle$.
   • الميزات الرئيسية: يفصل صراحةً بين وجود السلطة ($apres$) والمسافة عنها ($dauth$). كما يصنف الإشارات الموقفية ($ucue$) حسب النوع، والمسافة، والشدة (1–100). والأهم من ذلك، أنه يرصد سلوكيات الأقران ($B_{peer}$) كلقطة للمشهد الحالي، مما يمنع التراكم طويل الأمد لتأثير الأقران الذي قد ينحاز للوكيل.

2. التقييم (Assessment):

   • الوظيفة: تحويل السياق الإدراكي إلى خمسة عوامل قياسية متميزة (1–100) تدفع عملية اتخاذ القرار.
   • العوامل:
     • $r$ (المخاطرة): احتمال الكشف/العقوبة المتصور، موازنًا بالمسافة من السلطة.
     • $p_{emp}$ (التوقع التجريبي): نسبة الوكلاء القريبين الممتثلين حاليًا.
     • $p_{norm}$ (التوقع المعياري): اعتقاد الوكيل بما "يجب" على الآخرين فعله.
     • $b$ (الفائدة): المنفعة المتصورة من الانتهاك (الضرورة أو الإلحاح).
     • $\ell$ (المشروعية): المساهمة الجوهرية. يقيم هذا العامل القياسي ما إذا كان الموقف يستوجب الانتهاك بناءً على ثلاثة معايير صارمة: الضرورة (هل سيؤدي الامتثال إلى ضرر حقيقي؟)، التناسب (هل الانتهاك في حده الأدنى؟)، وغياب البدائل (هل هناك فعل ممتثل يحقق نفس النتيجة؟).

3. الحكم (Verdict):

   • الوظيفة: يقرر الامتثال أو الانتهاك.
   • الآلية: يحكم القرار بوابة مشروعية صارمة.
     • إذا كانت $\ell < \tau$ (حيث $\tau$ هو عتبة خاصة بالوكيل مستخلصة من شخصيته)، فإن الحكم يجب أن يكون امتثال (comply)، بغض النظر عن ارتفاع الفائدة أو انخفاض المخاطر.
     • إذا كانت $\ell \ge \tau$، يُسمح للوكيل بالانتهاك، حيث يتأثر القرار النهائي بالمخاطر، وسلوك الأقران، والشخصية.
   • المخرجات: قرار ثنائي ($y$)، وتبرير باللغة الطبيعية ($j$)، ودرجة ثقة ($\kappa$).

4. المحاكاة (Emulation):

   • الوظيفة: تنفيذ الحكم ونقل النتيجة إلى المجتمع.
   • نطاق الإجراء: عند الانتهاك، يكسر الوكيل فقط القاعدة المحددة التي بررها المحفز (على سبيل المثال، عبور إشارة حمراء للهروب من حريق، ولكن ليس سرقة دراجة).
   • نشر النتائج: تحديث ذاكرة الوكيل الفاعل وتغذية السياق الإدراكي للوكلاء القريبين. يسمح هذا لـ ($p_{emp}$) بالتحديث، لكن بوابة المشروعية في الدورة التالية تضمن أن الضغط المتزايد من الأقران لا يمكنه فرض الانتهاك ما لم يكن الموقف نفسه مشروعًا.

2.1 البيئة التجريبية: VOVILLE

قام المؤلفون بتطبيق PAVE في بيئة VOVILLE، وهي بيئة حركة مرور قائمة على المربعات (tiles) مشتقة من بيئة Smallville التجريبية.

• الميزات: تتضمن إشارات مرور قابلة للضبط، وشوارع ذات اتجاه واحد، ومخاطر مكتوبة (حرائق) وسلطات (ضباط مرور).
• الوكلاء: 10 وكلاء من نوع PAVE (8 مرتادي مقهى، 2 من المارة) وعدد من الشخصيات غير اللاعبة (NPCs) المبرمجة (مساعدين، ضباط).
• السيناريوهات:
  1. الهروب من الحريق (بدون سلطة): يختبر ما إذا كان الوكلاء سينتهكون القواعد للهروب ثم يستعيدون الامتثال بمجرد انتهاء الحريق.
  2. الهروب من الحريق (مع سلطة): يختبر الامتثال لتعليمات الضباط وكبح الانتهاكات مكانياً.
  3. ضغط الأقران (عبور المشاة غير القانوني): يختبر مقاومة التقليد عندما ينتهك الأقران القواعد تحت ضغط الوقت ولكن دون وجود حالة طوارئ.

3. المساهمات الرئيسية

1. بنية PAVE: إطار معرفي مبتكر ينمذج بشكل مشترك الانتهاك الناجم عن الطوارئ، وعدوى الأقران، وكبح السلطة، متجاوزًا التعامل مع الانتهاك كناتج عرضي ناشئ.
2. بيئة VOVILLE: بيئة محاكاة قائمة على الموقع الجغرافي تتيح ملاحظة أحداث الامتثال والانتهاك جسديًا، وهي متميزة عن المحاكاة الحوارية البحتة.
3. التوصيف التجريبي: من خلال دراسات الاستئصال عبر ثلاثة سيناريوهات، وخمس حالات، وأربعة نماذج لغوية كبيرة (GPT-4o, Claude-3.5, Llama-3-70B, GPT-4o-mini)، يحدد المؤلفون الظروف المحددة التي ينتهك فيها الوكلاء القواعد أو يكبحونها.

4. النتائج

ركز التقييم على أربع خصائص: الانتهاك المشروع (P1)، الامتثال للسلطة (P2)، استعادة الامتثال (P3)، والنطاق المحدود (P4).

• الانتهاك المشروع (P1): انتهك وكلاء PAVE القواعد فقط عندما كان المحفز (مثل الحريق) مبررًا. في سيناريو "عبور المشاة"، قاوم وكلاء PAVE تقليد الأقران (معدل الانتهاك 0.04) مقارنة بوكلاء "Vanilla" (0.58)، لأن محفز "التأخر عن الموعد" فشل في اختبار المشروعية.
• الامتثال للسلطة (P2): امتثل الوكلاء لتعليمات الضابط حتى عندما كانت درجة المشروعية الداخلية ($\ell$) لديهم عالية. في التقاطعات الخاضعة للرقابة، بلغ الامتثال 0.94. انخفضت معدلات الانتهاك بشكل كبير مع اقتراب الضابط (0.05 ضمن 3 مربعات مقابل 0.65 خارج نطاق 12 مربعًا)، مما يحاكي أنماط الشرطة البشرية.
• استعادة الامتثال (P3):ary: عاد الوكلاء إلى الامتثال الأساسي في غضض ~4 دورات زمنية (ticks) من خروجهم من نصف قطر الحريق. لم تستمر تأثيرات السلطة؛ فبمجرد مغادرة الضابط أو انتهاء الحريق، عاد الوكلاء إلى سلوكهم القياسي.
• النطاق المحدود (P4): اقتصرت الانتهاكات على القاعدة المستهدفة. ظلت انتهاكات القواعد غير المرتبطة (مثل دخول المباني الخاصة) قريبة من الصفر (0.02)، بينما أظهر وكلاء "Vanilla" معدلات عالية (0.31).

نتائج الاستئصال (Ablation):

• إزالة بوابة المشروعية: بدون البوابة، تصرف وكلاء PAVE مثل وكلاء "Vanilla" فيما يتعلق بالانتهاكات المدفوعة بالراحة. ارتفع معدل الانتهاك للقواعد غير المرتبطة من 0.02 إلى 0.21، وارتفع التحول المدفوع بالأقران من 0.04 إلى 0.39.
• خط الأساس (Vanilla): فشل وكلاء "Vanilla" أساسًا بسبب "عنق زجاجة الأهمية". آلية تسجيل الأهمية الأساسية (Park et al.) أعطت الأولوية للندرة الاجتماعية على الخطر الجسدي. وبناءً عليه، غالبًا ما تم تقييم الحريق بنفس أهمية إشارة مرور روتينية، مما أدى إلى رد فعل ناقص (الفشل في الإخلاء) أو ردود فعل غير محددة النطاق.

التقييم البشري:
قيم المقيمون البشريون وكلاء PAVE بدرجة أعلى بكثير (5.78/7) من وكلاء Vanilla (3.42/7) من حيث الواقعية، لا سيما في بروز المحفزات والحكم على المشروعية.

5. الأهمية والادعاءات

يزعم البحث أن PAVE يوفر إصلاحًا هيكليًا لمسار صنع القرار لدى الوكلاء التوليديّين. تكمن أهميتها ليس في النتيجة (إخلاء الوكلاء لحريق)، بل في الآلية:

• التمييز بين الدوافع: نجحت PAVE في الفصل بين "الراحة" و"المشروعية"، مما يضمن حدوث الانتهاكات فقط عندما تتحقق شروط الضرورة والتناسب وغياب البدائل.
• قابلية التوسع في الاستدلال: تسمح البنية بتباين على مستوى الوكيل (عبر العتبات $\tau$ المستخلصة) مع الحفاظ على بوابة مبدئية ضد كسر القواعد التعسفي.
• الاستعادة ومقاومة العدوى: يثبت النظام أن النسيج الاجتماعي يمكن أن يتعافى بمجرد زوال المحفز، وأن الوكلاء يمكنهم مقاومة عدوى الأقر "الاجتماعية" إذا كان الموقف الأساسي يفتقر إلى المشروعية.

يشير المؤلفون بتواضع إلى بعض القيود: القواعد محددة يدويًا وليست متعلمة، وتركز الدراسة على سيناريوهات ذات محفز واحد دون وجود سلطات متنازعة أو انتهاكات منسقة متعددة الوكلاء. ومع ذلك، يؤكدون أن أنماط "الامتثال والمسافة" والتعافي عبر الأيام الملاحظة في VOVILLE تعيد إنتاج الدراسات الميدانية البشرية (مثل Koper [1995]) دون استهداف ذلك صراحةً، مما يشير إلى أن البنية تلتقط الديناميكيات الأساسية لكسر القواعد في البيئات المتعلقة بالسلامة.