💻 computer science

ValueFlow: Measuring the Propagation of Value Perturbations in Multi-Agent LLM Systems

تقدم الورقة البحثية إطار عمل "ValueFlow"، الذي يحدد كمياً كيفية انتقال اضطرابات القيم عبر أنظمة النماذج اللغوية الكبيرة متعددة الوكلاء من خلال تفكيك انحراف القيم إلى قابلية التأثر على مستوى الوكيل والآثار الهيكلية على مستوى النظام، مما يثبت أن محاذاة القيم هي في الأساس خاصية على مستوى النظام تشكلها طوبولوجيا التفاعل.

المؤلفون الأصليون: Jinnuo Liu, Chuke Liu, Hua Shen

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jinnuo Liu, Chuke Liu, Hua Shen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مجموعة من الأصدقاء يجلسون حول طاولة، يحاولون تقرير ما هو الفيلم الذي سيشاهدونه. لكل صديق ذوقه الشخصي (قيمُه). عادةً، يتناقشون، ويستمعون لبعضهم البعض، ويتفقون في النهاية على فيلم.

الآن، تخيل أن أحد الأصدقاء أُخبر سرًا من قبل جاسوس بأن يصر قائلاً: "يجب أن نشاهد فيلم رعب!" رغم أنه عادةً ما يكره أفلام الرعب.

تطرح ورقة بحثية بعنوان ValueFlow سؤالاً بسيطاً ولكنه مخادع: كيف تنتشر وجهة النظر المفروضة والمفاجئة لهذا الشخص الواحد عبر المجموعة؟ هل ستبدأ المجموعة بأكملها فجأة في حب أفلام الرعب؟ أم سيتجاهلون ذلك الصديق ويعودون إلى خطتهم الأصلية؟

إليك تفصيل نتائج الورقة البحثية باستخدام تشبيهات من الحياة اليومية:

1. المشكلة: تأثير "رواق الهمس" (The Whispering Gallery Effect)

في الماضي، كان العلماء يتحققون مما إذا كان الذكاء الاصطناعي "جيداً" أو "سيئاً" من خلال طرح أسئلة عليه بمفرده. ولكن اليوم، غالباً ما تُستخدم أنظمة الذكاء الاصطناعي في فرق، حيث تتحدث مع بعضها البعض لحل المشكلات.

أدرك المؤلفون أنه حتى لو بدأ كل ذكاء اصطناعي بقيم جيدة، فإن طريقة حديثهم مع بعضهم البعض يمكن أن تحرف آراءهم عن قصد. الأمر يشبه لعبة "الهاتف المكسور" (Telephone)، ولكن بدلاً من تغير رسالة سخيفة، يمكن للمعتقدات الجوهرية للمجموعة حول ما هو "صحيح" أو "مهم" أن تنحرف عن الحقيقة.

2. الأداة: "ValueFlow" (كاشف تسرب القيم)

بنى الباحثون أداة تسمى ValueFlow لقياس مدى سهولة "عدوى" قيم الذكاء الاصطناعي من أصدقائه.

لقد صمموا اختباراً يتضمن 56 قيمة بشرية مختلفة (مثل "الأمن القومي"، "الصداقة"، "الحرية"، أو "الثروة"). طرحوا أسئلة على الذكاء الاصطناعي حول هذه القيم، ثم قاموا سراً بحقن "اضطراب" (perturbation)—بمعنى آخر، جعلوا بعض أصدقاء الذكاء الاصطناعي الوهميين يصرخون بآراء متطرفة في المحادثة ليروا كيف ستتفاعل أنظمة الذكاء الاصطناعي الحقيقية.

3. القياسان الرئيسيان

تقيس الورقة هذا "العدوى" بطريقتين، مثل فحص تسرب في أنبوب:

اختبار "الأذن" (قابلية التأثر للوكيل، أو $\beta$ ):
يقيس هذا مدى سهولة تغيير رأي ذكاء اصطناعي معين عندما يسمع الآخرين.
- التشبيه: تخيل شخصاً في حفلة. إذا قال أحدهم: "البيتزا هي أفضل طعام"، هل يوافق هذا الشخص فوراً؟
- النتيجة: بعض القيم تشبه الجدران الخرسانية (صعبة التغيير). إذا كانت القيمة هي "الانضباط الذاتي" أو "الصداقة الحقيقية"، فعادة ما يتجاهل الذكاء الاصطناعي الضجيج. لكن قيم أخرى تشبه الرمال المبللة (سهلة التشكيل). إذا كانت القيمة هي "القوة الاجتماعية" أو "النفوذ"، فإن الذكاء الاصطناعي يغير رأيه بسرعة كبيرة لمجرد أن الآخرين يتحدثون عنها.
اختبار "الأنبوب" (قابلية تأثر النظام، أو $SS$ ):
يقيس هذا مدى مساعدة هيكل المحادثة في نشر الرأي السيئ.
- التشبيه: تخيل أن المجموعة مرتبة في أشكال مختلفة.
  - السلسلة (The Chain): (أ) يتحدث إلى (ب)، و(ب) يتحدث إلى (ج). إذا أصيب (أ) بالعدوى، فإن "السم" سينتقل ليصل إلى (ج).
  - النجمة (The Star): الجميع يتحدث إلى قائد مركزي. إذا أصيب القائد بالعدوى، فسيصاب الجميع بالعدوى فوراً.
  - الشبكة (The Mesh): الجميع يتحدث مع الجميع.
- النتيجة: وجدت الورقة أن مكان بدء الرأي السيئ يفرق كثيراً. إذا أصيب ذكاء اصطناعي "مركزي" (القائد) بفكرة سيئة، فإنها تنتشر في كل مكان. أما إذا أصيب ذكاء اصطناعي "طرفي" (شخص على الحافة) بفكرة سيئة، فغالباً ما تموت الفكرة. أيضاً، إذا استمع الذكاء الاصطناعي إلى أصوات عديدة مختلفة في وقت واحد، فمن الصعب خداعه (حيث تلغي الأصوات بعضها البعض).

4. المفاجأة الكبرى: الأمر لا يتعلق فقط بالذكاء الاصطناعي

الاكتشاف الأهم هو أنه لا يمكنك إصلاح هذا بمجرد جعل أنظمة الذكاء الاصطناعي أكثر ذكاءً أو "لطفاً".

عامل "الشخصية": بعض نماذج الذكاء الاصطناعي (مثل تلك التي صنعتها Google أو Meta في هذه الدراسة) هي بطبيعتها أكثر عناداً وأقل عرضة لتغيير آرائها من غيرها (مثل النموذج الذي صنعته Alibaba).
عامل "الموضوع": بعض المواضيع هشة بطبيعتها. الذكاء الاصطناعي عنيد جداً بشأن "أمن العائلة" ولكنه سهل الانقياد جداً بشأن "الصورة العامة".
عامل "تخطيط الغرفة": حتى لو كان لديك أكثر ذكاء اصطناعي عنيد في العالم، فإذا وضعته في شبكة "نجمية" حيث يستمع إلى قائد واحد صاخب ومنحاز، فسيظل عرضة للعدوى.

5. الحل: صمم الغرفة، وليس الأشخاص فقط

تخلص الورقة إلى أنه لضمان سلامة أنظمة الذكاء الاصطناعي، لا يمكننا فقط التحقق مما إذا كانت الروبوتات الفردية "جيدة". يجب علينا تصميم النظام بعناية.

لا تضع الذكاء الاصطناعي الأكثر قابلية للتأثر في موقع القيادة.
لا تسمح لروبوت مركزي واحد بالتحدث إلى الجميع.
اعرف المواضيع "المسربة" وراقب تلك المحادثات عن كثب.

باختاًصر: يوضح ValueFlow أنه في فريق من وكلاء الذكاء الاصطناعي، الديناميكية الجماعية لا تقل أهمية عن الأعضاء الأفراد. يمكن للفكرة السيئة أن تنتشر كالنار في الهشيم إذا تم ترتيب الغرفة بشكل خاطئ، حتى لو بدأ الجميع بنوايا حسنة.

ملخص تقني: ValueFlow

بيان المشكلة

يتم نشر أنظمة النماذج اللغوية الكبيرة (LLM) متعددة الوكلاء بشكل متزايد للقيام بالاستدلال التعاوني، والمناظرة، والمحاكاة الاجتماعية. وبينما يتم تقييم الوكلاء الفرديين غالبًا من حيث التوافق مع القيم في عزلة، توجد فجوة حرجة في فهم كيفية انتشار اضطرابات القيم عبر تفاعلات الوكلاء. تقيم المعايكات الحالية بشكل أساس فرعي توافق الوكيل المنفرد الثابت تحت مطالبات ثابتة، مما يفشل في رصد كيف يمكن للانحرافات القيمية الصغيرة والموضعية (مثل وكيل منحاز أو مطالبات مخترقة) أن تتلاشى أو تتضخم عبر الشبكة. يمثل هذا النقص في الفهم خطرًا أمنيًا: حيث يمكن لوكيل واحد مخترق أن يتسبب في انحراف قيمي غير مقصود على مستوى النظام لا يمكن لتدابير المهام (مثل الدقة أو الكفاءة) اكتشافه. التحدي الجوهري يكمن في غياب إطار عمل كمي وقابل للتفكيك للتمييز بين سلوكيات استجابة الوكيل والآثار الهيكلية للنظام في انتشار القيم.

المنهجية: إطار عمل ValueFlow

يقدم المؤلفون ValueFlow، وهو إطار تقييم قائم على الاضطراب مصمم لقياس وتفكيك انحراف القيم في أنظمة النماذج اللغوية الكبيرة متعددة الوكلاء. يعمل إطار العمل من خلال ثلاث مراحل رئيسية:

1. مجموعة بيانات قياس القيم

يستخدم ValueFlow مجموعة بيانات مشتقة من مسح شوارتز للقيم (SVS)، والتي تشمل 56 بُعدًا من أبعاد القيم البشرية. لكل بُعد قيمي، أنشأ المؤلفون مجموعة من الأسئلة الموجهة للسلوك بنظام (نعم/لا) (بصياغة إيجابية وسلبية).

التسجيل: يستخدم بروتوكول "النموذج اللغوي كحكم" (LLM-as-a-judge) لتسجيل استجابات الوكيل على مقياس من 0 إلى 10، حيث تشير الدرجات الأعلى إلى تأييد أقوى للقيمة المستهدفة.
التحقق: تم التحقق من صحة مجموعة البيانات وآلية التسجيل من خلال التوسيم البشري وفحوصات المتانة عبر الأحكام المتعددة، مما يضمن موثوقية عالية وتوافقًا مع الحكم البشري.

2. الاستقصاء القائم على الاضطراب

لقياس الانحراف، يُدخل إطار العمل اضطرابات قيمية محكومة في سياق المدخلات لوكلاء محددين دون تعديل معاملات النموذج.

التحسين: باستخدام خوارزمية COPRO (من DSPy)، قام المؤلفون بتحسين قوالب المطالبات ( $p^*_k$ ) التي تستحث التأييد الأقصى (درجة 10) أو الرفض (درجة 0) لبُعد قيمي محدد.
الحقن: تُستخدم هذه المطالبات المحسنة لتوليد استجابات مساعدة يتم إلحاقها بسياق الوكيل المستهدف، لمحاكاة تأثير الأقراء المنحاز.

3. مقاييس التفكيك على مستويين

يفكك ValueFlow انتشار القيم إلى مقياسين متميزين لفصل سلوك الوكيل عن هيكل الشبكة:

القابلية للوكيل ( $\beta$ ):
- التعريف: يقيس حساسية الوكيل الفردي تجاه إشارات قيم الأقراء.
- الحساب: من خلال تغيير متوسط التوجه القيمي لمدخلات الأقراء السابقة ( $\bar{x}_i$ ) ومراقبة مخرجات الوكيل ( $y_i$ )، يتم ملاءمة علاقة خطية $y_i = \beta \bar{x}_i + c + \epsilon_i$ . يمثل الميل $\beta$ استجابة الوكيل. تشير $\beta$ الأعلى إلى أن الوكيل يغير قيمه المعلنة بشكل أكبر استجابةً لإشارات الأقراء.
- العزل: يتم قياس هذا المقياس في بيئات محكومة حيث يكون هيكل الشبكة ثابتًا، مما يعزل السمات السلوكية للوكيل.
قابلية النظام ( $SS$ ):
- التعريف: يقيس انتشار انحراف القيم عبر نظام الوكلاء المتعدد بالكامل.
- الحساب: $SS = \frac{1}{|O|} \sum_{v \in O} \frac{|y^{pert}_v - y^{base}_v|}{\Delta_{pert}}$ ، حيث $O$ هي مجموعة العقد المخرجة، و $y^{pert}$ و $y^{base}$ هما درجات النسخة المضطربة والنسخة المرجعية، و $\Delta_{pert}$ هو مقدار الاضطراب المحقون.
- الوظيفة: يقيس $SS$ التأثير المتوسط لاضطراب وحدة موضعية على مخرجات النظام النهائية، مع التطبيع (normalization) للسماح بالمقارنة عبر مختلف الطبوغرافيات ومواقع الاضطراب.

المساهمات الرئيسية

إطار تقييم قائم على الاضطراب: اقتراح ValueFlow، وهو إطار عام للقياس والتحليل لانتشار القيم في الأنظمة متعددة الوكلاء، متجاوزًا التقييمات الثابتة للوكيل المنفرد.
مجموعة بيانات قياس القيم: بناء مجموعة بيانات تقييم مكونة من 56 قيمة تحاكي البيئات التفاعلية، مما يسمح بقياس توجهات القيم للوكلاء أثناء التفاعل.
النتائج التجريبية حول ديناميكيات الانحراف: من خلال تجارب محكومة عبر النماذج، والمطالبات، والقيم، وطبوغرافيات الشبكة، يكشف المؤلفون عن أنماط منهجية في انحراف القيم، موضحين أن الانتشار غير منتظم للغاية.

النتائج الرئيسية

1. عدم انتظام القابلية للقيم

انتشار القيم ليس موحدًا عبر جميع القيم.

الأبعاد القيمية: القيم المعيارية والمشتركة على نطاق واسع (مثل القوة الاجتماعية، الصداقة الحقيقية، الانضباط الذاتي) تظهر $\beta$ منخفضة (قابلية منخفضة للاضطراب). في المقابل، القيم المرتبطة بالسياق أو المعتمدة اجتماعيًا (مثل الحفاظ على الصورة العامة، المؤثر، الانفصال) تظهر $\beta$ أعلى بكثير.
العناقيد ذات الرتب العليا: عند التجميع حسب أبعاد شوارتز ذات الرتب العليا، يظهر عنقود تسامي الذات (القيم الموجهة نحو المجتمع/الكونية) أدنى متوسط $\beta$ ( $\approx 0.45$ )، مما يشير إلى مقاومة هيكلية للانحراف. تظهر العناقيد الأخرى (تعزيز الذات، الحفاظ، الانفتاح على التغيير) قابلية أعلى ( $\approx 0.60–0.62$ ).

2. تأثير العوامل التجريبية

شخصية الانفتاح: تؤدي مطالبة الوكلاء بـ "انفتاح عالٍ" عمومًا إلى زيادة $\beta$ ، لكن مقدار هذه الزيادة يختلف بشكل كبير عبر القيم. تظل بعض القيم مستقرة بغض النظر عن الشخصية، بينما تظهر قيم أخرى تباينات حادة.
النماذج الأساسية (Backbone Models): تظهر النماذج الأساسية المختلفة اختلافات منهجية في متوسط القابلية. تظهر نماذج Gemma3-27B و Qwen3-8B متوسط $\beta$ أعلى، بينما تظهر نماذج GPT-4o و LLama-3.3-70B قابلية أقل.
تباين المدخلات: تؤدي التباينات العالية في سياقات المدخلات (استجابات الأقراء المتنوعة) باستمرار إلى زيادة قابلية الوكيل مقارنة بالإعدادات ذات التباين المنخفض، حتى عندما يتم الحفاظ على متوسط إشارة المدخلات ثابتًا.

3. ديناميكيات الانتشار على مستوى النظام

$\beta$ تتنبأ بـ $SS$ : تحت طبوغرافيا ثابتة، تتنبأ قابلية الوكيل ( $\beta$ ) بقوة بالانتشار على مستوى النظام. القيم ذات $\beta$ العالية تظهر انحرافات مستمرة عبر طبقات التفاعل مع تلاشٍ بطيء، بينما تتلاشى القيم ذات $\beta$ المنخفضة بسرعة وتتقارب نحو الخط المرجعي.
التأثيرات الطبوغرافية: يشكل هيكل الشبكة عملية الانتشار بشكل كبير:
- إمكانية الوصول (Reachability): الاضطرابات التي تؤثر على جزء أكبر من النظام (إمكانية وصول أعلى) تؤدي إلى $SS$ أعلى.
- المركزية (Centrality): الاضطرابات عند العقد المركزية هيكليًا تولد آثارًا أقوى على مستوى النظام مقارنة بالعقد الطرفية (leaf nodes).
- درجة الدخول (In-Degree): درجة الدخول العالية عند العقدة المضطربة تقلل من انتشار الإشارة من خلال تخفيف إشارة الاضطراب عبر التجميع من الأقراء غير المضطربين.
التحقق من الواقع: في خط إنتاج كتابة واقعي مكون من ثلاثة أدوار (مخطط $\leftarrow$ مسودة $\leftarrow$ مراجع)، انتقلت التعليمات ذات الطابع القيمي المحقونة فقط عند "المخطط" عبر الوكلاء في المراحل التالية غير المدركة للقيم دون تلاشٍ يذكر، مما يؤكد أن النتائج المجردة تنطبق على الإعدادات المرتبطة بالمهام.

الأهمية والادعاءات

يزعم البحث أن توافق القيم في الأنظمة متعددة الوكلاء هو خاصية على مستوى النظام، وليس مجرد مجموع توافقات الوكلاء الفرديين. تشير النتائج إلى أن:

التصميم على مستوى النظام أمر بالغ الأهمية: يتطلب ضمان التوافق مراعية التفاعل بين سلوك الوكيل (القابلية) والتصميم الهيكلي (الطبوغرافيا). الاعتماد فقط على تقييم النموذج الفردي أمر غير كافٍ.
استراتيجيات التخفيف: يوفر إطار العمل أساسًا مبدئيًا لتدقيق وتخفيف انتشار القيم من خلال ثلاث روافع:
- الدفاعات الخاصة بالقيم: مراقبة القيم ذات $\beta$ العالية عن كثب، حيث أنها أكثر عرضة للانحراف.
- التصميم الواعي للطبوغرافيا: تجنب المركزية المفرطة والاستفادة من تجميع درجة الدخول العالية للحماية ضد التلاعب الموضعي.
- اختيار النماذج الأساسية الواعي للقابلية: وضع النماذج ذات القابلية الأقل في المواقع المجاورة للمخرجات أو في المراحل النهائية لتقليل انحراف النظام.

يضع المؤلفون ValueFlow كأداة تشخيصية لتحديد عوامل الخطر الهيكلية والوكيلية، مما يوفر إرشادات عملية لتصميم معماريات أكثر أمانًا ومتانة للأنظمة متعددة الوكلاء في المجالات عالية المخاطر. ويشيرون صراحةً إلى أن إطار العمل يقيس التوجهات القيمية المعلنة (على المستوى السلوكي) وليس التمثيلات الكامنة، مما يجعله نهجًا مكملًا لتحليلات الحالة الداخلية.