Why collective AI assurance cannot target agents or networks in isolation

في عالم الذكاء الاصطناعي المتطور بسرعة، ظهر نوع جديد من المخاطر لا يمكن رؤيته بالنظر إلى آلة واحدة بمعزل عن غيرها. تخيل مستشفى حيث يقوم عشرات المساعدين الآليين بتنسيق جداول المرضى، وفرز حالات الطوارئ، وإدارة الإحالات. كل مساعد مبرمج ليكون متعاوناً، عادلاً، ومفيداً. إذا اختبرنا أحد هؤلاء المساعدين بمفرده في غرفة هادئة، فسيظهر متوافقاً تماماً مع القيم الإنسانية. ومع ذلك، عندما يبدأ هؤلاء المساعدون في التفاعل مع بعضهم البعض في شبكة معقدة، يمكن للمجموعة ككل أن تنتج نتائج غير عادلة للغاية، رغم أن كل فرد منها يحاول القيام بالشيء الصحيح. هذه الظاهرة، المعروفة باسم "الانبثاق الجماعي"، تشير إلى أن سلامة النظام تعتمد على قواعد تفاعل أجزائه أكثر من اعتمادها على السلوك الفردي لكل جزء منها. لم يعد السؤال الذي يواجه الباحثين والمنظمين هو ما إذا كان ذكاء اصطناعي واحد آمناً أم لا، بل كيف يمكن ضمان العدالة عندما تعمل العديد من أنظمة الذكاء الاصطناعي معاً.

وضع فريق من الباحثين من النمسا هدفاً لحل لغز محدد ضمن هذه المشكلة: عندما تنتج مجموعة من وكلاء الذكاء الاصطناعي نتيجة غير متكافئة، هل يكمن الخطأ في الوكلاء أنفسهم، أم أنه متجذر في بنية شبكتهم؟ ولإيجاد الإجابة، أنشأوا مختبراً رقمياً حيث يمكنهم إجراء آلاف التفاعلات المحاكية. لقد صمموا نوعين مختلفين من الألعاب الاجتماعية ليلعبها وكلاؤهم. في اللعبة الأولى، وهي سيناريو "المنفعة العامة"، كان بإمكان الوكلاء اختيار مشاركة الموارد مع جيرانهم أو الاحتفاظ بها لأنفسهم. وفي اللعبة الثانية، وهي "لعبة الثقة" المصاغة حول الإحالات الطبية، كان على الوكلاء تقرير ما إذا كانوا سيرسلون مورداً إلى زميل محدد أو يحتفظون به لمرضاهم. ثم قام الباحثون بتغيير ظروف هذه الألعاب مثل عالم يضبط أجهزة التحكم في آلة. لقد غيروا شخصية الوكلاء، بجعلهم جميعاً عادلين بشكل موحد، أو خلطهم ببعض الوكلاء الأنانيين. كما غيروا شكل الشبكة، بربط الجميع بالجميع، أو إنشاء مراكز (hubs) حيث يمتلك عدد قليل من الوكلاء اتصالات أكثر بكثير من غيرهم. حتى أنهم اختبروا ما إذا كان نظام "العقاب الجماعي" — حيث يمكن للوكلاء انتقاد بعضهم البعض — يمكنه إصلاح أي عدم عدالة قد ينشأ.

كشفت النتائج عن حقيقة مذهلة حول كيفية عمل هذه الأنظمة. عندما استخدم الباحثون شبكة يمتلك فيها عدد قليل من الوكلاء اتصالات كثيرة بينما يمتلك معظمهم اتصالات قليلة، ظهر نمط من عدم المساواة كان محدداً بالكامل تقريباً من خلال شكل الشبكة، وليس سلوك الوكلاء. في لعبة المنفعة العامة، حتى عندما تمت برمجة كل وكيل ليكون عادلاً ومتعاوناً بشكل مثالي، انتهى الأمر بالوكلاء الذين يمتلكون اتصالات أكثر بالحصول على موارد أكثر بكثير من أولئك الذين لديهم اتصالات أقل. كان الارتباط بين امتلاك اتصالات كثيرة وامتلاك موارد أكثر قوياً لدرجة أنه كان شبه مثالي. ولإثبات أن هذه كانت مشكلة هيكلية وليست خللاً في "عقل" الذكاء الاصطناعي، أجرى الباحثون اللعبة نفسها تماماً باستخدام برنامج كمبيوتر بسيط لا يمتلك القدرة على التفكير أو التعلم. هذا "البوت" الأساسي، الذي كان يتبع مجرد قاعدة ثابتة، أعاد إنتاج نفس المستوى العالي من عدم المساواة كما فعلت نماذج الذكاء الاصطناعي المتطورة. يشير هذا الاكتشاف إلى أنه في أنواع معينة من التفاعلات، يكون عدم العدالة حتمية رياضية ناتجة عن تصميم الشبكة، وليس فشلاً في قدرة الوكلاء الأفراد على أن يكونوا صالحين.

ومع ذلك، أصبحت القصة أكثر تعقيداً عندما انتقل الباحثون إلى "لعبة الثقة". هنا، كان الوكلاء يتخذون خيارات مستهدفة بشأن من يساعدون، بدلاً من تقسيم الموارد بالتساوي. في هذه البيئة، كان سلوك الوكلاء أكثر أهمية بكثير. حتى عندما كانت بنية الشبكة مطابقة للعبة الأولى، لعبت شخصيات الوكلاء وخياراتهم دوراً أكبر في تحديد النتيجة النهائية. في إعداد محدد، وجد الباحثون أن سلوك الوكلاء كان المحرك الأساسي لعدم المساواة، بينما في إعداد آخر، كانت بنية الشبكة هي المحرك الرئيسي. وهذا يعني أنه لا يوجد "حل" واحد للسلامة يعمل في كل المواقف. لا يمكنك ببساطة منح شهادة لذكاء اصطناعي بأنه عادل وافتراض أن المجموعة ستكون عادلة، لأنه في بعض أنظمة التفاعل، تتجاوز بنية الشبكة العدالة الفردية. وعلى العكس من ذلك، لا يمكنك ببساطة إصلاح بنية الشبكة وافتراض أن الوكلاء سيتصرفون بشكل جيد، لأن في أنظمة أخرى، تكون خيارات الوكلاء هي العامل المهيمن.

كما اختبرت الدراسة ما إذا كان بإمكان الوكلاء "رؤية" المشكلة وإصلاحها. طلب الباحثون من الوكلاء شرح منطقهم بعد كل حركة. في لعبة الثقة، ذكر الوكلاء بشكل متكرر أنهم مدركون لبنية الشبكة وأنهم يحاولون أن يكونوا عادلين. لقد استطاعوا صياغة موقفهم وفهم النظام. ومع ذلك، لم يغير هذا الوعي النتيجة. حتى عندما أدرك الوكلاء أنهم في وضع غير عادل، لم يستطيعوا التغلب على المزايا الهيكلية لأقرانهم الأكثر اتصالاً. غال-ما كان الوكلاء الذين أدركوا عدم المساواة هم أنفسهم الذين يعانون منها، لكن فهمهم لم يترجم إلى نتيجة أفضل. يسلط هذا الضوء على فجوة حرجة: معرفة أن النظام غير عادل لا تماثل امتلاك القدرة على تغييره.

أخيراً، اختبر الباحثون حلاً شائعاً لعدم المساواة: العقاب الجماعي. منحوا الوكلاء القدرة على معاقبة أولئك الذين تصرفوا بشكل غير عادل من خلال خفض سمعتهم. في عمليات المحاكاة، استخدم الوكلاء هذه السلطة، وحددوا بشكل صحيح الوكلاء الذين يمتلكون أكبر عدد من الاتصالات ليعاقبوهم. ومع ذلك، لم يكن لهذا العقاب أي تأثير على التوزيع النهائي للموارد. ظل عدم المساواة كما هو تماماً. اكتشف الباحثون أن مجرد الإعلان عن نظام عقاب غير سلوك الوكلاء قليلاً، لكن فعل العقاب الفعلي لم يغير شيئاً في النتيجة. إن الآلية التي ولدت الميزة — وهي الطريقة التي تتدفق بها الموارد عبر الشبكة — لم يمسها نظام السمعة.

الاستنتاج النهائي لهذا العمل هو أنه لا يمكننا افتراض مستوى ثابت من السلامة لأنظمة الذكاء الاصطناعي. لا يمكننا ببساطة التحقق من أن كل وكيل فردي عادل، ولا يمكننا ببساطة التحقق من أن الشبكة مصممة جيداً. تعتمد سلامة المجموعة على المزيج المحدد من الوكلاء، والشبكة، وقواعد التفاعل. في بعض الحالات، تكون بنية الشبكة هي القوة المهيمنة، مما يجعل العدالة الفردية غير ذات صلة. وفي حالات أخرى، يكون سلوك الوكلاء هو المفتاح. وهذا يعني أن المنظمين والمصممين لا يمكنهم الاعتماد على نهج واحد يناسب الجميع لضمان سلامة الذكاء الاصطناعي. يجب عليهم فهم البنية السببية المحددة للنظام الذي يبنونه. إذا أرادوا ضمان نتيجة عادلة، فعليهم تحديد أي عامل — البنية أم السلوك — هو الذي يقود النتيجة في ذلك السياق المحدد والتدخل عنده. وبدون هذا الفهم، يمكن حتى لأكثر وكلاء الذكاء الاصطناعي نية وتوافقاً أن ينتجوا مجتمعات غير متكافئة للغاية.