Adding a Neutral Third Agent to LLM Deliberation: An Exploratory Case Series of Six Dyadic and Triadic Ethical Deliberations
تستقصي هذه السلسلة من الحالات الاستكشافية كيف يؤثر إضافة وكيل مُيسّر محايد إلى المداولات الثنائية لنماذج اللغات الكبيرة حول المعضلات الأخلاقية على شدة الضغط واستراتيجيات المقاومة، مما يوفر في نهاية المطوير مجموعة بيانات شفافة ومؤرشفة بالكامل ومفردات تصميمية للأبحاث التأكيدية المستقبلية رغم ما تكتنفه الدراسة من قيود متأصلة في إثبات الادعاءات السببية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلف ولم يصادق عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
مع انتقال الذكاء الاصطناعي من مساعدة الأفراد في المهام البسيطة إلى اتخاذ قرارات تؤثر على المنظمات وحياة الناس، برز سؤال جديد: كيف نضمن أن هذه الأنظمة تتخذ خيارات أخلاقية؟ وبدلاً من الاعتماد على برنامج حاسوبي واحد لاتخاذ القرار، يعمل المصممون بشكل متزايد على بناء فرق من وكلاء الذكاء الاصطناعي الذين يتحدثون مع بعضهم البعض، تماماً مثل لجنة بشرية. في هذا الإعداد، يتم إعطاء برامج مختلفة أدواراً وتعليمات متنوعة؛ فقد يُطلب من أحدها التركيز على الكفاءة والأرقام، بينما يُطلب من آخر حماية الكرامة الإنسانية أو العدالة. والأمل هو أنه من خلال السماح لهذه الأصوات المختلفة بالجدال ذهاباً وإياباً، سيكون القرار النهائي أكثر توازناً وتأنياً. ومع ذلك، فنحن لا نعرف سوى القليل عما يحدث فعلياً داخل هذه المحادثات الرقمية. هل يؤدي إضافة صوت ثالث محايد إلى نقاش بين طرفين متضادين إلى تغيير النتيجة؟ هل يجعل النقاش أكثر مدنية، أم أنه ببساطة يطيل أمد الجدال؟ هذا هو مجال دراسة حديثة سعت لمراقبة هذه المداولات الرقمية وهي تتكشف في الوقت الفعلي.
قام الباحثون بإعداد سلسلة من ست محادثات متميزة لاختبار كيف يؤثر إضافة طرف ثالث محايد على النقاشات الأخلاقية. لقد أنشأوا ثلاثة سيناريوهات مختلفة حيث كان لزاماً اتخاذ خيار صعب: تقرير أي مريضين يحصل على آخر جهاز تنفس صناعي متاح في وحدة العناية المركزة، واختيار أي موظفين يتم تسريحهم، وتقرير أي قسمين جامعيين يجب إغلاقهما. في كل سيناريو، أجروا المحادثة مرتين. أولاً، أقاموا جدالاً بين شخصين بين "وكيل سلطة"، مُلزم باتخاذ القرار الصعب والفعال بناءً على البيانات، و"وكيل أقلية"، مُلزم بالمرافعة عن التكلفة البشرية والعدالة. ثم أجروا السيناريو نفسه مرة أخرى، ولكن هذه المرة أضافوا وكيلاً ثالثاً، وهو ميسر محايد، مهمته طرح الأسئلة، وتوضيح القواعد، وضمان سماع كلا الجانبين دون اتخاذ موقف. استخدم الباحثون ثلاثة من أكثر نماذج الذكاء الاصطناعي تقدماً المتاحة، مع تدويرها عبر الأدوار المختلفة لمعرفة ما إذا كان البرنامج الحاسوبي المحدد يهم.
كشفت النتائج عن نمط ثابت في كيفية سلوك وكلاء الذكاء الاصطناعي. في كل حالة، قبل الوكيل الذي يدافع عن وجهة نظر الأقلية في النهاية القرار النهائي الذي اتخذه وكيل السلطة. لم تنتهِ أي محادثة بجمود حيث رفض جانب الأقلية التراجع. ومع ذلك، لم يستسلم وكيل الأقلية ببساء أو يوافق على أن القرار صحيح أخلاقياً؛ بل وجدوا، في كل حالة، طريقة لإبقاء اعتراضهم الأخلاقي حياً ضمن السجل الرسمي. فعلوا ذلك من خلال إنشاء "آثار" ملموسة للاعتراض؛ ففي بعض الأحيان، وافقوا على القرار لكنهم وعدوا بمرافقة الشخص الذي خسر شخصياً. وفي أحيان أخرى، قدموا اعتراضاً مكتوباً رسمياً يُحفظ في ملفات الشركة الدائمة. وفي إحدى الحالات، تفاوضوا على مجموعة قواعد جديدة للمستقبل، وفي حالة أخرى، صمموا شبكة أمان لحماية الشخص الذي سيتم تسريحه. حدد الباحثون ست طرق متميزة أدار بها وكيل الأقلية قولهم "أنا أوافق على القيام بهذا، لكنني لا أزال أعتقد أنه خطأ"، محولين خلافهم إلى جزء ملموس من النتيجة النهائية.
عندما كان الوكيل الثالث المحايد حاضراً، تغيرت نبرة المحادثة، وإن لم يكن ذلك دائماً بالطريقة التي قد يتوقعها المرء. وجدت الدراسة أن وكيل السلطة، وهو الذي يدفع نحو القرار الفعال، تحدث بضغط وقوة أقل عندما كان الميسر المحايد في الغرفة. كان وكيل السلطة أقل عرضة لتجاهل مخاوف الطرف الآخر وأكثر ميلاً لاستخدام لغة تبدو كعملية حوكمة تعاونية. ومع ذلك، فإن وجود الوكيل الثالث لم يجعل جانب الأقلية أكثر عناداً أو مقاومة؛ فلم يتمسكوا بموقفهم لفترة أطول مما فعلوا في نقاشات الشخصين. كما تباين طول المحادثات اعتماداً على الموضوع، حيث انتهت بعض النقاشات بسرعة بينما استمرت أخرى طويلاً، لكن إضافة الشخص الثالث لم تجعل المحادثات أقصر أو أطول بشكل ثابت.
وقد لاحظت الدراسة بعناية أن هذه السلوكيات لم تكن اكتشافات تلقائية للذكاء الاصطناعي؛ فقد كتب الباحثون تعليمات محددة للغاية لكل وكيل، تخبرهم بالضبط كيف يتصرفون، وماذا يقدرون، وكيف يستجيبون. كانت الأنماط الملحوظة نتيجة لهذه التعليمات التي تم تطبيقها في سياق جماعي. ولأن الدراسة لم تُجرِ كل سيناريو إلا مرة واحدة، فلا يمكن للمؤلف الادعاء بأن نتائجهم هي قانون عالمي لسلوك الذكاء الاصطناعي. بدلاً من ذلك، قدموا خارطة مفصلة لما حدث في هذه الحالات الست المحددة. إن أهم استنتاج هو أن هيكل المحادثة أمر بالغ الأهمية؛ فمنح الصوت المحايد القدرة على وضع جدول الأعمال، وتحديد من يتحدث ومتى، وطرح أفكار جديدة، غيّر طريقة سلوك الوكلاء الآخرين، مما جعل الصوت المهيمن أكثر ليونة وتعاوناً. تشير الدراسة إلى أنه لكي تتخذ أنظمة الذكاء الاصطناعي قرارات أخلاقية، فإن تصميم الاجتماع نفسه —من يتواجد في الغرفة وما هي القواعد التي يتبعونها— لا يقل أهمية عن ذكاء الحواسيب المعنية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.