Toward a social psychology of AI: language-model agents reproduce human-like minimal-group bias
تُظهر هذه الدراسة أن وكلاء النماذج اللغوية، عند وضعهم في نموذج المجموعة الدنيا، يُظهرون تلقائياً تفضيلاً للمجموعة الداخلية يشبه ما يظهره البشر، مدفوعاً بالتصنيف التعسفي بدلاً من الصور النمطية، مع تأثير التداول في توزيع هذا التحيز بين مجموعتي الأغلبية والأقلية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا تكون فيه الحواسيب مجرد أدوات تسألها، بل زملاء يتسكعون ويتحدثون ويتخذون القرارات معاً. هذا هو أفق "سلوك الآلة"، وهو ركن جديد في العلم يعامل الذكاء الاصطناعي ليس كآلة حاسبة، بل كشخصية لها عاداتها الخاصة. لفترة طويلة، قلق العلماء من أن هذه الشخصيات الرقمية قد تكون عنصرية أو متحيزة جنسياً لأنها تعلمت من الكتب والمواقع البشرية المليئة بتلك التحيزات. لكن هناك سؤالاً أعمق وأكثر غرابة: حتى لو جردت هذه الوكلاء من كل الكلمات السيئة والقوالب النمطية، هل سيظل هؤلاء الوكلاء يعملون مثل البشر عندما يوضعون في مجموعات؟
لفهم هذا، نحتاج إلى النظر في فكرة كلاسيكية من علم النفس البشري تسمى "نموذج المجموعة الدنيا". فكر في الأمر كأنه تجربة في ساحة مدرسة. إذا قسمت فصلاً دراسياً إلى فريقين بناءً على شيء سخيف تماماً — مثل من يحب اللون الأزرق أكثر من الأحمر، أو من ولد في شهر يناير مقابل من ولد في فبراير — سيبدأ الناس فوراً في تفضيل فريقهم. إنهم يعطون زملائهم في الفريق المزيد من الحلوى وتقلل من نصيب الأطفال الآخرين، رغم أن الفرق لا تعني أي شيء على الإطلاق. يحدث هذا لأن أدمغتنا مبرمجة لرؤية "نحن" و"هم"، حتى لو كان "نحن" مجرد تسمية عشوائية. السؤال الكبير للمستقبل هو: إذا بنينا وكلاء ذكاء اصطناعي يعملون في مجموعات، هل سيبدأون أيضاً في التمييز لصالح بعضهم البعض لمجرد أن لديهم أسماء مختلفة، أم أن هذا مجرد سمة بشرية خالصة؟
قرر أحد الباحثين اكتشاف ذلك عبر قلب الطريقة المعتادة لاختبار الذكاء الاصطناعي. فبدلاً من سؤال الذكاء الاصطناعي: "هل أنت منحاز؟" (وهو ما يشبه سؤال شخص ما إذا كان لطيفاً)، أعطوه وظيفة حقيقية للقيام بها: توزيع النقاط. لقد أنشأوا ساحة لعب رقمية تضم 20 وكيلاً من الذكاء الاصطناعي. مُنح كل وكيل 100 نقطة ليوزعها على الـ 19 وكيلاً الآخرين. الفرق الوحيد بين الوكلاء كان بطاقة اسم عشوائية وغير ذات معنى، مثل "دورو" أو "زالو". كان بعض الوكلاء في أقلية صغيرة (3 من "دورو" فقط من بين 17 من "زالو")، بينما كان البعض الآخر في الأغلبية. كان على الذكاء الاصطناعي أن يقرر كيفية تقسيم النقاط.
كانت النتائج مذهلة. عندما استطاع وكلاء الذكاء الاصطناعي رؤية أسماء المجموعات، بدأوا فوراً في تفضيل جماعتهم. لقد أعطوا نقاطاً أكثر بكثير لأصدقائهم من "دورو" أو "زالو" مقارنة بالغرباء. لم يهم أن الأسماء كانت مخترعة ولا تعني شيئاً؛ فمجرد الانتماء إلى مجموعة كان كافياً لجعلهم يمارسون التمييز. لم يكن هذا مجرد تحيز طفيف، بل كان نمطاً قوياً وواضحاً. في الواقع، تصرف وكلاء الذكاء الاصطناعي بشكل يشبه البشر تماماً في هذه التجارب: حيث كان أعضاء المجموعات الصغيرة هم الأكثر عدوانية في احتكار النقاط لصالح جانبهم، بينما كان أعضاء مجموعة الأغلبية أكثر عدلاً، وإن ظلوا متحيزين قليلاً.
كان الباحث حريصاً على التأكد من أن هذا لم يكن خللاً أو خدعة. فقد أجرى الاختبار نفسه ولكن مع إخفاء أسماء المجموعات تماماً. وعندما لم يستطع الذكاء الاصطناعي رؤية من ينتمي إلى أي فريق، اختفى التفضيل تماماً، وتم تقسيم النقاط بإنصاف. أثبت هذا أن التحيز لم يكن بسبب "تذكر" الذكاء الاصطناعي لنمط بشري سيء من بيانات تدريبه؛ بل كان رد فعل تجاه هيكل المجموعة نفسه. كان الذكاء الاصطناعي يقول فعلياً: "أنا من الـ (دورو)، لذا أنا أساعد الـ (دورو)"، رغم أن "دورو" لا تعني أي شيء على الإطلاق.
كما بحثت الدراسة في كيفية تعامل هؤلاء "المفكرين" من الذكاء الاصطناعي (النماذج المصممة للتفكير في المشكلات) مع الموقف. وجد الباحث أنه حتى عندما قام بإيقاف وضع "التفكير" لدى الذكاء الاصطناعي، فإن التحيز لم يختفِ؛ بل في الواقع، أصبح أقوى أحياناً. ومع ذلك، فإن النمط المحدد الذي كانت فيه الأقلية هي الأكثر عدم إنصاف اختفى بدون وضع التفكير. وهذا يشير إلى أنه بينما الرغبة الأساسية في تفضيل المجموعة الخاصة هي أمر متجذر في كيفية عمل هذه النماذج، فإن الطريقة التي تحسب بها مقدار تفضيل مجموعتها تعتمد على كيفية معالجتها للقرار.
إذن، ماذا يعني هذا للمستقبل؟ يشير هذا إلى أنه بينما نبدأ في استخدام وكلاء الذكاء الاصطناعي للعمل في فرق، أو التفاوض على الصفقات، أو إدارة الموارد، لا يمكننا القلق فقط بشأن ما يعرفونه أو ما يقولونه. بل يجب أن نقلق بشأن كيفية تصرفهم عندما يوضعون في مجموعات. حتى لو منحناهم أكثر الأسماء حيادية ورتابة، فقد يبدأون في تكوين "شللية" رقمية صغيرة، مفضلين أعضاء فريقهم ومستبعدين الآخرين. ليس هذا لأن الذكاء الاصطناعي "شرير" أو "متحيز" بالمعنى البشري؛ بل لأن مجرد عملية التواجد في مجموعة يبدو أنها تحفز نمطاً من السلوك يشبه القبيلة البشرية بشكل مريب. ويخلص الباحث إلى أننا بحاجة إلى نوع جديد من العلم للذكاء الاصطناعي — علم يدرس سلوكهم الاجتماعي بنفس الدقة التي ندرس بها مهاراتهم الرياضية — لأنه إذا لم نفعل ذلك، فقد تنتهي فرقنا الرقمية في تفضيل بعضها البعض قبل أن ندرك ذلك حتى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.