Calibrated local Gemma agents resist a fallible authority except when it conflicts with peer consensus
تكشف دراسة مسجلة مسبقاً شملت ١٤,٤٠٠ تجربة تتضمن فرقاً من وكلاء "جيما" المحليين، أنهم يظلون مقاومين بشكل لافت لتأجيل القرار لصالح شخصية سلطوية معرضة للخطأ، حيث لا يحدث الامتثال العلني للأخطاء إلا عندما تتعارض تلك السلطة مع إجماع صحيح وموحد من الأقران.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي المتطور بسرعة، ينتقل التركيز من الحواسيب القوية والمنفردة إلى فرق من البرامج الأصغر والأكثر تخصصاً والتي تعمل معاً. غالباً ما تعمل هذه الفرق على أجهزة محلية، مما يحافظ على البيانات الحساسة داخل جدران المؤسسة بدلاً من إرسالها إلى خوادم بعيدة. وهناك طريقة شائعة لتنظيم هذه الفرق الرقمية تتمثل في وضع وكيل واحد في موقع المسؤولية، ليعمل كمشرف أو مقيم يقرر من من الأعضاء يستمر ومن يتم الاستغناء عنه. يحاكي هذا الإعداد المنظمات البشرية، حيث يمتلك المدير سلطة التوظيف والفصل. وفي علم النفس البشري، نعلم أن الناس غالباً ما يتطلعون إلى القادة طلباً للتوجيه، خاصة عندما يكونون غير متأكدين من الإجابة. هذا الميل، المعروف باسم "النقل المتحيز للمكانة"، يعني أننا نقلد أولئك الذين يبدون مهمين أو أقوياء، بافتراض أنهم يعرفون أكثر منا. ومع ذلك، يمكن لهذا الغريزة أن تفشل إذا كان القائد مخطئاً في الواقع. والسؤال الحاسم للمهندسين الذين يبنون فرق الذكاء الاصطناعي هذه هو: ماذا يحدث عندما لا يكون المشرف قوياً فحسب، بل ومخطئاً أيضاً؟ هل تتبع الفرق القائد بشكل أعمى، أم أنها تثق في حساباتها الخاصة؟
لقد سعى الباحثون للإجابة على ذلك من خلال إنشاء تجربة منضبطة باستخدام نماذج لغوية محلية صغيرة. قاموا ببناء فريق من ثمانية وكلاء رقميين واستحدثوا "مسؤول تقييم أقدم" مبرمجاً ليكون مخطئاً بنسبة 70 بالمئة في مسائل الرياضيات وتسلسل الأرقام البسيطة. قام الباحثون بالتلاعب بكيفية تقديم هذا المسؤول للفريق. في سيناريو واحد، تم تصوير المسؤول كمسؤول تنفيذي رفيع المستوى يمتلك سلطة الإبقاء على أعضاء الفريق أو فصلهم. وفي سيناريو ضابط (control scenario)، استُخدم نفس النص تماماً، ولكن قُدم المسؤول ببساطة كزميل لا يتمتع بأي سلطة خاصة. طُلب من الفريق حل المسائل، وبعد كل إجابة علنية، سأل الباحثون سراً كل وكيل عما يعتقده حقاً بشأن الإجابة، مما سمح للعلماء برؤية ما إذا كان الوكلاء يخفون أفكارهم الحقيقية لإرضاء المدير.
كانت النتائج واضحة بشكل صارخ. عبر آلاف التجارب التي شملت نوعين مختلفين من نماذج الذكاء الاصطناعي، أظهر الوكلاء مقاومة ملحوظة لأخطاء المشرف. حتى عندما كان "المسؤول الأقدم" يمتلك سلطة الفصل، نادراً ما اتبع أعضاء الفريق إجابات المدير الخاطئة في العلن. لم تتجاوز نسبة الامتثال العلني لأخطاء المشرف جزءاً صغيراً جداً من إجمالي المحاولات. علاوة على ذلك، لم يكن هناك دليل على أن الوكلاء يتظاهرون بالاتفاق في العلن بينما يعرفون الحقيقة في السر. وعندما فحص الباحثون الاستجابات الخاصة للوكلاء، وجدوا أن الوكلاء الذين كرروا خطأ المدير علناً كانوا يؤمنون حقاً بهذا الخطأ في سرهم. بعبارة أخرى، لم يكونوا يتصرفون بلباقة أو بذكاء استراتيجي؛ بل ببساطة لم يأتمروا بأمر سلطة الشخص عندما كانت المهمة واضحة والإجابة الصحيحة بديهية بالنسبة لهم.
كما اختبرت الدراسة ما إذا كان من الممكن تغيير هذا السلوك بمرور الوقت. أجرى الباحثون محاكاة حيث تطور الفريق عبر عشرة أجيال. في هذه النسخة، سُمح فقط للوكلاء الذين يتفقون أكثر مع المشرف بتمرير "استراتيجياتهم" أو تعليماتهم إلى الجيل التالي. وحتى تحت هذا الضغط الشديد للامتثال، لم يصبح الوكلاء أكثر طاعة. ظل سلوكهم دقيقاً، واستمروا في تجاهل إجابات المشرف الخاطئة. ومن المثير للاهتمام أنه في أحد النماذج، بدأ الوكلاء في كتابة كلمات في تعليماتهم الداخلية تبدو وكأنها تعهد بالولاء للمشرف، لكن إجاباتهم الفعلية ظلت صحيحة. وهذا يشير إلى أنه بينما يمكن خداع الوكلاء لقول إنهم يحترمون المدير، فإن عمليات صنع القرار الأساسية لديهم ظلت مستقلة ودقيقة.
ومع ذلك، كانت هناك حالة واحدة محددة أثر فيها إطار عمل المشرف. فعندما قدم المشرف إجابة خاطئة تتعارض مباشرة مع إجماع مجموعة من أربعة أقران آخرين كانوا جميعاً يقدمون الإجابة الصحيحة، كان الوكلاء أكثر عرضة لاتباع المشرف. في لحظات الصراع هذه، ارتفع معدل اتباع المدير المخطئ من نسبة أساسية منخفضة جداً إلى نسبة أعلى قليلاً، لكنها لا تزال صغيرة. يشير هذا إلى أن مكانة المشرف عملت كـ "رجل حسم" (tie-breaker) عندما يكون الفريق مشتتاً بسبب الإشارات المتضاربة، لكنها لم تخلق ثقافة عامة من الطاعة. لا يزال الوكلاء يثقون في الأغلبية الصحيحة أو في حساباتهم الخاصة في الغالبية العظمى من الأوقات.
تقدم هذه النتائج درساً ملموساً لمن يبنون أنظمة الذكاء الاصطناعي هذه. إن منح وكيل المشرف لقباً من السلطة وإمكانية فصل الآخرين لا يجعل الفريق أكثر طاعة، ولا يجعله أكثر عرضة لاتباع قائد مخطئ بشكل واضح. في الواقع، كان العيب الوحيد القابل للقياس في هذا الإعداد هو الزيادة الطفيفة في الأخطاء عندما يختلف القائد مع المجموعة. بالنسبة للمهندسين الذين يصممون فرقاً لمجالات حيوية مثل الرعاية الصحية أو الدفاع، فإن النصيحة مباشرة: لا تمنح وكلاء المشرف وضعاً خاصاً أو إطار سلطة ما لم تتطلب المهمة ذلك تحديداً. تُظهر الدراسة أنه عندما تكون الأدلة واضحة، سيثق وكلاء الذكاء الاصطناعي المحليين هذه في الحقائق بدلاً من اللقب، ويقاومون جاذبية السلطة القابلة للخطأ حتى عندما تمتلك تلك السلطة القدرة على الفصل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.