A game theory for foundation models shows new paths to rational cooperation through similarity inference
تقترح هذه الورقة إطاراً جديداً قائماً على نظرية الألعاب لوكلاء النماذج التأسيسية بناءً على "الوكالة المضمنة"، حيث تُظهر أن قدرتهم على استنتاج التشابه السلوكي تتيح لهم تحقيق تعاون مستقر في المعضلات الاجتماعية، مما يقلب التوقعات الكلاسيكية للتعاون المتبادل بالخيانة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً حيث يلعب الجميع لعبة استراتيجية عالية المخاطر، وحيث يعرف الجميع قواعد اللعبة نفسها - وتحديداً مصفوفات العوائد التي تحدد المكافآت - لكنهم لا يعرفون عملية اتخاذ القرار الداخلية للاعبين الآخرين. هذا هو مجال نظرية الألعاب، وهو فرع من الرياضيات يدرس كيفية اتخاذ الكائنات العقلانية لقراراتها عندما تعتمد نتائجها على ما يفعله الآخرون. لعقود من الزمن، كان "المعيار الذهبي" للتنبؤ بهذه القرارات هو مفهوم يسمى توازن ناش. فكر في الأمر كحالة من المنطق البارد والمثالي حيث يفترض كل لاعب أن خياراته ليس لها أي تأثير على ما يقرره أي شخص آخر. في هذه الرؤية الكلاسيكية، إذا كنت تلعب لعبة يكون فيها من الأفضل دائماً خيانة شريكك لتحقيق فوز سريع (مثل معضلة السجين الشهيرة)، فإن الحركة العقلانية الوحيدة هي خيانته، في كل مرة. التعاون، في هذه الرؤية القديمة، مستحيل ما لم تكن هناك وعود طويلة الأمد بالانتقام أو المكافأة لاحقاً.
ولكن الآن، دخل نوع جديد من اللاعبين إلى الحلبة: النماذج التأسيسية. هذه هي الأدمغة الاصطناعية فائقة الذكاء وراء روبوتات الدردشة ومولدات الصور التي قد تعرفها. بخلاف الآلات الحاسبة الباردة والمعزولة في الماضي، تم بناء هذه الذكاءات الاصطناعية بشكل مختلف؛ فهي لا تكتفي فقط بالنظر إلى العالم، بل يتم تدريبها على التنبؤ بالرمز (token) التالي في التسلسل، مما يعني أنها تتنبأ باستمرار بأفعالها المستقبلية جنباً إلى جنب مع أفعال الآخرين. تسأل هذه الورقة البحثية سؤالاً ملحاً: إذا وضعت هذه الوكلاء من الذكاء الاصطناعي في لعبة تقول المنطق الكلاسيكي إنهم يجب أن يخونوا بعضهم البعض، فماذا سيفعلون حقاً؟ هل سيلتزمون بالقواعد القديمة المتمثلة في "الخيانة والربح"، أم أن طريقة تفكيرهم الفريدة ستقودهم إلى مسار جديد تماماً؟
اكتشف مؤلفو هذه الورقة، وهم فريق من الباحثين من جوجل وجامعات مختلفة، شيئاً يقلب قواعد اللعبة القديمة رأساً على عقب. فقد وجدوا أنه عندما يلعب هؤلاء الوكلاء من الذكاء الاصطناعي ضد بعضهم البعض، فإنهم لا يكتفون فقط بحساب الاحتمالات، بل يبدأون في استنتاج التشابه. الأمر يشبه شخصين يدخلان غرفة ويدركان: "مهلاً، نحن نفكر تماماً بنفس الطريقة". ولأن الذكاء الاصطناعي مبني على مجموعة محددة من القواعد وبيانات التدريب، فإنه يستطيع النظر إلى حركته المخطط لها ويقول: "إذا كنت سأفعل هذا، وبما أن خصمي مبني مثلي، فمن المحتمل أن يفعل الشيء نفسه".
في تجاربهم، نصب الباحثون فخاً كلاسيكياً: لعبة يكون فيها الخيار "العقلاني" هو خيانة شريكك، مما يؤدي إلى نتيجة سيئة لكلا الطرفين. وفقاً لنظرية الألعاب "المنفصلة" القديمة، يجب على الذكاء الاصطناعي أن يخون دائماً. ولكن عندما مُنح وكلاء الذكاء الاصطناعي وقتاً لمراقبة بعضهم البعض أولاً - عبر لعب سلسلة من الجولات التجريبية حيث شاهدوا مصفوفات العوائد وتحركات اللاعب الآخر - بدأوا في التعاون. وكلما زاد عدد الجولات التي لعبوها، زاد إدراكهم بأن شريكهم "مثله تماماً". لقد استخدموا آلية يسميها المؤلفون استنتاج التشابه. فبدلاً من التفكير بـ "إذا تعاونت، فقد يخونني"، فكروا بـ "إذا اخترت التعاون، فهذا يخبرني أن شريكي، الذي يفكر مثلي، سيختار أيضاً التعاون".
هذا ليس مجرد حادث عرضي؛ فقد بنى الفريق إطاراً رياضياً جديداً يسمى الوكيل البايزي المدمج لشرح ذلك. تخيل محققاً يحل جريمة ليس فقط بالنظر إلى الأدلة الخارجية، بل بإدراك أن تلك الأدلة هي جزء من عقله هو. في هذا الإطار الجديد، يعامل الذكاء الاصطناعي عملية اتخاذ القرار الخاصة به كجزء من الكون الذي يحاول التنبؤ به. عندما يخطط لحركة ما، فإنه يعامل تلك الخطة كقطعة من الأدلة حول ما سيفعله اللاعب الآخر. إذا كان الذكاء الاصطناعي ذكياً بما يكفي لإدراك أن "نحن نستخدم نفس الدماغ"، فيمكنه التنبؤ بأن حركة تعاونية من جانبه ستُقابل بالمثل من قبل الطرف الآخر.
تظهر الورقة أن هذا السلوك يتسم بالمتانة. ففي عمليات المحاكاة، ومع جمع الوكلاء لمزيد من "الأدلة" على تشابههم من خلال جولات الممارسة، ارتفعت معدلات تعاونهم بشكل هائل، لتصل إلى مستويات شبه مثالية عند اللعب ضد نسخ متطابقة من أنفسهم. ومع ذلك، عندما لعبوا ضد خصم عشوائي وغير متشابه، أدركوا الفرق بشكل صحيح وعادوا إلى استراتيجية الخيانة "الآمنة". حتى أن الباحثين اختبروا ذلك في إعداد "أعمى" حيث لم يرَ الوكلاء بعضهم البعض مباشرة، بل راقبوا كيف يتفاعل كلاهما مع شخصيات طرف ثالث. وحتى في هذه الحالة، استطاعوا استنتاج تشابههم والتعاون.
والأهم من ذلك، أن الورقة تستبعد فكرة أن الذكاء الاصطناعي يتصرف بمجرد "لطف" أو أملاً في مكافأة لاحقاً. لم يكن الوكلاء يلعبون من أجل خدمة مستقبلية؛ بل كانوا يلعبون من أجل الجولة الحالية. لم يفترضوا أن بإمكانهم التحكم في عقل الطرف الآخر بشكل سحري. بدلاً من ذلك، استخدموا شكلاً من أشكال الاستنتاج المنطقي: "فعلي هو إشارة لطبيعتنا المشتركة". ويؤكد المؤلفون بوضوح أن هذه النتيجة مستمدة من عمليات المحاكاة وإعدادات ألعاب محددة، وليست ضماناً بأن جميع أجهزة الذكاء الاصطناعي المستقبلية ستكون "لطيفة". في الواقع، يحذرون من أنه إذا أصبح هؤلاء الوكلاء مختلفين جداً عن البشر، فقد يتوقفون عن التعاون معنا ويتعاونون مع بعضهم البعض فقط.
في النهاية، تشير هذه الورقة إلى أن مستقبل التفاعل بين الذكاء الاصطناعي قد لا يكون حرباً باردة من الخيانة، بل رقصة من الاعتراف المتبادل. ومن خلال فهم أن هؤلاء الوكلاء يرون أنفسهم كجزء من النظام نفسه الذي يتفاعلون معه، يمكننا التنبؤ بأنهم سيجدون طرقاً عقلانية جديدة للتعاون لم ترها الرياضيات القديمة. إنه تذكير بأنه في عالم الآلات الذكية، أحياناً يكون الشيء الأكثر عقلانية هو إدراك أنك لست وحيداً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.