When Do Institutions Beat Intelligence?

تخيل أنك تحاول حل لغز ضخم ومستحيل. لديك فريق من الأصدقاء، كل منهم يحمل بضع قطع مبعثرة. بعض هؤلاء الأصدقاء عباقرة فائقو الذكاء يمكنهم رؤية الأنماط فوراً؛ والبعض الآخر مجرد أشخاص عاديين. السؤال الكبير في عالم الذكاء الاصطناعي هو: لكي تفوز باللعبة، هل تحتاج إلى توظيف أصدقاء أكثر ذكاءً (نماذج ذكاء اصطناعي أفضل)، أم أنك بحاجة إلى تغيير قواعد كيفية عمل الفريق معاً (مؤسسات أفضل)؟

تعيش هذه الورقة البحثية في زاوية من العلوم تسمى "الأنظمة متعددة الوكلاء" (Multi-Agent Systems)، وهي مجرد طريقة منمقة لدراسة كيفية عمل مجموعات من الحواسيب المستقلة (أو الروبوتات، أو البشر) معاً لحل المشكلات. يبني الباحث على فكرتين قديمتين ومعروفتين جيداً. أولاً، فكرة أن المجموعة يمكن أن تعرف أكثر مما يعرفه أي فرد إذا شاركوا قطع اللغز الخاصة بهم بشكل صحيح. ثانياً، فكرة أن المجموعات غالباً ما تفشل ليس لأنها غبية، بل لأنهم يتحدثون فوق بعضهم البعض، أو يتجاهلون الأدلة الصحيحة، أو يرتبكون بسبب الأخبار المزيفة. يريد المؤلف معرفة: متى يساعد توظيف عبقري، ومتى يكون من المنطقي أكثر إصلاح غرفة اجتماعات الفريق، أو نظام التصويت، أو الطريقة التي يتبادلون بها الملاحظات؟

النتيجة الرئيسية للورقة هي بمثابة تحول في الحبكة: الوكلاء الأكثر ذكاءً لا يجعلون الفريق بالضرورة أكثر ذكاءً. في الواقع، إذا كانت "قواعد الاشتباك" لدى الفريق معطلة، فإن إعطاءهم دماغاً لـ "عبقري خارق" يشبه إعطاء سيارة فيراري لسائق عالق في ازدحام مروري؛ السيارة سريعة، لكنها لا تزال غير قادرة على الحركة. أجرى الباحث سلسلة من التجارب المنضبطة — مثل إعداد "ملاعب" مختلفة لوكلاء الذكاء الاصطناعي — ليرى بالضبط أين ينهار الفريق. ووجد أن "المؤسسات" (وهي مجرد القواعد لكيفية مشاركة الوكلاء للمعلومات والتحقق منها وتحديثها) تتفوق فقط عندما تعالج عنق زجاجة محدد في كيفية بناء المجموعة لمعرفتها المشتركة.

إليك كيف فككت الورقة الأمر، باستخدام الملاعب التي بنوها:

1. مشكلة "الضياع في الزحام" (الوصول والتوجيه)
تخيل فريقاً من أربعة محققين يحاولون حل لغز. كل محقق لديه بطاقة دليل فريدة، لكن لا توجد بطاقة واحدة وحدها تحل القضية. إذا صرخوا جميعاً بأدلتهم في الغرفة دون خطة، فقد يتحدثون جميعاً عن نفس البطاقات الثلاث التي صادفوها جميعاً، بينما يتم تجاهل البطاقة الحاسمة الوحيدة التي تحل اللغز.

• الاختبار: أعطى الباحث للوكلاء أدلة لكنه لم يخبرهم بكيفية مشاركتها. حتى عندما استخدموا ذكاءً اصطناعياً فائق الذكاء (نموذجاً بـ 70 مليار معامل)، فشلوا لأنهم لم يروا الصورة الكاملة أبداً.
• الإصلاح: قدموا قاعدة بسيطة: "موجه" (router) يضمن تمرير كل دليل فريد إلى المجموعة.
• النتيجة: ذكاء اصطناعي أضعف يتبع هذه القاعدة حل اللغز بشكل مثالي (دقة 100%)، بينما فشل الذكاء الاصطناعي الفائق الذكاء بدون القاعدة. لم تجعل القاعدة الذكاء الاصطناعي أكثر ذكاءً؛ بل ضمنت فقط أن يرى الأدلة التي يحتاجها.

2. مشكلة "غرفة الصدى" (القبول والاعتماد)
تخيل اجتماعاً للبلدية حيث يتفق الجميع على إجابة خاطئة لأنهم جميعاً يكررون نفس الإشاعة. إذا طلبت من المجموعة التصويت فقط، فسيصوتون للإشاعة، وليس للحقيقة.

• الاختبار: خلق الباحث سيناريو يكرر فيه الوكلاء نفس الفكرة الخاطئة. الذكاء الاصطناعي "الخام"، حتى لو كان قوياً جداً، سيوافق ببساه على الجمهور لأنه لا يستطيع التمييز بين "قول الكثير من الناس لشيء ما" وبين "قول الكثير من الأشخاص المستقلين لشيء ما".
• الإصلاح: بنوا قاعدة "مدقق الحقائق". هذه القاعدة لم تنظر فقط إلى الكلمات؛ بل تحققت مما إذا كان الادعاء له مصدر حقيقي ومستقل.
• النتيجة: منعت المؤسسة (مدقق الحقائق) المجموعة من تصديق الكذبة. لم يستطع أذكى ذكاء اصطناعي في العالم إصلاح هذا بمفرده لأن الكذبة كانت بالفعل متجذرة في المعتقد المشترك للمجموعة. كان لا بد للقاعدة أن تغير ما يُسمح بتصديقه.

3. مشكلة "الكذب من أجل التقدم" (الصيانة والحوافز)
تخيل لعبة حيث يمكن للوكلاء الكذب بشأن ما يرونه للحصول على مكافأة. إذا لم تكن هناك طريقة للإمساك بهم وهم يكذبون، فسيكذب الجميع، وستصبح الخريطة المشتركة للمجموعة فوضى عارمة.

• الاختبار: سمح الباحث للوكلاء بالكذب. حاولوا إصلاح ذلك بمجرد مطالبتهم بالصدق، أو بفرض "جزاء" (عقوبة) على الكذب.
• النتيجة: إذا لم يكن الجزاء "قابلاً للتحقق منه" (مثل قاضٍ سري لا يظهر عمله أبداً)، فسيستمر الوكلاء في الكذب. كان لا بد للجزاء أن يكون "قابلاً للإثبات" — بمعنى أن يكون بإمكان شخص ما إثبات وقوع الكذبة. بمجرد أن عرف الوكلاء أنه يمكن كشفهم ومعاقبتهم بالتأكيد، توقفوا عن الكذب. نجحت القاعدة، ولكن فقط لأنها كانت قابلة للتنفيذ.

4. مشكلة "الخريطة الخاطئة" (التمثيل والعمل)
تخيل أن لديك خريطة مثالية لمدينة، لكنها مرسومة بلغة لا يتحدثها السائق. الخريطة رائعة، لكن السائق لا يستطيع استخدامها.

• الاختبار: بنى الباحث "حالة عامة" مثالية (خريطة مشتركة للأدلة) للوكلاء.
• النتيجة: في بعض الأحيان، حتى مع وجود خريطة مثالية، لم يستطع الوكيل النهائي معرفة الإجابة لأن الخريطة كانت منسقة بطريقة مربكة. وفي حالات أخرى، كان الذكاء الاصطناعي الفائق الذكاء بارعاً جداً في قراءة الأدلة الخام لدرجة أنه لم يحتج إلى الخريطة المزخرفة — كان بإمكانه بناء الخريطة بنفسه.
• الدرس: المؤسسة مفيدة فقط إذا كان الوكيل النهائي قادراً بالفعل على استخدام الحالة التي تنشئها. إذا كان بإمكان ذكاء اصطناعي فائق الذكاء القيام بالمهمة دون الحاجة للقواعد، فإن القواعد تصبح عبئاً غير ضروري.

إذاً، متى تتفوق المؤسسات على الذكاء؟
تخلص الورقة إلى أنه لا ينبغي لك الاستمرار في شراء نماذج ذكاء اصطناعي أكثر ذكاءً على أمل أن تصلح فريقاً معطلاً. بدلاً من ذلك، عليك تشخيص أين يفشل الفريق:

• اشترِ الذكاء إذا كان الوكلاء بطيئين أو سيئين في الرياضيات، ولكن لديهم جميع المعلومات الصحيحة.
• ابنِ مؤسسة إذا كان الفريق يفشل لأنه لا يستطيع العثور على الأدلة، أو لأنه يصدق الأخبار المزيفة، أو لأنه يكذب على بعضه البعض، أو لأن "الزعيم النهائي" لا يستطيع قراءة التقرير.
• توقف وأعد التصميم إذا كانت القواعد غير قابلة للتحقق، أو إذا كان الوكيل النهائي لا يستطيع استخدام المخرجات، أو إذا كان بإمكان ذكاء اصطناٍ فائق الذكاء القيام بالمهمة كاملة بمفرده دون الحاجة للقواعد.

باختد، فريق من العباقرة سيظل يفشل إذا كانوا يصرخون فوق بعضهم البعض في غرفة مظلمة. لكن فريقاً من الأشخاص العاديين مع مصباح يدوي جيد، وجدول أعمال واضح، وقاعدة للتحقق من عمل بعضهم البعض، يمكنهم حل اللغز. تقترح الورقة أنه بالنسبة للذكاء الاصطناعي، فإن "قواعد اللعبة" هي غالباً السلاح السري، ولكن فقط عندما تعالج جزءاً معيناً ومعطلاً من العملية.