تخيل مدينة صاخبة حيث يحاول آلاف العمال الصغار غير المرئيين بناء ناطحة سحاب معاً. هؤلاء العمال هم "الوكلاء" (agents)، وفي عالم الحوسبة الحديثة، يتم تشغيلهم بواسطة نماذج اللغات الكبيرة (LLMs)—وهي برامج حاسوبية فائقة الذكاء يمكنها التحدث والتخطيط وحل المشكلات. وبدلاً من وجود مدير واحد يعطي الأوامر، غالباً ما ينظم هؤلاء الوكلاء أنفسهم آنياً، ويتبادلون المهام، ويتشاركون الأفكار، ويصلحون الأخطاء أثناء سير العمل. هذا ما يسمى بـ "التعاون الناشئ" (emergent cooperation). الأمر يشبه مراقبة سرب من الطيور وهو يشكل شكلاً مثالياً دون أن يخبر طائر واحد الآخر بما يجب فعله. ولكن هنا تكمن المشكلة: عندما تسوء الأمور، غالباً ما يكون من الصعب معرفة لماذا. هل نسي أحد العمال خطوة ما؟ هل سلم مهمة للشخص الخطأ؟ أم أنه اخترع حلاً يبدو جيداً ولكنه ليس حقيقياً؟ في مدينة العمال غير المرئيين، يمكن لكذبة تبدو منطقية أن تخفي أساساً منهاراً.

هنا يأتي دور الورقة البحثية الجديدة. يسأل الباحثون سؤالاً بسيطاً ولكنه حيوي: كيف نحتفظ بسجل حسابات لا يسجل فقط ماذا قال العمال، بل يثبت لماذا فعلوه ومن كان من المفترض أن يقوم به؟ لقد قدموا نظاماً يسمى iCORE (تمثيل التعاون والالتزام المتكامل). فكر في iCORE كدفتر حسابات سحري وشفاف لموقع البناء. فهو لا يكتفي بالاستماع إلى دردشة العمال؛ بل يرسم ثلاث خرائط محددة في آن واحد: خريطة لكل إجراء تم اتخاذه، وخريطة لكل مهمة غير مكتملة، وخريطة تربط بينهما لتثبت أن العمل حقيقي. ومن خلال استخدام نظام الخرائط الثلاثي هذا، وجد الباحثون أنهم استطاعوا رصد الأخطاء التي فاتت الأنظمة الأخرى، بل ووجهوا العمال لبناء ناطحات سحاب أفضل، مما أدى لتحسين النتيجة النهائية بنسبة تصل إلى 31% في اختباراتهم.

المشكلة: فخ "العمل الشبح"

عندما يحاول فريق من وكلاء الذكاء الاصطناعي حل لغز معقد، فإنهم غالباً ما يتحدثون مع بعضهم البعض، ويستخدمون الأدوات، ويتبادلون الملاحظات. يمكن للأنظمة الحالية تسجيل هذه المحادثات، مثل كاميرا أمنية تسجل اجتماعاً. لكن التسجيل وحده لا يكفي. تخيل أن عاملاً يقول: "لقد أصلحت السقف!" والكاميرا سجلت ذلك. ولكن ماذا لو لم يصعد إلى هناك فعلياً؟ أو ماذا لو سلم المهمة لعامل لا يملك سلماً؟

في عالم الذكاء الاصطناعي، يسمى هذا "عملاً يبدو منطقياً ولكنه غير مدعوم". قد تبدو الإجابة النهائية مثالية، لكن المسار المؤدي إليها مليء بالثغرات. تجادل الورقة بأن الطرق الحالية تشبه محاولة تدقيق حسابات بنك عبر النظر فقط إلى إيصالات صندوق النقد دون التحقق من الخزنة أو سجلات الأمن. قد ترى المال وهو يخرج، لكنك لا تعرف ما إذا كان قد سُرق أو ما إذا كان الشخص الذي أخذه مسموحاً له أصلاً بلمس الخزنة.

الحل: نظام الخرائط الثلاث (iCORE)

يقترح المؤلفون طريقة جديدة لمراقبة الوكلاء، تسمى iCORE. بدلاً من مجرد قائمة طويلة من الرسائل، يبني iCORE حالة موحدة مكونة من ثلاثة أجزاء متصلة، مثل لغز ثلاثي الأبعاد:

1. رسم التعاون البياني (خريطة "ماذا حدث"): هذا هو الجدول الزمني لكل ما قام به الوكلاء فعلياً. هل أرسلوا رسالة؟ هل استخدموا آلة حاسبة؟ هل كتبوا قطعة من الكود البرمجي؟ إنه سجل لكل إجراء ملحوظ و"الآثار" (مثل الملاحظات أو الملفات) التي أنشؤوها.
2. رسم الالتزام البياني (خريطة "ما يجب القيام به"): هذه هي قائمة المهام. وهي تتبع كل مهمة يجب إنجازها، ومن يحمل المهمة حالياً، وما هي حالتها (على سبيل المثال: "مفتوحة"، "متوقفة"، أو "منتهية"). إنها المخطط للعمل الذي يجب أن يحدث.
3. رسم التدقيق (رابط "الإثبات"): هذا هو الغراء السحري. فهو يربط خريطة "ماذا حدث" بخريطة "ما يجب القيام به". ويسأل: "هل الإجراء الذي تم في الجدول الزمني قد أصلح بالفعل المهمة في قائمة المهام؟ وهل لدينا دليل؟" إنه يتحقق من الشهادات (certificates)—وهي إيصالات رقمية تقول: "نعم، هذا العامل مؤهل"، أو "نعم، هذه الأداة تعمل".

إذا كنت تملك الخريطة الأولى فقط، فسترى الضجيج. وإذا كنت تملك الثانية فقط، فسترى الخطة. ولكن مع الثلاثة معاً، يمكنك معرفة ما إذا كانت الخطة قد نُفذت بالفعل من قبل الأشخاص المناسبين باستخدام الأدوات المناسبة.

القاعدتان الذهبيتان

باستخدام نظام الخرائط الثلاثي هذا، حدد الباحثون قاعدتين صارمتين للحكم على ما إذا كان الفريق يقوم بعمل جيد:

1. سلامة العمل (قاعدة "لا للأشباح")
يجب أن يكون لكل ادعاء يقدمه العامل حول تقدمه سبب ملموس ومرئي. إذا ادعى وكيل ما: "لقًد حللت المسألة الرياضية"، يتحقق النظام: هل قاموا بتشغيل أداة الرياضيات فعلياً؟ هل هناك نتيجة؟ هل الأداة تعمل؟ إذا كانت الإجابة "لا"، فإن الادعاء "غير سليم". الأمر يشبه طالباً يدعي أنه حصل على درجة امتياز ولكن ليس لديه ورقة اختبار ليقدمها. النظام يتطلب مساراً ورقياً لكل قرار.

2. استقرار تعيين الوكيل (قاعدة "الشخص المناسب للمهمة")
تتحقق هذه القاعدة مما إذا كانت المهام قد أسندت إلى أفضل عامل ممكن. تخيل فريقاً يُطلب من فيه شيف ماهر غسل الأطباق، بينما يُطلب من عامل غسيل أطباق طهي شريحة اللحم. يحسب النظام ما إذا كان تبديلهما سيجعل المهمة أفضل بكوة. إذا كان التعيين الحالي هو الأفضل (أو قريباً من ذلك)، فهو "مستقر". أما إذا كان التبديل سيجعل الأمور أفضل بكثير، فإن النظام يرفع علامة خطأ.

المدقق: iCORE-Audit

لا تكتفي الورقة بالمراقبة فحسب؛ بل تبني مدققاً نشطاً يسمى iCORE-Audit. هذا يشبه مشرفاً ذكياً يتجول في موقع البناء.

إليك كيف يعمل:

• يحاول الوكلاء القيام بعملهم.
• يتحقق المشرف من الخرائط الثلاث.
• إذا رأى المشرف "مهمة شبحية" (ادعاء بدون دليل) أو "تعييناً سيئاً" (مهمة أعطيت للشخص الخطأ)، فإنه يوقف العملية.
• هو لا يكتفي بالقول "توقف"، بل يخبر الوكيل المحدد: "مهلاً، لقد ادعيت أنك أصلحت السقف، لكنك لم تستخدم السلم. عد وأصلح ذلك"، أو "أنت تحاول حل مسألة رياضية، لكنك لست خبيراً في الرياضيات. دع خبير الرياضيات يتولى الأمر".
• يحاول الوكيل مرة أخرى، ويتحقق المشرف من المحاولة الجديدة.

الأهم من ذلك، أن المشرف حذر للغاية؛ فهو لن يسمح للوكيل بمجرد حذف مشكلة صعبة لجعل الدرجة تبدو أفضل. إنه يجبر الوكيل على حل المشكلة فعلياً أو إثبات أنها مستحيلة.

النتائج: هل نجح الأمر؟

اختبر الباحثون هذا النظام بطريقتين:

1. المحاكاة المنضبطة: أنشأوا ملعباً رقمياً حيث يمكنهم حقن أخطاء محددة، مثل "نقص الأدلة" (نسيان حفظ ملف) أو "سوء التعيين" (إعطاء مهمة للروبوت الخطأ).
2. نماذج اللغات الكبيرة الحقيقية: قاموا بتشغيل النظام مع نماذج ذكاء اصطناعي حقيقية (تحديداً نموذج يسمى Qwen2.5-0.5B-Instruct) لمعرفة كيفية تعامله مع الفوضى الواقعية.

كانت النتائج واضحة. عندما كان النظام يكتفي بالمراقبة فقط (الملاحظة السلبية)، كان بإمكانه رؤية الأخطاء لكنه لم يستطع إصلاحها. وعندما كان مشرف iCORE-Audit نشطاً:

• في المحاكاة المنضبطة، تحسنت جودة المسار الذي اتخذه الوكلاء بنسبة 11.5%، وتحسنت النتيجة النهائية بنسبة 15.1%.
• في اختبارات نماذج اللغات الكبيرة الحقيقية، كان التحسن أكبر: قفزت جودة المسار بنسبة 26.4%، وتحسنت النتيجة النهائية بنسبة 31.0%.

كما أظهرت الورقة أنه بدون نظام الخرائط الثلاثي الكامل (iCORE)، فشلت الطرق الأخرى في رصد هذه الأخطاء. على سبيل المثال، النظام الذي يراقب المحادثة فقط (طريقة "التفاعل فقط") يمكنه ملاحظة أن عاملاً ما عالق، لكنه لا يستطيع معرفة ما إذا كان قد أُسند إليه العمل الخاطئ. فقط نظام iCORE الكامل استطاع رؤية الصورة الكاملة.

لماذا يهم هذا؟

تشير هذه الورقة إلى أنه لكي تكون فرق الذكاء الاصطناعي موثوقة حقاً، فنحن بحاجة إلى أكثر من مجرد نص لمحادثاتهم. نحن بحاجة إلى نظام يربط كلماتهم بأفعالهم ومسؤولياتهم. من خلال معاملة تعاون الذكاء الاصطنا مثل موقع بناء بوجود سجل دقيق وشفاف، يمكننا رصد الأخطاء قبل أن تتحول إلى كوارث. هذا يحول "الصندوق الأسود" لتعاون الذكاء الاصطناعي إلى شيء يمكننا تدقيقه، وإصلاحه، والثقة به. لا يدعي المؤلفون أن هذا يحل كل مشكلات الذكاء الاصطناعي، لكنهم يظهرون أنه مع الخرائط الصحيحة والمشرف الجيد، يمكننا بناء ناطحات سحاب أعلى وأكثر متانة معاً.