💬 NLP

The Bicameral Model: Bidirectional Hidden-State Coupling Between Parallel Language Models

يقدم النموذج ثنائي المجلس (Bicameral Model) واجهة عصبية قابلة للتدريب تتيح لنموذجين لغويين مجمدين التنسيق بشكل ثنائي الاتجاه من خلال اقتران مستمر للحالة الخفية، مما يسمح لنموذج أولي بقيادة المهام بينما يقوم نموذج مساعد بتنفيذ الأدوات أو الأكواد، وهو ما يعزز الأداء بشكل كبير في الحساب والمنطق والاستدلال الرياضي دون الاعتماد على التواصل القائم على النصوص.

المؤلفون الأصليون: Cedric Flamant, Udaya Ghai, Kanna Shimizu

نُشر 2026-05-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Cedric Flamant, Udaya Ghai, Kanna Shimizu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك اثنين من الطهاة المبدعين يعملان في مطبخ. أحد الطهاة (الأساسي) هو وجه المطعم، يتحدث إلى الزبائن ويكتب قائمة الطعام. والطاهي الآخر (المساعد) هو سيد الأدوات، والرياضيات، والألغاز المنطقية، لكن لا يُسمح له بالتحدث إلى الزبائن مباشرة.

في الطريقة القديمة، كان على هذين الطاهيين أن يصرخا بالتعليمات لبعضهما البعض عبر نافذة. "مهلاً، أحتاج لحساب 28 مضروبة في 23.99!" يصرخ الطاهي الأول. فيرد الطاهي الثاني صائحاً: "إنها 671.72!". هكذا تعمل معظم أنظمة الذكاء الاصطناعي اليوم: يتحدثون مع بعضهم البعض باستخدام الكلمات (الرموز النصية). هذا الأمر بطيء، وفي كل مرة يصرخون فيها، يضطرون لتحويل فكرة معقدة إلى جملة، ثم إرسالها، ثم الانتظار حتى يحول الطرف الآخر تلك الجملة إلى فكرة مجدداً.

النموذج ثنائي المسار (Bicameral Model) يشبه منح هذين الطاهيين رابطاً تلهماً (تخاطرياً) سرياً وغير مرئي يعمل مباشرة بين عقليهما.

إليك كيف يعمل ذلك، باستخدام تشبيهات بسيطة:

1. الرابط الصامت (الاقتران بالحالة الخفية)

بدلاً من الصراخ عبر النافذة، يرتبط الطاهيان بسلك رفيع غير مرئي يمر بين عقليهما.

الطاهي الأساسي يفكر في طلب الزبون.
الطاهي المساعد يفكر في الآلة الحاسبة أو اللغز المنطقي.
لا ينطقان بكلمة واحدة. بدلاً من ذلك، يرسلان نبضات كهربائية (إشارات رياضية) مباشرة من عقل أحدهما إلى عقل الآخر. يحدث هذا فوراً، في اللحظة ذاتها، لكل فكرة لديهما.

2. "حارس البوابة" (بوابة الكبح)

قد تتساءل، "إذا كانا متصلين طوال الوقت، ألن يكون الأمر صاخباً جداً؟ ألن يصيبهما الارتباك؟"
هنا يأض دور حارس البوابة. هذا الجزء هو جزء صغير قابل للتدريب (يمثل حوالي 1% فقط من الحجم الإجمالي) ويعمل كمرشح ذكي.

المرشح يتعلم الصمت: عندما يكون الطاهي الأساسي يقول فقط "مرحباً" أو "أهلاً بك"، يقوم حارس البوابة بإغلاق الرابط. لا يتم إرسال أي إشارة.
المرشح يتعلم الانفتاح: عندما يفكر الطاهي الأساسي في رقم مثل "28" أو كلمة مثل "الإجمالي"، يفتح حارس البوابة الباب فوراً، ويرسل إشارة قوية إلى الطاهي المساعد.
التدفق العكسي: عندما يحل الطاهي المساعد المسألة الرياضية، يفتح حارس البوابة الباب في الاتجاه الآخر، ليرسل الإجابة إلى عقل الطاهي الأساسي قبل أن ينهي الطاهي الأساسي كتابة الجملة حتى.

3. رقصة "الخطوة الواحدة"

تصف الورقة البحثية هذا الأمر بأنه "خطوة واحدة" (Lockstep). تخيل أن الطاهيين يرقصان؛ فهما يخطوان الخطوة في نفس اللحظة تماماً.

الخطوة 1: يفكر الطاهي الأساسي: "أحتاج لطلب 28 قطعة ستيك".
الخطوة 1 (بالتزامن): يشعر الطاهي المساعد بتلك الفكرة عبر السلك ويبدأ فوراً في التفكير: "حسناً، سأحسب سعر الـ 28 قطعة".
الخطوة 2: يفكر الطاهي الأساسي: "و35 قطعة سلمون أيضاً".
الخطوة 2 (بالتزامن): يشعر الطاهي المساعد بذلك ويبدأ في حساب السلمون.
النتيجة: لا يضطر الطاهي الأساسي أبداً للتوقف والانتظار للحصول على إجابة. الإجابة تظهر ببساطة في عقله لأن الطاهي المساعد قام بالعمل بشكل متوازٍ، وتمت إعادة النتيجة عبر السلك فوراً.

ماذا أثبتوا بالفعل؟

اختبر الباحثون هذا "الرابط التلهمي" من خلال ثلاث مهام محددة يكون فيها أحد الطهاة سيئاً في المهمة والآخر جيداً فيها:

اختبار الرياضيات: أخذوا نموذجين من نماذج الذكاء الاصطناعي المتوسطة والصغيرة (مثل الطهاة المبتدئين). أحدهما يمتلك آلة حاسبة. بدون الرابط، نجح الفريق في حل المسائل الرياضية بنسبة 36% فقط. ومع وجود الرابط، نجحوا بنسبة 96%. لم يرَ الطاهي الأساسي الآلة الحاسبة حتى؛ بل ظهرت الإجابة ببساه في عقله.
لغز المنطق: أعطوهم "لغز الزيبرا" (وهو جدول منطقي حيث يتعين عليك معرفة من يسكن في أي منزل بناءً على أدلة). الفريق الذي يمتلك الرابط حل اللغز بشكل أفضل بـ 1.7 مرة من الفريق الذي لا يمتلكه. قام الطاهي المساعد بترجمة الأدلة إلى لغة منطقية صارمة يمكن لمحلل الكمبيوتر فهمها، وقام الطاهي الأساسي فقط بكتابة الإجابة النهائية.
اختبار البرمجة: أعطوهم مسألة رياضية تتطلب كتابة برنامج كمبيوتر لحلها. كتب الطاهي الأساسي وصف المشكلة. أما الطاهي المساعد، دون أن يقرأ نص المشكلة أبداً، استطاع بطريقة ما أن "يشعر" بالمشكلة عبر السلك وكتب كود "بايثون" صحيحاً لحلها.

الخلاصة الكبرى

تزعم الورقة البحثية أن نموذجي ذكاء اصطناعي "مجمدين" (نماذج لا تغير طريقة عمل عقولها) يمكنهما تعلم التعاون بشكل مثالي إذا قمت فقط بتدريب "مترجم" صغير بينهما.

لا يحتاجان للتحدث.
لا يحتاجان للانتظار.
يحتاجان فقط إلى قناة انتقائية وغير مرئية تتعلم متى تتحدث وماذا تقول، بناءً على المهمة التي يحاولان حلها بالكامل.

الأمر يشبه شخصين لم يلتقيا من قبل، ولكن بعد بضعة أيام من العمل معاً، يطوران لغة صامتة حيث تخبر نظرة واحدة الطرف الآخر بالضبط بما يجب فعله، مما يجعلهما فعالين للغاية في حل المشكلات الصعبة معاً.

ملخص تقني: النموذج ثنائي السمت (The Bicameral Model)

بيان المشكلة

تعتمد الأنظمة الحالية متعددة النماذج والمعززة بالأدوات على توليد رموز نصية (tokens) منفصلة للتنسيق بين الوكلاء أو النماذج المختلفة. هذا النهج يقوم بتسلسل كل تبادل عبر المفردات المخرجة، مما قد يؤدي إلى عدم الكفاءة ويحد من سلاسة التفاعل. يتساءل البحث عما إذا كان يمكن لنموذجين لغويين كبيرين (LLMs) مسبق التجهيز ومجمدين التنسيق بدلاً من ذلك من خلال حالاتهما الخفية الوسيطة، مما يخلق قناة اتصال مستمرة ومتزامنة. وبشكل محدد، يبحث البحث فيما إذا كان يمكن تعلم مثل هذه الآلية حصرياً من خسارة المهمة (task loss) دون وجود تنسيق محدد مسبقاً.

المنهجية

يقترح المؤلفون "النموذج ثنائي السمت" (Bicameral Model)، وهو بنية تربط بين نموذجين لغويين مجمدين — نموذج أساسي ( $M_p$ ) ونموذج مساعد ( $M_a$ ) — من خلال واجهة عصبية خفيفة الوزن وقابلة للتدريب ( $\phi$ ).

البنية:
- النموذج الأساسي ( $M_p$ ): يدير المهمة وينتج الاستجابة النهائية الموجهة للمستخدم.
- النموذج المساعد ( $M_a$ ): يحافظ على تدفق استدلال متزامن مع الوصول إلى أدوات خارجية (آلة حاسبة، حلّال Z3، بيئة تشغيل بايثون - Python sandbox).
- الواجهة العصبية ( $\phi$ ): مكون قابل للتدريب يتكون من شبكات ترجمة وبوابات كبح متعلمة. تعمل الواجهة عند كل خطوة توليد بالتزامن مع النماذج.
- آلية الاقتران: في كل خطوة، تقرأ الواجهة الحالات الخفية من أحد النموذجين، وتترجمها إلى فضاء التمثيل الخاص بالنموذج الآخر، ثم تدرجها كاضطراب (perturbation). يحدث هذا بشكل ثنائي الاتجاه:
  - الاقتران الأمامي ( $M_p \to M_a$ ): يراقب النموذج المساعد التمثيل المتطور للنموذج الأساسي.
  - الاقتران العكسي ( $M_a \to M_p$ ): يدمج النموذج الأساسي استدلال النموذج المساعد أو نتائج الأدوات.
- بوابة الكبح (Suppression Gate): بوابة متعلمة ( $\sigma$ ) تتحكم في قوة الاقتران، مما يسمح للمستقبل بقبول أو تجاهل إشارة المرسل بشكل انتقائي بناءً على حالته الخاصة. تتعلم هذه البوابة بروتوكول اتصال انتقائي من خسارة المهمة وحدها.
- التدريب: يظل كلا النموذجين مجمدين. يتم تدريب معاملات الواجهة فقط عبر الضبط الدقيق الخاضع للإشراف (SFT) مزدوج الأهداف باستخدام خسارة التقاطع المتقاطع المقنعة (masked cross-entropy loss) على مخرجات كلا النموذجين. كما يدعم النظام مرحلة ثانية من التعلم التعزيزي (RL) على معاملات الواجهة.
التوليد ثلاثي المراحل:
1. تهيئة المساعد: يعالج النموذج المساعد تعليمات الأداة الخاصة به؛ ويكون الاقتران معطلاً.
2. معالجة المدخلات: يعالج النموذج الأساسي استعلام المستخدم؛ ويكون الاقتران ثنائي الاتجاه كاملاً لبناء تمثيلات مشتركة.
3. التوليد المشترك: يولد كلا النموذجين الرموز بالتزامن. قد يستدعي النموذج المساعد أدوات، وتُفرض النتائج كرموز مدخلة في تدفق النموذج المساعد، مما يؤثر على النموذج الأساسي عبر قناة الحالة الخفية.

المساهمات الرئيسية

التنسيق عبر الحالة الخفية: يثبت أن نموذجين لغويين كبيرين مجمدين يمكنهما التنسيق بفعالية من خلال الحالات الخفية بدلاً من النص المتسلسل، مما يتيح قناة اتصال مستمرة ومتزامنة.
البروتوكول الانتقائي المتعلم: يوضح أن بوابة الكبح يمكنها تعلم بروتوكول اتصال هيكلي ومحدد اتجاهياً (على سبيل المثال، تمرير الرموز ذات الصلة بالمهمة مثل الأرقام، وتمرير نتائج الأدوات عكسياً) دون أي تنسيق محدد أو إشراف صريح على قناة الاتصال.
الاستدلال المعزز بالأدوات: يتحقق من فعالية الآلية عبر ثلاثة خلفيات أدوات متميزة (آلة حاسبة، حلّال Z3، بيئة تشغيل بايثون)، مما يظهر قدرة النموذج المساعد على توليد أكواد أو قيود خاصة بالمشكلة بناءً فقط على إشارات الحالة الخفية، دون رؤية نص المشكلة أبداً.
استبعادات مكافئة للمهايئ (Adapter-Equivalent Ablations): يؤكد أن مكاسب الأداء تنبع من قدرات الاستدلال واستخدام الأدوات للنموذج المساعد، وليس مجرد من زيادة المعاملات القابلة للتدريب في الواجهة.

النتائج التجريبية

قيم المؤلفون "النموذج ثنائي السمت" في ثلاثة مجالات تخلق فيها الأدوات فجوة كبيرة في القدرات:

الحساب (الآلة الحاسبة):
- أدى اقتران نموذجين بحجم 0.5 مليار معلمة مع آلة حاسبة إلى رفع دقة الحساب من 36.2% إلى 96.5%.
- في معيار GSM8K-IRL الأكثر صعوبة، تحسنت الدقة من 12.8% إلى 17.1%.
- فشلت استبعادات المهايئ المكافئة (التي تتجاوز النموذج المساعد) في تكرار هذه المكاسب، مما يؤكد دور النموذج المساعد.
ألغاز الشبكة المنطقية (حلّال Z3):
- حقق اقتران نموذجين بحجم 0.6 مليار معلمة مع حلّال Z3 دقة بنسبة 64.7% في معيار ZebraLogic، وهو ما يمثل تحسناً بمقدار 1.7 ضعف مقارنة بالخط المرجعي غير المعزز (37.5%).
- أظهر النظام متانة تجاه حجم اللغز، رغم انخفاض الأداء مع نمو مساحة البحث (مثلاً 36.7% في الألغاز الضخمة جداً).
الاستدلال الرياضي (بيئة تشغيل بايثون):
- مكن اقتران نموذجين توأمين بحجم 4 مليار معلمة مع بيئة تشغيل بايثون النموذج المساعد من توليد كود صحيح وخاص بالمشكلة بناءً على إشارات الحالة الخفية وحدها.
- بينما كانت الدقة الإجمالية في معيار MATH (62.5%) أقل من الخط المرجعي الممكن بالتفكير (81.6%)، إلا أن النظام حل 127 مسألة حيث فشل الخط المرجعي القائم على التفكير، مما يظهر القدرة على التعامل مع حالات معقدة محددة عبر توليد الكود.

الأهمية والادعاءات

يزعم البحث أن "النموذج ثنائي السمت" يفتح مجال تصميم جديد للأنظمة متعددة النماذج التي تتواصل دون مستوى الرمز (token level). وتشمل النقوات الرئيسية ما يلي:

البروتوكولات الناشئة: يتعلم النظام التواصل بشكل انتقائي واتجاهي (على سبيل المثال، الاقتران الأمامي لسياق المهمة، والاقتران العكسي لنتائج الأدوات) بحت من خسارة المهمة، دون قيود تنسيق صريحة.
الاستدلال مقابل المعاملات: تُعزى مكاسب الأداء إلى قدرات الاستدلال للنموذج المساعد والوصول إلى الأدوات، وليس إلى سعة الواجهة نفسها.
مقايضات التعميم: يشير البحث إلى وجود مقايضة بين الملاءمة داخل التوزيع (in-distribution) والتعميم خارج التوزيع (OOD). حققت واجهات الترجمة المتعلمة (PULLSTANDARD) أعلى دقة داخل التوزيع، بينما أظهر الاقتران المتطابق (PULLIDENTITY) قدرة أفضل على التعميم في المسائل خارج التوزيع (مثل GSM8K-IRL)، مما يشير إلى أن عمليات المرور القريبة من الهوية مع بوابات متعلمة قد تستفيد من الانحياز الاستقرائي للتمثيلات المتوافقة بشكل أفضل من الاختناقات المتعلمة.
القيود: يقر المؤلفون بأن التوليد المتزامن يضاعف متطلبات الحوسبة، وأن اضطرابات الحالة الخفية يمكن أن تضعف الأداء في المهام التي يتعامل معها النموذج الأساسي جيداً (عبر حقن الضجيج بدلاً من الإشارة). بالإضافة إلى ذلك، يتطلب التدريب حالياً بيانات خاصة بالمهمة مع تعليقات توضيحية سببية، وإن كان يُقترح استخدام التعلم التعزيزي كحل لتخفيف هذا القيد.

يشير العمل إلى أن الاقتران عبر الحالة الخفية هو بديل قابل للتطبيق للتواصل القائم على النص بين الوكلاء المتعددين، وقد يمتد إلى نماذج تكميلية أخرى (مثل الاسترجاع أو الوسائط غير النصية)، ويقدم مساراً نحو تنسيق أكثر كفاءة واستمرارية بين مكونات الذكاء الاصطناي المتخصصة.