Good Agentic Friends Do Not Just Give Verbal Advice: They Can Update Your Weights

ملخص تقني: TFLOW (تدفق الفكر - Thought Flow)

بيان المشكلة
تعتمد أنظمة الوكلاء المتعددين الحالية للنماذج اللغوية الكبيرة (LLM) عادةً على اللغة الطبيعية (NL) كواجهة أساسية للتواصل بين الوكلاء. في هذا النموذج، يقوم الوكيل "المرسل" بتسلسل حالته الحسابية الوسيطة إلى رموز (tokens)، والتي يتم بعد ذلك إلحاقها بنافذة سياق الوكيل "المستقبل". ورغم أن هذا النهج قابل للتفسير، إلا أنه يسبب عدم كفاءة كبيرة:

1. العبء الإضافي للرموز (Token Overhead): يؤدي تسلسل وإعادة تسلسل الأفكار الوسيطة إلى رموز نصية إلى زيادة إجمالي عدد الرموز المولدة والمعالجة.
2. التكلفة الحسابية: يجب على المستقبل إجراء عمليات "تعبئة مسبقة" (prefilling) مكلفة للسياق الموسع، مما يؤدي إلى زيادة زمن الاستجابة (latency).
3. البصمة الذاكرية: يتسبب السياق الموسع في تضخم ذاكرة المفتاح-القيمة (KV cache)، مما يستهلك المزيد من الذاكرة ويحد من القدرة على توسيع طول السياق.
4. فقدان المعلومات: تُجبر الحالات الداخلية الغنية على المرور عبر قناة مصممة للاستهلاك البشري، مما قد يؤدي إلى التخلص من معلومات يصعب التعبير عنها لفظياً.

بينما استكشفت أعمال حديثة طرق التواصل في الفضاء الكامن (تبادل التضمينات أو الحالات الخفية)، فإن هذه الطرق تتطلب غالباً أن يقوم المستقبل بتفسير تنشيطات المرسل مباشرة، مما يخلق مشكلات توافق إذا لم تكن الوكلاء تشترك في بنيات أو مساحات خفية متطابقة.

المنهجية: TFLOW (تدفق الفكر)
تقترح الورقة البحثية TFLOW، وهو إطار عمل للتواصل في فضاء الأوزان (weight-space) يستبدل تمرير الرسائل القائم على النص باضطرابات مؤقتة وخاصة بكل حالة (instance-specific weight perturbations). يعمل النظام ضمن إعداد "المستقبل الثابت"، حيث تكون البنية الأساسية للمستقبل معروفة ومجمدة.

• البنية: يستخدم النظام $N$ من الوكلاء الذين يتشاركون في بنية أساسية واحدة مجمدة (مثل Qwen3-4B). يعمل الوكلاء من $A_1$ إلى $A_{N-1}$ كـ مرسلين، ويعمل $A_N$ كـ مستقبل.
• معالجة المرسل: يقوم كل مرسل بمعالجة استعلام المدخل $q$ والمطالبة النظامية الخاصة بدوره $p_i$ في تمريرة أمامية واحدة. وبدلاً من توليد نص، يقوم النظام باستخراج الحالات الخفية (hidden states) للمرسلين ($H_i$).
• مولد المعلمات (Parameter Generator): يقوم مولد معلمات متعلم وقابل للتدريب ($\mathcal{H}_\psi$) برسم خريطة لتجميع الحالات الخفية للمرسلين وتحويلها إلى عوامل LoRA ذات رتبة منخفضة (low-rank LoRA factors).
  • يأخذ المولد الحالات الخفية للمرسلين كإشارات شرطية.
  • ينتج مصفوفات LoRA ($A, B$) لطبقات خطية محددة في المستقبل.
  • يتم تدريب المولد من البداية إلى النهاية (end-to-end)؛ بينما تظل البنى الأساسية للمرسل والمستقبل مجمدة.
• الحقن المؤقت (Transient Injection): يتم دمج عوامل LoRA المولدة من عدة مرسلين (باستخدام بوابة قياسية خفيفة الوزن) لإنشاء اضطراب موحد $\Delta W$. يتم حقن هذا الاضطراب مؤقتاً في الطبقات الخطية للمستقبل فقط أثناء التمريرة الأمامية لاستعلام محدد.
  • يتم تطبيق الاضطراب كـ $\hat{\theta} = \theta + \Delta W$.
  • بعد أن يولد المستقبل الإجابة، يتم التخلص من الاضطراب، مما يعيد البنية الأساسية المجمدة الأصلية للاستعلام التالي.
• هدف التدريب: يتم تدريب النظام باستخدام خسارة "التقاطع التقاطعي للرمز التالي المقنع" (masked next-token cross-entropy loss) القياسية على مخرجات المستقبل، مدمجة مع منظم التنوع (diversity regularizer). يقوم هذا المنظم بمعاقبة المولد في حال إنتاج نواقل LoRA متطابقة لمدخلات مختلفة، مما يضمن التخصص على مستوى الحالة بدلاً من الانهيار إلى محول ثابت.

المساهمات الرئيسية

1. نموذج التواصل في فضاء الأوزان: تقدم الورقة وسيط تواصل جديد حيث يتم نقل معلومات المرسل ليس كنص أو تنشيطات خام، بل كاضطرابات منخفضة الرتبة خاصة بالاستعلام في أوزان المستقبل.
2. إطار عمل TFLOW: تنفيذ عملي لهذا النموذج يفصل آلية التواصل عن سياق النص الخاص بالمستقبل، مما يسمح بالتكيف على مستوى الحالة دون توسيع ذاكرة KV cache أو عبء التعبئة المسبقة.
3. الكفاءة والأداء: يثبت الإطار أن تحديثات الأوزان المؤقتة يمكن أن تعمل كقناة تواصل قابلة للتنفيذ، محققة دقة تنافسية مع الأنظمة القائمة على النصوص مع تقليل استهلاك الرموز وزمن الاستجابة بشكل كبير.

النتائج التجريبية
قيم المؤلفون TFLOW باستخدام إعداد مكون من ثلاثة وكلاء (مرسلان، ومستقبل واحد) مع بنية أساسية مجمدة من Qwen3-4B عبر خمسة اختبارات معيارية: GSM8K، وMATH، وMMLU، وHumanEval+، وMBPP+.

• مقابل خط الأساس أحادي الوكيل (Single-Agent Baseline): حسن TFLOW الدقة بمقدار 7.13 إلى 8.53 نقطة عبر جميع الاختبارات، مع تقليل إجمالي الرموز المعالجة بنسبة 15.13% إلى 32.69%.
• مقابل الأنظمة متعددة الوكلاء القائمة على النص (TextMAS):
  • تقليل الرموز: قلل TFLOW إجمالي الرموز المعالجة بنسبة 71.73% إلى 83.27% مقارنة بالخط الأساسي القائم على النص.
  • زمن الاستجابة (Latency): انخفض زمن الاستجافة الفعلي (wall-clock inference time) بمقدار 2.3 إلى 4.6 ضعفاً.
  • الدقة: حافظ TFLOW على دقة تنافسية، حيث تأخر عن الخط الأساسي القائم على النص بمقدار 1.3 إلى 4.5 نقطة فقط في أربعة من الاختبارات الخمسة.
  • الاستثناء: في اختبار HumanEval+، أظهر TFLOW فجوة أكبر في الدقة (أقل بـ 9.76 نقطة). وعزا المؤلفون ذلك إلى أن السياق الملحق في الخط الأساسي القائم على النص يوسع ضمناً ميزانية التوليد، مما يسمح بتفصيل برمجي أكثر طولاً وهيكلية وتصحيح ذاتي، وهو ما لا يعيد حقن فضاء الأوزان إنتاجه.

الأهمية والادعاءات
تدعي الورقة أن TFLOW تثبت الفرضية القائلة بأن أوزان النماذج يمكن أن تعمل كوسيط تواصل فعال للتعاون بين الوكلاء المتعددين. ومن خلال نقل الواجهة من قناة نصية متمحورة حول الإنسان إلى قناة فضاء أوزان متمحورة حول الآلة، يتجاوز النظام عبء تسلسل الرموز وتكاليف الذاكرة للسياقات الموسعة.

يؤكد المؤلفون أن هذا النهج يتيح التكيف على مستوى الحالة دون تغيير النموذج بشكل دائم أو اشتراط توافق الفضاء الكامن بين الوكلاء. وبينما تظل الواجهة النصية متفوقة للمهام التي تتطلب ميزانيات توليد ممتدة (مثل تركيب الأكواد المعقدة)، فإن TFLOW يقدم بديلاً عالي الكفاءة لمهام الاستدلال والمعرفة، مما يشير إلى اتجاه واعد لأنظمة الوكلاء المتعددين القابلة للتوسع والفعالة.