A Two-Tier Perspective on Inference-Time Parallelism in Multi-Agent LLM Systems
تقدم هذه الورقة TIPEX، وهو إطار عمل موحد ينسق بين التوازي النسخي (Replica) والتوازي الهيكلي (Structural) في أنظمة النماذج اللغوية الكبيرة متعددة الوكلاء لتحسين دقة الاستدلال وتقليل زمن الاستجابة بشكل كبير، لا سيما لمهام التعقيد المتوسط، على الرغم من زيادة استهلاك الرموز (tokens).
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل فريقًا من المحققين العباقرة فائق السرعة وهم يحاولون حل لغز ضخم ومعقد. في عالم الذكاء الاصطنا1عي، هؤلاء المحققون هم "وكلاء" (Agents) مدعومون بنماذج لغوية كبيرة (LLMs) — وهي عقول حاسوبية ذكية للغاية يمكنها القراءة والكتابة والتفكير المنطقي. عادةً ما يعمل هؤلاء الوكلاء في خط مستقيم صارم: المحقق (أ) يطرح سؤالاً، ثم ينتظر الإجابة، ثم يمرر الملحوظة إلى المحقق (ب)، الذي ينتظر دوره، وهكذا. هذه الطريقة "التسلسلية" في العمل آمنة، لكنها بطيئة. وإذا كان اللغز صعباً، سيصبح الخط طويلاً، وتصبح الملحوظات فوضوية، ويستغرق الفريق كله وقتاً طويلاً لحل القضية.
لتسريع الأمور، بدأ العلماء في محاولة السماح للمحققين بالعمل بشكل متوازٍ — أي القيام بأشياء متعددة في وقت واحد. ولكن الجزء الصعب هنا هو أنه لا يمكنك مجرد إلقاء الجميع في الغرفة والأمل في حدوث أفضل ما يمكن. عليك أن تقرر كيف سيعملون معاً. هل ترسل ثلاثة فرق مختلفة لحل اللغز بالكامل من البداية، على أمل أن تنجح إحداها في الوصول للحل؟ أم ترسل فريقاً واحداً، ولكن تسمح له بالانقسام للبحث في المكتبة، وفحص الملفات، واستجواب الشهود في نفس الوقت؟ هذا البحث الجديد يتعمق في هذا السؤال تحديداً، مستكشفاً كيفية دمج هذين الأسلوبين المختلفين من العمل معاً للوصول إلى أفضل النتائج دون إهدار الكثير من قدرة الحاسوب.
وكالة التحري ذات المستويين
يقدم البحث إطار عمل جديداً يسمى TIPEX (التنفيذ المتوازي على مستويين أثناء الاستدلال). فكر في TIPEX كمدير فائق التنظيم لفريق المحققين في الذكاء الاصطناعي الخاص بنا. أدرك المؤلفون أن "العمل معاً" ليس مجرد شيء واحد؛ بل هو في الواقع مستويان مختلفان من العمل الجماعي يحدثان في نفس الوقت. وقد أطلقوا عليهما اسم التوازي النسخي (Replica Parallelism) والتوازي الهيكلي (Structural Parallelism).
المستوى الأول: استراتيجية "المسارات المتعددة" (التوازي النسخي)
تخيل أنك تحاول العثور على أفضل طريق للوصول إلى كنز مخفي.
- الطريقة القديمة: ترسل مستكشفاً واحداً لرسم الخريطة بأكملها. إذا ضل الطريق، فستظل عالقاً.
- طريقة النسخ المتعددة: ترسل ثلاثة أو خمسة مستكشفين مختلفين في نفس الوقت. أحدهم يسلك طريق الغابة، والآخر يسلك طريق الجبل، والثالث يجرب طريق النهر. جميعهم يحاولون حل اللذغز بالكامل وبشكل مستقل.
- الهدف: يتعلق هذا الأمر بـ الدقة. من خلال استكشاف العديد من "مسارات الحل" في آن واحد، تزيد فرص أن يجد واحد على الأقل الكنز. يشير البحث إلى أنه إذا كان لديك لغز صعب حقاً، فإن وجود فرق متعددة تجرب استراتيجيات مختلفة (مثل فريق يركز على الرياضيات، وآخر يبحث في الويب) أفضل من مجرد الأمل في أن يحالف الحظ فريقاً واحداً.
المستوى الثاني: استراتيجية "تقسيم العمل" (التوازي الهيكلي)
الآن، تخيل أن أحد المستكشفين يحاول حل لغز يتطلب ثلاث خطوات: العثور على خريطة، وقراءة كتاب، ثم إجراء عملية حسابية.
- الطريقة القديمة: يجد المستكشف الخريطة، ثم يتوقف لقراءة الكتاب، ثم يتوقف لإجراء الحسابات. إنه خط طويل وبطيء.
- الطريقة الهيكلية: يدرك المستكشف أنه يمكنه القيام بالقراءة والحساب في نفس الوقت! فيرسل مساعداً إلى المكتبة بينما يقوم هو بمعالجة الأرقام.
- الهدف: يتعلق هذا الأمر بـ السرعة. من خلال تقسيم المهمة الواحدة إلى قطع أصغر يمكن تنفيذها في وقت واحد، ينتهي الفريق من العمل بشكل أسرع بكثير. يوضح البحث أن هذا مفيد بشكل خاص لتقليل "وقت ساعة الحائط" (الوقت الفعلي الذي تنتظره للحصول على الإجابة).
الاكتشاف الكبير: ليس الأمر مجرد "الكثرة هي الأفضل"
أجرى المؤلفون تجربة ضخمة باستخدام مجموعة شهيرة من الألغاز الصعبة تسمى GAIA. لقد اختبروا مديرهم الجديد TIPEX مقابل فريق ذكاء اصطناعي قوي جداً ومعياري (يسمى Magentic-One) ليروا ماذا سيحدث عند خلط هاتين الاستراتيجيتين.
إليك ما وجدوه، وهو أمر مثير للدهشة نوعاً ما:
- السرعة مقابل التكلفة: جعلت هذه الحيل المتوازية فريق الذكاء الاصطناعي أسرع وأكثر دقة بكثير، ولكن ذلك جاء بثمن. فقد استهلك الفريق الكثير من "الرموز" (Tokens) (وهي تشبه العملة أو الوقود الذي يحرقه الذكاء الاصطناعي ليفكر). على سبيل المثال، في الألغاز متوسطة الصعوبة، حصل الذكاء الاصطناعي على الإجابة الصحيحة حوالي 39% من المرات باستخدام التوازي، مقارنة بـ 26% فقط باستخدام الطريقة القديمة. ولكنه استهلك أيضاً المزيد من "الوقود".
- "النقطة المثالية" للصعوبة: وجد البحث أن الاستراتيجيتين تعملان بشكل أفضل معاً في المهام متوسطة الصعوبة.
- في المهام السهلة، لم يكن الفريق بحاجة إلى الكثير من التقسيم؛ كانت الطريقة القديمة سريعة بما يكفي تقريباً.
- في المهام شديدة الصعوبة، لم يساعد حتى تقسيم العمل كثيراً لأن الألغاز كانت معقدة للغاية بحيث يصعب على الفريق التنسيق بسرعة.
- أما في المهام المتوسطة، فقد كان الجمع بينهما سحرياً. استراتيجية "المسارات المتعددة" وجدت الإجابة الصحيحة، واستراتيجية "تقسيم العمل" أوصلتها بسرعة.
- لا تبالغ في الأمر: يحذر المؤلفون صراحة من أن يكون المرء عدوانياً للغاية.
- إذا أرسلت الكثير من الفرق (الكثير من "النسخ")، فإنك تهدر الوقود دون الحصول على تحسن كبير في حل اللغز.
- إذا قسمت العمل بدقة مفرطة (الكثير من "التوازي الهيكلي")، سيبدأ الفريق في الارتباك. قد يقومون بأشياء لا داعي لها، أو قد يفوتون روابط مهمة بين الخطوات. وجد البحث أن كونك عدوانياً للغاية جعل الفريق في الواقع أسوأ في حل اللغز، حتى لو كان أسرع.
الحكم النهائي
يخلص البحث إلى أنه لا يوجد إعداد "مثالي" واحد لجميع المواقف. بدلاً من ذلك، فإن النهج الأفضل هو مزيج متوازن. لقد وجدوا أن استخدام 3 فرق مختلفة (نسخ) والسماه تقسيم عملهم بطريقة معتدلة ومتوازنة (ليست صارمة جداً ولا جامحة جداً) أعطى أفضل النتائج.
اكتشفوا أيضاً أن وجود "قاضٍ" (Judge) ذكي أمر بالغ الأهمية. بما أن الذكاء الاصطناعي يشغل مسارات متعددة في وقت واحد، فلا بد من وجود شخص ينظر إلى جميع الإجابات ويختار الأفضل. إذا لم يكن القاضي جيداً، فإن كل ذلك العمل الإضافي سيذهب سدى.
باختصار، يعلمنا هذا البحث أنه لجعل فرق الذكاء الاصطناعي تعمل بشكل أفضل، لا ينبغي لنا فقط توجيه المزيد من أجهزة الكمبيوتر نحو المشكلة. نحن بحاجة إلى أن نكون أذكياء بشأن كيفية تنظيم أنفسهم: إرسال عدد قليل من الفرق المتنوعة لتغطية جميع الجوانب، مع السماح لتلك الفرق بتقسيم مهامهم إلى أجزاء لتوفير الوقت. إنها رقصة دقيقة بين السرعة، والدقة، والتكلفة، وقد أظهر لنا المؤلفون الخطوات الصحيحة للقيام بها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.