Language Model Teams as Distributed Systems
تقترح هذه الورقة استخدام الأنظمة الموزعة كإطار عمل مبدئي لمعالجة تحديات التصميم والتقييم الرئيسية في فرق النماذج اللغوية الكبيرة (LLM) بشكل منهجي، مع تسليط الضوء على كيفية توجيه المفاهيم الأساسية من الحوسبة الموزعة لتحسين أداء الوكلاء المتعددين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول بناء قلعة رملية ضخمة ومعقدة. يمكنك محاولة القيام بذلك بمفردك، لكن ليس لديك سوى يدين، وقد تتعب أو ترتكب خطأً. لذا، تقرر استئجار فريق من الأصدقاء لمساعدتك.
هذه الورقة البحثية تتحدث عن نماذج اللغات الكبيرة (LLMs) — وهي العقول الاصطناعية التي تقف وراء برامج الدردشة الآلية — وتطرح سؤالاً بسيطاً: هل من الأفضل امتلاك ذكاء اصطناعي واحد فائق الذكاء، أم فريق كامل منهم يعملون معاً؟
يجادل المؤلفون بأننا لا ينبغي أن نعتمد على التخمين أو تجربة تركيبات عشوائية. بدلاً من ذلك، يجب أن ننظر إلى كيفية قيام مهندسي الكمبيوتر ببناء مزارع خوادم ضخمة (مثل تلك التي تشغل Google أو Amazon) لحل هذه المشكلة. وهم يسمون هذا النهج بالنظر إلى فرق الذكاء الاصطعي كـ "أنظمة موزعة" (Distributed Systems).
إليك تفصيل ذلك باستخدام تشبيهات بسيطة:
1. الفكرة الجوهرية: "فريق من العمال" مقابل "العامل الخارق"
- الطريقة القديمة: كنا نعتقد: "إذا كان ذكاء اصطناعي واحد جيداً، فإن 10 أذكياء اصطناعيين سيكونون أفضل بـ 10 أضعاف!"
- الرؤية الجديدة: يقول المؤلفون: "ليس بهذه السرعة". تماماً كما في المكتب الحقيقي، فإن إضافة المزيد من الأشخاص لا يعني دائماً إنجاز المزيد من العمل بشكل أسرع. أحياناً، يعني ذلك فقط المزيد من الاجتماعات، والمزيد من الجدالات، والمزيد من الارتباك.
- التشبيه: فكر في مطبخ.
- الوكيل المنفرد (Single Agent): شيف ماهر واحد يطبخ وجبة كاملة. يستغرق الأمر وقتاً طويلاً، لكنه يعرف تماماً ما يفعله.
- فريق الذكاء الاصطناعي (LLM Team): عشرة طهاة يحاولون طبخ نفس الوجبة. إذا لم يكن لديهم خطة، فقد يحاول جميعهم تقطيع البصل في نفس الوقت، أو يصطدمون ببعضهم البعض، أو قد يرمي أحد الطهاة الحساء الذي أعده طاهٍ آخر للتو.
2. قواعد اللعبة (قواعد "الأنظمة الموزعة")
تقول الورقة إن فرق الذكاء الاصطناعي تواجه نفس المشكلات التي تواجهها شبكة من أجهزة الكمبيوتر. وقد حددوا أربع قواعد رئيسية:
- الاستقلالية (العامل "الأعمى"): كل ذكاء اصطناعي يعرف فقط ما يُقال له. ليس لديه "عقل عالمي" يرى كل شيء. إذا كان الشيف (أ) يقطع الجزر، فقد لا يعرف الشيف (ب) أن الشيف (أ) قد انتهى للتو، لذا قد يبدأ الشيف (ب) في تقطيعها مرة أخرى.
- التواصل (الثرثار): يجب على أجهزة الذكاء الاصطناعي التحدث مع بعضها البعض للتنسيق. وهذا يستغرق وقتاً ويكلف مالاً (في شكل "Tokens"، وهي تشبه دفع ثمن كل كلمة يقولونها).
- التزامن (ازدحام المرور): الجميع يعملون في نفس الوقت. هذا أمر رائع للسرعة، ولكن إذا حاول اثنان من أجهزة الذكاء الاصطناعي تعديل نفس المستند في نفس الوقت، فسيقوم أحدهما بالكتابة فوق عمل الآخر.
- القابلية للخطأ (الأخطاء): أجهزة الذكاء الاصطناعي تكذب أحياناً (الهلوسة) أو تتعثر. في الفريق، إذا ارتكب جهاز ذكاء اصطناعي خطأً، فيمكن أن ينتشر إلى الآخرين مثل الإشاعة.
3. التجارب: ماذا حدث عندما جربوا ذلك؟
أجرى الباحثون اختبارات حيث كان على فرق الذكاء الاصطناعي كتابة أكواد برمجية (مثل بناء مجموعة ليغو رقمية). وقارنوا بين طريقتين لتنظيم الفريق:
أ. الفريق "المُعين مسبقاً" (المركزي - Centralized)
- كيف يعمل: يقوم مدير (أو نص برمجي) بقول: "أنت تقوم بالجدران، أنت تقوم بالسقف، أنت تقوم بالنوافذ".
- النتيجة: نجح هذا الأمر جيداً للمهام البسيطة والمستقلة. كان سريعاً ونظيفاً.
- العيب: إذا تعثر العامل المسؤول عن "السقف" أو كان بطيئاً، فعلى الفريق بأكمله الانتظار. هذا ما يسمى بـ "المتلكئ" (Straggler). إنه يشبه سباق التتابع حيث يتوقف الفريق بأكمله لأن أحد العدائين ربط حذاءه.
ب. الفريق "ذاتي التنسيق" (اللامركزي - Decentralized)
- كيف يعمل: تتحدث أجهزة الذكاء الاصطناعي مع بعضها البعض وتقول: "سآخذ الجدران"، "لا، أنا سأفعل الجدران"، "حسناً، سأفعل السقف".
- النتيجة: كانت فوضوية.
- الكثير من الكلام: قضوا الكثير من الوقت في الجدال حول من يفعل ماذا بدلاً من القيام بالعمل.
- النزاعات: حاول جهازي ذكاء اصطناعي كتابة نفس الملف، مما أدى إلى حذف تقدم كل منهما للآخر.
- التكلفة: استخدموا أموالاً أكثر بكثير (Tokens) للتحدث مما وفروا في الوقت.
- الخبر الجيد: إذا تعثر أحد أجهزة الذكاء الاصطناعي، يمكن للآخرين التدخل والمساعدة. لقد كان أكثر مرونة، ولكنه كان أكثر فوضى بكثير.
4. الدرس الكبير: "قانون أمدهال" (Amdahl's Law)
تستخدم الورقة قاعدة شهيرة من علوم الكمبيوتر تسمى قانون أمدهال.
- التشبيه: تخيل أنك تدهن منزلاً. يمكنك دهن الجدران بـ 10 أشخاص (بسرعة!)، لكن يمكنك دهن السقف بشخص واحد فقط (ببطء).
- النقطة المستفادة: بغض النظر عن عدد الأشخاص الذين تضيفهم، فإن الجزء الأبطأ من المهمة هو الذي يحدد مدى سرعة الفريق بأكمله.
- بالنسبة للذكاء الاصطناعي: إذا كانت المهمة تتطلب خطوات يتم تنفيذها بترتيب معين (مثل كتابة قصة حيث يعتمد الفصل الثاني على الفصل الأول)، فإن إضافة المزيد من أجهزة الذكاء الاصطناعي لن يجعل الأمر أسرع بكثير. ستجد فقط المزيد من أجهزة الذكاء الاصطناعي تنتظر حول.
5. لماذا يهم هذا؟ (ما الفائدة؟)
إذا قمنا فقط بإلقاء المزيد من أجهزة الذكاء الاصطناعي على مشكلة ما دون خطة، فإننا نخاطر بـ:
- إضاعة المال: قد ننفق 10 أضعاف المال على قدرة الكمبيوتر لمجرد الحصول على نفس النتيجة.
- خلق الأخطاء: قد يتفق أجهزة الذكاء الاصطناعي مع بعضهم البعض على الإجابة الخاطئة (مثل مجموعة من الأصدقاء يتفقون جميعاً على القيادة في الاتجاه الخاطئ لأنهم مهذبون للغاية لدرجة تمنعهم من الجدال).
- عدم الكفاءة: قد يقضي الفريق وقتاً في الكلام أكثر من العمل.
الخلاصة
يقول المؤلفون: "لا تبنوا فريقاً من أجهزة الذكاء الاصطناعي لمجرد أن الأمر يبدو رائعاً. صمموهم كطاقم بناء مدار جيداً."
- إذا كانت الوظيفة بسيطة ويمكن تقسيمها (مثل دهن 100 سياج منفصل)، استخدم فريقاً كبيراً.
- إذا كانت الوظيفة معقدة وتتطلب ترتيباً صارماً (مثل بناء صاروخ)، فقد يكون فريق أصغر مُدار أو حتى خبير واحد أفضل.
- يجب أن نتوقف عن التخمين ونبدأ في استخدام قواعد الأنظمة الموزعة لبناء فرق ذكاء اصطناعي سريعة، رخيصة، وتنجز المهمة بالفعل.
باختصار: الأدمغة الأكثر لا تعني دائماً فريقاً أذكى؛ أحياناً تعني فقط ضجيجاً أكثر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.