Simthesizer: An Agent-Driven Simulation Framework for LLM Serving Systems
تقدم هذه الورقة Borg، وهو إطار عمل مدفوع بالوكلاء يستخدم رسماً بيانياً ديناميكياً قابلاً للتركيب ووكيل برمجة لتطوير محاكي موحد لخدمة النماذج اللغوية الكبيرة تلقائياً، مما يقلل بشكل كبير من وقت التطوير ويحسن دقة الإنتاجية مقارنة بالأدوات الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، أصبحت النماذج اللغوية الكبيرة أدوات قوية قادرة على كتابة الأكواد، وحل المشكلات المعقدة، وإجراء المحادثات. ومع ذلك، فإن تشغيل هذه النماذج ليس ببساطة الضغط على زر؛ بل يتطلب نظاماً متطوراً لإدارة تدفق المعلومات، وتحديد أي الطلبات يجب معالجتها أولاً، وتخصيص قدرات الحوسبة بكفاءة. هذا المجال، المعروف باسم "الخدمة" (serving)، هو غرفة المحركات التي تبقي هذه الأنظمة الذكية تعمل بسلاسة لملايين المستخدمين. ولأن التكنولوجيا تتطور بسرعة خاطفة، مع ظهور نماذج وأساليب جديدة باستمرار، لا يمكن للمهندسين دائماً الانتظار لبناء آلات مادية لاختبار أفكارهم. بدلاً من ذلك، يعتمدون على عمليات المحاكاة الحاسوبية — وهي مختبرات افتراضية حيث يمكنهم التنبؤ بكيفية أداء تصميم نظام جديد قبل إنفاق ملايين الدولارات على الأجهزة.
لسنوات، بُنيت هذه المختبرات الافتراضية كبنى صلبة ومسبقة الصنع. كان الباحثون يبرمجون يدوياً كل سيناريو ممكن في خط معالجة واحد وثابت. نجح هذا الأمر عندما كانت التكنولوجيا تتغير ببطء، لكن مشهد الذكاء الاصطناعي قد تغير بشكل جذري. فقد ظهرت طرق جديدة لاستخدام هذه النماذج، مثل سير العمل "الوكيل" (agentic) حيث يؤدي طلب واحد إلى سلسلة من القرارات المتعددة واستدعاء الأدوات، أو الأنظمة "المفككة" (disaggregated) حيث تتم أجزاء مختلفة من المعالجة على آلات منفصلة. هذه السلوكيات الحديثة لا تتناسب مع خطوط المعالجة القديمة والجامدة. وفي كل مرة تظهر فيها ميزة جديدة، كان على المهندسين تفكيك المحاكي وإعادة بنائه من الصẫu، وهي عملية بطيئة وعرضة للأخطاء جعلت النماذج الافتراضية تتخلف عن الأنظمة الحقيقية التي كان من المفترض أن تمثلها.
قدم فريق من الباحثين في جامعة KAIST في كوريا الجنوبية نهجاً جديداً لحل هذه المشكلة، يسمى Simthesizer. فبدلاً من بناء محاكي جديد لكل ميزة جديدة، ابتكروا إطار عمل مرناً يسمح لبرنامج حاسوبي بكتابة المحاكي نفسه. وفي قلب هذا النظام، توجد خريطة ديناميكية لسير العمل، حيث كل خطوة في العملية هي "عقدة" يمكن إضافتها، أو إزالتها، أو إعادة ترتيبها في أي وقت. هذه الخريطة ليست ثابتة؛ بل هي هيكل حي يمكن أن ينمو لاستيعاب الأساليب الجديدة دون أن ينهار النظام بأكمله. ولإنجاح ذلك، استخدم الباحثون "وكيل برمجة"، وهو مساعد ذكاء اصطناعي متخصص يعمل كبناء. فعندما يطلب باحث ميزة جديدة، يقرأ الوكيل الطلب، ويفهم قواعد المحاكاة، ويكتب الكود اللازم لدمجه في الخريطة.
تتم عملية التوجيه عبر ضوابط صارمة لضمان عدم وقوع الوكيل في الأخطاء. يتطلب النظام من الوكيل أولاً كتابة مواصفات واضحة لما يجب أن تفعله الميزة الجديدة، ثم رسم مسار دقيق لمكان ملاءمتها في الهيكل الحالي، وأخيراً كتابة الكود. وقبل قبول الميزة الجديدة، يتحقق النظام من عملها مقابل بيانات من العالم الحقيقي أو أدلة قائمة لضمان تصرفها بشكل صحيح. تسمح هذه الطريقة للمحاكي بالتطور بنفس سرعة التكنولوجيا التي يحاكيها. وفي اختباراتهم، طلب الباحثون من الوكيل إضافة ثلاث ميزات معقدة إلى المحاكي: طريقة لضغط استخدام الذاكرة، وتقنية لتسريع توليد النصوص عن طريق تخمين الكلمات التالية، ودعم نوع جديد من بنية النماذج. وقد نجح الوكيل في بناء هذه التوسعات، وكانت عمليات المحاكاة الناتجة دقيقة بشكل ملحوظ.
وعندما قارن الباحثون أداء عمليات المحاكاة الجديدة هذه مقابل الأنظمة الحقيقية التي تعمل على أجهزة فعلية، كانت النتائج مذهلة. فقد طابقت التوسعات المبنية باستخدام هذا الإطار الجديد معدل الإنتاجية في العالم الحقيقي بمتوسط خطأ قدره 2.51 بالمائة فقط. وفي المقابل، عندما حاول نفس وكيل البرمجة إضافة الميزات نفسها إلى المحاكيات الموجودة باستخدام طرقهم القديمة والجامدة، ارتفع معدل الخطأ إلى 6.03 بالمائة. لم يكن النظام الجديد أكثر دقة فحسب، بل كان أيضاً أسرع بشكل كبير؛ فقد أجرى عمليات محاكاة أسرع بمقدار يصل إلى 284.96 مرة من أحد المنافسين الرائدين، وبمقدار 23.19 مرة من منافس آخر. وتأتي هذه السرعة من حقيقة أن النظام الجديد لا يحتاج إلى إعادة تشغيل محرك المحاكاة بالكامل لكل تغيير صغير؛ بل يقوم ببساطة بتحديث الجزء المحدد من الخريطة الذي يحتاج إلى التغيير.
أثبت الباحثون أن هذا النهج يعمل مع أنواع مختلفة من وكلاء البرمجة، وليس فقط الوكيل الذي استخدموه في البداية، مما يشير إلى أن الطريقة قوية وقابلة للتعميم. ومن خلال الجمع بين بنية تحتية مرنة وقابلة للتركيب وبين بناء مؤتمت، يجسّر Simthesizer الفجوة بين التطور السريع للذكاء الاصطناعي والأدوات المستخدمة لدراسته. إنه يقدم وسيلة لمواكبة مجال يتغير بسرعة أكبر مما يمكن للمهندسين البشريين تحديث أدواتهم يدوياً، مما يضمن بقاء النماذج الافتراضية المستخدمة لتصميم مستقبل الحوسبة دقيقة، وموثوقة، وجاهزة لما سيأتي لاحقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.