HYDRA: A Heterogeneous Chiplet DSE Framework for Serving Dynamic Hybrid LLM Workloads
تقدم هذه الورقة البحثية HYDRA، وهو إطار عمل شامل لاستكشاف فضاء التصميم يعمل على تحسين بنيات الرقائق المتغايرة وسياسات وقت التشغيل الديناميكية بشكل مشترك لزيادة الإنتاجية وتقليل زمن الاستجابة بشكل كبير لخدمة نماذج اللغات الكبيرة الهجينة من نوع Transformer-Mamba.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
يعمل العالم الحديث بنوع جديد من الذكاء الرقمي، وهي النماذج اللغوية الكبيرة التي يمكنها كتابة القصص، وحل المشكلات، وإجراء المحادثات. لقد نمت هذه الأنظمة لتصبح ضخمة للغاية لدرجة أن الرقائق الحاسوبية المصممة لتشغيلها باتت تكافح لمواكبة هذا النمو. لسنوات، اعتمدت الصناعة على معالج واحد ضخم للتعامل مع كل مهمة، ولكن مع زيادة تعقيد هذه النماذج، يصطدم هذا النهج بحائط مسدود؛ إذ تصبح الرقائق مكلفة للغاية في التصنيع، وساخنة للغاية في التبريد، وبطيئة ببساطة في إدارة المزيج الفوضوي من المهام المطلوبة لخدمة ملايين المستخدمين في آن واحد. ولحل هذه المشكلة، يتجه المهندسون إلى نهج معياري، عبر تقسيم الحاسوب إلى قطع أصغر ومتخصصة تسمى "الشرائح المجمعة" (chiplets). تخيل مركبة عالية الأداء حيث المحرك وناقل الحركة وخزان الوقود عبارة عن وحدات منفصلة ومحسنة يمكن استبدالها أو إعادة ترتيبها، بدلاً من كونها كتلة واحدة من المعدن غير قابلة للتغيير. يتيح هذا نظاماً أكثر مرونة وكفاءة، ولكنه يطرح مشكلة جديدة: وهي تحديد كيفية ترتيب هذه القطع بدقة وكيفية إدارة تدفق البيانات بينها، وهو لغز في غاية الصعوبة.
لقد طور الباحثون إطار عمل جديداً يسمى HYDRA لحل هذا اللغز. وهو أداة متطورة مصممة لاستكشاف العدد الهائل من الطرق التي يمكن بها تجميع هذه الرقائق المعيارية وكيفية إدارتها أثناء التشغيل. التحدي يكمن في أن عدد الترتيبات الممكنة ضخم جداً لدرجة أن اختبارها جميعاً واحداً تلو الآخر سيستغرق سنوات، حتى باستخدام أجهزة كمبيوتر قوية. علاوة على ذلك، فإن العمل الذي تقوم به هذه النماذج ليس ثابتاً؛ بل يتغير باستمرار اعتماداً على ما يطلبه المستخدمون. فأحياناً يحتاج النظام إلى قراءة مستند طويل بسرعة، وأحياناً أخرى يحتاج إلى توليد استجابة كلمة بكلمة. هذه المراحل المختلفة تتطلب موارد مختلفة، ومزيج الطلبات الواردة من المستخدمين غير متوقع. إذا لم يتم ضبط النظام بدقة، فإنه يهدر الطاقة والوقت، مما يترك المستخدمين في حالة انتظار.
ابتكر الفريق المسؤول عن HYDRA طريقة للتنقل عبر هذا التعقيد دون الحاجة إلى اختبار كل الاحتمالات الممكنة. فبدلاً من محاولة محاكاة كل تفصيل من كل تصميم محتمل، وهو أمر بطيء ومرهق، قاموا ببناء مُقدّر ذكي وسريع. تعمل هذه الأداة مثل ملاح ماهر، حيث تمسح بسرعة مشهد التصميمات المحتملة للعثور على المسارات الأكثر واعداً. وهي تستخدم نهجاً رياضياً يعتمد على كيفية انتقال النظام بين حالات النشاط المختلفة، مما يسمح لها بالتنبؤ بالأداء في دقائق بدلاً من أسابيع. وبمج-بمج تحديد أفضل المرشحين بواسطة هذه الأداة، يقوم الباحثون بعد ذلك بإجراء عمليات محاكاة تفصيلية وأبطأ على تلك الخيارات المختارة فقط للتأكد من أنها تعمل كما هو متوقع. تسمේ هذه العملية المكونة من خطوتين باستكشاف مساحة تصميم كانت في السابق أكبر من أن يتم التعامل معها، مما يؤدي إلى إيجاد تكوينات توازن بين السرعة والكفاءة بطرق لم تكن واضحة من قبل.
إن نتائج هذا الاستكشاف كبيرة. فعندما اختبر الباحثون أفضل تصميماتهم مقابل الأنظمة الأكثر تقدماً الحالية، وجدوا أن النهج الجديد يمكنه التعامل مع 1.55 ضعف كمية العمل في نفس الوقت. وفي الوقت نفسه، انخفض الوقت الذي يستغرقه المستخدم لتلقي كلمته الأولى من الاستجابة بنسبة تقرب من النصف. وفي بعض السيناريوهات المحددة، كان التحسن أكثر دراماتيكية، حيث تعامل النظام مع أكثر من ضعف عبء العمل مقارنة بالطرق السابقة. تأتي هذه المكاسب من التصميم المشترك الدقيق للأجهزة والبرمجيات التي تشغلها. فقد وجد الباحثون أن مجرد إضافة المزيد من الطاقة ليس كافياً؛ بل يجب ترتيب النظام بحيث تكون القطع الصحيحة قريبة من البيانات التي تحتاجها، ويجب أن تكون البرمجيات مرنة بما يكفي لتحويل الموارد فور تغير نوع العمل.
يكمن الاكتشاف الرئيسي في هذا العمل في أن ترتيب المكونات المادية يهم بقدر أهمية المكونات نفسها. فقد طور الباحثون استراتيجية لوضع الشرائح المجمعة المختلفة على اللوحة السيليكونية بناءً على مدى حاجتها للتواصل مع بعضها البعض. ومن خلال تجميع القطع التي تتواصل بشكل متكرر في مكان أقرب، نجحوا في تقليل الوقت الذي تقضيه البيانات في التنقل عبر النظام. هذا التوزيع الواعي لعملية الاتصال، جنباً إلى جنب مع طريقة ديناميكية لتجميع طلبات المستخدمين، سمح للنظام بالعمل بسلاسة أكبر. فالبرمجيات لا تنتظر وصول دفعة كاملة من الطلبات قبل بدء العمل، بل تقبل الطلبات الجديدة بمجرد توفر الموارد، مما يبقي النظام مشغولاً وفعالاً باستمرار. هذه المرونة حاسمة لأنها تمنع النظام من الجمود أثناء انتظار المجموعة التالية من المستخدمين.
كما بحثت الدراسة في مدى كفاءة هذه التصميمات في حال تغير نوع النموذج المستخدم. فقد اختبروا تكوينات محسنة لنموذج محدد واحد مقابل نماذج أخرى مختلفة، ووجدوا أن التصميم الذي بُني لنموذج واحد محدد يعمل بشكل سيئ عند مطالبته بتشغيل نموذج مختلف. ومع ذلك، فإن التصميم الذي تم تحسينه للتعامل مع مزيج من النماذج المختلفة كان يعمل بكفاءة تقارب تلك النماذج المتخصصة في مهامها الخاصة، مع بقائه قوياً عند مواجهة نماذج جديدة وغير مرئية. يشير هذا إلى أنه بالنسبة لنظام يهدف لخدمة العديد من المستخدمين والتطبيقات، فإن التصميم المرن متعدد الأغراض أكثر قيمة من التصميم شديد التخصص؛ فهو يوفر شبكة أمان تضمن بقاء النظام فعالاً حتى مع تطور أنواع الذكاء الاصطناعي التي يدعمها.
في نهاية المطاف، يوضح هذا العمل أن مستقبل تشغيل النماذج اللغوية الكبيرة يكمن في الشراكة بين بنية الأجهزة وإدارة البرمجيات. لا يمكنك مجرد بناء شريحة أسرع وتوقع أن تحل المشكلة؛ بل يجب عليك أيضاً بناء طريقة أذكى لإدارة تدفق المعلومات عبر تلك الشريحة. يوفر إطار عمل HYDRA مخططاً لهذا التصميم المشترك، موضحاً أنه من خلال التفكير بعناية في كيفية توافق القطع مع بعضها البعض وكيفية إدارتها في الوقت الفعلي، فمن الممكن بناء أنظمة أسرع وأكثر كفاءة بشكل ملحوظ. لقد أتاح الباحثون أدواتهم للآخرين، آملين في تسريع تطوير الجيل القادم من أنظمة الحوسبة التي ستدعم الذكاء الاصطناعي في المستقبل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.