Pre-Compiled Pipeline Shards for Distributed LLM Inference on Intel AI PC Fleets
تقدم هذه الورقة نظام استنتاج موزع يستفيد من أجزاء خطوط معالجة OpenVINO مسبقة التجميع عبر أجهزة كمبيوتر متعددة خاملة تعمل بمعالجات Intel AI PC لتمكين التنفيذ بسرعة تفاعلية للنماذج اللغوية الكبيرة (تصل إلى 70 مليار معلمة) التي تتجاوز حدود ذاكرة الجهاز الواحد، محققةً إنتاجية عالية من خلال دمج الرسوم البيانية المحسّن، وفك التشفير التخميني، وتداخل الطلبات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الحوسبة الحديثة، ظهر نوع جديد من الحواسيب الشخصية، مدعوم بمعالجات قوية مصممة خصيصاً للذكاء الاصطناعي. هذه الآلات، التي توجد غالباً في أجهزة كمبيوتر محمولة أنيقة، تحتوي على رقائق متخصصة يمكنها تشغيل نماذج لغوية كبيرة — وهي برامج قادرة على الكتابة، والاستنتاج، والمحادثة. ومع ذلك، فإن الآلة الواحدة لها حد أقص_ي: ذاكرتها صغيرة جداً بحيث لا تستطيع استيعاب "الدماغ" الضخم لأكثر النماذج تقدماً، والتي تتطلب مساحة تخزين أكبر بكثير مما يمكن لأي جهاز واحد توفيره. تقليدياً، لتشغيل هذه النماذج العملاقة، كان على المستخدمين الاعتماد على خوادم سحابية بعيدة ومكلفة، حيث يرسلون أسئلتهم عبر الإنترنت وينتظرون الرد. وهذا يخلق تبعية للبنية التحتية الخارجية ويثير مخاوف بشأن خصوصية البيانات، حيث يجب أن تخرج المعلومات الحساسة من الجهاز المحلي. وكان السؤال الذي يواجه الباحثين هو ما إذا كان بإمكان مجموعة من هذه الحواسيب الشخصية العادية والخاملة أن تعمل معاً، متصلة بشبكة مكتبية قياسية، لتشغيل نموذج أكبر من أن يستوعبه أي جهاز منها بمفرده، كل ذلك مع الحفاظ على بقاء البيانات محلية وسرعة الاستجابة كافية لإجراء محادثة حقيقية.
لقد شرع فريق من الباحثين في الإجابة على هذا من خلال بناء نظام يقسم نموذج ذكاء اصطناعي كبير إلى قطع أصغر، ويخصص قطعة واحدة لكل جهاز في أسطول صغير. تخيل كتاباً ضخماً ثقيلاً جداً بحيث لا يستطيع شخص واحد حمله؛ بدلاً من محاولة رفعه بمفرده، يقف مجموعة من الأشخاص في خط، يحمل كل منهم فصلاً. وبينما تسير القصة، يقرأ الشخص الأول فصله ثم يمرر السياق إلى التالي، الذي يقرأ فصله، وهكذا، حتى ينهي الشخص الأخير الجملة. في هذا النظام، تكون "الفصول" هي طبقات نموذج الذكاء الاصطناعي، وتحدث عملية "التمرير" عبر اتصال شبكة قياسي. واكتشف الباحثون أن مجرد تقسيم النموذج بهذه الطريقة لم يكن كافياً؛ إذ كانت عملية التسليم بين الحواسيب بطيئة للغاية، وكانت عملية التحقق من العمل غير منظمة، مما جعل النظام بطيئاً. ولإصلاح ذلك، طوروا ثلاث تقنيات محددة حولت إعداداً تجريبياً بطيئاً إلى أداة سريعة وقابلة للاستخدام.
تضمن الاختراق الأول تغييراً طفيفاً في كيفية إعداد قطع النموذج قبل تشغيلها حتى. فعندما قام الباحثون في البداية بتصدير طبقات النموذج لتشغيلها على شريحة الرسوميات الخاصة بالكمبيوتر، أغفل البرنامج تحسيناً حاسماً عادة ما يزيد السرعة. ومن خلال حقن تعليمات بسيطة ومحددة في كود كل قطعة، أطلقوا العنان لكفاءة خفية في معالج الرسوميات. سمح هذا التعديل الصغير للقطع المقسمة بالعمل بسرعة تقارب سرعة النموذج الأصلي غير المقسم الذي يعمل على جهاز واحد. وبدون هذا الإصلاح، كان النظام أبطأ بكثير، ولكن مع وجوده، تلاشت فجوة الأداء تقريباً، مما أثبت إمكانية تقسيم النموذج دون التضحية بالسرعة.
أما التحدي الثاني، فكان التعامل مع عملية "المسودة" المستخدمة لتسريع تفكير الذكاء الاصطناعي. عادةً، يقوم نموذج أصغر وأسرع بتخمين الكلمات القليلة التالية، ثم يقوم النموذج الرئيسي بالتحقق منها. وإذا كان التخمين خاطئاً، يجب على النموذج الرئيسي التخلص من التخمين الخاطئ والبدء من جديد. وفي الرقائق المتخصصة المستخدمة في هذه الحواسيب، كانت الطريقة القياسية للتخلص من التخمين الخاطئ بطيئة للغاية، حيث تستغرق قرابة نصف ثانية لكل تصحيح — وهو وقت كافٍ لإفساد تدفق المحادثة. وجد الباحثون حلاً ذكياً: بدلاً من حذف التخمينات الخاطئة فعلياً من ذاكرة الكمبيوتر، قاموا ببساطة بإخبار الذكاء الاصطناعي بتجاهلها. ومن خلال تحديد التخمينات غير الصحيحة كبيانات غير مرئية في الخلفية، حقق النظام نفس النتيجة تماماً كما لو تم حذفها، ولكن في جزء من الثانية. سمح هذا للنظام باستخدام تقنية المسودة الأسرع دون تحمل العقوبة، مما جعل الذكاء الاصطناعي يبدو أكثر استجابة.
أتاح الابتكار الثالث للنظام خدمة عدة أشخاص في آن واحد. في الإعداد القياسي، بينما يعمل أحد الحواسيب في الخط، غالباً ما تظل الحواسيب الأخرى خاملة بانتظار دورها. صمم الباحثون طريقة تسمح للحواسيب بالتعامل مع طلبات مستخدمين مختلفين في وقت واحد. فبينما كان أحد الحواسيب ينهي جملة للمستخدم (أ)، كان الحاسوب التالي في الخط يمكنه بالفعل البدء في جملة للمستخدم (ب). هذا التداخل في المهام أبقى كل آلة في الأسطول مشغولة، مما أدى فعلياً إلى مضاعفة السرعة الإجمالية للمجموعة. وعند دمجه مع الإصلاحين الآخرين، سمح هذا النهج لأسطول من حاسوبين بخدمة مستخدمين بسرعة تقارب ضعف سرعة خدمة حاسوب واحد لمستخدم واحد بمفرده.
تم قياس النتائج على أسطول من ثلاثة أجهزة كمبيوتر محمولة عالية الأداء متصلة بشبكة Wi-Fi قياسية. وفي الاختبارات، قام إعداد مكون من حاسوبين يشغل نموذجاً شهيراً بـ 8 مليارات معلمة بخدمة مستخدمين بمعدل يقارب 44 كلمة في الثانية، وهو معدل كافٍ لإجراء محادثة طبيعية وتفاعلية. كان هذا أسرع بمقدار 1.79 مرة من حاسوب واحد يشغل نفس النموذج لمستخدم واحد فقط. والأكثر إثارة للإعجاب، أنه عندما قام الباحثون بمحاكاة اتصال إنترنت بطيء وبعيد المدى، ظل النظام قابلاً للاستخدام، بينما أصبح الإصدار غير المحسن من نفس الإعداد بطيئاً للغاية لدرجة تجعل استخدامه غير عملي. كما نجح النظام في التوسع لتشغيل نموذج ضخم بـ 70 مليار معلمة، وهو حجم لا يمكن لأي حاسوب واحد في الأسطول استيعابه بمفرده. ومن خلال تقسيم هذا النموذج العملاق عبر أربعة حواسيب، حقق الفريق سرعات تفاعلية، مما أثبت أن مجموعة من الأجهزة الاستهلاكية يمكنها التعامل مع مهام كانت مخصበة سابقاً لمراكز البيانات الضخمة.
كما استكشفت الدراسة كيفية سلوك هذا النظام تحت ظروف مختلفة. ووجدوا أن سرعة الشبكة كانت أقل أهمية من كفاءة عمليات التسليم بين الحواسيب. فعندما كان الاتصال بطيئاً، عوض النظام ذلك بمعالجة المزيد من الكلمات دفعة واحدة في تمريرة واحدة، مما أدى إلى تنعيم التأخيرات. كما اختبروا النظام على اتصال شبكة واسعة النطاق حقيقي عبر الإنترنت، حيث أكدت النتائج أنه مع التحسينات الصحيحة، يمكن للأسطول الحفاظ على سرعة محادثة ثابتة حتى عندما تكون الحواسيب بعيدة عن بعضها البعض. وأشار الباحثون إلى أنه بينما يعمل النظام بشكل جيد، فإنه يعتمد على كون الحواسيب في بيئة موثوقة، حيث إنه لا يتضمن ميزات أمان مدمجة مثل التشفير أو المصادقة. علاوة على على ذلك، لاحظوا أن الحرارة الفيزيائية الناتجة عن الحواسيب أثناء الاستخدام المستمر يمكن أن تؤدي في النهاية إلى إبطائها، وهو عامل يجب إدارته في حالة النشر في العالم الحقيقي.
في نهاية المطاف، يوضح هذا العمل أن الحاجز أمام تشغيل الذكاء الاصطناعي القوي ليس مجرد الأجهزة، بل كيفية استخدام تلك الأجهزة. فمن خلال إعادة التفكير في كيفية تقسيم النماذج، وكيفية تصحيح الأخطاء، وكيفية خدمة مستخدمين متعددين، يمكن لمجموعة صغيرة من الحواسيب العادية أن تعمل كآلة واحدة قوية. لقد أتاح الباحثون الكود والبيانات الخاصة بهم للجمهور، مما يسمح للآخرين بالتحقق من النتائج والبناء على هذا النظام. وتشير النتائج إلى أنه في المستقبل القريب، يمكن للمؤسسات تشغيل مجموعات ذكاء اصطناي خاصة وعالية السرعة باستخدام الحواسيب التي تمتلكها بالفعل، مما يحافظ على بقاء البيانات محلية ويقلل الاعتماد على الخدمات السحابية الخارجية. لقد أثبت النظام أنه مع البرمجيات الصحيحة، يمكن تسخير القوة الجماعية لأسطول من الآلات الخاملة لحل مشكلات كانت تُعتبر ذات يوم تتطلب حاسوباً فائق القدرة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.