Orion: Characterizing and Programming Apple's Neural Engine for LLM Training and Inference
تقدم هذه الورقة نظام Orion، وهو أول نظام مفتوح المصدر ومتكامل (end-to-end) يتجاوز إطار عمل CoreML الغامض الخاص بشركة Apple لتمكين البرمجة المباشرة للمحرك العصبي (Neural Engine) لتدريب واستنتاج النماذج اللغوية الكبيرة، محققاً تسريعاً بمقدار 8.5 ضعفاً في تحديثات الأوزان من خلال آلية رقع (patching) مبتكرة، ومثبتاً استقرار تدريب نماذج ذات 110 مليون معلمة على شرائح Apple Silicon.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك ذراعاً آلياً متخصصاً وفائق القوة في مطبخك (محرك أبل العصبي - Apple Neural Engine أو ANE). هذا الذراع الآلي سريع للغاية في تقطيع الخضروات وخلط العجين (العمليات الرياضية للذكاء الاصطناعي). لقد وضعت شركة أبل هذا الذراع الآلي في أكثر من ملياري جهاز (آيفون، ماك، وآيباد).
ومع ذلك، لفترة طويلة، لم يكن أحد يعرف كيف يتحدث إلى هذا الذراع الآلي مباشرة. كان دليل التعليمات الرسمي لأبل (CoreML) يشبه "الصندوق الأسود": يمكنك أن تطلب منه "صنع كعكة"، لكن لا يمكنك إخباره بالضبط كيف يحرك أصابعه، وبالتأكيد لا يمكنك تعليمه وصفات جديدة أثناء العمل.
أوريون (Orion) هو "مترجم" و"نظام تحكم" جديد مفتوح المصدر يتيح للمطورين التحدث مباشرة إلى هذا الذراع الآلي لتدريب وتشغيل عقول ذكاء اصطناعي ضخمة (نماذج اللغات الكبيرة - LLMs) مباشرة على جهازك.
إليك كيف يعمل "أوريون"، مقسماً باستخدام تشبيهات بسيطة:
1. المشكلة: معضلة "الكعكة المخبوزة"
في عالم الذكاء الاصطناعي، "التدريب" يعني أن الكمبيوتر يتعلم عن طريق تعديل إعداداته الداخلية (الأوزان) مراراً وتكراراً.
- الطريقة القديمة: يعمل ذراع أبل الآلي مثل قالب كعك مخصص. بمجرد صب الخليط (نموذج الذكاء الاصطناعي) في القالب وخبزه (تجميع البرنامج)، يصبح الشكل ثابتاً. إذا أردت تغيير الوصفة (تحديث الأوزان)، عليك التخلص من القالب بالكامل، وشراء قالب جديد، وخبز كعكة جديدة.
- النتيجة: في كل مرة يتعلم فيها الذكاء الاصطناعي شيئاً بسيطاً، كان النظام يضطر للتوقف، والتخلص من القالب، والبدء من جديد. استغرق هذا حوالي 4.2 ثانية لكل خطوة. وبما أن التدريب يتطلب آلاف الخطوات، فقد كان الأمر بطيئاً بشكل مؤلم.
2. الاختراق: "التجميع الجزئي" (الرقعة الجراحية)
اكتشف فريق "أوريون" خدعة سرية. أدركوا أنه على الرغم من أن "القالب" قد تم خبزه، إلا أنه يمكن استبدال المكونات بداخله إذا عرفت كيفية فتح باب الفرن دون كسر الكعكة.
- التشبيه: تخيل أن الكعكة قد خُبزت بالفعل، لكن حبيبات الشوكولاتة بداخلها هي "الأوزان". بدلاً من خبز كعكة جديدة بالكامل لتغيير حبيبات الشوكولاتة، يقوم "أوريون" بتفريغ الكعكة، واستبدال الحبيبات على الطاولة، ثم إعادة تحميل الكعكة.
- النتيجة: هذه "الرقعة الجراحية" تستغرق 0.5 ثانية فقط بدلاً من 4.2 ثانية. إنها أسرع بـ 8.5 مرة. لقد حول هذا الأمر جلسة تدريب مدتها ساعة واحدة إلى 22 دقيقة فقط.
3. المترجم: المجمّع (The Compiler)
يتحدث الذراع الآلي لغة غريبة وسرية للغاية (لغة MIL) لا تفهمها الحواسيب العادية.
- التشبيه: يعمل "أوريون" مثل مترجم فائق الذكاء. أنت تكتب كود الذكاء الاصطناعي الخاص بك بلغة تفهمها (مثل بايثون أو الرياضيات القياسية). يقوم "أوريون" بترجمتها إلى لغة الذراع الآلي السرية، ويتحقق من الأخطاء، ويحسنها بحيث لا يتعثر الذراع الآلي في قدميه.
- الاكتشاف: وجد الفريق 20 قاعدة مخفية حول كيفية عمل هذا الذراع الآلي. على سبيل المثال: "لا يمكنك خلط وعاءين من العجين في وقت واحد"، أو "يجب ترتيب مكوناتك أبجدياً". لقد وثقوا كل هذه القواعد حتى لا يضطر المطورون الآخرون للتخمين.
4. محول "التبديل السريع" (LoRA)
أحياناً تريد تعليم الذكاء الاصطناعي مهارة جديدة (مثل الكتابة بأسلوب شكسبير) دون إعادة تدريب العقل بالكامل.
- التشبيه: عادةً، سيتعين عليك إعادة بناء الذراع الآلي بالكامل. يسمح لك "أوريون" بتركيب نظارات جديدة (محول LoRA) على الروبوت. يمكنك تبديل هذه النظارات وتركيبها فوراً بينما يعمل الروبوت، مما يغير أسلوبه دون توقف أو إعادة بناء أي شيء.
5. الاستقرار: إصلاح "الذوبان"
عندما حاولوا تدريب الذكاء الاصطناعي لأول مرة، كان يستمر في الانهيار وإنتاج بيانات غير منطقية (أخطاء NaN)، مثل الكعكة التي تذوب لتصبح بركة سائلة.
- الحل: وجدوا ثلاثة أخطاء برمجية محددة تسببت في هذا "الذوبان":
- كان الروبوت يستخدم تعليمات قديمة أثناء محاولة خبز كعكة جديدة.
- الأرقام أصبحت كبيرة جداً وانفجرت (تجاوز السعة/Overflow).
- قائمة المكونات كانت تالفة.
- النتيجة: قاموا بإصلاح هذه الأخطاء، والآن يمكن للذكاء الاصطناعي التدرب لـ 1,000 خطوة دون أن ينهار أو يذوب أبداً.
لماذا يهم هذا؟
- السرعة: يمكنك الآن تدريب نماذج الذكاء الاصطناعي على جهاز "ماك" أو "آيفون" الخاص بك، وليس فقط في مراكز البيانات الضخمة.
- الخصوصية: بياناتك لا تغادر جهازك أبداً.
- الكفاءة: يستهلك الذراع الآلي طاقة شبه معدومة عندما يكون في وضع الخمول، مما يجعله مثالياً لميزات الذكاء الاصطناعي التي تعمل دائماً.
- المصدر المفتوح: "أوريون" متاح مجاناً للجميع لاستخدامه. إنه يشبه إعطاء مفاتيح الذراع الآلي للعالم أجمع، لكي نبني معاً الجيل القادم من الأجهزة الذكية.
باختصار: فتح "أوريون" الباب السري لعقل أبل الاصطناعي فائق السرعة، وعرف كيفية تحديثه دون الحاجة لإعادة بنائه من الصفر، وعلمه كيفية التعلم دون الانهيار. إنه يحول "الصندوق الأسود" إلى أداة شفافة وقابلة للبرمجة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.