ExecuTorch -- A Unified PyTorch Solution to Run AI Models On-Device
إنّ ExecuTorch هو إطار عمل موحّد وأصيل في PyTorch يتيح النشر السلس والمُحسَّن لنماذج الذكاء الاصطناعي عبر مختلف الأجهزة الطرفية المتنوعة — من المتحكمات الدقيقة إلى الأنظمة على شريحة (SoCs) المعقدة — مع الحفاظ على دلالات PyTorch لسد الفجوة بين البحث والإنتاج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك طاهٍ (باحث) ابتكرت وصفة لذيذة جديدة (نموذج ذكاء اصطوي) في مطبخ عالي التقنية (PyTorch). تريد تقديم هذا الطبق لأشخاص في جميع أنحاء العالم، من مطعم فاخر في مدينة كبيرة (هاتف ذكي قوي) إلى عربة طعام صغيرة في قرية نائية (رقاقة دقيقة في ساعة يد أو لعبة).
المشكلة، وفقاً لهذا البحث، هي أن مطابخ "القرى النائية" لا تملك نفس المعدات التي يملكها مطبخك عالي التقنية. عادةً، لتقديم طبقك هناك، عليك التوقف عن الطهي، وإعادة كتابة الوصفة بأكملها من الصال من البداية باستخدام لغة مختلفة، والأمل في أن يظل المذاق كما هو. هذا الأمر بطيء، ومحبط، وغالباً ما يؤدي إلى أخطاء.
إليك الحل: ExecuTorch.
اعتبر Exec-uTorch بمثابة مترجم عالمي وطقم مطبخ محمول يتيح لك أخذ وصفة PyTorch الأصلية وتقديمها في أي مكان، تماماً كما صنعتها، دون الحاجة لإعادة كتابة كلمة واحدة.
إليك كيف يعمل، مقسماً إلى مفاهيم بسيطة:
١. "اللقطة" (التصدير - Exporting)
بدلاً من إرسال المطبخ الفوضوي بالكامل (كود Python المعقد) إلى القرية النائية، يأخذ Executorch "لقطة" لوصفتك. إنه يجمد الخطوات في قائمة تعليمات واضحة ومرتبة تسمى Export IR.
- السحر: هذه اللقطة واضحة جداً لدرجة أنه يمكن قراءتها من قبل أي مطبخ، سواء كان موقداً متطوراً أو نار مخيم صغيرة. إنها تزيل لغة "بايثون" (الثقيلة والبطيئة) لكنها تحافظ على "النكهة" (الرياضيات) كما هي تماماً.
- الفائدة: يمكنك اختبار وصفتك في مطبخك عالي التقنية، ثم تأخذ اللقطة، وتعرف بيقين بنسبة ١٠٠٪ أنها ستكون بنفس المذاق عند طهيها على نار مخيم صغيرة. لا مزيد من التخمين أو إعادة التذوق.
٢. "شاحنة التوصيل الذكية" (وقت التشغيل - The Runtime)
بمجرد التقاط الوصفة، يجب توصيلها. يستخدم Executorch شاحنة توصيل صغيرة جداً وخفيفة الوزن (Runtime).
- بصمة ضئيلة: على عكس الشاحنات الأخرى الضخمة التي تحتاج الكثير من الوقود (الذاكرة)، فإن هذه الشاحنة صغيرة. فهي تناسب الجيوب الصغيرة (المتحكمات الدقيقة) ولا تستهلك مساحة.
- التعبئة الانتقائية: إذا كانت وصفتك تحتاج فقط إلى سكين وملعقة، فإن الشاحنة لن تحمل خلاطاً أو محمصة خبز. إنها تحمل فقط الأدوات التي تحتاجها فعلياً، مما يجعل الطرد أصغر حجماً.
٣. "الطهاة المتخصصون" (الخلفيات البرمجية - Backends)
القرى المختلفة لديها أدوات مختلفة. بعضها لديه موقد غاز سريع جداً (GPU)، وبعضها لديه فرن شمسي (NPU)، وبعضها لديه مجرد نار مخيم (CPU).
- التفويض: Executorch ذكي. ينظر إلى وصفتك ويقول: "حسناً، جزء التقطيع هذا سريع على موقد الغاز، لكن جزء الخبز هذا أفضل على الفرن الشمسي". ثم يرسل أجزاء مختلفة من الوصفة إلى الأداة الأفضل المتاحة.
- النتيجة: يُطهى الطعام بشكل أسرع لأن كل خطوة تتم بواسطة الأداة الأنسب للمهمة، بدلاً من إجبار كل شيء على أداة واحدة بطيئة.
٤. "الحقيبة المدمجة" (الكمّية - Quantization)
أحياناً تكون الوصفة ثقيلة جداً للحمل. يمتلك Executorch تقنية تسمى Quantization.
- التشبيه: تخيل أن وصفتك تطلب "رشة ملح". بدلاً من وزن الملح بالمليغرام الدقيق (مما يتطلب مساحة كبيرة)، تقول فقط "رشة". أنت تفقد القليل من الدقة، لكن الطبق يظل مذاقه رائعاً، والحقيبة الآن أخف بنسبة ٥٠٪.
- لماذا يهم هذا: هذا يسمح لنماذج الذكاء الاصطناوي الضخمة (مثل تلك التي تتحدث أو تكتب) بأن تناسب هاتفاً أو حتى ساعة يد صغيرة دون نفاد البطارية أو الذاكرة.
٥. إثبات من الواقع
البحث لا يتحدث عن النظرية فحسب؛ بل قاموا بالفعل بتعبئة "حقائبهم" وإرسالها في رحلات حقيقية:
- الهواتف الكبيرة: عملت على هواتف سامسونج وجوجل، مما أثبت أنها سريعة بما يكفي للاستخدام اليومي.
- الرقاقات الصغيرة: حتى أنهم قاموا بتشغيل لعبة رياضيات بسيطة على Raspberry Pi Pico 2 (كمبيوتر صغير بحجم عود الكبريت بذاكرة قليلة جداً). لقد أظهروا أنه باستخدام تقنيات "الحقيبة المدمجة"، يمكنهم وضع ذكاء اصطناوي يعمل داخل جهاز لا يستطيع التعامل معه عادةً.
- المقارنة: قاموا بسباق شاحنة التوصيل الخاصة بهم ضد شاحنات أخرى (مثل ONNX و llama.cpp). في كثير من الحالات، كان Executorch أسرع أو مساوياً لها في السرعة، ولكن مع الميزة الإضافية المتمثلة في عدم الحاجة لإعادة كتابة الوصفة.
الخلاصة
قبل Executorch، كان نقل الذكاء الاصطناوي من جهاز الباحث إلى جهاز حقيقي يشبه محاولة نقل منزل عبر تفكيكه طوبة بطوبة وإعادة بنائه في مدينة جديدة.
يقول Executorch: "لا تفككوه. فقط ضعوه في شاحنة نقل تناسب أي مكان."
إنه يتيح للباحثين بناء النماذج في بيئتهم المفضلة (PyTorch) ونشرها في أي مكان — من رقاقة دقيقة بسعر دولار واحد إلى هاتف ذكي بسعر ١٠٠٠ دولار — دون فقدان السرعة، أو الدقة، أو العقلانية. إنه يسد الفجوة بين "فكرة رائعة في المختبر" و"ميزة تعمل في جيبك".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.