A Generalized Optimization Engine (GOE) for Edge AI Inference Acceleration
تقترح هذه الورقة محرك تحسين عام (GOE) غير مرتبط بنوع الأجهزة أو النماذج، يدمج تقنيات تحسين متنوعة للذكاء الاصطناعي لتمكين النشر الفعال والدقيق للنماذج المضغوطة على أجهزة الحافة ذات الموارد المحدودة، مما يثبت أن طريقة الضغط المحددة أكثر أهمية من عرض البت الاسمي للحفاظ على دقة المهام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
انتقل الذكاء الاصطناعي من عالم الخيال العلمي إلى نسيج الحياة اليومية، حيث بات يشغل كل شيء بدءاً من التشخيص الطبي وصولاً إلى المركبات ذاتية القيادة. وفي قلب هذه الثورة تكمن هياكل رياضية معقدة تُعرف بالنماذج، والتي تتعلم التعرف على الأنماط واتخاذ القرارات عبر معالجة كميات هائلة من البيانات. وبينما تعمل هذه النماذج ببراعة على أجهزة كمبيوتر قوية في مراكز البيانات، لا تزال هناك عقبة كبيرة قائمة: فهي غالباً ما تكون ضخمة جداً وتستهلك الكثير من الطاقة لتشغيلها على الأجهزة الصغيرة التي تعمل بالبطارية والموجودة في الميدان. ويظهر هذا القصور بشكل حاد في البيئات التكتيكية، حيث يتعين على الجنود أو الأنظمة المستقلة اتخاذ قرارات في أجزاء من الثانية دون الوصول إلى شبكة طاقة مستقرة أو إنترنت عالي السرعة. ولا يقتصر التحدي الذي يواجه العلماء على جعل هذه النماذج أصغر حجماً فحسب، بل في تقليصها دون تجريدها من الذكاء الذي يجعلها مفيدة.
لقد عالج الباحثون في مختبر أبحاث الجيش (DEVCOM) وجامعة غرب فلوريدا هذا التحدي من خلال تطوير "محرك التحسين العام" (GOE). يعمل هذا النظام كمرشد آلي يأخذ نموذج ذكاء اصطناعي ضخم ومعقد ويعيد تشكيله ليتناسب مع القيود الصارمة لأجهزة معينة، مثل جهاز كمبيوتر محمول أو مستشعر يفتقر إلى معالج رسوميات. لم يخترع الفريق حيلة جديدة واحدة لجعل النماذج أصغر، بل بنوا إطار عمل يجمع بذكاء بين تقنيات موجودة مثل "التقليم" (pruning)، الذي يزيل الأجزاء غير الضرورية من النموذج، و"التكميم" (quantization)، الذي يبسط الأرقام التي يستخدمها النموذج في تفكيره. وكان الهدف هو إنشاء نهج عالمي يمكنه التعامل مع أنواع مختلفة من النماذج وأنواع مختلفة من الأجهزة دون الحاجة إلى حل مخصص لكل سيناريو على حدة.
وجد الباحثون أن مجرد جعل النموذج أصغر حجماً ليس كافياً؛ فالطريقة المستخدمة في تقليصه هي التي تحدد ما إذا كان النموذج سيظل ذكياً أم سيصبح عديم الفائدة. وفي تجاربهم، اختبروا استراتيجيات ضغط متنوعة على نماذج رؤية قياسية تُستخدم للتعرف على الصور. واكتشفوا أنه من خلال إزالة اتصالات محددة داخل النموذج بعناية ثم منحه فترة قصيرة من إعادة التدريب، استطاعوا تقليل حجم النموذج بنسبة تصل إلى خمسة وسبعين بالمائة مع تحسين دقته فعلياً. وبالمثل، عندما بسطوا الأرقام التي يستخدمها النموذج لحساب إجاباته، حققوا زيادات هائلة في السرعة على المعالجات القياسية، مما جعل النموذج يعمل أحياناً أسرع بخمسة وعشرين ضعفاً مع عدم فقدان الأداء تقريباً. وأظهرت هذه النتائج أن نظاماً واحداً موحداً يمكنه بنجاح تحسين نماذج متنوعة، مما يثبت أن نهج "الحل الواحد للجميع" ممكن إذا تم تطبيق المزيج الصحيح من التقنيات.
وكان الاختبار الأكثر حرجاً عندما طبق الفريق هذا المحرك على نماذج اللغة الكبيرة، وهي نوع التكنولوجيا التي يمكنها فهم وتوليد اللغة البشرية. لقد حاولوا تشغيل هذه النماذج المضغوطة على جهاز يفتقر إلى معالج رسوميات، وهو سيناريو يمثل الحدود القصوى لما هو ممكن في بيئة تكتيكية. وكانت النتائج كاشفة؛ فعندما استخدم الباحثون طريقة دقيقة ومعتمدة لتقليل دقة الأرقام التي يستخدمها النموذج، عمل نموذج اللغة بسلاسة، محتفظاً بقدرته على الإجابة على الأسئلة بشكل صحيح مع صيرورته أصغر حجماً وأسرع. ومع ذلك، عندما حاولوا اتباع نهج أكثر عدوانية ومباشرة يقوم ببساطة بتقليص الأرقام دون التعامل الحذر نفسه، انهار ذكاء النموذج وبدأ في التخمين العشوائي. وقد أثبت ذلك أن اختيار طريقة الضغط أكثر أهمية من الحجم النهائي للنموذج؛ فالنموذج الأصغر لا قيمة له إلا إذا ظل يعمل.
تخلص الدراسة إلى أن "محرك التحسين العام" ينجح في سد الفجوة بين الذكاء الاصطناعي القوي والمدرب مسبقاً وبين الواقع المقيد بالموارد للأجهزة الطرفية. ومن خلال التعامل مع نشر هذه النماذج كعملية توازن بين السرعة والذاكرة والطاقة والدقة، يمكن للنظام أن يجد تلقائياً المسار الأفضل للنموذج. ويشير الباحثون إلى أن هذا النهج أمر حيوي للعمليات المستقبلية حيث تكون القدرة الحوسبية نادرة وغير متوقعة. وبينما يركز النظام الحالي على الرؤية واللغة، فإن إطار العمل مصمم للتوسع للتعامل مع أنواع أكثر تعقيداً من البيانات في المستقبل. ويؤكد هذا العمل أنه مع استراتيجية التحسين الصحيحة، يمكن للذكاء الاصطناعي المتطور أن يعمل بالفعل بفعالية على أصغر الأجهزة وأكثرها تقييداً، بشرماً أن يعرف المهندسون بالضبط كيف يقلصونه دون كسره.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.