Deltoris: Enabling Real-time VLA Inference in Embodied AI via Bit-level Sparsity and Speculative Inference
ديلتورس (Deltoris) هو إطار عمل للتصميم المشترك بين الخوارزمية والأجهزة يتيح الاستدلال في الوقت الفعلي وبكفاءة عالية في استهلاك الطاقة لنماذج الرؤية واللغة والأفعال القائمة على الانتشار على الأجهزة الطرفية، وذلك عبر الاستفرد بالندرة البِتّية المدركة زمنياً، والاستدلال التخميني، ومسرع نظام "سيستوليك" مخصص للعمل بتسلسل البتات لتحقيق تسارعات كبيرة مقارنة بالحلول الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل روبوتًا يحاول تعلم كيفية لعب لعبة "التقاط الكرة". للقيام بذلك، يحتاج إلى عقل يمكنه رؤية الكرة، وفهم القواعد، وتحديد كيفية تحريك ذراعه بدقة. في عالم الروبوتات، غالبًا ما يكون هذا "العقل" عبارة عن نوع خاص من البرامج الحاسوبية يسمى نموذج "الرؤية واللغة والعمل" (VLA). فكر فيه كأنه مترجم فائق الذكاء يحول ما يراه الروبوت ويسمعه إلى حركات جسدية. لفترة طويلة، كانت هذه الروبوتات بطيئة وخرقاء بعض الشيء لأن الرياضيات المطلوبة لجعلها تتحرك كانت ثقيلة للغاية، مثل محاولة الجري في ماراثون وأنت تحمل حقيبة ظهر مليئة بالطوب.
مؤخرًا، اكتشف العلماء طريقة جديدة لتعليم الروبوتات الحركة تسمى "الانتشار" (diffusion). تخيل روبوتًا يتعلم المشي عن طريق التعثر أولاً في غرفة ضبابية، ثم يزيل الضباب ببطء خطوة بخطوة حتى يجد المسار المثالي. هذه الطريقة تجعل حركة الروبوتات أكثر سلاسة وتجعلها تتعامل مع المواقف الجديدة بشكل أفضل مما كانت عليه من قبل. ومع ذلك، هناك مشكلة: عملية "إزالة الضباب" هذه ثقيلة حسابيًا لدرجة أنها بطيئة جدًا للاستخدام في الوقت الفعلي. يحتاج الروبوت إلى اتخاذ قرارات من 50 إلى 200 مرة في الثانية للحفاظ على توازنه وسلامته، لكن هذه النماذج الجديدة كانت تستغرق وقتًا طويلاً جدًا، مثل حلزون يحاول الفوز في سباق ضد فهد. هذه هي المشكلة التي سعى فريق من الباحثين لحلها: كيف نجعل هذه الروبوتات فائقة الذكاء والسلسة في الحركة سريعة بما يكفي لمواكبة العالم الحقيقي؟
إليك Deltoris، وهو نظام ذكي مصمم لتسريع عقول هذه الروبوتات دون جعلها أقل ذكاءً. أدرك الباحثون أن الروبوتات لا تعيش في عالم يتغير فيه كل شيء لحظيًا. إذا كان الروبوت يمد يده نحو كوب، فإن مشهد الكوب من مللي ثانية إلى التي تليها هو نفسه تقريبًا. الأمر يشبه مشاهدة فيلم حيث تكون 98% من إطاراته متطابقة؛ فأنت لست بحاجة لإعادة رسم الصورة بالكامل في كل مرة، بل تحتاج فقط لرسم الجزء الصغير الذي تغير.
يستغل Deltoris هذه الملاحظة من خلال تقنية تسمى "التخلخل على مستوى البت المتوافق زمنيًا" (temporal-aware bit-level sparsity). بدلًا من إعادة حساب المسألة الرياضية بأكملها لكل حركة، يقوم النظام بحساب الفرق فقط بين اللحظة الحالية واللحظة السابقة. الأمر يشبه إرسال رسالة نصية تقول فقط "حركت يدي للأعلى بمقدار بوصتين" بدلًا من إعادة كتابة سيرتك الذاتية بالكامل في كل مرة تتحرك فيها. هذا يتخطى كمًا هائلًا من العمل غير الضروري، مما يقلل الحسابات بنسبة تزيد عن 90%.
ومع ذلك، واجهنا عقبة. فمن خلال إرسال "الفرق" فقط، كان على النظام جلب المعلومات "القديمة" باستمرار من الذاكرة لمقارنتها بالمعلومات "الجديدة"، مما خلق ازدحامًا مروريًا في مسار البيانات. ولحل هذه المشكلة، أضاف الفريق خدعة ثانية تسمى "الاستدلال التخميني" (speculative inference). تخيل مدربًا لديه مساعد صغير وسريع يتنبأ بالحركات القادمة للمباراة، ثم يقوم مدرب كبير وبطيء وفائق الذكاء بالتحقق من تلك التنبؤات جميعًا في وقت واحد ضمن مجموعة. هذا يسمح للنظام بتحميل البيانات الثقيلة مرة واحدة فقط واستخدامها للتحقق من خطوات متعددة، مما يؤدي إلى تسوية الازدحام المروري.
لجعل كل هذا السحر يحدث، لم يكتفِ الباحثون بكتابة البرمجيات فحسب؛ بل بنوا شريحة أجهزة مخصصة (مسرع) مصممة خصيصًا للتعامل مع حسابات "الفرق" هذه. لقد أنشأوا خط تجميع خاص من المعالجات الصغيرة التي تعمل معًا بشكل مثالي، مما يضمن عدم بقاء أي منها خاملًا أثناء انتظار البيانات.
النتائج التي حققتها تجاربهم مبهرة. فعندما اختبروا Deltoris مقابل شرائح الكمبيوتر المحمولة القياسية (مثل تلك الموجودة في الهواتف عالية الجودة) والمسرعات المتخصصة الأخرى، حقق فوزًا ساحقًا. كان Deltos أسرع بمقدار يصل إلى 34.2 مرة من وحدات معالجة الرسومات المحمولة، و6.1 مرة أسرع من المسرعات المتخصصة السابقة. ولعل الأهم من ذلك، أنه استهلك طاقة أقل بمقدار يصل إلى 822 مرة، وهو أمر بالغ الأهمية للروبوتات التي تعمل بالبطارية. كما تحقق الفريق مما إذا كان الروبوت سيصاب بالارتباك بسبب هذه الاختصارات؛ وكانت الدقة هي نفسها تقريبًا، مع انخفاض طفيف وغير مؤثر في الأداء.
باختصار، يظهر Deltoris أنه من خلال كوننا أذكياء فيما يتعلق بـ ماذا نحسب (التغييرات فقط) و كيف نحسبه (تجميع التنبؤات معًا)، يمكننا أخيرًا منح الذكاء الاصطناه المتجسد السرعة والكفاءة التي يحتاجها للتحرك في عالمنا في الوقت الفعلي. إنها خطوة مهمة نحو روبوتات لا يمكنها التفكير فحسب، بل يمكنها أيضًا التصرف بسرعة تضاهي سرعتنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.