Sparse by Command: Task-Conditional Compute Skipping for Multi-Task Inference Accelerators
تقدم هذه الورقة البحثية "الندرة بالأمر" (Sparse by Command)، وهو نهج مصمم مشتركًا بين الأجهزة والبرمجيات يستفيد من أوامر المهام لتخطي الحسابات غير الضرورية ديناميكيًا عبر شبكات بوابات خفيفة الوزن ومسرع بلاطي متخصص، محققًا خفضًا في العمليات الحسابية بنسبة تصل إلى 76% وتسريعًا في زمن الاستجابة بمقدار 2.4 ضعف لعمليات الاستدلال متعددة المهام دون تغيير بنية النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قائد لأوركسترا ضخمة وعالية التقنية؛ في عالم الذكاء الاصطناج، هذه الأوركسترا هي "شبكة عصبية"، وهي برنامج حاسوبي يشبه الدماغ ومصمم لاتخاذ القرارات. عادةً، عندما تعزف هذه الأوركسترا مقطوعة موسيقية، يرفع كل موسيقي آلتُه ويعزف، بغض النظر عن نوع الأغنية التي يتم تقديمها. فإذا كانت الأغنية تهويدة لطيفة، ستظل الطبول الثقيلة والآلات النحاسية الصاخبة تعزف بأقصى صوت، رغم أن الأغنية لا تحتاج إليها. هذا أمر هدر للغاية؛ فهو يستهلك الكثير من الطاقة ويستغرق وقتاً طويلاً، تماماً مثل قيادة شاحنة ضخمة للذهاب إلى المتجر المجاور لشراء تفاحة واحدة فقط.
في مجال محدد يسمى "الاستدلال متعدد المهام" (multi-task inference)، تصبح هذه المشكلة أكبر. هنا، يُطلب من دماغ حاسوبي واحد القيام بمهام مختلفة في وقت واحد، مثل توجيه السيارة، أو الكبح، أو الانعطاف يساراً. تكمن المشكلة في أن الحاسوب لا يعرف أي مهمة يقوم بها حتى يبدأ العمل، لذا فهو يستعد لجميع المهام في آن واحد، مما يهدر الطاقة في أشياء لا يحتاجها. لقد حاول العلماء إصلاح ذلك بجعل الحاسوب "متفرقاً" (sparse)، وهي كلمة منمقة تعني "فارغاً". لقد حاولوا إخبار الحاسوب بأن يتخطى بعض النوتات الموسيقية، لكن في العادة، لا يزال يتعين على الحاسوب فحص كل نوتة ليرى ما إذا كان يجب تخطيها أم لا، وهذا يستغرق وقتاً وطاقة. هذا البحث يسأل سؤالاً بسيطاً: ماذا لو عرف الحاسوب بالضبط أي مهمة سيقوم بها قبل أن يبدأ في العزف، بحيث يمكنه إخبار الموسيقيين بوضع آلاتهم قبل حتى أن يرفعوها؟
لقد ابتكر المؤلفون في هذا البحث، وهم فريق من هونج كونج وهواوي، نظاماً ذكياً يسمى "التفرق بالأمر" (Sparse by Command) يحل هذه المشكلة. لقد أدركوا أنه في مهام مثل القيادة الذاتية، يكون "الأمر" (مثل "انعطف يساراً" أو "اكبح") معروفاً قبل وقت طويل من بدء الحاسوب في مراقبة الطريق. استخدموا هذه المعلومة المجانية لإنشاء لوحة تحكم ذكية. فبدلاً من أن يخمن الحاسوب أي أجزاء من دماغه سيستخدم، يقوم مساعد شبكي صغير وسريع جداً بالنظر إلى الأمر ويقوم فوراً بتبديل مفتاح لإيقاف تشغيل أجزاء معينة من الدماغ الرئيسي التي لا تُستخدم في تلك اللحظة.
فكر في الأمر كمنزل ذكي. إذا أخبرت منزلك "سأذهب للنوم"، فإن النظام لا يكتفي بخفض أضواء غرفة المعيشة فحسب؛ بل يعرف أنك لست في المطبخ، فيقطع التيار الكهربائي عن أضواء المطبخ تماماً قبل أن تدخل إليه. لقد بنى المؤلفون شريحة حاسوبية خاصة (على لوحة FPGA، وهي تشبه لوحة "ليجو" قابلة للبرمجة للإلكترونيات) تفهم هذه المفاتيح. عندما يقول الأمر "اكبح"، تتخطى الشريحة 76% من العمل. وعندما يقول "انعطف يساراً"، تتخطى حوالي 71%. ولأن الشريحة توقف العمل فعلياً بدلاً من مجرد التظاهر بالقيام به، فإنها توفر كمية هائلة من الوقت وطاقة البطارية.
النتائج مثيرة للإعجاب حقاً. فعندما اختبروا هذا النظام على لعبة قيادة محاكية تسمى "CARLA"، أصبح النظام أسرع بكثير. انخفض الوقت المستغرق لاتخاذ القرار من 9.12 ميلي ثانية إلى ما بين 3.74 و4.44 ميلي ثانية. وهذا يعني تسريعاً بمقدار 2.1 إلى 2.4 مرة! كما استهلكت طاقة أقل من النصف، حيث انخفضت من 263 ميلي جول إلى حوالي 108-128 ميلي جول لكل قرار. والأهم من ذلك، أن السيارة لم تصطدم أو تضل طريقها؛ بل أكملت 100% من مسارات القيادة بشكل مثالي.
كما يوضح هذا البحث لماذا يعد هذا النهج أفضل من الطرق القديمة. لقد جربوا فقط عملية "التقليم" (pruning) (أي قص أجزاء من الدماغ بشكل دائم، مثل إزالة الطبول من الأوركسترا للأبد). لكن ذلك لم ينجح لأنك أحياناً تحتاج إلى الطبول، وأحياناً لا تحتاجها. وإذا قمت بإزالتها نهائياً، فلن تتمكن الأوركسترا من عزف المقطوعات التي تحتاج إليها. نظام "التفرق بالأمر" أكثر ذكاءً لأنه يبقي جميع الموسيقيين مستعدين، لكنه يستدعي فقط من يحتاجهم منهم حسب المقطوعة المحددة. حتى أنهم اختبروا هذا على نوع آخر من الأدمغة الحاسوبية (Transformer) ووجدوا أنه يعمل هناك أيضاً، مما يشير إلى إمكانية استخدام هذه الفكرة في أنواع مختلفة من الآلات الذكية، وليس السيارات فقط.
باختصار، يثبت هذا البحث أنه إذا أعطيت الحاسوب تعليمات واضحة حول ما يفترض به القيام به، يمكنك أمره بتخطي كل الأعمال الشاقة التي لا يحتاجها. ومن خلال بناء شريحة مخصصة تستمع لهذه التعليمات وتتخطى العمل غير الضروري فعلياً، جعلوا النظام الذكي أسرع، وأقل تكلفة في التشغيل، وبنفس كفاءة أداء المهمة. إنه تذكير بأنه في بعض الأحيان، أفضل طريقة لتكون فعالاً ليست في العمل بجهد أكبر، بل في معرفة ما يجب ألا تفعله بالضبط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.