Optimizing Transformer Neural Network for Real-Time Outlier Detection on FPGAs

تخيل أنك محقق يحاول رصد لص في مدينة مزدحمة. هذه المدينة عبارة عن نهر من الأرقام، يتدفق باستمرار مع أسعار الأسهم، أو درجة حرارة الخوادم، أو عدد الأشخاص في طابور سيارات الأجرة. في معظم الأوقات، يتدفق هذا النهر بسلاسة، ولكن أحياناً، تقفز صخرة ضخمة - "خلل" أو "قيمة متطرفة" - في المجرى، مما يسبب رشة مياه قد تدمر كل ما هو موجود في اتجاه المصب. في عالم التمويل وعلوم البيانات، هذه الرشات خطيرة؛ إذ يمكنها خداع الحواسيب لاتخاذ قرارات سيئة. لفترة طويلة، كان الإمساك بهذه الرشات بطيئاً، مثل محاولة العثور على إبرة في كومة قش يدوياً. ولكن مؤخراً، بنى العلماء محققاً فائق الذكاء يسمى "المحول" (Transformer). فكر في "المحول" كأنه أمين مكتبة عبقري يمكنه قراءة مليون كتاب في وقت واحد ويتذكر فوراً كيف يرتبط جزء من قصة في الصفحة الأولى بجزء في الصفحة رقم ألف. هذا الأمين مذهل في رصد الأنماط الغريبة، ولكن هناك عقبة: الأمين ثقيل وبطيء جداً لدرجة أنه لا يستطيع الركض بسرعة كافية للإمساك باللص في الوقت الفعلي.

هنا يأتي دور الـ FPGA، والذي يشبه محرك سيارة سباق مخصص فائق السرعة يمكنك إعادة تكوينه أثناء التشغيل. السؤال الكبير الذي يتناوله هذا البحث هو: هل يمكننا أخذ أمين المكتبة العبقري والثقيل (المحول) وتعليمه قيادة هذه السيارة (الـ FPGA) حتى يتمكن من رصد البيانات السيئة فوراً؟ لقد سعى المؤلفان، إيليا سوباسكينسكيخ وبول ألكسندر بيلوكون، لمعرفة ما إذا كان بإمكانهم تقليص هذا الدماغ العملاق ليناسب شريحة صغيرة قابلة لإعادة التشكيل دون فقدان ذكائه. أرادا إثبات أنك لست بحاجة إلى حاسوب فائق الضخامة للعثور على هذه الأعطال المالية؛ بل يمكنك القيام بذلك على لوحة صغيرة، وبسرعة كافية لمنع وقوع كارثة قبل حدية وقوعها.

السباق للإمساك بالخلل

بدأ المؤلفان بالنظر في مشكلة "كشف الشذوذ" (anomaly detection). بعبارات بسيطة، هذا يعني مجرد العثور على الأرقام الغريبة في قائمة ما. لقد ركزا على "الشذوذ النقطي" (point anomalies)، وهي تشبه القفزات المفاجئة في سعر السهم - تخيل ارتفاع سعر سهم من 100 دولار إلى 101 دولار في جزء من الثانية في وقت لا ينبغي أن يحدث فيه ذلك. وللإمساك بهذه الحالات، استخدما نوعاً معيناً من الذكاء الاصطناعي يسمى "المحول". وخلافاً لنماذج الذكاء الاصطناعي القديمة التي تقرأ البيانات خطوة بخطوة (مثل قراءة كتاب كلمة بكلمة)، تنظر المحولات إلى الصورة الكاملة دفعة واحدة، وتفهم كيف يرتبط سعر اليوم بسعر من أسابيع مضت.

ومع ذلك، فإن تشغيل هذه المحولات عادة ما يكون بطيئاً ومكلفاً. قرر المؤلفان تجربة تشغيلها على FPGA، وتحديداً لوحة تسمى PYNQ-Z2. ولإنجاح ذلك، كان عليهما أن يكونا بارعين جداً في كيفية برمجة الشريحة. لقد تعاملا مع الرياضيات داخل "المحول" كخط تجميع في مصنع. فبدلاً من انتظار انتهاء عملية حسابية واحدة قبل بدء التالية، استخدما تقنية تسمى "التدفق المتوازي" (pipelining). تخيل مغسلة سيارات حيث لا تزال السيارة الأولى تحت عملية الصابون بينما بدأت السيارة الثانية بالفعل في دورة الشطف؛ هذا يحافظ على حركة الخط بسرعة. كما استخدما أيضاً تقنية "بسط العمليات" (unrolling)، وهي تشبه وجود عشرة عمال يقومون بنفس المهمة في نفس اللحظة بدلاً من عامل واحد يقوم بها عشر مرات متتالية.

النتائج: السرعة مقابل الذكاء

اختبر الفريق نسختين من محقق الذكاء الاصطناعي الخاص بهما. النسخة الأولى كانت "المحول التقليدي" (Vanilla Transformer)، وهو النسخة القياسية الثقيلة. والنسخة الثانية كانت "المحول الخطي" (Linear Transformer)، وهو نسخة أخف وأسرع تتخطى بعض العمليات الحسابية الثقيلة. قاما بتشغيل هذين النموذجين على الـ FPGA وقارناهما بمعالج كمبيوتر قياسي (CPU).

كانت النتائج عبارة عن قصة من المقايضات المختلفة. المحول القياسي، عندما تم تحسينه للـ FPGA، أصبح سريعاً بشكل لا يصدق. فقد استطاع معالجة البيانات في 37.14 ميكروثانية فقط (أي 0.000037 ثانية!). وبدون هذه التحسينات الخاصة، كانت المهمة نفسها تستغرق 347.45 ميكروثانية، أي أنها أبطأ بعشر مرات. أما المحول الخطي فكان أسرع، حيث سجل 29.86 ميكروثانية.

لكن السرعة جاءت بثمن. للحصول على تلك السرعة، كان على الشريحة أن تعمل بجهد أكبر بكثير. استخدم المحول المُحسّن 90% من "المنطق القابل للبرمجة" (LUTs) المتاح و 30% من "مسجلات الإزاحة" (FFs) (بتات الذاكرة)، بينما استخدم النسخة البطيئة غير المُحسّنة 10% و 2% على التوالي. الأمر يشبه ترقية دراجة هوائية إلى دراجة نارية: ستذهب أسرع بكثير، لكنك تحتاج إلى محرك أكبر ووقود أكثر.

هل لا يزال المحقق يؤدي مهمته؟

السرعة أمر رائع، ولكن هل لا يزال المحقق ذكياً؟ اختبر المؤلفون نماذجهم على بيانات من العالم الحقيقي، بما في ذلك الطلب على سيارات الأجرة في مدينة نيويورك، وسجلات أداء الخوادم، وأسعار الأسهم عالية التردد. قارنوا ذكاءهم الاصطناعي بنموذج "الانحدار الخطي" (Linear Regression) البسيط، والذي يشبه محققاً ينظر فقط إلى الرقم الأخير ويخمن بناءً عليه.

أظهرت النتائج أن المحولات كانت عموماً أفضل بكثير في رصد الشذوذ من النموذج البسيط. في مجموعة بيانات KPI (سجلات الخادم)، حقق المحول القياسي دقة قدرها 0.98 في بيانات التدريب و 0.97 في بيانات التحقق، مع درجة F1 (وهي توازن بين رصد الأشياء السيئة وعدم إطلاق إنذارات كاذبة) بلغت 0.71 و 0.76 على التوالي. كان المحول الخطي أقل دقة قليلاً ولكنه ظل قوياً. ومع ذلك، في بيانات سوق الأسهم (FI2010)، واجهت النماذج صعوبة أكبر، حيث انخفضت درجات F1 إلى 0.06 و 0.09، مما يشير إلى أنه رغم سرعتها، إلا أنها ليست مثالية في رصد كل خلل في كل أنواع البيانات.

ومن المثير للاهتمام أن المؤلفين وجدوا أن بعض الميزات التي تُعتبر عادةً أساسية للمحولات، مثل "الترميز الموضعي" (positional encoding) - وهو طريقة لإخبار الذكاء الاصطناعي بترتيب الأرقام - جعلت التدريب غير مستقر وأسوأ في إعدادهم المحدد. اضطروا إلى إيقاف تشغيل هذه الميزات لجعل النماذج تعمل بشكل صحيح على الشريحة.

الخلاصة

لا يدعي هذا البحث أنه قد حل لغز كشف الشذوذ إلى الأبد. بدلاً من ذلك، يشير إلى أنه يمكننا بنجاح تقليص نماذج الذكاء الاصطناعي القوية هذه لتناسب شرائح صغيرة وسريعة. أظهر المؤلفون أنه باستخدام حيل برمجية ذكية مثل التدفق المتوازي وبسط العمليات، يمكنك جعل "المحول" يعمل 10 مرات أسرع على الـ FPGA. وبينما تأتي هذه السرعة بتكلفة باهظة من حيث موارد الشريحة، إلا أنها تثبت أن كشف الشذوذ عالي السرعة وفي الوقت الفعلي ممكن دون الحاجة إلى مركز بيانات ضخم. إنه إثبات لمفهوم مفاده أن مستقبل رصد الأعطال المالية قد لا يكون في غرفة خوادم عملاقة، بل في شريحة صغيرة قابلة لإعادة التشكيل تنطلق عبر البيانات بسرعة البرق.