An novel efficient method of multi-class support vector machine with weighted multiple kernel learning

تخيل أنك تحاول تعليم روبوت التعرف على حيوانات مختلفة في حديقة حيوان مزدحمة. يمكنك أن تريه صورة لأسد وتقول له: "هذا أسد"، ثم تريه نمرًا وتقول له: "هذا نمر". ولكن ماذا لو كان على الروبوت فرز آلاف الحيوانات في وقت واحد، وبعضها يبدو متشابهًا جدًا، أو كانت الصور ضبابية أو ملتقطة من زوايا غريبة؟ هذا هو عالم تعلم الآلة (machine learning)، وتحديدًا فرع يسمى التصنيف (classification)، حيث تتعلم الحواسيب فرز البيانات إلى مجموعات.

للقيام بذلك، غالبًا ما تستخدم الحواسيب أداة ذكية تسمى آلة المتجهات الداعمة (Support Vector Machine - SVM). فكر في الـ SVM كحكم ذكي للغاية يرسم خطوطًا غير مرئية في الهواء لفصل المجموعات المختلفة. إذا كانت الحيوانات مختلطة في كومة فوضوية، يحاول الحكم إيجاد المسار الأوسع والأكثر وضوحًا لفصل الأسود عن النمور. عادةً ما يستخدم الحكم "عدسة" واحدة أو نواة (kernel) للنظر إلى البيانات. قد تكون العدسة جيدة في رؤية الأشكال، أو جيدة في رؤية الألوان، لكن نادرًا ما تتقن كليهما بشكل مثالي. إذا كانت البيانات معقدة — مثل حديقة حيوان بها حيوانات لها خطوط وبقع وفراء في آن واحد — فقد تفوت العدسة الواحدة بعض التفاصيل.

هنا يأتي دور تعلم النواة المتعددة (Multiple Kernel Learning - MKL). فبدلاً من الاعتماد على عدسة واحدة، يتيح MKL للكمبيوتر استخدام مجموعة كاملة من الكاميرات بعدسات مختلفة في نفس الوقت، ودمجها معًا لرؤية أوضح صورة ممكنة. ومع ذلك، هناك عقبة: استخدام كل تلك العدسات على كومة ضخمة من البيانات أمر بطيء ومكلف حاسوبيًا للغاية. الأمر يشبه محاولة فرز حديقة الحيوان بأكملة يدويًا، حيوانًا تلو الآخر، باستخدام كل عدسة مكبرة ممكنة. والسؤال الذي يسأله العلماء هو: هل يمكننا الحصول على الرؤية فائقة الوضوح لعدسات متعددة دون العملية البطيئة والمجهدة لفحص كل حيوان بمفرده؟

---

"الحكم الخارق" الجديد الشامل

في هذه الورقة البحثية، يقترح الباحثون زيجي دونغ، وشينغ روي غونغ، وفين تشين طريقة جديدة وأسرع لتدريب هذه المصنفات متعددة الفئات. أطلقوا على طريقتهم اسم AIO-MSVM-WMK (وهو اسم طويل وصعب النطق، لذا لنسمه فقط "الحكم الموزون الشامل").

فكرتهم الكبيرة هي الجمع بين استراتيجيتين قويتين في عملية واحدة سلسة:

1. تعلم النواة المتعددة الموزونة: بدلاً من استخدام عدسة واحدة، يقومون بخلط عدة عدسات مختلفة (مثل النواة الخطية، والحدودية، وRBF) معًا. ولكن الحيلة هنا هي أنهم لا يخلطونها بالتساوي؛ بل يخصصون "وزنًا" لكل عدسة بناءً على مدى جودتها في أداء المهمة. إذا كانت عدسة "الأشكال" رائعة في رصد الأسود، فإنها تحصل على صوت أكبر. وإذا كانت عدسة "الملمس" أفضل للنمور، فإنها تحصل على وزن أكبر. يحدث هذا تلقائيًا أثناء تعلم الكمبيوتر، وليس قبل البدء.
2. تحسين العينات (Sample Optimization): هذا هو معزز السرعة. بدلاً من إجبار الكمبيوتر على دراسة كل حيوان في حديقة الحيوان (وهو ما يستغرق وقتًا طويلاً)، يختار الخوارزمي بذكاء العينات الأكثر أهمية. فهو يركز على الحيوانات التي تقع تمامًا على حافة المجموعات — تلك الصعبة التي يصعب التمييز بينها — بينما يتجاهل الحيوانات الواضحة التي يسهل فرزها. وهذا يوفر قدرًا هائلاً من الوقت.

كيف اختبروا ذلك

لمعرفة ما إذا كان حكمهم الجديد أفضل حقًا، أجرى الفريق تجارب على 9 مجموعات بيانات عامة (مجموعات من بيانات العالم الحقيقي مثل صور الأرقام المكتوبة بخط اليد، والمقالات الإخبارية، والبيانات البيولوجية). وقارنوا طريقتهم بأربع طرق شائعة أخرى للفرز متعدد الفئات:

• AIO-Mar: طريقة "شاملة" قديمة.
• MK-MSVCR: طريقة تستخدم نوى متعددة ولكن بطريقة مختلفة.
  [...]* WMK-OVO: طريقة تقارن كل فئة مقابل كل فئة أخرى (واحد مقابل واحد).
• WMK-OVA: طريقة تقارن كل فئة مع جميع الفئات الأخرى في وقت واحد (واحد مقابل الكل).

اختبروا هذه الطرق على حجمين مختلفين من بيانات التدريب: أحدهما يحتوي على 10,000 عينة والآخر يحتوي على 26,000 عينة.

النتائج: أسرع وأذكى

أظهرت النتائج أن طريقة AIO-MSVM-WMK الجديدة كانت فائزة بوضوح في مجالين رئيسيين:

1. ارتكبت أخطاء أقل.
عندما كانت البيانات معقدة، قام المنهج الجديد بفرز الحيوانات بدقة أكبر من الطرق الأخرى. على سبيل المثال، في مجموعة بيانات "تويتر" (التي تتضمن فرز النصوص)، ارتكب المنهج الجديد أخطاء بنسبة 1.51% فقط مع 26,000 عينة. وفي المق المقابل، ارتكب ثاني أفضل منهج أخطاء بنسبة 1.78%، وكانت المناهج الأخرى أسوأ بكثير، حيث وصلت نسبة الخطأ فيها إلى 18.16%. وفي مجموعة بيانات "Mnist" (الأرقام المكتوبة بخط اليد)، سجل المنهج الجديد معدل خطأ بنسبة 10.36%، متفوقًا على الآخرين الذين تراوحت نسبهم بين 12.37% و 15.28%.

2. كانت أسرع بشكل ملحوظ.
هنا برز تفوق "تحسين العينات" حقًا. قام الباحثون بقياس الوقت الإجمالي اللازم لاختيار العينات المهمة وتدريب النموذج معًا.

• في اختبار الـ 10,000 عينة، استغرقت الطريقة الجديدة إجمالي 64,730 ثانية (حوالي 18 ساعة) لتشغيل جميع مجموعات البيانات. واستغرقت ثاني أسرع طريقة 75,796 ثانية، بينما استغرقت الأبطأ 90,162 ثانية.
• في اختبار الـ 26,000 عينة، اتسعت الفجوة. استغرقت الطريقة الجديدة 119,671.96 ثانية، بينما استغرقت المنافسة الأبطأ 181,262.97 ثانية.

استخدم الباحثون اختبارًا إحصائيًا يسمى اختبار ويلكوكسون لمرتبة الإشارات (Wilcoxon signed-rank test) للتأكد من أن هذه الاختلافات لم تكن مجرد ضربة حظ. وأظهر الاختبار أن الطريقة الجديدة كانت أفضل إحصائيًا من جميع المنافسين الأربعة في كل من الدقة والسرعة.

ماذا يعني هذا

تشير الورقة البحثية إلى أنه من خلال الجمع بين النوى المتعددة الموزونة (استخدام أفضل مزيج من العدسات) مع الاختيار الذكي للعينات (التركيز فقط على الحالات الصعبة)، يمكنك بناء مصنف يكون أكثر دقة وأسرع بكثير من الطرق الحالية.

يشير المؤلفون إلى أن هذا النهج مفيد بشكل خاص لـ "البيانات متعددة الفئات المعقدة والكبيرة". هم لم يدّعوا أن هذا الحل يحل كل مشكلة في العالم، لكنهم أظهروا أنه بالنسبة لمجموعات البيانات التي اختبروها، فقد تفوقوا على التقنيات الموجودة دون الحاجة إلى أي خطوات معالجة مسبقة إضافية. كما ذكروا أن العمل المستقبلي قد يتضمن تطبيق هذه الفكرة على الشبكات العصبية العميقة أو استخدام الحوسبة المتوازية لجعلها أسرع، ولكن في الوقت الحالي، يعد "الحكم الموزون الشامل" وسيلة أكثر كفاءة لتعليم الحواسيب كيفية فرز بيانات العالم الفوضوية.