💻 computer science

SphOR: A Representation Learning Perspective on Open-set Recognition for Identifying Unknown Classes in Deep Learning Models

تقترح الورقة البحثية إطار عمل SpHOR، وهو إطار عمل جديد للتعرف على المجموعات المفتوحة يعزز تعلم تمثيل الميزات من خلال تضمينات التصنيفات المتعامدة، والقيود الكروية، ودمج تقنية Mixup مع تنعيم الملصقات، محققاً أداءً هو الأفضل في فئته عبر تشكيل فضاء الميزات بشكل صريح لتمييز الفئات غير المعروفة بشكل أفضل.

المؤلفون الأصليون: Nadarasar Bahavan, Sachith Seneviratne, Saman Halgamuge

نُشر 2026-02-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Nadarasar Bahavan, Sachith Seneviratne, Saman Halgamuge

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك حارس أمن في نادٍ حصري للغاية. مهمتك هي فحص بطاقات الهوية. لديك قائمة تضم 100 اسم محدد (الطبقات المعروفة) يُسمح لهم بالدخول.

المشكلة: "فخ الألفة"
في الأيام الخوالي، إذا اقترب غريب لا يملك بطاقة هوية في قائمتك، كان الحارس يصاب بالذعر. قد ينظر إلى وجه الغريب، ويرى أن لديه أنفاً وعينين تشبهان إلى حد ما أحد الأعضاء المعروفين، فيقول: "أوه، لا بد أنك بوب!" ويسمح له بالدخول. هذا خطأ. في الذكاء الاصطناعي، يُسمى هذا بـ "فخ الألفة" (Familiarity Trap). حيث يصبح الذكاء الاصطناعي واثقاً جداً مما لا يعرفه حقاً لأنه يبحث عن تشابهات عامة (مثل "لديه أنف") بدلاً من التفاصيل المحددة.

أيضاً، معظم حراس الذكاء الاصطناعي مدربون على إجبار الجميع على الدخول في واحدة من الـ 100 خانة. إذا جاء شخص جديد، يقوم الذكاء الاصطناعي بضغطهم وحشرهم في أقرب خانة متاحة، حتى لو لم يكونوا مناسبين لها.

الحل: SpHOR (الحارس الذكي)
تقدم الورقة البحثية طريقة جديدة تسمى SpHOR. بدلاً من مجرد تدريب الحارس على التعرف على الوجوه، تقوم SpHOR بتغيير كيفية تنظيم الحارس للخريطة الذهنية للنادي. إنها تستخدم ثلاث حيل ذكية للتأكد من أن الذكاء الاصطناعي يعرف تماماً من ينتمي للنادي ومن لا ينتمي إليه.

إليك كيف تعمل SpHOR باستخدام تشبيهات بسيطة:

1. قاعدة "التعامد" (فصل الغرف)

تخيل أن النادي يحتوي على قاعة رقص ضخمة. في النظام القديم، كان كبار الشخصيات المئة (VIPs) متكدسين في المركز، يصطدمون ببعضهم البعض.
حيلة SpHOR: إنها تجبر كل مجموعة من كبار الشخصيات على التواجد في ممر خاص بها، متميز وغير متداخل.

التشبيه: فكر في الممرات على أنها بزوايا 90 درجة مثالية تجاه بعضها البعض (مثل زاوية الغرفة). إذا كنت في ممر "القطط"، فأنت بعيد جسدياً عن ممر "الكلاب".
لماذا يساعد ذلك: إذا دخل غريب، فلن ينتهي به الأمر بالخطأ في ممر "القطط" لمجرد أنه يمتلك فراءً. بل سينتهي به الأمر في المساحة الفارغة بين الممرات، وهو ما يدركه الحارس فوراً على أنه "غير معروف".

2. القيد "الكروي" (الكرة الأرضية)

عادةً، يرسم الذكاء الاصطناعي البيانات على ورقة مسطحة (فضاء إقليدي). وعلى الورقة المسطحة، يمكنك رسم دوائر تبتعد أكثر فأكثر ولا تنفد منك المساحة أبداً. وهذا يجعل من الصعب تحديد أين تنتهي المنطقة "المعروفة" وأين تبدأ المنطقة "المجهولة".
حيلة SpHOR: إنها تجبر جميع البيانات على التواجد على سطح كرة (كرة أرضية).

التشبيه: تخيل أن جميع كبار الشخصيات هم ملصقات ملتصقة بكرة سلة. لا يمكنهم الخروج "خارج" الكرة؛ يجب أن يبقوا على السطح.
لماذا يساعد ذلك: على الكرة، توجد مساحة محدودة. إذا حاولت وضع ملصق جديد (طبقة غير معروفة) على الكرة، فسيتعين عليك حشرها بين الملصقات الموجودة بالفعل. إذا لم تتناسب هذه الطبقة بدقة داخل مجموعة معينة، سيرى الحارس أنها عنصر خارجي. هذا يخلق "حدوداً" طبيعية لما هو معروف.

3. تدريبات "الخلط" و"التنعيم" (تمارين التدريب)

لتعليم الحارس ليكون أفضل، لا تكتفي SpHOR بإظهار صور واضحة للقطط والكلاب له.

الخلط (Mixup): يتم عرض صورة مكونة من 50% قط و50% كلب على الحارس. يجب على الحارس أن يتعلم أن هذا الشيء "نصف قط ونصف كلب" لا ينتمي لأي من المجموعتين بشكل مثالي. هذا يعلمه أن يقول: "هذا غريب، إنه ليس قطاً نقياً".
تنعيم الملصقات (Label Smoothing): بدلاً من إخبار الحارس: "هذا قط بنسبة 100%"، يُقال له: "هذا قط في الغالب، ولكن ربما فيه جزء ضئيل من شيء آخر".
لماذا يساعد ذلك: هذا يمنع الحارس من الثقة المفرطة. إنه يعلم الذكاء الاصطناعي أن العالم فوضوي. عندما يدخل غريب حقاً، سيكون الذكاء الاصطناعي أقل عرضة لإجبار هذا الغريب في صندوق "القطط" وأكثر عرضة لقول: "لا أعرف ما هذا".

النتيجة: نظام أمني أفضل

اختبرت الورقة البحثية هذا الحارس "SpHOR" ضد حراس آخرين في اختبارات صعبة (مثل التمييز بين أنواع الطيور المتشابهة جداً أو موديلات السيارات).

الحراس القدامى: غالباً ما خلطوا بين الطيور الجديدة والقديمة، أو تعرضوا للخداع من قبل الغرباء الذين يشبهون بعض الأعضاء قليلاً.
حارس SpHOR: لأن نظام تنظيمه لخريطته الذهنية يعتمد على غرف متميزة وغير متداخلة على سطح كرة، ولأن تدرب على أمثلة "مختلطة"، فقد كان أفضل بكثير في قول: "أنا لا أعرف هذا الشخص"، بدلاً من التخمين الخاطئ.

باختاً مختصر:
SpHOR هي طريقة جديدة لتعليم الذكاء الاصطناعي التعرف على الأشياء. بدلاً من مجرد حفظ الوجوه، فإنها تنظم ذاكرته في خريطة كروية مهيكلة مع غرف منفصلة لكل مجموعة. كما أنها تتدرب على أمثلة مربكة حتى لا تصبح واثقة أكثر من اللازم. وهذا يجعلها أفضل بكثير في اكتشاف الغرباء (الطبقات غير المعروفة) دون ارتكاب أخطاء.

ملخص تقني لورقة بحثية: "SpHOR: منظور تعلم التمثيل للتعرف على المجموعات المفتوحة لتحديد الفئات غير المعروفة في الشبكات العصبية العميقة"

1. بيان المشكلة

يهدف التعرف على المجموعات المفتوحة (Open-Set Recognition - OSR) إلى تمكين الشبكات العصبية العميقة (DNNs) من تحديد بيانات المدخلات التي تنتمي إلى فئات لم تكن موجودة أثناء التدريب، وتصنيفها كـ "غير معروفة" بدلاً من تصنيفها خطأً ضمن الفئات المعروفة.

تحدد الورقة تحديين رئيسيين في نهج الـ OSR الحالي:

فخ الألفة (The Familiarity Trap): غالبًا ما تشترك الفئات غير المعروفة في سمات دلالية أو توزيعات بيانات مع الفئات المعروفة (إزاحات دقيقة). إذا تعلمت الشبكة ميزات تعتمد على السمات المشتركة بين الفئات (مثل الخلفية أو الملمس) بدلاً من السمات الخاصة بكل فئة، فإن العينات غير المعروفة ستُصنف قريبة جدًا من الفئات المعروفة في الفضاء الكامن، مما يجعل التمييز بينهما مستحيلاً.
قصور تعلم التمثيل (Inadequate Representation Learning): تقوم معظم طرق الـ OSR الحالية بتدريب مستخرج الميزات والمصنف بشكل مشترك. يؤدي هذا غالبًا إلى تمثيلات ميزات متكيفة ضمنيًا مع المجهول بدلاً من كونها مهيكلة صراحةً للفصل بينه وبين المعلوم. علاوة على ذلك، تعتمد العديد من الطرق على أهداف عامة (مثل التعلم التبايني الخاضع للإشراف القياسي) ليست مصممة خصيصًا للهندسة الفريدة لمشكلات المجموعة المفتوحة.
محدودية الفضاء الإقليدي (Limitations of Euclidean Space): تقوم طرق الـ OSR التقليدية بنمذجة الميزات في فضاء إقليدي غير محدود، مما يزيد من "مخاطر الفضاء المفتوح" (احتمالية تصنيف العينات المعروفة خطأً على أنها غير معروفة).

2. المنهجية: SpHOR

يقترح المؤلفون SpHOR، وهو إطار عمل تدريبي جديد مكون من مرحلتين ومنفصلتين، يعمل على تشكيل فضاء الميزات صراحةً عبر تعلم التمثيل الخاضع للإشراف قبل تدريب المصنف.

المرحلة الأولى: تعلم التمثيل الكروي (Spherical Representation Learning)

بدلاً من تعلم ميزات عامة، يقوم SpHOR ببناء فضاء ميزات بخصائص هندسية محددة:

القيد الكروي (Spherical Constraint): يتم تطبيع الميزات باستخدام معيار $L_2$ وإسقاطها على كرة فائقة (hypersphere). يسمح هذا بنمذجة توزيعات الفئات كـ توزيعات فون ميسيز-فايشر (vMF)، وهي النظير الكروي للتوزيعات الغاوسية. هذا يقيد "الفضاء المفتوح" ويقلل من مخاطر الفضاء المفتوح.
تضمينات التصنيف المتعامدة (Orthogonal Label Embeddings): لمواجهة "فخ الألفة"، تفرض الطريقة التعامد بين تضمينات التصنيف الخاصة بكل فئة ( $\mu_c$ ). يضمن هذا أن كل فئة تشغل فضاءً خطيًا متميزًا، مما يمنع تكرار الميزات ويشجع النموذج على تعلم السمات الخاصة بالفئة بدلاً من السمات المشتركة.
دالة الخسارة ( $L_{vMFAL}$ ): الخسارة الأساسية هي خسارة محاذاة فون ميسيز-فايشر المعدلة. تقوم بمحاذاة تضمينات العينات ( $z_i$ $z_{i}$ ) مع تضمينات التصنيف المقابلة لها ( $\mu_c$ $μ_{c}$ ) مع تعزيز التوحيد (Uniformity) (توزيع التضمينات بالتساوي) والمحاذاة (Alignment) (سحب العينات نحو مركز فئتها).
- التعامل مع الغموض: تتضمن الخسارة تنعيم الملصقات (Label Smoothing - LS) وتقنية الخلط (Mixup). عندما تكون العينة غامضة (على سبيل المثال، عينة Mixup)، تسحب الخسارة العينة نحو متوسط جميع تضمينات التصنيف بدلاً من مركز فئة واحدة، مما يدفع العينات الغامضة/التي تشبه المجهول بعيدًا عن مراكز الفئات.
منظم التعامد ( $R_{Ortho}$ ): يعمل حد إضافي على جعل تضمينات التصنيف نفسها متعامدة وموزعة بانتظام، مما يمنع "انهيار التضمين" حيث تصبح الفئات المختلفة غير قابلة للتمييز.

المرحلة الثانية: تدريب المصنف (Classifier Training)

يتم التخلص من شبكة الإسقاط وتضمينات التصنيف.
يتم تدريب مصنف قياسي (MLP) على تمثيلات الميزات المتعلمة والمجمدة باستخدام خسارة الإنتروبيا المتقاطعة القياسية. يسمح هذا الفصل بتحسين فضاء الميزات خصيصًا لهندسة الـ OSR قبل وضع حدود القرار.

المعالجة اللاحقة (Scoring)

يستخدم النظام قاعدة تسجيل $S(\cdot)$ لتحديد ما إذا كانت عينة الاختبار معروفة أم غير معروفة. تقيم الورقة قواعد مختلفة، بما في ذلك درجات المصنف (MaxLogit)، ودرجات الميزات (KNN)، والدرجات الهجينة (NNGuide).

3. المساهمات الرئيسية

إطار عمل منفصل جديد مكون من مرحلتين: يفصل SpHOR بين تعلم التمثيل وتدريب المصنف، حيث يصمم فضاء الميزات صراحةً للـ OSR بدلاً من الاعتماد على التكيف العرضي.
ثلاثة ابتكارات رئيسية:
- تضمينات التصنيف المتعامدة: تفرض ميزات متميزة وخاصة بكل فئة لمنع فخ الألفة.
- نمذجة vMF الكروية: تقيد الميزات داخل كرة فائقة لنمذجة مخاطر الفضاء المفتوح رياضياً.
- دمج Mixup وتنعيم الملصقات: يتم تطبيقها مباشرة أثناء تعلم التمثيل لنمذجة المساحات الغامضة/المجهولة وتحسين المتانة.
مقاييس تقييم جديدة:
- الانفصال الزاوي (Angular Separability - AS): يقيس مدى القرب الهندسي للعينات غير المعروفة من مراكز الفئات المعروفة (الأقل هو الأفضل).
- الانفصال المعياري (Norm Separability - NS): يقيس القدرة على تمييز المجهولات بناءً على مقدار الميزة (النمط/Norm)، مستفيدًا من حقيقة أن العينات غير المعروفة غالبًا ما تمتلك توزيعات نمط مختلفة.
التحليل النظري: تقدم الورقة براهين توضح كيف تحفز الخسرة المقترحة المحاذاة والتوحيد، وتوضح تحليليًا كيف يحسن التعامد من التشتت.

4. النتائج التجريبية

تم تقييم الطريقة على معيار الإزاحة الدلالية (SSB) (مجموعات بيانات دقيقة: CUB، Stanford Cars، FGVC-Aircraft) ومعايير Legacy CNN-32 (مجموعات بيانات خشنة: CIFAR، SVHN، Tiny-ImageNet).

الأداء المتميز (State-of-the-Art): حقق SpHOR أفضل النتائج عبر كل من المعايير الدقيقة والخشنة.
- في معيار الإزحة الدلالية، حسن معدل تصنيف المجموعة المفتوحة (OSCR) بنسبة تصل إلى 5.1% وAUROC بنسبة 5.2% مقارنة بالنماذج القوية مثل MLS وSupCon.
- في المعايير التقليدية (Legacy Benchmarks)، تفوق على طرق مثل ConOSR وARPL، محققًا تحسنًا في متوسط AUROC يتراوح بين 0.8% إلى 1%.
المتانة:
- الاستقلالية عن قاعدة التسجيل: أظهر SpHOR حساسية أقل بكثير تجاه اختيار قاعدة التسجيل مقارنة بالنماذج المرجعية.
- لا يتطلب تدريبًا مسبقًا: على عكس العديد من النماذج المرجعية التي تعاني من انخفاض هائل في الأداء عند التدريب من الصفر (بدون تدريب مسبق على ImageNet)، حافظ SpHO على أداء تنافسي، مما يثبت استقرار التمثيلات الكروية.
- الكفاءة مع أحجام الدفعات الصغيرة: يتميز SpHOR بتعقيد حسابي خطي $O(B \cdot C)$ مقارنة بالتعقيد التربيعي $O(B^2)$ للتعلم التبايني (SupCon)، مما يجعله قويًا حتى مع أحجام الدفعات الصغيرة.

5. الأهمية

تنقل هذه الورقة النموذج المعرفي للتعرف على المجموعات المفتوحة من "تعديلات مستوى المصنف" إلى "تصميم مستوى التمثيل". من خلال هيكلة فضاء الميزات صراحةً باستخدام الهندسة الكروية وقيود التعامد، يعالج SpHOR بفعالية فخ الألفة، وهو عائق كبير في الـ OSR الدقيق.

يوفر تقديم الانفصال الزاوي والمعياري أدوات جديدة لتشخيص سبب فشل نموذج الـ OSR، متجاوزًا مجرد مقاييس الدقة البسيطة. إن قدرة الطريقة على العمل بشكل جيد دون تدريب مسبٍ وبدفعات صغيرة تجعلها عملية للغاية للتطبيقات الواقعية حيث تكون البيانات محدودة أو الموارد الحسابية مقيدة.