ملخص تقني: الاسترجاع العلاقاتي لاكتشاف الفئات المعممة

تعريف المشكلة

تتناول الورقة البحثية مهمة اكتشاف الفئات المعممة (GCD)، وهي مهمة توسع نطاق التصنيف التقليدي ليشمل سيناريوهات العالم المفتوح. الهدف هو التعرف بشكل مشترك على الفئات المعروفة باستخدام البيانات المصنفة ($D_L$) واكتشاف فئات جديدة ضمن البيانات غير المصنفة ($D_L$). ويتمثل التحدي الحرج في أساليب الـ GCD الحالية في أنها تعامل البيانات المصنفة وغير المصنفة عادةً كمسارات تعلم منفصلة: حيث تخضع البيانات المصنفة للتعلم الخاضع للإشراف، بينما تعتمد البيانات غير المصنفة على إشارات التعلم الذاتي. يؤدي هذا الفصل إلى قصورين رئيسيين حددهما المؤلفون:

1. هدر المعرفة الدلالية: تعتمد العينات غير المصنفة التي تنتمي إلى فئات معروفة فقط على التعلم الذاتي، متجاهلة الميزات المميزة للغاية التي تم التقاطها بالفعل من العينات المصفحة لنفس الفئات.
2. الاكتشاف غير الفعال: غالبًا ما يسير اكتشاف الفئات دون مراعاة الأنماط العلاقاتية؛ فالعينات من نفس الفئة الجديدة، رغم تميزها عن الفئات المعروفة، تحافظ على علاقات ثابتة مع نماذج الفئات المعروفة، وهي إشارة غالبًا ما يتم تجاهلها لصالح التسميات المستعارة (pseudo-labeling) غير الموثوقة.

المنهجية: اتساق النمط العلاقاتي (RPC)

يقوم إطار العمل المقترح، اتساق النمط العلاقاتي (RPC)، بربط البيانات المصنفة وغير المصنفة صراحةً من خلال نقل المعرفة ثنائي الاتجاه. يبني هذا الأسلوب على نموذج SimGCD الأساسي لتعلم التمثيلات، ويدمج تفكيك "الكل مقابل الكل" (One-vs-All - OVA) الخاص بـ DebGCD لتحديد ما إذا كانت العينات غير المصنفة تنتمي إلى فئات معروفة (ID) أو فئات جديدة (OOD).

يتكون جوهر RPC من آليتين:

1. الحفاظ على الفئات المعروفة عبر النقل الدلالي

لمنع فقدان البنية الدلالية في عينات الفئات المعروفة غير المصنفة، يقوم RPC بنقل الأنماط القوية من البيانات المصنفة إلى البيانات غير المصنفة.

• التفكيك الناعم للفئات المعروفة/الجديدة (Soft ID/OOD Decomposition): تولد مصنفات OVA أوزانًا ناعمة ($w_{old}$ و $w_{new}$) لتقدير احتمالية انتماء العينة لفئات معروفة أو جديدة.
• دمج التضمين الموزون بالثقة: بالنسبة للدفعات (batches) التي تحتوي على كل من العينات المصنفة وعينات غير مصنفة عالية الثقة (ID)، يبني النموذج مصفوفة دمج. تقوم هذه المصفوفة بإجراء إزاحة دائرية (circular shift) لحقن المعلومات من العينات المصنفة في نظائرها غير المصنفة المقابلة. يتم وزن عملية الدمج بواسطة $w_{old}$، مما يضمن تأثر العينات غير المصنفة (ID) عالية الثقة فقط بشكل كبير.
• المحاذاة السلوكية: يفرض إطار العمل الاتساق بين التغيرات السلوكية المستحثة بالتعزيز ($\Delta$) للعينات المصنفة ونظائرها غير المصنفة المدمجة. يضمن ذلك أن ترث عينات الفئات المعروفة غير المصنفة تمثيلات قوية من البيانات المصنفة.

2. اكتشاف الفئات عبر المطابقة العلاقاتية

لاكتشاف الفئات الجديدة، يتجاوز RPC مشكلة التجميع غير محددة المعالم (ill-posed clustering) من خلال الاستفادة من الاتساق العلاقاتي.

• البصمات العلاقاتية: يفترض الأسلوب أن العينات من نفس الفئة الجديدة تظهر علاقات ثابتة مع نماذج الفئات المعروفة. وتحديدًا، يجب أن يكون للعينات من نفس الفئة الجديدة مسافات (أنماط تشابه) متشابهة مع جميع نماذج الفئات المعروفة.
• مطابقة الأنماط: يتم ترميز كل عينة كمتجه من التشابهات مع نماذج الفئات المعروفة ($r(x)$). ثم يقوم النموذج بتقليل المسافة بين هذه البصمات العلاقاتية للعينات المتشابهة في الميزات، مع وزنها بدرجات الجدة الخاصة بها ($w_{new}$). يحول هذا عملية الاكتشاف إلى مشكلة مطابقة أنماط محددة جيدًا ضمن الإطار المرجعي للفئات المعروفة.

يجمع هدف التدريب الإجمالي بين خسائر النموذج الأساسي (التمثيل والمصنف) مع خسارة المحاذاة الجديدة ($L_{align}$) وخسارة الاكتشاف الجديد ($L_{new}$).

المساهمات الرئيسية

يحدد المؤلفون ثلاث مساهمات رئيسية:

1. الاقتران ثنائي الاتجاه: يعد RPC أول إطار عمل لـ GCD يربط صراحةً بين البيانات المصنفة وغير المصنفة من خلال نقل المعرفة ثنائي الاتجاه، مستخدمًا تفكيك ID/OOD الناعم لتمكين التفاعلات المستهدفة بدلاً من الحفاظ على مسارات تعلم منفصلة.
2. آليات مبتكرة:
   • تقديم دمج التضمين الموزون بالثقة مع المحاذاة السلوكية للحفاظ على دلالات الفئات المعروفة.
   • تطوير تعلم الاتساق العلاقاتي، الذي يكتشف الفئات الجديدة بناءً على علاقاتها الثابتة مع نماذج الفئات المعروفة، متجنبًا الاعتماد على التسميات المستعارة غير الموثوقة.
3. أداء رائد (State-of-the-Art): تُظهر التجار𝓷ات المكثفة أن RPC يحقق أداءً فائقًا في كل من المعايضات العامة والدقيقة.

النتائج التجريبية

تم تقييم الطريقة على ستة معايضات: ثلاثة مجموعات بيانات دقيقة (CUB، Stanford Cars، FGVC-Aircraft) وثلاث مجموعات بيانات عامة (CIFAR-10، CIFAR-100، ImageNet-100).

• الأداء: حقق RPC نتائج رائدة في معظم المعايضات. والجدير بالذكر أنه في مجموعة بيانات CUB، رفع دقة "الكل" (All) إلى 67.1% (مقابل 66.3% لأفضل نموذج سابق، DebGCD)، مع مكاسب كبيرة في دقة "القديم" (Old) (73.2% مقابل 71.8%) ودقة "الجديد" (New) (64.8% مقابل 63.5%).
• دراسات الاستئصال (Ablation Studies): أدى إزالة دمج التضمين أو خسارة المحاذاة ($L_{align}$) إلى انخفاض بنسبة 3% تقريبًا في دقة الفئة المعروفة في CUB. كما تسبب إزالة خسارة الاكتشاف العلاقاتي ($L_{new}$) في انخفاض قدره 3.3% في دقة الفئة الجديدة، مما يؤكد ضرورة كلا المكونين.
• الكفاءة: يقدم الأسلوب عبئًا حسابيًا ضئيلاً، حيث يضيف 1.40% فقط إلى عدد المعلمات و1.82% إلى العمليات الحسابية (FLOPs) مقارنة بأسلوب SimGCD الأساسي.
• التصور (Visualization): تشير تصورات t-SNE إلى أن RPC ينتج مساحة كامنة أكثر هيكلية مع تجميع داخلي للفئات أكثر إحكامًا وحدود أوضح بين الفئات مقارنة بالأساليب الأساسية، مما يقلل بفعالية من التشابك الدلالي بين الفئات المتجاورة.

الأهمية والادعاءات

تدعي الورقة أن RPC يغير بشكل جذري نموذج الـ GCD من التعلم المتوازي (حيث تتم معالجة البيانات المصنفة وغير المصنفة بشكل منفصل) إلى التعزيز المتبادل. من خلال الاستفادة من التفاعلات المهيكلة بين البيانات المعروفة والجديدة، يسمح إطار العمل للبيانات المصنفة بتوجيه تعلم التمثيل للفئات المعروفة غير المصنفة، وفي الوقت نفسه استخدام البصمات العلاقاتية الجماعية للبيانات غير المصنفة لاكتشاف الفئات الجديدة. ويؤكد المؤلفون أن هذا النهج يثبت فرضية أن البيانات المصنفة وغير المصنفة يمكن أن يعزز كل منهما الآخر من خلال التفاعلات المهيكلة، مما يؤدي إلى تمثيلات ميزات أكثر قوة واكتشاف فئات أكثر دقة في بيئات العالم المفتوح.