💻 computer science

Cross-Sample Relational Fusion: Unifying Domain Generalization and Class-Incremental Learning

تقترح هذه الورقة البحثية إطار عمل "دمج العلاقات عبر العينات" (CORF)، وهو إطار موحد يعالج في آن واحد انزياح النطاق والنسيان الكارثي في التعلم التزايدي للفئات، وذلك من خلال الاستفادة من خرائط المساهمة المكانية لتنقية العينات وآلية تقطير متتالية لنقل المعرفة متعدد الحبيبات.

المؤلفون الأصليون: Zhen-Hao Xie, Yan Wang, Hao Sun, Han-Jia Ye, De-Chuan Zhan, Da-Wei Zhou

نُشر 2026-05-12

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zhen-Hao Xie, Yan Wang, Hao Sun, Han-Jia Ye, De-Chuan Zhan, Da-Wei Zhou

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تقوم بتدريب روبوت للتعرف على الأشياء، لكن العالم من حوله يتغير باستمرار.

المشكلة: أزمة ذاكرة الروبوت
عادةً، عندما نعلم الروبوت أشياء جديدة (مثل التعرف على "حمار وحشي" بعد أن عرف بالفعل "الحصان")، فإنه يميل إلى نسيان الأشياء القديمة. يُسمى هذا النسيان الكارثي (Catastrophic Forgetting). الأمر يشبه طالباً درس للتاريخ، ثم بدأ فوراً في دراسة الرياضيات، وفجأة نسي كل شيء عن الثورة الفرنسية.

ولكن هناك مشكلة ثانية، خفية: انزياح النطاق (Domain Shift). تخيل أن الروبوت تعلم التعرف على "الكلاب" فقط في المتنزهات الحضرية المشمسة. إذا أخذته فجأة إلى مزرعة ريفية ضبابية، فقد يرتبك لأن الإضاءة والخلفية والنمط مختلفون تماماً. الأمر يشبه أن يتعلم الروبوت التعرف على "الكلاب" فقط وهي ترتدي نظارات شمسية في المدينة؛ والآن يرى كلباً في حقل طيني فلا يتعرف عليه.

معظم الطرق الموجودة تعالج مشكلة واحدة وتتجاهل الأخرى. فهي إما تساعد الروبوت على تذكر الأشياء القديمة لكنها تفشل في البيئات الجديدة، أو تساعده على التكيف مع البيئات الجديدة لكنها تجعله ينسى الفئات القديمة.

الحل: CORF (الدمج العلاقاتي عبر العينات المتقاطعة)
يقترح المؤلفون نظاماً جديداً يسمى CORF. فكر في CORF كمدرب دراسي ذكي للغاية يستخدم خدعتين رئيسيتين لمساعدة الروبوت على تعلم فئات جديدة دون نسيان الفئات القديمة، حتى عندما تتغير البيئة.

الخدعة الأولى: "محرر الصور الذكي" (التحسين مزدوج الحساسية)

تخيل أنك تحاول تعليم الروبوت كيف يبدو "الحصان".

خدعة الثقة العالية: يختار المدرب صورة لحصان يكون الروبوت متأكداً منها بنسبة 100%. ثم يجد صورة لحصان من مكان مختلف تماماً (مثل بلد آخر أو طقس مختلف). يستخدم المدرب "قناعاً" ليرى أين ينظر الروبوت. يرى أن الروبوت يركز على جسم الحصان (الجزء المهم) ولكنه يرتبك بسبب الخلفية (الجزء المزعج). يقوم المدرب بعد ذلك بـ دمج جسم الحصان الواضح من الصورة الأولى مع خلفية الحصان الثاني. هذا يعلم الروبوت: "ركز على الحصان، وتجاهل الخلفية".
خدعة الثقة المنخفضة: أحياناً يكون الروبوت مرتبكاً (ثقة منخفضة). ربد يرى صورة ضبابية. يأخذ المدرب هذه الصورة المربكة ويمزجها مع حيوان آخر (مثل البقرة) من نفس المشهد. هذا يجبر الروبوت على الانتباه بدقة للتفاصيل المحددة التي تجعل الحصان حصاناً والبقرة بقرة، بدلاً من مجرد التخمين بناءً على الخلفية.

النتيجة: يتعلم الروبوت التعرف على جوهر الشيء، بغض النظر عما إذا كان الجو مشمساً، ممطراً، حضرياً، أو ريفياً.

الخدعة الثانية: "خريطة العلاقات" (التقطير القائم على النواة الهرمي)

عندما يتعلم الروبوت أشياء جديدة، فإنه غالباً ما ينسى كيف ترتبط الأشياء القديمة ببعضها البعض.

تخيل أن لدى الروبوت خريطة ذهنية لجميع الحيوانات التي يعرفها. "الكلب" قريب من "الذئب"، وبعيد عن "السيارة".
عندما يتعلم الروبوت فئة جديدة، قد يفسد بالخطأ هذه الخريطة، مما يجعل "الكلب" و"السيارة" يبدوان متشابهين.
يستخدم CORF تقنية التقطير (Distillation). فهو يحتفظ بنسخة من "الخريطة القديمة" (من قبل التعلم الجديد) ويقارنها بـ "الخريطة الجديدة" التي يبنيها الروبوت.
بدلاً من مجرد التحقق مما إذا كان الروبوت يحصل على الإجابة الصحيحة، فإنه يتحقق مما إذا كانت العلاقات بين الحيوانات لا تزال صحيحة. "هل لا يزال الكلب أقرب إلى الذئب منه إلى السيارة؟" إذا أفسد التعلم الجديد هذه العلاقات، فإن المدرب يدفع الروبوت بلطف للعودة إلى المسار الصحيح. هذا يضمن أن الروبوت يتذكر بنية معرفته، وليس فقط التصنيفات.

الصورة الكبيرة

من خلال الجمع بين هاتين الخدعتين، يخلق CORF روبوتاً:

يتذكر كل شيء: لا ينسى الفئات القديمة عند تعلم فئات جديدة.
يتكيف في كل مكان: يمكنه التعرف على الأشياء في المدن المشمسة، المزارع الضبابية، أو حتى الرسومات التخطيطية، لأنه تعلم تجاهل "الضجيج" في البيئة.

اختبر الباحثون هذا على عدة مجموعات بيانات (مثل OfficeHome و DomainNet) ووجدوا أن إضافة CORF إلى أنظمة التعلم الحالية جعلتها أفضل بكثير في التعامل مع هذه التحديات الواقعية. إنه مثل منح طالب دليلاً دراسياً أفضل ووسيلة مساعدة للذاكرة، مما يسمح له باجتياز الامتحانات في أي موضوع، وفي أي فصل دراسي، دون نسيان ما تعلمه العام الماضي.

ملخص تقني: دمج العلاقات عبر العينات (CORF)

1. صياحة المشكلة: التعلم التصنيفي عبر النطاقات (CDCIL)

تعالج الورقة البحثية فجوة حرجة في أبحاث التعلم المستمر الحالية: التحدي المزدوج المتمثل في النسيان الكارثي (Catastrophic Forgetting) وانزياح النطاق (Domain Shift). بينما يركز التعلم التصنيفي التقليدي (CIL) على تعلم فئات جديدة دون نسيان الفئات القديمة، ويركز التعلم العام للنطاقات (DG) على المتانة عبر النطاقات المختلفة، فإن كلاهما لا يعالج بشكل كامل السيناريو الذي يجب أن يتعلم فيه النموذج فئات جديدة بالتتابع مع مواجهة بيانات من نطاقات "مرئية" وغير "مرئية".

صاغ المؤلفون هذا التحدي تحت مسمى التعلم التصنيفي عبر النطاقات (CDCIL). في هذا الإعداد:

التدريب: يتلقى النموذج تدفقاً من المهام، حيث تحتوي كل مهمة على عينات من عدة نطاقات "مرئية".
الاستدلال: يتم تقييم النموذج على جميع الفئات التي تم تعلمها سابقاً عبر كل من النطاقات المرئية ونطاق "غير مرئي" تماماً تم استبعاده من التدريب.
التحدي: تفشل طرق CIL الحالية في ظل انزياح النطاق بسبب نقص آليات التعميم، بينما تفشل طرق DG في الإعدادات التزايدية لأنها تفتقر إلى الآليات لمقاومة النسيان عند توسع مساحة الملصقات (Labels).

2. المنهجية: دمج العلاقات عبر العينات (CORF)

يقترح المؤلفون إطار عمل CORF، وهو إطار موحد مصمم لتعلم تمثيلات مستقرة تزايدياً ومستقلة عن النطاق. يدمج CORF مكونين متكاملين هما: التحسين ثنائي الحساسية (DSR) لتعزيز البيانات، والتقطير الهرمي القائم على النواة (HKD) للحفاظ على المعرفة الهيكلية.

أ. التحسين ثنائي الحساسية (DSR)

يهدف DSR إلى بناء مساحة تمثيل مستقلة عن النطاق من خلال بناء مجموعة بيانات مساعدة بشكل استراتيجي. وهو يستفيد من خرائط المساهمة المكانية (عبر Grad-CAM) والثقة التنبؤية لتوجيه دمج العينات:

الدمج عالي الثقة:
- يتم تحديد العينات ذات الثقة التنبؤية العالية كمرتكزات دلالية موثوقة.
- بالنسبة لعينة عالية الثقة $x_H$ ، يتم استرجاع نظير لها $\tilde{x}_H$ من نطاق مختلف ولكن من نفس الفئة.
- تحدد خريطة المساهمة المكانية المناطق الحرجة للتصنيف. يقوم النموذج بدمج المناطق ذات المساهمة المنخفضة (التي غالباً ما تحتوي على ضوضاء خاصة بالنطاق) لكل من $x_H$ و $\tilde{x}_H$ ، مع الحفاظ على المناطق ذات المساهمة العالية لـ $x_H$ .
- الهدف: إجبار النموذج على الاعتماد على الميزات المتسقة دلالياً عبر النطاقات مع تجاهل الشوائب الخاصة بالنطاق.
الدمج منخفض الثقة:
- يتم تحديد العينات ذات الثقة المنخفضة (الغامضة أو المشوشة).
- يتم إقران هذه العينات بعينة من فئة مختلفة داخل نفس الدفعة (Batch).
- يحدث الدمج في المناطق ذات المساهمة العالية لتشجيع فصل الميزات (Feature Disentanglement).
- الهدف: يتم تعيين هذه العينات المُصنّعة لـ فئات مساعدة مؤقتة (منفصلة عن مساحة الملصقات الأصلية) لمنع إفساد حدود التصنيف الأصلية مع تشجيع النموذج على تعلم حدود قرار قوية.

ب. التقطير الهرمي القائم على النواة (HKD)

للتخفيف من النسيان الكارثي دون الاعتماد على التقطير على مستوى اللوجيت (الذي يفترض الاتساق التوزيعي)، يستخدم CORF تقنية HKD. تعمل هذه الطريقة على الحفاظ على الطوبولوجيا العلاقاتية للعينات عبر مستويات متعددة من التسلسل الهرمي للميزات.

خرائط النواة العلاقاتية: بدلاً من محاذاة اللوجيتات العالمية، يبني HKD خرائط نواة عند طبقات متعددة من الشبكة تلتقط التشابه الشرطي بين أزواج العينات داخل الدفعة.
تصميم النواة الهجين: تستخدم الطريقة مزيجاً من نواة جيب التمام (Cosine kernels) (للحفاظ على الاتجاه الدلالي/الزاوي) ونواة توزيع t-الطلاب (Student-t kernels) (لالتقاط هياكل الجوار المحلي والتعامل مع القيم المتطرفة).
التباعد المتماثل: يتم تدريب النموذج الحالي على محاذاة توزيعات النواة العلاقاتية الخاصة به مع توزيعات النموذج القديم (من المهمة السابقة) باستخدام فقد التباعد المتماثل.
الهدف: يضمن ذلك الحفاظ على العلاقات الهيكلية الدقيقة والحساسة للنطاق بين العينات، حتى مع تكيف النموذج مع المهام والنطاقات الجديدة.

ج. الهدف الموحد

يجمع هدف التدريب النهائي بين فقد التصنيف القياسي على العينات الأصلية والمصنعة مع فقد التقطير الهرمي:
$\min \sum_{(x,y) \in S_n \cup A_n} L_{cls}(h_\Psi(x), y) + L_{reg} + \beta \cdot L_{kernel}$
حيث $S_n$ هي مجموعة التدريب الأصلية، و $A_n$ هي المجموعة المساعدة الناتجة عن DSR، و $L_{kernel}$ هو فقد التقطير المجمع.

3. المساهمات الرئيسية

صياغة المشكلة: صاغت الورقة رسمياً مشكلة CDCIL، مسلطة الضوء على قيود طرق CIL و DG الحالية عند تطبيقها على سيناريوهات تتضمن تعلم الفئات المتتابع وانزياح النطاقات.
التحسين ثنائي الحساسية (DSR): استراتيجية مبتكرة لتعزيز البيانات تستخدم الثقة وخرائط المساهمة المكانية لتصنيع عينات مستقلة عن النطاق، مما يفصل بفعالية الإشارات الدلالية عن انحيازات النطاق.
التقطير الهرمي القائم على النواة (HKD): استراتيجية لتخفيف النسيان تعمل على محاذاة الهياكل العلاقاتية عبر التسلسلات الهرمية للميزات باستخدام نوى هجينة، مما يوفر بديلاً أكثر متانة للتقطير القائم على اللوجيت تحت انزياح النطاق.
إطار عمل موحد: يوضح أن DSR و HKF يمكن دمجهما بسلاسة في خوارزميات CIL الحالية (مثل iCaRL و DER و Replay) لتعزيز قدرتها على التعميم.

4. النتائج التجريبية

قيم المؤلفون CORF على ثلاث مجموعات بيانات مرجعية: OfficeHome و DomainNet و PACS، باستخدام ResNet-34 كبنية أساسية.

مكاسب الأداء: تفوق CORF باستمرار على الطرق المرجعية (بما في ذلك FineTune و Replay و iCaRL و DER و MEMO و FOSTER) عبر جميع مجموعات البيانات.
- في OfficeHome (5 مهام)، أدى دمج CORF مع DER إلى تحسين المتوسط التوافقي (HM) للنطاقات المرئية وغير المرئية من 42.41% إلى 46.17%.
- في PACS، حقق التكامل مع FOSTER متوسطاً توافقياً قدره 60.97%، متجاوزاً النموذج المرجعي بفارق كبير.
دراسات الاستئصال (Ablation Studies):
- أدى حذف DSR إلى انخفاض في التعميم (أداء النطاق غير المرئي).
- أدى حذف HKD إلى زيادة النسيان (تدهور أداء النطاق المرئي).
- أدى الجمع بينهما إلى تحقيق أفضل النتائج، مما يؤكد طبيعتهما التكاملية.
حساسية المعلمات الفائقة: أظهرت الطريقة متانة تجاه التغيرات في وزن التحسين ( $\alpha$ ) ومعامل التقطير ( $\beta$ )، مع الأداء الأمثل عند $\alpha=0.3$ و $\beta=0.01$ .
تحليل الميزات: أظهرت تصورات مصفوفات التشابه الزوجي أن CORF أنتج عناقيد داخل الفئة أكثر تماسكاً وحدوداً بين الفئات أفضل مقارنة بالنماذج المرجعية.
التوافق: تم تكييف إطار العمل بنجاح مع البنى القائمة على Transformer (L2P و DualPrompt مع ViT)، رغم أن المكاسب كانت أقل بسبب معلمات الظهر المجمدة، مما يؤكد طبيعته القابلة للتركيب والتشغيل (plug-and-play).

5. الأهمية والادعاءات

تدعي الورقة أن CORF يوفر حلاً موحداً للتحديات المزدوجة المتمثلة في النسيان وانزياح النطاق، والتي غالباً ما تُعالج بشكل منفصل في الأدبيات. ومن خلال نمذجة الاعتمادات العلاقاتية بين العينات عبر النطاقات والمهام بشكل صريح، يُمكّن CORF من بناء تمثيلات تكون مستقلة عن النطاق ومستقرة تزايدياً.

يؤكد المؤلفون أن نهجهم لا يتطلب تخزين كميات كبيرة من البيانات الماضية (بخلاف ميزانيات الأمثلة القياسية) أو نماذج توليدية معقدة. بدلاً من ذلك، يعتمد على التحسين الانتقائي والمحاذاة الهيكلية لتعزيز المتانة. وتشير النتائج إلى أن معالجة انزياح النطاق والنسيان الكارثي في آن واحد ليس ممكناً فحسب، بل هو ضروري للتطبيقات الواقعية مثل القيادة الذاتية، حيث تتطور البيئات وفئات الأشياء باستمرار.

تخلص الورقة إلى أنه بينما يعد CORF فعالاً حالياً مع البنى التلافيفية (Convolutional) القابلة للتدريب، فإنه يقدم اتجاهاً واعداً للأبحاث المستقبلية في سيناريوهات التعلم التزايدي الأكثر تنوعاً وانزياحات النطاق الأكثر تعقيداً.