💻 computer science

ProCal: Probability Calibration for Neighborhood-Guided Source-Free Domain Adaptation

يعالج ProCal أوجه القصور الناجمة عن الاعتماد المفرط على تشابه التنبؤ في تكيف النطاق الخالي من المصدر من خلال إدخال آلية تعاونية ثنائية النموذج تعمل ديناميكيًا على معايرة التنبؤات القائمة على الجوار لموازنة الاحتفاظ بمعرفة المصدر مع التكيف مع النطاق المستهدف، مما يقلل من نسيان المعرفة وفرط التخصيص للضوضاء.

المؤلفون الأصليون: Ying Zheng, Yiyi Zhang, Yi Wang, Lap-Pui Chau

نُشر 2026-03-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ying Zheng, Yiyi Zhang, Yi Wang, Lap-Pui Chau

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك شيف خبير (النموذج المصدر - Source Model) قضيت سنوات في إتقان وصفة للمطبخ الفرنسي في مطبخ باريسي راقٍ. أنت تعرف تماماً كيف تصنع "سوفليه" مثالياً.

الآن، تم استئجارك لافتتاح مطعم جديد في بلد مختلف تماماً (المجال المستهدف - Target Domain). المكونات مختلفة قليلاً، والرطوبة مختلفة، وتفضيلات التذوق المحلية فريدة من نوعها. ومع ذلك، لديك قاعدة صارمة: لا يمكنك إحضار كتاب وصفاتك الأصلي أو مكوناتك القديمة معك (هذا هو القيد "الخالي من المصدر" - Source-Free). ليس لديك سوى ذاكرتك عن التقنيات الفرنسية والمكونات الجديدة غير الملصق عليها بيانات أمامك.

هذا هو تحدي التكيف مع المجال الخالي من المصدر (SFDA). الهدف هو تكييف أسلوب طبخك مع الموقع الجديد دون فقدان جوهر مهاراتك الفرنسية الأصلية، وكل ذلك مع اكتشاف ما يريده الزبائن المحليون حقاً.

المشكلة: عادتان سيئتان

حاولت الطرق السابقة حل هذه المشكلة بطريتين، لكن كلتاهما كانت تشوبهما عيوب:

طريقة "التخمين والتحقق" (التسمية المستعارة - Pseudo-labeling): يحاول الشيف تخمين اسم الطبق المحلي بناءً على مظهره، ثم يطبخه مرة أخرى.
- العيب: إذا أخطأ الشيف في التخمين في البداية، فسيستمر في طبخ الطبق الخاطئ، مما يعزز الخطأ. وسينسى التقنية الفرنسية الأصلية تماماً.
طريقة "تقليد الجار" (القائمة على الجوار - Neighborhood-based): ينظر الشيف إلى الأطباق التي صنعها الجيران (المكونات المشابهة الأخرى) ويحاول جعل طبقه يبدو تماماً مثل طبقهم.
- العيب: إذا كان الجيران أيضاً مشوشين أو يستخدمون مكونات سيئة، فسيقلد الشيف أخطاءهم. وهذا ما يسمى الإفراط في التخصيص للضوضاء المحلية (overfitting to local noise). وأيضاً، من خلال التركيز الشديد على الجيران، ينسى الشيف المهارات الفرنسية الأصلية التي تم استئجاره من أجلها. وهذا هو نسيان معرفة المصدر (source knowledge forgetting).

الحل: ProCal (الـ "متذوق الذكي")

يقترح المؤلفون طريقة جديدة تسمى ProCal. فكر في ProCal كـ متذوق ذكي يساعد الشيف على التكيف دون أن يفقد عقله.

إليك كيف يعمل ProCal، باستخدام تشبيه بسيط:

1. فريق النماذج المزدوجة (الـ "ذاكرة" و "الواقع الحالي")

بدلاً من الاعتماد فقط على تخمين الشيف الحالي، يستخدم ProCal صوتين:

الصوت (أ) (ذاكرة المصدر): "تذكر كيف كنا نصنع هذا في باريس؟ يجب أن يكون طعمه مثل هذا". (هذا يحافظ على المعرفة الأصلية).
الصوت (ب) (الواقع الحالي): "لكن انظر إلى المكونات التي لدينا الآن؛ إنها تتفاعل مثل هذا". (هذا يتكيف مع البيئة الجديدة).

يقوم ProCal بـ معايرة (خلط) هذين الصوتين. فهو لا يسمح للشيف بتجاهل الواقع الجديد، ولكنه يمنعه أيضاً من التقليد الأعمى للجيران المشوشين. إنه يخلق تنبؤاً "مثالياً" (Goldilocks): ليس قديماً جداً، وليس فوضوياً جداً.

2. فحص الجوار (الـ "عشاء مجتمعي")

في طريقة "تقليد الجار" القديمة، إذا ارتكب جار واحد خطأً، فسيقلده الجميع.
يغير ProCal القواعد. فهو ينظر إلى الجوار (المكونات المشابهة) ولكنه يصفي (فلترة) النصيحة.

التشبيه: تخيل أنك في مأدبة طعام. إذا قال الجميع على الطاولة: "هذا الحساء يحتاج إلى ملح"، فإنك تضيف الملح. ولكن إذا كان الشخص الذي بجانبك يهذي بوضوح ويقول: "هذا الحساء يحتاج إلى بنزين"، فإن ProCal يقول: "تجاهل هذا الشخص. التزم بالوصفة من باريس وبالجو العام للطاولة".
إنه يعدل نصيحة الجوار ديناميكياً بحيث لا تؤدي الضوضاء المحلية (الجيران السيئون) إلى إفساد الطبق.

3. التدريب ذو الجزئين (الـ "سير على حبل مشدود")

للتأكد من أن الشيف لا يصبح كسولاً أو متصلباً للغاية، يستخدم ProCal هدفين (دوال الخسارة - Loss Functions):

الإشراف الناعم (المرشد): "حاول أن تجعل طبقك يشبه المزيج المعاير من باريس والمكونات الجديدة". هذا يبقي الشيف على المسار الصحيح.
خسارة التنوع (فحص التنوع): "لا تجعل كل الأطباق تبدو متشابهة تماماً!" هذا يمنع الشيف من الاستسلام وتقديم الماء للجميع (وهي مشكلة شائعة تسمى "انهيار النموذج" - model collapse). إنه يجبر الشيف على الحفاظ على النكهات المميزة للأطباق المختلفة.

لماذا ينجح الأمر (النتائج)

اختبر الورقة البحثية هذه الطريقة على أربعة "مطابخ" (مجموعات بيانات) مع 31 "تغييراً في القائمة" (مهام).

نسيان أقل: لم ينسَ الشيف كيف يصنع الطعام الفرنسي.
ضوضاء أقل: لم يرتبك الشيف بسبب النصائح السيئة من الجيران.
طعم أفضل: كانت الأطبام النهائية (التنبؤات) أكثر دقة بكثير من الطرق السابقة.

الملخص

ProCal يشبه نظام الملاحة الذكي لسائق ينتقل من مدينة مألوفة إلى مدينة غريبة.

الطرق القديمة إما تجاهلت الخريطة القديمة تماماً (النسيان) أو اتبعت إشارة GPS مشوشة من سيارة قريبة (الضوضاء).
ProCal يجمع بين الخريطة القديمة (معرفة المصدر) و الـ GPS الحالي (بيانات الهدف) و يصفي تقارير المرور السيئة (الضوضاء). إنه يوجه السائق إلى وجهة حيث يعرف التضاريس ولكن نجح في التكيف مع الطرق الجديدة.

النتيجة؟ نموذج يتعلم بشكل أسرع، ويرتكب أخطاء أقل، ويتذكر من أين جاء بينما ينجح في التنقل في العالم الجديد.

إليك ملخص تقني مفصل لورقة البحث بعنوان "ProCal: معايرة الاحتمالات للتكيف مع النطاق الخالي من المصدر الموجه بالجوار".

1. تعريف المشكلة

تتناول الورقة مسألة التكيف مع النطاق الخالي من المصدر (SFDA)، وهو إعداد يتطلب فيه تكييف نموذج تم تدريبه مسبقًا على نطاق مصدر مصنف (Labeled) ليناسب نطاق هدف غير مصنف (Unlabeled) دون الوصول إلى بيانات المصدر الأصلية. ويعد هذا الأمر بالغ الأهمية في التطبيقات الحساسة للخصوصية (مثل التشخيص الطبي) حيث لا يمكن مشاركة بيانات المصدر.

التحديات الجوهرية المحددة:
تعاني أساليب SFDA الحالية، وخاصة تلك التي تعتمد على القيود القائمة على الجوار (مثل NRC وAaD)، من قصورين حرجين:

نسيان معرفة المصدر: الاعتماد المفرط على تشابه تنبؤات النطاق المستهدف يؤدي إلى نسيان النموذج السريع للمعرفة التمييزية التي تعلمها من نموذج المصدر.
الإفراط في التلاؤم مع الضوضاء المحلية (Local Noise Overfitting): غالبًا ما يعتمد بناء الجوار على تسميات زائفة (Pseudo-labels) مشوشة أو بنى محلية غير دقيقة في النطاق المستهدف. يؤدي هذا إلى انتشار الخطأ، حيث يفرط النموذج في التلاؤم مع الضوضاء المحلية بدلاً من تعلم سمات قوية ثابتة عبر النطاقات.

2. المنهجية: ProCal

يقترح المؤلفون ProCal، وهو إطار عمل لمعايرة الاحتمالات مصمم للموازنة بين الاحتفاظ بالمعرفة والتكيف مع النطاق. تعمل الطريقة من خلال ثلاثة مكونات رئيسية:

أ. التنبؤ التعاوني للنماذج المزدوجة (معايرة الاحتمال)

بدلاً من الاعتماد فقط على تنبؤات نموذج الهدف الحالي أو الأولويات الثابتة لنموذج المصدر، يقوم ProCal بمعايرة احتمالات الجوار ديناميكيًا عن طريق دمج كليهما:

أولوية المصدر ( $p^s_i$ ): التنبؤات الأولية من نموذج المصدر المدرب مسبقًا، والتي تعمل كمرساة للحفاظ على معرفة المصدر.
تنبؤ الهدف عبر الإنترنت ( $p^t_i$ ): مخرجات النموذج الديناميكية الحالية، والتي تعكس هيكل النطاق المستهدف المتطور.
تجميع الجوار ( $p^N_i$ ): الاحتمالات المجمعة لأقرب $k$ جار في فضاء السمات.

يتم حساب الاحتمال المعاير $p^{cal}_i$ كما يلي:
$p^{cal}_i = p^N_i + \gamma(p^t_i + p^s_i)$
حيث $\gamma$ هو عامل تعديل. تضمن هذه الآلية أن إشارة الإشراف لا تُقاد فقط بواسطة جيران الهدف الذين قد يكونون مشوشين، بل يتم تصحيحها بواسطة أولوية المصدر المستقرة وحالة النموذج الحالية.

ب. هدف التحسين المشترك

لاستخدام هذه الاحتمالات المعايرة، يستخدم ProCal دالة خسارة مكونة من جزأين:

خسارة الإشراف الناعمة ( $L_{soft}$ ): تقوم بمحاذاة توزيع تنبؤ نموذج الهدف مع احتمال الجوار المعاير ( $p^{cal}_i$ ). وهذا يفرض الاتساق مع منع النموذج من الانحراف بعيدًا عن معرفة المصدر.
خسارة التنوع ( $L_{div}$ ): تقلل من التشابه بين تنبؤ عينة الهدف ومتوسط توزيع الفئات العالمي. هذا يمنع "انهيار النموذج" (حيث يتم التنبؤ بجميع العينات كفئة واحدة) ويشجع النموذج على الحفاظ على القدرة التمييزية عبر جميع الفئات.

إجمالي الخسارة هو:
$L_{cal} = -E_{x_i} [p^{cal}_i \cdot p_i] + \beta \sum_{x_i} \sum_{k} p_{i,k} \hat{p}_k$

ج. التحليل النظري

يقدم المؤلفون برهانًا نظريًا باستخدام تحليل التدرج والنقطة الثابتة. وقد أثبتوا أنه تحت آلية المعايرة المقترحة، يتقارب النموذج نحو نقطة اتزان مستقرة. يعمل هذا الاتزان بفعالية على دمج معرفة المصدر ومعلومات الهدف، مما يضمن رياضيًا تقليل كل من نسيان المصدر والإفراط في التلاؤم مع الضوضاء المحلية.

3. المساهمات الرئيسية

التحليل النقدي للقصور: حددت الورقة وكمّت المعضلة المزدوجة المتمثلة في "نسيان معرفة المصدر" و"الإفراط في التلاؤم مع الضوضاء المحلية" في أساليب SFDA القائمة على الجوار، مما قدم منظورًا جديدًا حول سبب فشل الأساليب الحالية.
إطار عمل ProCal: تقديم آلية معايرة احتمالية مبتكرة تدمج أولويات المصدر مع التغذية الراجعة المستمرة للهدف. وهذا يخلق إشارة إشراف ناعمة وقوية تخفف من مخاطر الاعتماد على الجوارات المحلية غير المعايرة.
التحسين ذو الهدف المزدوج: تصميم دالة خسارة مشتركة تجمع بين الإشراف الناعم وقيود التنوع لضمان التعلم القوي في ظل وجود تحولات كبيرة في التوزيع.
الضمانات النظرية: إثبات أن الطريقة تتقارب نحو نقطة ثابتة توفق بين معلومات المصدر والهدف.

4. النتائج التجريبية

قام المؤلفون بتقييم ProCal على أربعة مجموعات بيانات عامة (Office-31، Office-Home، VisDA-C، DomainNet-126) تغطي 31 مهمة عبر النطاقات.

الأداء: حقق ProCal نتائج الأفضل في حالته (SOTA) عبر جميع مجموعات البيانات.
- Office-Home: متوسط دقة 73.8% (مقابل 72.7% لـ AaD).
- DomainNet-126: متوسط دقة 72.8% (مقابل 70.5% لـ AaD).
- VisDA-C: متوسط دقة 88.6%.
المتانة:
- المقاومة للضوضاء: أظهرت التجارب التي حقنت الضوضاء في أولويات المصدر أن ProCal يظل مستقرًا (انخفاض الدقة < 1%) حتى عندما تكون تنبؤات المصدر فاسدة بشدة، بينما تتدهور الأساليب المرجعية بشكل كبير.
- معدل النسيان: أظهر ProCal "معدل نسيان معرفة المصدر" أقل بكثير (6.9%) مقارنة بـ SHOT (10.2%) وAaD (10.5%).
- الإشراف الخاطئ: انخفض معدل الإشراف الخاطئ تمامًا إلى 34.3% (مقابل 42.9% لـ SHOT).
دراسات الاستئصال (Ablation Studies): أدى إزالة إما أولوية المصدر أو التغذية الراجعة المستمرة للهدف في خطوة المعايرة إلى تدهور الأداء، مما يؤكد ضرورة التعاون بين النموذجين.
استقلالية الهيكل الأساسي (Backbone Independence): أدى أداء الطريقة بشكل ثابت عبر بنيات مختلفة (ResNet-50، ViT، ConvNeXt).

5. الأهمية

الذكاء الاصطناعي المحافظ على الخصوصية: يطور ProCal مجال SFDA، مما يسمح بتكيف فعال للنماذج في السيناريوهات التي لا يمكن فيها الوصول إلى بيانات المصدر بسبب لوائح الخصوصية.
حل المقايضة: نجح في حل المقايضة طويلة الأمد في SFDA بين الاحتفاظ بمعرفة المصدر والتكيف مع النطاق المستهدف، وهي مشكلة فشلت الأساليب السابقة القائمة على الجوار في معالجتها بشكل كافٍ.
القدرة على التعميم: تظهر فعالية الطريقة عبر مجموعات بيانات متنوعة (من Office-31 صغيرة النطاق إلى DomainNet واسعة النطاق) وإعدادات مختلفة (المجموعة المغلقة، المجموعة الجزئية، المجموعة المفتوحة) متانتها وإمكانية نشرها في بيئات حقيقية مثل القيادة الذاتية والتصوير الطبي.

في الختام، يقدم ProCal نهجًا مدعومًا رياضيًا ومتفوقًا تجريبيًا للتكيف مع النطاق الخالي من المصدر عن طريق معايرة تنبؤات الجوار ديناميكيًا، مما يمنع النسيان الكارثي والإفراط في التلاؤم مع الضوضاء.