💻 computer science

Domain-Agnostic Feature Modulation for Semi-Supervised Domain Generalization

تتناول هذه الورقة البحثية المهمة الصعبة المتمثلة في تعميم النطاق شبه الموجه والمستقل عن تسميات النطاق، وذلك عبر اقتراح استراتيجية تعديل الميزات لإنشاء تمثيلات قوية وثابتة عبر النطاقات، ودالة ديناميكية لتقليص حجم الخسارة للتخفيف من ضجيج النطاق وتحسين دقة التسميات المستعارة، مما يحقق مكاسب كبيرة في الأداء على المعايير الرئيسية دون الاعتماد على تسميات النطاق.

المؤلفون الأصليون: Venuri Amarasinghe (University of Moratuwa), Kalinga Bandara (University of Moratuwa), Isun Randila (University of Moratuwa), Asini Jayakody (University of Moratuwa), Chamuditha Jayanga Galappaththige

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Venuri Amarasinghe (University of Moratuwa), Kalinga Bandara (University of Moratuwa), Isun Randila (University of Moratuwa), Asini Jayakody (University of Moratuwa), Chamuditha Jayanga Galappaththige (Queensland University of Technology), Ranga Rodrigo (University of Moratuwa)

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات إبداعية.

المشكلة الكبيرة: تحدي "المدينة الجديدة"

تخيل أنك تقوم بتدريب روبوت للتعرف على الحيوانات. تعرض عليه آلاف الصور لـ كلاب و قطط تم التقاطها في حديقة مشمسة (النطاق المصدر - Source Domain). يتعلم الروبوت بشكل مثالي.

ولكن بعد ذلك، تأخذ الروبوت إلى غابة مظلمة وممطرة (النطاق المستهدف - Target Domain) لاختباره. الإضاءة مختلفة، الأشجار تبدو مختلفة، والحيوانات تبدو مختلفة. يصاب الروبوت بالارتباك؛ قد يعتقد أن كلباً مبللاً هو قطة لأن سمات "الغابة الممطرة" تشوش على عقله.

يُسمى هذا انزياح النطاق (Domain Shift). في العالم الحقيقي، غالباً لا نملك بيانات مصنفة (Labeled Data) مثالية لكل بيئة جديدة (مثل الغابة الممطرة). لدينا القليل من البيانات المصنفة والكثير من البيانات غير المصنفة (صور بدون أسماء).

الهدف من هذه الورقة هو تعليم الروبوت كيفية التعامل مع هذه البيئات الجديدة وغير المرئية باستخدام معظم البيانات غير المصنفة، دون الحاجة إلى معرفة بالضبط من أي بيئة (نطاق) جاءت كل صورة.

العقبتان الرئيسيتان

حدد المؤلفون مشكلتين كبيرتين في الأساليب الحالية:

لعبة التخمين (التسمية الزائفة - Pseudo-Labeling): بما أننا لا نملك تسميات للبيانات الجديدة، يتعين على الروبوت تخمين التسميات (مثلاً: "أنا متأكد بنسبة 90% أن هذا كلب"). تُسمى هذه التخمينات التسميات الزائفة (Pseudo-Labels). إذا ارتبك الروبوت بسبب خلفية "الغابة الممطرة"، فسيقوم بتخمينات سيئة. وإذا علمت الروبوت باستخدام تخمينات سيئة، فسيصبح أسوأ.
قاعدة "الصرامة الزائدة": لتجنب التخمينات السيئة، تتبع الأساليب الحالية قواعد صارمة جداً. فهي تسمح للروبوت فقط بالتعلم من التخمينات التي يكون متأكداً فيها بنسبة 95%. هذا يعني أنها تتخلص من 90% من البيانات غير المصنفة لأن الروبوت ليس واثقاً بما يكفي. الأمر يشبه معلماً لا يسمح لطلابه إلا بدراسة الأسئلة السهلة ويتجاهل البقية.

الحل: خدعة سحرية من جزئين

يقترح المؤلفون طريقة جديدة تسمى تعديل السمات المستقل عن النطاق (Domain-Agnostic Feature Modulation). فكر في الأمر كخدعة سحرية من خطوتين لإصلاح عقل الروبوت.

الخطوة 1: "الخلاط" (تعديل السمات - Feature Modulation)

التشبيه: تخيل أنك تحاول تعليم شخص ما التعرف على كلب.

المشكلة: في عالم "الصور الفوتوغرافية"، للكلاب فراء. وفي عالم "الرسومات التخطيطية"، الكلاب مجرد خطوط. إذا ركز الروبوت على "الفراء"، فسيفشل في عالم الرسومات. وإذا ركز على "الخطوط"، فسيفشل في عالم الصور.
الحل: ابتكر المؤلفون معدل سمات (Feature Modulator). فكر في هذا كأنه "خلاط".
- يأخذون السمات المحددة للصورة (الفراء، الخطوط).
- يخلطونها مع "تمثيل متوسط مشابه" (SAR). تخيل أن الـ SAR هو "كلب متوسط خارق" تم إنشاؤه عبر مزج أفضل أجزاء الكلاب من جميع العوالم المختلفة (صور، رسومات، كرتون) معاً.
- يقوم الخلاط بـ خفض الأجزاء التي تتغير كثيراً بين العوالم (مثل الخلفية أو الإضاءة) و رفع الأجزاء التي تبقى ثابتة (مثل شكل الأنف).
النتيجة: يتوقف الروبوت عن النظر إلى خلفية "الغابة الممطرة" ويبدأ في التركيز على "شكل الكلب". هذا يجعل تخمينات الروبوت (التسميات الزائفة) أكثر دقة.

الخطوة 2: "مقبض التحكم الذكي" (تدرج الخسارة - Loss Scaling)

التشبيه: الآن بعد أن أصبح الروبوت يقدم تخمينات أفضل، أدرك المؤلفون أنه يمكنهم أن يكونوا أقل صرامة.

الطريقة القديمة: "استمع فقط للتخمينات التي أنت متأكد منها بنسبة 95%" (وهذا يتجاهل الكثير من البيانات).
الطريقة الجديدة: قدموا دالة لتدرج الخسارة (Loss Scaling function). تخيلها كمقبض تحكم في الصوت.
- إذا كان الروبوت متأكداً جداً (95%)، يكون الصوت عالياً (وزن مرتفع).
- إذا كان الروبوت متأكداً نوعاً ما (75%)، يكون الصوت منخفضاً، لكنه لا يزال مسموعاً.
- والأهم من ذلك، هم يتحققون أيضاً من "عدم اليقين" (مدى ارتعاش يد الروبوت). إذا كان الروبوت يرتعش، فإنهم يخفضون الصوت أكثر لمنع تعلم الشيء الخاطئ.
النتيجة: يمكن للروبوت الآن التعلم من مزيد من البيانات (بما في ذلك التخمينات "المتأكد منها نوعاً ما") دون أن يرتبك بسبب الضجيج.

لماذا هذا مهم (النتائج)

اختبر المؤلفون هذه الطريقة على أربع مجموعات بيانات رئيسية (مثل PACS و OfficeHome وغيرها)، والتي تشبه "أكواناً" مختلفة من الصور.

لا حاجة لتسميات النطاق: على عكس الأساليب الأخرى التي تتطلب تسمية تقول "هذا من عالم الصور"، تعمل هذه الطريقة بشكل أعمى. هي لا تهتم من أين أتت البيانات.
دقة أفضل: من خلال تنقية السمات (الخطوة 1) واستخدام المزيد من البيانات بذكاء (الخطوة 2)، تفوقت طريقتهم على أفضل الأساليب السابقة (مثل FixMatch) بفارق ملحوظ (تحسن بنسبة 3-6% تقريباً).
فوز "معدل الاستبقاء" (Keep Rate): نجحوا في إبقاء المزيد من البيانات في حلقة التدريب (معدل استبقاء أعلى) مع الحفاظ على دقة التخمينات. الأمر يشبه جعل الطالب يدرس 20% من الأسئلة الإضافية دون أن يصاب بالارتباك.

ملخص في جملة واحدة

تعلم هذه الورقة نموذج الرؤية الحاسوبية تجاهل "الضجيج الخلفي" للبيئات المختلفة والتركيز على الشيء الجوهري، مما يسمح له بالتعلم من مجموعة أكبر بكثير من البيانات غير المصنفة دون الحاجة إلى معرفة مصدر تلك البيانات بالضبط.

ملخص تقني: تعديل الميزات المستقل عن النطاق للتعميم النطاقي شبه الموجه

بيان المشكلة
يهدف التعميم النطاقي شبه الموجه (SSDT) إلى تحسين تعميم النموذج للنطاقات المستهدفة غير المرئية من خلال الاستفادة من جزء صغير من البيانات المصنفة جنباً إلى جنب مع كميات وفيرة من البيانات غير المصنفة. وبينما تعتمد أساليب SSDG الحالية غالباً على التسميات الزائفة (Pseudo-labeling - PL) للبيانات غير المصنفة، إلا أنها تفترض تكراراً إمكانية الوصول إلى تسمات النطاق (Domain labels) أثناء التدريب—وهي ميزة لا تتوفر دائماً في السيناريوهات الواقعية. علاوة على ذلك، تؤدي التحولات النطاقية إلى "ضجيج نطاقي" (Domain noise)، مما يؤدي إلى تسميات زائفة غير متسقة تؤدي إلى تدهور أداء النموذج. كما تعاني الأساليب المشتقة من خطوط الأساس للتعلم شبه الموجه من انخفاض دقة التسميات الزائفة، مما يحد من الاستخدام الفعال للبيانات غير المصنفة. هناك معضلة أساسية: خفض عتبة الثقة لاستخدام المزيد من البيانات غير المصنفة يزيد من الضجيج، بينما الحفاظ على عتبة عالية يتجاهل بيانات قيمة. تعالج هذه الورقة إعداد التعميم النطاقي شبه الموجه المستقل عن تسمات النطاق، حيث لا تتوفر تسمات النطاق للبيانات غير المصنفة أثناء التدريب.

المنهجية
يقدم النهج المقترح إطار عمل مبتكر يتكون من أربعة مكونات رئيسية: التمثيلات المتوسطة المتشابهة (SAR)، مُعدل الميزات (Feature Modulator)، التسمية الزائفة باستخدام الميزات المعدلة، ودالة قياس الخسارة (Loss Scaling) مع تقدير عدم اليقين.

التمثيلات المتوسطة المتشابهة (SAR):
للتخفيف من تأثير المعلومات الخاصة بالنطاق، يعرّف المؤلفون نماذج الفئات ( $P_c$ ) بناءً على تسمات الفئات فقط، مما يجعلها مستقلة عن النطاق. وخلافاً للأساليب التي تقوم بمتوسط الميزات عبر النطاقات باستخدام تسمات النطاق، يقوم هذا النهج بحساب SAR ( $R_c$ ) عن طريق وزن نماذج الفئات بناءً على تشابه جيب التمام (Cosine similarity). هذا يخلق تمثيلاً يركز على الإشارات الخاصة بالفئة مع كبح الاختلافات المتعلقة بالنطاق (مثل الخلفية أو الملمس). تعمل تمثيلات SAR كهدف قوي لتعديل الميزات.
تعديل الميزات:
تم إدخال مصفوفة تعديل ميزات قابلة للتعلم ( $M$ ) لدمج الميزات الخاصة بالعينات ( $z$ ) مع تمثيلات SAR ( $R$ ). يتم حساب الميزة المعدلة $Z_m$ كالتالي:
$Z_m = M \odot Z + (1 - M) \odot R$
تتم تهيئة المصفوفة $M$ بناءً على تباين الميزات داخل كل فئة (الميزات ذات التباين العالي، والتي يُرجح أنها خاصة بالنطاق، يتم تقليل وزنها) ويتم تحديثها أثناء التدريب عبر دالة خسارة قطرية. تعمل هذه العملية على دفع الميزات نحو تمثيلات SAR الخاصة بها، مما يشجع مستخرج الميزات على تكوين تمثيلات متراصة ومستقلة عن النطاق، ويجبر المصنف على التمييز بين الفئات المتقاربة من خلال التركيز على الميزات الفريدة الخاصة بالفئة بدلاً من الميزات المشتركة أو الخاصة بالنطاق.
التسمية الزائفة باستخدام الميزات المعدلة:
لتوليد تسمات زائفة أكثر دقة، يتم تعديل ميزات العينات غير المصنفة نحو SAR الخاص بكل فئة قبل تمريرها عبر المصنف. يتم تعيين الفئة التي تحقق أعلى درجة ثقة على هذه الميزات المعدلة كتسمية زائفة. تقلل هذه الاستراتيجية من التداخل النطاقي أثناء عملية التسمية، مما يؤدي إلى تسميات زائفة عالية الجودة.
تقدير عدم اليقين وقياس الخسارة:
لمعالجة المقايضة بين استغلال البيانات وضجيج التسميات، يستخدم المؤلفون طريقة إسقاط مونت كارلو (MC dropout) لتقدية عدم اليقين في التسميات الزائفة. لقد قدموا دالة قياس خسارة ديناميكية ( $l_{scale}$ ) تعدل مساهمة كل تسمية زائفة بناءً على ثقتها ( $p_{max}$ ) وعدم اليقين ( $\sigma$ ). يسمح هذا للنموذج بدمج التسميات الزائفة ذات الثقة المنخفضة بطريقة محكومة، مما يزيد من "معدل الإبقاء" (نسبة البيانات غير المصنفة المستخدمة) دون إدخال ضجيج كبير.

المساهمات الرئيسية

مُعدل الميزات: استراتيجية تعزز الميزات المميزة للفئات وتكبح المعلومات الخاصة بالنطاق دون الاعتماد على تسمات النطاق، مما يؤدي إلى تسميات زائفة أكثر دقة.
دالة قياس الخسارة: آلية تعدل تأثير التسميات الزائفة ديناميكياً بناءً على الثقة وعدم اليقين، مما يحسن استخدام البيانات غير المصنفة مع التخفيف من ضجيج التسميات.
إعداد مستقل عن تسمات النطاق: يعالج النهج مشكلة SSDG في إعداد أكثر تحدياً حيث لا تتوفر تسمات النطاق، مما يظهر فعالية عبر أربعة اختبارات معيارية.

النتائج التجريبية
تم تقييم الطريقة على أربعة اختبارات معيارية للتعميم النطاقي: PACS، وOfficeHome، وVLCS، وDigitsDG، تحت إعدادات 5 تسمات و10 تسمات.

الأداء: حقق النهج المقترح (FM) تحسينات مستمرة مقارنة بخط الأساس القوي FixMatch، بزيادات متوسطة في الدقة بلغت 3.3% (في إعداد 10 تسمات) و 4.3% (في إعداد 5 تسمات) عبر مجموعات البيانات.
المكاسب المحددة: لوحظت تحسينات ملحوظة في OfficeHome (57.2% و 61.0% لـ 5 و 10 تسمات)، وVLCS (75.5% و 75.3%)، وDigitsDG (73.0% لـ 10 تسمات).
تحليل المكونات: أكدت دراسات الاستئصال (Ablation studies) أن مُعدل الميزات يحسن دقة التسمية الزائفة، بينما تزيد دالة قياس الخسارة بشكل كبير من معدل الإبقاء. وقد حقق الجمع بين كلا المكونين أفضل توازن بين الدقة واستغلال البيانات.
المقارنة: تفوق النهج على طرق SSDG الرائدة الأخرى (مثل StyleMatch وFBCSA وDGWM)، والتي يعتمد الكثير منها على تسمات النطاق وتفشل في الأداء الجيد في الإعداد المستقل عن تسمات النطاق.

الأهمية
تدعي الورقة أنها تحل المعضلة الأساسية في SSDG بين تحقيق تسميات زائفة دقيقة وتعظيم استغلال البيانات غير المصنفة. ومن خلال دفع الميزات نحو التمثيلات المتوسطة المتشابهة، يتعلم النموذج التمييز بين الفئات المتقاربة وتكوين تمثيلات مستقلة عن النطاق دون إشراف صريح للنطاق. كما يتيح قياس الخسارة الديناميكي الاستخدام الفعال للتسميات الزائفة ذات الثقة المنخفضة، والتي يتم تجاهلها عادةً. ويؤكد المؤلفون أن هذه الابتكارات تسمح للنموذج بالتعميم بفعالية على النطاقات غير المرئية حتى في غياب تسمات النطاق، وهو إعداد يعكس القيود الواقعية بشكل أفضل.