ملخص تقني: CONVEYANCE (النقل/التوصيل)

بيان المشكلة

على الرغم من التقدم السريع في بنيات التعلم العميق، تظل أهداف التدريب القياسية، وخاصة "الاعتلاج المتقاطع" (Cross-Entropy - CE)، "مستقلة عن البنية" إلى حد كبير. فهذه الخسائر تخصص عقوبات قياسية بناءً على مطابقة الملصقات فقط، وتتعامل مع جميع الأخطاء في التصنيف كأنها متكافئة. هذا الافتراض يفشل في نظامين حرجين:

1. عدم تماثل الملصقات (Label Asymmetry): السيناريوهات التي تكون فيها العلاقة بين الملصقات المرصودة والفئات الحقيقية غير منتظمة بنيوياً، مثل انحياز التوسيم (Annotation Bias)، أو نقص التشخيص في التصوير الطبي، أو التعلم متعدد الأمثلة (MIL) حيث تحتوي الحقائب الإيجابية على أمثلة سلبية.
2. الاستمرارية الدلالية والترتيبية (Semantic and Ordinal Continuity): المجالات التي تمثل فيها الفئات نقاطاً على متصل (مثل العمر، أو مراحل المرض، أو التسلسلات الهرمية التصنيفية). في هذه الحالات، يكون الخطأ "القريب من الهدف" أقل تكلفة دلالية من الخطأ العشوائي، ومع ذلك فإن الـ CE القياسي يعاقب كليهما بالتساوي، مما يؤدي إلى فرط التخصيص (Overfitting) وتجزئة الفضاءات الكامنة.

غالباً ما تعالج الحلول القائمة هذه المشكلات بشكل منفصل. تعتمد طرق الملصقات الناعمة (Soft-label methods) على توزيعات متماثلة ومحددة مسبقاً لا يمكنها التقاط العلاقات غير المتماثلة أو المرتبطة بالرسوم البيانية (Graph-structured). أما نماذج SVM للمخرجات المهيكلة ونماذج الطاقة (Energy-based models) فتقدم هوامش مبدئية لكنها تتطلب استدلالاً غير قابل للاشتقاق عبر مساحات مخرجات ضخمة أسياً. كما تتطلب خسائر التباين (Contrastive losses) دفعات كبيرة (Batches) وعمليات تنقيب حساسة للأزواج. لا يوجد إطار عمل حالي يجمع بين القدرة التعبيرية البنيوية، والقوة التمييزية، والبساطة الحسابية المماثلة للاعتلاج المتقيدي (Cross-entropy).

المنهجية: CONVEYANCE

يقترح المؤلفون CONVEYANCE، وهو إطار عمل للتصنيف مصمم للفضاءات الفئوية المهيكلة. ويتكون من مكونين أساسيين:

1. ترميز المعرفة (المصفوفة $Q$)

بدلاً من تعريف توزيعات مشتركة معقدة أو مصفوفات منفعة، يحدد المستخدم مصفوفة بولية $Q \in \{0, 1\}^{C \times C}$.

• تشير $Q_{ct} = 1$ إلى أنه من المحتمل أن ينتمي مثال يحمل الملصق $t$ إلى الفئة $c$ (أو العكس).
• تقوم هذه المصفوفة بترميز المعرفة الخاصة بالمشكلة، مثل مخاطر الإيجاب الكاذب، أو التسلسلات الهرمية التصنيفية، أو الجوار الترتيبي.
• من خلال $Q$، يتم اشتقاق مجموعة من الفئات المحتملة $S = \{c \in \mathcal{C} : Q_{ct} = 1\}$ لملصق معين $t$.

2. دالة خسارة CONVEYANCE

تعمل دالة الخسارة على تفعيل المصفوفة $Q$ من خلال تعظيم هامشين منفصلين عبر تقسيمات فئوية متميزة:
$$\ell(p, t) = \log \left( 1 + \alpha \cdot \frac{1 - p_t}{p_t} + \beta \cdot \frac{1 - p_S}{p_S} \right)$$
حيث أن:

• $p_t$ هو احتمال الفئة المستهدفة.
• $p_S = \sum_{s \in S} p_s$ هو إجمالي الاحتمال لمجموعة الفئات المحتملة.
• $\alpha$ و $\beta$ هما معلمات فائقة (Hyperparameters).

الآلية:

• المصطلح الأول ($\alpha$) يكافئ تخصيص الاحتمالية للفئة المستهدفة فوق غير المستهدفة (النسبة المعتادة).
• المصطلح الثاني ($\beta$) يكافئ تخصيص الاحتمالية لمجموعة الفئات المحتملة $S$ فوق المجموعة غير المحتملة $N = \mathcal{C} \setminus S$.
• من خلال ضبط $\alpha$ و $\beta$ (مثلاً $\alpha=0.1, \beta=10$)، تعطي المنظومة الأولوية لتركيز الكتلة على المجموعة المحتملة $S$، باستخدام الفئة المستهدفة $t$ تحديداً كأداة لكسر التعادل.

الخصائص النظرية:

• الرتابة (Monotonicity): تنخفض الخسارة إذا تمت إعادة تخصيص الكتلة الاحتمالية لزيادة كل من $p_t$ و $p_S$.
• التحدب الجزئي (Partial Convexity): الخسارة محدبة بالنسبة لـ "اللوجيت" (Logits) للفئات غير المحتملة ($z_n$ للفئات $n \in N$) عندما تظل اللوجيتات المحتملة ثابتة.
• الكفاءة: يمكن إعادة صياغة الخسيرة باستخدام عمليات Log-Sum-Exp (LSE) على اللوجيتات، مما يضمن الاستقرار العددي وتكلفة حسابية مطابقة للاعتلاج المتقاطع القياسي ($O(B \cdot C)$).

المساهمات الرئيسية

1. إطار عمل موحد: يوفر CONVEYANCE هدفاً واحداً يعالج عدم تماثل الملصقات، والتراجع الترتيبي، والتصنيف الهرمي دون الحاجة إلى تغييرات في البنية أو نماذج توليدية.
2. ترميز معرفة قابل للتتبع: يسمح استخدام المصفوفة البولية $Q$ للممارسين بترميز البنى المعقدة (الرسوم البيانية، التسلسلات الهرمية) بسهولة أكبر من التوزيعات الاحتمالية الكاملة، مع كونها أكثر تعبيراً من العائلات البارامترية الثابتة.
3. ضمانات نظرية: يثبت البحث رتابة وتحدب الخسارة جزئياً، مما يوفر أساساً نظرياً لاستقرار التحسين (Optimization).
4. تعدد الاستخدامات: يستعيد منهج CONVEYANCE الاعتلاج المتقاطع القياسي كحالة حدية ($\beta=0$)، لكنه يقدم مرونة أكبر بكثير للفضاءات المهيكلة.

النتائج التجريبية

قيم المؤلفون CONVEYANCE عبر ثلاثة مجالات، حيث تفوق باستمرار على النماذج المرجعية المتخصصة (SOTA) مع الحفاظ على التكلفة الحسابية للاعتلاج المتقاطع.

1. عدم تماثل الملصقات (انحياز التوسيم و MIL)

• الضجيج الاصطناعي: في اختبارات CIFAR-10 و CIFAR-100 مع الضجيج العمودي، والكتلي، وغير المتماثل، تفوق CONVEYANCE على إطار العمل التوليدي "Masking" [17] وعلى الاعتلاج المتقاطع القياسي. وبشكل ملحوظ، في حالة CIFAR-100 مع الضجيج غير المتماثل، تجاوز أداء خط الأساس (CE للبيانات النظيفة) بمقدار 3.56 نقطة مئوية، مما يشير إلى أن الضابط البنيوي يعمل كمنظم ضمني (Implicit Regularizer).
• التعلم متعدد الأمثلة (MIL): في خمسة معايير جدولية لـ MIL ومعيار Camelyon-16 لصور الشرائح الكاملة، حقق CONVEYANCE دقة و AUC في مستوى الحالة الراهنة (SOTA). وفي Camelyon-16، حسن AUC بمقدار 1.8 نقطة عن أفضل طريقة تالية (CAMIL)، رغم عدم استخدامه أي تخصصات معمارية خاصة بالمشكلة (مثل تقطير الميزات أو تجميع النماذج الأولية).

2. التراجع الترتيبي (تقدير العمر)

• تم التقييم على مجموعات بيانات CACD2000، و CLAP2016، و UTKFace.
• حقق CONVEYANCE أفضل متوسط خطأ مطلق (MAE) في جميع مجموعات البيانات مقارنة بطرق الملصقات الناعمة (Soft Labels, DLDL) والبنيات المخصصة للترتيب (ORCNN).
• في مجموعة بيانات CLAP2016 التي تحتوي على ضجيج، قلل MAE بمقدار 0.17 عن أقوى خط أساس (DLDL).
• أظهر التحليل النوعي أن CONVEYANCE، على عكس CE الذي يجزئ الفضاء الكامن، ينظم التمثيلات (Embeddings) في "متصل" (Manifold) سلس يعكس التقدم الدلالي للتقدم في السن.

3. التصنيف الهرمي (تعميم الجنس في حالة الصفر)

• تم التقييم على CUB-200-2011 (أنواع الطيور).
• في سيناريو "التعلم من الصفر" (Zero-shot) حيث تم حجب أنواع من أجناس محددة أثناء التدريب، حقق CONVEY_ANCE أعلى دقة للجنس خارج نطاق التدريب (85.1%)، متفوقاً على CE+SupCon (84.1%) و CE+Triplet (80.9%).
• نجحت الطريقة في تنظيم الأنواع من نفس الجنس في عناقيد متماسكة في فضاء اللوجيت، مما أظهر انتقالاً فعالاً للبنية التصنيفية إلى الفئات غير المرئية.

الأهمية والادعاءات

يدعي البحث أن CONVEYANCE يقدم بديلاً موحداً، وقابلاً للاشتقاق، وغير مرتبط بالبنية للعمليات الحسابية المعقدة المطلوبة في أطر المخرات المهيكلة (مثل SSVMs). تكمن أهميته الأساسية في خفض الحاجز أمام دمج البنية الناتجة في التعلم الخاضع للإشراف للمهام التي تكون فيها طبولوجيا الفئات معروفة ولكن يصعب التعبير عنها عبر النمذجة التوليدية.

يؤكد المؤلفون أن CONVEYANCE يحقق هذه النتيات مع أقل قدر من ضبط المعلمات الفائقة (غالباً باستخدام الإعداد الافتراضي الوحيد $\alpha=0.1, \beta=10$) ودون زيادة في التعقيد الحسابي عن الاعتلاج المتقاطع القياسي.

القيود المعترف بها:

• تعتمد الطريقة على صحة المصفوفة المدخلة $Q$؛ حيث إن الأقنعة غير الصحيحة أو غير المكتملة قد تعزز التعيينات الزائفة.
• تعتمد معلمة $\alpha$ على عدد الفئات، مما يتطلب إعادة معايرة لمجموعات البيانات ذات المفردات الكبيرة (مثل ImageNet).
• يتطلب بناء مصفوفة $Q$ ذات معنى للبيانات دقيقة التفاصيل أو واسعة النطاق معرفة بنيوية أو أنطولوجيات قد لا تتوفر دائماً.

يختتم البحث برؤية للعمل المستقبلي المتمثل في استخراج $Q$ تلقائياً من إشارات مساعدة (مثل عدم اتفاق الموثقين، أو تقديرات عدم اليقين) وتوسيع الإطار ليشمل أقنعة الانتقال على مستوى العينة.