Revisiting Autoregressive Models for Generative Image Classification

إليك ملخص تقني مفصل لورقة البحث بعنوان "إعادة النظر في النماذج التوليدية ذاتية الانحدار (Autoregressive Models) للتصنيف التوليدي للصور."

1. بيان المشكلة

لقد برزت النماذج التوليدية (GMs)، ولا سيما نماذج الانتشار (Diffusion Models - DMs)، مؤخرًا كأدوات قوية لـ التصنيف التوليدي (Generative Classification - GC). وخلافًا للنماذج التمييزية التي تتعلم رسم خرائط مباشرة لـ $p(y|x)$، تقوم نماذج التصنيف التوليدي بتقدير الاحتمالية الشرطية للفئة $p(x|y)$ وتطبيق قاعدة بايز لاستنتاج التوزيع البعدي $p(y|x)$. وبينما أظهرت نماذج الانتشار أداءً فائقًا ومتانة في هذا السياق مقارنة بالنهج السابقة، إلا أن النماذج ذاتية الانحدار (Autoregressive - AR) ظلت غير مستكشفة بشكل كافٍ وغالبًا ما تفوقت عليها نماذج الانتشار في مهام التصنيف البصري.

حدد المؤلفون قصورًا حرجًا في نهج التصنيف التوليدي القائم على النماذج ذاتية الانداد السابقة: الاعتماد على ترتيب ثابت للرموز (tokens) (عادةً ما يكون مسحًا متتاليًا من اليسار إلى اليمين ومن الأعلى إلى الأسفل). يفرض هذا الترتيب انحيازًا استقرائيًا مقيدًا، مما يجعل النموذج يعتمد على إشارات تمييزية جزئية خاصة بهذا الترتيب. ونتيجة لذلك، يمكن أن تكون تنبؤات النماذج ذاتية الانحدار ذات الترتيب الواحد أقل دقة ومتانة مقارنة بالتوليد الهرمي القائم على التردد في نماذج الانتشار.

2. المنهجية

تقترح الورقة مصنفًا ذاتي الانحدار بهامش الترتيب (Order-Marginalized Autoregressive Classifier) يستفيد من التطورات الأخيرة في نماذج الـ AR "متعددة الترتيبات" للتغلب على قيود تسلسلات الرموز الثابتة.

الرؤية الجوهرية

لاحظ المؤلفون أن نتيجة التصنيف لنموذج ذاتي الانحدار حساسة للغاية لترتيب توليد الرموز. قد يفتقر الترتيب الثابت الواحد إلى السياق العالمي أو يعتمد على ميزات محلية زائفة. ومع ذلك، فإن متوسط التنبؤات عبر ترتيبات متعددة وعشوائية للرموز يوفر إشارة أكثر شمولية، حيث يلتقط المعلومات السياقية من مناطق متنوعة في الصورة.

الإطار التقني

1. النموذج الأساسي: تستخدم الطريقة نموذج RandAR، وهو نموذج فك تشفير (decoder-only) متطور قادر على توليد الصور بترتيبات عشوائية للرموز. يقوم RandAR بتعزيز تسلسل رموز الصورة برموز تعليمات الموقع، مما يسم يسمح له بالاشتراط على تبديل عشوائي $\pi$ لمؤشرات الرموز.
2. تقدير الاحتمالية بهامش الترتيب:
   • بدلاً من تقدير الاحتمالية لترتيب ثابت واحد، تقوم الطريقة بتقدير الاحتمالية غير المشروطة بالترتيب $p(x|c)$ عن طريق الهامش (marginalizing) عبر جميع التبديلات الممكنة $\pi$.
   • حساب التوقع المباشر للاحتمالية $E_\pi[p(x|\pi, c)]$ أمر صعب. وبدلاً من ذلك، استخدم المؤلفون متباينة جينسن (Jensen's inequality) لتقدير الحد الأدنى للوغاريتم الاحتمالي، وهو ما يتوافق بشكل أفضل مع هدف التدريب للنموذج:
     $$\log p(x|c) \geq E_\pi [\log p(x|\pi, c)] \approx \frac{1}{K} \sum_{k=1}^K \log p(x|\pi_k, c)$$
   • حيث تمثل $K$ عدد التبديلات العشوائية (ترتيبات الرموز) التي تم أخذ عينات منها لصورة واحدة.
3. إجراء التصنيف:
   • لصورة معينة $x$ ومجموعة من الفئات $C$، يولد النموذج $K$ من ترتيبات الرموز العشوائية.
   • لكل فئة $c_i$، يحسب النموذج اللوغاريتم الاحتمالي لكل ترتيب من الترتيبات الـ $K$.
   • يتم تجميع هذه القيم لحساب الدرجة النهائية لكل فئة.
   • الفئة المتوقعة هي $\arg\max_{c_i} \log p(x|c_i)$.

ميزة الكفاءة

تتمثل الميزة الرئيسية لهذا النهج في الكفاءة الحسابية. بينما تتطلب مصنفات الانتشار عادةً ما بين 100 إلى 250 تمريرة أمامية (خطوات زمنية) لتقدير الاحتمالية، يمكن للطريقة المقترحة تقييم الاحتمالية بهامش الترتيب باستخدام قيمة $K$ أصغر بكثير (مثل $K=20$) في تمريرة أمامية واحدة لكل ترتيب. يؤدي هذا إلى استنتاج أسرع بكثير.

3. المساهمات الرئيسية

• إعادة النظر في النماذج ذاتية الانحدار: تثبت الورقة أن النماذج ذاتية الانحدار، عندما تُجهز بهامش الترتيب، يمكنها التفوق على المصنفات القائمة على الانتشار، مما يتحدى فكرة أن نماذج الانتشار هي النموذج المتفوق الوحيد للتصنيف التوليدي.
• استراتيجية هامش الترتيب: قدم المؤلفون إطارًا عمليًا للاستفيد من نماذج الـ AR "متعددة الترتيبات" (تحديدًا RandAR) لتقدير الاحتمالات غير المشروطة بالترتيب، مما يزيل بفعالية الانحياز الاستقرائي للترتيبات المتتالية الثابتة.
• الأداء المتميز (State-of-the-Art): تحقق الطريقة المقترحة نتائج تنافسية أو متفوقة مقارنة بكل من مصنفات الانتشار والنماذج التمييزية ذاتية الإشراف المتطورة (مثل DINOv2).
• الكفاءة: يقدم النهج استنتاجًا أسرع بمقدار 25 ضعفًا مقارنة بالمصنفات القائمة على الانتشار مع الحفاظ على دقة أعلى.

4. النتائج التجريبية

قيم المؤلفون طريقتهم (RandAR مع هامش الترتيد) مقابل عدة نماذج مرجعية على مجموعات بيانات ImageNet وOut-of-Distribution (OOD).

• دقة النطاق الداخلي (ImageNet-Val):
  • حقق RandAR-XL دقة (top-1) بلغت 81.3%، متفوقًا على RandAR ذي الترتيب الثابت (70.1%) وعلى مصنفات الانتشار مثل DiT (77.2%).
  • كما تفوق على النموذج التمييزي ذاتي الإشراف DINOv2 (الذي حقق 81.9% لـ XL) في حالات النطاق الخارجي (OOD)، رغم أن DINOv2 ظل أعلى قليلاً في دقة النطاق الداخلي الصرفة.
• المتانة (مقاييس OOD):
  • أظهرت الطريقة مكاسب كبيرة في مجموعات بيانات OOD (مثل ImageNet-R, ImageNet-S, ImageNet-A, ImageNet-C).
  • على سبيل المثال، في ImageNet-R، حقق RandAR-XL دقة بنسبة 53.0%، متفوقًا بشكل كبير على DiT (40.2%) وDINOv2 (48.6%).
  • وفي ImageNet-Sketch، حقق 45.9% مقابل 36.7% لنموذج DiT.
• الكفاءة:
  • كان نموذج RandAR مع $K=20$ أسرع بـ 25 مرة من DiT (الذي يتطلب 250 خطوة زمنية) مع تقديم دقة أعلى.
• تحولات التوزيع في العالم الحقيقي (WILDS):
  • في مجموعات البيانات ذات تحولات المجموعات الفرعية (CelebA, FMoW, Camelyon17)، أظهر RandAR متانة فائقة، متفوقًا في كثير من الأحيان على كل من النماذج المرجعية التمييزية (ERM, RWY) ومصنفات الانتشار في دقة أسوأ مجموعة (worst-group accuracy).

5. الأهمية والخاتمة

يغير هذا العمل بشكل جذري المنظور تجاه النماذج ذاتية الانحدار في مجال التصنيف. فهو يثبت أن "نقطة ضعف" النماذج ذاتية الانحدار (الاعتماد على ترتيب الرموز) يمكن تحويلها إلى نقطة قوة من خلال هامش الترتيب.

• الآثار النظرية: تشير النتائج إلى أن المتوسط عبر ترتيبات الرموز المتعددة يسمح للنموذج بالتقاط تمثيل أكثر شمولية للصور يعتمد على الشكل (shape-biased)، مما يتماشى بشكل أفضل مع الإدراك البشري ويقلل من الاعتماد على الاختصارات القائمة على الملمس (texture-based) الشائعة في النماذج التمييزية.
• الأثر العملي: من خلال تحقيق أداء تصنيف توليدي متميز بتكلفة حسابية أقل بكثير من نماذج الانتشار، يجعل هذا النهج المصنفات التوليدية عالية الجودة أكثر قابلية للتطبيق في التطبيقات الواقعية.
• الاتجاهات المستقبلية: يسلط المؤلفون الضوء على إمكانية التوسع المستقبلي، والتكامل مع تقنيات التعلم ذاتي الإشراف، وإمكانية تقطير (distilling) هذه المصنفات التوليدية القوية إلى نماذج تمييزية فعالة.

باخت respect، تؤكد الورقة أن النماذج ذاتية الانحدار بهامش الترتيب هي بديل فعال ومتين للغاية لنماذج الانتشار في تصنيف الصور، مما يسد الفجوة بين الأداء التوليدي والتمييزي.