Unbalanced Optimal Transport Dictionary Learning for Unsupervised Hyperspectral Image Clustering

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تعلم قاموس النقل الأمثل غير المتوازن لتقسيم الصور فائقة الطيف غير الخاضعة للإشراف".

1. بيان المشكلة

تلتقط التصويرات فائقة الطيف (HSI) بيانات طيفية عالية الأبعاد، مما يجعل التسمية اليدوية مجهدة وتتطلب جهداً كبيراً وغالباً ما تكون غير مجدية. وبينما تحقق طرق التعلم الخاضعة للإشراف (مثل SVM أو التعلم العميق) دقة عالية، إلا أنها تتطلب كميات كبيرة من البيانات المصنفة. وبناءً على ذلك، يعد التقسيم غير الخاضع للإشراف (unsupervised clustering) أمراً ضرورياً لتقسيم المشاهد بشكل آلي.

تتعامل النهج غير الخاضعة للإشراف الحالية التي تستخدم تعلم قاموس وايسرستاين (WDL) مع بكسلات الصور فائقة الطيف كتوزيعات احتمالية وتقوم بإعادة بنائها باستخدام مراكز وايسرستاين (Wasserstein barycenters) المتوازنة. ومع ذلك، يعاني هذا النهج من خلل جوهري:

• متطلبات التطبيع (Normalization): يتطلب النقل الأمثل المتوازن أن يكون لجميع نقاط البيانات نفس الكتلة الإجمالية (المجموع يساوي 1). وهذا يفرض تطبيع الملفات الطيفية للصور فائقة الطيف.
• النتائج: يؤدي التطبيع إلى طمس الاختلافات في الانعكاس الكلي (الشدة) بين البكسلات، مما يؤدي فعلياً إلى "تمويه" حدود الفئات. كما أنه يقلل من المتانة تجاه القيم المتطرفة والضجيج، حيث لا يمكن للطريقة التمييز بين بكسل ذي إشارة منخفضة وبكسل ذي إشارة عالية إذا كانت أشكال أطيافهما النسبية متشابهة.

2. المنهجية

يقترح المؤلفون تعلم قاموس النقل الأمثل غير المتوازن (UBTDL)، والذي يستبدل مراكز وايسرستاين المتوازنة بمراكز وايسرستاين غير المتوازنة.

المفهوم الجوهري: النقل الأمثل غير المتوازن (UOT)

على عكس النقل الأمثل المتوازن، يقوم (UOT) بتخفيف قيد حفظ الكتلة الصارم. فهو يسمح بإنشاء أو تدمير الكتلة أثناء النقل من خلال معاقبة الحدود الهامشية باستخدام تباعدات تشيزار (Csiszár divergences) (تحديداً تباعد كولباك-ليبلر).

• الصيغة الرياضية: تقوم تكلفة النقل غير المتوازن $UOT_{\epsilon}^{\tau}(\mu, \nu)$ بتقليل تكلفة النقل بالإضافة إلى حد العقوبة لعدم تطابق الكتلة:
  $$\min_{X} \langle X, C \rangle + \tau KL(X\mathbf{1}_m || \mu) + \tau KL(X^T\mathbf{1}_n || \nu) + \epsilon KL(X || \mu\nu^T)$$
  حيث $\tau$ هو حد التخفيف الهامشي و $\epsilon$ هو تنظيم الإنتروبيا.
• الفائدة: يسمح هذا النموذج بالتعامل مع بكسلات الصور فائقة الطيف ذات الانعكاس الكلي (الكتلة) المختلف دون إجبارها على التحول إلى توزيع احتمالي موحد، مما يحافظ على معلومات الشدة الضرورية للتمييز بين المواد.

الخوارزمية: التقسيم الطيفي لترميز مراكز وايسرستاين غير المتوازنة (UBCSC)

يتكون خط العمل المقترح من مرحلتين رئيسيتين:

1. مرحلة تعلم القاموس:

   • المدخلات: بكسلات الصور فائقة الطيف $\{\mu_j\}$ التي تُعامل كتوزيعات عبر النطاقات الطيفية.
   • الهدف: تعلم مجموعة من ذرات القاموس $\{D_i\}$ ومتجهات الأوزان $\{\Lambda_j\}$ بحيث يقرب مركز وايسرستاين غير المتوازن للذرات الموزونة بـ $\Lambda_j$ من البكسل الأصلي $\mu_j$.
   • التحسين: عملية تكرارية باستخدام الاشتقاق التلقائي (backpropagation) لتقليل دالة الخسارة (عادةً خسارة التربيع، $L(P, X) = ||P - X||_2^2$) بين مركز وايسرستاين المعاد بناؤه والبيانات الأصلية.
   • القيود: ذرات القاموس مقيدة بأن تكون غير سالبة؛ ويتم تطبيع الأوزان عبر دالة Softmax.

2. مرحلة التقسيم (Clustering):

   • التمثيل: تعمل متجهات الأوزان المتعلمة $\Lambda_j$ كتمثيل منخفض الأبعاد للبيانات عالية الأبعاد للصور فائقة الطيف.
   • بناء الرسم البياني: يتم بناء رسم بياني لأقرب $k$ جار باستخدام المسافة الإقليدية بين متجهات الأوزان ($d(\Lambda_i, \Lambda_j) = ||\Lambda_i - \Lambda_j||_2$).
   • التقسيم الطيفي: يتم حساب لابلاسيان الرسم البياني الموحد، واستخراج المتجهات الذاتية ذات التردد الأدنى.
   • التسمية: يتم تطبيق خوارسة $k$-means على هذه المتجهات الذاتية. وأخيراً، يتم تعيين التسميات لمجموعة البيانات بأكملها عبر التصويت بالأغلبية لأقرب الجيران للمجموعة الفرعية التي تم تقسيمها أولياً.

3. المساهمات الرئيسية

• الصيغة غير المتوازنة: تقدم الورقة أول تطبيق لـ مراكز وايسرستاين غير المتوازنة في تعلم قاموس الصور فائقة الطيف. وهذا يلغي الحاجة لتطبيع البيانات، مما يحافظ على معلومات الانعكاس الكلي ويحسن المتانة تجاه القيم المتطرفة.
• تحسين المتانة: من خلال عدم فرض حفظ الكتلة، تتعامل الطريقة بشكل أفضل مع البيانات المشوشة والبكسلات ذات شدة الإشارة المتغيرة، والتي غالباً ما تؤدي إلى ارتباك في الفئات في النهج المتوازن.
• اكتشاف الفئات الكامنة: تظهر الطريقة القدرة على تحديد فئات المواد "الكامنة" التي قد تنقسم إلى عدة تسميات حقيقية أو تُفقد تماماً بواسطة طرق التقسيم القياسية، خاصة في المشاهد المعقدة (مثل مجموعة بيانات Salinas A).
• التنفيذ مفتوح المصدر: يوفر المؤلفون تنفيذاً بلغة بايثون باستخدام مكتبة POT (Python Optimal Transport).

4. النتائج التجريبية

تم تقييم الطريقة على أربع مجموعات مرجعية قياسية للصور فائقة الطيف: Salinas A، وIndian Pines، وPavia Centre، وPavia University.

• مقارنة الدقة (UBCSC مقابل BCSC):

  • تحت ظروف معلمات فائقة متطابقة، تفوق UBCSC باستمرار على نظيره المتوازن (BCSC).
  • مثال (Salinas A): حقق UBCSC دقة 89% مقابل 68% لـ BCSC.
  • مثال (Pavia U): حقق UBCSC دقة 63% مقابل 40% لـ BCSC.
  • حتى في أفضل السيناريوهات (عند ضبط المعلمات الفائقة)، حافظ UBCSC على تفوق كبير (على سبيل المثال، 0.89 مقابل 0.86 في Salinas A).

• مقياس النقاء (Purity):

  • عندما يُسمح لعدد المجموعات ($c$) بتجاوز عدد الفئات الحقيقية، أظهرت الط طريقة درجات نقاء عالية (على سبيل المثال، 0.92 لـ Salinas A مع 7 مجموعات).
  • يشير هذا إلى أن الخوارزمية نجحت في فصل أنواع المواد المتميزة التي قد تُجمع معاً في التسميات الحقيقية، مما يشير إلى قدرتها على التقاط اختلافات طيفية أكثر دقة.

• الحساسية للمعلمات الفائقة (Hyperparameter Sensitivity):

  • لوحظ أفضل أداء عندما كان معامل التخفيف الهامشي $\tau$ مساوياً تقريباً للكتلة الإجمالية للبيانات.
  • عمل عدد الذرات ($k$) بشكل أفضل عندما تم ضبطه ليكون من 2 إلى 4 أضعاف عدد الفئات الحقيقية.

5. الأهمية والقصور

الأهمية:
تثبت هذه الورقة أن النقل الأمثل غير المتوازن هو إطار عمل متفوق لتحليل الصور فائقة الطيف مقارنة بالأسال_ل المتوازنة التقليدية. ومن خلال احترام الواقع الفيزيائي المتمثل في أن المواد المختلفة تعكس الضوء بشدات إجمالية مختلفة، توفر الطريقة تمثيلاً أكثر دقة ومنخفض الأبعاد للتقسيم. وهذا يؤدي إلى دقة أعلى والقدرة على اكتشاف الهياكل الكامنة في الإعدادات غير الخاضعة للإشراف.

القصور:

• التعقيد الحسابي: العيب الرئيسي هو التعقيد الزمني. بينما يمكن حل (1D balanced OT) في زمن $O(n \log n)$ عبر الترتيب، فإن (unbalanced OT) يعتمد على خوارزميات شبيهة بـ Sinkhorn بتعقيد يصل تقريباً إلى $O(n^2/\epsilon)$.
• القابلية للتوسع: يعاني تنفيذ بايثون الحالي أحادي المسار من صعوبة في التعامل مع مجموعات البيانات الكبيرة ($n > 10,000$). ويشير المؤلفون إلى أن التوازي على وحدات معالجة الرسومات (GPUs) يمكن أن يخفف من ذلك، لكنه لم يُنفذ في هذه الدراسة.
• ضبط المعلمات الفائقة: الطريقة حساسة للمعلمات الفائقة ($\tau, \epsilon, k, NN$)، والتي تختلف بشكل كبير اعتماداً على خصائص المشهد ومجموعة البيانات المحددة.

العمل المستقبلي:
يقترح المؤلفون دمج المعلومات المكانية (سياق البكسلات المجاورة) سواء أثناء توليد الأوزان أو كخطوة معالجة لاحقة لمزيد من تحسين التقسيم، رغم أن هذا يحمل خطر الإفراط في التخصيص (overfitting) للمناطق المتباعدة مكانياً ولكنها متشابهة طيفياً.