⚡ electrical engineering

Preventing Overfitting in Deep Image Prior for Hyperspectral Image Denoising

تقترح هذه الورقة طريقة للتخفيف من حدة الإفراط في التخصيص في إزالة الضجيج من الصور فائقة الطيف القائمة على الأولوية الصورية العميقة، وذلك عبر الجمع المشترك بين حد مطابقة البيانات من نوع $\ell_1$ السلس مع التنظيم القائم على التباعد وتحسين المدخلات، مما يحقق أداءً فائقاً على الصور الحقيقية المشوبة بالضجيج مقارنة بالأساليب المتطورة الحالية.

المؤلفون الأصليون: Panagiotis Gkotsis, Athanasios A. Rontogiannis

نُشر 2026-04-10

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Panagiotis Gkotsis, Athanasios A. Rontogiannis

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك صورة فوتوغرافية رائعة وعالية الدقة لمنظر طبيعي، لكنها تعرضت للتلف بسبب ثلاثة أنواع مختلفة من الفوضى: ضباب غائم (ضجيج غاوسي)، وبقع حبر عشوائية (ضجيج متفرق)، وخطوط عمودية تشبه خطوط المطر على النافذة (ضجيج الخطوط). هدفك هو تنظيف هذه الصورة دون فقدان تفاصيل الأشجار أو المباني أو الجبال.

هذه الورقة البحثية تتحدث عن طريقة ذكية مدعومة بالذكاء الاصطناعي لتنظيف هذه الصور، وتحديداً لـ الصور فائقة الطيف (وهي مثل الصور الخارقة التي ترى مئات الألوان، وليس فقط الألوان الثلاثة المعتادة). يبحث المؤلفون عن حل لمشكلة معقدة: كيف تعلم الذكاء الاصطناعي تنظيف صورة دون أن يتعلم "الفوضى" بالخطأ؟

إليك تفصيل الموضوع باستخدام تشبيهات بسيطة:

1. المشكلة: "الطالب المتحمس أكثر من اللازم"

يستخدم الباحثون تقنية تسمى أولوية الصورة العميقة (Deep Image Prior - DIP). تخيل أن شبكة الذكاء الاصطناعي هذه هي طالب فن موهوب ولكنه ساذج.

الإعداد: تعطي الطالب صورة فوضوية وتقول له: "ارسم صورة تشبه هذه تماماً".
الفخ: في البداية، يرسم الطالب الأشكال الرئيسية (الصورة النظيفة). ولكن إذا استمررت في الطلب منه أن يرسم لفترة طويلة جداً، سيبدأ في التحسن بشكل مفرط. سيبدأ في حفظ بقع الحبر وخطوط المطر، معتقداً أنها جزء من الفن.
النتيجة: إذا جعلته يتوقف في وقت متأخر جداً، ستبدو اللوحة النهائية مثل الصورة الفوضوية، وليس الصورة النظيفة. وهذا ما يسمى "الفرط في التخصيص" (Overfitting). عادةً، يتعين عليك تخمين الوقت المناسب لإيقافه (ما يسمى "الإيقاف المبكر")، وهو أمر يشبه محاولة التقاط بيضة ساقطة بعينيك مغمضتين.

2. الحلول القديمة: أداة واحدة لا تناسب الجميع

قبل هذه الورقة، جرب العلماء طريقتين رئيسيتين لمنع الطالب من حفظ الفوضى:

الطريقة (أ) (النهج "الناعم"): استخدموا قاعدة لطيفة تقول: "لا تقلق كثيراً بشأن الأخطاء الصغيرة". هذه الطريقة تعمل بشكل رائع مع الضباب الغائم، ولكن إذا كانت هناك بقع حبر حادة، فإن الطالب سيتجاهلها ويتركها في الصورة.
الطريقة (ب) (النهج "الصارم"): استخدموا قاعدة تقول: "لا تكن حساساً جداً للتغيرات الطفيفة". هذا يمنع الطالب من حفظ الضباب، ولكن إذا كانت هناك بقع حبر حادة، فإن الطالب سيصاب بالارتباك ويفسد الأجزاء النظيفة من الصورة.

لم تنجح أي من الطريقتين بشكل مثالي عندما تحتوي الصورة على مزيج من كل هذه الأنواع من الفوضى.

3. الحل الجديد: "الكرسي ذو الأرجل الثلاث"

يقترح المؤلفون طريقة موحدة تجمع بين ثلاثة أشياء لإنشاء نظام تنظيف مثالي. تخيل كرسياً لا يتأرجح لأنه يمتلك ثلاث أرجل قوية:

الرجل الأولى: "الفلتر الذكي" (دقة البيانات القوية)
بدلاً من مجرد قول "طابق الصورة تماماً"، يستخدم الذكاء الاصطناعي قاعدة $\ell_1$ الناعمة (Smooth $\ell_1$ ).
التشبيه: فكر في هذا كفلتر يقول: "إذا كانت البقعة بعيدة قليلاً، فمن المحتمل أنها مجرد ضجيج، تجاهلها. ولكن إذا كانت بقعة ضخلة وواضحة، فقم بإصلاحها". هذا يتعامل مع بقع الحبر والخطوط جيداً دون الارتباك بسبب الضباب.
الرجل الثانية: "اختبار الحساسية" (تنظيم التباعد)
هذه خدعة رياضية خاصة (تعتمد على ما يسمى SURE) تعمل مثل اختبار الإجهاد.
التشبيه: تخيل أن الطالب يرسم. كل بضع ثوانٍ، يهمس المعلم: "ماذا لو حركت هذه البكسل (Pixel) قليلاً؟ هل ستتغير رسمتك بشكل جذري؟" إذا تغير رسم الطالب كثيراً، فهذا يعني أنه يحفظ الضجيج. يجبره المعلم على أن يكون أكثر استقراراً. هذا يمنعه من حفظ الضباب.
الرجل الثالثة: "اللوحة الديناميكية" (تحسين المدخلات المشترك)
هذا هو السر الحقيقي. عادةً، يُعطى الطالب صورة فوضوية ثابتة ليقوم بنسخها. هنا، يُسمح للذكاء الاصطناعي بتعديل الصورة الفوضوية نفسها أثناء الرسم.
التشبيه: بدلاً من مجرد نسخ لوحة متسخة، يُسمح للطالب بمسح اللوحة بلطف أثناء قيامه بالرسم. هذا يمنحه حرية أكبر للعثور على "الصورة الحقيقية" النظيفة الموجودة تحت الضجيج.

4. لماذا هذا المزيج هو "سحر"؟

تظهر الورقة البحثية أن هذه الأرجل الثلاثة يجب أن تعمل معاً.

إذا كان لديك فقط "الفلتر الذكي"، فسيظل الطالب يحفظ الضجيج في النهاية.
إذا كان لديك فقط "اختبار الحساسية"، فسيصاب الطالب بالارتباك بسبب بقع الحبر.
ولكن عند دمجهم: يعمل "اختبار الحساسية" كشبكة أمان. فهو يثبت "اللوحة الديناميكية" حتى لا يخرج الطالب عن السيطرة. إنه يخبر الذكاء الاصطناعي: "يمكنك تعديل الصورة، لكن لا تحفظ الضجيج".

النتيجة

اختبر المؤلفون هذا على صور حقيقية للأقمار الصناعية والصور الجوية لأماكن مثل واشنطن العاصمة وساليناس.

المنافسة: الطرق الأخرى إما تركت خطوطاً في الصورة أو أصبحت ضبابية لأنها توقفت مبكراً جداً.
الفائز: نظفت الطريقة الجديدة الضباب، وأزالت بقع الحبر، ومسحت خطوط المطر بشكل مثالي.
الجزء الأفضل: لم يكن بحاجة لإيقاف الذكاء الاصطناعي مبكراً. يمكنه الاستمرار في العمل حتى ينتهي، وسيظل ينتج صورة مثالية لأن "اختبار الحساسية" منع عملية حفظ الضجيج.

باختد، قام المؤلفون ببناء فنان ذكاء اصطناعي أكثر ذكاءً يعرف كيف ينظف صورة فوضوية دون أن يرسم الفوضى بالخطأ على اللوحة النهائية، حتى عندما تكون الفوضى مزيجاً معقداً من أنواع مختلفة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "منع الإفراط في التخصيص (Overfitting) في الأولوية العميقة للصور (Deep Image Prior) لإزالة الضجيج من الصور فائقة الطيفية."

1. بيان المشكلة

إزالة الضجيج من الصور فائقة الطيفية (HSI Denoising): تحتوي الصور فائقة الطيفية على معلومات مكانية وطيفية غنية، ولكنها غالباً ما تتعرض للتدهور بفعل أنواع مختلفة من الضجيج، بما في ذلك الضجيج الغاوسي (Gaussian noise)، والضجيج المتفرق (sparse noise/impulks)، وضجيج الخطوط (stripe noise/sensor artifacts). تعد عملية إزالة الضجيج الفعالة خطوة أساسية للمعالجة المسبقة لتطبيقات مثل المراقبة البيئية والزراعة الدقيقة.

تحدي الإفراط في التخصيص (Overfitting) في الأولوية العميقة للصور (DIP):

السياق: إطار عمل "الأولوية العميقة للصور" (DIP) هو طريقة غير خاضعة للإشراف تستخدم شبكة عصبية تلافيفية (CNN) تم تهيئتها عشوائياً وتدريبها على صورة واحدة مشوهة لإعادة بناء النسخة النظيفة. تعتمد هذه الطريقة على الانحياز الضمني لبنى الشبكات التلافيفية لالتقاط هياكل الصور الطبيعية قبل البدء في ملاءمة الضجيج.
المشكلة: تميل طرق (DIP) بطبيعتها إلى الإفراط في التخصيص (Overfitting). فمع زيادة دورات التدريب، تقوم الشبكة في النهاية بحفظ الضجيج، مما يؤدي إلى تدهور جودة إعادة البناء.
القيود الحالية:
- التوقف المبكر (Early Stopping): تتطلب طريقة (DIP) القياسية "توقفاً مبكراً" دقيقاً لإيقاف التدريب قبل حدوث حفظ الضجيج. ومع ذلك، فإن نقطة التوقف المثلى غير معروفة وتختلف باختلاف المهام.
- المقايضات في الحلول الحالية:
  - الطرق القائمة على (SURE) (مثل SURE-DHIP): تستخدم مُقدر ريسك ستين غير المنحاز (Stein's Unbiased Risk Estimator) مع خسارة $\ell_2$ لمعاقبة الحساسية. تعمل هذه الطرق بشكل جيد مع الضجيج الغاوسي ولكنها تفشل في حالة الضجيج المتفرق أو ذي الذيول الثقيلة الشائع في الصور فائقة الطيفية.
  - طرق الخسارة القوية (مثل HLF-DHIP): تستخدم أنواع خسارة من نوع $\ell_1$ للتعامل مع الضجيج المتفرق. ورغم كونها قوية ضد القيم المتطرفة، إلا أنها لا تمنع الإفراط في التخصيص بشكل جوهري ولا تزال تتطلب التوقف المبكر.
- عدم التوافق: إن الجمع بين الخسائر القوية (التي تغير هندسة التحسين) والانتظام القائم على التباعد (الذي يُدرس عادةً تحت $\ell_2$ ) ليس أمراً سهلاً. علاوة على ذلك، فإن تحسين مدخلات الشبكة (وهي تقنية لتحسين التقارب) قد يؤدي إلى تفاقم الإفراط في التخصيص إذا لم يتم تنظيمها بشكل صحيح.

2. المنهجية

يقترح المؤلفون إطار عمل موحداً يجمع بشكل مشترك بين الدقة القوية للبيانات، وتنظيم الحساسية الصريح، والتحسين المشترك للمدخلات.

أ. المكونات الأساسية

دقة البيانات القوية (Smooth $\ell_1$ Loss):
- بدلاً من خسارة $\ell_2$ القياسية، يستخدم المؤلفون خسارة $\ell_1$ الناعمة (غلاف مورو لـ $\ell_1$ ).
- الوظيفة: تتصرف مثل $\ell_2$ عند الأخطاء الصغيرة (لضمان استقرار التحسين) وتتصرف مثل $\ell_1$ عند الأخطاء الكبيرة (لتوفما توفير القوة ضد الضجيج المتفرق وذي الذيول الثقيلة).
- الصيغة:
  $L_{Smooth-\ell_1}(x, y; \beta) = \begin{cases} \frac{1}{2\beta}(x-y)^2 & |x-y| \le \beta \\ |x-y| - \frac{\beta}{2} & |x-y| > \beta \end{cases}$
تنظيم الحساسية (حد التباعد):
- استناداً إلى مقدر ريسك ستين غير المنحاز (SURE)، تمت إضافة حد التباعد لمعاقبة حساسية المُقدِّر تجاه الاضطرابات في المدخلات.
- الوظيفة: يعمل كمنظم لدرجات الحرية الفعالة للمُقدِّر، مما يمنع الشبكة من ملاءمة التفاصيل الدقيقة للضجيج.
- التقريب: بما أن حساب التباعد الدقيق غير ممكن للشبكات العميقة، يتم استخدام تقريب مونت كارلو:
  $\text{div}_z(f_\theta(z)) \approx b^T \left( \frac{f_\theta(z + \epsilon b) - f_\theta(z)}{\epsilon} \right)$
  حيث $b$ هو متجه غاوسي عشوائي.
التحسين المشترك للمدخلات:
- على عكس (DIP) القياسي حيث يكون المدخل ثابتاً (غالباً الصورة المشوشة أو ضجيج عشوائي)، تقوم الطريقة المقترحة بتحسين مدخل الشبكة $z$ جنباً إلى جنب مع بارامترات الشبكة $\theta$ .
- المنطق: يحسن التحسين المشترك من التقارب وجودة إعادة البناء، ولكنه يزيد من خطر الإفراط في التخصيص (حيث يمكن تشفير الضجيج في كل من الأوزان والمدخلات). ويعد حد التباعد حاسماً هنا لاستقرار مساحة التحسين الموسعة هذه.

ب. دالة الخسارة الموحدة

تجمع دالة الخسارة الإجمالية بين دقة البيانات القوية وتنظيم التباعد:
$L(\theta, z) = L_{Smooth-\ell_1}(f_\theta(z), y) + \frac{2\sigma^2}{n} \text{div}_z(f_\theta(z))$
حيث:

$f_\theta(z)$ هو مخرج الشبكة.
$y$ هو الملاحظة المشوشة.
$\sigma^2$ هو تباين الضجيج المقدر (يتم حسابه عبر الانحراف المطلق لوسيط تحويل المويجات/Wavelet transform).
يعمل حد التباعد كقيد للحساسية بدلاً من كونه مُقدِّر ريسك مباشر في هذا السياق.

3. المساهمات الرئيسية

صياغة خسارة مبتكرة: تقدم الورقة صيغة خسارة موحدة تدمج بنجاح بين دقة بيانات Smooth $\ell_1$ (للقوة ضد أنواع الضجيج المختلطة) مع تنظيم التباعد (للحد من الإفراط في التخصيص).
تآزر التقنيات: تثبت الورقة أن تنظيم التباعد يكون أكثر فعالية عند استخدامه بالتزامن مع التحسين المشترك للمدخلات. حيث يعمل التنظيم على استقرار مساحة البحث الموسعة، مما يمنع الشبكة من حفظ الضجيج من خلال الأوزان أو تمثيل المدخلات.
إلغاء التوقف المبكر: تحقق الطريقة تقارباً مستقراً دون الحاجة إلى التوقف المبكر اليدوي، وهو ما يعد عيباً رئيسياً في طرق (DIP) السابقة.
القوة تجاه الضجيج المختلط: أثبتت النتائج فعالية الطريقة في التعامل مع الضجيج الغاوسي، والمتفرق، وضجيج الخطوط، وكذلك تركيباتها المختلطة، متفوقة على الطرق المتخصصة في نوع واحد فقط.

4. النتائج التجريبية

تم تقييم الطريقة على مجموعات بيانات (HSI) حقيقية (Washington DC Mall و Salinas) تحت أربعة سيناريوهات للضجيج:

ضجيج غاوسي (SNR 5dB).
ضجيج غاوسي + ضجيج متفرق (5% من البكسلات).
ضجيج غاوسي + ضجيج خطوط (50 نطاقاً).
ضجيج مختلط (غاوسي + متفرق + خطوط).

المقارنات:

النماذج المرجعية: تمت المقارنة مع SURE-DHIP (التباين فقط، خسارة $\ell_2$ ) و HLF-DHIP (خسارة $\ell_1$ الناعمة، بدون تباعد).
المقاييس: متوسط نسبة الإشارة إلى الضجيج (MPSNR) ومتوسط مؤشر التشابه الهيكلي (MSSIM).

النتائج:

الأداء: حققت الطريقة المقترحة باستمرار قيم MPSNR و MSSIM متفوقة عبر جميع أنواع الضجيج ومجموعات البيانات.
سلوك الإفراط في التخصيص:
- SURE-DHIP: أدت أداءً جيداً في الضجيج الغاوسي ولكن تدهورت بشكل كبير مع الضجيج المتفرق/الخطوط.
- HLF-DHIP: أظهرت قوة تجاه الضجيج المتفرق ولكنها أظهرت إفراطاً واضحاً في التخصيص (تدهور الأداء بعد عدد معين من الدورات).
- الطريقة المقترحة: حافظت على تقارب مستقر وأداء عالٍ طوال 4000 دورة دون أي تدهور.
الجودة البصرية: أظهرت النتائج النوعية عمليات إعادة بناء أنظف مع عيوب أقل وحفاظ أفضل على التفاصيل الطيفية مقارنة بالنماذج المرجعية.
الكفاءة: كانت أوقات التشغيل قابلة للمقارنة مع النماذج المرجعية، لكن الطريقة المقترحة تسمح بـ "الإنهاء المبكر الآمن" (أو التشغيل حتى التقارب) دون فقدان في الأداء.

5. الأهمية

تعالج هذه الدراسة عقبة أساسية في التعلم العميق غير الخاضع للإشراف للمشكلات العكسية: وهي المقايضة بين القوة تجاه أنواع الضجيج ومنع الإفراط في التخصيص.

الرؤية النظرية: توضح الورقة أن القوة تجاه القيم المتطرفة (عبر $\ell_1$ ) والقوة تجاه الإفراط في التخصيص (عبر التباعد) هما خاصيتان مختلفتان يجب هندستهما معاً.
الأثر العملي: من خلال إزالة الاعتماد على "التوقف المبكر"، تجعل هذه الطريقة عملية إزالة الضجيج من الصور فائقة الطيفية المعتمدة على (DIP) أكثر موثوقية وسهولة في النشر في السيناريوهات الواقعية حيث لا تتوفر الحقيقة الأرضية (Ground Truth) وتكون خصائص الضجيج غير معروفة.
القدرة على التعميم: إن استراتيجية الجمع بين حدود البيانات القوية وتنظيم الحساسية تحت التحسين المشترك يمكن تطبيقها على مهام استعادة الصور الأخرى غير إزالة الضجيج من الصور فائقة الطيفية.