A neural operator view on U-Nets for inverse imaging problems
تستعرض هذه الورقة وتقيم تعلم المشغل العصبي ضمن بنيات U-Net لمشكلات التصوير العكسي، مبرهنةً من خلال التجارب العددية أنه بينما صُممت هذه الشبكات لتكون مستقلة عن الدقة، فإن شبكات U-Net الكلاسيكية تظهر متانة غير متوقعة عند التعميم عبر دقات تقسيم مختلفة.
المؤلفون الأصليون:Alexander Auras, Martin Burger, Samira Kabri, Michael Moeller, Michael Schopf-Kuester
تخيل أنك تحاول حل لغز ضخم وفوضوي، حيث تفتقد بعض القطع، والصورة التي تحاول رؤيتها ضبابية. هذه هي الحياة اليومية لعالم يعمل على "المسائل العكسية" في التصوير. فكر في الأمر كأنك تحاول تخمين شكل الكعكة من الداخل بمجرد تذوق بضع فتات من الخارج. في العالم الحقيقي، يحدث هذا عندما يلتقط الأطباء صور الأشعة السينية، أو عندما يحاول علماء الفلك رؤية النجوم البعيدة عبر غلاف جوي ضبابي. الرياضيات وراء هذا الأمر معقدة لأن المعلومات غير كاملة، مما يجعل المسألة "سيئة التحديد" (ill-posed) — أي أنه لا يوجد إجابة واحدة واضحة، بل هناك العديد من الإجابات الممكنة التي قد تناسب تلك الفتات.
ولإصلاح ذلك، يستخدم العلماء "التنظيم" (regularization)، وهو يشبه إعطاء حلال اللغز مجموعة من القواعد أو حدساً حول الشكل المعتاد للكعكة (ربما تكون مستديرة، أو ربما تحتوي على طبقات). مؤخراً، أصبحت الحواسيب بارعة جداً في تعلم هذه القواعد باستخدام "التعلم العميق"، وتحديداً باستخدام نوع خاص من الشبكات العصبية التي تتخذ شكل حرف "U"، وتسمى "U-Net". هذه الشبكات تشبه الطهاة المهرة الذين تذوقوا الملايين من الكعكات ويمكنهم تخمين القطع المفقودة بسرعة مذهلة. لكن تكمن المشكلة هنا في أن معظم هؤلاء الطهاة يتم تدريبهم على حجم محدد من الألغاز؛ فإذا أعطيتهم لغزاً صغيراً جداً أو ضخماً جداً، فقد يصابون بالارتباك. وهذا يطرح سؤالاً كبيراً في مجال "المؤثرات العصبية" (Neural Operators): هل يمكننا بناء طاهٍ لا يهتم بحجم اللغز على الإطلاق، بل يفهم "الوصفة" نفسها، بغض النظر عن عدد القطع التي لديك؟
يتعمق هذا البحث في هذا السؤال من خلال التعامل مع شبكات "U-Net" ليس فقط كمعالجات للصور، بل كـ "مؤثرات عصبية" — وهي آلات رياضية مصممة للعمل على دوال مستمرة، بغض النظر عن مدى دقة أو خشونة تقسيمها إلى بكسلات. أراد المؤلفون، وهم فريق من الباحثين من ألمانيا، معرفة ما إذا كانت نسخ "U-Net" الجديدة والمتطورة (التي تعمل كمؤثرات عصبية) أفضل حقاً في التعامل مع أحجام الصور المختلفة مقارنة بشبكات "U-Net" الكلاسيكية القديمة. وقد اختبروا ذلك من خلال تدريب هذه الشبكات على إصلاح صور الأشعة السينية الضبابية وغير المكتملة (تحديداً فحوصات التصوير المقطعي المحوسب ذات الزاوية المحدودة "limited angle CT"، والتي تشبه التقاط صورة لجسم ما من زوايا قليلة فقط، مما يترك خطوطاً وفجوات).
قام الباحثون بإعداد ساحة لعب بثلاثة أحجام مختلفة للغز: صغير (64×64 بكسل)، متوسط (128×128)، وكبير (256×256). قاموا بتدريب نسخ مختلفة من "U-Net" على هذه الأحجام، ثم ألقوا بها في الأعماق ليروا كيف ستتعامل مع ألغاز لم ترها من قبل. وقارنوا بين "U-Net" الكلاسيكية وبين عدة متغيرات من "المؤثرات العصبية": بعضها يستخدم رياضيات التردد (Spectral U-Nets)، وبعضها يحاول حساب التغيرات والحواف مباشرة (Differential U-Nets)، وأخرى تحاول تغيير حجم اللغز أثناء العمل.
جاءت النتائج كتحول في الحبكة؛ فقد وجد المؤلفون أنه بينما صُممت الشبكات "الطيفية" (Spectral) المتطورة لتكون مستقلة عن الحجم، إلا أنها لم تكن بالضرقة أفضل من "U-Net" الكلاسيكية عندما يتعلق الأمر بالتعميم على أحجام جديدة. في الواقع، تبين أن "U-Net" الكلاسيكية، التي كان يُعتقد أنها جامدة ومرتبطة بدقة محددة، كانت قوية بشكل مفاجئ؛ فقد تعاملت مع الأحجام المختلفة بشكل جيد، خاصة إذا قمت ببساطة بتغيير حجم صورة الإدخال لتناسب الحجم الذي تدربت عليه الشبكة. ومن ناحية أخرى، فإن نهج "التفاضل" (Differential)، الذي حاول محاكاة رياضيات المشتقات ليكون مستقلاً عن الدقة، جعل الأمور أسوأ، حيث تسبب في عدم استقرار الشبكة وضعف أدائها.
تشير الدراسة إلى أن "سحر" شبكة "U-Net" الكلاسيكية قد يكون أقوى مما كنا نظن. فبينما تعتبر بنيات "المؤثر العصبي" (مثل Spectral U-Net) أنيقة رياضياً ويمكنها التعامل مع دقات مختلفة دون أن تتعطل، إلا أنها غالباً ما تتطلب كميات هائلة من الذاكرة وقوة الحوسبة للعمل. أما "U-Net" الكلاسيكية، رغم كونها نموذجاً "منفصلاً" (discrete) تم تدريبه على أحجام ثابتة، يبدو أنها قادرة على التعميم بشكل جيد بما يكفي للعديد من المهام العملية دون الحاجة إلى حاسوب خارق. خلص المؤلفون إلى أنه بينما يعد منظور "المؤثر العصبي" عدسة نظرية رائعة، فإن "U-Net" البسيطة والقوية قد تظل الأداة الأكثر عملية لإصلاح الصور الضبابية عبر مقاييس مختلفة، بشرما كنا مستعدين لتغيير حجم المدخلات قليلاً. كما أشاروا إلى أن أداء "U-Net" الكلاسيكية تباين كثيراً بين عمليات التدريب المختلفة، مما يشير إلى أنه لا يزال هناك مجال لتحسين كيفية تعليم هذه الشبكات لتكون متسقة.
ملخص تقني: رؤية المشغل العصبي لشبكات U-Net في مشكلات التصوير العكسي
بيان المشكلة حققت الشبكات العصبية العميقة، ولا سيما شبكات U-Net، نجاحاً تجريبياً في حل مشكلات التصوير العكسي سيئة التحديد. ومع ذلك، فإن معظم التطبيقات العملية تتعامل مع عملية التقطيع (الدقة Nf و Nu) كقيم ثابتة، متجاهلة الطبيعة اللانهائية الأبعاد للمشكلة المستمرة. ومع زيادة الدقة، تتحول المشكلات المقطعة من كونها سيئة التحديد (ill-conditioned) إلى سيئة التحديد حقاً (truly ill-posed). السؤال المركزي الذي يتناوله هذا العمل هو كيفية تفسير بنى U-Net المتقطعة من منظور "تعلم المشغل العصبي" (Neural Operator Learning)، والذي يهدف إلى تعلم المشغلات بشكل مستقل عن تقطيع المدخلات. وتحديداً، يبحث المؤلفون فيما إذا كانت البنى ذات الشكل U يمكنها التعميم عبر دقات مختلفة، وكيف يؤثر تفسير الطبقات الالتفافية المختلفة (كمشغلات تكاملية مقابل مشغلات تفاضلية) على هذا التعميم.
المنهجية يحلل المؤلفون ويبنون هياكل U-Net متنوعة بناءً على تفسيرات مختلفة للطبقة الالتفافية:
U-Net الكلاسيكية: البنية القياسية التي تستخدم الالتفافات المتقطعة ذات أحجام النواة الثابتة، وتقليل العينات (downsampling)، وزيادة العينات (upsampling)، والوصلات القافزة (skip connections).
U-Net الطيفية (رؤية المشغل التكاملي): مستوحاة من مشغلات نيورال فوريه (FNO)، يفسر هذا النهج الالتفافات كتقريبات لمشغلات تكاملية. يتم تمثيل النوى عبر معاملاتها في مجال فوريه. تستخدم البنية التفاتات طيفية حيث يتم تغيير حجم النواة لتتطابق مع المدخلات عبر الاستكمال المثلثي (zero-padding في مجال فوريه). تم اختبار نسختين: نسخة بدون تغيير الحجم (طيفية بحتة) ونسخة مع تغيير الحجم المثلثي الصريح.
U-Net التفاضلية: يفسر هذا النهج الالتفافات كمشغلات تفاضلية متقطعة (فروق محدودة). يقترح المؤلفون "طبقة التفافية تفاضلية" تقوم بتوسيع الالتفاف بواسطة مقلوب الخطوة المكانية لتقريب المشتقات. وللحفاظ على القدرة على تقريب مؤثر الوحدة (identity operator)، تم دمج الاتصالات المتبقية مباشرة في تعريف الطبقة.
الاستكمال المحلي: لمعالجة التكلفة العالية للذاكرة في النوى الطيفية الكاملة، يستكشف المؤلفون استكمال النوى المحلية الصغيرة وثابتة الحجم (مثل الاستكمال الثنائي الخطي) لتتطابق مع دقة المدخلات، محاولين الجمع بين المحلية المكانية وتقريب المشغل التكاملي.
البنى المقارنة: تتضمن الدراسة مقارنات مع هياكل مشغل عصبي موجودة، وتحديداً المشغل الالتفافي العصبي (CNO) والمشغل العصبي ذو الشكل U (U-NO).
الإعداد التجريبي يجري المؤلفون تجارب عددية واسعة على مهمتين:
مثال تجريبي أحادي البعد (1D): إزالة الضبابية من إشارة متفرقة. يعمل هذا كبيئة محكومة لاختبار كيفية تأثير استراتيجيات التعامل مع النواة المختلفة (ثابتة، استكمال خطي، استكمال طيفي) على إعادة بناء الإشارات المتفرقة عبر دقات مختلفة.
معالجة ما بعد التصوير المقطعي المحوسب محدود الزاوية (Limited Angle CT): تطبيق تصوير عملي يهدف إلى إزالة آثار التخطيط (streaking artifacts) من عمليات إعادة بناء التصوير المقطعي محدود الزاوية. تم تدريب النماذج على بيانات بدقات محددة (64، 128، 256)، واختبارها على:
نفس الدقة (ثابتة).
دقات غير مرئية (التعميم).
مجموعات تدريب ذات دقات مختلطة.
مدخلات تم تغيير حجمها لتتطابق مع دقة التدريب.
النتائج الرئيسية
U-Net الكلاسيكية: على عكس التوقعات بأن شبكات U-Net القياسية خاصة بدقة معينة، أظهرت U-Net الكلاسيكية متانة مفاجئة تجاه تغير الدقة. وبينما كان الأداء مثالياً عند دقة التدريب، فقد تعمم بشكل جيد إلى دقات أخرى. أدى التدريب على دقات مختلطة إلى تحسين التعميم للدقات المنخفضة ولكنه قلل قليلاً من ذروة الأداء. كما أدى تغيير حجم المدخلات لتتطابق مع دقة التدريب إلى تحسين الأداء بشكل كبير، مما يشير إلى أن البنية ليست مستقلة بطبيعتها عن الدقة ولكنها تستفيد من مواءمة الدقة.
U-Net الطيفية: أظهرت هذه الهياكل استقلالاً قوياً عن الدقة. النماذج التي تم تدريبها على دقة واحدة تعممت جيداً على الدقات الأعلى، لكنها كان أداؤها أسوأ في الدقات الأقل. والأهم من ذلك، أن تغيير حجم المدخلات لتتطابق مع دقة التدريب قلل من الأداء، مما يشير إلى أن التوصيف الطيفي حساس لأخطاء الاستكمال الناتجة عن تغيير الحجم. لم يؤدِ التدريب على دقات مختلطة إلى أي تحسينات.
U-Net التفاضلية: أدت مجرد استبدال الالتفافات القياسية بطبقات تفاضلية دون مزيد من التكيف (مثل العتبة للحالات الحدية) إلى أداء أسوأ بكثير وتدريب غير مستقر. فشلت البنية في التعميم على الدقات غير المرئية، مما يؤكد أن الاستبدال المباشر لا يحقق استقلال الدقة.
CNO و U-NO: أظهرت بنيتا CNO و U-NO أداءً مشابهاً للنسخ الطيفية، لكنهما كانتا مقيدتين بمتطلبات عالية للذاكرة، وفي حالة CNO، بمتطلبات دقة مدخلات ثابتة. أظهر U-NO نمط أداء "متعرج" بين الدقات الزوجية والفردية، وهو ما يعود على الأرجح إلى تفاصيل التنفيذ الخاصة بالالتفافات الطيفية للموترات الحقيقية.
الكفاءة: تطلبت الهياكل الطيفية و CNO/U-NO عدداً أكبر بكثير من المعلمات والذاكرة (ما يصل إلى 10 أضعاف) مقارنة بـ U-Net الكلاسيكية.
الأهمية والادعاءات تساهم الورقة في فهم شبكات U-Net في السياق اللانهائي الأبعاد من خلال سد الفجوة بين التعلم العميق الكلاسيكي ونظرية المشغل العصبي.
استقلال الدقة: وجد المؤلفون أنه بينما صُممت هياكل المشغل العصبي ذات الشكل U لتكون مستقلة عن الدقة، فإن شبكة U-Net الكلاسيكية أكثر متانة تجاه تغير الدقة مما كان متوقعاً. يشير هذا إلى أن نهج التقطيع القياسي قد يمتلك خصائص جوهرية تسمح بالتعميم عبر الدقات دون آليات صريحة لتعلم المشغل.
محدودية الطبقات التفاضلية: توضح الدراسة أن مجرد تفسير الطبقات كمشغلات تفاضلية ليس كافياً لتحقيق استقلال الدقة؛ إذ يتطلب التوسع والتعامل مع التفردات (مثل الحواف) تصاميم معمارية أكثر تطوراً.
المقايضات العملية: تشير النتائج إلى وجود مقايضة بين استقلال الدقة نظرياً في الطرق الطيفية، وبين الكفاءة والمتانة العملية لشبكات U-Net الكلاسيكية. ويخلص المؤلفون إلى أنه بالنسبة للتصوير العكسي العملي، تظل شبكات U-Net الكلاسيكية منافسة، وإذا استُخدمت المشغلات العصبية، فمن الضروري استخدام توصيفات محلية محدودة وأكثر كفاءة (تجمع بين الاستكمال والنوى المحلية) لجعلها قابلة للتنفيذ حاسوبياً.
لا تدعي الورقة حل مشكلة التعميم لجميع مشكلات التصوير العكسي، بل تقدم أدلة تجريبية واستنتاجات نظرية حول كيفية تأثير الاختيارات المعمارية المختلفة على قابلية نقل الدقة في سياق التصوير المقطعي محدود الزاوية وإزالة ضبابية الإشارة.