Active Learning for Conditional Generative Compressed Sensing

بيان المشكلة
يعمل الاستشعار المضغوط التوليدي (GCS) على استعادة الإشارات المهيكلة من القياسات ناقصة العينات عبر افتراض أن الإشارة تقع بالقرب من نطاق نموذج توليدي مدرب مسبقاً $G$. وبينما تضع النظريات الحالية ضمانات استعادة للنماذج غير المشروطة تحت قياسات غاوسية، فإن التطبيقات العملية غالباً ما تتضمن تحويلات موحدة فرعية مهيكلة (مثل قياسات فوريه في التصوير بالرنين المغناطيسي)، وتمتلك معلومات مساعدة متاحة عند الاستحواذ أو الاستدلال. تعالج هذه الورقة الفجوة في الاستشعار المضغوط التوليدي المشروط، حيث يكون النموذج التوليدي مشروطاً بمطالبات (prompts) (مثل الأوصاف النصية، أو البيانات الوصفية). ويتمثل التحدي الجوهري في أن التكييف يؤدي إلى تفاعل ثلاثي الأطراف: المطالبة التي تحدد الإشارة الحقيقية ($c^*$)، والمطالبة المستخدمة لتصميم توزيع أخذ العينات ($c_s$)، والمطالبة المستخدمة لتحديد نموذج الاستعادة ($c_r$). إن عدم التطابق بين هذه المطالبات يمكن أن يؤدي إلى استراتيجيات أخذ عينات دون المستوى الأمثل أو عمليات إعادة بناء منحازة، ومع ذلك، تعامل الأطر الحالية التكييف كعنصر سابق ثابت بدلاً من كونه متغيراً تصميمياً ديناميكياً لكل من الاستشعار والاستعادة.

المنهجية
يصيغ المؤلفون إطاراً لـ التعلم النشط المشروط بالمطالبات تحت قياسات فوريه فرعية، مع تكييف نهج "أخذ عينات كريستوفيل للتعلم الآلي" (CS4ML).

1. فئات النماذج المشروطة بالمطالبات: يتم تعريف فضاء الإشارة بواسطة مولد مشروط $G(z, c)$، حيث $z$ هو متجه كامن و $c$ هي مطالبة. ويميز المؤلفون بين ثلاث مطالبات:

   • $c^*$: مطالبة الإشارة الحقيقية (إذا كان $f^* \in F_{c^*}$).
   • $c_r$: مطالبة الاستعادة التي تحدد المجموعة المرشحة $F_{c_r}$.
   • $c_s$: مطالبة أخذ العينات المستخدمة لبناء توزيع أخذ العينات $\mu_{c_s}$.

2. عامل توافق المطالبات ($\Lambda$): لقياس التفاعل بين هذه المطالبات، يعرّف المؤلفون عامل توافق المطالبات:
   $$\Lambda(c_1, c_2, c_3) = \max_{i \in D} \frac{K(F_{c_1} - F_{c_2})(i)}{\mu_{c_3}(i)}$$
   حيث $K$ هي دالة كريستوفيل المعممة التي تقيس "مدى المعلوماتية" لإحداثيات فوريه للتمييز بين الإشارات في فئة معينة، و $\mu$ هو توزيع أخذ العينات.

   • $\Lambda(c_r, c_r, c_s)$ يتحكم في تعقيد العينات المطلوب لاستعادة مستقرة.
   • $\Lambda(c^*, c_r, c_s)$ يتحكم في خطأ إعادة البناء (خطأ التقريب) عندما لا تتطابق المطالبة الحقيقية مع مطالبة الاستعادة.

3. التحليل النظري: تشتق الورقة حدود تعقيد العينات لفئتين من المولدات المشروطة:

   • شبكات ReLU: بافتراض شبكة تغذية أمامية ReLU خالية من الانحياز وبعمق $d$.
   • المولدات Lipschitz: بافتراض أن المولد هو $L$-Lipschitz على الكرة الكامنة.
     في كلتا الحالتين، تظهر الحدود أن عدد القياسات $m$ يتناسب مع $\Lambda$، وتعقيد المولد (مثل العرض/العمق لـ ReLU، أو ثابت Lipschitz $L$)، والحد الأدنى لاحتمالية أخذ العينات $\mu$.

4. ضمانات الاستعادة: تحت شرط القيمة الذاتية المقيدة بالمجموعة (S-REC)، يثبت المؤلفون أن خطأ إعادة البناء محدود بأفضل خطأ تقريب في فئة الاستعادة، مضافاً إليه $\sqrt{\Lambda(c^*, c_r, c_s)}$، بالإضافة إلى حدود للضوضاء وخطأ التحسين.

المساهمات الرئيسية

• الصياغة: إطار عمل موحد للاستشعار المضغوط التوليدي المشروط بالمطالبات يفصل صراحةً بين أدوار المطالبات في تصميم أخذ العينات ونمذجة الاستعادة.
• المقياس النظري: تقديم عامل توافق المطالبات $\Lambda$، الذي يوحد تحليل عدم التطابق بين أخذ العينات والاستعادة، وعدم التطابق بين الإشارة والاستعادة في إحصائية واحدة تحكم كلاً من تعقيد العينات وحدود الخطأ.
• حدود تعقيد العينات: حدود صريحة للمولدات المشروطة من نوع ReLU وLipschitz، مما يوضح أن عدم تطابق المطالبات يترتب عليه عقوبة (زيادة في تعقيد العينات) تتناسب مع التباعد بين هندسة أخذ العينات وهندسة الاستعادة.
• التحقق التجريبي: تُظهر التجارب باستخدام Stable Diffusion 1.5 (SD15) أن:
  • المطالبات تعيد تشكيل توزيعات أخذ عينات كريستوفيل بشكل ملموس (تركيز الكتلة على ترددات فوريه مختلفة).
  • عدم التطابق بين مطالبات أخذ العينات والاستعادة ($c_s \neq c_r$) يزيد من عامل التوافق $\Lambda$.
  • أداء إعادة البناء حساس لهذه الاختلافات، رغم أن المؤلفين يشيرون إلى أن الاستعادة غير المشروطة ($c_r = \text{""}$) غالباً ما أدت أداءً قوياً في إعدادهم التجريبي المحدد، ربما بسبب مرونة النموذج غير المشروط أو ديناميكيات التحسين المحددة.

النتائج

• نظرياً: تثبت الورقة أن الاستعادة المستقرة ممكنة باحتمالية عالية إذا كان عدد القياسات يتناسب مع $\Lambda(c_r, c_r, c_s)$. إذا كانت $c_s = c_r$، فإن $\Lambda$ يتقلص إلى ثابت تعقيد كريستوفيل القياسي. إذا كانت $c_s \neq c_r$، يمكن أن ينمو $\Lambda$، مما يعكس الحاجة إلى عينات أكثر لالتقاط ميزات الإشارة ذات الصلة بـ $c_r$ والتي تكون ممثلة تمثيلاً ناقصاً في أخذ العينات القائم على $c_s$.
• تجريبياً:
  • توزيعات أخذ العينات: تحفز المطالبات المختلفة (مثل "sunset beach" مقابل "cat") توزيعات أخذ عينات متميزة، حيث تقلل الأزواج المتطابقة من قيمة $\Lambda$.
  • إعادة البناء: في تجارب "داخل النطاق" (حيث يتم توليد الإشارة الحقيقية بواسطة النموذج)، أدى أخذ العينات باستخدام مطالبة مشابهة دلالياً ($c_s$ قريبة من $c^*$) إلى تحسين PSNR و SSIM مقارنة بالمطالبات غير المتطابقة.
  • تجربة استئصال CFG: وجد المؤلفون أن قيم Classifier-Free Guidance (CFG) العالية (مثل 7.5) قيدت المولد بقوة شديدة، مما أدى إلى أداء إعادة بناء أسوأ مقارنة بقيم CFG المنخفضة (مثل 1)، مما يشير إلى أن "فئة الاستعادة الفعلية" تعتمد بشدة على المعلمات الفائقة (hyperparameters).

الأهمية والادعاءات
تدعي الورقة ضرورة معاملة المطالبات كمتغيرات تصميم لها تأثيرات متميزة على الاستشعار (توزيع أخذ العينات)، والتقريب (فئة الاستعادة)، والتفاعل بينهما. تكمن الأهمية الأساسية في توسيع نظرية GCS إلى الإعدادات المشروطة، وإظهار أن:

1. التعلم النشط يعتمد على المطالبة: تعتمد استراتيجية أخذ العينات المثلى على المطالبة المحددة المستخدمة للاستعادة، وليس فقط على فئة الإشارة.
2. عقوبات عدم التطابق: هناك تكلفة نظرية صريحة (من حيث تعقيد العينات وتضخيم الخطأ) عندما لا تتوافق مطالبة أخذ العينات مع مطالبة الاستعادة.
3. الآثار العملية: بينما تفترض النظرية وجود مولدات مثالية، تشير التجارب مع Stable Diffusion إلى أن تكييف المطالبة يمكن أن يغير بشكل جوهري توزيعات أخذ العينات المستحثة ويؤثر على جودة إعادة البناء، وإن كان التفاعل مع معلمات التحسين (مثل CFG) معقداً.

يشير المؤلفون بتواضع إلى أن نظريتهم تنطبق على فئات المولدات المثالية (ReLU/Lipschitz)، وأن نماذج الانتشار الحديثة هي تجريدات معقدة لهذه الفئات. ويقترحون أن العمل المستقبلي يجب أن يستقصي النسخ القائمة على التباعد من $\Lambda$ ويحدد بشكل أفضل ثوابت Lipschitz الفعلية لنماذج الانتشار العملية تحت مقاييس CFG المختلفة.