Provably Safe Generative Sampling with Constricting Barrier Functions

إليك ملخص تقني مفصل لورقة البحث بعنوان "النمذجة الآمنة لعينات التوليد باستخدام دوال الحاجز المضيقة" (Provably Safe Generative Sampling with Constricting Barrier Functions).

1. بيان المشكلة

حققت النماذج التوليدية القائمة على التدفق (مثل نماذج الانتشار - Diffusion Models، ومطابقة التدفق - Flow Matching) أداءً فائقاً في تعلم توزيعات البيانات المعقدة. ومع ذلك، فإن نشرها في المجالات الحرجة للسلامة (مثل الروبوتات، الملاحة الذاتية، والتصوير الطبي) يعوقه غياب الضمانات الرسمية بأن العينات المولدة ستستوفي القيود الصارمة.

• محدودية الطرق الحالية:
  • التوجيه الناعم (القائم على المصنف أو المكافأة): تعمل هذه الطرق كمحفزات احتمالية؛ فهي توجه النموذج نحو المناطق المرغوبة، لكنها لا تضمن استيفاء العينة للقيود بشكل صارم (مثل تجنب الاصطدام أو القوانين الفيزيائية).
  • الطرق القائمة على الإسقاط (Projection-based): تقوم هذه الطرق بإسقاط العينات على فضاء آمن بعد عملية التوليد. ورغم أنها توفر الأمان، إلا أنها غالباً ما تؤدي إلى انزياحات توزيعية كبيرة (تغيير المحتوى الدلالي للصورة أو المسار) وتتطلب جهداً حسابياً عالياً.
• الفجوة: هناك حاجة لإطار عمل يفرض قيوداً صلبة (استيفاء بنسبة 100%) مع تقليل الانزياح التوزيعي عن النموذج الأصلي المدرب مسبقاً، دون الحاجة لإعادة التدريب أو تغيير البنية الهيكلية.

2. المنهجية

يقترح المؤلفون إطار عمل لفلترة السلامة يعمل كـ "درع" آني لأي نموذج توليدي قائم على التدفق مدرب مسبقاً. الجوهر يكمن في التعاون مع عملية التوليد بدلاً من تجاوزها، وذلك باستخدام دوال الحاجز التحكمية (Control Barrier Functions - CBFs).

أ. أنبوب السلامة المضيّق (Constricting Safety Tube)

يقدم الأسلوب "أنبوب سلامة" متغيراً زمنياً $\tilde{C}(t)$ يتطور بالتوازي مع عملية أخذ العينات (التي تعمل في الزمن العكسي من $t=T$ إلى $t=0$):

• الحالة الأولية ($t=T$): يكون الأنبوب مرتخياً للغاية ليشمل توزيع الضجيج الأولي (توزيع غاوسي)، إدراكاً بأن الضجيج الخام قد ينتهك القيود.
• التدرج: مع تقدم عملية أخذ العينات ($t \to 0$)، يضيق الأنبوب تدريجياً (يتقلص).
• الحالة النهائية ($t=0$): ينهار الأنبوب تماماً لينطبق على المجموعة الآمنة المستهدفة $C$.
• الآلية: يحاكي هذا الهيكل "من الخشن إلى الناعم" (coarse-to-fine) للنماذج القائمة على التدفق. يتم تطبيق التدخلات عندما يقوم النموذج بإنشاء الهيكل العام (عند الضجيج العالي)، حيث يكون التدخل "رخيصاً توزيعياً"، ويتم تقليله عندما يقوم النموذج بتنقية التفاصيل الدقيقة (عند الضجيج المنخفض).

ب. تخليق التحكم عبر البرمجة التربيعية (QP)

في كل خطوة من خطوات أخذ العينات، يقوم إطار العمل بتخليق مدخل تحكم تغذية راجعة $u$ لضمان بقاء المسار داخل أنبوب السلامة.

• الديناميكيات: يتم نمذجة عملية أخذ العينات كمعادلة تفاضلية عشوائية (SDE): $dx = [f_\theta(x, t) + u]dt + g(t)dw$.
• شرط دالة الحاجز (CBF): يتم تعريف دالة حاجز متغيرة زمنياً $\tilde{h}(x, t)$. ويتم تخليق التحكم $u$ لاستيفاء شرط الـ CBF للزمن العكسي:
  $$\nabla \tilde{h} \cdot (f_\theta + u + g\xi) + \frac{\partial \tilde{h}}{\partial t} \leq \gamma(\tilde{h})$$
• التحسين: يتم إيجاد التحكم $u$ عن طريق حل برمجة تربيعية محدبة (Convex QP) عند كل خطوة:
  $$\min_u \frac{1}{2}\|u\|^2 \quad \text{بشرط قيد الـ CBF}$$
  يضمن نهج الحد الأدنى من النورم (minimum-norm) أن يكون التدخل أصغر ما يمكن، مما يحافظ على التوزيع المتعلم.

ج. الضمانات النظرية

• النظرية 4.1 (الثبات العكسي): تثبت أنه إذا تم استيفاء شرط الـ CBF في كل خطوة، فإن العينة النهائية $x(0)$ ستكون حتماً داخل المجموعة الآمنة $C$، بغض النظر عن موقع الضجيج الأولي أو كون $C$ محدبة أم لا.
• النظرية 4.2 (الانزياح التوزيعي): تثبت أن التحكم ذو الحد الأدنى من النورم يقلل من المساهمة اللحظية في تباعد كولباك - ليبلر (KL divergence) بين التوزيعات الآمنة والأصلية. يستغل إطار العمل جدول الضجيج $g(t)$: عندما يكون الضجيج عالياً، يكون التحكم رخيصاً؛ وعندما يكون الضجيج منخفضاً، يكون الأنبوب ضيقاً بالفعل، مما يتطلب تصحيحاً طفيفاً.

3. المساهمات الرئيسية

1. أخذ عينات آمن مثبت رياضياً: أول إطار عمل يوفر ضمانات رسمية وحتمية بأن المخرج النهائي لنموذج تدفق مدرب مسبقاً يقع ضمن مجموعة آمنة محددة، دون إعادة تدريب.
2. التوجيه التعاوني: "أنبوب سلامة مضيّق" مبتكر يتوافق مع عملية التوليد من الخشن إلى الناعم، مما يركز فرض القيود في نظام الضجيج العالي لتقليل التشويه الدلالي.
3. النمطية (Modularity): الطريقة هي وحدة برمجية جاهزة للتركيب (plug-and-play) قابلة للتطبيق على أي نموذج تدفق مدرب مسبقاً (Diffusion, Flow Matching) دون الحاجة لتغييرات في البنية الهيكلية.
4. صياغة التحكم الأمثل: توضح أن التحكم بالحد الأدنى من النورم عند كل خطوة يوفر أضيق حد لتباعد التوزيع (KL divergence) بالنسبة لجدول الضجيج المعطى.

4. النتائج التجريبية

تم التحقق من صحة إطار العمل عبر ثلاثة مجالات متميزة باستخدام نماذج مدربة مسبقاً:

• توليد مسارات متسقة فيزيائياً (نظام لورينز - Lorenz System):

  • المهمة: توليد مسارات تلتزم بدقة بمعادلات لورينز التفاضلية.
  • النتيجة: أنتجت نماذج الانتشار غير المقيدة مسارات تبدو منطقية إحصائياً ولكنها غير صحيحة فيزيائياً. حقق النموذج الموجه بـ CBF التزاماً بنسبة 100% بالقوانين الفيزيائية مع الحفاظ على بنية الجاذب الفوضوي الصحيحة. كان جهد التحكم متركزاً في البداية (مرتفع في البداية) ثم تلاشى إلى ما يقارب الصفر مع تقارب المسار.

• توليد الصور المقيدة (DDPM):

  • المهمة: توليد صور لغرف نوم بقيود على مستوى البكسل (مثل نافذة معينة أو شدة لون في منطقة ما).
  • النتيجة: حققت الطريقة استيفاءً بنسبة 100% للقيود (تطابق دقيق للبكسلات في المناطق المقيدة).
  • المقارنة: على عكس طرق الإسقاط (Zampini et al., 2025)، التي تسببت في ظهور عيوب تشبه "الشريط الأسود" ودمرت التماسك الدلالي، حافظ نهج الـ CBF على الأنسجة والإضاءة الواقعية، مما يثبت إمكانية فرض القيود دون التضحية بجودة الصورة.

• التحكم الروبوتي الآمن (سياسة الانتشار - Diffusion Policy):

  • المهمة: توليد تسلسلات حركة سلسة لمهمة روبوت "Push-T"، مع وضع حدود لـ "الارتجاج" (معدل تغير التسارع).
  • النتيجة: انتهكت السياسات غير المقيدة قيود السلاسة بشكل متكرر (12-16 مرة لكل حلقة). حققت السياسة الموجهة بـ CBF صفر انتهاكات مع الحفاظ على نفس مكافأة المهمة (0.92).
  • الكفاءة: كانت التكلفة الحسابية معتدلة (زيادة بنسبة ~34% في وقت الاستدلال)، مما يجعلها ضمن متطلبات حلقة التحكم في الوقت الفعلي.

5. الأهمية والأثر

يسد هذا البحث فجوة حرجة بين القدرة التعبيرية للذكاء الاصفي التوليدي والمتطلبات الصارمة للسلامة في الأنظمة الواقعية.

• النشر في المجالات الحرجة للسلامة: يتيح استخدام النماذج التوليدية القوية في الروبوتات والأنظمة ذاتية القيادة حيث لا مجال للخطأ، موفراً شهادات سلامة حتمية بدلاً من مجرد احتمالات.
• الحفاظ على الدقة: من خلال تقليل الانزياح التوزيعي، يضمن أن فرض السلامة لا يؤدي إلى تدهور الجودة أو المعنى الدلالي للمحتوى المولد.
• العمومية: إطار العمل مستقل عن النموذج ومستقل عن نوع القيود (طالما يمكن تعريف دالة حاجز قابلة للاشتقاق)، مما يجعله أداة متعددة الاستخدامات لتطبيقات الذكاء الاصطناًي الموجهة للسلامة في المستقبل.

المحددات والعمل المستقبلي: تتطلب الطريقة الحالية دالة حاجز قابلة للاشتقاق باستمرار، وهو أمر قد يصعب بناؤه للقيود الدلالية الغامضة (مثل "المحتوى غير اللائق"). يهدف العمل المستقبلي إلى توسيع ذلك ليشمل نماذج الانتشار الكامنة (Latent Diffusion Models) ودمج نماذج ديناميكية متعلمة لسلامة حالة الفضاء (مثل تجنب الاصطدام).