Provably Safe Generative Sampling with Constricting Barrier Functions

यहाँ शोध पत्र "Provably Safe Generative Sampling with Constricting Barrier Functions" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

फ्लो-आधारित जनरेटिव मॉडल (जैसे, डिफ्यूजन मॉडल्स, फ्लो मैचिंग) जटिल डेटा वितरणों को सीखने में अत्याधुनिक प्रदर्शन हासिल कर चुके हैं। हालाँकि, सुरक्षा-महत्वपूर्ण क्षेत्रों (रोबोटिक्स, स्वायत्त नेविगेशन, मेडिकल इमेजिंग) में उनकी तैनाती एक बड़ी बाधा है, क्योंकि यह गारंटी देने के लिए कोई औपचारिक प्रमाण (formal guarantees) नहीं है कि उत्पन्न नमूने (samples) कठिन बाधाओं (hard constraints) को पूरा करेंगे।

• मौजूदा विधियों की सीमाएँ:
  • सॉफ्ट गाइडेंस (क्लासिफायर/रिवॉर्ड-आधारित): ये संभाव्य प्रोत्साहन (probabilistic incentives) के रूप में कार्य करते हैं। वे मॉडल को वांछित क्षेत्रों की ओर झुकाते हैं, लेकिन यह गारंटी नहीं दे सकते कि एक नमूना सख्ती से बाधाओं (जैसे, टकराव से बचना, भौतिक नियम) का पालन करेगा।
  • प्रोजेक्शन-आधारित विधियाँ: ये जनरेशन के बाद नमूनों को एक सुरक्षित मैनिफोल्ड पर प्रोजेक्ट करती हैं। हालांकि ये सुरक्षा प्रदान करती हैं, लेकिन अक्सर ये महत्वपूर्ण वितरण संबंधी बदलाव (distributional shifts) (छवि या प्रक्षेपवक्र के अर्थपूर्ण विषय-वस्तु को बदलना) उत्पन्न करती हैं और उच्च कम्प्यूटेशनल ओवरहेड का कारण बनती हैं।
• अंतराल (The Gap): एक ऐसे फ्रेमवर्क की आवश्यकता है जो मूल प्री-ट्रेन्ड मॉडल को बिना पुन: प्रशिक्षित (retraining) किए या आर्किटेक्चरल बदलाव किए, कठोर बाधाओं (100% संतुष्टि) को लागू करे और मूल मॉडल से वितरण संबंधी बदलाव को न्यूनतम रखे।

2. कार्यप्रणाली (Methodology)

लेखक एक सेफ्टी फिल्टरिंग फ्रेमवर्क प्रस्तावित करते हैं जो किसी भी प्री-ट्रेन्ड फ्लो-आधारित जनरेटिव मॉडल के लिए एक ऑनलाइन "शील्ड" (shield) के रूप में कार्य करता है। मुख्य अंतर्दृष्टि यह है कि जनरेटिव प्रक्रिया को ओवरराइड करने के बजाय उसके साथ सहयोग (cooperate) करना, जिसके लिए कंट्रोल बैरियर फंक्शन्स (CBFs) का उपयोग किया जाता है।

A. संकुचित सुरक्षा ट्यूब (Constricting Safety Tube)

यह विधि एक समय-परिवर्तनीय "सुरक्षा ट्यूब" $\tilde{C}(t)$ पेश करती है जो सैंपलिंग प्रक्रिया (जो रिवर्स टाइम $t=T$ से $t=0$ तक चलती है) के साथ विकसित होती है:

• प्रारंभिक अवस्था ($t=T$): ट्यूब अत्यधिक शिथिल (relaxed) होती है ताकि प्रारंभिक शोर (noise) वितरण (गाऊसी) को समाहित किया जा सके, यह स्वीकार करते हुए कि कच्चा शोर संभवतः बाधाओं का उल्लंघन करेगा।
• प्रगति (Progression): जैसे-जैसे सैंपलिंग आगे बढ़ती है ($t \to 0$), ट्यूब धीरे-धीरे संकुचित (constricts) होती जाती है।
• अंतिम अवस्था ($t=0$): ट्यूब बिल्कुल लक्षित सुरक्षित सेट $C$ पर सिमट जाती है।
• तंत्र (Mechanism): यह फ्लो-आधारित मॉडल्स की "कोर्स-टू-फाइन" (coarse-to-fine) संरचना को दर्शाता है। हस्तक्षेप तब लागू किए जाते हैं जब मॉडल वैश्विक संरचना स्थापित कर रहा होता है (उच्च शोर), जहाँ वे "वितरण संबंधी रूप से सस्ते" होते हैं, और जब मॉडल सूक्ष्म विवरणों को परिष्कृत कर रहा होता है (कम शोर) तो उन्हें न्यूनतम कर दिया जाता है।

B. क्वाड्रेटिक प्रोग्रामिंग (QP) के माध्यम से नियंत्रण संश्लेषण

प्रत्येक सैंपलिंग चरण में, फ्रेमवर्क एक फीडबैक कंट्रोल इनपुट $u$ को संश्लेषित करता है ताकि यह सुनिश्चित हो सके कि प्रक्षेपवक्र (trajectory) सुरक्षा ट्यूब के भीतर रहे।

• डायनेमिक्स: सैंपलिंग प्रक्रिया को एक स्टोकेस्टिक डिफरेंशियल इक्वेशन (SDE) के रूप में मॉडल किया गया है: $dx = [f_\theta(x, t) + u]dt + g(t)dw$।
• CBF स्थिति: एक समय-परिवर्तनीय बैरियर फंक्शन $\tilde{h}(x, t)$ को परिभाषित किया गया है। नियंत्रण $u$ को रिवर्स-टाइम CBF स्थिति को संतुष्ट करने के लिए संश्लेषित किया जाता है:
  $$\nabla \tilde{h} \cdot (f_\theta + u + g\xi) + \frac{\partial \tilde{h}}{\partial t} \leq \gamma(\tilde{h})$$
• अनुकूलन (Optimization): नियंत्रण $u$ को हर चरण पर एक कॉन्वेक्स क्वाड्रेटिक प्रोग्राम (QP) को हल करके प्राप्त किया जाता है:
  $$\min_u \frac{1}{2}\|u\|^2 \quad \text{s.t. CBF constraint}$$
  यह मिनिमम-नॉर्म दृष्टिकोण यह सुनिश्चित करता है कि हस्तक्षेप जितना संभव हो उतना छोटा हो, जिससे सीखा गया वितरण सुरक्षित रहे।

C. सैद्धांतिक गारंटी (Theoretical Guarantees)

• थ्योरम 4.1 (रिवर्स इनवेरिएंस): यह सिद्ध करता है कि यदि प्रत्येक चरण पर CBF स्थिति संतुष्ट होती है, तो अंतिम नमूना $x(0)$ सुरक्षित सेट $C$ में होगा, चाहे प्रारंभिक शोर का स्थान या $C$ की उत्तलता (convexity) कुछ भी हो।
• थ्योरम 4.2 (वितरण संबंधी बदलाव): यह सिद्ध करता है कि मिनिमम-नॉर्म कंट्रोल, सुरक्षित और मूल वितरणों के बीच कुलबैक-लीब्लर (KL) डाइवर्जेंस में तात्कालिक योगदान को न्यूनतम करता है। फ्रेमवर्क शोर शेड्यूल $g(t)$ का लाभ उठाता है: जब शोर अधिक होता है, तो नियंत्रण सस्ता होता है; जब शोर कम होता है, तो ट्यूब पहले से ही तंग होती है, जिससे न्यूनतम सुधार की आवश्यकता होती है।

3. प्रमुख योगदान (Key Contributions)

1. प्रमाणित सुरक्षित सैंपलिंग (Provably Safe Sampling): प्री-ट्रेन्ड फ्लो-आधारित मॉडल के आउटपुट के लिए औपचारिक, नियत (deterministic) गारंटी प्रदान करने वाला पहला फ्रेमवर्क, जो बिना पुन: प्रशिक्षण के एक निर्दिष्ट सुरक्षित सेट के भीतर रहता है।
2. सहकारी मार्गदर्शन (Cooperative Guidance): एक अभिनव "संकुचित सुरक्षा ट्यूब" जो कोर्स-टू-फाइन जनरेशन प्रक्रिया के साथ संरेखित होती है, जो वितरण संबंधी विकृति को कम करने के लिए उच्च-शोर शासन (high-noise regime) में बाधा प्रवर्तन को केंद्रित करती है।
3. मॉड्यूलरिटी (Modularity): यह विधि एक प्लग-एंड-प्ले मॉड्यूल है जो किसी भी प्री-ट्रेन्ड फ्लो-आधारित मॉडल (डिफ्यूजन, फ्लो मैचिंग) पर लागू होती है, जिसमें किसी आर्किटेक्चरल परिवर्तन की आवश्यकता नहीं है।
4. इष्टतम नियंत्रण सूत्रीकरण (Optimal Control Formulation): यह प्रदर्शित करता है कि प्रत्येक चरण पर ग्रीडी मिनिमम-नॉर्म कंट्रोल, दिए गए शोर शेड्यूल के लिए वितरण संबंधी बदलाव (KL डाइवर्जेंस) पर सबसे कड़ा बंधन प्रदान करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

फ्रेमवर्क को ऑफ-द-शेल्फ प्री-ट्रेन्ड मॉडल्स का उपयोग करके तीन अलग-अलग डोमेन में मान्य किया गया:

• भौतिकी-संगत प्रक्षेपवक्र जनरेशन (Lorenz System):

  • कार्य: ऐसे प्रक्षेपवक्र उत्पन्न करना जो लोरेन्ज़ डिफरेंशियल इक्वेशंस का सख्ती से पालन करते हैं।
  • परिणाम: अनकन्स्ट्रेंड डिफ्यूजन मॉडल्स सांख्यिकीय रूप से प्रशंसनीय लेकिन भौतिक रूप से गलत प्रक्षेपवط (trajectories) उत्पन्न करते हैं। CBF-गाइडेड मॉडल ने सही अराजक अट्रैक्टर (chaotic attractor) संरचना बनाए रखते हुए भौतिक नियमों के प्रति 100% अनुपालन प्राप्त किया। नियंत्रण प्रयास (control effort) शुरुआत में अधिक था और प्रक्षेपवक्र के अभिसरण (convergence) के साथ शून्य के करीब गिर गया।

• प्रतिबंधित छवि जनरेशन (DDPM):

  • कार्य: विशिष्ट पिक्सेल-स्तरीय बाधाओं (जैसे, एक विशिष्ट विंडो पैच या क्षेत्र में रंग की तीव्रता) के साथ बेडरूम की छवियां उत्पन्न करना।
  • परिणाम: विधि ने 100% बाधा संतुष्टि (प्रतिबंधित क्षेत्रों में सटीक पिक्सेल मिलान) प्राप्त की।
  • तुलना: प्रोजेक्शन-आधारित विधियों (Zampini et al., 2025) के विपरीत, जो "ब्लैक-टेप" आर्टिफैक्ट्स पैदा करती हैं और सिमेंटिक सामंजस्य को नष्ट कर देती हैं, CBF दृष्टिकोण ने यथार्थवादी बनावट और प्रकाश व्यवस्था को बनाए रखा, जिससे सिद्ध हुआ कि छवि गुणवत्ता से समझौता किए बिना बाधाओं को लागू किया जा सकता है।

• सुरक्षित रोबोटिक हेरफेर (Diffusion Policy):

  • कार्य: "पुश-टी" (Push-T) रोबोट कार्य के लिए सुचारू एक्शन सीक्वेंस उत्पन्न करना, जो "जर्क" (त्वरण के परिवर्तन की दर) को सीमित करता है।
  • परिणाम: अनकन्स्ट्रेंड पॉलिसीज ने बार-बार स्मूथनेस बाधाओं का उल्लंघन किया (प्रति एपिसोड 12-16 बार)। CBF-गाइडेड पॉलिसी ने समान कार्य रिवॉर्ड (0.92) बनाए रखते हुए शून्य उल्लंघन प्राप्त किया।
  • दक्षता: कम्प्यूटेशनल ओवरहेड मामूली था (~34% इन्फरेंस समय में वृद्धि), जो रियल-टाइम कंट्रोल लूप आवश्यकताओं के भीतर बना रहा।

5. महत्व और प्रभाव (Significance and Impact)

यह शोध पत्र जनरेटिव AI की अभिव्यंजक शक्ति और वास्तविक दुनिया की प्रणालियों की कठोर सुरक्षा आवश्यकताओं के बीच एक महत्वपूर्ण अंतर को पाटता है।

• सुरक्षा-महत्वपूर्ण तैनाती (Safety-Critical Deployment): यह रोबोटिक्स और स्वायत्त प्रणालियों में शक्तिशाली जनरेटिव मॉडल्स के उपयोग को सक्षम बनाता है जहाँ विफलता की कोई गुंजाइश नहीं है, जो केवल संभाव्य उम्मीदों के बजाय नियत सुरक्षा प्रमाण (deterministic safety certificates) प्रदान करता है।
• फिडेलिटी का संरक्षण (Preservation of Fidelity): वितरण संबंधी बदलाव को न्यूनतम करके, यह सुनिश्चित करता है कि सुरक्षा प्रवर्तन जनरेट की गई सामग्री की गुणवत्ता या अर्थपूर्ण विषय-वस्तु को कम न करे।
• सामान्यीकरण (Generalizability): यह फ्रेमवर्क मॉडल-अज्ञेय (model-agnostic) और बाधा-अज्ञेय (constraint-agnostic) है (जब तक कि एक डिफरेंशिएबल बैरियर फंक्शन परिभाषित किया जा सके), जो इसे भविष्य के सुरक्षा-महत्वपूर्ण AI अनुप्रयोगों के लिए एक बहुमुखी उपकरण बनाता है।

सीमाएँ और भविष्य का कार्य: वर्तमान विधि के लिए एक निरंतर डिफरेंशिएबल बैरियर फंक्शन की आवश्यकता होती है, जिसे अस्पष्ट सिमेंटिक बाधाओं (जैसे, "कोई आपत्तिजनक सामग्री नहीं") के लिए बनाना कठिन हो सकता है। भविष्य के कार्यों में इसे लेटेंट डिफ्यूजन मॉडल्स तक विस्तारित करने और स्टेट-स्पेस सुरक्षा (जैसे, टकराव से बचना) के लिए सीखे गए डायनेमिक्स मॉडल्स को शामिल करने का लक्ष्य है।