⚡ electrical engineering

Activation Steering of Video Generation Models via Reduced-Order Linear Optimal Control

यह शोध पत्र LA-LQR पेश करता है, जो एक रिड्यूस्ड-ऑर्डर ऑप्टिमल कंट्रोल फ्रेमवर्क है जो विजुअल क्वालिटी और प्रॉम्प्ट फिडेलिटी को बनाए रखते हुए हानिकारक कंटेंट को प्रभावी ढंग से दबाने के लिए एक लो-डायमेंशनल लेटेंट स्पेस में क्लोज्ड-लूप फीडबैक इंटरवेंशन की गणना करके टेक्स्ट-टू-वीडियो जनरेशन मॉडल्स को निर्देशित करता है।

मूल लेखक: Jihoon Hong, Alice Chan, Qiyue Dai, Julian Skifstad, Glen Chou

प्रकाशित 2026-06-04

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jihoon Hong, Alice Chan, Qiyue Dai, Julian Skifstad, Glen Chou

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली लेकिन थोड़ा लापरवाह वीडियो बनाने वाला रोबोट है। आप उसे एक टेक्स्ट विवरण देते हैं, और वह एक वीडियो बनाता है। क्योंकि इस रोबोट ने पूरे इंटरनेट से सीखा है, इसलिए यह कभी-कभी अनजाने में वे चीजें शामिल कर देता है जो आप नहीं चाहते थे—जैसे हिंसा, नग्नता, या कॉपीराइट वाले पात्र।

इस शोध पत्र के लेखक, LA-LQR, इस रोबोट के लिए एक नए प्रकार के "रिमोट कंट्रोल" की तरह हैं। रोबोट को फिर से प्रशिक्षित (retrain) करने के बजाय (जिसमें बहुत समय लगता है और भारी लागत आती है) या केवल बुरे शब्दों को ब्लॉक करने के बजाय (जिसे स्मार्ट उपयोगकर्ता आसानी से चकमा दे सकते हैं), उन्होंने यह पता लगाया कि वीडियो को एक सुरक्षित परिणाम की ओर मोड़ने के लिए रोबोट के सोचने के दौरान उसके दिमाग को धीरे से कैसे निर्देशित किया जाए, ताकि गुणवत्ता खराब न हो।

यहाँ बताया गया है कि उन्होंने इसे कैसे किया, सरल अवधारणाओं में विभाजित करके:

1. समस्या: रोबोट का "दिमाग" बहुत बड़ा है

रोबोट की आंतरिक सोचने की प्रक्रिया (जिसे "activations" कहा जाता है) विशाल है। कल्पना कीजिए कि वीडियो के हर एक फ्रेम के लिए रोबोट के दिमाग में 8.7 करोड़ अलग-अलग न्यूरॉन्स एक साथ सक्रिय होते हैं।

पुराने तरीके पूरे 8.7 करोड़ न्यूरॉन्स के दिमाग को एक साथ नियंत्रित करने की कोशिश करते थे। यह एक विशाल समुद्री जहाज को उसके हल (hull) पर एक साथ हर एक रिवेट (rivet) पर धक्का देकर मोड़ने की कोशिश करने जैसा है। यह गणनात्मक रूप से असंभव है और अक्सर रोबोट को भ्रमित कर देता है, जिससे ग्लिच वाले, टूटे-फूटे वीडियो बनते हैं।
LA-LQR दृष्टिकोण कहता है: "हमें पूरे दिमाग को नियंत्रित करने की आवश्यकता नहीं है। हमें केवल उन विशिष्ट कुछ न्यूरॉन्स को नियंत्रित करने की आवश्यकता है जो यह तय करते हैं कि वीडियो 'सुरक्षित' है या 'असुरक्षित'।"

2. समाधान: एक छोटे से कमरे में "स्टीयरिंग व्हील" खोजना

शोधकर्ताओं ने महसूस किया कि भले ही रोबोट का दिमाग बहुत बड़ा है, लेकिन "सुरक्षा" (या "लाल रंग", या "कोई हिंसा नहीं") की विशिष्ट अवधारणा उस दिमाग के एक बहुत ही छोटे, कम-आयामी (low-dimensional) कोने में रहती है।

उपमा: एक विशाल पुस्तकालय की कल्पना करें जिसमें लाखों किताबें हैं (पूरा दिमाग)। आप "सुरक्षा" के बारे में एक विशिष्ट वाक्य खोज रहे हैं। आपको हर किताब पढ़ने की आवश्यकता नहीं है; आपको बस उस एक विशिष्ट शेल्फ को खोजने की आवश्यकता है जहाँ वह वाक्य मौजूद है।
उन्होंने यह कैसे किया: उन्होंने रोबमाट को प्रॉम्प्ट के जोड़े दिखाए: एक जिसमें बुरी चीज़ है (जैसे, "एक नग्न व्यक्ति") और एक जिसमें वह नहीं है (जैसे, "एक कपड़े पहना हुआ व्यक्ति")। इन दोनों के लिए रोबोट की मस्तिष्क गतिविधि की तुलना करके, उन्होंने "डिफरेंस वेक्टर" (difference vector) खोज निकाला—मस्तिष्क में वह विशिष्ट दिशा जो सुरक्षा को खतरे से अलग करती है। फिर उन्होंने उस दिशा के लिए ही एक छोटा, कुशल मानचित्र (एक "लेटेंट सबस्पेस") बनाया।

3. इंजन: "सेल्फ-करेक्टिंग क्रूज कंट्रोल"

एक बार जब उन्हें यह छोटा "स्टीयरिंग व्हील" मिल गया, तो उन्हें इसे बिना अधिक किए घुमाने के तरीके की आवश्यकता थी।

पुराना तरीका: कुछ तरीके बस स्टीयरिंग व्हील को एक दिशा में पूरी ताकत से धकेल देते हैं। यह कार चलाने और थोड़ा सा रास्ता भटकने पर अचानक ब्रेक मारने जैसा है; आप बेकाबू होकर इधर-उधर झूलने लगते हैं या दुर्घटनाग्रस्त हो जाते हैं (इसे "ओवर-स्टीयरिंग" कहा जाता है, और यह वीडियो को खराब कर देता है)।
LA-LQR का तरीका: उन्होंने Linear-Quadratic Regulator (LQR) नामक एक गणितीय ढांचे का उपयोग किया। इसे वीडियो के लिए एक सेल्फ-करेक्टिंग क्रूज कंट्रोल सिस्टम के रूप में समझें।
- यह लगातार जाँचता है: "क्या हम सुरक्षित पथ पर हैं?"
- यदि रोबोट खतरे की ओर बढ़ने लगता है, तो सिस्टम उसे वापस लाने के लिए एक छोटा, सटीक धक्का (nudge) लगाता है।
- यदि रोबोट पहले से ही सही दिशा में जा रहा है, तो सिस्टम कुछ नहीं करता है।
- यह सुनिश्चित करता है कि वीडियो सुरक्षित रहे और आपकी कहानी या प्रॉम्प्ट में कोई बदलाव या अजीब ग्लिच न आए।

4. परिणाम: सुरक्षित वीडियो, कोई ग्लिच नहीं

टीम ने दो शक्तिशाली वीडियो मॉडल (Wan2.1 और HunyuanVideo) पर इसका परीक्षण किया।

सुरक्षा: उन्होंने रोबोट को हिंसा, अश्लीलता, या खतरनाक कृत्यों को उत्पन्न करने के लिए डिज़ाइन किए गए प्रॉम्प्ट दिए। LA-LQR सिस्टम ने बुरी सामग्री को दिखाई देने से सफलतापूर्वक रोक दिया।
गुणवत्ता: महत्वपूर्ण बात यह है कि वीडियो अभी भी शानदार दिखे। पात्र सुचारू रूप से चलते थे, लाइटिंग अच्छी थी, और कहानी प्रॉम्प्ट से मेल खाती थी।
तुलना: अन्य तरीकों ने या तो बुरी सामग्री को रोकने में विफलता दिखाई, या उन्होंने इसे वीडियो को एक टूटे-फूटे, ग्लिच वाले मलबे में बदलकर रोका। LA-LQR दोनों काम करने में सक्षम रहा: बुरी चीजों को रोका और वीडियो को उच्च-गुणवत्ता वाला बनाए रखा।

सारांश

संक्षेप में, LA-LQR एक स्मार्ट, हल्का "नज" (nudge) सिस्टम है। यह वीडियो मॉडल के दिमाग के लाखों अप्रासंगिक विवरणों को अनदेखा करता है, सुरक्षा को नियंत्रित करने वाले कुछ छोटे लीवर को खोजता है, और वीडियो को खतरे से दूर ले जाने के लिए एक गणितीय क्रूज कंट्रोल का उपयोग करता है, जिससे यह सुनिश्चित होता है कि अंतिम परिणाम सुरक्षित और सुंदर दोनों हो।

तकनीकी सारांश: रिड्यूस्ड-ऑर्डर लीनियर ऑप्टिमल कंट्रोल के माध्यम से वीडियो जनरेशन मॉडल्स का एक्टिवेशन स्टीयरिंग

समस्या विवरण

बड़े पैमाने पर वेब डेटा पर प्रशिक्षित टेक्स्ट-टू-वीडियो (T2V) मॉडल अक्सर अवांछित अवधारणाओं (concepts) को विरासत में प्राप्त कर लेते हैं, जिसमें नग्नता, ग्राफिक हिंसा, कॉपीराइट सामग्री और सार्वजनिक हस्तियों का चित्रण शामिल है। ये सुरक्षा जोखिम ऐसे हस्तक्षेपों की आवश्यकता पैदा करते हैं जो दृश्य गुणवत्ता या प्रॉम्प्ट फिडेलिटी (prompt fidelity) से समझौता किए बिना आउटपुट को नियंत्रित करते हैं। मौजूदा शमन रणनीतियाँ (mitigation strategies) महत्वपूर्ण सीमाओं का सामना करती हैं:

फाइनट्यूनिंग (Finetuning) के लिए व्यापक प्रशिक्षण संसाधनों की आवश्यकता होती है।
मॉडल एडिटिंग (Model editing) (वेट मॉडिफिकेशन) आउटपुट की गुणवत्ता को कम कर सकता है और अप्रत्याशित व्यवहार उत्पन्न कर सकता है।
प्रॉम्प्ट फिल्टरिंग (Prompt filtering) जेलब्रेक्स और इनडायरेक्ट प्रॉम्प्ट्स के प्रति संवेदनशील है।
मौजूदा एक्टिवेशन स्टीयरिंग विधियाँ आमतौर पर नॉन-एंटीसिपेटिव (non-anticipative) होती हैं, जो फिक्स्ड या मायोपिक (myopic) हस्तक्षेप लागू करती हैं जो यह ध्यान रखने में विफल रहती हैं कि गड़बड़ी (perturbations) मॉडल के माध्यम से कैसे प्रसारित होती है। इससे अक्सर ओवर-स्टीयरिंग, कंटेंट डिग्रेडेशन, या एडवर्सरियल प्रॉम्प्ट्स के प्रति संवेदनशीलता होती है।

इसके अलावा, T2V मॉडल्स के उच्च-आयामी (high-dimensional) एक्टिवेशन स्पेस (जो 80 मिलियन आयामों से अधिक हो सकते हैं) पर सीधे ऑप्टिमल कंट्रोल लागू करना कम्प्यूटेशनल रूप से अव्यवहार्य है, क्योंकि इसके लिए फुल-स्पेस जैकोबियन मैट्रिसेस (Jacobian matrices) के लिए पेटाबाइट्स मेमोरी की आवश्यकता होती है।

कार्यप्रणाली: LA-LQR

लेखक लेटेंट एक्टिवेशन लीनियर-क्वाड्रेटिक रेगुलेटर (LA-LQR) का प्रस्ताव करते हैं, जो एक रिड्यूस्ड-ऑर्डर ऑप्टिमल कंट्रोल फ्रेमवर्क है जिसे न्यूनतम दखल देने वाले (minimally invasive) T2V स्टीयरिंग के लिए डिज़ाइन किया गया है। यह विधि T2V इन्फरेंस को एक डायनेमिकल सिस्टम के रूप में औपचारिक रूप देती है और क्लोज्ड-लूप फीडबैक हस्तक्षेपों की गणना करती है।

1. T2V को डायनेमिकल सिस्टम के रूप में औपचारिक रूप देना

T2V जनरेशन प्रक्रिया (डिफ्यूजन ट्रांसफॉर्मर, या DiTs पर आधारित) को एक फिक्स्ड-होरिज़न डायनेमिकल सिस्टम के रूप में पुनर्गठित किया गया है जहाँ आंतरिक एक्टिवेशन 'स्टेट्स' के रूप में कार्य करते हैं। सिस्टम डिफ्यूजन टाइमस्टेप्स $t \in [T]$ और ट्रांसफॉर्मर लेयर्स $l \in [L]$ पर विकसित होता है। स्टेट ट्रांजिशन मॉडल के वेट्स और आर्किटेक्चर द्वारा शासित होता है, जिसमें स्टीयरिंग सिग्नल्स वीडियो-टोकन एक्टिवेशन या टेक्स्ट-एम्बेडिंग्स पर लागू किए गए कंट्रोल इनपुट्स ( $u_s$ ) के रूप में कार्य करते हैं।

2. रिड्यूस्ड-ऑर्डर लेटेंट स्पेस कंस्ट्रक्शन

नियंत्रण को व्यवहार्य बनाने के लिए, LA-LQR उच्च-आयामी रॉ एक्टिवेशंस ( $x \in \mathbb{R}^{D_{act}}$ ) को एक निम्न-आयामी, कार्य-प्रासंगिक लेटेंट सबस्पेस ( $z \in \mathbb{R}^{D_{lat}}$ ) पर प्रोजेक्ट करता है, जहाँ $D_{lat} \ll D_{act}$ है।

कॉन्ट्रास्टिव बेसिस (Contrastive Basis): यह सबस्पेस कॉन्ट्रास्टिव प्रॉम्प्ट पेयर्स ( $D^+$ जिसमें लक्षित फीचर है, $D^-$ जिसके बिना वह फीचर है) से प्राप्त किया जाता है।
रैंडमाइज्ड SVD: लेखक बड़े जैकोबियन मैट्रिसेस को भौतिक रूप से प्रस्तुत किए बिना प्रमुख फीचर दिशाओं की पहचान करने के लिए इन प्रॉम्प्ट पेयर्स के डिफरेंस वेक्टर्स पर स्ट्रीमिंग रैंडमाइज्ड सिंगुलर वैल्यू डीकंपोजिशन (SVD) का उपयोग करते हैं।
प्रोजेक्शन: एक्टिवेशंस को इस बेसिस ( $P_s$ ) पर प्रोजेक्ट किया जाता है, और स्थानीय लीनियर डायनेमिक्स का अनुमान जैकोबियन-वेक्टर प्रोडक्ट्स (JVP) का उपयोग करके इस लेटेंट स्पेस में लगाया जाता है।

3. लेटेंट लीनियर फीचर सेटपॉइंट्स (LLFS)

लेटेंट स्पेस के भीतर, विधि वांछित फीचर स्ट्रेंथ का प्रतिनिधित्व करने वाला एक लेटेंट लीनियर फीचर सेटपॉइंट (LLFS) परिभाषित करती है।

एक फीचर दिशा $v^z_s$ को प्रोजेक्टेड कॉन्ट्रास्टिव वेक्टर्स के औसत द्वारा कंप्यूट किया जाता है।
एक टारगेट स्ट्रेंथ $\beta^*_s$ को हाइपरपैरामीटर $\lambda$ के माध्यम से सेट किया जाता है।
ट्रैकिंग एरर $\alpha_s$ को लक्षित स्ट्रेंथ और वर्तमान प्रोजेक्टेड फीचर स्ट्रेंथ के बीच के अंतर के रूप में गणना की जाती है।

4. LQR के माध्यम से ऑप्टिमल कंट्रोल

LA-LQR लेटेंट स्पेस में एक लीनियर-क्वाड्रेटिक रेगुलेटर (LQR) समस्या को हल करता है ताकि इष्टतम कंट्रोल सिग्नल $u^*_s$ निर्धारित किया जा सके।

उद्देश्य (Objective): एक कॉस्ट फंक्शन को मिनिमाइज करना जो वांछित फीचर सेटपॉइंट से विचलन को दंडित करता है और साथ ही अनावश्यक गड़बड़ी (कंट्रोल एफर्ट) को भी दंडित करता है।
क्लोज्ड-लूप फीडबैक: ओपन-लूप विधियों के विपरीत, LA-LQR रिकैटि रिकर्शन (Riccati recursions) के माध्यम से एक फीडबैक गेन $K_s$ कंप्यूट करता है। हस्तक्षेप $u^*_s = \bar{u}_s - K_s \delta z_s$ है, जहाँ $\delta z_s$ नॉमिनल ट्राजेक्टरी से विचलन है।
अनुकूलनशीलता (Adaptivity): कंट्रोलर प्रत्येक टाइमस्टेप और लेयर पर वास्तविक लेटेंट एक्टिवेशन के प्रति ऑनलाइन अनुकूलित होता है, प्राकृतिक एक्टिवेशन विकास का पूर्वानुमान लगाता है और केवल तभी हस्तक्षेप करता है जब सेटपॉइंट तक पहुँचने के लिए आवश्यक हो।

5. सैद्धांतिक गारंटी

पेपर लेटेंट सेटपॉइंट ट्रैकिंग और रॉ एक्टिवेशन-स्पेस फीचर कंट्रोल के बीच संबंधों को दर्शाने वाले सैद्धांतिक बाउंड्स प्रदान करता है। यह प्रदर्शित करता है कि यदि प्रोजेक्शन प्रमुख फीचर ऊर्जा ( $\rho_s$ द्वारा मात्रात्मक) को बनाए रखता है और प्रोजेक्टेड डायनेमिक्स स्थानीय रूप से लीनियर हैं, तो रॉ-स्पेस फीचर ट्रैकिंग एरर, लेटेंट ट्रैकिंग एरर, प्रोजेक्शन लॉस और लीनियरइजेशन रेसिडुअल्स द्वारा सीमित (bounded) होता है।

मुख्य योगदान

औपचारिकीकरण (Formalization): लेखक T2V जनरेशन को एक फिक्स्ड-होरिज़न डायनेमिकल सिस्टम के रूप में औपचारिक रूप देते हैं और इन्फरेंस-टाइम स्टीयरिंग के लिए एक लीनियर ऑप्टिमल कंट्रोल फ्रेमवर्क प्रस्तावित करते हैं, जिससे न्यूनतम दखल देने वाले ऑनलाइन फीडबैक हस्तक्षेप प्राप्त होते हैं।
व्यवहार्यता (Tractability): वे कॉन्ट्रास्टिव वेक्टर्स का उपयोग करके एक रिड्यूस्ड-ऑर्डर लेटेंट स्पेस कंस्ट्रक्शन पेश करते हैं, जो फुल एक्टिवेशन-स्पेस जैकोबियन से बचकर T2V मॉडल्स के लिए ऑप्टिमल कंट्रोल को संभव बनाता है।
सैद्धांतिक औचित्य (Theoretical Justification): पेपर प्रोजेक्शन के दौरान फीचर सूचना हानि को मात्रात्मक रूप से मापता है और लेटेंट स्पेस की स्थानीय रैखिकता (local linearity) को मान्य करता है, जिससे रिड्यूस्ड-ऑर्डर कंट्रोलर के प्रदर्शन पर बाउंड्स प्रदान करता है।
अनुभवजन्य सत्यापन (Empirical Validation): कॉन्सेप्ट स्टीयरिंग और वीडियो सेफ्टी बेंचमार्क्स पर व्यापक मूल्यांकन यह दर्शाता है कि LA-LQR विजुअल क्वालिटी और प्रॉम्प्ट फिडेलिटी को बनाए रखते हुए अवांछित जनरेशन को कम करता है, जो मौजूदा T2V स्टीयरिंग और सेफ्टी बेसलाइन्स से बेहतर प्रदर्शन करता है।

परिणाम

विधि का मूल्यांकन दो अत्याधुनिक T2V मॉडल्स: Wan2.1-T2V-14B और HunyuanVideo-1.5 पर, T2VSafetyBench और SafeSora बेंचमार्क्स का उपयोग करके किया गया।

सुरक्षा प्रदर्शन (Safety Performance): LA-LQR ने SAFREE [10], वेट अनलर्निंग [9], और LLM-असिस्टेड स्टीयरिंग [69] जैसे बेसलाइन्स की तुलना में विभिन्न श्रेणियों (जैसे पोर्नोग्राफी, गोर, पब्लिक फिगर्स, कॉपीराइट) में सबसे कम उल्लंघन दर हासिल की। उदाहरण के लिए, Wan2.1 पर, LA-LQR के साथ औसत उल्लंघन दर ~36.9% (बेसलाइन) से गिरकर 14.6% हो गई।
क्वालिटी प्रिजर्वेशन (Quality Preservation): विधि ने उच्च सब्जेक्ट कंसिस्टेंसी स्कोर (VBench) बनाए रखा, जो अक्सर बेसलाइन्स (जैसे Wan2.1 के लिए 0.971 बनाम 0.964 औसत) के बराबर या उससे अधिक था, जो इंगित करता है कि सुरक्षा हस्तक्षेपों ने विजुअल कोहेरेंस को कम नहीं किया।
कॉन्सेप्ट स्टीयरिंग (Concept Steering): गुणात्मक परिणामों ने कंट्रोल स्ट्रेंथ बढ़ने के साथ अवधारणाओं (जैसे दृश्य में "लाल" को प्रमुख बनाना) के प्रभावी स्टीयरिंग को दिखाया, जो सटीक फीचर मॉड्यूलेशन को प्रदर्शित करता है।
तुलना (Comparison): उन बेसलाइन्स के विपरीत जो या तो फिल्टरिंग (जेलब्रोक प्रॉम्प्ट्स पर विफल) या अत्यधिक ट्यूनिंग (वेट एडिटिंग के साथ आर्टिफैक्ट्स) के कारण विफल होते हैं, LA-LQR ने मिनिमल-नॉर्म परटर्बेशन के माध्यम से सुरक्षा और गुणवत्ता के बीच सफलतापूर्वक संतुलन बनाया।

महत्व और दावे

पेपर का दावा है कि LA-LQR जेनरेटिव वीडियो मॉडल्स के लिए मैकेनिस्टिक इंटरप्रिटेबिलिटी और सेफ्टी एलाइनमेंट की दिशा में एक महत्वपूर्ण कदम है। इन्फरेंस को एक कंट्रोल समस्या के रूप में मानकर और रिड्यूस्ड-ऑर्डर ऑप्टिमल कंट्रोल का उपयोग करके, यह विधि निम्नलिखित प्राप्त करती है:

विश्वसनीयता (Reliability): यह एक ट्रेनिंग-फ्री, इन्फरेंस-टाइम समाधान प्रदान करता है जो उन एडवर्सरियल प्रॉम्प्ट्स के प्रति मजबूत है जहाँ इनपुट-लेवल फिल्टरिंग विफल हो जाती है।
सटीकता (Precision): यह न्यूनतम दखल देने वाले हस्तक्षेपों को सक्षम बनाता है, जिससे पिछले एक्टिवेशन स्टीयरिंग दृष्टिकोणों में सामान्य "ओवर-स्टीयरिंग" और विजुअल डिग्रेडेशन से बचा जा सकता है।
स्केलेबिलिटी (Scalability): यह कॉन्ट्रास्टिव लर्निंग से प्राप्त निम्न-आयामी लेटेंट डायनेमिक्स का लाभ उठाकर उच्च-आयामी वीडियो एक्टिवेशंस को नियंत्रित करने की कम्प्यूटेशनल जटिलता को हल करता है।

लेखक LA-LQR को T2V मॉडल्स के विश्वसनीय, ट्रेनिंग-फ्री एलाइनमेंट के लिए एक आशाजनक दिशा के रूप में प्रस्तुत करते हैं, यह सुझाव देते हुए कि कंट्रोल-थ्योरिटिक एक्टिवेशन स्टीयरिंग जेनरेटिव मॉडल्स की उपयोगिता और गुणवत्ता को बनाए रखते हुए हानिकारक आउटपुट को प्रभावी ढंग से सीमित कर सकता है। वे स्पष्ट रूप से नोट करते हैं कि इस विधि को प्रॉम्प्ट फिल्टरिंग या आउटपुट मॉडरेशन के साथ जोड़ा जाना चाहिए, क्योंकि यह व्हाइट-बॉक्स एक्सेस मानता है और सभी संभावित एडवर्सरियल इनपुट्स के खिलाफ सुरक्षा की गारंटी नहीं देता है।