⚡ electrical engineering

Towards General Language-Conditioned Latent Safety Filters

यह शोध पत्र विभिन्न रोबोटिक कार्यों में विविध सुरक्षा बाधाओं को गतिशील रूप से लागू करने के लिए हैमिल्टन-जैकोबी एक्टर्स और क्रिटिक्स का उपयोग करते हुए एक भाषा-सशर्त सुरक्षा फ़िल्टरिंग फ्रेमवर्क प्रस्तावित करता है, जो उल्लंघनों में कमी और अनदेखी बाधा संस्थाओं (unseen constraint instances) में आंशिक स्थानांतरण प्रदर्शित करता है।

मूल लेखक: Ihab Tabbara, Yuxuan Yang, Hussein Sibai

प्रकाशित 2026-08-04

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ihab Tabbara, Yuxuan Yang, Hussein Sibai

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक ऐसी दुनिया की कल्पना करें जहाँ रोबोट केवल अनाड़ी मशीनें नहीं हैं जिन्हें एक विशिष्ट काम करने के लिए प्रोग्राम किया गया है, जैसे कि एक टोस्टर जो केवल ब्रेड टोस्ट करता है। इसके बजाय, एक ऐसे रोबोट की कल्पना करें जो एक मददगार दोस्त की तरह आपको समझ सके। आप कह सकते हैं, "कृपया मेज साफ कर दो," या "इन ब्लॉक्स से एक मीनार बनाओ," और वह समझ जाएगा कि इसे कैसे करना है। यह "जनरलिस्ट" (सामान्यज्ञ) रोबोट लर्निंग का रोमांचक क्षेत्र है, जहाँ आर्टिफिशियल इंटेलिजेंस वह सब जोड़ता है जो वह देखता है (दृष्टि/विज़न) और जो आप कहते हैं (भाषा), ताकि यह तय किया जा सके कि क्या करना है (क्रिया/एक्शन)। लेकिन यहाँ एक पेंच है: सिर्फ इसलिए कि एक रोबोट आपकी बात समझने के लिए पर्याप्त स्मार्ट है, इसका मतलब यह नहीं है कि वह यह जानने के लिए भी पर्याप्त स्मार्ट है कि क्या नहीं करना है। यदि आप उसे मेज साफ करने के लिए कहते हैं, तो वह गलती से एक कीमती फूलदान गिरा सकता है या दूध का गिलास गिरा सकता है।

रोबोट को सुरक्षित रखने के लिए, वैज्ञानिक "सेफ्टी फ़िल्टर" (सुरक्षा फिल्टर) नामक चीज़ का उपयोग करते हैं। इस फ़िल्टर को एक सख्त, अदृश्य संरक्षक देवदूत (गार्जियन एंजल) के रूप में सोचें जो रोबोट के मस्तिष्क के ठीक बगल में खड़ा है। इससे पहले कि रोबोट अपना हाथ हिलाए, संरक्षक उस योजना की जाँच करता है। यदि योजना ऐसी दिखती है जिससे फूलदान से टकराने की संभावना है, तो संरक्षक हस्तक्षेप करता है, नियंत्रणों को थाम लेता है, और रोबोट को खतरे से दूर ले जाता है। पारंपरिक रूप से, ये संरक्षक बहुत कठोर थे; आपको उन्हें विशेष रूप से फूलदानों के बारे में सिखाना पड़ता था, फिर अलग से वाइन ग्लास के बारे में, और फिर अलग से गर्म कॉफी के बारे में। यदि आप चाहते थे कि रोबोट किसी नई चीज़ से बचे, तो आपको संरक्षक को शुरू से फिर से प्रशिक्षित करना पड़ता था। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह यह है: क्या हम रोबोट के संरक्षक को केवल हमारी बात सुनकर किसी भी सुरक्षा नियम को समझने के लिए सिखा सकते हैं, ताकि वह बिना किसी पूर्ण रीबूट के तुरंत नई स्थितियों के अनुकूल हो सके?

यह शोध पत्र, जिसका शीर्षक "टुवर्ड्स जनरल लैंग्वेज-कंडीशन्ड लेटेंट सेफ्टी फिल्टर्स" (Towards General Language-Conditioned Latent Safety Filters) है, ठीक इसी विचार की खोज करता है। लेखक, इहाब टैबारा, युक्सुआन यांग और हुसैन सिबाई, एक प्रकार के नए सुरक्षा फ़िल्टर का प्रस्ताव करते हैं जिसे हर नए नियम के लिए फिर से प्रशिक्षित करने की आवश्यकता नहीं होती है। इसके बजाय, उन्होंने एक ऐसी प्रणाली बनाई है जहाँ संरक्षक एक प्राकृतिक भाषा निर्देश सुन सकता है—जैसे "दूध के डिब्बे को मत छुओ"—और तुरंत उस नियम को रोबोट की क्रियाओं पर लागू कर सकता है। उन्होंने इसका परीक्षण ब्लॉक्स उठाने, मेज पोंछने या वस्तुओं को एक के ऊपर एक रखने जैसे कार्यों को करने वाले रोबोटों पर किया।

शोधकर्ताओं ने पाया कि यह "लैंग्वेज-कंडीशन्ड" (भाषा-आधारित) फ़िल्टर आश्चर्यजनक रूप से अच्छा काम करता है। अपने प्रयोगों में, इस नए फ़िल्टर ने सफलतापूर्वक रोबोट को विशिष्ट वस्तुओं से टकराने से रोका जब उसे उनसे बचने के लिए कहा गया था, भले ही रोबोट की मूल योजना सीधे उनसे टकराने की थी। उदाहरण के लिए, एक कार्य में जहाँ रोबot को एक विशिष्ट क्रम में रंगीन ब्लॉक्स को स्टैक (एक के ऊपर एक रखना) करना था, फ़िल्टर ने रोबोट को निर्देशों का सही ढंग से पालन करने में लगभग 80% बार मदद की, भले ही निर्देश बदल दिए गए थे। फ़िल्टर कुछ हद तक सामान्यीकरण (जनरलाइज) करने में भी सक्षम था; जब उन्होंने इसका परीक्षण उन वस्तुओं या रंगों पर किया जिन्हें उसने पहले कभी नहीं देखा था (जैसे लाल के बजाय पीली किताब), तो वह अभी भी यादृच्छिक संभावना (रैंडम चांस) से बेहतर तरीके से नियमों का पालन करने में सफल रहा, हालांकि वह पूर्ण नहीं था।

हालाँकि, शोध पत्र सावधानी बरतते हुए इसे एक आदर्श समाधान नहीं कहता है। लेखक दिखाते हैं कि जबकि यह फ़िल्टर एक बड़ी प्रगति है, फिर भी यह गलतियाँ करता है, विशेष रूप से तब जब रोबोट दुनिया को कैमरे (दृष्टि) के माध्यम से देख रहा होता है (बनाम यह जानना कि प्रत्येक वस्तु की सटीक स्थिति क्या है, जो एक ऐसी सुपरपावर की तरह है जो रोबोट के पास वास्तव में नहीं है)। उन्होंने यह भी परीक्षण किया कि उन्नत एआई मॉडल "आंखों" के रूप में कार्य कर सकते हैं जो फ़िल्टर को बताते हैं कि क्या खतरनाक है, लेकिन पाया कि यहाँ तक कि सबसे स्मार्ट वर्तमान मॉडल भी अकेले सुरक्षा के एकमात्र निर्णायक के रूप में विश्वसनीय नहीं हैं।

अध्ययन सुझाव देता है कि हम एक ऐसे भविष्य की ओर बढ़ रहे हैं जहाँ हमारे पास एक सामान्य सुरक्षा फ़िल्टर हो सकता है जो केवल उन्हें पढ़कर कई अलग-अलग नियमों को समझना सीखता है, बजाय इसके कि कमरे में मौजूद हर एक वस्तु के लिए एक अद्वितीय फ़िल्टर की आवश्यकता हो। जबकि वर्तमान संस्करण दोषरहित नहीं है और अभी भी पूरी तरह से नई स्थितियों के साथ संघर्ष करता है, परिणाम बताते हैं कि यह दृष्टिकोण एक आशाजनक मार्ग है। यह एक ऐसे भविष्य का संकेत देता है जहाँ रोबोट को ऑन-द-फ्लाई जटिल, बदलते सुरक्षा निर्देश दिए जा सकते हैं, जिससे वे हमारे घरों और कार्यस्थलों में अधिक सुरक्षित और उपयोगी बन सकते हैं, बिना हर बार फर्नीचर बदलने पर इंजीनियरों की एक टीम को पुन: प्रोग्राम करने की आवश्यकता के।

तकनीकी सारांश: सामान्य भाषा-सशर्त लेटेंट सुरक्षा फिल्टरों की ओर

समस्या विवरण

जैसे-जैसे रोबोट नीतियां विविध प्राकृतिक भाषा निर्देशों को निष्पादित करने में सक्षम विशिष्ट कार्य-नियंत्रकों से सामान्यवादी विजन-लैंग्वेज-एक्शन (VLA) मॉडल के रूप में विकसित हो रही हैं, सुरक्षित तैनाती सुनिश्चित करना एक महत्वपूर्ण चुनौती बनी हुई है। सुरक्षा आवश्यकताएं उपयोगकर्ताओं, वातावरण और अनुप्रयोगों के अनुसार काफी भिन्न होती हैं, यहाँ तक कि समान कार्यों के लिए भी। मौजूदा सुरक्षा फिल्टर काफी हद तक बाधा-विशिष्ट हैं; वे सुरक्षा के निश्चित धारणाओं (जैसे, एक पूर्व-निर्धारित विफलता सेट के विरुद्ध फॉरवर्ड इनवेरियंस) पर निर्भर करते हैं और जब सुरक्षा विशिष्टताएँ बदल जाती हैं, तो उन्हें पुन: डिजाइन या पुन: प्रशिक्षण की आवश्यकता होती है। इसके अलावा, वर्तमान VLA नीतियां अक्सर प्रशिक्षण डेटा से सुरक्षा को अंतर्निहित रूप से सीखने में विफल रहती हैं या स्पष्ट भाषा-आधारित सुरक्षा संकेतों का विश्वसनीय रूप से पालन करने में विफल रहती हैं। यह शोध पत्र भाषा-सशर्त सुरक्षा फ़िल्टरिंग की जांच करता है, जिसका लक्ष्य एक एकल, सीखा हुआ सुरक्षा फिल्टर बनाना है जो प्राकृतिक भाषा के माध्यम से व्यक्त तैनाती-समय की सुरक्षा आवश्यकताओं के अनुकूल हो सके, जिससे सामान्यवादी रोबोट नीतियों की सुरक्षित तैनाती का समर्थन किया जा सके।

कार्यप्रणाली

लेखक एक फ्रेमवर्क का प्रस्ताव करते हैं जो हैमिल्टन-जोकी (HJ) पहुंच विश्लेषण (reachability analysis) को भाषा-निर्दिष्ट बाधाओं पर आधारित करने के लिए विस्तारित करता है। मुख्य दृष्टिकोण में एक बाधा-सशर्त सुरक्षा एक्टर (actor) और क्रिटिक (critic) को सीखना शामिल है जो एक नाममात्र नीति (nominal policy) के लिए रनटाइम फिल्टर के रूप में कार्य करते हैं।

1. सूत्रीकरण (Formulation)

सिस्टम प्रत्येक टाइमस्टेप $t$ पर एक अवलोकन $o_t$ , एक कार्य निर्देश $\tau$ , और एक प्राकृतिक-भाषा सुरक्षा बाधा $c$ (जैसे, "दूध के डिब्बे से बचें") के साथ संचालित होता है। एक नाममात्र नीति $\pi_{nom}$ एक क्रिया $a^{nom}_t$ प्रस्तावित करती है। सुरक्षा फिल्टर एक सीखे हुए HJ क्रिटिक $Q_\theta(z_t, a_t)$ का उपयोग करके इस क्रिया का मूल्यांकन करता है, जहाँ स्थिति प्रतिनिधित्व $z_t$ दृश्य अवलोकन और भाषा बाधा दोनों को एनकोड करता है।

क्रिटिक (Critic): $a^{nom}_t$ के निष्पादन और उसके बाद इष्टतम सुरक्षा नीति के पालन के डिस्काउंटेड वर्स्ट-केस (worst-case) सुरक्षा मान का अनुमान लगाता है।
एक्टर (Actor): एक सीखी हुई नीति जिसे सुरक्षा को अधिकतम करने के लिए प्रशिक्षित किया जाता है।
फ़िल्टरिंग तर्क (Filtering Logic): यदि $Q_\theta(z_t, a^{nom}_t) \geq \epsilon$ (जहाँ $\epsilon$ एक सुरक्षा मार्जिन है), तो नाममात्र क्रिया निष्पादित की जाती है। अन्यथा, फिल्टर हस्तक्षेप करता है, HJ एक्टर और नाममात्र क्रिया के विक्षोभ (perturbations) से उम्मीदवार क्रियाओं का चयन करता है, और सबसे करीबी सुरक्षित क्रिया चुनता है जो बाधा को संतुष्ट करती है।

2. प्रतिनिधित्व और एनकोडिंग (Representations and Encoding)

यह शोध पत्र HJ एक्टर/क्रिटिक के लिए दो इनपुट प्रतिनिधित्वों का मूल्यांकन करता है:

प्रिविलेज्ड ओरकल (ग्राउंड ट्रुथ): पूर्ण सिस्टम स्टेट $s_t$ (ऑब्जेक्ट पोसेस, रोबोट स्टेट) और बाधा का एक मल्टी-हॉट एनकोडिंग उपयोग करता है। यह धारणा त्रुटियों के बिना HJ फॉर्मूलेशन की प्रभावकारिता का परीक्षण करने के लिए एक ऊपरी सीमा (upper bound) के रूप में कार्य करता है।
विजन-लैंग्वेज (VL): कच्चे RGB अवलोकनों (थर्ड-पर्सन और रिस्ट-माउंटेड व्यू), रोबोट प्रोप्रियोसेप्शन और भाषा बाधा का उपयोग करता है। इन्हें एनकोड करने के लिए, लेखक $\pi0.5$ VLA बैकबोन का उपयोग करते हैं, जो मल्टी-व्यू अवलोकनों और भाषा को एक साझा ट्रांसफार्मर के माध्यम से प्रोसेस करता है। परिणामी टोकन अनुक्रम को लेटेंट प्रतिनिधित्व $z_t$ बनाने के लिए मीन पूलिंग (mean pooling) के माध्यम से एकत्रित किया जाता है।

3. विफलता फलन (Failure Functions)

एक महत्वपूर्ण घटक विफलता फलन $h(z_t)$ है, जो असुरक्षित सेट की सीमा को परिभाषित करता है।

ज्यामितीय बाधाएं (Geometric Constraints): टकराव से बचने जैसे कार्यों के लिए, $h$ को दूरी मेट्रिक्स (जैसे, एक बाधा से दूरी घटा एक थ्रेशोल्ड) द्वारा परिभाषित किया जाता है।
सिमेंटिक बाधाएं (Semantic Constraints): जटिल सिमेंटिक विफलताओं (जैसे, किसी वस्तु को गिराना) के लिए, लेखक विफलता ओरकल के रूप में विजन-लैंग्वेज मॉडल्स (VLMs) का उपयोग करने की खोज करते हैं, जो यह निर्धारित करने के लिए कि क्या कोई स्थिति बाधा का उल्लंघन करती है, 11 अलग-अलग VLMs को क्वेरी करते हैं और आउटपुट को पॉजिटिव या नेगेटिव कांस्टेंट में मैप करते हैं। हालांकि, वे पाते हैं कि वर्तमान VLMs सुरक्षा उल्लंघनों पर उच्च फॉल्स-नेगेटिव दरों के कारण सीधे रनटाइम उपयोग के लिए विफलता ओरकल के रूप में पर्याप्त विश्वसनीय नहीं हैं।

4. प्रशिक्षण (Training)

HJ क्रिटिक और एक्टर को बेलमैन एरर लॉस को कम करने के लिए सॉफ्ट एक्टर-क्रिटिक (SAC) का उपयोग करके प्रशिक्षित किया जाता है, जो बाधा-परिभाषित विफलता सेट से बचने के लिए इष्टतम वैल्यू फंक्शन का अनुमान लगाता है। प्रशिक्षण डेटा में 5,000 मैनिपुलेशन ट्रेजेक्टरीज (संशोधित LIBERO कार्यों से प्राप्त) शामिल हैं, जिन्हें जानबूझकर सुरक्षा उल्लंघनों (लगभग 90%) के साथ समृद्ध किया गया है।

मुख्य योगदान

सूत्रीकरण: यह शोध पत्र भाषा-सशर्त सुरक्षा फ़िल्टरिंग को सूत्रबद्ध करता है, जो निश्चित विफलता सेटों के बजाय प्राकृतिक-भाषा बाधाओं पर आधारित होने के लिए HJ पहुंच विश्लेषण का विस्तार करता है।
मूल्यांकन: तीन मैनिपुलेशन कार्यों (Safe Grab, Safe Wipe, Stack Blocks) में व्यापक मूल्यांकन, जो बाधा संतुष्टि, आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) सामान्यीकरण, और सुरक्षा, कार्य सफलता तथा हस्तक्षेप दरों के बीच ट्रेड-ऑफ की जांच करता है।
तुलनात्मक विश्लेषण: प्रस्तावित सामान्य भाषा-सशर्त फिल्टर और प्रति-बाधा प्रशिक्षित विशिष्ट, गैर-भाषा-सशर्त फिल्टरों के बीच तुलना।
VLM बेंचमार्किंग: रोबोटिक मैनिपुलेशन के लिए संभावित विफलता फलनों के रूप में 11 VLMs का मूल्यांकन, जो उनकी विश्वसनीयता में वर्तमान सीमाओं को उजागर करता है।
डेटासेट रिलीज: लेखक सुरक्षा उल्लंघनों के साथ 5,000 LIBERO-शैली की मैनिपुलेशन ट्रेजेक्टरीज के डेटासेट को जारी करने के लिए प्रतिबद्ध हैं।

प्रयोगात्मक परिणाम

प्रयोगات RoboSuite वातावरण में ग्राउंड ट्रुथ (GT) और विजन-लैंग्वेज (VL) दोनों अवलोकन मोडैलिटीज का उपयोग करके किए गए थे।

सुरक्षा बनाम कार्य सफलता: दोनों जनरल (भाषा-सशर्त) और सिंगल (बाधा-विशिष्ट) फिल्टरों ने अनफिल्टर्ड नाममात्र नीति की तुलना में टकराव दरों को काफी कम कर दिया। GT सेटिंग्स में, फिल्टरों ने कार्य प्रदर्शन को अच्छी तरह से बनाए रखा। VL सेटिंग्स में, टकराव दरें अधिक रहीं, जिसका कारण टोकन एकत्रीकरण (मीन पूलिंग) के दौरान स्थानिक विशेषताओं (spatial features) का नुकसान है।
जनरल बनाम स्पेशलाइज्ड फिल्टर:
- Stack Blocks (क्रमिक बाधाओं) में, जनरल फिल्टर ने ऑर्डर-करेक्टनेस (OC) में सिंगल फिल्टरों से बेहतर प्रदर्शन किया, जो सुझाव देता है कि एक फिल्टर साझा करने से संबंधित बाधाओं (जैसे, "लाल पकड़ें" बनाम "नीला पकड़ें") के बीच ज्ञान हस्तांतरण संभव है।
- Safe Grab और Safe Wipe (टकराव से बचाव) में, परिणाम मिश्रित थे। VL सेटिंग में जनरल फिल्टर ने सिंगल फिल्टरों की तुलना में कम टकराव दर प्राप्त की, लेकिन कभी-कभी यह कम कार्य सफलता दर की कीमत पर हुआ। GT सेटिंग्स में, जनरल फिल्टर ने सिंगल फिल्टरों की तुलना में काफी कम हस्तक्षेप (कम IR) की आवश्यकता दिखाई जबकि समान सुरक्षा बनाए रखी।
बाधा विशिष्टता (Constraint Specificity): जनरल फिल्टर ने निर्दिष्ट बाधाओं और निर्दोष वस्तुओं के बीच अंतर करने की क्षमता प्रदर्शित की। दो वस्तुओं वाले दृश्यों में, फिल्टर ने नामित बाधा से बचने के लिए हस्तक्षेप किया जबकि नामहीन वस्तु के साथ बातचीत की अनुमति दी, जिससे सिद्ध होता है कि यह बिना सोचे-समझे सभी वस्तुओं से नहीं बचता है।
आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) सामान्यीकरण: जनरल फिल्टर ने अनदेखी बाधाओं के प्रति आंशिक हस्तांतरण दिखाया:
- Safe Grab/Wipe: जब अनदेखी वस्तु प्रकारों (जैसे, मोका पॉट, पीली किताब) पर परीक्षण किया गया, तो प्रदर्शन गिर गया, जिससे टकराव दर बढ़ गई।
- Stack Blocks: फिल्टर ने अनदेखी रंगों (Color-Only shift) के लिए अच्छा सामान्यीकरण किया, लेकिन जब आकार और रंग दोनों अनदेखे थे, तो प्रदर्शन गिर गया। विश्लेषण से पता चला कि फिल्टर रंग और आकार दोनों संकेतों पर निर्भर करता है; जब प्रॉम्प्ट में ऐसा आकार निर्दिष्ट किया गया जो दृश्य में अनुपस्थित था (जैसे, केवल सिलेंडर मौजूद होने पर "क्यूब"), तो फिल्टर ने कम सटीकता के साथ भी रंग के आधार पर लक्ष्य की पहचान की।
VLM विश्वसनीयता: विफलता ओरकल के रूप में 11 VLMs के मूल्यांकन से पता चला कि हालांकि कुछ मॉडल (जैसे, Gemini Robotics-ER 1.6) उच्च नॉन-फेलियर सटीकता प्राप्त करते हैं, वे अक्सर वास्तविक सुरक्षा उल्लंघनों का पता लगाने में विफल रहते हैं (कम फेलियर सटीकता)। यह इंगित करता है कि वर्तमान VLMs सीधे रनटाइम विफलता ओरकल के रूप में उपयोग करने के लिए अभी भी पर्याप्त विश्वसनीय नहीं हैं, लेकिन वे सीखे गए विफलता फलनों के प्रशिक्षण के लिए कमजोर एनोटेटर्स के रूप में काम कर सकते हैं।

महत्व और दावे

यह शोध पत्र सामान्य सुरक्षा फिल्टरों की ओर एक पथ प्रदर्शित करने का दावा करता है जो प्रत्येक विशिष्टता के लिए एक अलग मॉडल की आवश्यकता के बिना विविध, भाषा-निर्दिष्ट सुरक्षा आवश्यकताओं के अनुकूल हो सकते हैं। लेखक तर्क देते हैं कि एक एकल सीखा हुआ सुरक्षा क्रिटिक कई बाधाओं का प्रतिनिधित्व कर सकता है, एक ही निर्देश से सक्रिय बाधाओं को संयोजित कर सकता है, और एक परिवार के भीतर अनदेखी बाधा संस्थाओं के लिए सामान्यीकरण कर सकता है।

यह कार्य सुझाव देता है कि सुरक्षा फिल्टर सामान्यवादी VLA नीतियों के समान विकास कर सकते हैं: निश्चित, विशिष्टता-विशिष्ट मॉनिटर से सामान्य, विशिष्टता-सशर्त प्रवर्तन तंत्र की ओर बढ़ना। यह सुरक्षा फिल्टरों को बड़े पैमाने पर प्रशिक्षित करने और डाउनस्ट्रीम कार्यों के लिए अनुकूलित करने में सक्षम बना सकता है, जो सामान्यवादी नीतियों के विकास के समान है।

हालाँकि, लेखक वर्तमान तकनीक की स्थिति के बारे में विनम्र हैं। वे स्वीकार करते हैं कि:

जनरल फिल्टर बाधा संतुष्टि की गारंटी नहीं देता है, विशेष रूप से OOD स्थितियों में।
प्रदर्शन गिर जाता है जब बाधाएं प्रशिक्षण के दौरान नहीं देखी जाती हैं।
वर्तमान दृष्टिकोण विशिष्ट प्रकार की बाधाओं (बचाव/दृढ़ता) तक सीमित है और अभी तक जटिल टेम्पोरल लॉजिक या पूरी तरह से मनमाने सुरक्षा विनिर्देशों को नहीं संभालता है।
वर्तमान VLMs सीधे रनटाइम ओरकल के रूप में विफलता सेटों को परिभाषित करने के लिए अपर्याप्त हैं।

यह शोध पत्र निष्कर्ष निकालता है कि हालांकि प्रस्तावित फ्रेमवर्क आंशिक हस्तांतरण और सामान्यीकरण के लिए आशाजनक है, लेकिन टोकन एकत्रीकरण रणनीतियों को बेहतर बनाने, VLA बैकबोन को सुरक्षा क्रिटिक के साथ संयुक्त रूप से फाइन-ट्यून करने और अधिक मजबूत विधियों को विकसित करने के लिए आगे के शोध की आवश्यकता है।