🤖 machine learning

BadWAM: When World-Action Models Dream Right but Act Wrong

यह शोध पत्र BadWAM प्रस्तुत करता है, जो एक एकीकृत ढांचा है जो यह प्रदर्शित करता है कि वर्ल्ड-एक्शन मॉडल्स (WAMs) उन प्रतिकूल हमलों के प्रति संवेदनशील हैं जहाँ छोटे दृश्य व्यवधान (visual perturbations) मॉडल की कल्पित भविष्य और उसके द्वारा निष्पादित कार्यों को अलग कर सकते हैं, जिससे महत्वपूर्ण कार्य विफलताओं का कारण बनता है, भले ही मॉडल के आंतरिक अनुमान तर्कसंगत बने रहें।

मूल लेखक: Qi Li, Xingyi Yang, Xinchao Wang

प्रकाशित 2026-07-17

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Qi Li, Xingyi Yang, Xinchao Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

स्वप्न देखते रोबोट और चालाक ग्लिच (The Dreaming Robot and the Sneaky Glitch)

एक ऐसे रोबोट की कल्पना करें जो न केवल वही देखता है जो अभी हो रहा है, बल्कि यह भी "सपना" देखता है कि आगे क्या होने वाला है। यह एम्बोडीड एआई (embodied AI) का अत्याधुनिक क्षेत्र है, जहाँ कंप्यूटर रोबोटिक भुजाओं या मोबाइल बेस जैसे भौतिक शरीरों को नियंत्रित करना सीखते हैं। पारंपरिक रूप से, रोबट रिफ्लेक्सिव मुक्केबाजों की तरह थे: उन्होंने एक मुक्का देखा और तुरंत जवाबी हमला कर दिया। लेकिन आधुनिक "वर्ल्ड-एक्शन मॉडल्स" (WAMs) शतरंज के ग्रैंडमास्टर्स की तरह हैं। कोई भी चाल चलने से पहले, वे अपने मन में भविष्य का अनुकरण (simulate) करते हैं। वे पूछते हैं, "अगर मैं इस कप को पकड़ता हूँ, तो क्या यह गिर जाएगा? अगर मैं यहाँ कदम रखता हूँ, तो क्या मैं लड़खड़ा जाऊँगा?" परिणाम की कल्पना करने की यह क्षमता उन्हें सुरक्षित और स्मार्ट बनाने के लिए बनाई गई है, जो एक अंतर्निहित सुरक्षा जांच के रूप में कार्य करती है। यदि भविष्य का रोबोट का सपना खतरनाक दिखता है, तो उसे रुक जाना चाहिए और फिर से सोचना चाहिए।

बड़ा सवाल जो शोधकर्ता पूछ रहे हैं, वह यह है: क्या यह स्वप्न देखते वाला रोबोट वास्तव में सुरक्षित है? यदि एक रोबोट अपने भविष्य की जाँच कर सकता है, तो क्या एक हैकर उसे धोखा दे सकता है? एक नए अध्ययन के अनुसार, इसका उत्तर चिंताजनक रूप से "हाँ" है। यह पेपर एक ऐसी स्थिति का पता लगाता है जहाँ रोबोट के कैमरा फीड में एक छोटा सा, लगभग अदृश्य बदलाव—जैसे धूल का एक कण या दीवार पर एक सूक्ष्म पैटर्न—रोबोट के मस्तिष्क को भ्रमित कर सकता है। डरावनी बात यह नहीं है कि रोबोट सपना देखना बंद कर देता है; बल्कि यह है कि रोबोट एक आदर्श, सुरक्षित भविष्य का सपना देखता रहता है जबकि उसका शरीर पूरी तरह से विनाशकारी कार्य कर रहा होता है। यह वैसा ही है जैसे रोबोट एक रस्सी पर सुरक्षित चलने का सपना देख रहा हो, लेकिन उसके पैर वास्तव में खाई में गिर रहे हों।

पेपर की खोज: बैडWAM (BadWAM)

इस पेपर के पीछे के शोधकर्ताओं ने, जिनका नेतृत्व क्यू ली और शिंचाओ वांग ने किया, इन रोबोटों का परीक्षण करने का एक नया तरीका पेश किया जिसे BadWAM कहा जाता है। BadWAM को रोबोट के सपनों के लिए एक "तनाव परीक्षण" (stress test) के रूप में समझें। वे देखना चाहते थे कि क्या वे एक रोबोट को बिना यह महसूस किए कि कुछ गलत हुआ है, कार्य विफल करने के लिए मजबूर कर सकते हैं। उन्होंने एक विशिष्ट भेद्यता (vulnerability) खोजी जिसे वे वर्ल्ड-एक्शन ड्रिफ्ट (World-Action Drift) कहते हैं।

आमतौर पर, जब हम किसी रोबोट को हैक करने के बारे में सोचते हैं, तो हम कल्पना करते हैं कि उसे ऐसी चीजें दिखाई जा रही हैं जो वहाँ नहीं हैं, जिससे वह घबरा जाए या जम जाए। लेकिन BadWAM ने कुछ अधिक चालाकी भरा पाया। शोधकर्ताओं ने दिखाया कि वे सूक्ष्म दृश्य ट्रिक्स का उपयोग करके रोबोट के "सपने" (भविष्य की उसकी भविष्यवाणी) को पूरी तरह से सामान्य दिखा सकते हैं, जबकि साथ ही उसके "कार्यों" (जो वह वास्तव में करता है) को हाईजैक कर सकते हैं।

पेपर दो मुख्य तरीकों से इस हमले के काम करने का प्रदर्शन करता है, जो परेशानी के दो अलग-अलग रूपों की तरह हैं:

"ओवरट हाइजैक" (एक्शन-ओनली अटैक): यह शोर वाला, अव्यवस्थित संस्करण है। हमलावर रोबोट के दृश्य के साथ इतना छेड़छाड़ करता है कि वह तुरंत गलत काम करने लगे। LIBERO नामक डेटासेट पर उनके परीक्षणों में, यह हमला बहुत घातक था। इसने रोबोट की सफलता दर को एक अत्यधिक विश्वसनीय 96.5% से घटाकर एक अस्थिर 43.1% तक पहुँचा दिया। रोबोट वस्तुओं को उठाने की कोशिश करता है लेकिन उन्हें गिरा देता है या उन्हें पूरी तरह से मिस कर देता है।
"स्टील्थ घोस्ट" (इमेजिनेशन-प्रिजर्विंग अटैक): यह वास्तव में डरावना हिस्सा है। यहाँ, हमलावर भेष बदलने में माहिर है। वे रोबोट के दृश्य में इस तरह बदलाव करते हैं कि भविष्य का रोबोट का "सपना" अभी भी एकदम सही और सुरक्षित दिखता है। यदि आप रोबोट से पूछेंगे, "तुम्हें क्या लगता है कि आगे क्या होगा?" तो वह कहेगा, "मुझे लगता है कि मैं ब्लॉक को उठाऊँगा और धीरे से रख दूँगा।" और उसके मन में, वास्तव में वही हो रहा है। लेकिन वास्तविकता में, रोबोट गलत जगह पहुँच रहा है या ब्लॉक को गिरा रहा है। "सपना" और "क्रिया" एक दूसरे से अलग (drift) हो गए हैं। रोबोट एक आपदा को अंजाम दे रहा है जबकि वह विश्वास कर रहा है कि वह एक सफलता को अंजाम दे रहा है।

शोधकर्ताओं ने पाया कि यह "ड्रिफ्ट" एक बड़ी सुरक्षा खामी है। उन्होंने विभिन्न प्रकार के रोबोट दिमागों (जिन्हें जॉइंट WAM और IDM WAM कहा जाता है) पर इसका परीक्षण किया और पाया कि भले ही रोबोट की भविष्य की भविष्यवाणियाँ सत्य के बहुत करीब रहीं (सपने को बरकरार रखते हुए), रोबोट फिर भी कार्य करने में विफल रहा। वास्तव में, उन्होंने पाया कि आप रोबोट को विफल कर सकते हैं जबकि "फ्यूचर डिस्टेंस" (सपना कितना बदला) को बहुत कम रखा जा सकता है। यह सुझाव देता है कि केवल रोबोट के "सपने" की जाँच करना उसे सुरक्षित रखने के लिए पर्याप्त नहीं है।

यह हमला कैसे काम करता है

पेपर बताता है कि BadWAM को रोबोट के गुप्त कोड या आंतरिक वेट्स (weights) को जानने की आवश्यकता नहीं है। यह एक ब्लैक-बॉक्स टेस्टर की तरह काम करता है। हमलावर रोबोट को एक विजुअल इनपुट भेजता है, जो एक्शन निकलता है उसे देखता है, और फिर इनपुट को थोड़ा सा बदलता है ताकि देख सके कि क्या वह एक्शन को और खराब कर सकता है। वे इसे बार-बार करते हैं, जैसे एक मूर्तिकार पत्थर के ब्लॉक को तराशता है, जब तक कि उन्हें एक ऐसा सूक्ष्म, अदृश्य पैटर्न न मिल जाए जो रोबोट को विफल होने के लिए मजबूर कर दे।

सबसे दिलचस्प निष्कर्षों में से एक यह है कि रोबोट कैसे विफल होता है। वह तुरंत पागल नहीं हो जाता। पेपर दिखाता है कि रोबोट अक्सर सामान्य व्यवहार के साथ शुरुआत करता है। वह शायद पहला ऑब्जेक्ट सफलतापूर्वक पकड़ ले, लेकिन जैसे-जैसे कार्य जारी रहता है, उसकी हरकतें धीरे-धीरे पटरी से उतरने लगती हैं। यह "हजारों कटों से मृत्यु" (death by a thousand cuts) वाला परिदृश्य है। रोबोट दूसरी वस्तु को गिरा देता है, तीसरी को मिस कर देता है, और अंततः पूरे मिशन में विफल हो जाता है, जबकि उसका आंतरिक सिमुलेशन इस बात पर अड़ा रहता है कि सब कुछ योजना के अनुसार चल रहा है।

अध्ययन ने यह भी देखा कि क्या यह ट्रिक अलग-अलग रोबोटों पर काम करती है। उन्होंने पाया कि यदि उन्होंने एक प्रकार के रोबोट मॉडल पर हमले को प्रशिक्षित किया, तो यह अक्सर अन्य, थोड़े अलग मॉडलों पर भी काम करता है। यह सुझाव देता है कि समस्या केवल एक विशिष्ट सॉफ़्टवेयर में बग नहीं है; यह एक मौलिक दोष है कि ये "सपना देखते" रोबोट अपने विचारों को अपने कार्यों से कैसे जोड़ते हैं।

सुरक्षा जाँच की सीमाएँ

पेपर ने कुछ सरल बचावों का भी परीक्षण किया, जैसे इमेज को धुंधला करना या कैमरा फीड में शोर (noise) जोड़ना, इस उम्मीद में कि हमलावर के ट्रिक को धोया जा सके। हालांकि इनमें से कुछ ट्रिक्स ने थोड़ा मदद किया, लेकिन वे रामबाण साबित नहीं हुए। या तो वे हमले को रोकने में विफल रहे या उन्होंने रोबोट को उस समय भी काम करने में बदतर बना दिया जब उस पर हमला नहीं किया जा रहा था। शोधकर्ताओं ने एक "डिटेक्टर" बनाने की भी कोशिश की जो यह फ्लैग करे कि रोबोट का सपना और क्रिया मेल नहीं खा रहे हैं, लेकिन यह डिटेक्टर अधिकांश हमलों को मिस कर गया जब इसे बहुत सावधानीपूर्वक सेट किया गया था (ताकि गलत अलार्म से बचा जा सके)।

इस शोध का निचोड़ रोबोटिक्स के क्षेत्र के लिए एक चेतावनी है। यह विचार कि "यदि एक रोबोट भविष्य की कल्पना कर सकता है, तो वह सुरक्षित होगा" बहुत नाजुक है। पेपर सुझाव देता है कि असली खतरा केवल यह नहीं है कि रोबोट गलत चीज़ देखता है, बल्कि यह है कि उसका कल्पना और उसके कार्य तालमेल से बाहर हो सकते हैं। एक रोबोट इस बात से पूरी तरह आश्वस्त हो सकता है कि वह सही काम कर रहा है, जबकि उसका शरीर गलत काम कर रहा होता है।

अपने प्रयोगों में, शोधकर्ताओं ने दिखाया कि केवल थोड़े से विजुअल नॉइज़ (परटर्बेशन साइज 0.06) के साथ, वे एक अत्यधिक सफल रोब ביותר को विफलता की ओर ले जाने वाले रोबोट में बदल सकते हैं। उन्होंने केवल रोबोट को तोड़ा नहीं; उन्होंने उस कनेक्शन को तोड़ दिया जो रोबोट के सोचने और उसके वास्तव में करने के बीच है। इसका अर्थ यह है कि अगली पीढ़ी के सुरक्षित रोबोटों के लिए, इंजीनियर केवल भविष्य की भविष्यवाणी करने की रोबोट की क्षमता पर भरोसा नहीं कर सकते। उन्हें ऐसे सिस्टम बनाने की आवश्यकता है जो लगातार यह जाँचते रहें कि क्या रोबोट का सपना उसकी वास्तविकता से मेल खाता है, यह सुनिश्चित करते हुए कि स्वप्नद्रष्टा और कर्ता दोनों एक ही पृष्ठ पर हैं।

तकनीकी सारांश: BadWAM – जब विश्व-क्रिया मॉडल (World-Action Models) सही सपने देखते हैं लेकिन गलत कार्य करते हैं

1. समस्या विवरण

विश्व-क्रिया मॉडल (World-Action Models - WAMs) एम्बोडीड एआई (embodied AI) में एक बदलाव का प्रतिनिधित्व करते हैं, जो विशुद्ध रूप से प्रतिक्रियाशील नीतियों (reactive policies) से हटकर ऐसे सिस्टम की ओर बढ़ते हैं जो भविष्य के विश्व पूर्वानुमान (world prediction) के साथ क्रिया जनरेशन (action generation) को जोड़ते हैं। प्रचलित धारणा यह है कि यह जुड़ाव अंतर्निहित मजबूती और सुरक्षा प्रदान करता है: यदि एक रोबोट अपने कार्यों के परिणामों की "कल्पना" कर सकता है, तो निष्पादन (execution) से पहले असुरक्षित या असंगत व्यवहारों का पता लगाया जा सकता है।

यह शोध पत्र उस धारणा को चुनौती देता है, और एक विशिष्ट भेद्यता (vulnerability) की पहचान करता है जिसे वर्ल्ड-एक्शन ड्रिफ्ट (World-Action Drift) कहा गया है। मूल समस्या यह है कि एक WAM के कल्पित भविष्य और उसके द्वारा निष्पादित क्रिया के बीच का संरेखण (alignment) अत्यंत नाजुक है। एक हमलावर इन दोनों युग्मित क्षमताओं को असंतुलित करने के लिए छोटे, सीमित दृश्य व्यवधान (visual perturbations) उत्पन्न कर सकता है। परिणाम एक ऐसा विफलता मोड है जहाँ मॉडल भविष्य के प्रशंसनीय भविष्यवाणियों को जारी रखता है (सुरक्षा का आभास बनाए रखते हुए) जबकि ऐसी क्रियाएं निष्पादित करता है जो कार्य विफलता की ओर ले जाती हैं। यह अंतराल भविष्य-पूर्वानुमान-आधारित सुरक्षा मॉनीटरों को अप्रभावी बना देता है, क्योंकि वे एक ऐसे "प्रशंसनीय" भविष्य को मान्य कर सकते हैं जो वास्तव में निष्पादित पथ (actual executed trajectory) के अनुरूप नहीं है।

2. कार्यप्रणाली: BadWAM फ्रेमवर्क

लेखक BadWAM का परिचय देते हैं, जो वर्ल्ड-एक्शन ड्रिफ्ट हमलों के मॉडलिंग और मूल्यांकन के लिए एक एकीकृत ब्लैक-बॉक्स फ्रेमवर्क है। यह फ्रेमवर्क एक ऐसे थ्रेट मॉडल के तहत कार्य करता है जहाँ एक हमलावर मॉडल के ग्रेडिएंट या वेट्स (weights) तक पहुँच प्राप्त किए बिना, दृश्य अवलोकन ( $\tilde{o}_t = \text{clip}(o_t + \delta_t)$ ) को विक्षेपित (perturb) कर सकता है जो WAM द्वारा प्रोसेस किया जाने वाला है।

BadWAM हमले की सतह को दो अक्षों के माध्यम से लक्षणित करता है: हमले की शक्ति (attack strength) और छिपने की क्षमता (stealthiness)। यह दो विशिष्ट हमले के उद्देश्यों को स्थापित करता है:

A. केवल-क्रिया प्रतिकूल हमला (Action-Only Adversarial Attack)

यह हमला व्यवधान को प्राथमिकता देता है। यह WAM को एक क्वेरेबल कंट्रोलर के रूप में मानता है और एक सीमित दृश्य व्यवधान ( $\|\delta\|_\infty \le \epsilon$ ) खोजने का प्रयास करता है जो क्लीन एक्शन चंक ( $a$ ) और हमलावर एक्शन चंक ( $a^\delta$ ) के बीच विचलन को अधिकतम करता है:
$\delta^*_t = \arg \max_{\|\delta_t\|_\infty \le \epsilon} D_{\text{act}}(a^\delta_{t:t+H-1}, a_{t:t+H-1})$
यह हमला कल्पित भविष्य की स्थिति की अनदेखी करता है, और केवल रोबोट को कार्य-विफलता वाली क्रियाओं की ओर धकेलने पर ध्यान केंद्रित करता है।

B. कल्पना-संरक्षण प्रतिकूल हमला (Imagination-Preserving Adversarial Attack)

यह हमला छिपने की क्षमता (stealth) को प्राथमिकता देता है। यह उन प्रणालियों को लक्षित करता है जहाँ भविष्य की भविष्यवाणियों को सुरक्षा मॉनीटर या प्लानर्स के सामने प्रस्तुत किया जाता है। इसका उद्देश्य हानिकारक क्रिया परिवर्तनों को प्रेरित करना है जबकि कल्पित भविष्य ( $z^\delta$ या $v^\delta$ ) को क्लीन कल्पना ( $z$ या $v$ ) के करीब रखा जाए। इसे एक लैग्रेंजियन रिलैक्सेशन (Lagrangian relaxation) के रूप में तैयार किया गया है:
$\delta^*_t = \arg \max_{\|\delta_t\|_\infty \le \epsilon} \left( D_{\text{act}}(a^\delta, a) - \lambda D_{\text{img}}(z^\delta, z) \right)$
यहाँ, $\lambda$ हमले की शक्ति और छिपने की क्षमता के बीच के संतुलन (trade-off) को नियंत्रित करता है। इस शासन में एक सफल हमला वह है जहाँ रोबोट एक सुरक्षित भविष्य का "सपना" देखता है लेकिन विनाशकारी रूप से "कार्य" करता है।

अनुकूलन रणनीति (Optimization Strategy)

BadWAM जीरोथ-ऑर्डर ऑनलाइन ऑप्टिमाइज़ेशन (zeroth-order online optimization) का उपयोग करता है। प्रत्येक रीप्लानिंग स्टेप पर, हमलावर फ्रीज किए गए WAM को एक ब्लैक बॉक्स के रूप में मानता है। फाइनाइट-डिफरेंस क्वेरीज़ का उपयोग करके, यह $\delta$ के सापेक्ष ऑब्जेक्ट फंक्शन के ग्रेडिएंट का अनुमान लगाता है और प्रोजेक्टेड ग्रेडिएंट डिसेंट के माध्यम से व्यवधान को अपडेट करता है। इस दृष्टिकोण के लिए मॉडल पैरामीटर्स या ट्रेनिंग डेटा तक पहुँच की आवश्यकता नहीं होती है।

3. मुख्य योगदान

वर्ल्ड-एक्शन ड्रिफ्ट की पहचान: यह शोध पत्र WAMs के लिए एक नई हमले की सतह को परिभाषित करता है जहाँ क्रिया आउटपुट को प्रतिकूल रूप से हाईजैक किया जा सकता है जबकि मॉडल की भविष्यवाणियाँ दृश्य रूप से प्रशंसनीय बनी रहती हैं।
BadWAM फ्रेमवर्क: एक एकीकृत फ्रेमवर्क का डिज़ाइन जिसमें दो इंस्टेंशिएशन शामिल हैं:
- केवल-क्रिया हमले (Action-only attacks): निष्पादन व्यवधान को अधिकतम करने के लिए।
- कल्पना-संरक्षण हमले (Imagination-preserving attacks): प्रशंसनीय भविष्य को बनाए रखते हुए विफलताओं को उत्पन्न करने के लिए, जो भविष्य-आधारित सुरक्षा जाँचों की सीमाओं को उजागर करते हैं।
व्यापक मूल्यांकन: LIBERO और RoboTwin बेंचमार्क पर क्लोज्ड-लूप रोबोट मैनिपुलेशन कार्यों पर व्यापक मूल्यांकन, जो सीमित दृश्य व्यवधानों के तहत महत्वपूर्ण कार्य गिरावट (task degradation) प्रदर्शित करता है।
नैदानिक विश्लेषण (Diagnostic Analysis): हमले की गतिशीलता पर विस्तृत अंतर्दृष्टि, जिसमें चैनल-स्तरीय शिफ्ट (निरंतर क्रिया चैनलों और बाद के क्षितिज को प्रभावित करना), भविष्य संरक्षण और हमले की शक्ति के बीच ट्रेड-ऑफ, और विभिन्न WAM वेरिएंट्स के बीच हमलों की ट्रांसफरेबिलिटी (transferability) शामिल है।

4. प्रयोगात्मक परिणाम

लेखकों ने LIBERO और RoboTwin बेंचमार्क पर तीन WAM वेरिएंट्स (Action-only, Joint, और IDM WAM) पर BadWAM का मूल्यांकन किया।

कार्य सफलता में कमी: हमलों ने प्रदर्शन को काफी कम कर दिया। LIBERO पर Action-only WAM के लिए, Action-only हमले ने कार्य सफलता को 96.5% से घटाकर 43.1% (53.4% की गिरावट) कर दिया। Joint और IDM WAM ने भी Action-only हमलों के तहत 30–36% की गिरावट देखी।
छिपने की क्षमता (Stealthiness): कल्पना-संरक्षण हमले ने मजबूत हमला प्रदर्शन (उदाहरण के लिए, Joint WAM के लिए सफलता को ~63% तक कम करना) बनाए रखते हुए भविष्य की दूरी को क्लीन रोलआउट के करीब रखने में सफलता प्राप्त की। यह पुष्टि करता है कि केवल भविष्य की संभाव्यता पर भरोसा करने वाले सुरक्षा मॉनीटर इन हमलों का पता लगाने में विफल रहेंगे।
व्यवस्थित विफलता (Systematic Failure): विफलताएँ यादृच्छिक (random) नहीं बल्कि व्यवस्थित थीं, विशेष रूप से स्थानिक (spatial) और लॉन्ग-होरिज़न कार्यों को प्रभावित करती हैं जहाँ छोटी क्रिया त्रुटियां समय के साथ बढ़ती हैं। हमले ने तत्काल विनाशकारी विफलता के बजाय क्रमिक ड्रिफ्ट (progressive drift) उत्पन्न किया।
ट्रांसफरेबिलिटी (Transferability): एक WAM वेरिएंट पर अनुकूलित व्यवधान दूसरे पर प्रभावी ढंग से स्थानांतरित हुए (जैसे, Joint $\to$ IDM), जो यह सुझाव देता है कि यह मॉडल-विशिष्ट ओवरफिटिंग के बजाय ऑब्जर्वेशन स्पेस में साझा संवेदनशीलता दिशाओं (shared sensitivity directions) के कारण है।
रक्षा की सीमाएं: सरल नॉन-अडैप्टिव डिफेंस (Gaussian blur, JPEG noise) ने हमलों को आंशिक रूप से कम किया, लेकिन क्लीन परफॉरमेंस की कीमत पर या अपूर्ण सुरक्षा के साथ। ऑगमेंटेशन-कंसिस्टेंसी डिटेक्टर्स ने व्यावहारिक फॉल्स-पॉजिटिव रेट पर कम रिकॉल दिखाया, जो इंगित करता है कि वर्तमान पहचान विधियाँ अपर्याप्त हैं।

5. महत्व और दावे

शोध पत्र का दावा है कि WAMs में विश्व भविष्यवाणी के साथ क्रिया का जुड़ाव, जिसे अक्सर सुरक्षा विशेषता के रूप में सराहा जाता है, एक अनूठी भेद्यता पेश करता है। प्राथमिक महत्व इस बात में निहित है कि केवल भविष्य की भविष्यवाणी अकेले एक विश्वसनीय सुरक्षा संकेत नहीं है।

लेखक तर्क देते हैं कि सुरक्षा-महत्वपूर्ण वस्तु क्रिया या कल्पना में से कोई एक नहीं है, बल्कि उनका संरेखण (alignment) है। एक WAM को ऐसे असंतुलित क्रियाओं को निष्पादित करने के लिए हेरफेर किया जा सकता है जो कार्य विफलता का कारण बनती हैं, जबकि एक "प्रशंसनीय" भविष्य की कल्पना बनाए रखती हैं। यह निष्कर्ष निकालता है कि एम्बोडीड एआई के लिए सुरक्षा तंत्र को केवल कल्पित भविष्य की संभाव्यता की जाँच करने से आगे बढ़ना होगा; उन्हें प्रतिकूल परिस्थितियों में कल्पित पथ और निष्पादित क्रिया के बीच सिंक्रोनाइज़ेशन (तालमेल) को स्पष्ट रूप से सत्यापित करना होगा। शोध पत्र निष्कर्ष निकालता है कि BadWAM वर्ल्ड-एक्शन मॉडल्स की वास्तविक मजबूती का मूल्यांकन करने के लिए एक आवश्यक नैदानिक प्रोटोकॉल प्रदान करता है।