🤖 AI

What Breaks Embodied AI Security:LLM Vulnerabilities, CPS Flaws,or Something Else?

यह सर्वेक्षण तर्क देता है कि एम्बोडेड (embodied) AI प्रणालियों की सुरक्षा को केवल LLM की कमजोरियों या CPS के दोषों का अलग-अलग विश्लेषण करके पूरी तरह से संबोधित नहीं किया जा सकता है, क्योंकि उनके मौलिक जोखिम एम्बोडिमेंट-प्रेरित सिस्टम-स्तरीय विसंगतियों से उत्पन्न होते जहाँ गैर-रेखीय गतिकी (nonlinear dynamics), त्रुटि प्रसार (error propagation) और गैर-संयोजनकारी सुरक्षा (non-compositional safety) के कारण सिमेंटिक शुद्धता भौतिक सुरक्षा की गारंटी देने में विफल रहती है।

मूल लेखक: Boyang Ma, Hechuan Guo, Peizhuo Lv, Minghui Xu, Xuelong Dai, YeChao Zhang, Yijun Yang, Yue Zhang

प्रकाशित 2026-02-20

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Boyang Ma, Hechuan Guo, Peizhuo Lv, Minghui Xu, Xuelong Dai, YeChao Zhang, Yijun Yang, Yue Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य प्रश्न: जब एक रोबोट टूट जाता है, तो दोष किसका है?

कल्पना कीजिए कि आपके पास एक बिल्कुल नया रोबोट बटलर (नौकर) है। वह बहुत स्मार्ट है (उसका "दिमाग" एक लार्ज लैंग्वेज मॉडल द्वारा संचालित है, जैसे कि एक सुपर-चार्ज्ड चैटबॉट) और उसके पास एक भौतिक शरीर (हाथ, पहिए, सेंसर) है जो वास्तविक दुनिया के साथ अंतःक्रिया करता है।

हाल ही में, ये रोबोट खतरनाक गलतियाँ करने लगे हैं। वे एक नाजुक फूलदान गिरा सकते हैं, दीवार में जा टकरा सकते हैं, या किसी इंसान को चोट पहुँचा सकते हैं।

यह शोध पत्र जो बड़ा सवाल पूछता है, वह यह है: रोबोट क्यों विफल हुआ?

क्या यह दिमाग है? क्या एआई (AI) एक पेचीदा सवाल से भ्रमित हो गया (जैसे कि एक हैकर द्वारा चैटबॉट को चकमा देना)?
क्या यह शरीर है? क्या कोई सेंसर टूट गया या मोटर में खराबी आ गई (जैसे कि कार के ब्रेक फेल हो जाना)?
या यह कुछ और ही है?

लेखक तर्क देते हैं कि उत्तर "कुछ और ही" है। यह केवल दिमाग या शरीर का अलग से विफल होना नहीं है। यह दोनों के बीच का बेमेल (mismatch) है। रोबोट "तर्क" की भाषा बोलने की कोशिश कर रहा है जबकि वह "भौतिकी" (physics) की दुनिया में रह रहा है, और वे एक ही बोली नहीं बोलते।

मूल समस्या: "स्वप्नद्रष्टा" बनाम "यथार्थवादी"

रोबोट के दिमाग (LLM) को एक स्वप्नद्रष्टा (Dreamer) के रूप में सोचें।

स्वप्नद्रष्टा कहानियों, तर्क और निर्देशों का पालन करने में बहुत अच्छा है।
यदि आप कहते हैं, "उस कांच को जल्दी से उठाओ," तो स्वप्नद्रष्टा सोचता है: "समझ गया! कांच उठाओ, तेज़ चलो। हो गया!"
स्वप्नद्रष्टा को यह नहीं पता कि "जल्दी से" का मतलब "कांच को चकनाचूर करना" या "गीले फर्श पर फिसलना" हो सकता है। वह दुनिया को एक वीडियो गेम की तरह मानता है जहाँ भौतिकी (physics) को अनदेखा किया जा सकता है।

रोबोट के शरीर (CPS) को एक यथार्थवादी (Realist) के रूप में देखें।

यथार्थवादी गुरुत्वाकर्षण, घर्षण, वजन और गति की सीमाओं से निपटता है।
यदि स्वप्नद्रष्टा कहता है "तेज़ चलो," तो यथार्थवादी जानता है कि किसी भारी वस्तु को तेज़ी से चलाने के लिए अधिक बल की आवश्यकता होती है, जिससे रोबोट पलट सकता है।

सुरक्षा का उल्लंघन (The Security Break): रोबोट इसलिए विफल होता है क्योंकि स्वप्नद्रष्टा एक ऐसा आदेश देता है जो एक कहानी की किताब में तो एकदम सही लगता है, लेकिन यथार्थवादी उसे लागू करने की कोशिश करता है और दुर्घटनाग्रस्त हो जाता है क्योंकि भौतिकी के नियम उस कहानी का हिस्सा नहीं थे।

इसे ठीक करना इतना कठिन क्यों है: चार कारण

यह शोध पत्र पहचानता है कि यह "स्वप्नद्रष्टा बनाम यथार्थवादी" अंतराल रोबोट को खतरनाक क्यों बनाता है:

1. "परफेक्ट वाक्य, टूटा हुआ कांच" की समस्या

उपमा: कल्पना कीजिए कि एक शेफ एक रेसिपी को पूरी तरह से पढ़ता है। रेसिपी कहती है, "अंडों को ज़ोर-ज़ोर से फेंटें।" शेफ निर्देश का पूरी तरह से पालन करता है। लेकिन कटोरा सस्ते प्लास्टिक का बना था, और ज़ोर-ज़ोर से फेंटने से वह टूट गया।
वास्तविकता: रोबोट का दिमाग "सिमेंटिक रूप से सही" (उसने शब्दों को समझ लिया) हो सकता है, लेकिन "भौतिक रूप से असुरक्षित" (उसने भौतिकी के नियमों को तोड़ दिया) हो सकता है। दिमाग को कांच के वजन या मेज के घर्षण का "एहसास" नहीं होता।

2. "वही चाल, अलग परिणाम" की समस्या

उपमा: एक स्केटबोर्डर के बारे में सोचें। यदि वे समतल कंक्रीट पर 'किकफ्लिप' करते हैं, तो वे सुरक्षित रूप से उतरते हैं। यदि वे ठीक वही 'किकफ्लिप' गीली पत्तियों के पैच पर करते हैं, तो वे उड़ जाते हैं और उन्हें चोट लग जाती है। चाल नहीं बदली; दुनिया की अवस्था (state) बदल गई।
वास्तविकता: डिजिटल दुनिया में, यदि आप "A" टाइप करते हैं, तो आपको हमेशा "A" मिलता है। भौतिक दुनिया में, ठीक वही क्रिया आपदा का कारण बन सकती है यदि फर्श फिसलन भरा हो, वस्तु उम्मीद से भारी हो, या कोई व्यक्ति रास्ते में आ जाए। रोबोट इन सूक्ष्म परिवर्तनों का अनुमान नहीं लगा सकता।

3. "फुसफुसाती हवा" का प्रभाव (Error Propagation)

उपमा: "टेलीफोन" खेल की कल्पना करें जहाँ एक संदेश एक लाइन में आगे बढ़ाया जाता है। यदि पहला व्यक्ति फुसफुसाता है "दरवाजा खुला है," और आखिरी व्यक्ति सुनता है "दरवाजा बंद है," तो पूरा खेल बर्बाद हो जाता है।
वास्तविकता: एक रोबोट में, "देखने" (perception) की एक छोटी सी गलती "सोचने" (planning) को दी जाती है, जो फिर "चलने" (control) को दी जाती है। दीवार को 1 मीटर के बजाय 1.1 मीटर दूर देखने की एक छोटी सी त्रुटि, रोबोट को एक ऐसा रास्ता बनाने के लिए प्रेरित कर सकती है जिससे दुर्घटना हो जाए। ये छोटी त्रुटियां बड़ी आपदाओं में बदल जाती हैं।

4. "सुरक्षित कदम, खतरनाक यात्रा" की समस्या

उपमा: बारूदी सुरंगों (minefield) के बीच चलने की कल्पना करें। आप एक कदम उठाते हैं जो पूरी तरह से सुरक्षित है। फिर दूसरा सुरक्षित कदम। फिर एक और। लेकिन क्योंकि आप सीधी रेखा में चलते रहे, आप अंततः एक बारूद के ढेर पर कदम रख देते हैं। हर एक कदम "सुरक्षित" था, लेकिन यात्रा घातक थी।
वास्तविकता: एक रोबोट कई छोटे, सुरक्षित निर्णय ले सकता है। लेकिन क्योंकि वह समय के साथ "बड़ी तस्वीर" नहीं देख पाता, इसलिए वे सुरक्षित कदम मिलकर एक वैश्विक रूप से असुरक्षित स्थिति पैदा कर सकते हैं (जैसे कि एक प्रतिबंधित क्षेत्र में गाड़ी चलाना क्योंकि हर मोड़ व्यक्तिगत रूप से ठीक लग रहा था)।

पुराने सुरक्षा नियम क्यों काम नहीं करते

शोध पत्र बताता है कि हम इसे दो पुराने उपकरणों से ठीक करने की कोशिश कर रहे हैं, लेकिन वे पर्याप्त नहीं हैं:

"चैटबॉट गार्ड" (LLM सुरक्षा): हम हैकर्स को बुरे शब्दों से रोबोट को धोखा देने से रोकने की कोशिश करते हैं।
- क्यों विफल होता है: भले ही रोबोट को चकमा न दिया गया हो, फिर भी वह गलती कर सकता है क्योंकि वह भौतिकी को नहीं समझता। आप एक रोबोट को "जेलब्रेक" करके गुरुत्वाकर्षण समझने के लिए मजबूर नहीं कर सकते।
"कार मैकेनिक" (CPS सुरक्षा): हम यह सुनिश्चित करने की कोशिश करते हैं कि सेंसर और मोटर खराब न हों या हैक न हों।
- क्यों विफल होता है: भले ही सेंसर सटीक हों और मोटर मजबूत हों, फिर भी रोबोट का दिमाग कुछ मूर्खतापूर्ण करने का निर्णय ले सकता है क्योंकि वह अपने कार्यों के परिणामों को नहीं समझता।

समाधान: एक नए प्रकार की सुरक्षा

लेखक कहते हैं कि हमें दिमाग और शरीर को अलग-अलग देखना बंद कर देना चाहिए। हमें एक "सिस्टम-स्तरीय सुरक्षा" (System-Level Safety) दृष्टिकोण बनाना होगा।

रूपक: केवल इंजन (शरीर) या ड्राइविंग लाइसेंस (दिमाग) की जांच करने के बजाय, हमें एक "को-पायलट" की आवश्यकता है जो लगातार यह जांचता रहे: "क्या यह तार्किक योजना वास्तव में अभी वास्तविक दुनिया में संभव है?"
लक्ष्य: हमें ऐसे रोबोट चाहिए जो न केवल सवालों के सही जवाब दें, बल्कि यह भी समझें कि यदि वे बहुत ज़ोर से धक्का देंगे, तो चीजें टूट जाएंगी। उन्हें अनिश्चितता, घर्षण और इस तथ्य के प्रति जागरूक होने की आवश्यकता है कि दुनिया अस्त-व्यस्त है।

सारांश

यह शोध पत्र तर्क देता है कि रोबोट सुरक्षा के लिए सबसे बड़ा खतरा हैकर्स या खराब पुर्जे नहीं हैं। यह इस बात के बीच का अंतर (gap) है कि रोबोट क्या सोच रहा है और वह वास्तविक दुनिया में वास्तव में क्या करने में सक्षम है। इसे ठीक करने के लिए, हमें रोबोट को केवल भाषा के नियमों को ही नहीं, बल्कि भौतिकी के नियमों का सम्मान करना भी सिखाना होगा।

यहाँ शोध पत्र "What Breaks Embodied AI Security: LLM Vulnerabilities, CPS Flaws, or Something Else?" का विस्तृत तकनीकी सारांश दिया गया है:

1. समस्या विवरण (Problem Statement)

एम्बोडेड एआई (Embodied AI - EA) सिस्टम—जैसे स्वायत्त वाहन (autonomous vehicles), सेवा रोबोट और LLM-संचालित एजेंट—नियंत्रित प्रयोगशालाओं से निकलकर सुरक्षा-महत्वपूर्ण वास्तविक दुनिया के अनुप्रयोगों की ओर बढ़ रहे हैं। शुद्ध डिजिटल एआई के विपरीत, EA में होने वाली विफलताओं के परिणाम भौतिक रूप से अपरिव reversible (अपरिवर्तनीय) होते हैं।

मुख्य समस्या जिसका समाधान किया गया है वह है विफलता के कारणों का गलत निदान (misdiagnosis of failure causes)। वर्तमान अनुसंधान और सुरक्षा प्रतिमान (paradigms) EA सुरक्षा को दो अलग-अलग श्रेणियों में विभाजित करने की प्रवृत्ति रखते हैं:

LLM-केंद्रित दृष्टिकोण: प्रॉम्प्ट इंजेक्शन, जेलब्रेकिंग और मतिभ्रम (hallucinations) जैसे सॉफ़्टवेयर भेद्यताओं पर ध्यान केंद्रित करना।
CPS-केंद्रित दृष्टिकोण: शास्त्रीय साइबर-फिजिकल सिस्टम (CPS) दोषों जैसे सेंसर स्पूफिंग, कंट्रोल लूप अस्थिरता और एक्चुएटर हमलों पर ध्यान केंद्रित करना।

लेखकों का तर्क है कि इनमें से कोई भी दृष्टिकोण अकेले पर्याप्त नहीं है। आधुनिक एम्बोडेड सिस्टम में देखी गई कई टूट-फूट (breakdowns) न तो केवल मॉडल की खामियों से होती हैं और न ही पारंपरिक हार्डवेयर हमलों से, बल्कि वे एम्बोडमेंट-प्रेरित सिस्टम-स्तरीय बेमेल (embodiment-induced system-level mismatches) से उत्पन्न होती हैं। यह शोध पत्र यह पता लगाने का प्रयास करता है: एम्बोडेड एआई सुरक्षा को वास्तव में क्या तोड़ता है?

2. कार्यप्रणाली (Methodology)

यह शोध पत्र एक व्यापक सर्वेक्षण और मूल-कारण विश्लेषण (comprehensive survey and root-cause analysis) दृष्टिकोण का उपयोग करता है, जो तीन आयामों में संरचित है:

भेद्यताओं का वर्गीकरण (Taxonomy of Vulnerabilities): LLM-आधारित एजेंटों में उभरते खतरों (सिमेंटिक हमले, क्रॉस-मोडल विसंगतियां) को व्यवस्थित करना और लर्निंग-सक्षम प्रणालियों के भीतर शास्त्रीय CPS खतरों (सेंसर, नियंत्रण, एक्चुएटर, टाइमिंग हमले) को पुनरावृत्त करना।
डोमेन का संश्लेषण (Synthesis of Domains): LLM तर्क (reasoning) और भौतिक निष्पादन (physical execution) के मिलन बिंदु का विश्लेषण करना ताकि उन संरचनात्मक अंतराल की पहचान की जा सके जिन्हें अकेले किसी एक डोमेन में नहीं घटाया जा सकता।
मूल कारण की पहचान (Root Cause Identification): सतही विफलता मोड से आगे बढ़कर उन चार मुख्य अंतर्दृष्टियों (insights) की पहचान करना जो यह बताती हैं कि एम्बोडेड एआई को सुरक्षित करना केवल LLMs या CPS को अलग से सुरक्षित करने की तुलना में मौलिक रूप से कठिन क्यों है।

यह विश्लेषण नियम-आधारित नियंत्रण से फाउंडेशन-मॉडल-सक्षम एजेंटों तक के विकास को कवर करता है, जिसमें एक न्यूनतम वास्तुशिल्प अपघटन (architectural decomposition) का उपयोग किया गया है: (अनुभूति [Perception] $\to$ निर्णय/तर्क [Decision/Reasoning] $\to$ व्यवहार योजना/नियंत्रण [Behavior Planning/Control] $\to$ भौतिक वातावरण [Physical Environment])।

3. प्रमुख योगदान और मुख्य अंतर्दृष्टि (Key Contributions & Core Insights)

शोध पत्र का प्राथमिक योगदान उन चार मौलिक अंतर्दृष्टियों की पहचान करना है जो एम्बोडेड एआई की अनूठी सुरक्षा चुनौतियों की व्याख्या करती हैं:

अंतर्दृष्टि 1: सिमेंटिक शुद्धता $\neq$ भौतिक सुरक्षा (Semantic Correctness $\neq$ Physical Safety)

अंतराल (The Gap): भाषा-स्तर का तर्क ज्यामिति (geometry), गतिशीलता (dynamics), घर्षण (friction) और संपर्क बाधाओं (contact constraints) को अनदेखा कर देता है।
विफलता: एक क्रिया सिमेंटिक रूप से वैध (उपयोगकर्ता के इरादे के साथ तार्किक रूप से सुसंगत) हो सकती है, लेकिन भौतिक रूप से खतरनाक हो सकती है। उदाहरण के लिए, "तेजी से चलें" का निर्देश LLM द्वारा सही ढंग से समझा जा सकता है, लेकिन इसे ऐसे बल के साथ निष्पादित किया जा सकता है जो घर्षण सीमाओं से अधिक हो, जिससे रोबोट फिसल सकता है या कोई वस्तु टूट सकती है।
निहितार्थ: बेहतर तर्क सुरक्षित व्यवहार की गारंटी नहीं देता क्योंकि भाषा मॉडलों में मौजूद "विश्व मॉडल" (world model) भौतिक बाधाओं से रहित होता है।

अंतर्दृष्टि 2: अवस्था-निर्भर परिणाम परिवर्तनशीलता (State-Dependent Consequence Variability)

अंतराल: डिजिटल सिस्टम में, समान इनपुट समान आउटपुट देते हैं। भौतिक प्रणालियों में, समान क्रियाएं अवस्था (pose, संपर्क मोड, सामग्री के गुण, पर्यावरणीय गतिशीलता) के आधार पर बहुत अलग परिणाम देती हैं।
विफलता: नॉनलीनियर डायनेमिक्स का अर्थ है कि अवस्था में छोटे बदलाव एक सुरक्षित क्रिया को खतरनाक क्रिया में बदल सकते हैं। स्टेटिक वैलिडेशन या वन-शॉट पॉलिसी सर्टिफिकेशन अपर्याप्त है क्योंकि सुरक्षा किसी क्रिया का स्थिर गुण नहीं है, बल्कि एक गतिशील अवस्था का फलन (function) है।

अंतर्दृष्टि 3: त्रुटि प्रसार और प्रवर्धन (Error Propagation and Amplification)

अंतराल: एम्बोडेड एआई एक कसकर जुड़े हुए फीडबैक लूप (अनुभूति $\to$ निर्णय $\to$ क्रिया) के रूप में कार्य करता है।
विफलता: धारणा संबंधी मामूली त्रुटियां, ग्राउंडिंग अस्पष्टताएं, या तर्क विचलन परतों के बीच कैस्केड (क्रमवार प्रसार) होते हैं। महत्वपूर्ण बात यह है कि अनिश्चितता (uncertainty) को मॉड्यूल के बीच स्पष्ट रूप से प्रसारित नहीं किया जाता है। एजेंट उच्च अनिश्चितता के तहत कार्रवाई को स्थगित करने के बजाय आक्रामक निष्पादन के लिए प्रतिबद्ध हो जाते हैं, जिससे संचयी त्रुटियां होती हैं जो किसी एक घटक के विफल होने के बिना भी विनाशकारी विफलता का कारण बनती हैं।

अंतर्दृष्टि 4: गैर-रचनात्मक सुरक्षा (Non-Compositional Safety)

अंतराल: सुरक्षा समय या सिस्टम परतों के ऊपर 'कंपोजिशनल' (रचनात्मक) नहीं है।
विफलता: ऐसी क्रियाएं जो स्थानीय रूप से सुरक्षित और व्यक्तिगत रूप से न्यायसंगत हैं, वे वैश्विक रूप से असुरक्षित पथों (trajectories) में संचित हो सकती हैं, विशेष रूप से गतिशील, मानव-साझा वातावरण में। पारंपरिक CPS के विपरीत जहाँ सुरक्षा को नियंत्रण परत पर लागू किया जाता है, एम्बोडेड एआई अनुकूलन योग्य निर्णय लेने की प्रक्रिया पेश करता है जो निरंतर उद्देश्यों को नया आकार देता है, जिससे दीर्घकालिक सुरक्षा उल्लंघन का अनुमान लगाना कठिन हो जाता है।

4. भेद्यताओं का विस्तृत विश्लेषण (Detailed Analysis of Vulnerabilities)

शोध पत्र मौजूदा खतरों को तीन डोमेन में वर्गीकृत करता है:

LLM भेद्यताएं (सिमेंटिक और इरादा):
- जेलब्रेकिंग (Jailbreaking): ऐसे हमले जो हानिकारक भौतिक योजनाओं को उत्पन्न करने के लिए सुरक्षा फिल्टर को बायपास करते हैं (जैसे, "RoboPair," "POEX")।
- क्रॉस-मोडल इंजेक्शन (Cross-Modal Injection): एजेंट के निर्णय लेने की प्रक्रिया को हाईजैक करने के लिए दृश्य इनपुट (दृश्य में पैच, टेक्स्ट) को हेरफेर करना (जैसे, "CHAI," "CrossInject")।
- बैकडोर्स (Backdoors): प्रशिक्षण के समय के हमले जहाँ विशिष्ट ट्रिगर्स (भौतिक वस्तुएं या दृश्य पैटर्न) दुर्भावनापूर्ण व्यवहार को सक्रिय करते हैं।
CPS भेद्यताएं (भौतिक और नियंत्रण):
- सेंसर अखंडता (Sensor Integrity): GPS स्पूफिंग, LiDAR स्पूफिंग, और IMUs पर ध्वनिक (acoustic) हमले।
- कंट्रोल लूप (Control Loop): छोटे, समयबद्ध व्यवधानों के माध्यम से नियंत्रकों को अस्थिर करने के लिए फीडबैक डायनेमिक्स का फायदा उठाना।
- एक्चुएटर हमले (Actuator Attacks): भौतिक सुरक्षा को ओवरराइड करने के लिए सीधे दुर्भावनापूर्ण कमांड इंजेक्ट करना (जैसे, CAN बस इंजेक्शन)।
एम्बोडमेंट-विशिष्ट विफलताएं (The "Something Else"):
- सिमेंटिक-फिजिकल मिसमैच: योजनाएं तार्किक रूप से सुदृढ़ हैं लेकिन भौतिक रूप से अव्यवहारिक हैं।
- एक्जीक्यूशन ड्रिफ्ट (Execution Drift): सरलीकृत प्लानिंग मॉडल वास्तविक दुनिया की गतिशीलता और धारणा शोर (perception noise) को ध्यान में रखने में विफल रहते हैं।
- क्रॉस-लेयर मिसअलाइनमेंट: सिमेंटिक, प्लानिंग और कंट्रोल परतों पर स्थानीय इष्टतमता (local optimality) वैश्विक सुरक्षा में परिवर्तित नहीं होती है। इंटरफेस पर सूचना की हानि (जैसे, सुरक्षा तर्क को संख्यात्मक लागत में संकुचित करना) प्रणालीगत विफलताओं की ओर ले जाती है।

5. परिणाम और खुले विषय (Results & Open Challenges)

सर्वेक्षण मौजूदा साहित्य का संश्लेषण करता है ताकि यह प्रदर्शित किया जा सके कि:

वर्तमान बचाव अपर्याप्त हैं: मानक LLM अलाइनमेंट (RLHF) और CPS औपचारिक सत्यापन (formal verification) विफल हो जाते हैं जब उन्हें एम्बोडेड सिस्टम पर अलग से लागू किया जाता है।
नए हमले के सतह (Attack Surfaces): "मस्तिष्क-शरीर" इंटरफ़ेस अद्वितीय भेद्यताएं बनाता है जहाँ पर्यावरणीय संकेत (न केवल उपयोगकर्ता प्रॉम्प्ट) विफलताओं को ट्रिगर कर सकते हैं।
अपरिवर्तनीयता (Irreversibility): डिजिटल त्रुटियों के विपरीत, भौतिक विफलताओं को अक्सर वापस नहीं लिया जा सकता है।

पहचाने गए प्रमुख खुले विषय (Open Challenges):

पूर्वाग्रह और मतिभ्रम (Bias & Hallucination): प्रशिक्षण डेटा में विरासत में मिले पूर्वाग्रह जो भेदभावपूर्ण भौतिक कार्यों की ओर ले जाते; मतिभ्रम जो खतरनाक क्षेत्रों में नेविगेशन का कारण बनते हैं।
फिल्टर्स की असंभवता: छिपे हुए ट्रिगर्स बनाने (पॉलीनोमियल समय) और उन्हें पता लगाने (असाध्य/intractable) के बीच कम्प्यूटेशनल विषमता बाहरी निगरानी को अपर्याप्त बनाती है।
बहु-रोबोट समन्वय (Multi-Robot Coordination): असुरक्षित संचार या एल्गोरिदम संघर्ष के कारण बेड़े (fleets) में कैस्केडिंग विफलताएं।
मानव-कारक जोखिम (Human-Factor Risks): एजेंटों और मनुष्यों के बीच अत्यधिक विश्वास और गलत संचार।
सुरक्षा सीमाएँ (Protection Boundaries): "सुरक्षित" और "उपयोगी" अन्वेषण के बीच रेखा को परिभाषित करना; अत्यधिक सख्त सुरक्षा घेरे एजेंटों के सीखने में बाधा डाल सकते हैं।

6. महत्व (Significance)

यह शोध पत्र एम्बोडेड एआई सुरक्षा के प्रतिमान को मौलिक रूप से बदल देता है:

घटक से सिस्टम तक (From Component to System): यह तर्क देता है कि सुरक्षा केवल LLMs को पैच करके या सेंसरों को मजबूत करके प्राप्त नहीं की जा सकती। इसके लिए भौतिक जोखिम, अनिश्चितता और विफलता प्रसार के बारे में सिस्टम-स्तरीय तर्क की आवश्यकता है।
नए अनुसंधान दिशाएं: यह आह्वान करता है:
- भौतिक ग्राउंडिंग (Physical Grounding): तर्क मॉडलों में भौतिकी और गतिशीलता को सीधे एकीकृत करना।
- अनिश्चितता प्रसार (Uncertainty Propagation): धारणा से योजना और नियंत्रण तक अनिश्चितता अनुमानों को स्पष्ट रूप से पारित करना।
- क्रॉस-लेयर सत्यापन (Cross-Layer Verification): पूरे स्वायत्तता स्टैक (सिमेंटिक $\to$ प्लानिंग $\to$ कंट्रोल) में सुरक्षा अनुबंध विकसित करना।
- लचीला जोखिम प्रबंधन (Resilient Risk Management): "कुल भेद्यता उन्मूलन" से हटकर नियंत्रित जोखिम अन्वेषण और रिकवरी के ढांचे की ओर बढ़ना।

निष्कर्षतः, शोध पत्र का मानना है कि एम्बोडेड एआई की सुरक्षा केवल खराब कोड या खराब सेंसरों के कारण नहीं टूटी है, बल्कि भाषा की असतत (discrete), प्रतीकात्मक प्रकृति और भौतिक दुनिया की निरंतर (continuous), नॉनलीनियर और अनिश्चित प्रकृति के बीच के मौलिक अंतर के कारण टूटी है।