⚡ electrical engineering

Learning Red Agent Policy from Observations for Neurosymbolic Autonomous Cyber Agents

यह शोध पत्र न्यूरोसिंबोलिक स्वायत्त साइबर-रक्षा एजेंटों को नेटवर्क अवलोकनों से अदृश्य रेड एजेंट नीतियों और कार्यों की भविष्यवाणी करने में सक्षम बनाने के लिए एक इमिटेशन लर्निंग तकनीक का प्रस्ताव करता है, जिससे आंशिक रूप से दृश्यमान वातावरण में परिष्कृत साइबर हमलों के प्रति उनकी अनुकूलन क्षमता को बढ़ाया जा सके।

मूल लेखक: Ankita Samaddar, Sandeep Neema, Daniel Balasubramanian, Xenofon Koutsoukos

प्रकाशित 2026-06-17

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ankita Samaddar, Sandeep Neema, Daniel Balasubramanian, Xenofon Koutsoukos

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि कोहरे से भरे कमरे में शतरंज का एक उच्च-दांव वाला खेल चल रहा है। आप रक्षक (ब्लू एजेंट) हैं, जो अपने किले की रक्षा करने की कोशिश कर रहे हैं। आपका प्रतिद्वंद्वी हमलावर (रेड एजेंट) है, जो अंदर घुसने की कोशिश कर रहा है।

समस्या क्या है? आप अपने प्रतिद्वंद्वी को देख नहीं सकते। आप केवल उनके कदमों के परिणाम देखते हैं: एक दरवाजा अचानक खुल गया, एक लाइट टिमटिमाई, या फर्नीचर का एक टुकड़ा हिल गया। आप अपनी चालों को जानते हैं, लेकिन आपको यह अनुमान लगाना होगा कि आपके अदृश्य प्रतिद्वंद्वी ने कमरे में बदलाव के आधार पर क्या किया होगा।

यह शोध पत्र एक नया तरीका बताता है जिससे रक्षक एक डिजिटल नेटवर्क में हमलावर के "मन को पढ़" सकता है, भले ही हमलावर छिपा हुआ हो।

परिवेश: एक डिजिटल किला

शोधकर्ताओं ने CybORG नामक एक सिम्युलेटेड नेटवर्क का उपयोग किया। इस नेटवर्क को एक किले के रूप में सोचें जिसमें तीन क्षेत्र हैं:

आंगन (यूजर सबनेट): जहाँ नियमित लोग काम करते हैं।
कार्यालय (एंटरप्राइज सबनेट): जहाँ महत्वपूर्ण सर्वर और डेटा रहता है।
तिजोरी (ऑपरेशनल सबनेट): सबसे महत्वपूर्ण, संवेदनशील मशीनरी।

हमलावर आंगन से होते हुए, कार्यालय से गुजरते हुए, अंततः तिजोरी में घुसने और नुकसान पहुँचाने की कोशिश करता है। रक्षक उन्हें रोकने की कोशिश करता है।

समस्या: "ब्लैक बॉक्स" कोहरा

इस खेल में, रक्षक "पार्शियली ऑब्जर्वेबल" (आंशिक रूप से दृश्यमान) है। यह कहने का एक फैंसी तरीका है: "मैं हमलावर को नहीं देख सकता।"

रक्षक नेटवर्क की स्थिति देखता है (जैसे, "सर्वर A अब समझौता किया गया है/compromised है")।
रक्षक जानता है कि उसने क्या किया (जैसे, "मैंने नेटवर्क को स्कैन किया")।
लेकिन रक्षक को यह नहीं पता कि उस बदलाव को पैदा करने के लिए हमलावर ने क्या किया। क्या उन्होंने स्कैन किया? क्या उन्होंने पासवर्ड हैक किया? क्या उन्होंने वायरस इंस्टॉल किया?

यह जाने बिना कि हमलावर का विशिष्ट कदम क्या था, उनके अगले कदम की भविष्यवाणी करना या यह समझना कठिन है कि वे सिस्टम में कितनी गहराई तक घुस चुके हैं।

समाधान: एक "शरलॉक होम्स" AI

लेखकों ने इमिटेशन लर्निंग के समान एक विधि का उपयोग करके पॉलिसी लर्निंग नामक एक तकनीक का प्रस्ताव दिया है।

यहाँ उपमा है: कल्पना कीजिए कि आप एक जादूगर को उसका करतब दिखाते हुए देख रहे हैं। आप जादूगर के हाथों को चलते हुए देखते हैं (रक्षक की कार्रवाई) और आप खरगोश को टोपी से बाहर निकलते देखते हैं (नेटवर्क की स्थिति में परिवर्तन)। आप वह गुप्त चाल नहीं देखते जो जादूगर ने खरगोस को टोपी से बाहर निकालने के लिए की थी।

शोधकर्ताओं ने एक AI बनाया जो एक जासूस की तरह काम करता है:

देखना और सीखना: उन्होंने AI को हजारों गेम देखने दिए जहाँ हमलावर और रक्षक खेलते हैं। भले ही AI गेम के दौरान हमलावर के कदमों को नहीं देख पाता है, लेकिन प्रशिक्षण के दौरान उसके पास एक "चीट शीट" (ग्राउंड ट्रुथ) होती है कि वास्तव में क्या हुआ था।
पैटर्न खोजना: AI एक पैटर्न सीखता है: "जब रक्षक नेटवर्क को स्कैन करता है और सर्वर अचानक अलग दिखने लगता है, तो हमलावर ने X किया ही होगा।"
भविष्यवाणी करना: प्रशिक्षित होने के बाद, AI वास्तविक समय में एक नया गेम देख सकता है। वह रक्षक की चाल और परिणामी परिवर्तन को देखता है, और कहता है, "मुझे दांव है कि हमलावर ने अभी X किया है।"

यह कैसे काम करता है: तीन-चरणीय जासूसी प्रक्रिया

शोध पत्र इसे तीन चरणों में तोड़ता है, जैसे एक जासूस केस सुलझाता है:

"क्या हुआ?" चरण (इनवर्स डायनेमिक्स): AI नेटवर्क के "पहले" और "बाद" के दृश्य और रक्षक की चाल को देखता है। यह अनुमान लगाने की कोशिश करता है कि हमलावर का वह "अदृश्य" कदम क्या था जिसने परिवर्तन का कारण बनाया। यह एक मोटा, अमूर्त अनुमान (एक लेटेंट एक्शन) बनाता है।
"अभ्यास" चरण (पॉलिसी लर्निंग): AI खुद को बेहतर अनुमान लगाने के लिए प्रशिक्षित करता है। यह चरण 1 में पहचाने गए अदृश्य कदमों की नकल करने की कोशिश करता है। यह शिक्षक के पदचिह्नों को देखकर नृत्य सीखने वाले छात्र जैसा है।
"अनुवाद" चरण (मैपिंग): AI के अनुमान अभी भी अस्पष्ट हैं। यह चरण अस्पष्ट अनुमान को एक विशिष्ट, वास्तविक दुनिया के हमले के नाम (जैसे, "एक्सप्लॉइट रिमोट सर्विस") और एक विशिष्ट लक्ष्य (जैसे, "सर्वर 3") में अनुवादित करता है।

"न्यूरोसिम्बोलिक" मस्तिष्क

शोध पत्र न्यूरोसिम्बोलिक AI और बिहेवियर ट्रीज़ का उल्लेख करता है।

न्यूरोसिम्बोलिक का अर्थ है दो प्रकार की सोच को मिलाना:
- न्यूरल: डेटा से सीखना (जैसे एक इंसान अनुभव से सीखता है)।
- सिंबोलिक: तार्किक नियमों का पालन करना (जैसे एक कंप्यूटर एक सख्त चेकलिस्ट का पालन करता है)।
बिहेवियर ट्रीज़ एक फ्लोचार्ट या निर्णय वृक्ष (डिसीजन ट्री) की तरह हैं। एक सुरक्षा गार्ड की कल्पना करें जिसके पास क्लिपबोर्ड है। गार्ड चेक करता है: "क्या दरवाजा खुला है? हाँ। क्या कोई घुसपैठिया है? हाँ। फिर, अलार्म बजाएं।"
शोधकर्ताओं ने इस "माइंड-रीडिंग" AI को इस फ्लोचार्ट में प्लग इन किया। अब, गार्ड केवल दरवाजा खुलने पर प्रतिक्रिया नहीं देता; वह यह भी अनुमान लगा सकता है कि घुसपैठिया अगला कदम तिजोरी की ओर बढ़ने वाला है, और उसके लिए तैयारी कर सकता है।

परिणाम: यह कितना अच्छा था?

शोधकर्ताओं ने सिम्युलेटेड "CybORG" वातावरण में दो प्रकार के हमलावरों के खिलाफ इसका परीक्षण किया:

"बी-लाइन" हमलावर: लक्ष्य की ओर एक सीधा, सीधी रेखा वाला रास्ता। (जैसे एक चोर सीधे तिजोरी की ओर भाग रहा हो)।
"मींडर" हमलावर: एक भटकने वाला हमलावर जो हर कमरे की जांच करता है और आगे बढ़ने से पहले हर कंप्यूटर में घुसने की कोशिश करता है। (जैसे एक चोर पूरे घर में ताक-झांक कर रहा हो)।

निष्कर्ष:

सीधे हमलावर: AI सीधे हमलावर के कदमों की भविष्यवाणी करने में अविश्वसनीय रूप से सटीक (99% से अधिक) था। क्योंकि उनका रास्ता अनुमानित है, "जासूस" AI आसानी से अगले कदम का अनुमान लगा सकता है।
भटकने वाले हमलावर: AI अभी भी बहुत अच्छा था (सामान्य क्षेत्र के लिए लगभग 95%, हालांकि सटीक कंप्यूटर पर थोड़ा कम), हालांकि भटकने वाले हमलावर की भविष्यवाणी करने में भी सक्षम था।
रणनीति बदलने वाले हमलावर: उन्होंने एक ऐसे हमलावर का भी परीक्षण किया जो बीच में अपनी रणनीति बदल देता है। AI अनुकूलित हो सका और भविष्यवाणी करना जारी रख सका, हालांकि रणनीति बदलने पर उसे थोड़ा समय लगा।

यह क्यों महत्वपूर्ण है

मुख्य बात यह है कि यह प्रणाली रक्षक को अदृश्य को देखने की अनुमति देती है। हमलावर के बारे में अभी क्या हो रहा है, इसकी भविष्यवाणी करके, रक्षक:

घुसपैठ का जल्दी पता लगा सकता है।
समझ सकता है कि हमलावर कितनी गहराई तक जा चुका है (जैसे, "उनके पास यूजर एक्सेस है, लेकिन अभी तक एडमिन एक्सेस नहीं है")।
अधिक प्रभावी ढंग से प्रतिक्रिया दे सकता है क्योंकि वे केवल अनुमान नहीं लगा रहे हैं; वे हमलावर की छिपी हुई "पॉलिसी" के आधार पर एक शिक्षित भविष्यवाणी कर रहे हैं।

संक्षेप में, यह शोध पत्र एक तरीका प्रस्तुत करता है जिससे एक धुंधले, अंधेरे रक्षात्मक खेल को एक स्पष्ट मुकाबले में बदला जा सके जहाँ रक्षक हमलावर के अगले कदम का अनुमान लगा सके, भले ही वे उन्हें देख न सकें।

तकनीकी सारांश: अवलोकनों से रेड एजेंट पॉलिसी को सीखना (Learning Red Agent Policy from Observations for Neurosymbolic Autonomous Cyber Agents)

समस्या विवरण (Problem Statement)

आधुनिक स्वायत्त साइबर-रक्षा प्रणालियाँ सुरक्षा नियमों को लागू करने और विकसित होते खतरों के अनुकूल होने के लिए सुदृढीकरण शिक्षण (Reinforcement Learning - RL) एजेंटों पर तेजी से निर्भर हो रही हैं। हालाँकि, ये वातावरण स्वाभाविक रूप से आंशिक रूप से अवलोकन योग्य (partially observable) होते हैं। विशेष रूप से, डिफेंडर (ब्लू एजेंट) हमलावर (रेड एजेंट) के कार्यों या नीतियों का सीधे अवलोकन नहीं कर सकता है। डिफेंडर केवल आंशिक स्टेट ट्रांज़िशन और हमलों के अप्रत्यक्ष परिणामों को ही देख पाता है। दृश्यता की यह कमी वास्तविक सिस्टम डायनेमिक्स को पुनर्गठित करने, हमलावर की गतिविधियों की भविष्यवाणी करने या घुसपै intrusion स्तरों का प्रभावी ढंग से आकलन करने में बाधा डालती है।

यद्यपि क्लासिकल कंट्रोल और वीडियो डोमेन में लेटेंट पॉलिसियों (latent policies) को अनुमानित करने के लिए इमिटेशन लर्निंग (imitation learning) का उपयोग किया गया है, मौजूदा विधियाँ स्वायत्त नेटवर्क के लिए सीधे लागू करने योग्य नहीं हैं। ऐसा इसलिए है क्योंकि नेटवर्क स्टेट आमतौर पर डिस्क्रीट (discrete) होते हैं (होस्ट/सर्वर गतिविधियों के स्नैपशॉट) और स्टेट ट्रांज़िशन रेड और ब्लू दोनों एजेंटों के संयुक्त कार्यों पर निर्भर करते हैं। फलस्वरूप, एक ऐसी तकनीक की महत्वपूर्ण आवश्यकता है जो केवल ब्लू अवलोकनों और ब्लू कार्यों का उपयोग करके रेड एजेंट नीतियों को सीख सके और रनटाइम पर रेड कार्यों की भविष्यवाणी कर सके।

कार्यप्रणाली (Methodology)

लेखक एक पॉलिसी लर्निंग तकनीक प्रस्तावित करते हैं जो इमिटेशन लर्निंग पर आधारित है, जिसे लगातार ब्लू अवलोकनों ( $o^b_{t-1}, o^b_t$ ) और पिछले ब्लू एक्शन ( $b_{t-1}$ ) से रेड एजेंट नीतियों ( $\pi'$ ) का अनुमान लगाने और रेड एक्शन ( $r_{t-1}$ ) की भविष्यवाणी करने के लिए डिज़ाइन किया गया है। यह दृष्टिकोण तीन चरणों में संरचित है और एक न्यूरोसिम्बोलिक फ्रेमवर्क के साथ एकीकृत है।

1. समस्या का निरूपण (Problem Formulation)

नेटवर्क को एक डिस्क्रीट-टाइम पार्शियली ऑब्जर्वेबल मार्कोव डिसीजन प्रोसेस (POMDP) के रूप में मॉडल किया गया है। इसका उद्देश्य ज्ञात ब्लू पॉलिसी $\pi$ के दिए जाने पर रेड पॉलिसी $\pi'$ को सीखना है। इनपुट में शामिल हैं:

$t-1$ और $t$ पर ब्लू ऑब्जर्वेशन।
$t-1$ पर निष्पादित ब्लू एक्शन।
लक्ष्य $t-1$ पर निष्पादित रेड एक्शन की भविष्यवाणी करना है।

2. तीन-चरणीय शिक्षण तकनीक (Three-Phase Learning Technique)

यह तकनीक डीप न्यूरल नेटवर्क्स (DNNs) का उपयोग करके एक मल्टी-स्टेज डायनेमिक्स मॉडल नियोजित करती है:

चरण I: डेटा जनरेशन (Data Generation)
- सिस्टम वातावरण के साथ इंटरैक्ट करता है ताकि ट्रांज़िशन $(o^b_{t-1}, b_{t-1} \to o^b_t)$ एकत्र किए जा सकें।
- प्रशिक्षण के लिए एक डेटासेट $D$ जेनरेट किया जाता है।
- एक लेबल वाला डेटासेट $D_R$ सिस्टम से ग्राउंड-ट्रुथ रेड एक्शन ( $r_{t-1}$ ) को निकालकर और उन्हें घटकों (एक्शन नाम, टारगेट होस्ट, और सबनेट) में प्रीप्रोसेस करके जेनरेट किया जाता है (जो वास्तविक रनटाइम के दौरान अवलोकनीय नहीं होते हैं)।
चरण II: पॉलिसी लर्निंग (Latent Action Inference)
- एनकोडिंग (Encoding): ब्लू एक्शन और टारगेट को वन-हॉट एनकोड किया जाता है।
- लेटेंट एक्शन लर्निंग (Latent Action Learning): दो मॉडल संयुक्त रूप से प्रशिक्षित किए जाते हैं:
  1. इनवर्स डायनेमिक्स मॉडल (IDM1): अवलोकनों और ब्लू एक्शन के आधार पर एक लेटेंट रेड एक्शन ( $l_{t-1}$ ) का अनुमान लगाता है।
  2. फॉरवर्ड डायनेमिक्स मॉडल (FDM1): पिछले स्टेट, ब्लू एक्शन और अनुमानित लेटेंट एक्शन के आधार पर वर्तमान ऑब्जर्वेशन ( $\tilde{o}^b_t$ ) की भविष्यवाणी करता है।
  - इन्हें ऑब्जर्वेशन एरर $|\tilde{o}^b_t - o^b_t|$ को कम करने के लिए प्रशिक्षित किया जाता है, जिससे लेटेंट एक्शन को रेड डायनेमिक्स को कैप्चर करने के लिए मजबूर किया जाता है।
- पॉलिसी इमिटेशन (Policy Imitation): एक दूसरा इनवर्स डायनेमिक्स मॉडल (IDM2) सीखा गया है जो IDM1 द्वारा सीखे गए लेटेंट एक्शंस की नकल (imitate) करने के लिए प्रशिक्षित किया जाता है, जो प्रभावी रूप से पॉलिसी $\pi'$ को सीखता है।
- डिस्क्रीट एक्शंस में मैपिंग (Mapping to Discrete Actions): एक फॉरवर्ड डायनेमिक्स मॉडल (FDM2) निरंतर लेटेंट एक्शंस को वापस डिस्क्रीट रेड एक्शन घटकों (एक्शन नाम, होस्ट, सबनेट) में मैप करता है। अंतिम अनुमानित रेड एक्शन $\hat{r}_{t-1}$ के लिए इन आउटपुट्स को बाइनरी वन-हॉट एनकोडिंग बनाने हेतु थ्रेशोल्ड किया जाता है।
न्यूरोसिम्बोलिक एजेंटों के साथ एकीकरण (Integration with Neurosymbolic Agents)
सीखी गई पॉलिसी को एक इवॉल्विंग बिहेवियर ट्री (EBT) में एकीकृत किया जाता है, जो बिहेवियर ट्रीज़ (BTs) और लर्निंग-एबल्ड कंपोनेंट्स (LECs) को मिलाने वाला एक न्यूरोसिम्बोलिक आर्किटेक्चर है।
रनटाइम भविष्यवाणी करने के लिए EBT में नए व्यवहार जोड़े जाते हैं।
एक कंडीशन नोड भविष्यवाणी से पहले पर्याप्त ऑब्जर्वेशन हिस्ट्री की उपलब्धता सुनिश्चित करता है।
EBT सक्रिय ब्लू स्ट्रैटेजी (जैसे, "Meander" और "B line" अटैकर स्ट्रैटेजी के बीच अंतर करना) के आधार पर उपयुक्त सीखी गई रेड पॉलिसी का चयन करता है।
यदि कोई पॉलिसी मौजूद नहीं है, तो सिस्टम ऑफलाइन विश्लेषण के लिए ट्रांज़िशन को लॉग करता है।

मुख्य योगदान (Key Contributions)

पेपर तीन प्राथमिक योगदानों को रेखांकित करता है:

पॉलिसी लर्निंग तकनीक: एक नवीन विधि जो केवल ब्लू अवलोकनों और ब्लू कार्यों का उपयोग करके, डिस्क्रीट स्टेट्स और एक्शंस वाले पार्शियली ऑब्जर्वेबल RL वातावरण में रेड एजेंट नीतियों को सीखने और रेड एक्शन की भविष्यवाणी करने के लिए है।
न्यूरोसिंबोलिक एकीकरण: इस तकनीक का बिहेवियर ट्री-आधारित स्वायत्त साइबर-डिफेंस एजेंट में सफल एकीकरण, जो एडवरसेरियल मूवमेंट की रनटाइम भविष्यवाणी को सक्षम बनाता है।
अनुभवजन्य मूल्यांकन (Empirical Evaluation): CybORG CAGE Challenge 2 वातावरण का उपयोग करके एक व्यापक मूल्यांकन, जो MITRE ATT&CK टैक्टिक्स का उपयोग करता है। यह दृष्टिकोण विविध रणनीतियों, जिसमें डायनेमिक स्ट्रैटेजी स्विचिंग शामिल है, में उच्च सटीकता प्रदर्शित करता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने दो स्टैटिक अटैकर स्ट्रैटेजीज़ (Meander और B line) और एक डायनेमिक स्विचिंग स्ट्रैटेजी (RedSwitch) का उपयोग करके CybORG CAGE Challenge 2 वातावरण पर तकनीक का मूल्यांकन किया।

भविष्यवाणी सटीकता (Prediction Accuracy):
- B line: उच्चतम सटीकता प्राप्त की (ब्लू ऑब्जर्वेशन प्रेडिक्शन के लिए 99.93%, होस्ट-लेवल रेड एक्शन प्रेडिक्शन के लिए 95.28%), जो इसके नियत (deterministic), लक्ष्य-उन्मुख स्वभाव के कारण है।
- Meander: कम सटीकता दिखाई (94.96% ऑब्जर्वेशन, 77.71% होस्ट-लेवल) व्यवहार में उच्च परिवर्तनशीलता के कारण।
- RedSwitch: सक्रिय स्ट्रैटेजी के आधार पर प्रदर्शन भिन्न हुआ; जब एजेंट B line स्ट्रैटेजी पर स्विच करता है, तो सटीकता बढ़ जाती है।
- सबनेट बनाम होस्ट: सभी स्ट्रैटेजी में होस्ट-लेवल की तुलना में सबनेट-लेवल प्रेडिक्शन सटीकता लगातार अधिक रही, जिसका कारण टारगेट होस्ट चयन में अंतर्निहित रैंडमनेस है।
इंट्रूज़न लेवल एस्टीमेशन (Intrusion Level Estimation):
- प्रेडिक्टेड एक्शंस का उपयोग कॉम्प्रोमाइज लेवल्स (No, User-Level, Privilege-Level) के आधार पर इंट्रूज़न स्कोर की गणना के लिए किया गया।
- परिणामों ने संकेत दिया कि ब्लू EBT एजेंट, B line और RedSwitch की तुलना में Meander स्ट्रैटेजी के तहत हमलों को कम करने में काफी अधिक प्रभावी था, जैसा कि कम टाइमस्टेप्स में Privilege-Level Compromise तक पहुँचने से सिद्ध हुआ।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि प्रस्तावित तकनीक स्वायत्त साइबर डिफेंस में आंशिक दृश्यता (partial observability) की चुनौती को प्रभावी ढंग से संबोधित करती है। रेड पॉलिसी को रनटाइम पर इन्फर (infer) करके, सिस्टम निम्नलिखित को सक्षम बनाता है:

गहरे नेटवर्क कॉम्प्रोमाइज से पहले एडवरसेरियल मूवमेंट की शीघ्र पहचान।
समय के साथ अटैकर इंट्रूज़न लेवल का अनुमान।
प्रेडिक्टेड रेड एक्शंस द्वारा उजागर कमजोरियों की पहचान करके मिटिगेशन स्ट्रैटेजी का परिशोधन।

लेखक नोट करते हैं कि हालांकि वर्तमान मूल्यांकन MITRE ATT&CK से व्युत्पन्न एक सिम्युलेटेड वातावरण (CybORG CAGE Challenge 2) पर आधारित है, यह तकनीक डिस्क्रीट स्टेट्स और एक्शंस वाले किसी भी पार्शियली ऑब्जर्वेबल RL-आधारित एजेंट के लिए सामान्य (generalizable) है। भविष्य के कार्य के रूप में वास्तविक एमुलेटेड वातावरण में दृष्टिकोण को मान्य करना और अधिक मजबूत ब्लू एजेंटों को प्रशिक्षित करने के लिए प्रेडिक्टेड रेड एक्शंस का लाभ उठाना पहचाना गया है। यह कार्य अधिक अनुकूल और व्याख्या योग्य (interpretable) स्वायत्त रक्षा प्रणालियों की दिशा में एक कदम है।