Agentic AI for Safety-critical Multi-drone Systems: Challenges and Opportunities

तकनीकी सारांश: सुरक्षा-महत्वपूर्ण मल्टी-ड्रोन सिस्टम के लिए एजेंटिक AI

समस्या विवरण
मल्टी-ड्रोन सिस्टम्स (बहु-ड्रोन प्रणालियाँ) खोज और बचाव (SAR), अग्निशमन और महत्वपूर्ण बुनियादी ढांचे की निगरानी सहित सुरक्षा-महत्वपूर्ण मिशनों के लिए महत्वपूर्ण क्षमता प्रदान करते हैं। हालाँकि, वास्तविक दुनिया में इनका अपनाना केवल तकनीकी स्वायत्तता के प्रदर्शन से नहीं, बल्कि पेशेवर कार्यप्रवाह (workflows) में एजेंटिक व्यवहार को एकीकृत करने की सामाजिक-तकनीकी चुनौती से बाधित है। अनिश्चितता, समय के दबाव और उच्च जवाबदेही की स्थितियों में ऑपरेटरों को स्वचालन (automation) को समझना, भरोसा करना और शासन (govern) करना चाहिए। जैसे-जैसे बेड़े (fleets) का आकार बढ़ता है, पारंपरिक एक-ऑपरेटर/एक-वाहन मॉडल समन्वय ओवरहेड, क्षय होती साझा स्थिति जागरूकता (shared situation awareness), और छोटी अनिश्चितताओं के बड़े सुरक्षा मुद्दों (जैसे, परस्पर विरोधी प्राथमिकताएं या अस्पष्ट जिम्मेदारी) में बदलने के जोखिम के कारण विफल हो जाता है। जबकि लार्ज लैंग्वेज मॉडल्स (LLMs) और एजेंटिक AI में हालिया प्रगति प्राकृतिक-भाषा टास्किंग और मिश्रित-पहल (mixed-initiative) योजना को सक्षम करती है, वे नई इंटरैक्शन चुनौतियां भी पेश करती हैं: एजेंट के इरादों का प्रतिनिधित्व करना, निर्णयों की निगरानी करना और अव्यवस्थित फील्ड वातावरण में सही व्यवहार की गारंटी देना।

कार्यप्रणाली और अनुसंधान दृष्टिकोण
यह शोध एक मानव-केंद्रित, सहभागी और पुनरावृत्ति (iterative) दृष्टिकोण अपनाता है, जो एजेंटिक AI को एक निश्चित तकनीकी समाधान के बजाय एक "सामाजिक-तकनीकी डिजाइन सामग्री" के रूप में देखता है। यह कार्यप्रणाली दो पूरक चल रही परियोजनाओं पर आधारित है:

1. NAMUR: यह समय-संवेदनशील आपातकालीन प्रतिक्रिया (खोज और बचाव तथा अग्निशमन) पर केंद्रित है, जो तीव्र निर्णय चक्रों, गतिशील खतरों और विषम रोबोट प्लेटफॉर्मों के बीच एकीकृत एब्स्ट्रैक्शन लेयर्स की आवश्यकता पर जोर देता है।
2. PERSIST: यह महत्वपूर्ण बुनियादी ढांचे (जैसे, पावर प्लांट) पर दीर्घकालिक, निरंतर संचालन पर केंद्रित है, जो निरंतर गतिविधि, दोहराव, शिफ्ट हैंडओवर और संगठनात्मक एकीकरण पर जोर देता है।

अनुसंधान प्रक्रिया में शामिल हैं:

• आवश्यकता खोज (Needs Discovery): हितधारकों (इंसिडेंट कमांडर्स, फील्ड रिस्पोंडर्स, सुरक्षा कर्मी) के साथ ठोस परिदृश्यों और प्रदर्शनों के माध्यम से, जो कार्य प्रथाओं, निर्णय बिंदुओं और संज्ञानात्मक बाधाओं (cognitive bottlenecks) का मानचित्रण करते हैं।
• सहभागी प्रोटोटाइपिंग (Participatory Prototyping): एजेंट क्षमताओं, प्राधिकरण आवश्यकताओं और अनिश्चितता संकेतों पर बातचीत करने के लिए क्रमिक कार्यात्मक प्रोटोटाइप का "बाउंड्री ऑब्जेक्ट्स" के रूप में उपयोग करना।
• सिस्टम डिज़ाइन: एक ऐसा आर्किटेक्चर विकसित करना जो प्राकृतिक-भाषा इरादे (intent) को समीक्षा योग्य उप-कार्यों (sub-tasks) में विभाजित करता है, नियतात्मक उपकरणों (deterministic tools) के माध्यम से निष्पादन को नियंत्रित करता है, और ऑपरेटर प्रीव्यू और अनुमोदन को लागू करता है।

मुख्य योगदान: LLM-MAS आर्किटेक्चर
पेपर एक कार्यात्मक प्रोटोटाइप आर्किटेक्चर प्रस्तुत करता है: एक लार्ज लैंग्वेज मॉडल मल्टी-एजेंट सिस्टम (LLM-MAS) जिसे मल्टी-ड्रोन नियंत्रण के लिए डिज़ाइन किया गया है। यह सिस्टम पांच विशिष्ट एजेंटों से बना है जो बाहरी नियतात्मक उपकरणों (जैसे, स्थानिक गणना, मोशन निष्पादन, मेमोरी स्टोरेज, टास्क शेड्यूलिंग) के साथ इंटरफेस करते हैं:

1. कोऑर्डिनेटर एजेंट (Coordinator Agent): केंद्रीय ऑर्केस्ट्रेटर के रूप में कार्य करता है, ऑपरेटर के इरादे का अनुमान लगाता है और कमांड को अधीनस्थ एजेंटों को सौंपे गए उप-प्रश्नों (sub-queries) में विभाजित करता है।
2. इवेंट्स एजेंट (Events Agent): आवधिक, विलंबित और भविष्योन्मुखी निर्देशों (जैसे, निर्धारित बायोमास अनुमान या रिटर्न-टू-बेस कमांड) का प्रबंधन करता है, यह सुनिश्चित करता है कि कार्य उचित समय पर निष्पादित या प्रस्तुत किए जाएं।
3. स्पेशियल एजेंट (Spatial Agent): GeoJSON मैप्स और लाइव ड्रोन/फर्स्ट-रिस्पॉन्डर पोजीशन तक पहुँच प्रदान करके स्थितिजन्य जागरूकता प्रदान करता है। यह सिमेंटिक मैप फीचर्स की पहचान करता है और स्थानिक संबंधों की गणना करता है।
4. स्वार्म एजेंट (Swarm Agent): मोशन प्लानिंग और टास्क निष्पादन को संभालता है। यह उपलब्धता और संदर्भ के आधार पर उपयुक्त ड्रोन प्लेटफॉर्म का चयन करता है। महत्वपूर्ण रूप से, इस एजेंट द्वारा उत्पन्न सभी अनुरोध निष्पादन से पहले ऑपरेटर प्रीव्यू और पुष्टि के अधीन होते हैं। यह फ्लाइट कंट्रोल पाइपलाइनों को ट्रिगर करने के लिए एक ROS टॉपिक पर क्रियाएं प्रकाशित करता है।
5. समराइज़र एजेंट (Summarizer Agent): निष्पादित कार्यों और सिस्टम स्टेट्स के संक्षिप्त, मानव-पठनीय सारांश उत्पन्न करता है। इन्हें बाद के संवाद दौरों के लिए संदर्भ प्रदान करने हेतु 'इंटरैक्शन मेमोरी' में संग्रहीत किया जाता है, जिससे सुसंगत मल्टी-टर्न इंटरैक्शन और संदर्भ समाधान (जैसे, "इसे निकटतम सुरक्षित क्षेत्र में ले जाओ") सक्षम होता है।

यह सिस्टम तैनाती-निर्भर (deployment-dependent) है; SAR के लिए, टूल्स कंप्लिएंट कवरेज पाथ प्लानिंग का समर्थन करते हैं, जबकि इंफ्रास्ट्रक्चर मॉनिटरिंग के लिए, टूल्स बायोमास अनुमान के लिए फ्लाइट पाथ जनरेशन का समर्थन करते हैं।

परिणाम और निष्कर्ष
पेपर पूर्व फील्ड जुड़ावों और प्रोटोटाइप मूल्यांकन से सीखे गए सबक को संश्लेषित करता है ताकि प्रमुख अवसरों और तनावों की पहचान की जा सके:

• अवसर: एजेंटिक AI चयनात्मक ध्यान/सारांश प्रदान करके समन्वय ओवरहेड को कम कर सकता है, मिश्रित-पहल योजना को सक्षम कर सकता है जो जानकारी बदलने पर भी कवरेज बनाए रखती है, और दीर्घकालिक ऑर्केस्ट्रेशन (शेड्यूलिंग, विसंगति ट्राइएज) का समर्थन कर सकता है।
• तनाव (Tensions): लेखक महत्वपूर्ण सुरक्षा तनावों की पहचान करते हैं जिन्हें केवल स्वायत्तता हल नहीं कर सकती:
  • ऐसी प्रणालियों की आवश्यकता जो निरंतर ध्यान के बिना संचालित हो सकें लेकिन "ब्लैक-बॉक्स" व्यवहार का विरोध करें।
  • यह जोखिम कि मजबूत अलर्टिंग अल्पकालिक प्रदर्शन में सुधार करती है लेकिन "अटेंशन टनलिंग" का कारण बनती है, जिससे समग्र निरीक्षण कम हो जाता है।
  • अपूर्ण धारणा के तहत कैलिब्रेटेड ट्रस्ट की आवश्यकता, जिसके लिए रूढ़िवादी डिफ़ॉल्ट और सत्यापन वर्कफ़्लो की आवश्यकता होती है।
  • भूमिकाओं, प्रोटोकॉल और ऑडिट योग्य निर्णय ट्रेल के साथ संरेखण सहित परिचालन फिट (operational fit) की आवश्यकता।

कार्यात्मक प्रोटोटाइप का प्रदर्शन अनमैन्ड ग्राउंड व्हीकल्स (UGVs) और अनमैन्ड एरियल व्हीकल्स (UAVs) के लाइव नियंत्रण में किया गया है, जो प्राकृतिक भाषा को समीक्षा योग्य उप-कार्यों में विभाजित करने और स्पष्ट ऑपरेटर अनुमोदन को लागू करने की पुष्टि करता है।

महत्व और दावे
पेपर का तर्क है कि सुरक्षा-महत्वपूर्ण कार्य के लिए एजेंटिक AI को एक सामाजिक-तकनीकी डिजाइन समस्या के रूप में देखा जाना चाहिए जहाँ इंटरफेस, निगरानी तंत्र और मूल्यांकन अभ्यास एल्गोरिदम जितने ही महत्वपूर्ण हैं। लेखक दावा करते हैं कि उनका दृष्टिकोण तीन प्रमुख निहितार्थों के माध्यम से "गवर्नेबल एजेंटिक ऑटोनॉमी" को संचालित करके भविष्य के अनुसंधान का समर्थन करता है:

1. कोर प्रॉपर्टी के रूप में गवर्नेबिलिटी: प्राधिकरण बिंदु (authorization points), बाधाएं और हस्तक्षेप तंत्र स्पष्ट और ऑडिट योग्य सिस्टम गुण होने चाहिए, न कि केवल UI एड-ऑन।
2. प्रतिबंधित टूल का उपयोग: अनुमानित विफलता मोड और पुनरुत्पादनीय डीबगिंग सुनिश्चित करने के लिए एजेंटिक व्यवहार को अनियंत्रित मुक्त-रूप क्रिया के बजाय प्रतिबंधित, निरीक्षण योग्य टूल उपयोग से बनाया जाना चाहिए।
3. वास्तविक दुनिया का मूल्यांकन: मूल्यांकन वास्तविक परिचालन उपयोग को प्रतिबिंबित करना चाहिए, जिसमें न केवल कार्य सफलता को बल्कि स्थिति जागरूकता, विश्वास अंशांकन (trust calibration), समन्वय ओवरहेड और जवाबदेह आफ्टर-एक्शन रिव्यू के समर्थन को भी मापा जाना चाहिए।

पेपर निष्कर्ष निकालता है कि जबकि एजेंटिक AI मल्टी-ड्रोन संचालन को स्केल करने की क्षमता रखता है, इसकी सफल तैनाती निरंतर हितधारक जुड़ाव पर निर्भर करती है ताकि ऐसे सिस्टम आकार ले सकें जो पारदर्शी, सीखने योग्य और स्थानीय प्रोटोकॉल एवं जवाबदेही प्रथाओं के अनुरूप हों।