Aux-AI: A Federated Independent Oversight Framework for Trust-Aware Industrial Autonomy

कल्पना कीजिए कि आप एक व्यस्त शहर में एक सुपर-फास्ट, सेल्फ-ड्राइविंग रोबोट कार चला रहे हैं। इस कार के पास एक "दिमाग" (जिसे हम Big-AI कहेंगे) है जो सड़कों, कारों और पैदल यात्रियों को पहचानने में अविश्वसनीय रूप से स्मार्ट है। यह एक जीनियस छात्र की तरह है जो कक्षा में हर परीक्षा में टॉप करता है। लेकिन इसमें एक पेंच है: यह जीनियस छात्र एक "ब्लैक बॉक्स" जैसा है। यदि कार के कंप्यूटर चिप में एक मामूली सी गड़बड़ी हो जाए—जैसे स्टेटिक इलेक्ट्रिसिटी के कारण मेमोरी का एक सिंगल बिट गलत तरीके से बदल जाए या सेंसर धुंधला हो जाए—तो दिमाग अचानक ऐसी चीजें देखना शुरू कर सकता है जो वहां मौजूद ही नहीं हैं। यह पूरी तरह से विश्वास के साथ कह सकता है, "रास्ते में एक विशाल ड्रैगन खड़ा है!" जबकि वह वास्तव में सिर्फ एक परछाई होती है। क्योंकि दिमाग इतना आत्मविश्वासी है, वह रुकना नहीं मानेगा, और आपकी दुर्घटना हो सकती है।

लंबे समय तक, सुरक्षा प्रणालियों ने यह पूछकर इसे ठीक करने की कोशिश की कि "क्या आप सुनिश्चित हैं?" लेकिन अगर गड़बड़ी के कारण दिमाग पहले से ही भ्रमित है, तो वह अभी भी कह सकता है, "हाँ, 100% सुनिश्चित हूँ!" क्योंकि उस गड़बड़ी ने उसके आंतरिक तर्क (logic) को भी बिगाड़ दिया है। यह एक ऐसे छात्र से पूछने जैसा है जिसने अभी-अभी गणित का टेस्ट फेल किया है और फिर उसे ही अपना पेपर ग्रेड करने के लिए कहा जाए; उसे शायद पता ही नहीं चलेगा कि उसने गलती की है।

बड़ा विचार: स्वतंत्र सुरक्षा गार्ड (The Independent Safety Guard)
यह पेपर Aux-AI (Auxiliary Artificial Intelligence) नामक एक नई प्रणाली पेश करता है। Aux-AI को उसी गणित की समस्या को हल करने वाले दूसरे छात्र के रूप में न समझें, बल्कि इसे ड्राइवर के बगल में खड़े एक सख्त, स्वतंत्र सुरक्षा गार्ड के रूप में देखें।

Aux-AI की प्रतिभा यह है कि इसका Big-AI के दिमाग या मेमोरी के साथ कोई साझा संबंध नहीं है। यह पूरी तरह से अलग (decoupled) है। जबकि Big-AI सड़क देखने में व्यस्त है, Aux-AI उस डेटा पर नज़र रखता है जिसका उपयोग Big-AI कर रहा है। यह एक सुरक्षा कैमरे की तरह है जिसे दृश्य (scenery) से कोई लेना-देना नहीं है; इसे केवल इस बात से मतलब है कि क्या सुरक्षा गार्ड अजीब व्यवहार कर रहा है। यदि Big-AI का डेटा "असंभव" दिखने लगता है (जैसे स्क्रीन का 60% हिस्सा सड़क द्वारा घेरा जाना या आसमान में तैरती हुई कार), तो Aux-AI तुरंत ब्रेक लगा देता है, भले ही Big-AI चिल्ला रहा हो, "मैं ठीक हूँ!"

गार्ड कैसे काम करता है (तीन आँखें)
यह पेपर इस गार्ड को एक विशेष "ट्रस्ट-डिसीजन कोर" (TDC) के रूप में वर्णित करता है जिसमें गड़बड़ी की जाँच करने के तीन अलग-अलग तरीके हैं:

1. ज्यामिति की आँख (Spatial-Frequency): यह आँख जाँच करती है कि क्या आकार सही हैं। यदि Big-AI कहता है कि एक कार बादलों में तैर रही है या सड़क उलटी है, तो यह आँख कहती है, "रुको, यह भौतिक रूप से असंभव है!" यह इन "भ्रमों" (hallucinations) को तुरंत पकड़ लेती है।
2. समय की आँख (Temporal): यह आँख वीडियो को फ्रेम-दर-फ्रेम देखती है। वास्तविक जीवन सुचारू होता है; चीजें अचानक प्रकट या गायब नहीं होतीं। यदि Big-AI अचानक एक सेकंड के हिस्से में एक पेड़ को आता और जाता देखता है (एक "फ्लिकर" जो कंप्यूटर की गड़बड़ी के कारण हुआ है), तो यह आँख उस झटके को पहचान लेती है और उसे समस्या के रूप में चिह्नित करती है।
3. ऊर्जा की आँख (Latent): यह आँख Big-AI के "विचारों" (छिपे हुए डेटा लेयर्स) के भीतर गहराई तक देखती है। भले ही तस्वीर ठीक दिख रही हो, लेकिन डेटा "अजीब" या "आउट ऑफ प्लेस" महसूस हो सकता है (जैसे पानी से बाहर निकला हुआ मछली)। यह आँख Big-AI के गलती करने से पहले ही उस अजीब अहसास को पकड़ लेती है।

टीमवर्क: रोबोट का एक बेड़ा (A Fleet of Robots)
यह पेपर यह भी सुझाव देता है कि ये रोबोट अपने निजी रहस्य साझा किए बिना एक-दूसरे से सीख सकते हैं। कल्पना कीजिए कि 5 डिलीवरी ड्रोन का एक बेड़ा है। यदि ड्रोन #1 को एक अजीब गड़बड़ी का सामना करना पड़ता है जिससे उसे एक "भूतिया ट्रक" दिखाई देता है, तो उसे केंद्रीय सर्वर को बड़ी वीडियो फ़ाइल भेजने की आवश्यकता नहीं है। इसके बजाय, वह बस एक छोटा सा नोट भेज सकता है, "हे, मैंने एक अजीब गड़बड़ी वाला पैटर्न देखा।" सर्वर सभी ड्रोनों के लिए सुरक्षा नियमों को अपडेट करता है। अब, ड्रोन #2, #3, #4 और #5 उस "भूतिया ट्रक" की गड़बड़ी को तुरंत पहचान सकते हैं, भले ही उन्होंने इसे पहले कभी न देखा हो। इसे फेडेरेटेड लर्निंग (Federated Learning) कहा जाता है, और यह पूरे बेड़े को मिलकर अधिक स्मार्ट और सुरक्षित बनाता है।

परिणाम: तेज़, हल्का और भरोसेमंद
लेखकों ने इस प्रणाली का परीक्षण शहर की ड्राइविंग डेटा (CITYSCAPES डेटासेट) के 500 फ्रेम के सिमुलेशन का उपयोग करके किया। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने आंकड़ों का विश्लेषण किया।

• गति: Aux-AI गार्ड अविश्वसनीय रूप से तेज़ है। यह 2248 फ्रेम प्रति सेकंड (FPS) प्रोसेस कर सकता है। इसे समझने के लिए, समान हार्डवेयर पर मुख्य "दिमाग" (Big-AI) आमतौर पर लगभग 35 FPS पर चलता है। गार्ड इतना तेज़ है कि वह मुख्य दिमाग के सोचने पूरा करने से पहले ही त्रुटियों की जाँच कर सकता है।
• मेमोरी: गार्ड बहुत छोटा है। इसे केवल 4.79 MB मेमोरी की आवश्यकता होती है, जबकि मुख्य दिमाग को 194.59 MB की आवश्यकता होती है। यह आकार में 97.5% की कमी है! यह एक विशाल लाइब्रेरी को एक छोटी पॉकेट नोटबुक से बदलने जैसा है।
• ऊर्जा: क्योंकि यह इतना छोटा और तेज़ है, यह बहुत कम बिजली का उपयोग करता है, लगभग 10⁻⁴ जूल प्रति फ्रेम।
• सटीकता: जब उन्होंने परीक्षण किया कि क्या गार्ड "गड़बड़ियों" (जैसे सेंसर विफलता या अजीब डेटा शिफ्ट) को पकड़ सकता है, तो इसने 0.882 का AUROC स्कोर और 0.959 का AUPR प्राप्त किया।
  • इसका क्या मतलब है? यदि मुख्य दिमाग अकेला छोड़ दिया जाता, तो वह मूल रूप से अनुमान लगा रहा होता (स्कोर 0.500, जो सिक्का उछालने जैसा है); एक मानक सुरक्षा जाँच (जिसे "अटेंशन-बेस्ड" कहा जाता है) ने केवल 0.475 स्कोर किया, जो वास्तव में रैंडम अनुमान लगाने से भी बदतर है! Aux-AI गार्ड ने स्पष्ट रूप से "सुरक्षित" क्षणों को "खतरनाक" क्षणों से अलग किया।
• स्थिरता: गार्ड अस्थिर नहीं हुआ। इसका ट्रस्ट स्कोर बहुत स्थिर रहा, जिसका विचलन (variance) σ² ≈ 1.16×10⁻³ था, जिसका अर्थ है कि यह बिना किसी कारण के घबराया नहीं और ब्रेक नहीं लगाया।

यह पेपर किन चीजों को "ना" कहता है
यह पेपर बहुत स्पष्ट है कि क्या काम नहीं करता है:

• "ब्लैक बॉक्स" स्व-जाँच को ना: यह तर्क देता है कि आप मुख्य AI पर अपने काम की जाँच करने के लिए निर्भर नहीं रह सकते। यदि हार्डवेयर में गड़बड़ी होती है, तो AI का अपना कॉन्फिडेंस मेट्रिक भी टूट जाता है।
• भारी क्लाउड ऑफलोडिंग को ना: यह क्लाउड पर सुरक्षा जाँच के लिए बड़ी वीडियो फ़ाइलें भेजने के विचार को खारिज करता है। इसमें बहुत अधिक समय और बैंडविड्थ लगता है। इसके बजाय, पेपर दिखाता है कि केवल छोटे, स्मार्ट अपडेट भेजना (केवल तभी जब कुछ गलत हो) बहुत बेहतर है।
• "एक ही आकार सबके लिए" वाली सुरक्षा को ना: यह तर्क देता है कि सरल सांख्यिकीय जाँच पर्याप्त नहीं है। आपको एक ऐसी प्रणाली की आवश्यकता है जो ज्यामिति, समय और गहरे डेटा पैटर्न को एक साथ समझ सके।

हम कितने निश्चित हैं?
यह याद रखना महत्वपूर्ण है कि ये परिणाम सिमुलेशन और एक विशिष्ट डेटासेट (CITYSCмSCAPES) पर परीक्षणों से आए हैं। लेखकों ने "बिट-फ्लिप्स" (कंप्यूटर गड़बड़ी) और सेंसर विफलताओं का अनुकरण किया ताकि सिस्टम की प्रतिक्रिया देखी जा सके। हालांकि इसके परिणाम बहुत आशाजनक हैं—यह दिखाते हुए कि सिस्टम 2248 FPS पर काम करता है और उन त्रुटियों को पकड़ लेता है जिन्हें मुख्य दिमाग मिस कर देता है—उन्होंने अभी तक इसे वास्तविक हाईवे पर चलते हुए एक वास्तविक, भौतिक रोबोट कार पर टेस्ट नहीं किया है। पेपर सुझाव देता है कि यदि रोबोट के बेड़े में और अधिक रोबोट जोड़े जाते हैं (ड्रोन की संख्या बढ़ाकर 20 तक), तो सुरक्षा स्कोर संभावित रूप से 0.95 तक बढ़ सकता है, लेकिन यह उनके मॉडल के आधार पर एक अनुमान है, अभी तक मापा गया तथ्य नहीं है।

निष्कर्ष (The Bottom Line)
यह पेपर एक "एक्ट करने से पहले सुरक्षित होना" (Safe-Before-Act) प्रणाली का प्रस्ताव करता है। दुर्घटना होने का इंतज़ार करने के बजाय, Aux-AI गार्ड मुख्य दिमाग के डेटा को देखता है, "असंभव" चीज़ों को तुरंत पहचानता है, और रोबोट को कुछ भी खतरनाक करने से पहले रोक देता है। यह तेज़, छोटा, ऊर्जा-कुशल है, और सबसे अच्छा काम करता है जब रोबोट अपने सुरक्षा सबक एक-दूसरे के साथ साझा करते हैं। यह यह सुनिश्चित करने की दिशा में एक बड़ा कदम है कि हमारे भविष्य की सेल्फ-ड्राइविंग मशीनें केवल यह सोचें नहीं कि वे सुरक्षित हैं, बल्कि वास्तव में सुरक्षित हैं।