🤖 AI

Operational AI Deployment Assurance: Governance-State Orchestration Under Threshold-Sensitive Deployment Conditions -- A Governance Framework for High-Stakes AI Systems

यह शोध पत्र ऑपरेशनल एआई डिप्लॉयमेंट एश्योरेंस (OADA) प्रस्तुत करता है, जो एक ऐसा गवर्नेंस फ्रेमवर्क है जो निष्पक्षता संबंधी असहमति, थ्रेशोल्ड संवेदनशीलता और परिचालन अनिश्चितताओं को गतिशील परिनियोजन तत्परता निर्णयों और एस्केलेशन अवस्थाओं में अनुवादित करता है ताकि स्थिर मूल्यांकन मेट्रिक्स और वास्तविक दुनिया के उच्च-जोखिम वाले एआई परिनियोजन के बीच के अंतर को पाटा जा सके।

मूल लेखक: Khalid Adnan Alsayed

प्रकाशित 2026-05-28

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Khalid Adnan Alsayed

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल जहाज (एक AI सिस्टम) के कप्तान हैं जो एक तूफानी समुद्र (वास्तविक दुनिया) में जाने वाला है। अभी, इन जहाजों को चलाने के अधिकांश नियम एक मौसम रिपोर्ट की तरह हैं। वे आपको बताते हैं, "हे, हवा की गति 20 नॉट है, और पानी का तापमान 60 डिग्री है।" वे एक स्थिर स्थिति का चित्रण देते हैं।

समस्या यह है कि मौसम रिपोर्ट यह नहीं बताती कि क्या जहाज वास्तव में चलने के लिए तैयार है। यह नहीं बताती कि क्या दबाव के कारण जहाज का ढांचा टूट रहा है, या चालक दल नक्शे को लेकर आपस में लड़ रहा है, या हवा की दिशा में एक मामूली बदलाव जहाज को पलट सकता है।

यह पेपर ऑपरेशनल एआई डिप्लॉयमेंट एश्योरेंस (OADA) नामक एक नई प्रणाली पेश करता है। OADA को एक मौसम रिपोर्ट के रूप में नहीं, बल्कि एक गतिशील "गो/नो-गो" (जाएं/न जाएं) कंट्रोल टॉवर के रूप में समझें जो लगातार जहाज की स्थिरता पर नज़र रखता है और यह तय करता है कि क्या यह डॉक से निकलने के लिए सुरक्षित है, क्या इसे मरम्मत के लिए रुकने की आवश्यकता है, या क्या इसे तुरंत वापस खींच लिया जाना चाहिए।

यहाँ यह पेपर सरल अवधारणाओं का उपयोग करके इसे कैसे समझाता है:

1. समस्या: "स्टैटिक स्नैपशॉट" का जाल

वर्तमान में, जब कंपनियाँ यह जाँचती हैं कि कोई AI निष्पक्ष या सुरक्षित है या नहीं, तो वे परिणाम देखने के बाद संख्याओं की एक सूची (मेट्रिक्स) देखती हैं। यह कार के क्रैश होने के बाद उसके स्पीडोमीटर और फ्यूल गेज को चेक करने जैसा है।

समस्या: एक AI कागज़ पर एकदम सही दिख सकता है (उच्च सटीकता), लेकिन यदि आप एक छोटी सी सेटिंग (जैसे एक थ्रेशोल्ड) बदलते हैं, तो यह अचानक कुछ समूहों के खिलाफ भेदभाव करना शुरू कर सकता है। वर्तमान प्रणालियाँ अक्सर इसे मिस कर देती हैं क्योंकि वे केवल "औसत" परिणाम को देखती हैं, न कि उसके नीचे छिपी "अस्थिरता" को।

2. समाधान: "कंट्रोल टॉवर" (OADA)

यह पेपर एक ऐसा ढांचा प्रस्तावित करता है जो AI गवर्नेंस को एक बार की चेकलिस्ट के बजाय एक जीवंत, सांस लेती प्रक्रिया के रूप में मानता है। यह इसे प्रबंधित करने के लिए पाँच प्रमुख उपकरण पेश करता है:

A. "कॉन्फिडेंस स्कोर" (डिप्लॉयमेंट एश्योरेंस स्कोर - DAS)

केवल "पास" या "फेल" कहने के बजाय, OADA AI को एक कॉन्फिडेंस स्कोर देता है।

उपमा: इसे एक पायलट के "गो/नो-गो" गेज की तरह समझें। यह इस बात का संयोजन है कि AI खुद से कितना असहमत है (निष्पक्षता संबंधी असहमति), इसका प्रदर्शन कितना अस्थिर है, और यह छोटे बदलावों के प्रति कितना संवेदनशील है।
यह क्या करता है: यह कप्तान को बताता है, "जहाज 85% तैयार है," या "जहाज केवल 40% तैयार है क्योंकि इंजन बहुत अधिक कंपन कर रहा है।"

B. "ट्रैफिक लाइट" सिस्टम (डिप्लॉयमेंट रेडिनेस क्लासिफिकेशन - DRC)

उस कॉन्फिडेंस स्कोर के आधार पर, यह सिस्टम AI को एक स्थिति प्रदान करता है, जो ट्रैफिक लाइट या सुरक्षा मंजूरी स्तर के समान है:

🟢 डिप्लॉयबल (Deployable): जहाज स्थिर है। आगे बढ़ें।
🟡 प्रतिबंधित (Restricted): जहाज ठीक है, लेकिन इस पर कड़ी नज़र रखें। शायद इसे बहुत उबड़-खाबड़ पानी में न जाने दें।
🟠 पुनर्मूल्यांकन आवश्यक (Reassessment Required): कुछ गलत है। आगे बढ़ने से पहले जहाज को रोकें और ठीक करें।
🔴 एस्केलेटेड (Escalated): खतरा! जहाज अस्थिर है। तुरंत वरिष्ठ इंजीनियरों को बुलाएं।
⚫ ब्लॉक किया गया (Blocked): जहाज डूब रहा है। यात्रा न करें।

C. "टाइटरोप" चेक (थ्रेशोल्ड स्टेबिलिटी ज़ोन - TSZ)

AI सिस्टम में अक्सर एक "निर्णय रेखा" (थ्रेशोल्ड) होती है। यदि आप उस रेखा को थोड़ा सा भी हिलाते हैं, तो क्या AI का व्यवहार अनियंत्रित हो जाता है?

उपमा: कल्पना कीजिए कि आप एक टाइटरोप (रस्सी के ऊपर चलने का खेल) पर चल रहे हैं। यदि हवा थोड़ी चलती है और आप बहुत अधिक डगमगाते हैं, तो आप एक नाजुक क्षेत्र (Fragile Zone) में हैं। यदि आप हवा बदलने पर भी स्थिरता से चल सकते हैं, तो आप एक स्थिर क्षेत्र (Stable Zone) में हैं।
यह क्या करता है: OADA इन क्षेत्रों का मानचित्रण करता है। यदि AI "नाजुक क्षेत्र" में है, तो सिस्टम जानता है कि सेटिंग्स में बदलाव से ही आपदा आ सकती है, इसलिए यह डिप्लॉयमेंट को प्रतिबंधित कर देता है।

D. "अलार्म लैडर" (गवर्नेंस एस्केलेशन स्टेट्स - GES)

जब चीजें गलत होती हैं, तो आप केवल "ओह" नहीं कहते। आपके पास प्रतिक्रियाओं की एक सीढ़ी होती है।

उपमा: यदि स्मोक डिटेक्टर बजता है, तो आप तुरंत फायर ब्रिगेड को नहीं बुलाते। पहले, आप देखते हैं कि क्या यह जले हुए टोस्ट की वजह से है (Low)। यदि आग फैलती है, तो आप बिल्डिंग मैनेजर को बुलाते हैं (Moderate)। यदि इमारत में आग लगी है, तो आप बाहर निकलते हैं और फायर ब्रिर्डर को बुलाते हैं (Critical)।
यह क्या करता है: OADA स्वचालित रूप से AI को इस सीढ़ी पर ऊपर ले जाता है, जिससे यह सुनिश्चित होता है कि सही स्तर का मानवीय ध्यान दिया जाए।

E. "रिपेयर प्रोग्रेस" ट्रैकर (रेमेडिएशन प्रोग्रेशन)

जब आप एक टूटे हुए AI को ठीक करते हैं, तो वर्तमान प्रणालियाँ केवल अंतिम परिणाम की जाँच करती हैं। OADA मरम्मत की यात्रा को ट्रैक करता है।

उपमा: कल्पना कीजिए कि आप एक लीकी (पानी रिसने वाली) नाव को ठीक कर रहे हैं। सिर्फ इसलिए कि आपने एक छेद बंद कर दिया, इसका मतलब यह नहीं है कि नाव सुरक्षित है। आपको यह देखने की आवश्यकता है कि समय के साथ पानी का स्तर वास्तव में नीचे जा रहा है या नहीं।
यह क्या करता है: यह देखता है कि क्या सुधार के बाद "कॉन्फिडेंस स्कोर" वास्तव में बेहतर होता है। कभी-कभी, एक सुधार AI को तेज़ बनाता है लेकिन कम निष्पक्ष। OADA इसे पकड़ लेता है और कहता है, "रुको, मरम्मत ने अस्थिरता को और बढ़ा दिया है," और डिप्लॉयमेंट को रोक देता है।

3. वास्तविक दुनिया का परीक्षण: "फेस" और "हार्ट"

इस पेपर ने इस प्रणाली का परीक्षण दो विशिष्ट क्षेत्रों में किया:

फेशियल रिकग्निशन (चेहरा पहचान): उन्होंने देखा कि जब वे सेटिंग्स को थोड़ा बदलते हैं, तो सिस्टम विभिन्न समूहों (जैसे विभिन्न नस्ल या लिंग) के साथ कैसा व्यवहार करता है। उन्होंने पाया कि एक सिस्टम औसत रूप से "निष्पक्ष" दिख सकता है, लेकिन यदि आप एक संख्या बदलते हैं, तो वह बेहद अनुचित हो सकता है। OADA ने इस अस्थिरता को पकड़ा और डिप्लॉयमेंट को ब्लॉक कर दिया होता।
हेल्थकेयर AI: उन्होंने इसे एक प्रतिनिधि उदाहरण के रूप में उपयोग किया जहाँ "उच्च-जोखिम" वाले क्षेत्र (जहाँ गलतियाँ लोगों को नुकसान पहुँचा सकती हैं) शामिल हैं। ढांचे ने दिखाया कि भले ही किसी AI की समग्र सटीकता अच्छी हो, यदि वह अस्थिर या असंगत है, तो उसका उपयोग चिकित्सा निर्णय लेने के लिए नहीं किया जाना चाहिए।

मुख्य निष्कर्ष

यह पेपर तर्क देता है कि हमें AI गवर्नेंस को एक स्थिर रिपोर्ट कार्ड (जो केवल कहता है "आपने A प्राप्त किया") की तरह मानना बंद करना चाहिए और इसे एक फ्लाइट कंट्रोल सिस्टम (जो लगातार निगरानी करता है कि विमान अभी उड़ने के लिए सुरक्षित है या नहीं) की तरह मानना शुरू करना चाहिए।

इन नए उपकरणों का उपयोग करके, हम यह सुनिश्चित कर सकते हैं कि AI सिस्टम केवल कागज़ पर अच्छे न दिखें, बल्कि वास्तव में स्थिर, निष्पक्ष और वास्तविक दुनिया में उपयोग के लिए सुरक्षित हों, खासकर जब स्थितियाँ बदलती हैं या जब हम उन्हें ठीक करने का प्रयास करते हैं।

तकनीकी सारांश: ऑपरेशनल एआई डिप्लॉयमेंट एश्योरेंस (OADA)

1. समस्या विवरण

वर्तमान एआई गवर्नेंस फ्रेमवर्क, जिसमें NIST एआई रिस्क मैनेजमेंट फ्रेमवर्क और ईयू (EU) एआई एक्ट जैसी नियामक पहल शामिल हैं, मुख्य रूप से अवलोकनकारी (observational) तंत्र के रूप में कार्य करते हैं। वे मॉडल के व्यवहार को ट्रैक करने के लिए स्टैटिक मेट्रिक रिपोर्टिंग, पोस्ट-हॉक ऑडिटिंग और मॉनिटरिंग डैशबोर्ड पर निर्भर करते हैं। हालांकि, ये दृष्टिकोण डिप्लॉयमेंट तत्परता (deployment readiness), सुधार प्रगति (remediation progression), एस्केलेशन अवस्थाओं (escalation states), या एश्योरेंस-संचालित डिप्लॉयमेंट नियंत्रण (assurance-driven deployment control) को सीधे नियंत्रित करने में विफल रहते हैं।

उच्च-जोखिम वाले डोमेन (जैसे, स्वास्थ्य सेवा, कानून प्रवर्तन) में एक महत्वपूर्ण सीमा यह है कि सिस्टम निष्पक्षता या प्रदर्शन के अलग-अलग मानदंडों को पूरा कर सकते हैं, जबकि वे डिप्लॉयमेंट अस्थिरता (deployment instability), सबग्रुप विसंगतियों (subgroup disparities), थ्रेशोल्ड संवेदनशीलता (threshold sensitivity), और गवर्नेंस अस्पष्टता (governance ambiguity) प्रदर्शित कर सकते हैं। विशेष रूप से, फेयरनेस डिसएग्रीमेंट इंडेक्स (FDI) और FairRisk-FDI पर पिछले शोध ने स्थापित किया है कि फेयरनेस मेट्रिक्स के बीच असहमति मूल्यांकन का एक मापने योग्य गुण है जो डिप्लॉयमेंट अनिश्चितता को बढ़ा सकता है। फिर भी, मौजूदा साहित्य में उन अनुकूलन योग्य गवर्नेंस वर्कफ़्लो को संचालित करने के लिए एक एकीकृत ढांचे का अभाव है जो लाइफसाइकिल ट्रांजिशन, सुधार प्रभावशीलता और डिप्लॉयमेंट गेटिंग को प्रबंधित कर सके।

2. कार्यप्रणाली: OADA फ्रेमवर्क

यह शोध पत्र ऑपरेशनल एआई डिप्लॉयमेंट एश्योरेंस (OADA) प्रस्तुत करता है, जो एक ऐसा गवर्नेंस फ्रेमवर्क है जिसे मूल्यांकन आउटपुट (फेयरनेस डिसएग्रीमेंट, थ्रेशोल्ड संवेदनशीलता, सुधार परिणाम) को डिप्लॉयमेंट-उन्मुख एश्योरेंस निर्णयों में अनुवादित करने के लिए डिज़ाइन किया गया है। OADA गवर्नेंस अनिश्चितता को मेट्रिक असहमति के उपोत्पाद के रूप में नहीं, बल्कि एक परिचालन संबंधी चिंता के रूप में देखता है जिसे एआई डिप्लॉयमेंट पाइपलाइनों के भीतर सक्रिय प्रबंधन की आवश्यकता है।

यह फ्रेमवर्क पांच मुख्य परिचालन गवर्नेंस कंस्ट्रक्ट्स पर निर्मित है:

A. डिप्लॉयमेंट एश्योरेंस स्कोर (DAS)

DAS एक भारित (weighted) गवर्नेंस एग्रीगेशन कंस्ट्रक्ट है जो निरंतर डिप्लॉयमेंट में परिचालन विश्वास की डिग्री का प्रतिनिधित्व करता है। यह एक स्टैंडअलोन ऑप्टिमाइज़ेशन टारगेट नहीं है, बल्कि बदलती परिस्थितियों के तहत डिप्लॉयमेंट विश्वसनीयता का एक गतिशील संकेतक है।
$DAS = \alpha(1-FDI) + \beta(1-\Delta FPR) + \gamma(1-\Delta FNR) + \delta(1-TSZ)$
जहाँ:

$FDI$: फेयरनेस डिसएग्रीमेंट इंस्टेबिलिटी।
$\Delta FPR, \Delta FNR$ : सबग्रुप डिस्पैरिटी मैग्नीट्यूड्स।
$TSZ$: थ्रेशोल्ड स्टेबिलिटी व्यवहार।
$\alpha, \beta, \gamma, \delta$ : गवर्नेंस-सेंसिटिव वेटिंग कोएफिशिएंट्स।

B. डिप्लॉयमेंट रेडिनेस क्लासिफिकेशन (DRC)

DRC स्टैटिक सर्टिफिकेशन से आगे बढ़कर, एडेप्टिव स्टेट्स के माध्यम से डिप्लॉयमेंट-स्टेट इंटरप्रिटेशन को संचालित करता है। यह फ्रेमवर्क विशिष्ट वर्गीकरणों को परिभाषित करता है:

डिप्लॉयबल (Deployable): स्थितियाँ स्थिर हैं।
रिस्ट्रिक्टेड (Restricted): मध्यम अस्थिरता; नियंत्रित डिप्लॉयमेंट की आवश्यकता है।
रीअसेसमेंट रिक्वायर्ड (Reassessment Required): निरंतरता से पहले समीक्षा के लिए अनिश्चितता आवश्यक है।
एस्केलेटेड गवर्नेंस (Escalated Governance): महत्वपूर्ण अस्थिरता जिसके लिए उच्च स्तरीय हस्तक्षेप की आवश्यकता है।
ब्लॉक्ड डिप्लॉयमेंट (Blocked Deployment): स्थितियाँ असुरक्षित या अपर्याप्त रूप से गवर्न की गई हैं।

C. थ्रेशोल्ड स्टेबिलिटी ज़ोन्स (TSZ)

TSZ थ्रेशोल्ड वेरिएशन के तहत गवर्नेंस संवेदनशीलता को मॉडल करता है, उन क्षेत्रों की पहचान करता है जहाँ छोटे थ्रेशोल्ड समायोजन असंतुलित डिसएग्रीमेंट एस्केलेशन का कारण बनते हैं। इसे डिसएग्रीमेंट वेरिएशन की दर द्वारा अनुमानित किया जाता है:
$TSZ = \left| \frac{\partial FDI}{\partial t} \right|$
यह कंस्ट्रक्ट स्टेबल ज़ोन्स, सेंसिटिव ज़ोन्स, एम्प्लीफाइड डिसएग्रीमेंट ज़ोन्स, और गवर्नेंस फ्रैजिलिटी ज़ोन्स के बीच अंतर करता है।

D. गवर्नेंस एस्केलेशन स्टेट्स (GES)

GES बढ़ी हुई अनिश्चितता द्वारा ट्रिगर किए गए परिचालन हस्तक्षेप मार्गों का प्रतिनिधित्व करता है। यह डिसएग्रीमेंट इंस्टेबिलिटी, सबग्रुप डिस्पैरिटीज, थ्रेशोल्ड सेंसिटिविटी और रिमेडिएशन इफेक्टिवनेस ( $R_m$ ) का एक कम्पोजिट फंक्शन है। इसकी अवस्थाएं मॉनिटर्ड से लेकर क्रिटिकल तक होती हैं, जो गवर्नेंस प्रतिक्रिया की तीव्रता को निर्धारित करती हैं।

E. रिमेडिएशन-अवेयर गवर्नेंस प्रोग्रेशन

स्टैटिक पोस्ट-हॉक फिक्सेस के विपरीत, OADA सुधार (remediation) को एक लाइफसाइकिल प्रक्रिया के रूप में मानता है। प्रोग्रेशन ( $R_p$ ) को मिटिगेशन के बाद DAS में परिवर्तन के रूप में परिभाषित किया गया है:
$R_p = DAS(t+1) - DAS(t)$
यह मिटिगेशन इंटरवेंशन के बाद डिप्लॉयमेंट तत्परता के निरंतर पुनर्मूल्यांकन की अनुमति देता है, यह स्वीकार करते हुए कि तकनीकी सुधार हमेशा रैखिक रूप से डिप्लॉयमेंट एश्योरेंस को बहाल नहीं करते हैं।

3. प्रयोगात्मक मूल्यांकन

इस फ्रेमवर्क का मूल्यांकन फेशियल रिकग्निशन सिस्टम्स (FairFace डेटासेट, MTLVIFR बेसलाइन) का उपयोग करके किया गया था और इसे प्रतिनिधि उच्च-जोखिम डोमेन के रूप में हेल्थकेयर एआई के लिए वैचारिक रूप से विस्तारित किया गया था। मूल्यांकन थ्रेशोल्ड संवेदनशीलता, डिसएग्रीमेंट एम्प्लीफिकेशन और रिमेडिएशन प्रोग्रेशन पर केंद्रित था।

मुख्य प्रयोगात्मक निष्कर्ष:

थ्रेशोल्ड संवेदनशीलता: निर्णय थ्रेशोल्ड (जैसे, 0.20–0.90 रेंज) में छोटे समायोजन गैर-रैखिक बदलावों का कारण बने। सिस्टम केवल थ्रेशोल्ड कॉन्फ़िगरेशन के आधार पर "ब्लॉक्ड" से "डिप्लॉयबल" अवस्था में परिवर्तित हो सकते हैं, जो स्टैटिक इवैल्यूएशन की अस्थिरता को उजागर करता है।
रिमेडिएशन नॉन-लिनियैरिटी: अध्ययन ने दो मिटिगेशन रणनीतियों की तुलना की: बैलेंस्ड बैच सैंपलिंग और फोकल लॉस मिटिगेशन।
- बैलेंस्ड बैच सैंपलिंग: इसने सबग्रुप स्थिरता में सुधार किया और डिसएग्रीमेंट एम्प्लीफिकेशन को कम किया, जिसके परिणामस्वरूप "एस्केलेटेड गवर्नेंस" से "रिस्ट्रिक्टेड" डिप्लॉयमेंट में बदलाव आया।
- फोकल लॉस मिटिगेशन: कुछ प्रदर्शन मेट्रिक्स के बावजूद, यह डिसएग्रीमेंट इंस्टेबिलिटी को सार्थक रूप से कम करने में विफल रहा, जिससे सिस्टम "रीअसेसमेंट रिक्वायर्ड" अवस्था में ही रह गया।
प्रति-सहज (Counterintuitive) परिणाम: रणनीतियाँ जो शुद्ध रूप से एग्रीगेट प्रेडिक्टिव परफॉरमेंस के लिए अनुकूलित थीं, उन्होंने आवश्यक रूप से डिप्लॉयमेंट एश्योरेंस में सुधार नहीं किया। इसके विपरीत, जिन रणनीतियों ने डिसएग्रीमेंट एम्प्लीफिकेशन और थ्रेशोल्ड संवेदनशीलता को कम किया, उन्होंने मामूली एग्रीगेट एक्यूरेसी लाभ के साथ भी मजबूत एश्योरेंस परिणाम दिए।

4. प्रमुख योगदान

OADA का परिचय: गवर्नेंस-ओरिएंटेड डिप्लॉयमेंट एश्योरेंस के लिए एक फ्रेमवर्क जो डिप्लॉयमेंट तत्परता को एक स्टैटिक कंप्लायंस चेक के बजाय एक एडेप्टिव, लाइफसाइकिल प्रक्रिया के रूप में मानता है।
गवर्नेंस कंस्ट्रक्ट्स का औपचारिकीकरण: मूल्यांकन अनिश्चितता के इंटरप्रिटेशन को संचालित करने के लिए DAS, DRC, TSZ और GES की परिभाषा।
परिचालन अंतर: मॉनिटरिंग (अवलोकन/रिपोर्टिंग) और एश्योरेंस (डिप्लॉयमेंट ट्रस्टवर्दीनेस और स्टेट ट्रांजिशन का शासन) के बीच एक स्पष्ट वैचारिक पृथक्करण।
अनुभवजन्य प्रदर्शन: प्रयोगात्मक साक्ष्य कि डिप्लॉयमेंट तत्परता डायनेमिक है और थ्रेशोल्ड वेरिएशन एवं रिमेडिएशन प्रकारों के प्रति संवेदनशील है, जो आइसोलेटेड फेयरनेस मेट्रिक्स की पर्याप्तता को चुनौती देता है।

5. महत्व और दावे

पेपर दावा करता है कि OADA ऑपरेशनल डिप्लॉयमेंट एश्योरेंस को मॉडल इवैल्यूएशन और रियल-वर्ल्ड डिप्लॉयमेंट के बीच स्थित एक आवश्यक गवर्नेंस लेयर के रूप में स्थापित करता है।

अवलोकन से ऑपरेशनल की ओर: फ्रेमवर्क तर्क देता है कि उच्च-जोखिम वाले एआई के लिए वर्तमान गवर्नेंस स्ट्रक्चरल रूप से अपूर्ण है क्योंकि इसमें डिप्लॉयमेंट-स्टेट ट्रांजिशन और रिमेडिएशन प्रोग्रेशन को गवर्न करने वाले तंत्रों का अभाव है। OADA इसे मूल्यांकन अनिश्चितता, डिसएग्रीमेंट एम्प्लीफिकेशन और लाइफसाइकिल गवर्नेंस को एडेप्टिव वर्कफ़्लो में एकीकृत करके संबोधित करता है।
डायनेमिक गवर्नेंस: पेपर का दावा है कि डिप्लॉयमेंट ट्रस्टवर्दीनेस को अलग-थलग मेट्रिक्स से निष्कर्ष नहीं निकाला जा सकता है। इसके बजाय, इसके लिए निरंतर पुनर्मूल्यांकन की आवश्यकता होती है जहाँ गवर्नेंस निर्णय (रिस्ट्रिक्ट, एस्केट, ब्लॉक) डिसएग्रीमेंट, इंस्टेबिलिटी और रिमेडिएशन इफेक्टिवनेस की विकसित होती अवस्था द्वारा संचालित होते हैं।
सीमित दायरा: लेखक स्वीकार करते हैं कि वर्तमान मूल्यांकन मुख्य रूप से फेशियल रिकग्निशन और हेल्थकेयर संदर्भों पर केंद्रित है। वे यह दावा नहीं करते हैं कि वे सभी एआई गवर्नेंस चुनौतियों को हल कर रहे हैं, बल्कि वे अस्थिरता-संवेदनशील स्थितियों के तहत डिप्लॉयमेंट तत्परता को प्रबंधित करने के लिए एक प्रारंभिक ऑपरेशनल फाउंडेशन प्रदान करते हैं। इस फ्रेमवर्क को मौजूदा फेयरनेस इवैल्यूएशन और मॉनिटरिंग पद्धतियों के विकल्प के रूप में नहीं, बल्कि उनके पूरक के रूप में प्रस्तुत किया गया है।

निष्कर्षतः, OADA अवलोकनकारी रिपोर्टिंग से गवर्नेंस-स्टेट ऑर्केस्ट्रेशन की ओर एक बदलाव का प्रस्ताव करता है, यह सुनिश्चित करता है कि उच्च-जोखिम वाले एआई सिस्टम न केवल निष्पक्षता के लिए मूल्यांकित किए जाते हैं, बल्कि विकसित होती अनिश्चितता के तहत डिप्लॉयमेंट तत्परता के लिए सक्रिय रूप से गवर्न भी किए जाते हैं।