Intelligence Breaks the System It Controls

तकनीकी सारांश: "बुद्धिमत्ता उस प्रणाली को तोड़ देती है जिसे वह नियंत्रित करती है"

समस्या का विवरण
यह शोध पत्र द्वैत-बौद्धिक नैदानिक प्रणालियों (चिकित्सक + AI) के डिज़ाइन में एक मौलिक संरचनात्मक विफलता को संबोधित करता है। प्रचलित धारणा यह है कि सुरक्षित चिकित्सा AI को एक ऐसे शासन मॉडल के माध्यम से प्राप्त किया जा सकता है जहाँ AI उच्च-आयामी पैटर्न पहचान (high-dimensional pattern recognition) को संभालता है और चिकित्सक प्रासंगिक निर्णय (contextual judgment) लागू करते हैं। लेखक तर्क देते हैं कि यह धारणा विफल हो जाती है क्योंकि प्रभावी उपचार स्वयं रोगी के शारीरिक प्रक्षेपवक्र (physiological trajectory) को विकृत कर देता है, जिससे एक "साझा अंध बिंदु" (shared blind spot) उत्पन्न होता है। इस अवस्था में, न तो चिकित्सक और न ही AI के पास आगामी रोगी प्रक्षेपवक्र की भविष्यवाणी करने के लिए पर्याप्त जानकारी होती है, जिससे वर्तमान सूचना संरचनाओं के तहत सहयोग अप्रभावी हो जाता है। मुख्य समस्या सहयोग की कमी नहीं है, बल्कि उपकरणन (instrumentation) की कमी है: कोई भी एजेंट यह माप नहीं पा रहा है कि उपचार ने रोगी के प्रक्षेपवक्र को उसके अपने इतिहास के सापेक्ष कैसे बदल दिया है।

कार्यप्रणाली
अध्ययन एक "उपचार-पथ सामंजस्य ढांचे" (treatment-path concordance framework) का उपयोग करता है ताकि यह ऑडिट किया जा सके कि क्या उपचार संबंधी निर्णय (चिकित्सकों या AI मॉडलों द्वारा) आगामी रोगी प्रक्षेपवक्र से मेल खाते हैं। अनुसंधान तीन बड़े पैमाने के अनुदैर्ध्य (longitudinal) डेटासेट का उपयोग करता है:

1. MIMIC-IV (तीव्र देखभाल/Acute Care): 6,243 ICU प्रवेश (73,141 मुठभेड़ें) जो सेप्सिस में वासोप्रेशर टाइट्रेशन (नोरएपिनेफ्रिन) पर केंद्रित हैं। यह एक कम-सूचना वाले परिवेश का प्रतिनिधित्व करता है जहाँ चिकित्सक और रोगी के बीच संपर्क संक्षिप्त होता है।
2. ADNI (अनुदैर्ध्य देखभाल/Longitudinal Care): 2,262 प्रतिभागी जिनके पास क्रमिक संज्ञानात्मक मूल्यांकन (अल्जाइमर रोग) हैं, जो एक उच्च-सूचना वाले परिवेश का प्रतिनिधित्व करते हैं जहाँ चिकित्सक वर्षों के निजी अवलोकन संचित करते हैं।
3. OhioT1DM: ग्लूकोज प्रक्षेपवक्रों में लक्ष्य-क्षेत्र अस्पष्टता (target-zone ambiguity) को सत्यापित करने के लिए 6 विषयों का एक पूरक डेटासेट जिसमें 87,091 CGM रीडिंग शामिल हैं।

लेखकों ने एक "13-परिवार कम्प्यूटेशनल मॉडल ज़ू" (जिसमें रैखिक, ट्री-आधारित, एन्सेम्बल, बूस्टिंग और न्यूरल आर्किटेक्चर शामिल हैं) को प्रशिक्षित किया और कई नवीन मेट्रिक्स पेश किए:

• PBR (संभावना शाखा प्रतिवर्तन/Probability of Branch Reversal): भविष्य की दिशा की अस्पष्टता को मापता है (0.5 = अधिकतम अस्पष्टता)।
• CS (वक्रता परिवर्तन/Curvature Shift) और DR (विकृति त्रिज्या/Deformation Radius): मात्रात्मक रूप से मापते हैं कि उपचार ने पूर्व-घटना निरंतरता के सापेक्ष प्रक्षेपवक्र ज्यामिति को कितना बदल दिया है।
• CRA (सहयोग रिकवरी ऑडिट/Cooperation Recovery Audit): एक लॉजिस्टिक रिग्रेशन-आधारित मीट्रिक जो यह मापता है कि सूचनाओं को मिलाने से बहुमत-वर्ग भविष्यवाणी (majority-class prediction) से परे दिशात्मक अवस्था परिवर्तन किस सीमा तक हल होता है।
• Branch Balance: एक व्युत्पन्न मीट्रिक (2 × PBR) जहाँ 1.0 अधिकतम अस्पष्टता को दर्शाता है।

प्रमुख परिणाम

1. लक्ष्य-क्षेत्र अस्पष्टता (Target-Zone Ambiguity): नैदानिक लक्ष्य (जैसे सेप्सिस में MAP 65 mmHg) अधिकतम शाखा अस्पष्टता के क्षेत्र हैं। MAP 65 पर, PBR 0.5 के करीब पहुँच जाता है, जिसका अर्थ है कि भविष्य की दिशा प्रभावी रूप से एक कॉइन टॉस (सिक्का उछालना) की तरह है।
2. उपचार-प्रेरित विकृति (Treatment-Induced Deformation): प्रभावी उपचार (जैसे नोरएपिनेफ्रिन का प्रारंभ) प्रक्षेपवक्र ज्यामिति को महत्वपूर्ण रूप से विकृत करता है। उपचारित प्रक्षेपवक्रों में औसत Curvature Shift 1.143 है, जबकि स्थिर तुलनात्मक समूहों के लिए यह 0.566 है। यह विकृति गैर-पहचान क्षमता (non-identifiability) को इंजेक्ट करती है; बार-बार किए गए समायोजन 'ब्रांच बैलेंस' को पहले समायोजन के 0.816 से बढ़ाकर नौ से अधिक समायोजनों के बाद 0.994 कर देते हैं, जिससे दिशात्मक पहचान क्षमता ढह जाती है।
3. साझा अंध बिंदु (तीव्र देखभाल - Acute Care): MIMIC-IV में, चिकित्सक और AI मॉडल दोनों ही उपचार की घटनाओं में से 53% मामलों में आगामी प्रक्षेपवक्र से मेल खाने में विफल रहे।
   • सहयोग अधिशेष (Cooperation Surplus): चिकित्सक और AI की जानकारी को मिलाने से नगण्य लाभ (< 0.003) हुआ।
   • मॉडल की विफलता: AI मॉडल जनसंख्या माध्य क्रियाओं (जैसे "डोज़ बनाए रखें") पर डिफ़ॉल्ट हो गए क्योंकि वे विशिष्ट शाखाओं को नहीं देख सकते थे। डोज़ रेकमेंडर (dose recommenders) लगातार चिकित्सकों की तुलना में अधिक खुराक देते रहे (MAP 65 पर 12.5% से 104.2% तक अतिरिक्त खुराक)।
   • ज्यामिति समाधान के रूप में: सीरियल प्रक्षेपवक्र विकृति (कि प्रोफाइल अपनी प्रारंभिक आकृति से कितनी दूर विचलित हुई) के प्रत्यक्ष मापन ने 10-19 प्रतिशत अंक की दिशात्मक स्पष्टता को पुनः प्राप्त किया, जहाँ सूचना विनिमय ने कुछ भी योगदान नहीं दिया।
4. प्रतिवर्तन (अनुदैर्ध्य देखभाल - Longitudinal Care): ADNI में, परिदृश्य उलट गया। साझा अंध बिंदु घटकर 11% रह गया।
   • चिकित्सक के निर्णयों ने 25 प्रतिशत अंक तक दिशात्मक जानकारी जोड़ी (जो संचित निजी ज्ञान को दर्शाता है), जबकि प्रक्षेपवकी ज्यामिति ने नगण्य मूल्य जोड़ा।
   • वास्तविक सहयोग अधिशेष (+0.020) केवल तभी देखा गया जब चिकित्सक के निजी ज्ञान को प्रक्षेपवक्र के विकृति इतिहास के साथ मिलाया गया।
5. आर्किटेक्चर की सीमाएँ: मॉडल की जटिलता बढ़ाने (रैखिक से लेकर डीप न्यूरल नेटवर्क तक) से लुप्त शाखा इतिहास (missing branch history) की भरपाई नहीं हुई। बाधा सूचनात्मक है, न कि मॉडल क्षमता से संबंधित।

प्रमुख योगदान

• संरचनात्मक निदान: यह शोध पत्र पहचानता है कि सुरक्षित नैदानिक AI की बाधा खराब शासन या सहयोग की कमी नहीं है, बल्कि एक मौलिक "गैर-पहचान क्षमता" (non-identifiability) है जो उपचार द्वारा ही सिस्टम के गति के नियम को बदलने के कारण उत्पन्न होती है।
• विकृति-जागरूक अनुमान (Deformation-Aware Estimation): लेखक प्रस्ताव देते हैं कि समाधान अगले राज्य (next state) की बेहतर भविष्यवाणी करना नहीं है, बल्कि "उपकरणन" (instrumentation) है: यानी, अपने इतिहास के सापेक्ष रोगी के प्रक्षेपवक्र के विकृति को सीधे मापना।
• संदर्भ-निर्भर सूचना संरचना: अध्ययन दर्शाता है कि महत्वपूर्ण सूचना का स्रोत डोमेन-विशिष्ट है: तीव्र देखभाल के लिए बेहतर प्रक्षेपवक्र उपकरणन की आवश्यकता है, जबकि अनुदैर्ध्य देखभाल के लिए मॉडल में चिकित्सक के निजी ज्ञान को एनकोड करने की आवश्यकता है।
• CRA मीट्रिक: सूचनाओं को मिलाने से दिशात्मक अस्पष्टता का समाधान होता है या नहीं, इसका अनुभवजन्य परीक्षण करने के लिए 'सहयोग रिकवरी ऑडिट' का परिचय।

महत्व और दावे
यह शोध पत्र दावा करता है कि "शासन" (AI और चिकित्सकों के बीच भूमिकाओं का निर्धारण) का वर्तमान प्रतिमान समयपूर्व है क्योंकि यह मान लेता है कि दोनों एजेंटों के पास इष्टतम निर्णय लेने के लिए आवश्यक जानकारी तक पहुंच है। लेखक तर्क देते हैं कि तीव्र देखभाल में, दोनों एजेंटों में से कोई भी सही चीज़ को नहीं माप रहा है।

केंद्रीय विषय यह है कि "बुद्धिमत्ता उस प्रणाली को तोड़ देती है जिसे वह नियंत्रित करती है" क्योंकि हस्तक्षेप (उपचार) का कार्य रोगी को नया आकार देता है, जिससे एक फीडबैक लूप बनता है जहाँ अगले निर्णय के लिए इनपुट पिछले अवस्था का एक विकृत संस्करण होता है। लेखक निष्कर्ष निकालते हैं कि सुरक्षित नैदानिक AI के लिए स्थिर सतहों पर भविष्य कहनेवाला मॉडलिंग (predictive modeling) से हटकर विकृति-जागरूक अनुमान (deformation-aware estimation) की ओर बढ़ने की आवश्यकता है, जहाँ आर्किटेक्चर क्रिया-प्रतिक्रिया इतिहास से गुप्त परिचालन नियम (latent operative law) का अनुमान लगा सके। जब तक सिस्टम यह नहीं मापता कि उपचार ने रोगी के प्रक्षेपवक्र को उसके अपने इतिहास के सापेक्ष कैसे बदला है, तब तक स्वायत्त नियंत्रण उचित नहीं है, और सहयोग कोई अधिशेष प्रदान नहीं करेगा।