Developing and Testing an Engineering Framework for Curiosity-Driven and Humble AI in Clinical Decision Support
यह शोध पत्र BODHI को प्रस्तुत करता है, जो एक इंजीनियरिंग फ्रेमवर्क है जो एपिस्टेमिक अनिश्चितता (epistemic uncertainty) को विघटित करके और सद्गुण-आधारित नियमों (virtue-based rules) को लागू करके नैदानिक निर्णय सहायता AI को उन्नत करता है, जो नियंत्रित मूल्यांकनों में मॉडल की विनम्रता, जिज्ञासा और समग्र प्रतिक्रिया गुणवत्ता में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बेहद प्रतिभाशाली, सुपर-फास्ट मेडिकल छात्र है जिसने दुनिया की हर किताब पढ़ ली है। इस छात्र को आप "द एआई" (The AI) कह सकते हैं, जो अविश्वसनीय रूप से बुद्धिमान है लेकिन उसमें एक बड़ा व्यक्तित्व दोष है: वह खतरनाक रूप से अति-आत्मविश्वासी है।
यदि आप एआई से पूछें, "इस मरीज के साथ क्या समस्या है?" तो वह 100% निश्चितता के साथ एक निश्चित उत्तर दे देगा, भले ही उसके पास आधे तथ्य भी न हों। वास्तविक दुनिया में, यह एक जीपीएस (GPS) की तरह है जो आपको खाई में गाड़ी चलाने के लिए कहता है क्योंकि वह "जानता" है कि सड़क वहीं है, भले ही पुल टूट चुका हो। यह अति-आत्मविश्वास डॉक्टरों को गलतियाँ करने के लिए मजबूर कर सकता है, क्योंकि वे अपनी अंतरात्मा या सहज ज्ञान के बजाय मशीन पर भरोसा करने लगते हैं।
आपके द्वारा साझा किया गया पेपर एक नया "प्रशिक्षण मैनुअल" पेश करता है जिसे BODHI (Balanced, Open-minded, Diagnostic, Humble, and Inquisitive - संतुलित, खुले विचारों वाला, नैदानिक, विनम्र और जिज्ञासु) कहा जाता है ताकि इसे ठीक किया जा सके। BODHI को एक नए मस्तिष्क के रूप में नहीं, बल्कि एक सख्त कोच के रूप में समझें जो एआई के बगल में खड़ा है, बोलने से पहले उसके कान में नियम फुसफुसा रहा है।
BODHI कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:
1. दो-चरणों वाली "सोचने" की प्रक्रिया (The Two-Pass "Thinking" Process)
एआई को तुरंत उत्तर देने देने के बजाय, BODHI उसे दो चरणों में सोचने के लिए "टाइम-आउट" लेने के लिए मजबूर करता है:
चरण 1: आंतरिक ऑडिट (The "Internal Audit" - "जांचकर्ता" चरण)
बोलने से पहले, एआई को एक गुप्त वर्कशीट भरनी होगी। उसे स्वीकार करना होगा कि:- "मैं वास्तव में क्या जानता हूँ?"
- "कौन सी जानकारी गायब है?" (जैसे, "मुझे मरीज का ब्लड प्रेशर नहीं पता है।")
- "खतरे के संकेत (Red Flags) क्या हैं?" (जैसे, "यह हार्ट अटैक जैसा लग रहा है।")
- "पक्का होने के लिए मुझे क्या सवाल पूछने चाहिए?"
- उपमा: यह एक जासूस की तरह है जो अपराध स्थल को देखते हुए कहता है, "मैं इसे अभी हल नहीं कर सकता क्योंकि मैंने अभी तक पिछला दरवाजा नहीं देखा है या पड़ोसी से बात नहीं की है।"
चरण 2: सार्वजनिक प्रतिक्रिया (The "Public Response" - "राजनयिक" चरण)
अब, एआई उस वर्कशीट के आधार पर अपना उत्तर तैयार करता है। इसे सख्त नियमों का पालन करने के लिए मजबूर किया जाता है:- यदि जानकारी गायब है, तो उसे अनिवार्य रूप से एक प्रश्न पूछना होगा।
- यदि वह अनिश्चित है, तो उसे झूठ बोलने के बजाय यह कहना अनिवार्य है कि "मैं 100% निश्चित नहीं हूँ।"
- यदि स्थिति खतरनाक है और वह अनिश्चित है, तो उसे तुरंत मानव डॉक्टर को कार्यभार संभालने के लिए कहना होगा।
- उपमा: "आपको फ्लू है" कहने के बजाय, यह कहता है, "यह फ्लू हो सकता है, लेकिन मुझे पहले यह जानने की जरूरत है कि क्या आपको बुखार है। तब तक, कृपया डॉक्टर से मिलें।"
2. "वर्चू एक्टिवेशन मैट्रिक्स" (The "Virtue Activation Matrix" - ट्रैफिक लाइट सिस्टम)
पेपर एक ग्रिड का वर्णन करता है जो यह तय करता है कि एआई को कैसे व्यवहार करना चाहिए, जो दो चीजों पर आधारित है: मामला कितना जटिल है? और एआई कितना आश्वस्त है?
- ग्रीन लाइट (उच्च आत्मविश्वास, कम जटिलता): एआई एक सीधा उत्तर दे सकता है। "यह सामान्य सर्दी है।"
- येलो लाइट (उच्च आत्मविश्वास, उच्च जटिलता): एआई आश्वस्त है लेकिन जानता है कि मामला पेचीदा है। वह कहता है, "मुझे लगता है कि यह X है, लेकिन यहाँ तीन अन्य संभावनाएं हैं जिन पर हमें नज़र रखनी चाहिए।"
- ऑरेंज लाइट (कम आत्मविश्वास, कम जटिलता): एआई सुनिश्चित नहीं है। वह रुकता है और पूछता है, "क्या आप दर्द के बारे में और बता सकते हैं?" (यह जिज्ञासा है)।
- रेड लाइट (कम आत्मविश्वास, उच्च जटिलता): एआई की समझ से बाहर की बात है। वह तुरंत कहता है, "मैं इसका उत्तर नहीं दे सकता। अभी एक मानव विशेषज्ञ की आवश्यकता है।" (यह विनम्रता है)।
3. परिणाम: क्या हुआ? (The Results: What Happened?)
शोधकर्ताओं ने इस "कोच" (BODHI) का परीक्षण दो अलग-अलग एआई मॉडलों पर 200 कठिन चिकित्सा परिदृश्यों पर किया। उन्होंने कोच के बिना बनाम कोच के साथ एआई के प्रदर्शन की तुलना की।
- BODHI से पहले: एआई शायद ही कभी सवाल पूछता था (केवल लगभग 8% समय) और अक्सर आत्मविश्वासी लेकिन गलत उत्तर देता था।
- BODHI के बाद:
- जिज्ञासा में भारी उछाल आया: एआई ने स्पष्टीकरण वाले प्रश्न पूछना शुरू कर दिया (एक मॉडल के लिए 97% मामलों में)। वह एक 'सब-जानने वाले' से बदलकर एक जिज्ञासु जासूस बन गया।
- विनम्रता बढ़ी: एआई ने अनिश्चितता को बहुत अधिक बार स्वीकार करना शुरू कर दिया।
- सुरक्षा में सुधार हुआ: चिकित्सा सलाह की समग्र गुणवत्ता काफी बढ़ गई।
- ट्रेड-ऑफ (समझौता): एआई के उत्तर थोड़े कम "स्मूथ" या "आत्मविश्वासी दिखने वाले" हो गए। यह सुनने में थोड़ा हिचकिचाता हुआ लगा। पेपर का तर्क है कि यह एक अच्छी बात है। चिकित्सा में, एक हिचकिचाने वाला, सवाल पूछने वाला एआई, एक आत्मविश्वासी लेकिन गलत एआई की तुलना में अधिक सुरक्षित है।
निचोड़ (The Bottom Line)
पेपर का दावा है कि एआई के मस्तिष्क को सुरक्षित बनाने के लिए आपको उसे फिर से बनाने की आवश्यकता नहीं है। आपको बस उसे सोचने का एक संरचित तरीका देने की आवश्यकता है जो उसे यह स्वीकार करने के लिए मजबूर करे कि वह क्या नहीं जानता और अनिश्चित होने पर मदद मांगने के लिए प्रेरित करे।
BODHI ढांचे का उपयोग करके, एआई एक आत्मविश्वासी भविष्यवक्ता (जो आपको खाई में गिरा सकता है) से बदलकर एक विनम्र साथी (जो जानता है कि कब रुकना है, सवाल पूछने हैं और मानव विशेषज्ञ को बुलाना है) में बदल जाता है। यह अध्ययन सिद्ध करता है कि सही प्रॉम्प्ट्स के साथ, एआई जिज्ञासु और विनम्र होना सीख सकता है, जिससे यह नैदानिक उपयोग के लिए बहुत सुरक्षित हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।