Beyond Post-hoc Explanation: Toward Glassbox AI via Probabilistic Mediation
यह शोध पत्र "ग्लासबॉक्स फ्रेमवर्क" (Glassbox Framework) का प्रस्ताव करता है, जो एक ante-hoc आर्किटेक्चर है जो उच्च-जोखिम वाले एआई अनुप्रयोगों के लिए अस्थिर post-hoc स्पष्टीकरणों को ऑडिट योग्य, संभाव्य तर्क (probabilistic reasoning) से बदलने के लिए जनरेटिव मॉडल्स में पारदर्शी मध्यस्थ परतों के रूप में बेयसियन नेटवर्क (Bayesian networks) को एकीकृत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ी समस्या: "ब्लैक बॉक्स" और "बाद में दिया गया बहाना"
कल्पना कीजिए कि एक सरकारी कार्यालय है जहाँ एक कंप्यूटर तय करता है कि किसे बेरोजगारी भत्ता मिलना चाहिए। वर्तमान में, हम इन निर्णयों के लिए शक्तिशाली AI (जैसे लार्ज लैंग्वेज मॉडल्स) का उपयोग करते हैं। लेकिन ये AI "ब्लैक बॉक्स" (Black Boxes) की तरह हैं: आप किसी व्यक्ति का आवेदन अंदर डालते हैं, और एक निर्णय बाहर निकल आता है, लेकिन आपको पता नहीं चलता कि कंप्यूटर वहाँ तक कैसे पहुँचा।
इसे ठीक करने के लिए, विशेषज्ञ वर्तमान में एक "पोस्ट-हॉक एक्सप्लेनेशन" (घटना के बाद का स्पष्टीकरण) जोड़ने की कोशिश करते हैं। यह एक जादूगर से पूछने जैसा है, "आपने टोपी से खरगोश कैसे निकाला?" जब जादू का खेल खत्म हो चुका हो। यह पेपर तर्क देता है कि यह एक बुरा विचार है क्योंकि:
- यह अस्थिर है: यदि आप एक ही सवाल को थोड़े से अंतर के साथ दो बार पूछते हैं, तो स्पष्टीकरण पूरी तरह से बदल सकता है, भले ही उत्तर वही रहे।
- यह वास्तविक नहीं है: स्पष्टीकरण वास्तव में वह नहीं है जो कंप्यूटर ने सोचा था; यह केवल एक दूसरे कंप्यूटर द्वारा बनाया गया अनुमान है जो पहले वाले की नकल करने की कोशिश कर रहा है।
- आप इसे चुनौती नहीं दे सकते: यदि कोई नागरिक निर्णय से असहमत है, तो वह विशिष्ट तर्क को चुनौती नहीं दे सकता क्योंकि तर्क को कभी लिखा ही नहीं गया था। "स्पष्टीकरण" केवल बाद में बनाई गई एक कहानी है।
लेखक कहता है: समस्या यह नहीं है कि हम AI को समझा नहीं सकते; समस्या यह है कि AI को शुरू से ही एक संरचित तरीके से सोचने के लिए नहीं बनाया गया था।
समाधान: "ग्लासबॉक्स" (Glassbox) ढांचा
यह पेपर एक नया आर्किटेक्चर प्रस्तावित करता है जिसे ग्लासबॉक्स फ्रेमवर्क कहा जाता है। एक ब्लैक बॉक्स के बजाय जहाँ आप अंदर नहीं देख सकते, एक ग्लास बॉक्स (कांच का डिब्बा) की कल्पना करें। आप काम करते समय उसके हर गियर, लीवर और नियम को देख सकते हैं।
यह कैसे काम करता है, इसके लिए रेस्तरां किचन का उदाहरण देखते हैं:
1. गवर्नेंस लेयर (हेड शेफ और नियम पुस्तिका)
खाना पकाने से पहले, एक हेड शेफ (मानव विशेषज्ञ) एक सख्त रेसिपी बुक (Recipe Book) लिखता है (एक बेयसियन नेटवर्क)।
- यह किताब सूचीबद्ध करती है कि किन सामग्रियों की आवश्यकता है (चर जैसे "आय," "निवास," "रोजगार")।
- यह नियमों को सूचीबद्ध करती है: "यदि ग्राहक के पास कोई नौकरी नहीं है, तो उनकी आय कम होने की संभावना है।"
- यह नियम पुस्तिका रसोई का कानून है। यह खाना पकाने के शुरू होने से पहले लिखी जाती है।
2. इन्फरेंस लेयर (लाइन कुक और ट्रांसलेटर)
अब, एक ग्राहक (आवेदक) अपने जीवन का वर्णन करते हुए एक अस्त-व्यस्त, हस्तलिखित नोट के साथ आता है।
- लाइन कुक (LLM): यह तेज़ और शक्तिशाली AI है। यह अस्त-व्यस्त नोट को पढ़ता है और यह समझने की कोशिश करता है कि सामग्रियां क्या हैं। यह कह सकता है, "मुझे लगता है कि वे बेरोजगार हैं।"
- ट्रांसलेटर (इंटरफेस): लाइन कुक "मानव भाषा" बोलता है, लेकिन रेसिपी बुक "गणित और तर्क" बोलती है। ट्रांसलेटर कुक के अनुमान को रेसिपी बुक के लिए एक विशिष्ट सामग्री में बदलने की कोशिश करता है।
- सेफ्टी चेक (बेयसियन नेटवर्क): रेसिपी बुक कुक के अनुमान की जाँच करती है।
- परिदृश्य: कुक कहता है, "वे बेरोजगार हैं," लेकिन साथ ही कहता है, "उनके पास एक बड़ा बैंक खाता है।"
- चेक: रेसिपी बुक संघर्ष देखती है! "रुको, यदि वे बेरोजगार हैं, तो उनके पास बड़ा बैंक खाता नहीं होना चाहिए।"
- सुधार: रेसिपी बुक कुक को वापस भेजती है: "जाओ और बैंक खाते की दोबारा जाँच करो। तुमने कुछ मिस कर दिया है।"
- कुक फिर से देखता है, सच्चाई पाता है, और सिस्टम आगे बढ़ता है।
3. अकाउंटेबिलिटी लेयर (इंस्पेक्टर का लॉग)
एक बार जब भोजन तैयार हो जाता है (निर्णय ले लिया जाता है), तो सिस्टम केवल भोजन नहीं सौंपता। यह एक पूर्ण, ऑडिट योग्य लॉग (Auditable Log) सौंपता है।
- यह दिखाता है कि किस नियम का उपयोग किया गया था।
- यह दिखाता है कि कुक कहाँ अनिश्चित था।
- यह दिखाता है कि निर्णय क्यों लिया गया था।
- यदि कोई ग्राहक असहमत है, तो वे लॉग की एक विशिष्ट पंक्ति की ओर इशारा कर सकते हैं: "आपने मेरे निवास के लिए गलत नियम का उपयोग किया!" और उस विशिष्ट भाग को चुनौती दे सकते हैं।
यह बेहतर क्यों है ("ग्लासबॉक्स" के लाभ)
- पारदर्शिता: आप अनुमान नहीं लगा रहे हैं कि निर्णय कैसे लिया गया; आप गियर को घूमते हुए देख रहे हैं।
- चुनौती देने की क्षमता (Contestability): आप एक विशिष्ट नियम या साक्ष्य को चुनौती दे सकते हैं, न कि केवल एक अस्पष्ट "AI भावना" को।
- अनिश्चितता: सिस्टम स्वीकार करता है कि वह अनिश्चित है। "हाँ" या "नहीं" कहने के बजाय, यह कहता है, "नियमों के आधार पर, इस बात की 87% संभावना है कि आप पात्र हैं।"
- मॉड्यूलरिटी (Modularity): यदि सरकार कानून बदलती है (जैसे, "अब 1 के बजाय 2 साल के कार्य अनुभव की आवश्यकता है"), तो आप बस रेसिपी बुक को अपडेट करते हैं। आपको पूरे किचन को फिर से प्रशिक्षित करने की आवश्यकता नहीं है।
कठिन हिस्से (जिस पर अभी काम करने की आवश्यकता है)
पेपर स्वीकार करता है कि यह अभी तक एक तैयार उत्पाद नहीं है। यह एक नए प्रकार के सिस्टम का ब्लूप्रिंट है। इसे बनाने के लिए तीन बड़ी बाधाएं हैं:
- अनुवाद की समस्या (The Translation Problem): अस्त-व्यस्त मानव भाषा (जैसे "मैं शायद नौकरी के बीच में हूँ") को सख्त गणितीय चरों (जैसे "रोजगार की स्थिति = बेरोजगार") में बदलना बहुत कठिन है। पेपर इसे "सिमेंटिक अलाइनमेंट" (Semantic Alignment) की समस्या कहता है।
- गणित की समस्या (The Math Problem): AI "अस्पष्ट विश्वास स्कोर" में बोलता है, लेकिन रेसिपी बुक को "सख्त संभावनाओं" की आवश्यकता होती है। इन दो अलग-अलग गणितीय भाषाओं के बीच सेतु बनाना एक बड़ी वैज्ञानिक चुनौती है।
- मानवीय समस्या (The Human Problem): रेसिपी बुक कौन लिखेगा? यदि हेड शेफ एक खराब नियम पुस्तिका लिखता है, तो पूरा सिस्टम गलत होगा। हमें इन डिजिटल नियम पुस्तिकाओं को कैसे नियंत्रित किया जाए, इसके लिए नए नियमों की आवश्यकता है।
निष्कर्ष (The Bottom Line)
यह पेपर तर्क देता है कि स्वास्थ्य सेवा, कानून और सरकारी लाभ जैसे उच्च-दांव वाले क्षेत्रों में, हम ऐसे AI पर भरोसा नहीं कर सकते जो बाद में खुद को समझाने की कोशिश करता है। हमें ऐसा AI बनाना होगा जो शुरू से ही एक लिखित, निरीक्षण योग्य नियम पुस्तिका का पालन करता हो।
शक्तिशाली AI के सामने एक "ग्लास बॉक्स" (एक पारदर्शी, गणित-आधारित तर्क परत) रखकर, हम यह सुनिश्चित कर सकते हैं कि निर्णय न केवल शक्तिशाली हों, बल्कि निष्पक्ष, जांचने योग्य और जवाबदेह भी हों। पेपर यह दावा नहीं करता कि उसने इसे अभी तक बना लिया है; यह दावा करता है कि यदि हम गंभीर स्थितियों में AI को भरोसेमंद बनाना चाहते हैं, तो यही एकमात्र रास्ता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।