Explainability in Practice: A Survey of Explainable NLP Across Various Domains

ब्लैक बॉक्स और मैजिक लालटेन

कल्पना कीजिए कि आपने एक सुपर-स्मार्ट रोबोट बनाया है जो किताबें पढ़ सकता है, कहानियाँ लिख सकता है और यहाँ तक कि बीमारियों का निदान भी कर सकता है। यह अपने काम में अविश्वसनीय रूप से कुशल है, लेकिन इसमें एक पेंच है: यह एक जादुई बक्से की तरह काम करता है। आप एक सवाल डालते हैं, और एक सटीक उत्तर बाहर आ जाता है, लेकिन रोबोट यह बताने से इनकार कर देता है कि उसने इसे कैसे समझा। वह बस कहता है, "मुझ पर भरोसा करो, मैं स्मार्ट हूँ।" वैज्ञानिक इसे "ब्लैक बॉक्स" कहते हैं। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, विशेष रूप से नेचुरल लैंग्वेज प्रोसेसिंग (NLP)—जो कंप्यूटर को मानवीय भाषा समझने के लिए सिखाने का एक फैंसी नाम है—में ये ब्लैक बॉक्स हर जगह मौजूद हैं। ये उन चैटबॉट्स को संचालित करते हैं जिनसे आप बात करते हैं, उन सिस्टमों को जो तय करते हैं कि आपको ऋण (लोन) मिलेगा या नहीं, और उन उपकरणों को जिनका उपयोग डॉक्टर मरीज के रिकॉर्ड की जाँच करने के लिए करते हैं।

समस्या यह है कि जब कोई ब्लैक बॉक्स गलती करता है, या जब वह कोई ऐसा निर्णय लेता है जो अनुचित लगता है, तो हमें पता ही नहीं चलता कि क्यों। यह एक ऐसे न्यायाधीश की तरह है जो सबूत पढ़े बिना ही सजा सुना देता है। इसे ठीक करने के लिए, शोधकर्ता "एक्सप्लेनेबल एआई" (XAI) विकसित कर रहे हैं। XAI को एक जादुic लालटेन के रूप में सोचें जो ब्लैक बॉक्स के अंदर रोशनी डालता है, जिससे हमें वे गियर चलते हुए और वे सुराग दिखाई देते हैं जिनका उपयोग कंप्यूटर ने अपने चुनाव के लिए किया था। लेकिन यहाँ एक मोड़ है: एक "अच्छा स्पष्टीकरण" क्या है, यह पूरी तरह से इस पर निर्भर करता है कि पूछने वाला कौन है। एक डॉक्टर को एक बैंक मैनेजर या ग्राहक सेवा एजेंट की तुलना में अलग प्रकार के प्रमाण की आवश्यकता होती है। यह शोध पत्र उन विभिन्न दुनियाओं का एक विशाल टूर गाइड है जहाँ ये स्मार्ट भाषा वाले रोबोट काम कर रहे हैं, यह देख रहा है कि हम उन्हें सच उगलने के लिए कैसे मजबूर करने की कोशिश कर रहे हैं, और यह पता लगा रहा है कि क्यों "एक ही आकार सबके लिए उपयुक्त" (one size fits all) वाली बात बिल्कुल भी लागू नहीं होती।

महान जासूसी खोज: एआई स्पष्टीकरणों का एक सर्वेक्षण

यह शोध पत्र एक विशाल जासूसी कहानी की तरह है जहाँ लेखक, हादी मोहम्मदी और उनके साथियों के नेतृत्व में, सात अलग-अलग मोहल्लों में फील्ड ट्रिप पर जाते हैं जहाँ AI भाषा मॉडल गंभीर काम कर रहे हैं। वे केवल रोबोटों को नहीं देख रहे हैं; वे उन स्पष्टीकरणों को देख रहे हैं जो रोबोट देते हैं (या देने में विफल रहते हैं) और पूछ रहे हैं: "क्या यह स्पष्टीकरण वास्तव में इसका उपयोग करने वाले लोगों की मदद करता है?"

लेखकों ने चिकित्सा (Medicine), वित्त (Finance), सिस्टमैटिक रिव्यूज (जहाँ वैज्ञानिक हजारों शोध पत्रों का सारांश निकालते हैं), कस्टमर रिलेशनशिप मैनेजमेंट (CRM) (जो कंपनियों के ग्राहकों से बात करने का तरीका है), चैटबॉट्स, सामाजिक और व्यवहार संबंधी विज्ञान (जैसे नफरत भरे भाषण और फर्जी खबरों का अध्ययन करना), और मानव संसाधन (HR) (भर्ती और छंटनी) का दौरा किया।

यहाँ प्रत्येक मोहल्ले में उन्हें क्या मिला:

• चिकित्सा में: डॉक्टर जान बचा रहे हैं, लेकिन वे उस रोबोट पर भरोसा नहीं कर सकते जो सिर्फ यह कहता है "मरीज जोखिम में है।" उन्हें जानना होगा कि क्यों। शोध पत्र दिखाता है कि अस्पतालों में, स्पष्टीकरण एक डॉक्टर की टॉर्च के लिए फ्लैशलाइट की तरह काम करते हैं। उदाहरण के लिए, यदि कोई कंप्यूटर हार्ट फेलियर की भविष्यवाणी करता है, तो उसे उन विशिष्ट मेडिकल कोड या लक्षणों (जैसे उच्च क्रिएटिनिन स्तर) को हाइलाइट करने की आवश्यकता होती है जो उस निष्कर्ष तक ले गए। लेखकों ने पाया कि हालांकि कुछ तरीके अच्छी तरह काम करते हैं, लेकिन डॉक्टरों को अक्सर ऐसे स्पष्टीकरणों की आवश्यकता होती है जो उनके व्यस्त कार्यप्रवाह (workflow) में फिट बैठें, न कि केवल सुंदर चार्ट।
• वित्त में: यहाँ दांव पर पैसा और कानून हैं। यदि कोई बैंक ऋण देने से मना करता है, तो उन्हें सरकार और ग्राहक को समझाना होगा कि क्यों। शोध पत्र नोट करता है कि वित्त टीमें उन उपकरणों को पसंद करती हैं जो अनुबंध में या लेनदेन लॉग में उन विशिष्ट शब्दों की ओर इशारा कर सकें जिन्होंने धोखाधड़ी की चेतावनी दी थी। हालाँकि, उन्होंने एक पेचीदा समस्या भी पाई: कभी-कभी, सिस्टम को धोखा देने की कोशिश करने वाले बुरे तत्वों द्वारा स्पष्टीकरणों का "गेम" (manipulate) किया जा सकता है।
• सिस्टमैटिक रिव्यूज में: कल्पना कीजिए कि एक लाइब्रेरियन 10,000 किताबें पढ़ने की कोशिश कर रहा है ताकि उन 50 को ढूँढा जा सके जो महत्वपूर्ण हैं। AI किताबों को छाँटकर मदद करता है, लेकिन लाइब्रेरियन को जानने की जरूरत है कि AI ने एक किताब को क्यों चुना। शोध पत्र सुझाव देता है कि यहाँ स्पष्टीकरण शोधकर्ताओं को AI की छंटनी पर भरोसा करने में मदद करते हैं, जिससे पूरी प्रक्रिया तेज और मानवीय त्रुटियों से कम होने वाली हो जाती है।
• CRM और चैटबॉट्स में: जब आप किसी बॉट से बात करते हैं, तो आप चाहते हैं कि वह मानवीय लगे। लेकिन अगर बॉट आपको अजीब जवाब देता है, तो आप जानना चाहते हैं कि क्यों। लेखकों ने पाया कि यदि चैटबॉट अपने तर्क को समझा सकता है (जैसे "मैंने यह फिल्म इसलिए सुझाई क्योंकि आपको पिछले हफ्ते साइंस-फिक्शन पसंद आया था"), तो लोग उस पर अधिक भरोसा करते हैं। लेकिन एक संतुलन है: यदि स्पष्टीकरण बहुत लंबा है, तो यह बातचीत को खराब कर देता है।
• सामाजिक विज्ञान में: यह इंटरनेट का "पुलिस" है, जो नफरत भरे भाषण या फर्जी खबरों की तलाश कर रहा है। शोध पत्र यहाँ एक बड़ी चुनौती को उजागर करता है: संस्कृति। जो एक देश में नफरत भरा भाषण लग सकता है, वह दूसरे देश में सामान्य बोलचाल हो सकती है। लेखक सुझाव देते हैं कि यहाँ स्पष्टीकरण बहुत सावधान होने चाहिए, जो ठीक से दिखाएं कि किन शब्दों ने अलार्म बजाया, ताकि इंसान यह जांच सकें कि क्या AI बहुत संवेदनशील हो रहा है या बात को मिस कर रहा है।
• मानव संसाधन (HR) में: कंपनियाँ रेज़्यूमे स्कैन करने के लिए AI का उपयोग करती हैं। शोध पत्र एक डरावना सच प्रकट करता है: ये सिस्टम कुछ नामों या पृष्ठभूमियों के खिलाफ पक्षपाती हो सकते हैं। स्पष्टीकरण यहाँ महत्वपूर्ण हैं क्योंकि वे ही एकमात्र तरीका हैं जिससे पक्षपात को देखा जा सकता है। उनके बिना, AI एक बेहतरीन उम्मीदवार को खारिज कर सकता है, और किसी को पता भी नहीं चलेगा कि क्यों, जब तक कि बहुत देर न हो जाए।

"वन-साइज़-फिट्स-ऑल" का मिथक और टू-टियर समाधान

इस शोध पत्र की सबसे बड़ी खोजों में से एक यह है कि आप हर काम के लिए एक ही स्पष्टीकरण उपकरण का उपयोग नहीं कर सकते। यह एक कील ठोकने के लिए स्क्रूड्राइवर का उपयोग करने जैसा है; यह थोड़ा काम कर सकता है, लेकिन यह सही उपकरण नहीं है।

लेखक तर्क देते हैं कि हालांकि इन सभी क्षेत्रों को "भरोसे" की आवश्यकता है, लेकिन उन्हें अलग-अलग प्रकार के भरोसे की आवश्यकता है। एक डॉक्टर को चिकित्सकीय रूप से सटीक कारण चाहिए; एक बैंक को कानूनी रूप से अनुपालन करने वाला कारण चाहिए; एक चैटबॉट उपयोगकर्ता को एक मैत्रीपूर्ण कारण चाहिए। शोध पत्र इन स्पष्टीकरणों का परीक्षण करने का एक नया तरीका सुझाता है जिसे "टू-टियर इवैल्यूएशन प्रोटोकॉल" कहा जाता है।

• टियर 1 (तकनीकी कोर): यह गणित वाला हिस्सा है। क्या स्पष्टीकरण ने वही किया जो कंप्यूटर ने वास्तव में किया था? (इसे "फेथफुलनेस" कहा जाता है)। क्या इसने सही उत्तर प्राप्त किया? (यह "फिडेलिटी" है)। प्रत्येक स्पष्टीकरण को इस बुनियादी परीक्षण को पास करना होगा।
• टियर 2 (डोमेन लेयर): यह मानवीय हिस्सा है। क्या एक डॉक्टर वास्तव में इसे समझता है? क्या एक बैंक रेगुलेटर इसे स्वीकार करता है? क्या एक ग्राहक आश्वस्त महसूस करता है? यह हिस्सा काम के आधार पर बदल जाता है।

शोध पत्र आधुनिक "सुपर-स्मार्ट" AI (जैसे वे जो निबंध लिखते हैं) के साथ एक छिपी हुई समस्या को भी संबोधित करता है। कभी-कभी, ये AI मॉडल यह बताने के लिए एक बहुत ही विश्वसनीय कहानी लिख सकते हैं कि उन्होंने कैसे सोचा, लेकिन वह कहानी वास्तव में सच नहीं होती है। यह एक ऐसे छात्र की तरह है जो एक आदर्श निबंध लिखता है कि उसने गणित की समस्या को कैसे हल किया, लेकिन वास्तव में उसने केवल उत्तर का अनुमान लगाया था। लेखक इसे "चेन-ऑफ-थॉट फेथफुलनेस प्रॉब्लम" कहते हैं। उन्होंने पाया कि केवल इसलिए कि एक AI चरण-दर-चरण तर्क देता है, इसका मतलब यह नहीं है कि उसने वास्तव में ऐसा किया है। यह उन लोगों के लिए एक बड़ी चेतावनी है जो गंभीर निर्णयों के लिए इन मॉडलों पर भरोसा कर रहे हैं।

आगे क्या है?

शोध पत्र निष्कर्ष निकालता है कि हम प्रगति कर रहे हैं, लेकिन हम अभी वहां नहीं पहुंचे हैं। हमारे पास ब्लैक बॉक्स में रोशनी डालने के उपकरण हैं, लेकिन हमें यह सुनिश्चित करने की आवश्यकता है कि रोशनी उस कमरे के लिए सही रंग की हो जिसमें हम हैं। लेखक सुझाव देते हैं कि भविष्य के शोध को ऐसे स्पष्टीकरण बनाने पर ध्यान केंद्रित करना चाहिए जो पूछने वाले के आधार पर बदलते हों (पर्सनलाइज्ड स्पष्टीकरण) और यह साबित करने के तरीके खोजने चाहिए कि AI का "तर्क" वास्तविक है और केवल एक बनावटी कहानी नहीं है।

संक्षेप में, यह शोध पत्र एक रोडमैप है। यह हमें बताता है कि AI को वास्तव में सहायक और सुरक्षित बनाने के लिए, हमें केवल स्मार्ट रोबोट ही नहीं बनाने चाहिए; हमें उनसे बात करने और उन्हें समझने के बेहतर तरीके भी बनाने होंगे। और बिल्कुल वास्तविक जीवन की तरह, सबसे अच्छा स्पष्टीकरण वही है जो सुनने वाले व्यक्ति के लिए समझ में आए।