Addressing the Selection Problem in Explainable AI
यह शोध पत्र व्याख्यात्मक एआई (Explainable AI) में "चयन समस्या" (selection problem) की पहचान करता है, जहाँ उपयोगकर्ता साइलोed (siloed) अनुसंधान के कारण प्रभावी स्पष्टीकरण तकनीकों को चुनने में संघर्ष करते हैं, और एक मल्टी-एजेंट एलएलएम (multi-agent LLM) ऑर्केस्ट्रेशन टूल का प्रस्ताव करता है जो उपयोगकर्ता के प्रश्नों को उपयुक्त एक्सएआई (XAI) पद्धति में स्वचालित रूप से अनुवादित कर सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, उन लोगों के बीच एक शांत हताशा घर कर गई है जो इन प्रणालियों का निर्माण और उपयोग करते हैं। जैसे-जैसे मशीनें चिकित्सा निदान से लेकर ऋण स्वीकृति तक सब कुछ के बारे में निर्णय लेने के लिए सीख रही हैं, 'एक्सप्लेनेबल एआई' (व्याख्या योग्य एआई) नामक एक क्षेत्र उभरा है ताकि यह समझने में मदद मिल सके कि वे निर्णय कैसे लिए जाते हैं। इसका लक्ष्य सरल है: मशीन के आउटपुट के लिए एक स्पष्ट कारण प्रदान करना, जिससे एक 'ब्लैक बॉक्स' को पारदर्शी बनाया जा सके। हालाँकि, वर्तमान परिदृश्य इन कारणों को उत्पन्न करने के दर्जनों अलग-अलग तरीकों से भरा हुआ है। कुछ तरीके इस बात पर प्रकाश डालते हैं कि कंप्यूटर ने छवि के किन हिस्सों को देखा, जबकि अन्य दिखाते हैं कि इनपुट में एक छोटा सा बदलाव परिणाम को कैसे बदल सकता है, या वे केवल समान पिछले उदाहरणों को खोजते हैं ताकि यह दिखाया जा सके कि सिस्टम आमतौर पर कैसे व्यवहार करता है। प्रत्येक तरीका मशीन के तर्क के बारे में एक अलग प्रकार के प्रश्न का उत्तर देता है। समस्या यह है कि जबकि शोधकर्ताओं ने इन व्याख्या विधियों का एक विशाल टूलकिट तैयार किया है, जिनका उपयोग करने की आवश्यकता है, वे अक्सर एक बंद दरवाजे के सामने खड़े रह जाते हैं, इस बात को लेकर अनिश्चित होते हैं कि कौन सा उपकरण चुनें या सही तरह की मदद के लिए कैसे पूछें।
कार्नेगी मेलन यूनिवर्सिटी के शोधकर्ताओं ने इस भ्रम को न केवल एक उपयोगकर्ता की त्रुटि के रूप में, बल्कि इन प्रणालियों के डिजाइन में एक मौलिक दोष के रूप में पहचाना है। वे इसे "सिलेक्शन प्रॉब्लम" (चयन की समस्या) कहते हैं। उनके दृष्टिकोण में, व्याख्या योग्य एआई के साथ हमारी वर्तमान बातचीत उपयोगकर्ता को किसी विशिष्ट तकनीकी कमांड में अपनी स्वाभाविक उलझन को अनुवादित करने के लिए मजबूर करती है। कल्पना कीजिए कि एक व्यक्ति जो इस बात को लेकर अनिश्चित है कि मशीन ने एक निश्चित चुनाव क्यों किया; वह सोच सकता है, "मैं जानना चाहता हूँ कि अगर मैं इस एक विवरण को बदल दूँ तो क्या होगा," या "मुझे एक समान मामले का उदाहरण देखने की आवश्यकता है।" वर्तमान प्रणालियों में, उपयोगकर्ता को यह जानना आवश्यक है कि पहले विचार के लिए 'काउंटरफैक्चुअल' (प्रति-तथ्यात्मक) नामक एक विशिष्ट प्रकार की व्याख्या की आवश्यकता है, और दूसरे के लिए 'एक्सेम्प्लर' (उदाहरण) विधि की आवश्यकता है। उन्हें उस विशिष्ट तकनीक को चुनने के लिए सही बटन या मेनू विकल्प खोजने होंगे। शोधकर्ताओं का तर्क है कि एक सामान्य व्यक्ति से इन विभिन्न व्याख्या विधियों के तकनीकी नामों और क्षमताओं को जानने की अपेक्षा करना एक अनुचित और अवास्तविक मांग है। क्योंकि उपयोगकर्ता विश्वसनीय रूप से अपने प्रश्नों को सही तकनीकी उपकरण के साथ मेल नहीं कर पाते हैं, इसलिए वे अक्सर ऐसी व्याख्याओं के साथ समाप्त होते हैं जो वास्तव में उनके द्वारा पूछे गए प्रश्न का उत्तर नहीं देती हैं, जिससे भ्रम या मशीन में गलत विश्वास पैदा होता है।
इस बिंदु को सिद्ध करने के लिए, लेखक इस अंतःक्रिया को एक तार्किक क्रम में विभाजित करते हैं। वे इस बात से शुरुआत करते हैं कि एक आर्टिफिशियल इंटेलिजेंस मॉडल अनिवार्य रूप से एक फलन (फंक्शन) है जो एक इनपुट लेता है और एक आउटपुट उत्पन्न करता है। एक व्याख्या केवल एक प्रक्रिया है जो उसी इनपुट और मॉडल को लेकर एक कारण उत्पन्न करती है। महत्वपूर्ण रूप से, विभिन्न व्याख्या प्रक्रियाएं अलग-अलग संरचनात्मक प्रश्नों का उत्तर देने के लिए बनाई गई हैं। किसी भी क्षण में उपयोगकर्ता की अनिश्चितता मन की एक विशिष्ट अवस्था है, उनकी समझ में एक अंतराल जिसे वे भरना चाहते हैं। शोधकर्ता दिखाते हैं कि किसी भी विशिष्ट समझ के अंतराल के लिए, उपलब्ध व्याख्या विधियों का केवल एक छोटा सा हिस्सा ही वास्तवक रूप से सहायक होगा। फिर भी, आज हम जिन प्रणालियों का उपयोग करते हैं, उनमें उपयोगकर्ता को ही अपने प्राकृतिक भाषा के प्रश्न और तकनीकी विधि के बीच के अंतर को पाटना पड़ता है। सिस्टम यह नहीं पूछता, "आप क्या समझने की कोशिश कर रहे हैं?" बल्कि यह उपयोगकर्ता के किसी विशिष्ट उपकरण को चुनने की प्रतीक्षा करता है। चूंकि अधिकांश लोगों के पास तकनीकी प्रशिक्षण नहीं होता कि वे जान सकें कि कौन सा उपकरण किस प्रश्न के लिए उपयुक्त है, इसलिए वे अक्सर गलत चुनाव करते हैं। परिणाम स्वरूप एक ऐसा सिस्टम मिलता है जो एक उत्तर तो प्रदान करता है, लेकिन उपयोगकर्ता की विशिष्ट आवश्यकता के लिए सही उत्तर नहीं।
यह शोध पत्र इस टूटे हुए लिंक को ठीक करने के लिए एक संरचनात्मक समाधान प्रस्तावित करता है: एक ऐसी प्रणाली जो उपयोगकर्ता के लिए अनुवाद का कार्य संभालती है। उपयोगकर्ता को उपकरण चुनने के लिए कहने के बजाय, नया डिज़ाइन उपयोगकर्ता से केवल साधारण अंग्रेजी में अपना प्रश्न बोलने या टाइप करने को कहता है। इसके बाद सिस्टम एक परिष्कृत सॉफ्टवेयर टूल का उपयोग करता है, जो लार्ज लैंग्वेज मॉडल्स (LLMs) पर आधारित है, ताकि उपयोगकर्ता की अनिश्चितता को सुन सके और उसे स्वचालित रूप से सही व्याख्या विधि तक पहुँचा सके। यह दृष्टिकोण अनुवाद का बोझ मानव से मशीन की ओर स्थानांतरित कर देता है। सिस्टम उपयोगकर्ता की प्राकृतिक भाषा को स्वीकार करता है, यह पता लगाता है कि किस प्रकार का प्रश्न पूछा जा रहा है, और फिर उपयुक्त व्याख्या तकनीक का चयन करता है ताकि उत्तर प्रदान किया जा सके। यह एक अधिक सहज अंतःक्रिया की अनुमति देता है जहाँ उपयोगकर्ता को तकनीकी शब्दावली जानने की आवश्यकता नहीं होती। शोधकर्ता इसे मेडिकल इमेजिंग के लिए डिज़ाइन किए गए एक प्रोटोटाइप के माध्यम से स्पष्ट करते हैं। इस उदाहरण में, एक डॉक्टर "मैं सुनिश्चित नहीं हूँ कि सिस्टम ने इस स्कैन को क्यों फ्लैग किया" जैसा प्रश्न टाइप कर सकता है, और सिस्टम स्वचालित रूप से यह निर्धारित करेगा कि डॉक्टर को एक विशिष्ट प्रकार की विजुअल व्याख्या की आवश्यकता है, और फिर बिना डॉक्टर को उस तकनीक का नाम या उसे कहाँ ढूँढना है, जाने, वह विशिष्ट दृश्य उत्पन्न कर देगा।
शोधकर्ता इसे एक समाधान के रूप में नहीं, बल्कि एक प्रस्ताव और एक समस्या के औपचारिक रूप के रूप में प्रस्तुत करने में सावधानी बरतते हैं। वे अपने विचार को यूजर इंटरफेस की वर्तमान सीमाओं के आधार पर एक तार्किक आवश्यकता के रूप में प्रस्तुत करते हैं, यह सुझाव देते हुए कि व्याख्या योग्य एआई का व्यापक विश्वास हासिल करने में विफल होना आंशिक रूप से इस इंटरफेस बेमेल के कारण है। वे यह दावा नहीं करते कि उन्होंने एक पूर्ण, तैयार उत्पाद बनाया है, बल्कि एक ब्लूप्रिंट पेश करते हैं कि भविष्य के सिस्टम कैसे निर्मित होने चाहिए। यह तर्क देते हुए कि प्रश्नों को उपकरणों से मिलाने का कार्य उपयोगकर्ता से सिस्टम की ओर ले जाकर, हम मानव और आर्टिफिशियल इंटेलिजेंस के बीच अधिक प्रभावी और विश्वसनीय संबंध बना सकते हैं। यह कार्य सुझाव देता है कि आगे बढ़ने का रास्ता अधिक व्याख्या उपकरण बनाने में नहीं, बल्कि लोगों के लिए उन्हें पूछने के बेहतर तरीके बनाने में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।