Who Are You Explaining To? A Multi-Agent System for Audience-Aware XAI Narratives
यह शोधपत्र XstrAI को प्रस्तुत करता है, जो एक मल्टी-एजेंट फ्रेमवर्क है जो फीचर एट्रिब्यूशन्स (feature attributions) को अपरिवर्तनीय साक्ष्य मानकर और रोगियों, चिकित्सकों एवं डेटा वैज्ञानिकों जैसे विविध हितधारकों के लिए निष्ठापूर्ण एवं उपयुक्त संचार सुनिश्चित करने हेतु योजना (planning), प्राप्ति (realization) और सत्यापन (validation) के लिए विशिष्ट एजेंटों का उपयोग करके दर्शक-जागरूक व्याख्यात्मक एआई (explainable AI) नैरेटिव तैयार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसे कमरे में कदम रख रहे हैं जहाँ एक सुपर-स्मार्ट कंप्यूटर ने आपके भविष्य के बारे में एक भविष्यवाणी की है, जैसे कि आप बीमार हो सकते हैं या आप किसी खेल में कैसा प्रदर्शन करेंगे। यह कंप्यूटर केवल अनुमान नहीं लगाता; इसके पास गणित की एक गुप्त नोटबुक है जो बताती है कि इसने वह अनुमान क्यों लगाया। इस अध्ययन के क्षेत्र को "एक्सप्लेनेबल एआई" (XAI) कहा जाता है। विचार यह है कि यदि कोई कंप्यूटर कोई निर्णय लेता है, तो हमें "क्यों?" पूछने में सक्षम होना चाहिए और एक वास्तविक उत्तर मिलना चाहिए, न कि केवल एक जादुई संख्या।
लेकिन यहाँ पेचीदा हिस्सा है: कंप्यूटर की नोटबुक में "क्यों" बहुत ही सख्त, तकनीकी भाषा में लिखा गया है। यह एक ऐसी रेसिपी की तरह है जो एक कोड में लिखी गई है जिसे केवल एक मास्टर शेफ ही पढ़ सकता है। यदि आप वही रेसिपी एक भूखे बच्चे, एक व्यस्त माता-पिता और एक खाद्य वैज्ञानिक को दिखाते हैं, तो वे सभी इसे अलग तरह से समझेंगे। बच्चे को "स्वादिष्ट सामग्री" के बारे में एक सरल कहानी की आवश्यकता है, माता-पिता को यह जानने की आवश्यकता है कि क्या यह सुरक्षित और त्वरित है, और वैज्ञानिक को सटीक रासायनिक अनुपातों की आवश्यकता है। यदि आप बच्चे को वैज्ञानिक का जटिल गणित देते हैं, तो वह भ्रमित हो जाएगा। यदि आप वैज्ञानिक को बच्चे की सरल कहानी देते हैं, तो उन्हें लगेगा कि आप उन्हें गंभीरता से नहीं ले रहे हैं। बड़ा सवाल जिस पेपर पर यह आधारित है, वह यह है: हम उस एक सख्त, तकनीकी उत्तर को तीन अलग-अलग लोगों के लिए तीन अलग-अलग, सटीक कहानियों में कैसे बदल सकते हैं, बिना वास्तविक तथ्यों को बदले?
इस पेपर के पीछे के शोधकर्ताओं, फ्रांसेस्को म्यूजिको और उनकी टीम ने इस समस्या को हल करने के लिए XstrAI नामक एक नई प्रणाली बनाई है। उन्होंने महसूस किया कि केवल एक फैंसी एआई चैटबॉट से "इसे एक बच्चे को समझाओ" कहना अक्सर गलतियों की ओर ले जाता है। चैटबॉट तथ्य बना सकता है, कारण और प्रभाव को मिला सकता है, या बहुत प्रभावशाली लग सकता है लेकिन वास्तव में वह झूठ बोल रहा हो सकता है कि कंप्यूटर वास्तव में क्या सोच रहा था। इसे ठीक करने के लिए, उन्होंने तीन एआई "एजेंटों" (एक छोटी, विशिष्ट टीम की तरह सोचें) की एक टीम बनाई जो एक कारखाने में प्रोडक्शन लाइन की तरह मिलकर काम करती है।
सबसे पहले, वे कंप्यूटर के कच्चे गणित को एक डिजिटल "आईडी कार्ड" में लॉक कर देते हैं जिसे ExplanationCard कहा जाता है। यह कार्ड अपरिवर्तनीय है; इसमें वास्तविक तथ्य होते हैं, जैसे कि अदालत में सबूत रखने वाला एक सीलबंद बैग। जो कोई भी सुन रहा हो, उसके लिए इस कार्ड के भीतर के तथ्य कभी नहीं बदलते। फिर, तीन एजेंट कार्यभार संभालते हैं:
- द फ्रेमर (The Framer): यह एजेंट योजनाकार है। यह आईडी कार्ड को देखता है और निर्णय लेता है, "ठीक है, यदि हम एक डॉक्टर से बात कर रहे हैं, तो हमें बड़े शब्दों का उपयोग करने और संख्याओं पर ध्यान केंद्रित करने की आवश्यकता है। यदि हम एक मरीज से बात कर रहे हैं, तो हमें विनम्र होने और उन चीजों पर ध्यान केंद्रित करने की आवश्यकता है जिन्हें वे नियंत्रित कर सकते हैं।" यह कहानी का एक ब्लूप्रिंट तैयार करता है।
- द नैरेटर (The Narrator): यह एजेंट लेखक है। यह ब्लूप्रिंट और आईडी कार्ड को लेता है और वास्तविक कहानी लिखता है। यह सुनिश्चित करता है कि वह फ्रेमर द्वारा निर्धारित नियमों का पालन करे, ताकि डॉक्टर को एक तकनीकी रिपोर्ट मिले और मरीज को एक मैत्रीपूर्ण पत्र मिले।
- द रिव्यूअर (The Reviewer): यह एजेंट एक सख्त संपादक है। यह कहानी को पढ़ता है और इसकी मूल आईडी कार्ड के साथ जाँच करता है। क्या लेखक ने कोई तथ्य गढ़ा? क्या उन्होंने गलत बात कही? यदि कहानी गलत है, तो रिव्यूअर इसे सुधारने के लिए फ्रेमर या नैरेटर को वापस भेज देता है। वे इसे तब तक कुछ बार कर सकते हैं जब तक कि कहानी एकदम सही न हो जाए।
टीम ने इन दो वास्तविक दुनिया के चिकित्सा समस्याओं पर इस प्रणाली का परीक्षण किया: मधुमेह के जोखिम की भविष्यवाणी करना और स्ट्रोक होने के जोखिम की भविष्यवाणी करना। उन्होंने अपने इस नए "तीन-एजेंट दल" की तुलना 11 अन्य तरीकों से की, जिसमें केवल एक चैटबॉट से कहानी लिखने के लिए कहना और अन्य सरल तरीके शामिल थे।
परिणाम काफी स्पष्ट थे। जब हमने स्वतंत्र जजों (अन्य एआई और वास्तविक मनुष्यों दोनों) से कहानियाँ पढ़ने के लिए कहा, तो XstrAI सिस्टम यह पहचानने में बहुत बेहतर था कि वह किससे बात कर रहा है। मरीजों के लिए कहानियाँ ऐसी लगीं जैसे वे मरीजों के लिए लिखी गई हों, और डॉक्टरों के लिए कहानियाँ ऐसी लगीं जैसे वे डॉक्टरों के लिए लिखी गई हों। वास्तव में, सिस्टम इतना अच्छा था कि जज 100% समय सही ढंग से अनुमान लगा सके कि कहानी किसके लिए थी, जबकि अन्य तरीके अक्सर गलत हो जाते थे।
मरीजों के लिए, सिस्टम ने डरावनी चिकित्सा शब्दावली से बचने में सफलता प्राप्त की और उन चीजों पर ध्यान केंद्रित किया जिन्हें वे वास्तव में बदल सकते हैं, जैसे कि उनका वजन या आहार, बजाय उन चीजों के जिन्हें वे नहीं बदल सकते, जैसे कि उनकी उम्र। डॉक्टरों के लिए, इसने उन सटीक संख्याओं और तकनीकी विवरणों को बनाए रखा जिनकी उन्हें आवश्यकता होती है। भले ही सिस्टम तथ्यों से चिपके रहने के लिए बहुत सावधान था, फिर भी वह कहानियों को स्वाभाविक बनाने में सफल रहा, न कि रोबोटिक।
यह पेपर सुझाव देता है कि केवल एक एकल चैटबॉट को सब कुछ एक साथ करने के लिए छोड़ने के बजाय यह "टीम दृष्टिकोण" एआई स्पष्टीकरणों को संभालने का एक स्मार्ट तरीका है। योजना बनाने, लिखने और जाँच करने को अलग करके, उन्होंने यह सुनिश्चित किया कि कहानियाँ समझने में आसान होने के साथ-साथ मूल कंप्यूटर के गणित के प्रति पूरी तरह सत्य भी हों। हालांकि यह अध्ययन एक नियंत्रित परीक्षण में एक सफलता थी, लेखकों ने उल्लेख किया है कि यह देखने के लिए कि यह वास्तविक दुनिया में कितनी अच्छी तरह काम करता है, वास्तविक लोगों के बड़े समूहों के साथ अधिक परीक्षण की आवश्यकता है। लेकिन फिलहाल के लिए, XstrAI एक आशाजनक मार्ग दिखाता है जिससे एआई के निर्णय, एक जिज्ञासु किशोर से लेकर एक अनुभवी डॉक्टर तक, सभी के लिए समझने योग्य बनाए जा सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।