Rethinking Explanations: Formalizing Contrast in Description Logics
यह शोध पत्र डिस्क्रिप्शन लॉजिक्स (Description Logics) में कंट्रास्टिव स्पष्टीकरणों (contrastive explanations) के लिए एक उपयोगकर्ता-केंद्रित ढांचे का प्रस्ताव करता है जो मौजूदा जस्टिफिकेशन और एब्डक्टिव रीजनिंग विधियों की सीमाओं को संबोधित करता है, क्योंकि यह औपचारिक रूप से परिभाषित और मूल्यांकन करता है कि किसी वैकल्पिक फॉयल (foil) के बजाय कोई तथ्य क्यों सत्य है, इसे कैसे समझाया जाए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, जादुई पुस्तकालय में घूम रहे हैं जहाँ हर किताब दुनिया के काम करने के नियमों का प्रतिनिधित्व करती है। यह पुस्तकालय एक बहुत ही सख्त, तार्किक भाषा पर बना है जिसे डिस्क्रिप्शन लॉजिक (DL) कहा जाता है। यह कंप्यूटर किसी व्यक्ति (मान लीजिए, एलिस) और नियमों के एक सेट को देख सकता है, और वह आपको बता सकता है, "हाँ, एलिस को काम पर रख लिया गया है!"
पुराना तरीका: "क्यों?"
आमतौर पर, यदि आप कंप्यूटर से पूछते हैं, "एलिस को काम पर क्यों रखा गया?", तो वह आपको एक जस्टिफिकेशन (Justification) देता है। वह पुस्तकालय के उन विशिष्ट पन्नों को निकालता है जो एलिस के काम पर रखे जाने को सिद्ध करते हैं।
- उपमा: यह आपको गणित की समस्या के सटीक चरणों को दिखाने जैसा है जो यह सिद्ध करता है कि उत्तर 5 है। यह सटीक है, लेकिन यह केवल "विजेता" के बारे में बताता है।
नई समस्या: "एलिस क्यों और बॉब क्यों नहीं?"
लेखकों ने गौर किया कि मनुष्य स्वाभाविक रूप से क्या करते हैं: हम केवल यह नहीं जानना चाहते कि कुछ क्यों हुआ; हम यह भी जानना चाहते हैं कि वह किसी और चीज़ के बजाय क्यों हुआ।
कल्पना कीजिए कि एलिस को नौकरी मिल जाती है, लेकिन उसके दोस्त बॉब को नहीं मिलती।
- यदि आप पूछते हैं, "एलिस क्यों?", तो कंप्यूटर एलिस के बेहतरीन कौशल को सूचीबद्ध करता है।
- यदि आप पूछते हैं, "बॉब क्यों नहीं?", तो कंप्यूटर बॉब के छूटे हुए कौशल को सूचीबद्ध करता है।
- लेकिन बॉब भ्रमित है। वह दो अलग-अलग सूचियों को नहीं चाहता। वह जानना चाहता है: "एलिस क्यों और मैं क्यों नहीं?" वह उस अंतर को देखना चाहता है।
यह पेपर तर्क देता है कि दो अलग-अलग उत्तर देना असंतोषजनक है। आपको एक कॉन्ट्रास्टिव एक्सप्लेनेशन (CE - विरोधाभासी स्पष्टीकरण) की आवश्यकता है जो उस विशिष्ट अंतर को उजागर करे।
समाधान: "अंतर खोजने वाला" (The Difference Finder)
शोधकर्ताओं ने इस "क्यों P, Q के बजाय नहीं?" वाले प्रश्न को औपचारिक रूप देने का एक नया तरीका बनाया है। वे जिस चीज़ के होने की बात कर रहे हैं उसे तथ्य (Fact) (एलिस) और जो नहीं हुआ उसे फॉइल (Fil) (बॉब) कहते हैं।
अंतर समझाने के लिए, वे तीन चीजों को देखते हैं:
- जो एलिस के पास था जो बॉब के पास नहीं था: (जैसे, एलिस ने AI में शोध प्रकाशित किया)।
- जो बॉब के पास था जो एलिस के पास नहीं था: (जैसे, बॉब ने शुद्ध गणित में शोध प्रकाशित किया)।
- बॉब के पास क्या कमी थी जो उसे काम पर रखने के लिए आवश्यक थी: (जैसे, बॉब को AI में शोध प्रकाशित करना चाहिए था)।
रचनात्मक उपमा: दौड़
कल्पना कीजिए कि एलिस और बॉब के बीच एक दौड़ है।
- तथ्य (Fact): एलिस जीत गई।
- फॉइल (Foil): बॉब हार गया।
- पुराना स्पष्टीकरण: "एलिस तेज़ दौड़ी।" (यह सच है, लेकिन यह नहीं बताता कि बॉब क्यों हारा)।
- नया विरोधाभासी स्पष्टीकरण: "एलिस तेज़ दौड़ी क्योंकि उसने पहाड़ियों पर प्रशिक्षण लिया था, जबकि बॉब ने समतल ज़मीन पर प्रशिक्षण लिया था। यदि बॉब ने पहाड़ियों पर प्रशिक्षण लिया होता (जो कि वह कमी थी), तो वह जीत जाता, लेकिन उसने ऐसा नहीं किया।"
यह पेपर इसे औपचारिक बनाने के लिए एलिस के "प्रमाण" और बॉब के "प्रमाण" (भले ही बॉब का प्रमाण काल्पनिक हो) को लेकर उनके बीच के सिमेट्रिक डिफरेंस (Symmetric Difference) को ढूंढता है। वे उन चीजों को हटा देते हैं जो दोनों में समान हैं (जैसे, "दोनों योग्य हैं") और केवल उन अद्वितीय कारकों पर ध्यान केंद्रित करते हैं जिन्होंने परिणाम तय किया।
"क्या होगा अगर" परिदृश्य (Abduction)
कभी-कभी, कंप्यूटर को यह अनुमान लगाना पड़ता है कि क्या चीज़ 'फॉइल' को सत्य बना देगी। इसे एब्डक्शन (Abduction) कहा जाता है।
- उपमा: यदि बॉब को काम पर नहीं रखा गया, तो कंप्यूटर पूछता है, "बॉब को काम पर रखने के लिए क्या सत्य होना चाहिए?" यह कह सकता है, "यदि बॉब ने AI में शोध प्रकाशित किया होता।"
- पेपर का तरीका एलिस के वास्तविक प्रमाण को इस "क्या होगा अगर" वाले परिदृश्य के साथ जोड़ता है ताकि यह दिखाया जा सके कि रास्ते कहाँ अलग हुए।
गड़बड़ियों को संभालना (Inconsistencies)
कभी-कभी पुस्तकालय के नियम पेचीदा होते हैं। क्या होगा यदि नियम कहते हैं कि "आप एक ही समय में AI विशेषज्ञ और एक सिद्धांतवादी (Theorist) नहीं हो सकते"?
- यदि बॉब एक सिद्धांतवादी है, और कंप्यूटर कहता है, "यदि बॉब एक AI विशेषज्ञ होता, तो उसे काम पर रख लिया जाता," तो यहाँ एक संघर्ष उत्पन्न होता है।
- यह पेपर एक सुरक्षा जाल जोड़ता है: यह इन संघर्षों (Conflicts) की पहचान करता है। यह आपको बताता है, "बॉब को काम पर रख लिया जाता यदि वह एक AI विशेषज्ञ होता, लेकिन यह उसके सिद्धांतवादी होने के स्वभाव के विरुद्ध है।" यह पुस्तकालय के तर्क को टूटने से बचाता है।
उन्होंने वास्तव में क्या किया
लेखकों ने केवल सिद्धांत नहीं लिखा; उन्होंने इसे परीक्षण करने के लिए एक प्रोटोटाइप (एक कार्यशील कंप्यूटर प्रोग्राम) बनाया।
- उन्होंने लगभग 40 विभिन्न वास्तविक दुनिया के नॉलेज बेस (जैसे चिकित्सा या तकनीकी डेटाबेस) पर इसका परीक्षण किया।
- उन्होंने पाया कि उनकी विधि बहुत तेज़ी से काम करती है (अधिकांश मामलों में एक सेकंड से कम समय में) और बहुत छोटे, आसानी से पढ़े जाने वाले स्पष्टीकरण (आमतौर पर तर्क के केवल 1 या 2 वाक्य) प्रदान करती है।
- उन्होंने गणितीय रूप से सिद्ध किया कि तर्क के कुछ प्रकारों (जिन्हें EL कहा जाता है) के लिए, यह प्रक्रिया कुशल है और अनंत लूप में नहीं फंसती है।
सारांश
यह पेपर यह अपग्रेड करने के बारे में है कि कंप्यूटर निर्णयों को कैसे समझाते हैं। केवल "X क्यों हुआ" बताने के बजाय, वे अब कहते हैं, "X, Y के बजाय क्यों हुआ।" वे ऐसा करने के लिए "जीतने वाले" साक्ष्य की "हारने वाले" (या काल्पनिक) साक्ष्य के साथ गणितीय तुलना करके, सामान्य भागों को हटाकर, और आपको ठीक वही दिखाकर करते हैं जिसने अंतर पैदा किया। उन्होंने इसे करने के लिए एक उपकरण बनाया, और यह जटिल डेटा पर बहुत तेज़ी से और सटीकता से काम करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।