Realistic Counterfactual Explanations via Denial Constraints
यह शोध पत्र रिलेशनल डेटाबेस से डिनायल कंस्ट्रेंट्स (denial constraints) को एकीकृत करके एक्सप्लेनेबल एआई (Explainable AI) में यथार्थवादी काउंटरफैक्चुअल स्पष्टीकरण उत्पन्न करने के लिए एक नवीन दृष्टिकोण प्रस्तावित करता है ताकि यह सुनिश्चित किया जा सके कि उत्पन्न उदाहरण डेटा वैधता नियमों का पालन करते हैं, जिससे दूरी और विविधता मेट्रिक्स के न्यूनतम समझौते के साथ व्यावहारिक प्रयोज्यता में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, मशीनें अक्सर ऐसे निर्णय लेती हैं जो हमारे जीवन को प्रभावित करते हैं, जैसे कि ऋण (लोन) को मंजूरी देना या बीमारियों का निदान करना। जब ये सिस्टम "ना" कहते हैं, तो यह जानना सहायक होता है कि ऐसा क्यों हुआ। किसी निर्णय को समझाने का एक लोकप्रिय तरीका यह कल्पना करना है कि स्थिति का एक थोड़ा अलग संस्करण क्या होता जो "हाँ" की ओर ले जाता। यदि कोई ऋण आवेदन अस्वीकार कर दिया जाता है, तो एक सहायक स्पष्टीकरण यह सुझाव दे सकता है कि थोड़ा अधिक पैसा कमाना या थोड़ा उच्च क्रेडिट स्कोर होने से परिणाम बदल जाता। इन कल्पित विकल्पों को 'काउंटरफैक्चुअल' (counterfactuals) कहा जाता है। वे एक स्पॉटलाइट की तरह काम करते हैं, जो ठीक से दिखाता है कि मशीन के निर्णय में किसी व्यक्ति या वस्तु की कौन सी विशेषताएं सबसे महत्वपूर्ण थीं। हालाँकि, इन स्पष्टीकरणों के वास्तव में उपयोगी होने के लिए, उन्हें वास्तविक दुनिया में तर्कसंगत होना चाहिए। एक स्पष्टीकरण जो यह सुझाव देता है कि एक भीड़भाड़ वाले शहर में एक छोटा सा अपार्टमेंट अचानक दस कमरों वाला हो सकता है, गणितीय रूप से संभव है लेकिन भौतिक रूप से असंभव है। यदि सुझाए गए परिवर्तन अवास्तविक हैं, तो वह स्पष्टीकरण व्यक्ति को अपनी स्थिति समझने या उसे सुधारने में मदद करने में विफल रहता है।
तेल अवीव विश्वविद्यालय, ईबे (eBay) और हिब्रू यूनिवर्सिटी ऑफ जेरूसलम के शोधकर्ताओं ने अवास्तविक सुझावों की इस समस्या पर काम किया है। उन्होंने पाया कि इन स्पष्टीकरणों को उत्पन्न करने के लिए वर्तमान में उपयोग किए जाने वाले सबसे उन्नत उपकरण अक्सर ऐसे परिणाम देते हैं जो वास्तविकता के बुनियादी नियमों का उल्लंघन करते हैं। उदाहरण के लिए, एक टूल सुझाव दे सकता है कि एक विशिष्ट पड़ोस में एक घर में बाथरूमों की एक निश्चित संख्या है जो वहां वास्तव में मौजूद ही नहीं हैं, या किसी व्यक्ति की आयु और शिक्षा का स्तर उन तथ्यों के साथ विरोधाभास करता है कि लोग कैसे रहते हैं। इसे ठीक करने के लिए, टीम ने उन तरीकों को मिलाया जिनका उपयोग एआई (AI) को समझाने के लिए किया जाता है, डेटाबेस प्रबंधन की तकनीकों के साथ, वह क्षेत्र जो यह सुनिश्चित करता है कि कंप्यूटर में डेटा सुसंगत और सटीक बना रहे। उन्होंने एक ऐसी प्रणाली पेश की जो प्रत्येक सुझाए गए परिवर्तन की जांच वास्तविक डेटा से प्राप्त तार्किक नियमों के एक सेट के विरुद्ध करती है। ये नियम, जिन्हें 'डिनायल कंस्ट्रेंट्स' (denial constraints) कहा जाता है, एक फिल्टर की तरह काम करते हैं, यह सुनिश्चित करते हुए कि प्रस्तावित किया गया कोई भी नया परिदृश्य वास्तव में जो संभव है उसकी सीमाओं के भीतर फिट बैठता है।
शोधकर्ताओं ने अपने नए दृष्टिकोण का परीक्षण चार अलग-अलग डेटासेट्स पर किया, जिसमें न्यूयॉर्क रियल एस्टेट, टैक्स रिकॉर्ड और जनसांख्यिकीय डेटा शामिल था। उन्होंने अपने तरीके की तुलना अग्रणी मौजूदा टूल से की, जो विविध और निकटतम स्पष्टीकरण खोजने के लिए जाना जाता है लेकिन इस बात की अनदेखी करता है कि वे स्पष्टीकरण वास्तविक हैं या नहीं। परिणाम स्पष्ट थे। रियल एस्टेट डेटासेट में, मानक टूल द्वारा उत्पन्न लगभग सभी स्पष्टीकरण वास्तविकता के कम से कम एक नियम का उल्लंघन करते थे। कुछ मामलों में, इसके द्वारा किया गया हर एक सुझाव असंभव था। इसके विपरीत, नई प्रणाली ने शून्य नियमों का उल्लंघन करने वाले स्पष्टीकरण दिए। इसके द्वारा प्रस्तावित प्रत्येक परिदृश्य उस डेटा के अनुरूप था जिसे उसने देखा था। यह बिना किसी भारी कीमत के हुआ। नए स्पष्टीकरण मूल स्थिति से केवल थोड़े ही दूर थे और वे उतने ही विविध भी थे, जो निर्णय के विभिन्न कारणों की एक विस्तृत श्रृंखला प्रदान करते हैं। वास्तव में, कुछ डेटासेट्स पर, नया तरीका बेहतर स्पष्टीकरण प्रदान करता है क्योंकि मानक टूल को समाधान खोजने के लिए असंभव क्षेत्र में भटकने के लिए मजबूर किया गया था।
इस कार्य में एक प्रमुख चुनौती गति थी। हजारों नियमों के विरुद्ध प्रत्येक संभावित परिवर्तन की जांच करना अविश्वसनीय रूप से धीमा हो सकता है, यहाँ तक कि एक एकल जांच में घंटों लग सकते हैं। टीम ने इस प्रक्रिया को व्यावहारिक उपयोग के लिए पर्याप्त तेज़ बनाने के लिए चालाकी भरे शॉर्टकट्स विकसित किए। हर बार हर डेटा के विरुद्ध हर नियम की जांच करने के बजाय, उनकी प्रणाली ने यह पहचानना सीख लिया कि वर्तमान स्थिति के लिए कौन से नियम वास्तव में प्रासंगिक हैं। उन्होंने पिछले परीक्षणों को याद रखने का एक तरीका भी बनाया ताकि उन्हें काम को दोहराना न पड़े। इन अनुकूलनों ने प्रणाली को एक सीधे, गैर-अनुकूलित दृष्टिकोण की तुलना में साठ-तिगुना (63 गुना) तेज़ बना दिया। यह गति महत्वपूर्ण है क्योंकि इसका मतलब है कि इस प्रणाली का उपयोग वास्तविक समय के अनुप्रयोगों में बिना एक घंटे तक कंप्यूटर के नंबर क्रंच करने का इंतजार किए किया जा सकता है।
अध्ययन ने अन्य तरीकों की भी जांच की जो स्पष्टीकरणों को वास्तविक बनाने की कोशिश करते हैं, जैसे कि वे जो डेटा कैसा दिखता है इसका अनुमान लगाने के लिए जटिल मॉडलों का उपयोग करते हैं या जो केवल एक पूर्व-मौजूदा सूची से उदाहरण चुनते हैं। शोधकर्ताओं ने पाया कि भले ही वे परिष्कृत तरीके डेटा के कठोर नियमों का सम्मान करने में विफल रहे। एक मॉडल विशेषताओं का ऐसा संयोजन सुझा सकता है जो सांख्यिकीय रूप से संभावित लगता है लेकिन फिर भी एक विशिष्ट तार्किक नियम को तोड़ता है, जैसे कि एक टैक्स छूट जो किसी विशेष राज्य में लागू नहीं होती है। नया दृष्टिकोण अद्वितीय है क्योंकि यह गारंटी देता है कि स्पष्टीकरण किसी भी नियम को नहीं तोड़ेगा। यह नियमों को नरम सुझावों के बजाय पूर्ण कानूनों के रूप में मानकर ऐसा करता है। यदि कोई सुझाव किसी नियम का उल्लंघन करता है, तो सिस्टम इसे तब तक समायोजित करता है जब तक कि यह फिट न हो जाए, यह सुनिश्चित करते हुए कि अंतिम स्पष्टीकरण केवल एक अनुमान नहीं, बल्कि एक तथ्यात्मक रूप से वैध परिदृश्य है।
यह कार्य इस बात को उजागर करता है कि हम वर्तमान में आर्टिफिशियल इंटेलिजेंस पर कैसे भरोसा करते हैं और उसे कैसे समझते हैं। यह दर्शाता है कि मूल डेटा के करीब होना पर्याप्त नहीं है; एक स्पष्टीकरण को उस दुनिया की वास्तविकता में निहित होना चाहिए जिसका वह वर्णन करता है। स्पष्टीकरणों को वास्तविक बनाकर, शोधकर्ताओं ने उन्हें अधिक विश्वसनीय और उपयोगी बना दिया है। चाहे वह एक घर मालिक हो जो यह जानना चाहता है कि उसकी संपत्ति का मूल्य कम क्यों है, या एक नौकरी चाहने वाला व्यक्ति जो यह समझना चाहता है कि उसे क्यों अस्वीकार किया गया, यह जानना कि अलग परिणाम की ओर जाने वाला सुझाया गया मार्ग वास्तव में संभव है, एक भ्रमित करने वाली गणितीय ट्रिक और एक स्पष्ट, कार्रवाई योग्य अंतर्दृष्टि के बीच का अंतर पैदा करता है। विविधता और गति के साथ यथार्थवाद को संतुलित करने में टीम की सफलता यह सुझाव देती है कि व्याख्या योग्य एआई (Explainable AI) का भविष्य केवल निकटतम उत्तर खोजने में नहीं, बल्कि सही उत्तर खोजने में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।