Towards an Argumentative Foundation for Evaluative AI

कल्पना कीजिए कि आप एक विशाल, शोर-शराबे वाले पुस्तकालय में जा रहे हैं जहाँ किताबें रहस्य सुलझाने में आपकी मदद करने की कोशिश कर रही हैं। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, इस बात पर एक बड़ी बहस चल रही है कि इन डिजिटल सहायकों को हमसे कैसे बात करनी चाहिए। लंबे समय तक, मानक दृष्टिकोण एक सख्त लाइब्रेरियन की तरह था जो एक अकेली किताब की ओर इशारा करता है और कहता है, "यही उत्तर है। मुझ पर भरोसा करें।" इसे "सिफारिश" (recommendation) कहा जाता है, और हालांकि यह तेज़ है, लेकिन यह अक्सर हमें अपने आप में सोचना बंद करने पर मजबूर कर देता है। हम या तो बिना सोचे-समझे सलाह मान लेते हैं या बिना यह समझे कि वह क्यों दी गई, उसे पूरी तरह से अनदेखा कर देते हैं। लेकिन एक नया, अधिक रोमांचक विचार है जिसे इवैलुएटिव एआई (Evaluative AI) कहा जाता है। एक अंतिम उत्तर चिल्लाकर देने के बजाय, इस प्रकार का AI एक मित्रवत डिबेट कोच (वाद-विवाद प्रशिक्षक) की तरह काम करता है। यह आपको क्या हो रहा है इसके बारे में कई संभावित सिद्धांत बताता है, आपको प्रत्येक के पक्ष (for) में सबूत दिखाता है, और उनके विपक्ष (against) में भी सबूत दिखाता है। यह आपको इसमें आमंत्रित करता है कि आप खुद सुरागों को देखें और निर्णय लें कि कौन सा सिद्धांत सबसे अधिक तर्कसंगत लगता है। यह आपको नियंत्रण में रखता है, जिससे AI एक साथी बनता है न कि एक बॉस।

यह शोध पत्र, जिसे यूके और ऑस्ट्रेलिया के विश्वविद्यालयों के शोधकर्ताओं की एक टीम द्वारा लिखा गया है, इस तरह के "डिबेट कोच" AI को बनाने का एक विशिष्ट, शक्तिशाली तरीका सुझाता है। वे तर्क देते हैं कि इस काम के लिए सबसे अच्छा उपकरण आर्ग्युमेंटेशन (Argumentation - तर्क प्रक्रिया) है। इसे एक चिल्लाने वाले मुकाबले के रूप में नहीं, बल्कि "कनेक्ट द डॉट्स" के एक संरचित खेल के रूप में सोचें जहाँ प्रत्येक साक्ष्य एक 'नोड' है, और उनके बीच के लिंक दिखाते हैं कि वे एक-दूसरे का समर्थन या विरोध कैसे करते हैं। लेखक एक गणितीय ढांचे का प्रस्ताव देते हैं जिसे वेटेड क्वांटिटेटिव बाइपोलर आर्ग्युमेंटेशन फ्रेमवर्क्स (wQBAFs) कहा जाता है। सरल शब्दों में, यह एक ऐसा नक्शा बनाने का तरीका है जहाँ प्रत्येक सुराग का एक "कॉन्फिडेंस स्कोर" (वह कितना मजबूत है) होता है और प्रत्येक संबंध का एक "वेट" (उसका कितना प्रभाव है) होता है। इन नंबरों की गणना करके, AI सिद्धांतों की एक रैंक वाली सूची बना सकता है, न कि केवल एक अनुमान। यह पेपर सुझाव देता है कि यह तरीका पुराने तरीकों की तुलना में बेहतर है क्योंकि यह पारदर्शी है—आप देख सकते हैं कि किसी सिद्धांत को उच्च रैंक क्यों दी गई है—और सबसे महत्वपूर्ण बात यह है कि यह कॉन्टेस्टेबल (Contestable - चुनौती देने योग्य) है। यदि आप सोचते हैं कि कोई सुराग गलत है या कोई संबंध कमजोर है, तो आप उसे चुनौती दे सकते हैं, नंबरों को बदल सकते हैं, और रैंकिंग को बदलते हुए देख सकते हैं। यह AI को एक 'ब्लैक बॉक्स' से बदलकर एक सहयोगात्मक कार्यशाला में बदल देता है जहाँ मनुष्य और मशीनें बहस कर सकते हैं, सुधार कर सकते हैं और सर्वोत्तम पथ पर सहमत हो सकते हैं।

मुख्य विचार: "यहाँ उत्तर है" से "चलो बहस करते हैं" तक

लेखक इस बात से शुरुआत करते हैं कि हम आमतौर पर AI का उपयोग कैसे करते हैं इसमें एक दोष है। अधिकांश सिस्टम "अनुशंसा और व्याख्या" (recommend-and-explain) मॉडल पर काम करते हैं। AI एक विजेता चुनता है, और फिर उसे सही ठहराने की कोशिश करता है। समस्या क्या है? अध्ययन बताते हैं कि यह लोगों को सोचना बंद करने पर मजबूर कर देता है। या तो वे "कॉग्निटिव फिक्सेशन" (cognitive fixation) का शिकार हो जाते हैं—AI के चुनाव को एक सम्मोहित खरगोश की तरह देखते रहते हैं—या वे बिना किसी दूसरे विचार के इसे पूरी तरह से खारिज कर देते हैं।

इसे ठीक करने के लिए, यह पेपर इवैल्यूटिव एआई (EAI) का समर्थन करता है। आपको एक एकल सिफारिश देने के बजाय, EAI संभावित परिकल्पनाओं (अनुमानों) का एक मेनू प्रस्तुत करता है और साथ ही प्रत्येक के "पक्ष" और "विपक्ष" को भी दिखाता है। कल्पना कीजिए कि एक डॉक्टर मरीज का निदान करने के लिए AI का उपयोग कर रहा है। AI के यह कहने के बजाय कि "यह निश्चित रूप से निमोनिया है," यह कह सकता है, "यहाँ तीन संभावनाएं हैं: वायरल निमोनिया, बैक्टीरियल निमोनिया, या अस्थमा। यहाँ प्रत्येक के समर्थन में साक्ष्य दिए गए हैं, और यहाँ वह साक्ष्य है जो उनके विरुद्ध तर्क देता है। आप निर्णय लें।"

समाधान: "आर्ग्युमेंट मैप" का खेल

पेपर प्रस्तावित करता है कि इस प्रणाली को बनाने का सबसे अच्छा तरीका आर्ग्युमेंटेशन का उपयोग करना है। लेखक एक विशिष्ट गणितीय संरचना का सुझाव देते हैं जिसे wQBAF (वेटेड क्वांटिटेटिव बाइपोलर आर्ग्युमेंटेशन फ्रेमवर्क) कहा जाता है। आइए इसे एक रूपक के साथ समझते हैं।

एक विशाल, तैरते हुए चमकते नोड्स के जाल की कल्पना करें।

• नोड्स (Nodes): कुछ नोड्स साक्ष्य (Evidence) हैं (जैसे "तेज बुखार" या "खांसी"), और कुछ परिकल्पनाएं (Hypotheses) हैं (जैसे "वायरल निमोनिया" या "अस्थमा")।
• कनेक्शन (Connections): रेखाएं इन नोड्स को जोड़ती हैं। कुछ रेखाएं हरी (समर्थन) हैं, जिसका अर्थ है "यह सुराग उस सिद्धांत को अधिक संभावित बनाता है।" अन्य लाल (विरोध) हैं, जिसका अर्थ है "यह सुराग उस सिद्धांत को कम संभावित बनाता है।"
• वेट्स (Weights): प्रत्येक नोड एक बेस स्कोर (शुरुआत में सुराग कितना मजबूत है) के साथ शुरू होता है। प्रत्येक रेखा का एक वेट (उस कनेक्शन का कितना प्रभाव है) होता है।

पेपर के उदाहरण में, एक मरीज को तेज बुखार और खांसी है। ये शुरुआती नोड्स हैं। बुखार "वायरल निमोनिया" का पुरजोर समर्थन कर सकता है लेकिन "अस्थमा" का कमजोर समर्थन कर सकता है। AI केवल अनुमान नहीं लगाता; यह एक गणना चलाता है। यह बेस स्कोर और कनेक्शन की ताकत को देखता है, फिर हरे और लाल रेखाओं के बीच के खींचतान के आधार पर हर परिकल्पना की ताकत की "पुनर्गणना" करता है।

परिणाम एक एकल उत्तर नहीं, बल्कि एक रैंक वाली सूची (Ranked List) है। जिस परिकल्पना की अंतिम ताकत सबसे अधिक होती है, वह सबसे ऊपर होती है, उसके बाद अगली सबसे अच्छी, इत्यादि। स्वास्थ्य सेवा के उदाहरण में, सिस्टम "एंटी-वायरल थेरेपी" और "एंटीबायोटिक्स" को समान रूप से मजबूत (दोनों का स्ट्रेंथ स्कोर 0.40) के रूप में रैंक कर सकता है, जबकि "ब्रोंकोडायलेटर" (Bronchodilator) नीचे (0.31) है।

यह दृष्टिकोण विशेष क्यों है

लेखक तर्क देते हैं कि इस आर्ग्युमेंटेटिव दृष्टिकोण के पास तीन महाशक्तियां हैं जो अन्य तरीकों में नहीं हैं:

1. व्याख्यात्मकता (Explainability): चूंकि सिस्टम तर्कों के एक दृश्य मानचित्र पर बना है, इसलिए यह समझा सकता है कि किसी परिकल्पना को उच्च रैंक क्यों दी गई है। यह विशिष्ट "तेज बुखार" नोड और "वायरल निमोनिया" से जोड़ने वाली मजबूत हरी रेखा की ओर इशारा कर सकता है और कह सकता है, "यही कारण है कि हम इसे शीर्ष विकल्प मानते हैं।" यह जादू नहीं है; यह एक पता लगाने योग्य मार्ग है।
2. चुनौती देने की क्षमता (Contestability): यह सबसे महत्वपूर्ण है। कई AI सिस्टमों में, यदि आप असहमत हैं, तो आप फंस जाते हैं। यहाँ, क्योंकि सिस्टम केवल वेट और कनेक्शन का एक नक्शा है, आप नक्शे को बदल सकते हैं। यदि आपको लगता है कि "खांसी" का लक्षण उतना महत्वपूर्ण नहीं है जितना कि AI सोचता है, तो आप इसके वेट को कम कर सकते हैं। यदि आपके पास कोई नया साक्ष्य है, तो आप एक नया नोड जोड़ सकते हैं। सिस्टम तुरंत रैंकिंग की पुनर्गणना करता है। यह उपयोगकर्ता को एक निष्क्रिय दर्शक से बदलकर एक सक्रिय भागीदार बना देता है जो AI के तर्क को चुनौती दे सकता है।
3. मल्टी-एजेंट सहयोग (Multi-Agent Collaboration): पेपर एक ऐसे भविष्य की कल्पना करता है जहाँ विभिन्न "एजेंट्स" (शायद एक मानव डॉक्टर, दूसरा एक विशेष डेटाबेस, और तीसरा एक अलग AI मॉडल) प्रत्येक अपना स्वयं का आर्ग्युमेंट मैप बनाते हैं। वे फिर अपने मानचित्रों को मिला सकते हैं, एक-दूसरे से बहस कर सकते हैं, और एक मजबूत, अधिक सुदृढ़ रैंकिंग बनाने के लिए अपनी राय को जोड़ सकते हैं। यह विशेषज्ञों की एक गोलमेज बैठक की तरह है जहाँ हर कोई अपने नोट्स लाता है, और वे तब तक बहस करते हैं जब तक कि वे मिलकर सबसे अच्छा समाधान नहीं खोज लेते।

खेल के नियम

यह सुनिश्चित करने के लिए कि यह सिस्टम तर्कसंगत व्यवहार करे, लेखक "सिद्धांतों" का एक सेट प्रस्तावित करते हैं जिसका रैंकिंग सिस्टम को पालन करना चाहिए। ये एक निष्पक्ष खेल के नियमों की तरह हैं:

• मोनोटोनिसिटी (Monotonicity): यदि आप किसी सिद्धांत के समर्थन में अधिक साक्ष्य जोड़ते हैं, तो उसकी रैंक कभी कम नहीं होनी चाहिए।
• संतुलन (Balance): यदि आप "पक्ष" और "विपक्ष" में समान मात्रा में साक्ष्य जोड़ते हैं, तो रैंकिंग नहीं बदलनी चाहिए।
• प्रभुत्व (Dominance): यदि एक सिद्धांत के पास दूसरे की तुलना में अधिक या मजबूत समर्थक साक्ष्य हैं (समान विरोधी साक्ष्य के साथ), तो उसे उच्च रैंक दी जानी चाहिए।
• मजबूती (Robustness): डेटा में छोटे बदलावों के कारण पूरी रैंकिंग पागलपन की तरह उलट-पुलट नहीं होनी चाहिए।
• व्याख्यात्मकता और चुनौती देने की क्षमता: जैसा कि उल्लेख किया गया है, सिस्टम को अपने तर्क को समझाने में सक्षम होना चाहिए और मनुष्यों को इसे चुनौती देने की अनुमति देनी चाहिए।

पेपर नोट करता है कि कई मौजूदा गणितीय तरीके पहले चार नियमों को पूरा करते हैं, लेकिन लेखक सुझाव देते हैं कि हमें यह सुनिश्चित करने के लिए नए तरीकों को विकसित करना जारी रखना चाहिए कि सिस्टम वास्तव में चुनौती देने योग्य (contestable) भी हो।

सीमाएं और भविष्य

लेखक सावधानी बरतते हैं कि वे यह दावा नहीं कर रहे हैं कि उन्होंने सब कुछ हल कर लिया है। वे स्वीकार करते हैं कि इन आर्ग्युमेंट मैप्स को बनाना कठिन है। वर्तमान में, AI को सभी तर्कों, कनेक्शनों और वेट्स की सही पहचान करने के लिए तैयार करना एक बड़ी बाधा है। वे सुझाव देते हैं कि नए "लार्ज लैंग्वेज मॉडल्स" (स्मार्ट चैटबॉट्स जिन्हें हम जानते हैं) इन मानचित्रों को स्वचालित रूप से बनाने में मदद कर सकते हैं, लेकिन यह अभी भी पूर्ण नहीं है।

वे "चुनौती देने की क्षमता" (contestability) के बारे में भी चेतावनी देते हैं। यदि मनुष्य वेट बदल सकते हैं, तो किसे सिस्टम के साथ जानबूझकर छेड़छाड़ करने से रोका जा सकता है? वे सुझाव देते हैं कि हमें "अनुमति प्राप्त" (permissioned) सिस्टम की आवश्यकता हो सकती है जहाँ केवल विश्वसनीय उपयोगकर्ता ही नियमों को बदल सकें, या उन लोगों की विश्वसनीयता को मापने के तरीके की आवश्यकता हो सकती है जो परिवर्तन कर रहे हैं।

अंत में, वे स्वीकार करते हैं कि मल्टी-एजेंट दुनिया में, अलग-अलग विशेषज्ञों के बीच गहरा मतभेद हो सकता है। कभी-कभी, एक एकल "सही" उत्तर नहीं होगा। उनके सिस्टम का लक्ष्य सभी को सहमत होने के लिए मजबूर करना नहीं है, बल्कि उस असहमति को एक संरचित, पारदर्शी तरीके से प्रबंधित करना है ताकि मनुष्य संघर्ष का समाधान कर सकें।

संक्षेप में, यह पेपर केवल एक नया एल्गोरिदम प्रस्तावित नहीं करता है; यह AI के लिए एक नया दर्शन प्रस्तावित करता है। यह सुझाव देता है कि स्मार्ट मशीनों का भविष्य यह नहीं है कि वे कमरे में सबसे बुद्धिमान व्यक्ति हों, बल्कि यह है कि वे मानव बहस के सबसे अच्छे सूत्रधार बनें, जो हमें साक्ष्य को तौलने, अपनी धारणाओं को चुनौती देने और ऐसे निर्णय लेने में मदद करें जिन पर हम वास्तव में भरोसा कर सकें।