Governed Reasoning for Institutional AI
यह शोध पत्र "कॉग्निटिव कोर" (Cognitive Core) को प्रस्तुत करता है, जो संस्थागत निर्णय लेने के लिए डिज़ाइन किया गया एक नियंत्रित एआई आर्किटेक्चर है, जो पूर्व प्राधिकरण अपीलों (prior authorization appeals) पर 91% सटीकता और शून्य साइलेंट त्रुटियों को प्राप्त करने के लिए नौ संज्ञानात्मक प्रिमिटिव्स (cognitive primitives), एक चार-स्तरीय शासन मॉडल और एक छेड़छाड़-रोधी ऑडिट लेज़र का उपयोग करता है, जो मानक एजेंट फ्रेमवर्क से काफी बेहतर प्रदर्शन करते हुए "शासन क्षमता" (governability) को एक महत्वपूर्ण मूल्यांकन मीट्रिक के रूप में स्थापित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बैंक, एक अस्पताल, या किसी सरकारी एजेंसी के लिए महत्वपूर्ण निर्णय लेने के लिए एक बहुत ही स्मार्ट, बहुत तेज़ सहायक को काम पर रख रहे हैं। आप चाहते हैं कि यह सहायक हजारों दस्तावेज़ पढ़ सके, पैटर्न खोज सके और निर्णय ले सके।
वर्तमान "AI एजेंट्स" (जैसे कि जो आप टेक डेमो में देखते हैं) के साथ समस्या यह है कि वे प्रतिभाशाली लेकिन लापरवाह इंटर्न की तरह हैं। वे किसी समस्या को सुलझाने के लिए बातें तो बहुत कर सकते हैं, लेकिन अगर वे कोई गलती करते हैं, तो उन्हें तब तक एहसास नहीं होता जब तक कि बहुत देर न हो जाए। वे आत्मविश्वास से कह सकते हैं, "मुझे यकीन है कि यह लोन मंजूर किया जाना चाहिए!" भले ही नियम 'ना' कह रहे हों, और वे मदद के लिए नहीं रुकेंगे।
यह पेपर गंभीर नौकरियों के लिए AI बनाने का एक नया तरीका प्रस्तावित करता है, जिसे कॉग्निटिव कोर (Cognitive Core) कहा जाता है। एक एकल "स्मार्ट दिमाग" जो सब कुछ एक साथ करता है, बनाने के बजाय, यह सोचने के लिए एक फैक्ट्री फ्लोर बनाता है।
सरल उपमाओं का उपयोग करके इसका विवरण यहाँ दिया गया है:
1. समस्या: "आत्मविश्वासी इंटर्न" बनाम "फैक्ट्री"
वर्तमान AI एजेंट एक मोनोलॉग (एकलाप) की तरह काम करते हैं। वे ज़ोर-ज़ोर से सोचते हैं, एक विचार से दूसरे विचार पर कूदते हैं, और आपको एक अंतिम उत्तर दे देते हैं। यदि वे भ्रमित हो जाते हैं, तो वे शायद केवल अनुमान लगा लेंगे और उम्मीद करेंगे कि आप ध्यान नहीं देंगे।
- जोखिम: एक अस्पताल में, यदि AI एक लक्षण को मिस कर देता है और आत्मविश्वास से कहता है "आप ठीक हैं," तो मरीज को नुकसान पहुँच सकता है। एक बैंक में, यदि यह एक खराब लोन को मंजूरी दे देता है, तो पैसा खो जाता है।
- पेपर का समाधान: हमें एक ऐसे AI की आवश्यकता है जो केवल "सोचे" ही नहीं; बल्कि एक कठोर, निरीक्षण योग्य प्रक्रिया का पालन करे जहाँ अगले चरण पर जाने से पहले हर कदम की जाँच की जाए।
2. समाधान: "कॉग्निटिव फैक्ट्री"
लेखकों ने एक ऐसा सिस्टम डिज़ाइन किया है जहाँ सोचने को नौ विशिष्ट, टाइप किए गए कार्यों (जिन्हें "प्रिमिटिव्स" कहा जाता है) में विभाजित किया गया है। इसे एक ऐसी फैक्ट्री के रूप में सोचें जहाँ हर कर्मचारी की एक विशिष्ट वर्दी और एक विशिष्ट कार्य है।
- रिट्रीव (Retrieve - प्राप्त करना): वह लाइब्रेरियन जो फाइलों को शेल्फ से निकालने के लिए जाता है।
- क्लासिफाई (Classify - वर्गीकृत करना): वह सॉर्टर जो फाइलों को सही डिब्बों में रखता है।
- इन्वेस्टिगेट (Investigate - जांच करना): वह जासूस जो गहराई से खुदाई करता है यदि कुछ अजीब दिखता है।
- वेरिफाई (Verify - सत्यापन करना): वह इंस्पेक्टर जो जाँचता है कि नियमों का पालन किया गया या नहीं।
- चैलेंज (Challenge - चुनौती देना): वह "डेविल्स एडवोकेट" जो आपके निर्णय को गलत साबित करने की कोशिश करता है।
- रिफ्लेक्ट (Reflect - चिंतन करना): यह मैनेजर है (यही सबसे महत्वपूर्ण नया हिस्सा है)।
- डेलिब्रेट (Deliberate - विचार-विमर्श करना): वह जज जो साक्ष्यों के आधार पर अंतिम फैसला करता है।
- गवर्न (Govern - शासन करना): वह सुरक्षा अधिकारी जो तय करता है कि निर्णय जारी करने के लिए सुरक्षित है या नहीं।
- जेनरेट (Generate - उत्पन्न करना): वह टाइपिस्ट जो अंतिम पत्र लिखता है।
3. गुप्त हथियार: "रिफ्लेक्ट" मैनेजर
यह इस पेपर का सबसे बड़ा नवाचार है। सामान्य AI में, यदि आप एक "डेविल्स एडवोकेट" (चैलेंज) को किसी निर्णय के खिलाफ तर्क देने के लिए कहते हैं, तो AI अक्सर हार मान लेता है और अपना मन बदल लेता है क्योंकि वह विनम्र या मिलनसार होना चाहता है। इसे "साइकोफैंसी" (जी-हज़ूरी) कहा जाता है।
रिफ्लेक्ट प्रिमिटिव एक स्मार्ट मैनेजर की तरह है जो जज और डेविल्स एडवोकेट के बीच के तर्क को देखता है।
- परिदृश्य A: डेविल्स एडवोकेट साक्ष्यों में एक वास्तविक गलती पाता है। मैनेजर कहता है, "ठीक है, जज गलत थे। चलिए इसे ठीक करते हैं।"
- परिदृश्य B: डेविल्स एडवोकेट केवल शोर मचा रहा है या जज को धोखा देने की कोशिश कर रहा है। मैनेजर कहता है, "रुकिए! जज सही थे। केवल इसलिए निर्णय न बदलें क्योंकि कोई चिल्ला रहा है।"
यह AI को गलत निर्णय लेने के लिए मजबूर होने से रोकता है।
4. सुरक्षा जाल: "ट्रैफिक लाइट" सिस्टम (गवर्नेंस)
AI द्वारा अंतिम निर्णय (जैसे लोन को मंजूरी देना) भेजने से पहले, उसे "गवर्नेंस मॉडल" नामक ट्रैफिक लाइट सिस्टम से गुजरना पड़ता है।
- ग्रीन लाइट (ऑटो): तर्क एकदम सही है, साक्ष्य स्पष्ट हैं, और AI आश्वस्त है। यह तुरंत निर्णय भेज देता है।
- येलो लाइट (स्पॉट चेक): AI काफी हद तक सही है, लेकिन शायद थोड़ा अनिश्चित है। सुरक्षा के लिए मानव 10% मामलों की जाँच करता है।
- रेड लाइट (गेट/होल्ड): AI को एक विरोधाभास मिला है, या साक्ष्य अस्त-व्यस्त हैं, या उसे दो बार चुनौती दी गई और वह सहमत नहीं हो सका। सिस्टम रुक जाता है। यह फाइल को "मानव समीक्षा" बिन में डाल देता है। जब तक कोई मानव साइन-ऑफ नहीं करता, AI आगे नहीं बढ़ सकता।
यह क्यों मायने रखता है: वर्तमान AI अक्सर गलतियाँ करता है और उन्हें चुपचाप भेज देता है (साइलेंट एरर्स)। यह सिस्टम सुनिश्चित करता है कि यदि AI अनिश्चित है, तो वह रुक जाता है और मदद मांगता है।
5. "ब्लैक बॉक्स" बनाम "ग्लास बॉक्स"
जब एक सामान्य AI गलती करता है, तो यह बताना मुश्किल होता है कि क्यों हुई। यह एक ब्लैक बॉक्स की तरह है जो बस एक उत्तर थूक देता है।
कॉग्निटिव कोर एक ग्लास बॉक्स है।
- प्रत्येक चरण (रिट्रीविंग, चेकिंग, रिफ्लेक्टिंग) एक स्थायी, अपरिवर्तनीय लेजर (जैसे ब्लॉकचेन) में लिखा जाता है।
- यदि कोई रेगुलेटर पूछता है, "आपने यह लोन क्यों अस्वीकार किया?" तो सिस्टम केवल यह नहीं कहता कि "क्योंकि AI ने ऐसा कहा," बल्कि यह घटनाओं की सटीक श्रृंखला दिखाता है: "हमने फाइल प्राप्त की, हमने नियम 5 की जाँच की, डिटेक्टिव को एक कमी मिली, मैनेजर ने 'होल्ड' कहा, और फिर मानव समीक्षक ने अस्वीकृति को मंजूरी दी।"
6. परिणाम: सटीकता बनाम "कब रुकना है यह जानना"
इस पेपर ने 11 वास्तविक दुनिया के बीमा अपील मामलों का उपयोग करके इस नए सिस्टम का अन्य दो लोकप्रिय AI तरीकों (ReAct और Plan-and-Solve) के विरुद्ध परीक्षण किया।
- सटीकता: नए सिस्टम ने 91% उत्तर सही दिए। अन्य ने लगभग 45-55% दिए।
- असली जीत (गवर्नेबिलिटी):
- नए सिस्टम ने शून्य "साइलेंट एरर्स" किए। जब इसने कोई उत्तर गलत दिया, तो इसे पता था कि यह अनिश्चित है और यह रुक गया और मानव से मदद मांगी।
- अन्य सिस्टमों ने 5 या 6 "साइलेंट एरर्स" किए। उन्होंने उत्तर गलत दिया, उन्हें पता नहीं चला, और उन्होंने इसे ऐसे भेजा जैसे कि यह एकदम सही हो।
सारांश उपमा
कल्पना कीजिए कि आप एक पुल बना रहे हैं।
- पुराना AI: एक प्रतिभाशाली वास्तुकार जो एक बार में पूरा पुल बना देता है। यदि वे गणित में एक त्रुटि करते हैं, तो पुल ढह जाता है, और उन्हें गिरने तक इसका पता नहीं चलता।
- कॉग्निटिव कोर: एक सख्त ब्लूप्रिंट के साथ एक निर्माण दल।
- एक व्यक्ति गणित की जाँच करता है।
- दूसरा सामग्री की जाँच करता है।
- एक "सुरक्षा प्रबंधक" (रिफ्लेक्ट) उनके बीच के तर्क को देखता है।
- यदि गणित संदिग्ध लगता है, तो रेड लाइट लग जाती है, और निर्माण तब तक रुक जाता है जब तक कि मानव इंजीनियर कागज़ पर हस्ताक्षर नहीं कर देता।
मुख्य बात:
संस्थानों (अस्पतालों, बैंकों, अदालतों) को केवल "स्मार्ट" AI की आवश्यकता नहीं है। उन्हें ऐसे AI की आवश्यकता है जो विनम्र, जांचने योग्य और यह जानने वाला हो कि कब रुकना है। यह पेपर दिखाता है कि कैसे एक ऐसा AI बनाया जा सकता है जो केवल उत्तर का "अनुमान" नहीं लगाता, बल्कि निर्णय तक पहुँचने का एक भरोसेमंद, ऑडिट करने योग्य मार्ग बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।