A Neuro-Symbolic Framework for Accountability in Public-Sector AI
यह शोध प्रबंध एक न्यूरो-सिम्बोलिक ढांचे का प्रस्ताव करता है जो एक वैधानिक ऑन्टोलॉजी, नियम निष्कर्षण और सॉल्वर-आधारित तर्क को एकीकृत करता है ताकि यह सुनिश्चित किया जा सके कि कैलफ्रेस (CalFresh) के लिए स्वचालित पात्रता निर्णय कानूनी नियमों के अनुरूप हों, जिससे पता लगाने योग्य और चुनौती देने योग्य प्रक्रियात्मक जवाबदेही सक्षम हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक सरकारी कार्यालय है जो यह तय करता है कि किसे खाद्य सहायता मिलेगी। जब वे किसी आवेदक को "ना" कहते हैं, तो वे कारण बताते हुए एक पत्र भेजते हैं। आमतौर पर, ये पत्र भ्रमित करने वाली कानूनी शब्दावली में लिखे जाते हैं। आवेदक उस पत्र को पढ़ता है, सोचता है, "यह तो तर्कसंगत लग रहा है," लेकिन वह वास्तव में यह जांच नहीं सकता कि सरकार नियमों का सही ढंग से पालन कर रही है या नहीं। वह पत्र पर भरोसा करने के लिए मजबूर है क्योंकि उसके पास सत्यापन करने के लिए कानूनी उपकरण नहीं हैं।
यह शोध पत्र उन पत्रों की जांच करने के लिए एक नया "डिजिटल रेफरी" प्रस्तावित करता है। यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:
समस्या: नौकरशाही का "ब्लैक बॉक्स" (The "Black Box" of Bureaucracy)
सरकार की निर्णय लेने की प्रक्रिया को एक ब्लैक बॉक्स के रूप में सोचें। आप अपनी जानकारी डालते हैं, और एक निर्णय बाहर आता है। कभी-कभी, वह बॉक्स एक कंप्यूटर प्रोग्राम होता है; कभी-कभी, यह एक जटिल नियम पुस्तिका का पालन करने वाला इंसान होता है। समस्या यह है कि आपको भेजा गया "स्पष्टीकरण पत्र" (explanation letter) सतह पर तो अच्छा दिख सकता है, लेकिन वह गुप्त रूप से नियमों को तोड़ रहा हो सकता है।
वर्तमान में, हम "व्याख्यात्मकता" (interpretability) पर भरोसा करते हैं—यानी कंप्यूटर की सोच को दृश्यमान बनाने की कोशिश करते हैं। लेकिन लेखक तर्क देते हैं कि कानूनी सेटिंग में, केवल सोच को देखना ही पर्याप्त नहीं है। आपको ऑडिटेबिलिटी (auditability) की आवश्यकता है। आपको यह जानने की आवश्यकता है कि क्या स्पष्टीकरण वास्तव में कानून से मेल खाता है, जैसे यह जांचना कि रसीद आपके द्वारा खरीदी गई वस्तुओं से मेल खाती है या नहीं।
समाधान: एक "अनुवादक" और एक "नियम जांचकर्ता"
लेखकों ने एक प्रणाली बनाई है जिसे न्यूरो-सिंबोलिक फ्रेमवर्क (Neuro-Symbolic Framework) कहा जाता है। आप इसे एक साथ काम करने वाली दो-सदस्यीय टीम के रूप में समझ सकते हैं:
- अनुवादक (The "Neural" Part):
कल्पना कीजिए कि एक सुपर-स्मार्ट रोबोट है जो जटिल सरकारी कानूनों (जो अंग्रेजी में लिखे गए हैं) और आवेदकों को भेजे गए जटिल स्पष्टीकरण पत्रों को पढ़ता है। इस रोबोट का काम उस मानवीय भाषा को एक सख्त, गणितीय भाषा में अनुवाद करना है जिसे कंप्यूटर पूरी तरह से समझ सके। यह एक अनुवादक की तरह है जो एक कविता को सटीक गणितीय समीकरणों में बदल देता है।
- शोध पत्र में: उन्होंने एक लार्ज लैंग्वेज मॉडल (LLM) का उपयोग किया ताकि "आपकी आय $2,000 से कम होनी चाहिए" जैसे कानूनों को एक औपचारिक नियम में बदला जा सके:
If Income > 2000, Then Not Eligible।
- नियम जांचकर्ता (The "Symbolic" Part):
एक बार जब कानूनों और स्पष्टीकरण पत्रों को गणितीय समीकरणों में बदल दिया जाता है, तो एक सख्त लॉजिक मशीन (जिसे SMT सॉल्वर कहा जाता है) काम संभालती है। यह मशीन अनुमान नहीं लगाती; यह गणना करती है। यह पूछती है: "क्या स्पष्टीकरण पत्र गणितीय रूप से निर्णय को सिद्ध करता है?"
- यदि पत्र कहता है, "आपको इसलिए मना किया गया क्योंकि आपकी आय बहुत अधिक है," और गणित दिखाता है कि आपकी आय वास्तव में बहुत अधिक है, तो मशीन SAT (संतुष्ट/वैध) कहती है। स्पष्टीकरण सही साबित होता है।
- यदि पत्र कहता है, "आपको इसलिए मना किया गया क्योंकि आपकी आय बहुत अधिक है," लेकिन गणित दिखाता है कि आपकी आय बहुत अधिक नहीं है, तो मशीन UNSAT (असंतुष्ट/अवैध) कहती है। स्पष्टीकरण एक झूठ या गलती है, भले ही वह मनुष्यों के लिए तर्कसंगत क्यों न लगे।
वास्तविक दुनिया का परीक्षण: CalFresh
टीम ने इस प्रणाली का परीक्षण CalFresh पर किया, जो कैलिफोर्निया का खाद्य सहायता कार्यक्रम है। उन्होंने 50 वास्तविक मामले लिए जहाँ लोगों के लाभ या तो अस्वीकार कर दिए गए थे या काट दिए गए थे।
- सेटअप: उन्होंने सिस्टम में वास्तविक कानून, आवेदक के तथ्य (आय, परिवार का आकार) और सरकार द्वारा भेजा गया आधिकारिक पत्र डाला।
- परिणाम: सिस्टम ने सफलतापूर्वक "कानूनी विसंगतियों" (legal mismatches) को खोज निकाला। एक परीक्षण में, उन्होंने सिस्टम को धोखा देने के लिए "अस्वीकृत" निर्णय को "स्वीकृत" में बदल दिया, लेकिन वही स्पष्टीकरण रखा (जिसमें कहा गया था कि व्यक्ति की आय बहुत अधिक है)। सिस्टम ने तुरंत UNSAT चिल्लाकर संकेत दिया, यह बताते हुए कि स्पष्टीकरण नए निर्णय के विपरीत है।
- "स्मोकिंग गन" (ठोस सबूत): जब सिस्टम को कोई गलती मिली, तो उसने केवल "त्रुटि" (Error) नहीं कहा। इसने कानून के उस सटीक पृष्ठ और पैराग्राफ की ओर इशारा किया जिसका उल्लंघन हुआ था। यह एक रेफरी की तरह है जो न केवल सीटी बजाता है, बल्कि नियम पुस्तिका के उस विशिष्ट पृष्ठ की ओर भी इशारा करता है जिसे खिलाड़ी ने तोड़ा है।
यह क्यों महत्वपूर्ण है
लेखक तर्क देते हैं कि हमें केवल यह समझाने पर ध्यान केंद्रित नहीं करना चाहिए कि AI कैसे सोचता है, बल्कि हमें इसके द्वारा दिए गए कानूनी औचित्य का ऑडिट करना शुरू करना चाहिए।
- वर्तमान तरीका: "यहाँ बताया गया है कि कंप्यूटर ने 'ना' क्यों कहा। यह उस पैटर्न पर आधारित है जिसे उसने सीखा है।" (इसे अदालत में लड़ना कठिन है)।
- नया तरीका: "यह पत्र है। हमारे सिस्टम ने इसकी कानून के विरुद्ध जांच की और पाया कि यह धारा 63-409.111 का उल्लंघन करता है।" (इसे अदालत में लड़ना आसान है)।
मुख्य निष्कर्ष
यह शोध पत्र यह दावा नहीं करता कि यह सरकार को प्रतिस्थापित करेगा या अंतिम निर्णय लेगा। इसके बजाय, यह एक डिजिटल सुरक्षा जाल बनाता है। यह सुनिश्चित करता है कि जब सरकार आपको "ना" कहने वाला पत्र भेजती है, तो वह पत्र वास्तव में एक वैध कानूनी कारण है, न कि केवल एक भ्रमित करने वाला बहाना। यह "स्पष्टीकरण" को एक ऐसे कागज के टुकड़े से बदल देता है जिस पर आपको भरोसा करना पड़ता है, एक ऐसे साक्ष्य में बदल देता है जिसे आप सत्यापित कर सकते हैं।
मुख्य सीख: सार्वजनिक लाभों की दुनिया में, एक स्पष्टीकरण केवल स्पष्ट होने के बारे में नहीं है; यह कानूनी रूप से सत्य होने के बारे में है। यह प्रणाली यह जांचने का उपकरण है कि क्या सच वास्तव में बोला जा रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।