🤖 machine learning

Concise and Logically Consistent Conformal Sets for Neuro-Symbolic Concept-Based Models

यह शोध पत्र COCOCO को प्रस्तुत करता है, जो एक पोस्ट-हॉक कॉन्फॉर्मल प्रेडिक्शन फ्रेमवर्क है जो एक एकल डिडक्शन-एब्डक्शन रिवीज़न स्टेप के माध्यम से कॉन्सेप्ट और लेबल भविष्यवाणियों के बीच सामंजस्य स्थापित करके न्यूरो-सिम्बोलिक कॉन्सेप्ट-बेस्ड मॉडल्स के लिए संक्षिप्त, तार्किक रूप से सुसंगत और कवरेज-गारंटीड सेटों को संयुक्त रूप से उत्पन्न करता है।

मूल लेखक: Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso

प्रकाशित 2026-05-19

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, दो-भागों वाला रोबोट सहायक है जिसे जटिल पहेलियाँ सुलझाने के लिए डिज़ाइन किया गया है। यह रोबोट एक न्यूरो-सिम्बोलिक कॉन्सेप्ट-बेस्ड मॉडल (NeSy-CBM) है।

यह इस प्रकार काम करता है:

"आँख" (न्यूरल नेटवर्क): सबसे पहले, रोबोट एक अव्यवस्थित तस्वीर (जैसे कि सड़क की फोटो या मेडिकल स्कैन) को देखता है और उच्च-स्तरीय वस्तुओं को पहचानने की कोशिश करता है। वह कहता है, "मुझे एक कार, एक कुत्ता और एक पेड़ दिख रहा है।" ये उसके कॉन्सेप्ट्स (अवधारणाएं) हैं।
"मस्तिष्क" (सिम्बोलिक लॉजिक): फिर, रोबोट अंतिम उत्तर निकालने के लिए नियमों के एक सेट का उपयोग करता है (जैसे कि "एक कार के पहिए होते हैं" या "यदि आप 7 और 6 जोड़ते हैं, तो आपको 13 मिलता है")। वह कहता है, "जो मैंने देखा उसके आधार पर, उत्तर 13 होना चाहिए।"

समस्या: अति-आत्मविश्वासी रोबोट
समस्या यह है कि यह रोबोट अक्सर अति-आत्मविश्वासी (overconfident) होता है। यहाँ तक कि जब वह गलत होता है, तब भी वह 100% निश्चितता के साथ बोलता है।

उदाहरण: कल्पना कीजिए कि रोबोट एक कुत्ते और एक घोड़े की तस्वीर देखता है। अपनी ट्रेनिंग में एक गड़बड़ी के कारण, वह आत्मविश्वास से निर्णय लेता है कि कुत्ता वास्तव में एक "बिल्ली" है और घोड़ा एक "गाय" है। फिर वह अपने तर्क के नियमों का उपयोग करके निष्कर्ष निकालता है कि उत्तर "फार्म एनिमल" (खेत का जानवर) है। वह गलती से सही उत्तर तक पहुँच जाता है, लेकिन उसका तर्क पूरी तरह से टूटा हुआ है।
उच्च-दांव वाली स्थितियों में (जैसे मेडिकल डायग्नोसिस या सेल्फ-ड्राइविंग कार), हमें यह जानने की आवश्यकता है कि रोबط कब अनिश्चित है ताकि हम उसके काम की दोबारा जाँच कर सकें। लेकिन अभी, रोबोट को यह नहीं पता कि वह अनुमान लगा रहा है; वह बस यही सोचता है कि वह सही है।

समाधान: COCOCO
लेखक एक नया तरीका पेश करते हैं जिसे COCOCO कहा जाता है (Conformity, Consistency, Conciseness - अनुरूपता, निरंतरता, संक्षिप्तता)। COCOCO को एक सुरक्षा जाल और लॉजिक-चेकर के रूप में समझें जिसे आप रोबोट के सिर के ऊपर रखते हैं।

एक एकल उत्तर देने के बजाय, COCOCO आपको संभावित उत्तरों की एक सूची (एक "प्रेडिक्शन सेट") देता है। यह वादा करता है: "मैं गारंटी देता हूँ कि 90% निश्चितता के साथ वास्तविक उत्तर इस सूची में है।"

लेकिन COCOCO कुछ विशेष करता है जो अन्य सुरक्षा जाल नहीं करते। यह दो चीजें सुनिश्चित करता है:

निरंतरता (लॉजिक चेक): यह सुनिश्चित करता है कि रोबोट ने जिन वस्तुओं को "देखा" है, वे उसके द्वारा दिए गए उत्तरों की सूची से मेल खाती हों।
- उपमा: यदि रोबोट की उत्तरों की सूची में "13" शामिल है, लेकिन वस्तुओं की सूची जो उसने देखी (7 और 5) केवल "12" बना सकती है, तो COCOCO कहता है, "रुको, यह मेल नहीं खाता!" यह "13" को सूची से हटा देता है और वस्तु सूची को ठीक करता है ताकि वह गणित से मेल खा सके। यह रोबोट की "आँख" और "मस्तिष्क" को एक-दूसरे के साथ सहमत होने के लिए मजबूर करता है।
संक्षिप्तता (आकार की सीमा): एक ऐसा सुरक्षा जाल जो कहता है "उत्तर 0 से 100 के बीच कुछ भी हो सकता है" बेकार है। COCOCO सूची को यथासंभव छोटा रखने की कोशिश करता है ताकि वह सुरक्षित रहे। यह असंभव विकल्पों को काट देता है ताकि सूची इतनी छोटी हो कि एक इंसान वास्तव में उसे पढ़ सके।

यह कैसे काम करता है ("रिवीजन" चरण)
COCOCO एक चतुर ट्रिक का उपयोग करता है जिसे रिवीजन स्टेप (पुनरीक्षण चरण) कहा जाता है।

यह रोबोट के "मस्तिष्क" से संभावित उत्तरों की एक सूची से शुरू होता है।
यह रोबोट की "आँख" से संभावित वस्तुओं की एक सूची से शुरू होता है।
यह पूछता है: "कौन सी वस्तुएं वास्तव में पहली सूची के उत्तरों को बना सकती हैं?" और "कौन से उत्तर वास्तव में दूसरी सूची की वस्तुओं द्वारा बनाए जा सकते हैं?"
यह उन्हें क्रॉस-रेफरेंस करता है और जो भी फिट नहीं बैठता उसे बाहर निकाल देता है। यह इसे केवल एक बार करता है, और यह गणितीय रूप से सिद्ध है कि यह सूचियों को साफ करने का सबसे कुशल तरीका है।

यह क्यों मायने रखता है
पेपर ने 8 अलग-अलग डेटासेट्स (जिसमें मेडिकल एक्स-रे, रेस्टोरेंट रिव्यूज और अंकों के साथ गणित की समस्याएं शामिल हैं) पर इसका परीक्षण किया।

परिणाम: COCOCO ने सफलतापूर्वक रोबोट के भविष्यवाणियों को ईमानदार बनाए रखा। इसने सुनिश्चित किया कि रोबोट की "आँख" और "मस्तिष्क" हमेशा सहमत हों (निरंतरता), इसने संभावनाओं की सूची को इतना छोटा रखा कि वह उपयोगी हो (संक्षिप्तता), और इसने अभी भी गारंटी दी कि वास्तविक उत्तर सूची के अंदर है (कवरेज)।
तुलना: अन्य तरीकों ने या तो केवल "मस्तिष्क" को या केवल "आँख" को ठीक करने की कोशिश की, लेकिन वे विफल रहे। या तो उन्होंने बहुत लंबी सूचियाँ दीं जिन्हें पढ़ना मुश्किल था, या ऐसी सूचियाँ दीं जहाँ वस्तुएं और उत्तर मेल नहीं खाते थे। COCOCO एकमात्र ऐसा था जिसने दोनों समस्याओं को एक साथ हल किया।

संक्षेप में
COCOCO एक ऐसा उपकरण है जो एक स्मार्ट लेकिन अति-आत्मविश्वासी AI को लेता है, उसे एक सुरक्षा जाल में लपेटता है, और उसे अपने काम की दोबारा जाँच करने के लिए मजबूर करता है। यह सुनिश्चित करता है कि यदि AI कहता है "उत्तर X है," तो वह यह भी स्वीकार करता है कि "मैंने Y और Z देखा जो X को संभव बनाते हैं," और यह संभावनाओं की सूची को इतना छोटा रखता है कि एक इंसान उस पर भरोसा कर सके और उसका उपयोग कर सके।

तकनीकी सारांश: न्यूरो-सिम्बोलिक कॉन्सेप्ट-आधारित मॉडलों के लिए संक्षिप्त और तार्किक रूप से सुसंगत कॉनफॉर्मल सेट्स (Conformal Sets)

समस्या विवरण

न्यूरो-सिम्बोलिक कॉन्सेप्ट-आधारित मॉडल (NeSy-CBMs) कार्य अनुमान (task inference) के लिए सिम्बोलिक रीजनिंग के साथ अवधारणा निष्कर्षण (concept extraction) के लिए न्यूरल नेटवर्क को एकीकृत करते हैं, जिसका लक्ष्य विश्वसनीय AI सिस्टम बनाना है। हालांकि, ये मॉडल अक्सर अत्यधिक आत्मविश्वास (overconfidence) और गलत अंशांकन (miscalibration) से ग्रस्त होते हैं, जिससे हितधारकों के लिए उनके भविष्यवाणियों की विश्वसनीयता का आकलन करना कठिन हो जाता है। इसके अलावा, भले ही अनिश्चितता को मापा गया हो, परिणामी संभावनाएँ उपयोगकर्ताओं के लिए सहज नहीं हो सकती हैं।

NeSy-CBMs में अनिश्चितता मात्रा निर्धारण (uncertainty quantification) के मौजूदा दृष्टिकोण अक्सर तीन महत्वपूर्ण मानदंडों को एक साथ पूरा करने में विफल रहते हैं:

सुसंगति (Consistency): अनुमानित अवधारणाएँ (concepts) और लेबल, उपयोगकर्ता द्वारा निर्दिष्ट पूर्व ज्ञान ( $K$ ) के साथ तार्किक रूप से सुसंगत होने चाहिए।
कवरेज (Coverage): भविष्यवाणी सेटों को अवधारणाओं और लेबल दोनों के लिए वितरण-मुक्त (distribution-free), परिमित-नमूना मार्जिनल कवरेज गारंटी प्रदान करनी चाहिए।
संक्षिप्तता (Conciseness): व्याख्यात्मक और परिचालन रूप से उपयोगी बने रहने के लिए भविष्यवाणी सेटों को यथासंभव छोटा होना चाहिए।

वर्तमान "एक-तरफा" कॉनफॉर्मल प्रेडिक्शन (CP) रणनीतियाँ (जैसे, केवल लेबल या केवल अवधारणाओं पर CP लागू करना) या असममित संशोधन विधियाँ इन तीनों मानदंडों को पूरा करने में विफल रहती हैं, जिसके परिणामस्वरूप ऐसे सेट प्राप्त होते हैं जो या तो असंगत होते हैं, जिनमें एक तरफ कवरेज गारंटी की कमी होती है, या जो अत्यधिक बड़े होते हैं।

कार्यप्रणाली: COCOCO

लेखक COCOCO (COnformality, COnsistency, COnciseness) पेश करते हैं, जो एक पोस्ट-हॉक फ्रेमवर्क है जिसे किसी भी प्रशिक्षित NeSy-CBM को एक कॉनफॉर्मल प्रेडिक्टर में बदलने के लिए डिज़ाइन किया गया है जो तीनों मानदंडों को संतुष्ट करता है।

मुख्य तंत्र

COCOCO दो चरणों में कार्य करता है:

संयुक्त कॉनफॉर्मलाइजेशन (Joint Conformalization): यह स्वतंत्र रूप से लेबल ( $\Upsilon_\alpha(x)$ ) और अवधारणाओं ( $\Gamma_\beta(x)$ ) के लिए एक कॉनफॉर्मल प्रेडिक्शन सेट का निर्माण करता है। अवधारणाओं के लिए, यह कॉन्सेप्ट एक्सट्रैक्टर्स की सशर्त स्वतंत्रता (conditional independence) का लाभ उठाकर एक उत्पाद सेट (product set) बनाता है, या बोनफेरोनी सुधार (Bonferroni corrections) से बचने और सेट के आकार को नियंत्रित करने के लिए e-values का उपयोग करता है।
डिडक्शन-एब्डक्शन रिवीज़न (Deduction-Abduction Revision): फ्रेमवर्क दोनों सेटों के बीच सामंजस्य स्थापित करने के लिए एक एकल, संयुक्त संशोधन चरण लागू करता है। इस चरण में शामिल है:
- डिडक्शन (Deduction): लेबल सेट को केवल उन लेबलों को बनाए रखने के लिए फ़िल्टर करना जो अवधारणा सेट द्वारा समर्थित हैं ( $\Upsilon_{rev} = \Upsilon_\alpha \cap g^\dagger(\Gamma_\beta)$ )।
- एब्डक्शन (Abduction): अवधारणा सेट को केवल उन अवधारणाओं को बनाए रखने के लिए फ़िल्टर करना जो कम से कम एक लेबल को समर्थित करती हैं ( $\Gamma_{rev} = \Gamma_\beta \cap g^{-\dagger}(\Upsilon_\alpha)$ )।

सैद्धांतिक गारंटी

एक-चरण फिक्स्ड पॉइंट (One-Step Fixed Point): लेखक सिद्ध करते हैं कि इस संयुक्त संशोधन ऑपरेटर का एक बार का अनुप्रयोग फिक्स्ड पॉइंट तक पहुँचने के लिए पर्याप्त है। प्रक्रिया को दोहराना अनावश्यक है, जो कम्प्यूटेशनल दक्षता सुनिश्चित करता है।
इष्टतमता (Optimality): परिणामी जोड़ा $(\Gamma_{rev}, \Upsilon_{rev})$ मूल सेटों का सबसे बड़ा संभव उपसमुच्चय (subset) है जो पारस्परिक तार्किक सुसंगति बनाए रखता है।
अपूर्ण ज्ञान के तहत कवरेज (Coverage under Imperfect Knowledge): फ्रेमवर्क वितरण-मुक्त कवरेज गारंटी बनाए रखता है। उन मामलों में जहाँ इन्फरेंस लेयर अपूर्ण है (जैसे, अपूर्ण ज्ञान या रीजनिंग शॉर्टकट के कारण), कवरेज लोअर बाउंड इन्फरेंस लेयर की साउंडनेस ( $\delta_{ab}$ और $\delta_{de}$ ) के आधार पर रैखिक रूप से घटता है।
उपयोगकर्ता-निर्दिष्ट आकार बजट (User-Specified Size Budgets): कॉनफॉर्मल e-प्रेडिक्शन (e-values का उपयोग करके, क्वांटाइल्स के बजाय) को एकीकृत करके, COCOCO उपयोगकर्ताओं को अधिकतम सेट आकार (बजट) निर्दिष्ट करने की अनुमति देता है जबकि कवरेज गारंटी बनाए रखने के लिए अनुकूल रूप से मिसकवरेज स्तरों ( $\tilde{\alpha}, \tilde{\beta}$ ) का चयन करता है। यह दृष्टिकोण अवधारणाओं की संख्या बढ़ने के साथ गारंटी के क्षरण को रोकता है।

मुख्य योगदान

वांछितताओं का औपचारिककरण (Formalization of Desiderata): पेपर ने कॉनफॉर्मल NeSy विधियों के लिए सुसंगति, कवरेज और संक्षिप्तता को परिभाषित और औपचारिक रूप दिया है।
COCOCO फ्रेमवर्क: एक अभिनव पोस्ट-हॉक फ्रेमवर्क जो अवधारणाओं और लेबल को संयुक्त रूप से कॉनफॉर्मलाइज करता है और उन्हें एकल डिडक्शन-एब्डक्शन चरण के माध्यम से सुसंगत बनाता है।
सैद्धांतिक प्रमाण (Theoretical Proofs):
- प्रमाण कि COCOCO निर्माण द्वारा तीनों मानदंडों को संतुष्ट करता है।
- प्रमाण कि संशोधन चरण एक इटरेशन में फिक्स्ड पॉइंट तक पहुँच जाता है।
- कवरेज बाउंड्स का व्युत्पत्ति जो अपूर्ण ज्ञान और संयुक्त विफलता संभावनाओं को ध्यान में रखते हैं।
आकार नियंत्रण (Size Control): यह प्रदर्शन करना कि कैसे e-values कवरेज गारंटी से समझौता किए बिना उपयोगकर्ता-निर्दिष्ट आकार बजट सक्षम करते हैं।
व्यापक अनुभवजन्य मूल्यांकन (Extensive Empirical Evaluation): दो अत्याधुनिक NeSy आर्किटेक्चर (DeepProblog और Logic Tensor Networks) का उपयोग करके 8 डेटासेट्स (मेडिकल इमेजिंग, टेक्स्ट और इमेज क्लासिफिकेशन सहित) पर मूल्यांकन।

प्रयोगात्मक परिणाम

8 डेटासेट्स (CHX, CEB, RIV10, MN-Add वेरिएंट, CIF10) पर प्रयोगों से पता चलता है कि COCOCO नेचुरल बेसलाइन्स और सबसे मजबूत प्रतियोगी (RPB) से बेहतर प्रदर्शन करता है:

सुसंगति (Consistency): COCOCO सभी डेटासेट्स पर 1.00 कॉन्सेप्ट और लेबल सुसंगति प्राप्त करता है। इसके विपरीत, RPB जैसे प्रतियोगी अक्सर कॉन्सेप्ट पक्ष पर महत्वपूर्ण असंगति प्रदर्शित करते हैं (उदाहरण के लिए, MN-EO डेटासेट पर 0.12 तक गिरना)।
संक्षिप्तता (Concisense): COCOCO बेसलाइन्स की तुलना में भविष्यवाणी सेट के आकार को काफी कम कर देता है। उदाहरण के लिए, CEB डेटासेट पर, इसने कॉन्सेप्ट सेट के आकार को RPB के 75.06 से घटाकर 53.49 कर दिया, और MN-EO पर, इसने आकार को RPB के 100.00 से घटाकर 12.13 कर दिया, जबकि पूर्ण सुसंगति बनाए रखी।
कवरेज (Coverage): जबकि COCOCO सुसंगति और संक्षिप्तता सुनिश्चित करने के लिए कवरेज का एक छोटा हिस्सा (आमतौर पर कॉन्सेप्ट पक्ष पर RPB से 7-10 प्रतिशत अंक कम) त्यागता है, यह उच्च लेबल कवरेज (अक्सर $\ge 0.87$ ) और कॉन्सेप्ट कवरेज ( $\ge 0.83$ ) बनाए रखता है, जो 0.9 के नाममात्र लक्ष्य पर आधारित है।
मजबूती (Robustness): विधि अपूर्ण ज्ञान (RIV10) और रीजनिंग शॉर्टकट (MN-EO) के तहत भी मजबूती से कार्य करती है, जहाँ सैद्धांतिक बाउंड्स कवरेज में गिरावट की सही भविष्यवाणी करते हैं।
रनटाइम (Runtime): COCOCO का कम्प्यूटेशनल ओवरहेड मामूली है (बेसलाइन रनटाइम का लगभग 1.2x से 1.6x), क्योंकि संशोधन चरण के लिए केवल एक बार एब्डक्टिव और डिडक्टिव इमेज कंप्यूटेशन की आवश्यकता होती है।

महत्व और दावे

पेपर दावा करता है कि COCOCO पहला ऐसा तरीका है जो वितरण-मुक्त कवरेज बनाए रखते हुए भविष्यवाणी सेटों को छोटा करने और लेबल-कॉन्सेप्ट सुसंगति को लागू करने के लिए सिम्बोलिक ज्ञान का एक साथ उपयोग करता है।

लेखक COCOCO को उच्च-जोखिम वाले डोमेन (जैसे, मेडिकल डायग्नोसिस) में निर्णय-सहायता प्रणालियों के लिए उपयुक्त बनाने हेतु एक महत्वपूर्ण कदम के रूप में देखते हैं, जहाँ हितधारकों को न केवल एक भविष्यवाणी, बल्कि कठोर सांख्यिकीय गारंटी के साथ तार्किक रूप से सुसंगत वैकल्पिक सेटों की आवश्यकता होती है। यह फ्रेमवर्क डोमेन बाधाओं का सम्मान करने वाले व्याख्या योग्य सेट प्रदान करके NeSy मॉडलों की "ब्लैक बॉक्स" प्रकृति को संबोधित करता है, जिससे अंतर्निहित न्यूरो-सिम्बोलिक मॉडल को पुन: प्रशिक्षित किए बिना विश्वास और विश्वसनीयता बढ़ती है।