🤖 AI

Counting Worlds Branching Time Semantics for post-hoc Bias Mitigation in generative AI

यह शोध पत्र CTLF को प्रस्तुत करता है, जो काउंटिंग वर्ल्ड्स (counting worlds) सिमेंटिक्स वाला एक ब्रांचिंग-टाइम लॉजिक है, जो आउटपुट अनुक्रमों में निष्पक्षता के उल्लंघनों के सत्यापन, भविष्यवाणी और सुधार को सक्षम करके जनरेटिव एआई में पोस्ट-हॉक पूर्वाग्रह शमन (post-hoc bias mitigation) के लिए औपचारिक गारंटी प्रदान करता है।

मूल लेखक: Alessandro G. Buda, Giuseppe Primiero, Leonardo Ceragioli, Melissa Antonelli

प्रकाशित 2026-04-22

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Alessandro G. Buda, Giuseppe Primiero, Leonardo Ceragioli, Melissa Antonelli

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य चित्र: "अनुचित पासा" (Unfair Dice) की समस्या

कल्पना कीजिए कि आपके पास एक जादुई इमेज जनरेटर है (जैसे कि एक हाई-टेक कलाकार)। आप उससे "इंजीनियर्स" की 10 तस्वीरें बनाने के लिए कहते हैं। दुर्भाग्य से, उस कलाकार को पुरानी तस्वीरों के एक पुस्तकालय (library) पर प्रशिक्षित किया गया था जहाँ 75% इंजीनियर्स पुरुष थे और केवल 25% महिलाएं थीं।

क्योंकि कलाकार ने उस लाइब्रेरी से सीखा है, इसलिए हर बार जब आप तस्वीर मांगते हैं, तो यह एक भारित पासे (weighted die) को फेंकने जैसा होता है। यह बार-बार "पुरुष इंजीनियर" को बहुत अधिक बार चुनता रहता है। यदि आप 10 तस्वीरें मांगते हैं, तो आपको 8 पुरुष और 2 महिलाएं मिल सकती हैं, भले ही आप 50/50 का निष्पक्ष विभाजन चाहते थे।

यह बायस एम्प्लीफिकेशन (Bias Amplification) है। AI केवल अतीत की नकल नहीं कर रहा है; यह अधिक से अधिक चित्र बनाकर असंतुलन को और भी बदतर बना रहा है।

समाधान: एक "फेयरनेस जीपीएस" (Fairness GPS)

इस शोध पत्र के लेखक एक नया गणितीय उपकरण प्रस्तावित करते हैं जिसे CTLF (काउंटिंग वर्ल्ड्स लॉजिक) कहा जाता है। इस उपकरण को AI के आउटपुट के लिए एक "फेयरनेस जीपीएस" के रूप में समझें।

AI के सारे चित्र बनने तक प्रतीक्षा करने और अंत में यह कहने के बजाय कि, "ओह नहीं, यह अनुचित था," यह GPS काम के दौरान ही उसकी जांच करता है। यह निर्माण के हर एक चरण में तीन महत्वपूर्ण प्रश्न पूछता है:

हम अभी कहाँ हैं? (क्या हम अभी भी एक निष्पक्ष 50/50 के अनुपात के ट्रैक पर हैं?)
हम कहाँ जा रहे हैं? (यदि हम चलते रहे, तो क्या गणितीय रूप से निष्पक्ष रूप से समाप्त करना संभव है?)
हमें क्या हटाना होगा? (यदि हम ट्रैक से भटक गए हैं, तो संतुलन बनाने के लिए हमें कितनी खराब तस्वीरें फेंकनी होंगी?)

मूल अवधारणा: "वर्ल्ड्स की गिनती" (Counting Worlds)

यह समझने के लिए कि यह GPS कैसे काम करता है, AI की पीढ़ी प्रक्रिया को घटनाओं की एक एकल रेखा के रूप में नहीं, बल्कि संभावनाओं के एक विशाल पेड़ (Giant Tree) के रूप में कल्पना करें।

पेड़ (The Tree): हर बार जब AI एक छवि बनाता है, तो भविष्य की शाखाएं अलग-अलग दिशाओं में निकलती हैं।
- शाखा A: AI एक पुरुष इंजीनियर बनाता है।
- शाखा B: AI एक महिला इंजीनियर बनाती है।
"वर्ल्ड्स" (The Worlds): इस तर्क में, पेड़ के नीचे का हर एक रास्ता एक अलग "दुनिया" (World) है।
- एक दुनिया में, AI लगातार 10 पुरुष बनाता है।
- दूसरी दुनिया में, वह 5 पुरुष और 5 महिलाएं बनाता है।
- तीसरी दुनिया में, वह 10 महिलाएं बनाता है।

CTLF टूल पूरे पेड़ को देखता है। यह गिनता है कि कितने "वर्ल्ड्स" (रास्ते) एक निष्पक्ष परिणाम की ओर ले जाते हैं और कितने एक अनुचित परिणाम की ओर।

यह वास्तविक जीवन में कैसे काम करता है (उपमा)

आइए इंजीनियरों की छवियां उत्पन्न करने के उदाहरण का उपयोग करें।

परिदृश्य 1: "ग्रीन लाइट" (हम सुरक्षित हैं)
आप 6 छवियां मांगते हैं।

छवि 1: पुरुष
छवि 2: महिला
छवि 3: पुरुष
छवि 4: महिला
वर्तमान गणना: 2 पुरुष, 2 महिलाएं।
GPS कहता है: "बहुत बढ़िया! आप बिल्कुल सही ट्रैक पर हैं। यदि अगली दो भी पुरुष हों, तो भी आप 50/50 के विभाजन के साथ समाप्त कर सकते हैं। चलते रहें।"

परिदृश्य 2: "रेड लाइट" (हम मुसीबत में हैं)
आप 6 छवियां मांगते हैं।

छवि 1: पुरुष
छवि 2: पुरुष
छवि 3: पुरुष
छवि 4: पुरुष
वर्तमान गणना: 4 पुरुष, 0 महिलाएं।
GPS कहता है: "रुकिए! आपने पहले ही अपना 'पुरुष' कोटा खत्म कर दिया है। भले ही अगली दो महिलाएं हों, आप 4 पुरुष और 2 महिलाओं के साथ समाप्त होंगे। अब 50/50 का विभाजन प्राप्त करना संभव नहीं है।"

परिदृश्य 3: "इमरजेंसी ब्रेक" (शमन/Mitigation)
GPS को एहसास होता है कि आप मुसीबत में हैं। यह केवल "फेल" नहीं कहता। यह एक मिटिगेशन प्लान (Mitigation Plan) की गणना करता है।

यह पेड़ को देखता है और कहता है: "वापस 50/50 के निष्पक्ष विभाजन पर आने के लिए, आपको अपने द्वारा बनाई गई अंतिम 2 पुरुष छवियों को हटाना होगा।"
यह सिस्टम को बताता है: "छवि 3 और छवि 4 को हटा दें। फिर से शुरू करें या तब तक नई छवियां बनाएं जब तक आपको एक महिला न मिल जाए।"

यह क्यों महत्वपूर्ण है

AI पूर्वाग्रह (bias) को ठीक करने के अधिकांश वर्तमान तरीके अंदाजे लगाने जैसे हैं। वे कह सकते हैं, "हे, यह थोड़ा अधिक पुरुष-प्रधान लग रहा है, चलिए अगली बार एक महिला बनाने की कोशिश करते हैं।" लेकिन उनके पास इस बात की गणितीय गारंटी नहीं है कि यह वास्तव में काम करेगा।

यह पेपर एक औपचारिक गारंटी (Formal Guarantee) पेश करता है। यह एक सख्त नियम पुस्तिका होने जैसा है जो कहती है:

"गणित के आधार पर, यदि आप यह विशिष्ट क्रम (sequence) उत्पन्न करते हैं, तो निष्पक्ष होना असंभव है। आपको अभी रुकना होगा और इन विशिष्ट वस्तुओं को हटाना होगा।"

भविष्य: एक अनुकूलन योग्य कोच (An Adaptive Coach)

लेखक यह भी सुझाव देते हैं कि भविष्य में, यह प्रणाली और भी स्मार्ट हो सकती है। केवल एक निश्चित नियम (जैसे "50% पुरुष, 50% महिलाएं") के विरुद्ध जांच करने के बजाय, सिस्टम एक अनुकूलन योग्य कोच (Adaptive Coach) बन सकता है।

यदि AI बार-बार गलती से बहुत अधिक पुरुष उत्पन्न कर रहा है, तो कोच वास्तविक समय में AI के "आंतरिक भार" (internal weights) को सूक्ष्म रूप से समायोजित कर सकता है, जिससे अगली छवि के लिए एक महिला को चुनना थोड़ा अधिक संभावित हो जाए, जिससे बिना कुछ हटाए पूरी प्रक्रिया को धीरे से निष्पक्षता की ओर वापस मोड़ा जा सके।

सारांश

समस्या: AI अक्सर वास्तविक दुनिया के पूर्वाग्रहों (जैसे लिंग असंतुलन) को दोहराता है और उन्हें और बदतर बनाता है।
उपकरण: एक नया लॉजिक सिस्टम (CTLF) जो AI के आउटपुट को संभावनाओं के एक शाखाओं वाले पेड़ के रूप में देखता है।
जादू: यह "वर्ल्ड्स" की गिनती करता है ताकि देखा जा सके कि क्या निष्पक्ष परिणाम अभी भी संभव है या नहीं।
कार्रवाई: यदि निष्पक्षता असंभव है, तो यह आपको बताता है कि संतुलन बहाल करने के लिए कितनी खराब आउटपुट को हटाना होगा, जो जनरेटिव AI के लिए एक वास्तविक समय का "फेयरनेस जीपीएस" के रूप में कार्य करता है।

यहाँ शोध पत्र "Counting Worlds Branching Time Semantics for post-hoc Bias Mitigation in generative AI" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

जेनरेटिव एआई सिस्टम अक्सर अपने प्रशिक्षण डेटा में मौजूद पूर्वाग्रहों (biases) को बढ़ा देते हैं, जिससे अनुचित आउटपुट (जैसे कि इमेज जनरेशन में लिंग वितरण का असंतुलित होना) प्राप्त होते हैं। हालाँकि विभिन्न इन्फरेंस-टाइम और पोस्ट-हॉक शमन रणनीतियाँ (जैसे टोकन फ़िल्टरिंग या एक्टिवेशन रिमूवल) मौजूद हैं, वे काफी हद तक अनुभवजन्य (empirical) हैं और उनमें औपचारिक गारंटी (formal guarantees) का अभाव है।

वर्तमान पद्धतियाँ जनरेशन प्रक्रिया के दौरान तीन महत्वपूर्ण प्रश्नों का उत्तर देने में संघर्ष करती हैं:

सत्यापन (Verification): क्या आउटपुट की वर्तमान श्रृंखला अभी भी एक इच्छित, निष्पक्ष संभाव्यता वितरण (probability distribution) के भीतर है?
भविष्यवाणी (Prediction): नए आउटपुट उत्पन्न होने पर इस बात की कितनी संभावना है कि श्रृंखला स्वीकार्य सीमाओं के भीतर बनी रहेगी?
हस्तक्षेप (Intervention): यदि वितरण विचलित हो गया है, तो निष्पक्षता को बहाल करने के लिए कितने आउटपुट हटाए जाने चाहिए (पोस्ट-हॉक मिटिगेशन)?

लेखकों का तर्क है कि मौजूदा लीनियर टेम्पोरल लॉजिक (LTLF जैसे) भविष्य के आउटपुट की ब्रांचिंग संभावनाओं और निष्पक्षता बनाए रखने के लिए आवश्यक विशिष्ट गणनाओं के बारेមាន तर्क करने के लिए अपर्याप्त हैं।

2. कार्यप्रणाली: CTLF लॉजिक और काउंटिंग वर्ल्ड्स सिमेंटिक्स (Methodology: CTLF Logic and Counting Worlds Semantics)

लेखक CTLF (काउंटिंग टेम्पोरल लॉजिक फॉर फेयरनेस) प्रस्तावित करते हैं, जो जेनरेटिव एआई आउटपुट की श्रृंखलाओं के बारे में तर्क करने के लिए डिज़ाइन किया गया एक ब्रांचिंग-टाइम लॉजिक है। मुख्य नवाचार एक काउंटिंग वर्ल्ड्स सिमेंटिक्स (Counting Worlds Semantics) है जहाँ जनरेशन प्रक्रिया को संभावित दुनिया के एक पेड़ (tree of possible worlds) के रूप में मॉडल किया जाता है।

A. मॉडल संरचना (The Model Structure)

जनरेशन प्रक्रिया को एक मॉडल $M = (W, W^1, W^n, R_e, R_f, V)$ के रूप में औपचारिक रूप दिया गया है:

दुनिया (Worlds - $W$ ): प्रत्येक 'वर्ल्ड' जनरेशन अनुक्रम के एक विशिष्ट चरण में एक संभावित आउटपुट का प्रतिनिधित्व करता है।
ब्रांचिंग (Branching): संरचना एक पेड़ है जहाँ:
- $R_e$ (चाइल्डहुड संबंध): एक वर्तमान अवस्था को उसके अद्वितीय पैरेंट (पिछले आउटपुट) से जोड़ने वाला एक बैकवर्ड संबंध।
- $R_f$ (पैरेंटहुड संबंध): एक अवस्था को उसके सभी संभावित भविष्य के परिणामों (बच्चों) से जोड़ने वाला एक फॉरवर्ड संबंध।
पाथ्स (Paths): एक पूर्ण पाथ $n$ आउटपुट के पूर्ण अनुक्रम का प्रतिनिधित्व करता है।
संभाव्यता वितरण ( $\Phi_\Sigma$ ): यह सभी संभावित पथों ( $\Pi^*$ ) के सेट को केवल उन पथों तक फ़िल्टर करने के लिए एक फंक्शन है जो एक लक्षित संभाव्यता वितरण $\Sigma$ (जैसे, 50% पुरुष / 50% महिला) को संतुष्ट करते हैं।

B. लॉजिक सिंटैक्स (The Logic Syntax)

CTLF मानक मोडल लॉजिक का विस्तार करता है जिसमें एक संभाव्यता थ्रेशोल्ड $q \in [0, 1]$ द्वारा पैरामीटराइज्ड काउंटिंग ऑपरेटर्स शामिल हैं:

स्टेट फॉर्मुला ( $\phi$ ):
- $\square_q \phi$ : वर्तमान अवस्था में, $\phi$ इतिहास में कम से कम $q \times m$ बार हुआ है (जहाँ $m$ वर्तमान स्टेप काउंट है)।
- $\blacksquare_q \phi$ : यह संभव है कि $\phi$ लक्षित वितरण के अनुरूप कुछ वैध पथों में $q \times m$ बार हुआ है।
- $\bigcirc_q \phi$ : एक पूर्ण पथ मौजूद है जहाँ $\phi$ कुल $q \times n$ बार होता है।
- $\triangleright_q \phi$ : एक वैध वितरण को देखते हुए, अगले चरण में $\phi$ के होने की संभावना कम से कम $q$ है।
पाथ फॉर्मुला ( $\psi$ ):
- $\bigtriangledown_q \phi$ : एक पूर्ण पथ में, $\phi$ कम से कम $q \times n$ बार होता है।
- $\dagger_q \phi$ : वर्तमान अवस्था से शुरू करते हुए, इस बात की संभावना (probability) कम से कम $q$ है कि पथ को लक्षित वितरण को संतुष्ट करते हुए पूरा किया जा सकता है।

3. मुख्य योगदान (Key Contributions)

पूर्वाग्रह के लिए औपचारिक ढांचा (Formal Framework for Bias): यह पेपर ब्रांचिंग-टाइम सिमेंटिक्स का उपयोग करके जेनरेटिव आउटपुट की श्रृंखलाओं में पूर्वाग्रह को सत्यापित और कम करने के लिए विशेष रूप से डिज़ाइन किया गया पहला औपचारिक लॉजिक पेश करता है।
काउंटिंग वर्ल्ड्स सिमेंटिक्स (Counting Worlds Semantics): मानक प्रोबेबिलिस्टिक मॉडल चेकिंग के विपरीत, CTLF संभव दुनिया के पेड़ में संरक्षित गुणों (जैसे लिंग) की उपस्थिति को स्पष्ट रूप से गिनता है ताकि यह निर्धारित किया जा सके कि क्या एक "निष्पक्ष" उपसमुच्चय (subset) मौजूद है।
पोस्ट-हॉक मिटिगेशन रणनीति (Post-Hoc Mitigation Strategy): यह लॉजिक निष्पक्षता बहाल करने के लिए कितने आउटपुट हटाने की सटीक संख्या की गणना करने के लिए एक तंत्र प्रदान करता है। यदि वर्तमान पथ लक्षित वितरण से बहुत दूर चला जाता है, तो लॉजिक पहचानता है कि क्या एक "फेयर कंप्लीशन" अभी भी संभव है, और यदि नहीं, तो यह इतिहास के न्यूनतम उपसमुच्चय को निर्धारित करता है जो निष्पक्षता प्रतिबंध को संतुष्ट करता है।
भविष्यवाणी क्षमता (Predictive Capability): $\triangleright$ और $\dagger$ ऑपरेटर्स सिस्टम को जनरेशन पूरा होने से पहले ही भविष्य के निष्पक्षता उल्लंघन की संभावना का अनुमान लगाने की अनुमति देते हैं, जिससे समय रहते हस्तक्षेप संभव होता है।

4. परिणाम और उदाहरण (Results and Illustrative Example)

लेखक एक "टॉय एग्जांपल" (Toy Example) का उपयोग करके इस ढांचे का प्रदर्शन करते हैं:

परिदृश्य (Scenario): एक मॉडल जिसे एक पक्षपाती डेटासेट (75% पुरुष, 25% महिला) पर प्रशिक्षित किया गया है, "मुझे एक इंजीनियर की तस्वीर दो" प्रॉम्प्ट के लिए चित्र उत्पन्न करता है। लक्ष्य 50/50 का वितरण प्राप्त करना है।
सत्यापन (Verification):
- चरण 4 पर, यदि आउटपुट 2M/2F है, तो फॉर्मूला $w_4 \models \square_{1/2} M \land \square_{1/2} F$ सत्य होता है, जो पुष्टि करता है कि वर्तमान श्रृंखला निष्पक्ष है।
- लॉजिक गणना करता है कि इस बिंदु से श्रृंखला को निष्पक्ष रूप से पूरा करने की संभावना ( $\dagger_{1/2}$ ) 50% है।
मिटिगेशन (Mitigation):
- यदि श्रृंखला 12 आउटपुट तक पहुँचती है जिसमें 9M/3F का अनुपात है (50/50 लक्ष्य का उल्लंघन करते हुए), तो लॉजिक निर्धारित करता है कि निष्पक्ष उपसमुच्चय में अधिकतम कितनी महिलाओं की अनुमति है।
- फलस्वरूप, अधिकतम निष्पक्ष उपसमुच्चय का आकार 6 (3M/3F) है।
- लॉजिक पहचानता है कि वर्तमान पुरुष कोटा समाप्त हो गया है ( $w_5 \models \bigcirc_{1/2} M$ )।
- कार्रवाई (Action): सिस्टम संतुलित उपसमुच्चय $O'$ बनाने के लिए सभी आगामी पुरुष आउटपुट को हटाने का निर्देश देता है।

5. महत्व और भविष्य का कार्य (Significance and Future Work)

महत्व:

सैद्धांतिक कठोरता (Theoretical Rigor): यह पूर्वाग्रह शमन को अनुभवजन्य दृष्टिकोणों से हटाकर एक गणितीय रूप से सत्यापन योग्य ढांचे और औपचारिक गारंटी की ओर ले जाता है।
डायनेमिक कंट्रोल (Dynamic Control): यह जनरेशन पूरा होने के बाद केवल फ़िल्टर करने के बजाय, जनरेशन के दौरान विफलताओं की भविष्यवाणी करने और हस्तक्षेप करने के लिए "इन्फरेंस-टाइम कंट्रोल" सक्षम बनाता है।
अनुप्रयोग (Applicability): यह ढांचा टेक्स्ट-टू-इमेज और लार्ज लैंग्वेज मॉडल्स (LLMs) दोनों के लिए लागू करने योग्य है।

भविष्य की दिशाएँ:

वेटेड ट्रांज़िशन (Weighted Transitions): जनरेशन प्रक्रिया में गैर-समान संभावनाओं को दर्शाने के लिए ट्रांज़िशन को स्पष्ट भार (weights) देने के लिए मॉडल का विस्तार करना।
अनुकूली वितरण (Adaptive Distributions): एक निश्चित लक्षित वितरण से हटकर एक डायनेमिक वितरण की ओर बढ़ना जो देखे गए आउटपुट के आधार पर वास्तविक समय में अपडेट होता है (पैरामीट्रिक मार्कोव चेन के समान)।
कार्यान्वयन (Implementation): वास्तविक दुनिया के एआई सिस्टम पर चेकिंग और मिटिगेशन प्रक्रियाओं को स्वचालित करने के लिए MIRAI टूलबॉक्स के लिए एक सॉफ्टवेयर टूल का विकास।

निष्कर्षतः, CTLF एक मजबूत तार्किक आधार प्रदान करता है ताकि यह सुनिश्चित किया जा सके कि जेनरेटिव एआई सिस्टम जनरेशन प्रक्रिया के दौरान निष्पक्षता प्रतिबंधों का पालन करते हैं, जो औपचारिक सत्यापन और स्वचालित पूर्वाग्रह शमन के लिए एक स्पष्ट मार्ग प्रदान करता है।