💬 NLP

COFT: Counterfactual-Conformal Decoding for Fair Chain-of-Thought Reasoning in Large Language Models

COFT एक प्रशिक्षण-मुक्त, डिकोडिंग-समय की विधि है जो काउंटरफैक्चुअल लॉजिट फ्यूजन को कॉन्फॉर्मल कैलिब्रेशन के साथ जोड़कर लार्ज लैंग्वेज मॉडल की चेन-ऑफ-थॉट रीजनिंग में सामाजिक पूर्वाग्रहों को कम करती है, जिससे कार्य उपयोगिता को संरक्षित करते हुए और बिना किसी मॉडल रिट्रेनिंग के महत्वपूर्ण पूर्वाग्रह कमी प्राप्त की जाती है।

मूल लेखक: Arya Fayyazi, Mehdi Kamal, Massoud Pedram

प्रकाशित 2026-06-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Arya Fayyazi, Mehdi Kamal, Massoud Pedram

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, सुशिक्षित लाइब्रेरियन (एक लार्ज लैंग्वेज मॉडल) है जो आपको कहानियाँ लिखने, प्रश्नों के उत्तर देने या समस्याओं को हल करने में मदद करता है। इस लाइब्रेरियन ने इंटरनेट से लाखों किताबें पढ़ी हैं। हालांकि वे अविश्वसनीय रूप से जानकार हैं, लेकिन उन्होंने उन किताबों में मौजूद कुछ अव्यवस्थित और अनुचित रूढ़ियों (stereotypes) को भी आत्मसात कर लिया है (जैसे यह सोचना कि कुछ नौकरियां केवल पुरुषों के लिए हैं, या लोगों के नाम के आधार पर धारणा बनाना)।

जब आप लाइब्रेरियन को उत्तर देने से पहले "ज़ोर से सोचने" (Chain-of-Thought reasoning) के लिए कहते हैं, तो वे अनजाने में अपनी सोचने की प्रक्रिया में इन अनुचित रूढ़ियों को फुसफुसा सकते हैं, भले ही अंतिम उत्तर ठीक दिखाई दे।

COFT (चेन ऑफ फेयर थॉट) एक नया "ट्रैफिक पुलिस" सिस्टम है जो लाइब्रेरियन के सोचने के दौरान उनके साथ खड़ा रहता है। यह उन्हें फिर से प्रशिक्षित नहीं करता या उनके मस्तिष्क को नहीं बदलता; यह बस उनके द्वारा कहे जाने वाले शब्दों को देखता है और उन्हें वास्तविक समय (real-time) में निष्पक्ष विकल्पों की ओर धीरे से मोड़ देता है।

COFT कैसे काम करता है, इसे तीन सरल चरणों में एक रचनात्मक उपमा (analogy) का उपयोग करके समझाया गया है:

उपमा: "डबल-चेक" किचन

कल्पना कीजिए कि लाइब्रेरियन एक जटिल व्यंजन (उत्तर) तैयार करने वाला एक शेफ है। कभी-कभी, रेसिपी में किसी ऐसे घटक (ingredient) की आवश्यकता होती है जो एक संवेदनशील विषय (जैसे कोई विशिष्ट राष्ट्रीयता या लिंग) का प्रतिनिधित्व करता है। यदि शेफ उस घटक का उपयोग करता है, तो व्यंजन का स्वाद पक्षपाती हो सकता है।

COFT एक जुड़वां शेफ की तरह काम करता है जो एक समानांतर किचन में काम कर रहा है।

चरण 1: "नेत्रबंध" परीक्षण (Counterfactual Masking)

इससे पहले कि मुख्य शेफ रेसिपी का अगला शब्द लिखे, COFT प्रॉम्प्ट का एक "मास्क किया हुआ" संस्करण बनाता है।

वास्तविक दुनिया: प्रॉम्प्ट कहता है, "द नर्स (जो एक महिला है) ने अपना राउंड पूरा किया..."
COFT का मास्क किया हुआ संस्करण: यह संवेदनशील शब्द "महिला" को एक तटस्थ प्लेसहोल्डर जैसे [MASK] से बदल देता है। इसलिए यह बन जाता है, "द नर्स (जो [MASK] है) ने अपना राउंड पूरा किया..."

सिस्टम अब लाइब्रेरियन के मस्तिष्क को दो बार चलाता है: एक वास्तविक शब्द के साथ, और एक मास्क किए गए शब्द के साथ। यह ऐसा है जैसे शेफ से पूछना, "यदि मुझे लिंग का पता नहीं होता, तो क्या आप अभी भी इसी अगले घटक को चुनते?"

चरण 2: "ब्लेंडर" (Logit Fusion)

सिस्टम संभावित अगले शब्दों की दो सूचियों (एक वास्तविक प्रॉम्प्ट से, और एक मास्क किए गए प्रॉम्प्ट से) को लेता है और उन्हें आपस में मिला देता है।

यदि वास्तविक प्रॉम्प्ट दृढ़ता से एक पक्षपाती शब्द का सुझाव देता है (जैसे "नर्स" + "वह/स्त्री"), लेकिन मास्क किया गया प्रॉम्प्ट एक तटस्थ शब्द का सुझाव देता है, तो "ब्लेंडर" उन्हें मिला देता है।
यह एक समझौता सूची (compromise list) बनाता है जहाँ अनुचित, पक्षपाती विकल्पों को कम कर दिया जाता है, और तटस्थ विकल्पों को बढ़ावा दिया जाता है। यह एक बहुत तेज़, मसालेदार सॉस को हल्के सॉस के साथ मिलाने जैसा है ताकि एक ऐसा स्वाद मिले जो बहुत अधिक तीव्र न हो।

चरण 3: "सेफ्टी गेट" (Conformal Filtering)

यह सबसे अनूठा हिस्सा है। COFT केवल अनुमान नहीं लगाता; यह एक गणितीय "सुरक्षा द्वार" का उपयोग करता है जिसे कॉन्फ़ॉर्मल प्रेडिक्शन कहा जाता है।

कल्पना कीजिए कि किचन के दरवाजे पर एक सुरक्षा गार्ड है। उस गार्ड के पास एक पूर्व-निर्धारित नियम है: "केवल उन्हीं सामग्रियों को अंदर जाने दें यदि वास्तविक शेफ और मास्क किया हुआ शेफ दोनों ही उन्हें सुरक्षित मानते हों।"
यदि कोई शब्द केवल पक्षपाती संस्करण में लोकप्रिय है लेकिन तटस्थ संस्करण में अपॉपुलर है, तो गार्ड उसे रोक देता है।
यदि कोई शब्द दोनों में लोकप्रिय है, तो उसे हरी झंडी मिल जाती है।

यह एक सांख्यिकीय गारंटी देता है: COFT वादा कर सकता है, "हमें 95% विश्वास है कि हमने अभी जो शब्द छोड़ा है वह निष्पक्ष है, चाहे प्रॉम्प्ट में संवेदनशील विवरण कुछ भी हों।"

यह एक बड़ी बात क्यों है?

कोई ब्रेन सर्जरी नहीं: पूर्वाग्रह को ठीक करने के अधिकांश तरीकों के लिए मॉडल को "पुनः प्रशिक्षित" करने की आवश्यकता होती है, जो लाइब्रेरियन को बुरी आदतें भुलाने के लिए वर्षों तक वापस स्कूल भेजने जैसा है। COFT ट्रेनिंग-फ्री है। यह मॉडल को बिल्कुल वैसा ही काम करता है जैसा वह अभी है।
कोई अतिरिक्त मस्तिष्क नहीं: कुछ विधियों के लिए पूर्वाग्रह की जांच करने के लिए दूसरे AI (एक क्लासिफायर) को काम पर रखने की आवश्यकता होती है। COFT को दूसरे AI की आवश्यकता नहीं है; यह केवल लाइब्रेरियन के अपने "जुड़वां" (मास्क किया गया संस्करण) का उपयोग जांच करने के लिए करता है।
यह अच्छी चीज़ों को बनाए रखता है: पेपर दिखाता है कि जबकि COFT पूर्वाग्रह को काट देता है (इसे लगभग 30-55% कम कर देता है), यह उत्तरों की गुणवत्ता को खराब नहीं करता है। लाइब्रेरियन अभी भी गणित की समस्याओं को हल करता है और उतनी ही अच्छी कहानियाँ लिखता है जितनी पहले लिखता था।
यह ऑडिट योग्य है: क्योंकि COFT हर एक शब्द पर स्पष्ट, चरण-दर-चरण निर्णय लेता है, आप लॉग देख सकते हैं और समझ सकते हैं कि एक शब्द को क्यों चुना गया या क्यों खारिज किया गया। यह कोई "ब्लैक बॉक्स" नहीं है।

लागत

एकमात्र नुकसान गति है। क्योंकि COFT को मॉडल को दो बार चलाना पड़ता है (एक बार वास्तविक प्रॉम्प्ट के लिए, एक बार मास्क किए गए प्रॉम्प्ट के लिए) और फिर परिणामों को मिलाना पड़ता है, इसलिए इसमें थोड़ा अधिक समय लगता है—जो लगभग खाना पकाने की प्रक्रिया में एक अतिरिक्त चरण जोड़ने के बराबर है (लगभग 10% धीमा)। हालाँकि, पेपर का तर्क है कि यह छोटा सा खर्च सुरक्षा और निष्पक्षता जो यह प्रदान करता है, उसके लिए वाजिब है।

सारांश में

COFT एक रियल-टाइम फेयरनेस फ़िल्टर है जो आपके और AI के बीच बैठता है। यह AI से कल्पना करने को कहता है कि एक ऐसी दुनिया कैसी होगी जहाँ संवेदनशील विवरण (जैसे जाति या लिंग) छिपे हुए हैं, उस कल्पना की वास्तविकता से तुलना करता है, और केवल उन्हीं शब्दों को बोलने की अनुमति देता है जो दोनों दुनियाओं में अर्थपूर्ण हैं। यह सुनिश्चित करता है कि AI की "सोचने की प्रक्रिया" बिना AI को पुन: प्रशिक्षित किए या अतिरिक्त सहायकों को नियुक्त किए निष्पक्ष रहे।

तकनीकी सारांश: COFT (काउंटरफैक्चुअल-कॉन्फॉर्मल डिकोडिंग फॉर फेयर चेइन-ऑफ-थॉट रीजनिंग)

1. समस्या विवरण (Problem Statement)

वेब कॉर्पोरा (web corpora) पर प्रशिक्षित बड़े भाषा मॉडल (LLMs) सामाजिक पूर्वाग्रहों को आत्मसात करते हैं और अक्सर उन्हें चेन-ऑफ-थॉट (CoT) जनरेशन के दौरान बढ़ा देते हैं। हालांकि मॉडल का अंतिम आउटपुट तटस्थ दिखाई दे सकता है, लेकिन मध्यवर्ती रीजनिंग स्टेप्स (intermediate reasoning steps) टोकन-दर-टोकन हानिकारक जुड़ाव प्रकट कर सकते हैं। मौजूदा शमन रणनीतियाँ (mitigation strategies) महत्वपूर्ण सीमाओं का सामना करती हैं:

ट्रेनिंग-टाइम विधियाँ (जैसे फाइन-ट्यूनिंग, RLHF, डेटा क्यूरेशन) गणनात्मक रूप से महंगी हैं, इनके लिए मॉडल वेट्स तक पहुंच की आवश्यकता होती है, और इनमें सामान्य-डोमेन प्रदर्शन को कम करने या एनोटेटर के पूर्वाग्रहों को समाहित करने का जोखिम होता है।
इन्फरेंस-टाइम स्टीयरिंग (जैसे सहायक क्लासिफायर या विशेषज्ञ एन्सेम्बल का उपयोग) विलंबता (latency) उत्पन्न करता है, बाहरी क्लासिफायर के ब्लाइंड स्पॉट्स पर निर्भर करता है, और इसमें कठोर सांख्यिकीय गारंटी का अभाव होता है।
रिप्रेजेंटेशन-स्पेस डिबायसिंग (जैसे नल्स्पेस प्रोजेक्शन) अक्सर वैश्विक, प्रॉम्प्ट-अज्ञेय (prompt-agnostic) सुधार लागू करता है जो वैध संदर्भ-निर्भर अर्थों (semantics) को दबा सकता है और गैर-रेखीय पूर्वाग्रह प्रकटीकरण को पकड़ने में विफल रहता है।

महत्वपूर्ण रूप से, वर्तमान दृष्टिकोणों में डिकोड समय पर प्रति-स्टेप सांख्यिकीय गारंटी का अभाव है। वे यह निर्दिष्ट नहीं करते हैं कि पूर्वाग्रह के जोखिम को नियंत्रण में रखते हुए कौन से टोकन सुरक्षित रूप से उत्सर्जित किए जा सकते हैं, और न ही वे प्रत्येक डिकोडिंग स्टेप पर स्थानीय काउंटरफैक्चुअल पैरिटी (प्रॉम्प्ट के संवेदनशील स्पैन में काल्पनिक परिवर्तनों के तहत आउटपुट की स्थिरता) को लागू करते हैं।

2. कार्यप्रणाली: COFT

COFT (चेन ऑफ फेयर थॉट) एक ट्रेनिंग-फ्री, इन्फरेंस-ओनली डिकोडिंग फ्रेमवर्क है जिसे फ्रोजन कॉज़ल लैंग्वेज मॉडल्स के लिए काउंटरफैक्चुअल फेयरनेस लागू करने के लिए डिज़ाइन किया गया है। यह तीन विशिष्ट चरणों में कार्य करता है:

चरण I: काउंटरफैक्चुअल मास्किंग (Counterfactual Masking)

COFT संवेदनशील स्पैन (जैसे लिंग, जाति, धार्मिक पहचानकर्ता) को न्यूट्रल सेंटिनल टोकन्स (जैसे [MASK]) से बदलकर इनपुट प्रॉम्प्ट का एक "मास्क्ड" संस्करण $\hat{p}$ बनाता है।

कार्यान्वयन: मास्किंग ऑपरेटर नियत (deterministic) और लंबाई-संरक्षणकारी (length-preserving) है। यदि एक संवेदनशील स्पैन $k$ टोकन में विभाजित होता है, तो इसे $k$ सेंटिनल टोकन्स द्वारा प्रतिस्थापित किया जाता है। यह सुनिश्चित करता है कि तथ्यात्मक और मास्क्ड दोनों शाखाएं पूर्णतः एक ही निरपेक्ष स्थिति में संरेखित रहें, जिससे समान ऑटोरेग्रेसिव प्रीफिक्स पर समान टोकन-स्तरीय लॉजिट्स (logits) की वैध तुलना संभव हो सके।
दोहरी-शाखा निष्पादन (Dual-Branch Execution): मॉडल $f_\theta$ को एक ही समय में दो बार समानांतर चलाया जाता है: एक तथ्यात्मक प्रॉम्प्ट $p$ पर और दूसरा मास्क्ड प्रॉम्प्ट $\hat{p}$ पर, जो समान जनरेटेड प्रीफिक्स $w_{<t}$ पर आधारित है।

चरण II: काउंटरफैक्चुअल लॉजिट फ्यूजन (Counterfactual Logit Fusion)

एट्रीब्यूट-ड्रिवन बायस को कम करने के लिए, COFT तथ्यात्मक ( $z^F_t$ ) और मास्क्ड ( $z^{CF}_t$ ) शाखाओं के लॉजिट डिस्ट्रीब्यूशन का कॉन्वेक्स इंटरपोलेशन करता है:
$\tilde{z}_t = (1 - \lambda) z^F_t + \lambda z^{CF}_t$
जहाँ $\lambda \in [0, 1]$ एक ट्यूनेबल फ्यूजन पैरामीटर है।

प्रभाव: यह ऑपरेशन दोनों संभाव्यता वितरणों का एक ज्यामितीय मिश्रण बनाता है। सैद्धांतिक रूप से, यह टोकन्स के बीच लॉग-ऑड्स का रैखिक इंटरपोलेशन करता है, जो प्रभावी रूप से मॉडल को संवेदनशील गुणों के प्रति "अंधा" बना देता है जबकि वितरण के उच्च-संभाव्यता वाले क्षेत्रों को सुरक्षित रखता है। यह फ्यूजन सर्टिफिकेशन से पहले होता है ताकि बाद में होने वाला फ़िल्टरिंग स्टेप उन डिस्ट्रीब्यूशनों पर कार्य करे जो अपने हाई-मास क्षेत्रों पर सहमत हों।

चरण III: डुअल-ब्रांच स्प्लिट-कॉन्फॉर्मल फ़िल्टरिंग (Dual-Branch Split-Conformal Filtering)

COFT प्रत्येक स्टेप $t$ पर प्रमाणित टोकन के एक सेट को प्रमाणित करने के लिए एक स्प्लिट-कॉन्फॉर्मल प्रेडिक्शन (CP) प्रक्रिया लागू करता है।

नॉनकॉन्फॉर्मिटी स्कोर (Nonconformity Score): प्रत्येक टोकन $v$ के लिए एक स्कोर परिभाषित किया गया है जो फ्यूज्ड तथ्यात्मक डिस्ट्रीब्यूशन ( $\tilde{\pi}_t$ ) और मास्क्ड डिस्ट्रीब्यूशन ( $\pi^{CF}_t$ ) दोनों में इसकी न्यूनतम संभाव्यता पर आधारित है:
$s_t(v) = 1 - \min\{ \tilde{\pi}_t(v), \pi^{CF}_t(v) \}$
कैलिब्रेशन (Calibration): एक अलग कैलिब्रेशन सेट पर, इन स्कोर्स का $(1-\alpha)$ -क्वांटाइल $q_t$ कंप्यूट किया जाता है।
सर्टिफिकेशन (Certification): टेस्ट टाइम पर, एक टोकन को उम्मीदवार सेट $C_t$ में तभी शामिल किया जाता है जब उसका स्कोर थ्रेशोल्ड से कम हो ( $s_t(v) \le q_t$ ), जो कि यह आवश्यक बनाने के बराबर है कि टोकन में दोनों तथ्यात्मक और मास्क्ड दृश्यों में पर्याप्त संभाव्यता हो।
सैंपलिंग (Sampling): अंतिम टोकन को प्रमाणित सेट $C_t$ द्वारा प्रतिबंधित फ्यूज्ड डिस्ट्रीब्यूशन $\tilde{\pi}_t$ से सैंपल किया जाता है। यदि $C_t$ खाली है (एक दुर्लभ घटना), तो एक नियत फॉलबैक (जैसे argmax) का उपयोग किया जाता है।

3. मुख्य योगदान (Key Contributions)

ट्रेनिंग-फ्री फेयर डिकोडिंग: COFT बिना रिट्रेनिंग, ग्रेडिएंट एक्सेस, या सहायक क्लासिफायर के फ्रोजन LMs पर फेयरनेस लागू करने के लिए एक तंत्र प्रदान करता है।
प्रति-स्टेप मार्जिनल गारंटी: पिछले तरीकों के विपरीत, COFT उत्सर्जित टोकन्स की स्थिरता के लिए डिस्ट्रीब्यूशन-फ्री, मार्जिनल वैधता गारंटी (एक्सचेंजेबिलिटी के आधार पर) प्रदान करता है। यह प्रमाणित करता है कि वास्तविक अगला टोकन कम से कम $1-\alpha$ प्रायिकता के साथ उम्मीदवार सेट में शामिल है।
लोकल काउंटरफैक्चुअल पैरिटी: यह विधि टोकन स्तर पर काउंटरफैक्चुअल फेयरनेस को संचालित करती है, यह सुनिश्चित करती है कि डिकोडिंग प्रक्रिया स्थिर रहे जब प्रॉम्प्ट में संवेदनशील गुणों को काल्पनिक रूप से बदला जाए।
दोहरी-शाखा वास्तुकला: लॉजिट्स को फ्यूज करने और दोनों तथ्यात्मक और मास्क्ड दृश्यों से संयुक्त समर्थन की आवश्यकता के माध्यम से, COFT एट्रीब्यूट-ड्रिवन बायस को प्रभावी ढंग से कम करता है और टास्क यूटिलिटी को बनाए रखता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने छह मॉडलों (LLaMA-2, Mistral, Mixtral, और Qwen2 सहित) और कई बायस बेंचमार्क (StereoSet, CrowS-Pairs, BBQ, BOLD, Utrecht, COMPAS) के साथ-साथ मानक यूटिलिटी टास्क (GSM8K, StrategyQA, ARC-easy, PIQA) पर COFT का मूल्यांकन किया।

बायस मिटिगेशन (Bias Mitigation): COFT ने वैनिला डिकोडिंग की तुलना में मानक बायस मेट्रिक्स में 30–55% (मीडियन 38%) की कमी की और मजबूत इन्फरेंस-टाइम बेसलाइन्स (जैसे Self-Debiased Decoding, DExperts, Dual-Threshold Conformal Decoding) को पछाड़ दिया। उदाहरण के लिए, BBQ डेटासेट पर, बायस रिडक्शन 34–41% तक पहुँच गया।
यूटिलिटी प्रिजर्वेशन (Utility Preservation): रीजनिंग और QA बेंचमार्क पर टास्क एक्यूरेसी अनचेंज्ड रही (अंतर $\le 0.2$ पॉइंट्स)। लैंग्वेज क्वालिटी मेट्रिक्स (Perplexity, MAUVE) वैनिला डिकोडिंग के समान ही थे।
दक्षता (Efficiency): कम्प्यूटेशनल ओवरहेड मामूली है, जो प्रति स्टेप एक अतिरिक्त कैश किया गया फॉरवर्ड पास के बराबर है। थ्रूपुट लगभग 10–25% कम हो जाता है, और पीक मेमोरी उपयोग नगण्य रूप से बढ़ता है ( $\le 0.8$ GB)।
एब्लेशन (Ablations): लॉजिट फ्यूजन को हटाने से उच्च अवशिष्ट बायस (residual bias) देखा गया, जो पुष्टि करता है कि फ्यूजन ही एट्रीब्यूट-ड्रिवन लॉग-ऑड्स को कम करने का प्राथमिक तंत्र है। डुअल-ब्रांच कॉन्फॉर्मल फिल्टर को हटाने से काउंटरफैक्चुअल स्थिरता गारंटी का नुकसान हुआ।

$\text{5. महत्व और दावे (Significance and Claims)}$

यह पेपर COFT को सुरक्षित CoT जनरेशन के लिए एक स्पष्ट, ऑडिट योग्य मार्ग के रूप में प्रस्तुत करता है। इसका प्राथमिक महत्व रिट्रेनिंग की अत्यधिक कंप्यूट लागत के बिना फ्रोजन मॉडल्स के लिए सत्यापन योग्य सुरक्षा सीमाएं (verifiable safety bounds) प्रदान करने में निहित है।

ऑडिटेबल सुरक्षा: प्रति-स्टेप मार्जिनल गारंटी प्रदान करके, COFT चिकित्सकों को संवेदनशील डोमेन (जैसे स्वास्थ्य सेवा, कानूनी, भर्ती) में जोखिम का एक मात्रात्मक माप के साथ मॉडल तैनात करने की अनुमति देता है।
मजबूती (Robustness): विधि डिस्ट्रीब्यूशन शिफ्ट के प्रति मजबूत है (डेनसिटी रेश्यो के आधार पर कवरेज धीरे-धीरे घटता है) और विविध मॉडल आर्किटेक्चर में प्रदर्शन बनाए रखती है।
सीमाएं: लेखक विनम्रतापूर्वक नोट करते हैं कि एल्गोरिथम हस्तक्षेप कोई रामबाण नहीं है। गारंटियाँ विशिष्ट संवेदनशील गुणों की परिभाषा और कैलिब्रेशन एवं टेस्ट डेटा के बीच एक्सचेंजेंबिलिटी की धारणा पर निर्भर करती हैं। इसके अलावा, डुअल-ब्रांच डिकोडिंग इन्फरेंस लेटेंसी पेश करती है, जिसे बायस रिडक्शन के लाभों के विरुद्ध तौला जाना चाहिए। यह विधि उन परिदृश्यों के लिए सबसे उपयुक्त है जहाँ रीजनिंग ट्रेस का ऑडिट किया जाना आवश्यक है।

संक्षेप में, COFT यह प्रदर्शित करता है कि कॉन्फॉर्मल प्रेडिक्शन थ्योरी पर आधारित एक हल्के, ट्रेनिंग-फ्री प्रोसीजर का उपयोग करके LLM रीजनिंग ट्रेसेस में सामाजिक पूर्वाग्रहों को काफी कम करना और यूटिलिटी को बनाए रखना संभव है।