तकनीकी सारांश: LLMs में सशर्त संज्ञानात्मक पूर्वाग्रह (Conditional Cognitive Biases)

समस्या विवरण

निर्देश-ट्यून किए गए लार्ज लैंग्वेज मॉडल्स (LLMs) को कानूनी तर्क, चिकित्सा ट्राइएज और वित्तीय परामर्श जैसे उच्च-जोखिम वाले क्षेत्रों में निर्णय-सहायता उपकरण के रूप में तेजी से तैनात किया जा रहा है। जबकि पूर्व शोध ने ज़ीरो-शॉट मूल्यांकन (जैसे कि फ्रेमिंग, एंकरिंग, कन्फर्मेशन बायस) के तहत LLMs में संज्ञानात्मक पूर्वाग्रहों को व्यापक रूप से चित्रित किया है, ये बेंचमार्क पूर्वाग्रह को एक संदर्भ-स्वतंत्र गुण मानते हैं। वास्तविक दुनिया की तैनाती में, मॉडल की प्रतिक्रियाएं पिछले संवादात्मक दौरों (conversational turns) पर आधारित होती हैं। एक पक्षपाती उपयोगकर्ता टर्न एक भ्रमित करने वाला कारण पथ (confounding causal pathway) पेश करता है: यह इनपुट प्रारूप को ज़ीरो-शॉट से संवाद (इंस्ट्रक्शन-ट्यूनिंग कंडीशनिंग को सक्रिय करते हुए) में बदल देता है और साथ ही विशिष्ट अर्थपूर्ण सामग्री पेश करता है जो मॉडल के अलाइनमेंट प्रशिक्षण के साथ परस्पर क्रिया करती है। मौजूदा साहित्य यह स्पष्ट करने में विफल रहता है कि LLM पूर्वाग्रह अभिव्यक्ति में परिवर्तन केवल उपयोगकर्ता टर्न की उपस्थिति के कारण है या उस टर्न के भीतर मौजूद विशिष्ट संज्ञानात्मक पूर्वाग्रह की सामग्री के कारण है।

कार्यप्रणाली

इन कारण पथों को अलग करने के लिए, लेखक एक नवीन तीन-स्थिति प्रयोगात्मक ढांचे को पेश करते हैं जिसका मूल्यांकन आठ फ्रंटियर इंस्ट्रक्शन-ट्यून्ड LLMs (GPT-4o, Claude-3.5-Haiku, Llama-3.1 वेरिएंट्स, और DeepSeek-V3 सहित) पर किया गया है।

प्रयोगात्मक डिजाइन

प्रत्येक परिदृश्य और लक्षित पूर्वाग्रह के लिए, LLM का मूल्यांकन तीन अलग-अलग स्थितियों के तहत किया जाता है:

1. ज़ीरो-शॉट ($m_\emptyset$): निर्णय प्रॉम्प्ट को बिना किसी पूर्व संदर्भ के प्रस्तुत किया जाता है।
2. तटस्थ उपयोगकर्ता टर्न ($m_n$): निर्णय प्रॉम्प्ट से पहले एक पूर्वाग्रह-मुक्त उपयोगकर्ता टर्न आता है, जो सामग्री को स्थिर रखते हुए फॉर्मेट शिफ्ट (संवाद बनाम ज़ीरो-शॉट) के प्रभाव को अलग करता है।
3. पक्षपाती उपयोगकर्ता टर्न ($m_b$): एक विशिष्ट संज्ञानात्मक पूर्वाग्रह व्यक्त करने वाला उपयोगकर्ता टर्न निर्णय प्रॉम्प्ट से पहले आता है।

प्रभाव अपघटन (Effect Decomposition)

अध्ययन पूर्वाग्रह मॉड्यूलेशन के तंत्रों को अलग करने के लिए तीन अनुमानित मानों (estimands) को परिभाषित करता है:

• उपस्थिति प्रभाव ($\Delta_n = |m_n| - |m_\emptyset|$): तटस्थ सामग्री के साथ ज़ीरो-शॉट से मल्टी-टर्न संवाद प्रारूप में जाने के प्रभाव को अलग करता है।
• सामग्री प्रभाव ($\delta = |m_b| - |m_n|$): संवाद प्रारूप को स्थिर रखते हुए, उपयोगकर्ता टर्न के भीतर विशिष्ट पूर्वाग्रह सामग्री के प्रभाव को अलग करता है।
• कुल प्रभाव ($\Delta_b = |m_b| - |m_\emptyset| = \Delta_n + \delta$): ज़ीरो-शॉट बेसलाइन के सापेक्ष पूर्वाग्रह अभिव्यक्ति में शुद्ध परिवर्तन।

डेटासेट और सत्यापन

लेखकों ने 24,300 जूरी-सत्यापित उपयोगकर्ता प्रॉम्प्ट का एक स्टिमुलस बैंक बनाया है जो $9 \times 9$ मैट्रिक्स के सभी 81 सेल ($9 \text{ लक्षित LLM पूर्वाग्रह} \times 9 \text{ मानव-टर्न पूर्वाग्रह}$) में फैला हुआ है।

• पूर्वाग्रह चयन: स्थापित बेंचमार्क (Malberg et al., 2025) के आधार पर नौ पूर्वाग्रहों का चयन किया गया: एंकरिंग, अवेलेबिलिटी ह्यूरिस्टिक, बैंडवैगन इफेक्ट, कन्फर्मेशन बायस, फ्रेमिंग इफेक्ट, इन-ग्रुप बायस, लॉस अवर्जन, प्लानिंग फैलसी, और स्टेटस क्वो बायस।
• गुणवत्ता नियंत्रण: एक तीन-मॉडल LLM-एज़-जज जूरी (GPT-4o-Mini, Claude-3.5-Haiku, Gemini) ने चार मानदंडों के विरुद्ध सभी उपयोगकर्ता टर्नों को सत्यापित किया: लक्षित रेटिंग, शुद्धता (अन्य पूर्वाग्रहों से विशिष्टता), स्वाभाविकता, और ब्लाइंड आइडेंटिफिकेशन सटीकता।
• कारण पहचान (Causal Identification): अध्ययन समग्र सहसंबंधों से परे कारण साक्ष्य प्रदान करने के लिए डिफरेंस-इन-डिफरेंस (DiD), प्रोपेंसिटी स्कोर मैचिंग (PSM), और सिंथेटिक कंट्रोल मेथड्स (SCM) का उपयोग करता है।

मुख्य परिणाम

1. पक्षपाती टर्न व्यवस्थित रूप से पूर्वाग्रह को बढ़ाते हैं (कुल प्रभाव)

8 में से 6 मॉडलों में, एक पक्षपाती उपयोगकर्ता टर्न पेश करने से ज़ीरो-शॉट बेसलाइन की तुलना में LLM पूर्वाग्रह अभिव्यक्ति का परिमाण बढ़ जाता है ($\bar{\Delta}_b > 0$, रेंज +0.022 से +0.051)।

• GPT-4o एक अपवाद है जहाँ दो अंतर्निहित तंत्र एक-दूसरे को संतुलित कर देते ($\bar{\Delta}_b \approx 0$)।
• Claude-3.5-Haiku एक नकारात्मक कुल प्रभाव दिखाता है ($\bar{\Delta}_b = -0.064$), जो एक मजबूत नकारात्मक उपस्थिति प्रभाव द्वारा संचालित है।

2. उपस्थिति प्रभाव पूर्वाग्रह को बढ़ाता है

एक उपयोगकर्ता टर्न की केवल उपस्थिति (एक तटस्थ टर्न भी) 8 में से 7 मॉडलों में मापे गए पूर्वाग्रह को महत्वपूर्ण रूप से बढ़ा देती है ($\Delta_n$ की रेंज +0.019 से +0.086 है)। यह सुझाव देता है कि ज़ीरो-शॉट बेंचमार्क संवादात्मक पूर्वाग्रह को व्यवस्थित रूप से कम आंकते हैं।

• अपवाद: Claude-3.5-Haiku एक नकारात्मक उपस्थिति प्रभाव प्रदर्शित करता ($\Delta_n = -0.101$), जो संवाद मोड में पूर्वाग्रह को दबाने वाले इसके कॉन्स्टिट्यूशनल AI अलाइनमेंट के अनुरूप है।
• सहसंबंध: उच्च क्षमता वाले मॉडल (MMLU द्वारा मापे गए) कम उपस्थिति मुद्रास्फीति (presence inflation) दिखाते हैं।

3. सामग्री प्रभाव अक्सर पूर्वाग्रह को दबाता है

इस परिकल्पना के विपरीत कि पक्षपाती संदर्भ पूर्वाग्रह को बढ़ाएगा, एक तटस्थ टर्न को पक्षपाती टर्न से बदलने पर 6 में से 8 मॉडलों में पूर्वाग्रह का परिमाण कम हो जाता ($\delta < 0$)।

• यह "कॉन्ट्रास्ट सप्रेशन" (contrast suppression) सुझाव देता है कि स्पष्ट पक्षपाती संकेत अलाइनमेंट-संबंधी प्रतिरोध को ट्रिगर करते हैं, जिससे अधिक मानकीय (normative) पूर्णताएँ प्राप्त होती हैं।
• अपवाद: DeepSeek-V3 और Claude-3.5-Haiku सकारात्मक सामग्री प्रभाव दिखाते हैं। लेखक इसका श्रेय उनके विचारशील अलाइनमेंट रणनीतियों (Chain-of-Thought RLFT और Constitutional AI) को देते हैं, जो इन-कॉन्टेक्स्ट संकेतों को दबाने के बजाय उन्हें बढ़ाते प्रतीत होते हैं।

4. संरचना और प्रेरणीयता (Inducibility) का युग्मन

$9 \times 9$ बायस कपलिंग मैट्रिक्स के विश्लेषण से पता चलता है:

• रो स्ट्रक्चर डोमिनेंस (Row Structure Dominance): लक्षित पूर्वाग्रह के मॉड्यूलेशन की संवेदनशीलता स्वयं लक्षित पूर्वाग्रह द्वारा शासित होती है, न कि विशिष्ट मानव पूर्वाग्रह प्रकार द्वारा।
• कोई डायगोनल एडवांटेज नहीं: इस बात का कोई प्रमाण नहीं है कि "सेम-बायस कंटैजन" (अर्थात, एक मानव द्वारा पूर्वाग्रह X व्यक्त करने से मॉडल में पूर्वाग्रह X को अन्य पूर्वाग्रहों की तुलना में अधिक चुनिंदा रूप से प्रेरित नहीं किया जाता है) मौजूद है।
• प्लानिंग फैलसी (Planning Fallacy): यह एकमात्र लक्षित पूर्वाग्रह है जिसे सभी 8 मॉडलों में सार्वभौमिक रूप से प्रेरणीय (inducible) के रूप में प्रमाणित किया गया है। यह लगातार एक सकारात्मक कुल प्रभाव दिखाता है, संभवतः इसलिए क्योंकि इसकी अभिव्यक्ति (आशावाद/कम आकलन) अंतर्निहित है और अलाइनमेंट सप्रेशन संकेतों को ट्रिगर करने की कम संभावना रखती है।
• दबाने योग्य पूर्वाग्रह (Suppressible Biases): बैंडवैगन इफेक्ट और अवेलेबिलिटी ह्यूरिस्टिक लगातार इन-कॉन्टेक्स्ट पक्षपाती टर्न्स द्वारा दबा दिए जाते हैं।

महत्व और दावे

यह पेपर दावा करता है कि ज़ीरो-शॉट पूर्वाग्रह बेंचमार्क संवादात्मक पूर्वाग्रह को व्यवस्थित रूप से कम आंकते हैं क्योंकि वे संवाद के "उपस्थिति प्रभाव" को शामिल करने में विफल रहते हैं। अध्ययन प्रदर्शित करता है कि:

1. संदर्भ मायने रखता है: एक बहु-टर्न संवाद में संलग्न होने की मात्र क्रिया भी मॉडल की पूर्वाग्रह अभिव्यक्ति प्रोफाइल को ज़ीरो-शॉट प्रॉम्प्ट्स की तुलना में बदल देती है।
2. अलाइनमेंट रेसिपी-निर्भर है: सामग्री प्रभाव (suppression बनाम amplification) की दिशा विशिष्ट अलाइनमेंट रेसिपी (जैसे, मानक RLHF बनाम Constitutional AI बनाम Chain-of-Thought RLFT) द्वारा निर्धारित होती है।
3. सार्वभौमिक प्रेरणीयता: जबकि अधिकांश पूर्वाग्रह स्पष्ट संकेतों द्वारा दबा दिए जाते हैं, प्लानिंग फैलसी विविध मॉडल आर्किटेक्चर और प्रशिक्षण पाइपलाइनों में मजबूती से प्रेरणीय बनी रहती है।

लेखक निष्कर्ष निकालते हैं कि सुरक्षा मूल्यांकन और पूर्वाग्रह ऑडिटिंग प्रोटोकॉल को अलाइनमेंट रेसिपी के आधार पर वर्गीकृत किया जाना चाहिए और सटीक तैनाती स्थितियों को दर्शाने के लिए पूर्ववर्ती संवादात्मक टर्न्स को शामिल किया जाना चाहिए। वे अपने भविष्य के अनुसंधान को समर्थन देने के लिए अपना ढांचा, कोडबेस और 24,300-आइटम वाला डेटासेट जारी करते हैं।