💻 computer science

Fairness-Aware Retrieval Optimization for Retrieval-Augmented Generation

यह शोध पत्र रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) के लिए एक निष्पक्षता-जागरूक (fairness-aware) रिट्रीवल फ्रेमवर्क प्रस्तावित करता है जो FARO नामक एक स्केलेबल अनुकूलन दृष्टिकोण के माध्यम से टॉप-के (top-k) सेटिंग्स में पूर्वाग्रह प्रसार को कम करता है, और जनरेशन की गुणवत्ता से समझौता किए बिना प्रासंगिकता और निष्पक्षता के बीच प्रभावी ढंग से संतुलन बनाता है।

मूल लेखक: Yingqi Zhao, Vasilis Efthymiou, Jyrki Nummenmaa, Kostas Stefanidis

प्रकाशित 2026-05-18✓ Author reviewed ⓘ

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yingqi Zhao, Vasilis Efthymiou, Jyrki Nummenmaa, Kostas Stefanidis

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान लेकिन कभी-कभी पक्षपाती सहायक (एक लार्ज लैंग्वेज मॉडल) है जो कहानियाँ लिखने और सवालों के जवाब देने में माहिर है। हालाँकि, यह सहायक कभी-कभी मनगढ़ंत बातें बनाता है या किसी एक पक्ष की ओर बहुत अधिक झुकाव रखता है। इसे ठीक करने के लिए, आप सहायक को जवाब देने से पहले कुछ किताबें पढ़ने के लिए देते हैं (रिट्रीवल-ऑगमेंटेड जनरेशन, या RAG)। विचार यह है कि किताबें तथ्य प्रदान करेंगी, और सहायक केवल उनका सारांश देगा।

लेकिन यहाँ एक पेच है: जो लाइब्रेरियन (पुस्तकालयाध्यक्ष) किताबें चुनता है, वह भी पक्षपाती है। यदि लाइब्रेरियन केवल एक राजनीतिक दल की किताबें या केवल पुरुषों के बारे में किताबें ही सहायक को थमा देता है, तो आपका सहायक पक्षपाती उत्तर लिखेगा, भले ही वह स्वयं निष्पक्ष होने की कोशिश कर रहा हो।

यह शोधपत्र एक नया तरीका प्रस्तावित करता है जिससे आप निष्पक्ष उत्तर सुनिश्चित करने के लिए "लाइब्रेरियन" बन सकें। यह इसे तीन सरल चरणों में कैसे करता है, यहाँ दिया गया है:

1. "नियंत्रित मिश्रण" (चरण 1)

कल्पना कीजिए कि आपके पास किताबों के दो ढेर हैं: एक ढेर में "वामपंथी-झुकाव" वाले विचार हैं, और दूसरे में "दक्षिणपंथी-झुकाव" वाले विचार हैं (या एक ढेर पुरुषों के बारे में है, दूसरा महिलाओं के बारे में)।

पुराना तरीका: आप बस सबसे प्रासंगिक दिखने वाली शीर्ष 5 किताबें उठा लेते हैं। यदि शीर्ष 5 किताबें संयोग से "वामपंथी" ढेर से ही निकलती हैं, तो आपका उत्तर पक्षपाती होगा।
नया तरीका: लेखक एक "मिक्सिंग मशीन" (एक रेंकर) पेश करते हैं। किताबों को सहायक को सौंपने से पहले, यह मशीन उन्हें जानबूझकर आपस में मिला देती है। यह सुनिश्चित करती है कि यदि आप 5 किताबें मांगते हैं, तो आपको शायद वामपंथी ढेर से 3 और दक्षिणपंथी ढेर से 2 मिलें, या इसके विपरीत। यह आपको किताबों के संग्रह में विचारों के मिश्रण पर सटीक नियंत्रण देता है, बिना उन किताबों को दोबारा लिखे।

2. "मेज पर सीट" (चरण 2)

शोधकर्ताओं ने एक दिलचस्प बात खोजी: यह मायने रखता है कि किताबों को ढेर में कहाँ रखा गया है।
किताबों के ढेर को एक लंबी मेज पर बैठे लोगों की एक पंक्ति के रूप में सोचें। सहायक (AI) उन लोगों पर अधिक ध्यान देता है जो मेज के सिरहाने (हेड ऑफ द टेबल) पर बैठे हैं, बजाय उन लोगों के जो बिल्कुल अंत में बैठे हैं।

उन्होंने यह देखने के लिए प्रयोग किए कि प्रत्येक "सीट" (स्थिति 1, स्थिति 2, आदि) का अंतिम उत्तर पर कितना प्रभाव पड़ता है।
उन्होंने एक सरल, सीधी रेखा वाला संबंध पाया: यदि आप एक "दक्षिणपंथी-झुकाव" वाली किताब को सीट #1 में रखते हैं, तो वह उत्तर को मजबूती से दाईं ओर खींचती है। यदि आप उसे सीट #5 में रखते हैं, तो वह उत्तर को बहुत कम खींचती है।
उन्होंने एक गणितीय मॉडल ("बायस प्रोपेगेशन मैप") बनाया जो सटीक रूप से भविष्यवाणी करता है कि किस सीट में कौन सी किताबें रखी गई हैं, उसके आधार पर अंतिम उत्तर कितना प्रभावित होगा।

3. "फेयरनेस ऑप्टिमाइज़र" (चरण 3)

अब जब वे जानते हैं कि किताबों को कैसे मिलाना है और प्रत्येक सीट का कितना महत्व है, तो उन्होंने एक स्मार्ट कैलकुलेटर (जिसे FARO कहा जाता है) बनाया है जो अंतिम पहेली को हल करता है।

लक्ष्य: सबसे प्रासंगिक 5 किताबें चुनें जो प्रश्न के लिए सबसे उपयुक्त हों और यह सुनिश्चित करें कि अंतिम उत्तर पक्षपाती न हो।
समस्या: यदि आप हर सवाल के लिए किताबों के हर संभावित संयोजन की जाँच करने की कोशिश करते हैं, तो इसमें बहुत समय लगता है (जैसे हर सवाल के लिए एक विशाल सुडोकू पहेली को हल करने की कोशिश करना)।
समाधान (FARO): लेखकों ने एक शॉर्टकट का आविष्कार किया। एक विशाल, असंभव पहेली को हल करने के बजाय, उन्होंने इसे कई छोटी, आसान पहेलियों (प्रत्येक प्रश्न के लिए एक) में तोड़ दिया। वे एक चतुर गणितीय ट्रिक का उपयोग करते हैं जो "निष्पक्षता" की आवश्यकता को एक सरल समायोजन में बदल देती है।
परिणाम: सिस्टम तेजी से किताबों का सही मिश्रण खोज लेता है। यह "पूर्ण प्रासंगिकता" (सबसे अच्छी किताब चुनना) का थोड़ा सा त्याग कर सकता है ताकि अंतिम उत्तर दोनों समूहों के बीच पूरी तरह से संतुलित रहे।

निचोड़

यह शोधपत्र दिखाता है कि किताबों को कैसे प्राप्त किया जाता है और उन्हें सूची में कहाँ रखा जाता है, इसे सावधानीपूर्वक नियंत्रित करके, आप AI को फिर से प्रशिक्षित किए बिना उसे पक्षपाती होने से रोक सकते हैं।

उन्होंने क्या सिद्ध किया: उनकी विधि विभिन्न प्रकार के AI मॉडल और विभिन्न विषयों (जैसे राजनीति और लिंग) पर काम करती है।
समझौता (Trade-off): आप चुन सकते हैं कि आप कितने सख्त रहना चाहते हैं। आप कह सकते हैं, "मैं चाहता हूँ कि उत्तर 100% निष्पक्ष हो," या "मैं चाहता हूँ कि यह काफी हद तक निष्पक्ष हो लेकिन प्रासंगिकता उच्च बनी रहे।" उनका टूल आपको इन विकल्पों के बीच आसानी से स्लाइड करने की सुविधा देता है।
सीमा: यदि AI स्वयं अत्यधिक पक्षपाती है (जैसे कोई व्यक्ति जो दूसरे पक्ष को सुनने से इनकार कर देता है चाहे कुछ भी हो जाए), तो यह टूल केवल इतना ही कर सकता है। लेकिन अधिकांश मामलों में, यह तराजू को सफलतापूर्वक संतुलित करता है।

संक्षेप में, उन्होंने एक "फेयर लाइब्रेरियन" बनाया है जो जानता है कि शेल्फ पर किताबों को कैसे व्यवस्थित करना है ताकि AI एक संतुलित कहानी पढ़ सके।

तकनीकी सारांश: रिट्रीवल-ऑगमेंटेड जनरेशन के लिए निष्पक्षता-जागरूक रिट्रीवल अनुकूलन (Fairness-Aware Retrieval Optimization)

1. समस्या विवरण (Problem Statement)

रिट्रीवल-ऑगमेंटेड जनरेशन (RAG), बाहरी ज्ञान को शामिल करके लार्ज लैंग्वेज मॉडल्स (LLMs) को उन्नत करता है, फिर भी रिट्रीवल प्रक्रिया स्वयं वह पूर्वाग्रह (bias) पेश कर सकती है या उसे बढ़ा सकती है जो अंतिम जनरेटेड आउटपुट में प्रसारित होता है। जबकि मौजूदा शोध LLMs (प्रॉम्प्ट इंजीनियरिंग या फाइन-ट्यूनिंग के माध्यम से) में पूर्वाग्रह और रैंकिंग सिस्टम में निष्पक्षता (एक्सपोज़र बाधाओं के माध्यम से) को संबोधित करते हैं, ये डोमेन काफी हद तक अलग-अलग रहे हैं। एक महत्वपूर्ण अंतराल यह समझने में मौजूद है कि रिट्रीव किए गए दस्तावेज़ों से जनरेटेड आउटपुट में पूर्वाग्रह कैसे प्रसारित होता है, विशेष रूप से top-k RAG सेटिंग्स में जहाँ कई दस्तावेज़ संयुक्त रूप से जनरेशन को प्रभावित करते हैं।

वर्तमान दृष्टिकोण अक्सर ब्लैक-बॉक्स एम्बेडिंग मॉडल्स या फाइन-ट्यूनिंग पर निर्भर करते हैं, जो महंगे और सटीक नियंत्रण के लिए कठिन हैं। इसके अलावा, पूर्वाग्रह प्रसार (bias propagation) पर पिछला कार्य काफी हद तक top-1 सेटिंग्स तक सीमित रहा है, जो एक एकल दस्तावेज़ के पूर्वाग्रह और आउटपुट के बीच एक रैखिक संबंध मानता है। यह धारणा top-k रिट्रीवल में निहित जटिल, स्थिति-निर्भर अंतःक्रियाओं (position-dependent interactions) को पकड़ने में विफल रहती है, जहाँ विभिन्न रैंकों पर स्थित दस्तावेज़ LLM के जनरेशन पर अलग-अलग स्तर का प्रभाव डालते हैं। मुख्य चुनौती एक ऐसी रिट्रीवल रणनीति डिजाइन करने की है जो संदर्भ की गुणवत्ता से समझौता किए बिना प्रासंगिकता (relevance) और निष्पक्षता (fairness) (जनरेटेड आउटपुट्स में सांख्यिकीय समानता) के बीच संतुलन बनाए रखे।

2. कार्यप्रणाली (Methodology)

लेखक top-k RAG सिस्टम में निष्पक्षता-जागरूक रिट्रीवल अनुकूलन के लिए एक एकीकृत, तीन-चरणीय ढांचे का प्रस्ताव करते हैं।

चरण 1: रीरैंकिंग के माध्यम से नियंत्रित पूर्वाग्रह इंजेक्शन (Controlled Bias Injection via Reranking)

अंडरलाइंग रिट्रीवर को संशोधित करने या एम्बेडिंग मॉडल्स को फाइन-ट्यून करने के बजाय, यह ढांचा रिट्रीव किए गए दस्तावेज़ों के पूर्वाग्रह को नियंत्रित करने के लिए एक रीरैंकर-आधारित तंत्र का उपयोग करता है।

तंत्र: नॉलेज बेस को समूह-विशिष्ट उपसमूहों (जैसे, उदार बनाम रूढ़िवादी, पुरुष बनाम महिला) में विभाजित किया जाता है। एक दिए गए क्वेरी के लिए, कैंडिडेट दस्तावेज़ इन उपसमूहों से रिट्रीव किए जाते हैं।
नियंत्रण: एक संभाव्य (probabilistic) रीरैंकर दस्तावेज़ों को चुनता है और उन्हें एक पैरामीटर $m$ के आधार पर क्रमबद्ध करता है, जो एक विशिष्ट समूह से दस्तावेज़ चुनने की संभावना को निर्धारित करता है। यह बेस रिट्रीवल मॉडल को बदले बिना top- $k$ सूची में प्रत्येक स्थिति $p$ पर एम्बेडिंग बायस ( $E_b$ ) को सटीक रूप से हेरफेर करने की अनुमति देता है, जिसे $E_b^p$ के रूप में दर्शाया गया है।

चरण 2: स्थिति-जागरूक पूर्वाग्रह प्रसार मॉडलिंग (Position-Aware Bias Propagation Modeling)

यह ढांचा इस बात को मॉडल करता है कि रिट्रीव किए गए संदर्भ से अंतिम आउटपुट तक पूर्वाग्रह कैसे प्रसारित होता है।

रैखिक सन्निकटन (Linear Approximation): इस अवलोकन पर आधारित कि top-1 सेटिंग्स में पूर्वाग्रह प्रसार लगभग रैखिक होता है, लेखक इसे योगात्मकता (additivity) और सशर्त स्वतंत्रता (conditional independence) को मानते हुए top- $k$ के लिए विस्तारित करते हैं। सिस्टम-स्तरीय आउटपुट बायस ( $R_b$ ) को स्थिति-वार एम्बेडिंग बायस के भारित योग (weighted sum) के रूप में मॉडल किया जाता है:
$R_b = \sum_{p=1}^{k} w_p \cdot E_b^p + L_b + \epsilon$
जहाँ $w_p$ रैंक $p$ पर दस्तावेज़ के पूर्वाग्रह के प्रति संवेदनशीलता (भार) को दर्शाता है, $L_b$ जनरेटर का आंतरिक पूर्वाग्रह है, और $\epsilon$ एक अवशिष्ट पद (residual term) है।
अनुमान (Estimation): $w_p$ भारों का अनुमान नियंत्रित विक्षोभों (controlled perturbations) के माध्यम से लगाया जाता है। विभिन्न स्थितियों पर पूर्वाग्रह मानों को व्यवस्थित रूप से बदलकर और परिणामी आउटपुट बायस को मापकर, विभिन्न LLMs के विशिष्ट अटेंशन पैटर्न को कैप्चर करने के लिए एक लीनियर रिग्रेशन मॉडल फिट किया जाता है।

चरण 3: निष्पक्षता-जागरूक रिट्रीवल अनुकूलन (Fairness-Aware Retrieval Optimization - FARO)

अंतिम चरण प्रासंगिकता और निष्पक्षता को संतुलित करने के लिए रिट्रीवल को एक अनुकूलन समस्या के रूप में तैयार करता है।

उद्देश्य: कुल प्रासंगिकता को अधिकतम करना जबकि यह सुनिश्चित करना कि सिस्टम-स्तरीय बायस $|R_b|$ एक पूर्व-निर्धारित सहनशीलता $\tau$ के भीतर रहे।
चुनौती: एक सीधा फॉर्मूलेशन एक कॉम्बिनेटरियल समस्या की ओर ले जाता है जो कम्प्यूटेशनल रूप से महंगी है और सभी प्रश्नों को आपस में जोड़ देती है, जिससे पैरेललाइजेशन (parallelization) कठिन हो जाता है।
समाधान (FARO): लेखक क्वाड्रेटिक फेयरनेस वाया डुअल हाइपरप्लेन एप्रोक्सिमेशन (FARO) पेश करते हैं।
- वे हार्ड फेयरनेस कंस्ट्रेंट को एक सॉफ्ट ऑब्जेक्टिव में बदलने के लिए एक क्वाड्रेटिक पेनल्टी टर्म ( $-\lambda R_b^2$ ) का उपयोग करते हैं।
- Fenchel–Legendre dual representation का उपयोग करते हुए, क्वाड्रेटिक टर्म को $\theta$ (या $\mu$ ) द्वारा पैरामीटराइज्ड लीनियर सरोगेट्स के एक परिवार द्वारा अनुमानित किया जाता है।
- यह रूपांतरण वैश्विक, कपल्ड ऑप्टिमाइजेशन समस्या को स्वतंत्र प्रति-प्रश्न उप-समस्याओं (per-question subproblems) में विघटित करता है। प्रत्येक उप-समस्या एक मानक लीनियर असाइनमेंट समस्या है जिसे हंगेरियन एल्गोरिदम (Hungarian algorithm) के माध्यम से कुशलतापूर्वक हल किया जा सकता है।
- $\mu$ मानों के एक सेट को सूचीबद्ध करके, यह ढांचा समाधानों का एक 'पारेटो फ्रंटियर' (Pareto frontier) उत्पन्न करता है, जिससे अभ्यासकर्ताओं को प्रासंगिकता और निष्पक्षता के बीच इष्टतम ट्रेड-ऑफ चुनने की अनुमति मिलती है।

3. प्रमुख योगदान (Key Contributions)

नियंत्रित पूर्वाग्रह इंजेक्शन पाइपलाइन: एक रीरैंकर-आधारित दृष्टिकोण जो अंडरलाइंग रिट्रीवर को बदले बिना या महंगे फाइन-ट्यूनिंग की आवश्यकता के बिना रिट्रीव किए गए दस्तावेज़ों में एम्बेडिंग बायस को सटीक हेरफेर करने में सक्षम बनाता है।
स्थिति-जागरूक पूर्वाग्रह प्रसार मॉडल: एक लीनियर मॉडल जो यह कैप्चर करता है कि विभिन्न रिट्रीवल पोजीशन पर दस्तावेज़ top-k RAG सिस्टम में जनरेशन बायस को संयुक्त रूप से कैसे प्रभावित करते हैं, जो पिछले top-1 विश्लेषणों का विस्तार करता है।
स्केलेबल ऑप्टिमाइजेशन फ्रेमवर्क (FARO): एक अभिनव फॉर्मूलेशन जो वैश्विक रूप से कपल्ड फेयरनेस ऑप्टिमाइजेशन समस्या को स्वतंत्र उप-समस्याओं में बदल देता है, जिससे कुशल गणना और प्रासंगिकता-निष्पक्षता ट्रेड-ऑफ का लचीला अन्वेषण संभव होता है।
व्यापक मूल्यांकन: विभिन्न मॉडल्स (Llama, Gemma, Mistral, Qwen) और पूर्वाग्रह प्रकारों (राजनीतिक, लिंग) पर व्यापक प्रयोग जो लीनियर प्रोपेगेशन मॉडल और ऑप्टिमाइजेशन फ्रेमवर्क की प्रभावशीलता की पुष्टि करते हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

ढांचे का मूल्यांकन चार ओपन-सोर्स LLMs का उपयोग करके राजनीतिक और लिंग पूर्वाग्रह डेटासेट पर किया गया।

पूर्वाग्रह प्रसार सत्यापन: प्रयोगों ने पुष्टि की कि विभिन्न मॉडल्स और $k$ मानों (top-2, top-3, top-5) के बीच स्थिति-वार एम्बेडिंग बायस और आउटपुट बायस के बीच एक मजबूत रैखिक संबंध है। सीखे गए भार ( $w_p$ ) मॉडल-विशिष्ट अटेंशन पैटर्न को प्रकट करते हैं (जैसे, कुछ मॉडल शुरुआती स्थितियों को प्राथमिकता देते हैं, जबकि अन्य अटेंशन को अधिक समान रूप से वितरित करते हैं)।
अनुकूलन प्रदर्शन:
- प्रभावशीलता: FARO फ्रेमवर्क ने जनरेशन बायस को प्रभावी ढंग से कम किया, जिससे आउटपुट बायस स्कोर शून्य के करीब पहुँच गया, जबकि प्रतिस्पर्धी प्रासंगिकता बनाए रखी।
- स्केलेबिलिटी: एक लीनियर प्रोग्रामिंग (LP) बेसलाइन की तुलना में, FARO बेहतर स्केलेबिलिटी प्रदर्शित करता है, विशेष रूप से जैसे-जैसे दस्तावेज़ों और प्रश्नों की संख्या बढ़ती है। जबकि LP का प्रदर्शन बड़े $k$ के साथ घटता गया, FARO ने समस्या को विघटित करके दक्षता बनाए रखी।
- लचीलापन: FARO कई कैंडिडेट समाधान उत्पन्न कर सकता था, जिससे प्रासंगिकता-निष्पक्षता फ्रंटियर के साथ गतिशील समायोजन संभव हुआ।
देखे गए सीमाएँ: पूर्वाग्रह न्यूनीकरण की प्रभावशीलता अंतर्निहित LLM के आंतरिक पूर्वाग्रह पर निर्भर पाई गई। जिन मॉडल्स में मजबूत अंतर्निहित पूर्वाग्रह (जैसे, Qwen) थे, उनमें सुधार सीमित था, क्योंकि केवल रिट्रीवल ही व्यवस्थित ऑफसेट को पूरी तरह से ठीक नहीं कर सका। इसके अतिरिक्त, लिंग पूर्वाग्रह सेटिंग्स में, जहाँ नॉलेज बेस असंतुलित था, निष्पक्षता और प्रासंगिकता के बीच का ट्रेड-ऑफ अधिक स्पष्ट था।

5. महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि यह RAG सिस्टम में निष्पक्षता-जागरूक रिट्रीवल के लिए एक सिद्धांतिक और स्केलेबल दृष्टिकोण प्रदान करता है। इसका महत्व निम्नलिखित में निहित है:

रिट्रीवल से बायस कंट्रोल को अलग करना: एक हल्का पोस्ट-प्रोसेसिंग तंत्र प्रदान करना जिसके लिए रिट्रीवल मॉडल्स को फिर से प्रशिक्षित करने की आवश्यकता नहीं है।
अंतराल को भरना: यह स्पष्ट रूप से मॉडल करना कि रैंकिंग निर्णय डाउनस्ट्रीम टेक्स्ट जनरेशन को कैसे प्रभावित करते हैं, जिससे LLM बायस और फेयरनेस-अवेयर रैंकिंग के क्षेत्रों को जोड़ा जा सके।
व्यावहारिक प्रयोज्यता: एक समाधान (FARO) प्रदान करना जो ऑप्टिमाइजेशन की सैद्धांतिक कठोरता को वास्तविक दुनिया के RAG अनुप्रयोगों के कम्प्यूटेशनल बाधाओं के साथ संतुलित करता है।

लेखक निष्कर्ष निकालते हैं कि हालांकि उनका लीनियर मॉडल और बाइनरी फेयरनेस परिभाषा सरलीकरण हैं, फिर भी वे मल्टी-डॉक्यूमेंट RAG पाइपलाइनों में पूर्वाग्रह को नियंत्रित करने के लिए एक मजबूत आधार प्रदान करते हैं। वे स्वीकार करते हैं कि गैर-रैखिक अंतःक्रियाओं, बहु-समूह निष्पक्षता और परिवर्तनशील प्रश्न वितरणों के लिए अनुकूल रणनीतियों हेतु भविष्य के कार्य की आवश्यकता है।