तकनीकी सारांश: निष्कर्षण पाठ सारांशीकरण में पूर्वाग्रह का पता लगाना और शमन (BiasZero/Fair-SUM)

1. समस्या विवरण

स्वचालित पाठ सारांशीकरण प्रणाली, विशेष रूप से समाचार एकत्रीकरण और निर्णय-सहायता के संदर्भों में, स्रोत डेटा में मौजूद मौजूदा सामाजिक, राजनीतिक और सांस्कृतिक पूर्वाग्रहों को बढ़ाने की एक गंभीर चुनौती का सामना करती है। जबकि पारंपरिक निष्कर्षण (extractive) और अमूर्त (abstractive) प्रणालियाँ प्रासंगिकता, प्रवाह और संपीड़न (compression) के लिए अनुकूलित होती हैं, वे अक्सर निष्पक्षता की उपेक्षा करती हैं। इससे ऐसे सारांश बनते हैं जो असमान रूप से बहुसंख्यक दृष्टिकोणों का प्रतिनिधित्व करते हैं, रूढ़ियों को पुख्ता करते हैं, और अल्पसंख्यक दृष्टिकोणों को अस्पष्ट कर देते हैं।

यह शोध पत्र सारांशीकरण में पूर्वाग्रह के तीन प्राथमिक रूपों की पहचान करता है:

• लेक्सिकल पूर्वाग्रह (Lexical Bias): शब्दों का रूढ़ियों के साथ अनुचित जुड़ाव।
• चयन पूर्वाग्रह (Selection Bias): अन्य दृष्टिकोणों के ऊपर प्रमुख दृष्टिकोणों का पसंदीदा चयन।
• फ्रेमिंग पूर्वाग्रह (Framing Bias): विशिष्ट दृष्टिकोणों का पक्ष लेने वाले कथात्मक ढांचे (narrative frameworks) की स्थापना।

वर्तमान प्रणालियों में ऐसे एकीकृत ढांचे का अभाव है जो पूर्वाग्रह का पता लगाने, शमन करने और वाक्य रैंकिंग को एक साथ एकीकृत कर सके। इसके अलावा, मानकीकृत निष्पक्षता मेट्रिक्स की अनुपस्थिति यह आकलन करना कठिन बनाती है कि क्या एक सारांशीकरण प्रणाली अनजाने में सामाजिक अंतराल को गहरा कर रही है।

2. कार्यप्रणाली: BiasZero (Fair-SUM) ढांचा

लेखक BiasZero (जिसे प्रायोगिक खंड में Fair-SUM कहा गया है) का प्रस्ताव करते हैं, जो एक निष्पक्षता-जागरूक निष्कर्षण सारांशीकरण ढांचा है। यह प्रणाली ऐसे वाक्यों का चयन करने के लिए डिज़ाइन की गई है जो सूचनात्मक और न्यायसंगत दोनों हों, जिससे सारांशीकरण प्रक्रिया के दौरान पूर्वाग्रह के प्रसार को रोका जा सके।

2.1 सिस्टम आर्किटेक्चर

यह ढांचा चार मुख्य चरणों के माध्यम से संचालित होता है:

1. इनपुट सामान्यीकरण (Input Normalization): पाठ को वाक्यों में विभाजित किया जाता है। यह प्रणाली लिखित पाठ और दृश्य-श्रव्य (audio-visual) सामग्री को संसाधित करने में सक्षम है, जो बाद के प्रसंस्करण के लिए एक मानक विधि स्थापित करने हेतु ऑटोमैटिक स्पीच रिकग्निशन (ASR) के माध्यम से दृश्य-श्रव्य सामग्री को पाठ में परिवर्तित करती है।
2. साझा सिमेंटिक एनकोडिंग (Shared Semantic Encoding): एक साझा ट्रांसफार्मर-आधारित एनकोडर (जैसे BERT, RoBERTa, DistilBERT) संदर्भ-युक्त वाक्य एम्बेडिंग उत्पन्न करता है।
3. समानांतर पूर्वाग्रह और प्रासंगिकता अनुमान: एनकोडर दो समानांतर हेड्स (heads) में फीड होता है:
   • प्रासंगिकता स्कोरिंग हेड (Relevance Scoring Head): सारांश के लिए एक वाक्य के महत्व का अनुमान लगाता है।
   • समानांतर पूर्वाग्रह वर्गीकरण हेड्स (Parallel Bias Classification Heads): चार आयामों में पूर्वाग्रह का पता लगाते हैं: लिंग, राजनीतिक, सांस्कृतिक और रूढ़िवादी पूर्वाग्रह।
4. निष्पक्षता-जागरूक वाक्य चयन (Fairness-Aware Sentence Selection): एक री-रैंकिंग तंत्र अंतिम सारांश उत्पन्न करने के लिए प्रासंगिकता और पूर्वाग्रह स्कोर को संयुक्त रूप से अनुकूलित करता है।

2.2 पूर्वाग्रह का पता लगाना और स्कोरिंग

प्रणाली बहु-आयामी पूर्वाग्रह का पता लगाने के लिए उपयोग करती है। प्रत्येक वाक्य $i$ को $K$ आयामों में पूर्वाग्रह स्कोर $b_{ik}$ का एक सेट प्राप्त होता है। इन स्कोर्स को सामान्यीकृत किया जाता है और एक मिश्रित पूर्वाग्रह स्कोर $B_i$ में एकत्रित किया जाता है:
$$B_i = \sum_{k=1}^{K} w_k \hat{b}_{ik}$$
जहाँ $w_k$ प्रत्येक पूर्वाग्रह आयाम के लिए भार (weight) को दर्शाता है और $\hat{b}_{ik}$ सामान्यीकृत तीव्रता है। यह निरंतर स्कोरिंग कठोर बहिष्कार के बजाय सूक्ष्म समझौतों (trade-offs) की अनुमति देती है।

2.3 शमन रणनीतियाँ (Mitigation Strategies)

ढांचा प्रशिक्षण और अनुमान (inference) के दौरान तीन अलग-अलग रणनीतियों का उपयोग करता है:

• प्रशिक्षण-समय शमन (Training-Time Mitigation):

  • काउंटरफैक्टुअल डेटा ऑग्मेंटेशन (CDA): संवेदनशील विशेषताओं (जैसे लिंग संकेतक) को बदलते हुए वाक्य रूपांतरण उत्पन्न करता है, जबकि अर्थ को सुरक्षित रखता है, जिससे मॉडल पूर्वाग्रही सहसंबंधों के बजाय प्रासंगिक तत्वों से सीख पाता है।
  • इंस्टेंस रीवेटिंग (Instance Reweighting): पूर्वाग्रही प्रशिक्षण उदाहरणों को कम भार देता है ताकि सीखने की प्रक्रिया पर उनके प्रभाव को कम किया जा सके।
  • एडवर्सरियल डिबायसिंग (Adversarial Debiasing): एक एडवर्सरियल लॉस ($L_{adv}$) का उपयोग करता है ताकि एनकोडर संवेदनशील विशेषताओं को सीखने से रोका जा सके, जिससे पूर्वाग्रह-अपरिवर्तनीय (bias-invariant) निरूपण को बढ़ावा मिलता है।
  • नोट: जबकि शोध पत्र निष्पक्षता हानि (Fairness Loss) और जनसांख्यिकीय समानता (Demographic Parity) बाधाओं के लिए गणितीय सूत्र प्रदान करता है, मुख्य परिचालन शमन घटक स्पष्ट रूप से CDA, इंस्टेंस रीवेटिंग और एडवर्सरियल डिबायसिंग के रूप में सूचीबद्ध हैं।

• अनुमान-समय शमन (Inference-Time Mitigation):

  • निष्पक्षता-जागरूक रैंकिंग (Fairness-Aware Ranking): अनुमान के दौरान, वाक्यों को एक संयुक्त उद्देश्य का उपयोग करके स्कोर किया जाता है जो पूर्वाग्रह को दंडित करता है:
    $$Score_i = R_i - \lambda B_i$$
    जहाँ $R_i$ प्रासंगिकता स्कोर है और $B_i$ मिश्रित पूर्वाग्रह स्कोर है।
  • मैक्सिमम मार्जिनल रिलेवेंस (MMR): अंतिम वाक्यों के सेट को चुनने के लिए उपयोग किया जाता है, जो निष्पक्षता बाधाओं का पालन करते हुए विविधता सुनिश्चित करता है और पुनरावृत्ति को कम करता है।

3. प्रमुख योगदान

• एकीकृत ढांचा: शोध पत्र एक मॉड्यूलर ढांचे को प्रस्तुत करता है जो बहु-आयामी पूर्वाग्रह का पता लगाने को सीधे वाक्य रैंकिंग प्रक्रिया में एकीकृत करता है, जो केवल पोस्ट-हॉक फ़िल्टरिंग से आगे बढ़ता है।
• बहु-कार्य शिक्षण (Multi-Task Learning): प्रासंगिकता और कई पूर्वाग्रह प्रकारों के लिए समानांतर हेड्स के साथ एक साझा एनकोडर का उपयोग करके, प्रणाली स्पष्ट रूप से कार्य-से-कार्य अंतःक्रियाओं को सीखती है, जिससे एकल वाक्यों के भीतर प्रतिच्छेदी पूर्वाग्रहों का पता लगाने में सक्षम होती है।
• व्यापक शमन: दृष्टिकोण एनकोडिंग और निष्कर्षण दोनों चरणों में पूर्वाग्रह को संबोधित करते हुए, प्रतिनिधित्व-स्तर के शिक्षण (CDA, एडवर्सरियल डिबायसिंग) को चयन-स्तर के नियंत्रण (निष्पक्षता-जागरूक री-रैंकिंग) के साथ जोड़ता है।
• स्केलेबिलिटी: शमन मुख्य रूप से प्रशिक्षण के दौरान लागू किया जाता है, जिससे अनुमान के दौरान न्यूनतम कम्प्यूटेशनल ओवरहेड सुनिश्चित होता है।

4. प्रयोगात्मक परिणाम

ढांचे का मूल्यांकन सामान्य सारांशीकरण कॉर्पोरा (CNN/DailyMail, XSum) और पूर्वाग्रह-एनोटेटेड डेटासेट (WinoBias, StereoSet, राजनीतिक पूर्वाग्रह डेटासेट) पर किया गया था।

4.1 पूर्वाग्रह का पता लगाने का प्रदर्शन

समर्पित ट्रांसफार्मर-आधारित क्लासिफायर ने पूर्वाग्रह श्रेणियों में उच्च प्रदर्शन हासिल किया:

• रूढ़िवादी पूर्वाग्रह (Stereotype Bias): 98.30% सटीकता, 0.9843 AUC।
• लिंग पूर्वाग्रह (Gender Bias): 88.43% सटीकता, 0.9512 AUC।
• राजनीतिक पूर्वाग्रह (Political Bias): 87.00% सटीकता, 0.9156 AUC।
• सांस्कृतिक पूर्वाग्रह (Cultural Bias): 82.09% सटीकता, 0.9445 AUC।
  उच्च AUC स्कोर इंगate करते हैं कि क्लासिफायर पूर्वाग्रही बनाम गैर-पूर्ग्रही मामलों को प्रभावी ढंग से रैंक कर सकते हैं, जो शमन के लिए एक विश्वसनीय आधार प्रदान करते हैं।

4.2 सारांशीकरण गुणवत्ता बनाम निष्पक्षता

प्रस्तावित Fair-SUM मॉडल की तुलना TextRank, BERT-Extractive, और NEUS-TITLE जैसे बेसलाइन से की गई।

• गुणवत्ता: Fair-SUM ने प्रतिस्पर्धी सारांशीकरण गुणवत्ता बनाए रखी, बेसलाइन NEUS-TITLE के 0.4023 के ROUGE-L स्कोर की तुलना में 0.3998 का स्कोर प्राप्त किया। यह 1% से कम की गिरावट को दर्शाता है, जो यह सिद्ध करता है कि पूर्वाग्रह शमन सूचनात्मकता से महत्वपूर्ण समझौता नहीं करता है।
• पूर्वाग्रह में कमी: Fair-SUM ने समग्र पूर्वाग्रह स्कोर में 39.97% की कमी (0.4721 से 0.2834 तक) हासिल की।
  • लिंग पूर्वाग्रह में 44.88% की कमी आई।
  • राजनीतिक पूर्वाग्रह में 37.21% की कमी आई।
  • सांस्कृतिक पूर्वाग्रह में 39.76% की कमी आई।
  • रूढ़िवादी पूर्वाग्रह में 39.14% की कमी आई।
• पूर्वाग्रह प्रवर्धन दर (Bias Amplification Rate - BAR): जबकि बेसलाइन सिस्टम ने पूर्वाग्रह को बढ़ाया (+0.1834), Fair-SUM ने नकारात्मक BAR (-0.0412) प्राप्त किया, जो यह दर्शाता है कि यह केवल फ़िल्टर करने के बजाय संपीड़न के दौरान सक्रिय रूप से पूर्वाग्रह को कम करता है।

4.3 एब्लेशन अध्ययन (Ablation Study)

अध्ययन ने पुष्टि की कि निष्पक्षता-जागरूक री-रैंकिंग पूर्वाग्रह में कमी का प्रमुख चालक है। री-रैंकिंग को हटाने से पूर्वाग्रह स्कोर बढ़कर 0.3892 हो गया और BAR सकारात्मक (+0.1145) हो गया। हालांकि प्रतिनिधित्व-स्तर के तरीकों (CDA, एडवर्सरियल लॉस) ने निष्पक्षता में योगदान दिया, लेकिन वे चयन-स्तर के नियंत्रण के बिना अपर्याप्त थे।

5. महत्व और दावे

शोध पत्र दावा करता है कि BiasZero/Fair-SUM सफलतापूर्वक निष्कर्षण सारांशीकरण को एक ऐसी प्रक्रिया में बदल देता है जो अक्सर पूर्वाग्रह को बढ़ाती है, उसे सक्रिय रूप से कम करने में सक्षम बनाता है। प्राथमिक महत्व इस बात को प्रदर्शित करने में है कि निष्पक्षता और उपयोगिता परस्पर अनन्य (mutually exclusive) नहीं हैं; सिस्टम (ROUGE पर नगण्य प्रभाव के साथ) महत्वपूर्ण पूर्वाग्रह कमी (श्रेणियों में 40% तक) प्राप्त करता है।

लेखक इस बात पर जोर देते हैं कि ढांचा निष्कर्षण सारांशीकरण में निहित "चयन समस्या" को संबोधित करता है, जहाँ प्रासंगिकता-आधारित स्कोरिंग स्वाभाविक रूप से भावनात्मक रूप से आवेशित या प्रमुख दृष्टिकोणों का पक्ष लेती है। रैंकिंग उद्देश्य में निष्पक्षता बाधाओं को सीधे एकीकृत करके, प्रणाली यह सुनिश्चित करती है कि सारांश तथ्यात्मक सटीकता से समझौता किए बिना सामग्री का अधिक संतुलित प्रतिनिधित्व प्रदान करें।

शोध पत्र एक मामूली सीमा के साथ समाप्त होता है, जिसमें उल्लेख किया गया है कि प्रणाली निष्कर्षण (extractive) है (नया संदर्भ जोड़ नहीं सकती), पूर्वाग्रह एनोटेशन की गुणवत्ता पर निर्भर है, और अंतर्निहित सांस्कृतिक पूर्वाग्रहों के साथ चुनौतियां पेश करती है। फिर भी, यह अमूर्त निष्पक्षता (abstractive fairness) और प्रतिच्छेदी पूर्वाग्रह मॉडलिंग के लिए एक स्केलेबल, मॉड्यूलर आधार स्थापित करता है।