From Fragments to Facts: A Curriculum-Driven DPO Approach for Generating Hindi News Veracity Explanations

यहाँ शोध पत्र "From Fragments to Facts: A Curriculum-Driven DPO Approach for Generating Hindi News Veracity Explanations" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र हिंदी में भ्रामक सूचना का पता लगाने और स्पष्टीकरण उत्पन्न करने की महत्वपूर्ण चुनौती को संबोधित करता है, जो 60 करोड़ से अधिक वक्ताओं वाली एक कम-संसाधन वाली (low-resource) भाषा है। अंग्रेजी जैसी उच्च-संसाधन वाली भाषाओं के पास उन्नत स्वचालित तथ्य-जांच उपकरण हैं, लेकिन हिंदी में मजबूत और स्केलेबल समाधानों का अभाव है। मौजूदा लार्ज लैंग्वेज मॉडल्स (LLMs) निम्नलिखित चुनौतियों से जूझते हैं:

• तथ्यात्मक सटीकता (Factual Accuracy): ऐसे स्पष्टीकरण उत्पन्न करना जो केवल कल्पना (hallucination) न होकर तथ्यों पर आधारित हों।
• संदर्भगत प्रासंगिकता (Contextual Relevance): हिंदी समाचारों की बारीकियों के विशिष्ट और सुसंगत तर्क प्रदान करना।
• संरेखण (Alignment): ऐसे स्पष्टीकरण तैयार करना जो मानवीय तर्क पैटर्न से मेल खाते हों, विशेष रूप से "सूचनात्मक" सत्य समाचार स्पष्टीकरण और "तर्कपूर्ण" फर्जी समाचार स्पष्टीकरण के बीच के अंतर को समझना।

मौग्रिक विधियाँ अक्सर उच्च-गुणवत्ता वाले, तथ्य-जांच किए गए डेटासेट की कमी और विश्वसनीय बनाम अविश्वसनीय स्पष्टीकरणों के बीच सूक्ष्म अंतर करने में मानक मॉडलों की अक्षमता के कारण विफल हो जाती हैं।

2. कार्यप्रणाली: DeFactoX फ्रेमवर्क

लेखक DeFactoX का प्रस्ताव करते हैं, जो एक एकीकृत फ्रेमवर्क है जो करिकुलम लर्निंग (Curriculum Learning) को उन्नत डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन (DPO) दृष्टिकोण के साथ एकीकृत करता है। यह कार्यप्रणाली चार प्रमुख चरणों से बनी है:

A. सिंथेटिक प्रेफरेंस डेटासेट निर्माण

डेटा की कमी को दूर करने के लिए, लेखकों ने एक सिंथेटिक रैंकिंग-आधारित डेटासेट बनाया:

• पसंदीदा प्रतिक्रियाएँ ($y_w$): विश्वसनीय तथ्य-जांच वेबसाइटों (जैसे OneIndia, Vishvas News) से मानव-लिखित स्पष्टीकरण। लेखकों ने नोट किया कि सत्य समाचारों के लिए मानवीय स्पष्टीकरण अक्सर विशुद्ध रूप से सूचनात्मक थे, जबकि फर्जी समाचारों के स्पष्टीकरण स्पष्ट और तर्कपूर्ण थे। उन्होंने सत्य समाचार स्पष्टीकरणों को प्रॉम्प्ट्स के माध्यम से मानकीकृत किया ताकि वे सत्यता की पुष्टि स्पष्ट रूप से कर सकें, जिससे एक समान संरचना सुनिश्चित हो सके।
• अस्वीकृत प्रतिक्रियाएँ ($y_l$): अत्याधुनिक LLMs (GPT-4o-mini, Mistral-7B, Gemini-1.5-Flash) द्वारा बिना फाइन-ट्यूनिंग के सरल प्रॉम्प्ट्स का उपयोग करके उत्पन्न किए गए स्पष्टीकरण। इन्हें जानबूझकर सामान्य LLM कमजोरियों (सतही तर्क, पूर्वाग्रह, गहराई की कमी) को प्रदर्शित करने के लिए छोड़ा गया ताकि वे नकारात्मक प्रशिक्षण उदाहरणों के रूप में कार्य कर सकें।
• अनुपात: पसंदीदा और अस्वीकृत स्पष्टीकरणों का संतुलित 1:3 अनुपात।

B. करिकुलम लर्निंग रणनीति (Curriculum Learning Strategy)

यह फ्रेमवर्क क्रमिक रूप से मॉडल को प्रशिक्षित करने के लिए करिकुलम लर्निंग दृष्टिकोण का उपयोग करता है:

• स्कोरिंग फंक्शन ($f_s$): अस्वीकृत स्पष्टीकरणों को BERTScore, ROUGE-L, और METEOR के भारित संयोजन के आधार पर ग्राउंड ट्रुथ (ground truth) के साथ संरेखण के लिए स्कोर किया जाता है।
• रैंकिंग: स्पष्टीकरणों को तीन कठिनाई स्तरों में विभाजित किया गया है:
  • Rank-0 (आसान): मानवीय तर्क से स्पष्ट रूप से भिन्न।
  • Rank-1 (मध्यम): आंशिक रूप से संरेखित।
  • Rank-2 (कठिन): सूक्ष्म रूप से भिन्न, जिसके लिए सूक्ष्म अंतर की आवश्यकता होती है।
• प्रशिक्षण प्रवाह: मॉडल को Rank-0 से Rank-2 तक क्रमिक रूप से प्रशिक्षित किया जाता है, जिससे यह जटिल बारीकियों को समझने से पहले बुनियादी अंतरों को सीख सके।

C. Hin-DPO: उन्नत लॉस फंक्शन (Enhanced Loss Function)

मुख्य नवाचार Hin-DPO है, जो एक संशोधित DPO लॉस फंक्शन है जो तथ्यात्मक विश्वसनीयता और स्थिरता को संबोधित करने के लिए दो नवीन मापदंडों को शामिल करता है:

1. वास्तविकता (Actuality - $s$): एक स्कोर जो तथ्यात्मक शुद्धता को मापता है।
   • गणना: बाहरी ज्ञान के विरुद्ध स्पष्टीकरण से तथ्यात्मक कथनों को निकालने और उन्हें सत्यापित करने के लिए वेब सर्च टूल्स के साथ GPT-4o-mini का उपयोग करता है।
   • भूमिका: यह एक रिवॉर्ड सिग्नल के रूप में कार्य करता है। लॉस फंक्शन उच्च 'वास्तविकता' स्कोर वाली पसंदीदा प्रतिक्रियाओं की संभावना को बढ़ाता है ($1 + s_w$) और कम स्कोर वाली अस्वीकृत प्रतिक्रियाओं को दंडित करता है।
2. सुघड़ता (Finesse - $v$): एक स्कोर जो अस्थिरता के माध्यम से मतिभ्रम (hallucination) को मापता है।
   • गणना: एक ही इनपुट के कई स्टोकेस्टिक जनरेशन (5 रन) के माध्यम से मॉडल के आउटपुट प्रोबेबिलिटी डिस्ट्रीब्यूशन के विचलन (variance) को मापता है। उच्च विचलन अनिश्चितता और संभावित मतिभ्रम का संकेत देता है।
   • भूमिका: यह हर (denominator) में एक स्केलिंग फैक्टर के रूप में कार्य करता है। कम विचलन (उच्च स्थिरता) वाले स्पष्टीकरणों को उच्च प्राथमिकता भार प्राप्त होता है, जबकि अस्थिर आउटपुट को कम भार दिया जाता है।

लॉस फंक्शन:
$$\mathcal{L}_{Hin-DPO} = -\mathbb{E}_{(x, y_w, y_l) \sim \mathcal{D}} \left[ \log \sigma \left( \frac{\beta}{v + \epsilon} \left[ (1 + s_w) \log \frac{\pi_\theta(y_w|x)}{\pi_{ref}(y_w|x)} - \max(0.01, s_l) \log \frac{\pi_\theta(y_l|x)}{\pi_{ref}(y_l|x)} \right] \right) \right]$$

3. मुख्य योगदान

1. DeFactoX फ्रेमवर्क: हिंदी में स्वचालित, सत्यता-संचालित स्पष्टीकरण पीढ़ी के लिए विशेष रूप से डिज़ाइन किया गया पहला फ्रेमवर्क।
2. Hin-DPO लॉस फंक्शन: DPO में वास्तविकता (Actuality) और सुघड़ता (Finesse) मापदंडों को शामिल करता है, जो स्पष्ट रूप से तथ्यात्मक सटीकता और पीढ़ी स्थिरता (मतिभ्रम को कम करना) के लिए अनुकूलित करता है।
3. करिकुलम-संचालित प्रशिक्षण: स्पष्टीकरण की कठिनाई स्तरों पर मॉडल को क्रमिक रूप से प्रशिक्षित करने की प्रभावकारिता को प्रदर्शित करता है, जिससे सामान्यीकरण (generalization) में सुधार होता है।
4. सिंथेटिक प्रेफरेंस डेटासेट: एक उच्च-गुणवत्ता वाला, रैंकिंग-आधारित डेटासेट बनाया गया जहाँ मानव-जांच किए गए स्पष्टीकरण स्वर्ण मानक (gold standards) के रूप में कार्य करते हैं, और LLM आउटपुट नकारात्मक उदाहरणों के रूप में कार्य करते हैं, जो हिंदी के लिए डेटा अंतराल को पाटते हैं।

4. प्रयोगात्मक परिणाम

फ्रेमवर्क का मूल्यांकन पाँच मॉडलों पर किया गया: mBART, mT5, Gemma-2-9B, Llama-3.1-8B, और Mistral-7B।

• स्वचालित मेट्रिक्स: Hin-DPO ने ROUGE-1/2/L, METEOR, और BERTScore पर बेसलाइन (Base, Base+SFT, standard DPO) को लगातार पछाड़ दिया।
  • उदाहरण: Llama-3.1-8B पर, Hin-DPO ने स्टैंडर्ड DPO के 80.98 की तुलना में 84.73 का BERTScore प्राप्त किया।
  • सत्यता भविष्यवाणी (Veracity Prediction): Hin-DPO ने वर्गीकरण सटीकता में भी सुधार किया, Llama-3.1-8B पर 81.2% तक पहुँच गया।
• मानवीय मूल्यांकन: 800 स्पष्टीकरणों को मानव परीक्षकों द्वारा 0–5 के पैमाने पर रेट किया गया (तथ्यात्मक सटीकता, तर्क संरेखण, पूर्णता, अभिव्यक्ति)।
  • Hin-DPO ने उच्चतम स्कोर (Llama-3.1-8B के लिए 4.23 और Gemma-2-9B के लिए 4.12) प्राप्त किया, जो स्टैंडर्ड DPO और SFT बेसलाइन से काफी बेहतर है।
• एब्लेशन अध्ययन (Ablation Study): करिकुलम लर्निंग या व्यक्तिगत घटकों (Actuality/Finesse) को हटाने से प्रदर्शन में गिरावट आई, जिससे पुष्टि हुई कि इष्टतम परिणामों के लिए सभी घटक आवश्यक हैं।

5. महत्व और प्रभाव

• भाषाई अंतर को पाटना: यह कार्य एक स्केलेबल कार्यप्रणाली प्रदान करता है, जो दर्शाता है कि कैसे सिंथेटिक डेटा को उन्नत संरेखण तकनीकों के साथ जोड़कर कम-संसाधन वाली भाषाओं के डेटा की कमी को दूर किया जा सकता है।
• विश्वसनीय AI: मतिभ्रम (Finesse के माध्यम से) को स्पष्ट रूप से दंडित करके और तथ्यात्मक शुद्धता (Actuality के माध्यम से) को पुरस्कृत करके, यह फ्रेमवर्क ऐसे स्पष्टीकरण उत्पन्न करता है जो न केवल प्रवाहपूर्ण हैं बल्कि विश्वसनीय भी हैं।
• व्यावहारिक अनुप्रयोग: इस प्रणाली को मीडिया हाउसों और तथ्य-जांचकर्ताओं द्वारा भ्रामक विमर्शों का पता लगाने और उपयोगकर्ताओं को संदर्भगत रूप से सटीक, मानव-संरेखित स्पष्टीकरण प्रदान करने के लिए तैनात किया जा सकता है, जिससे हिंदी भाषी क्षेत्रों में गलत सूचना के सामाजिक प्रभाव को कम किया जा सकता है।
• भविकी अनुकूलन क्षमता: इसका डेटा संवर्धन और करिकुलम-संचालित डिज़ाइन अन्य अल्प-प्रतिनिधित्व वाली भाषाओं के लिए समान प्रणालियों को अपनाने हेतु एक ब्लूप्रिंट प्रदान करता है।

सीमाएँ

• डेटा निर्भरता: उच्च-गुणवत्ता वाले तथ्य-जांच किए गए हिंदी डेटा की उपलब्धता पर निर्भरता डोमेन कवरेज को सीमित करती है।
• कंप्यूटेशनल लागत: Finesse स्कोर की गणना के लिए प्रत्येक इनपुट के कई जनरेशन की आवश्यकता होती है, जिससे इन्फरेंस समय बढ़ जाता है।
• मॉडल का आकार: कंप्यूटेशनल बाधाओं के कारण प्रयोग 10B पैरामीटर्स से कम के मॉडलों तक सीमित थे।
• बाहरी पूर्वाग्रह: Actuality स्कोर बाहरी LLMs (GPT-4o) पर निर्भर करता है, जो अपने स्वयं के पूर्वाग्रह या अशुद्धियाँ ला सकते हैं।