Do Deployment Constraints Make LLMs Hallucinate Citations? An Empirical Study across Four Models and Five Prompting Regimes

यहाँ शोध पत्र "Do Deployment Constraints Make LLMs Hallucinate Citations? An Empirical Study across Four Models and Five Prompting Regimes" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या का विवरण (Problem Statement)

सॉफ्टवेयर इंजीनियरिंग (SE) में अकादमिक पाठ तैयार करने और साक्ष्य संश्लेषण (evidence synthesis) के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग तेजी से बढ़ रहा है। हालाँकि, वे अक्सर साइटेशन हैलुसिनेशन (citation hallucination) से ग्रस्त होते हैं: यानी ऐसे ग्रंथ सूची संदर्भ (bibliographic references) उत्पन्न करना जो संरचनात्मक रूप से पूर्ण (लेखक, वेन्यू, DOI और वर्ष के साथ) दिखाई देते हैं, लेकिन वास्तव में अस्तित्वहीन कार्यों के होते हैं।

जबकि पूर्व शोधों ने यह स्थापित किया है कि हैलुसिनेशन होता है, यह स्पष्ट नहीं है कि वास्तविक दुनिया के परिनियोजन प्रतिबंध (deployment constraints) साइटेशन की सत्यापन योग्यता (verifiability) को कैसे प्रभावित करते हैं। विशेष रूप से, यह अध्ययन जांच करता है कि निम्नलिखित प्रतिबंध "क्लोज्ड-बुक" सेटिंग (बिना बाहरी रिट्रीवल के) में उत्पन्न साइटेशन की विश्वसनीयता को कैसे प्रभावित करते हैं:

• टेम्पोरल प्रतिबंध (Temporal constraints): प्रकाशन के एक विशिष्ट वर्ष अंतराल तक साइटेशन को सीमित करना।
• सर्वे-शैली की व्यापकता (Survey-style breadth): कई श्रेणियों में साहित्य के संश्लेषण की आवश्यकता होना।
• गैर-प्रकटीकरण नीतियां (Non-Disclosure policies): मॉडल को अपने प्रशिक्षित डेटा (memorized training data) तक पहुंच का दावा न करने का निर्देश देना।

2. कार्यप्रणाली (Methodology)

प्रयोगात्मक डिजाइन (Experimental Design)

• मूल्यांकित मॉडल (Models Evaluated):
  • प्रोप्रायटरी (Proprietary): क्लॉड सोनेट (Claude Sonnet - Anthropic) और GPT-4o (OpenAI)।
  • ओपन-वेट (Open-Weight): LLaMA 3.1–8B (Meta) और Qwen 2.5–14B (Alibaba)।
• डेटासेट: छह अकादमिक डोमेन का एक क्यूरेटेड सेट जिसमें 144 दावे (claims) शामिल हैं, जिनमें से 24 विशेष रूप से सॉफ्टवेयर इंजीनियरिंग और कंप्यूटर साइंस (SE & CS) के क्षेत्र से हैं।
• प्रॉम्प्टिंग रिजीम (5 स्थितियाँ):
  1. बेसलाइन (Baseline): मानक अकादमिक पैराग्राफ जिसमें 5 साइटेशन हैं।
  2. टेम्पोरल (Temporal): 5 साइटेशन जो एक विशिष्ट 5-वर्षीय विंडो (2025 तक) तक सीमित हैं।
  3. सर्वे (Survey): 3–4 दृष्टिकोण श्रेणियों में व्यवस्थित 8 साइटेशन (साहित्य समीक्षा की व्यापकता का अनुकरण)।
  4. नॉन-डिस्क्लोजर (Non-Disclosure): 5 साइटेशन के साथ प्रशिक्षण डेटा तक पहुंच का दावा करने से बचने के निर्देश।
  5. कॉम्बो (Combo): तीनों प्रतिबंधों (Temporal + Survey + Non-Disclosure) का संयोजन जिसमें 8 साइटेशन हैं।
• कुल रन: 2,880 रन, जिनसे 17,443 व्यक्तिगत साइटेशन उत्पन्न हुए। सभी मॉडल्स ने डिटरमिनिस्टिक डिकोडिंग (temperature = 0) का उपयोग किया।

सत्यापन पाइपलाइन (Verification Pipeline)

लेखकों ने साइटेशन को Crossref और Semantic Scholar के विरुद्ध सत्यापित करने के लिए एक स्वचालित, डिटरमिनिस्टिक पाइपलाइन विकसित की।

1. पार्सिंग (Parsing): संरचित फ़ील्ड्स (शीर्षक, लेखक, वेन्यू, वर्ष, DOI) को निकालता है।
2. रिट्रीवल (Retrieval): DOI (Crossref) के माध्यम से और शीर्षक खोज (Semantic Scholar/Crossref) के माध्यम से लुकअप करता है।
3. स्कोरिंग (Scoring): एक भारित समानता स्कोर ($s$) की गणना करता है:
   $$s = 0.60 \cdot t + 0.20 \cdot a + 0.15 \cdot y + 0.05 \cdot v$$
   जहाँ $t$ फजी टाइटल सिमिलैरिटी है, $a$ लेखक ओवरलैप है, $y$ वर्ष की सहमति है, और $v$ वेन्यू सिमिलैरिटी है।
4. लेबलिंग (तीन-तरफा वर्गीकरण):
   • मौजूदा (Existing): स्कोर $\ge$ 0.85 (सत्यापित मिलान)।
   • अनसुलझा (Unresolved): 0.60 $\le$ स्कोर < 0.85 (अस्पष्ट; वास्तविक हो सकता है लेकिन अनकन्फर्म्ड या आंशिक रूप से निर्मित)।
   • निर्मित (Fabricated): स्कोर < 0.60 या कोई उम्मीदवार नहीं मिला।
   • नोट: "अनसुलझा" श्रेणी महत्वपूर्ण है, क्योंकि मैन्युअल ऑडिट से पता चला कि इनमें से लगभग 46% वास्तव में निर्मित (fabricated) थे।

3. मुख्य योगदान (Key Contributions)

1. क्यूरेटेड डेटासेट: 144 दावों का एक बेंचमार्क, जो छह डोमेन में फैला हुआ है, जिसमें विशेष रूप से SE और CS शामिल है, जिसे साइटेशन विश्वसनीयता का परीक्षण करने के लिए डिज़ाइन किया गया है।
2. स्वचालित सत्यापन ढांचा: एक डिटरमिनिस्टिक पाइपलाइन जिसमें तीन-तरफा लेबलिंग वर्गीकरण (Existing, Unresolved, Fabricated) है जो स्पष्ट रूप से फर्जी साइटेशन को केवल कठिनता से सत्यापित होने वाले साइटेशन से अलग करता है। पाइपलाइन ने मानव लेबल के विरुद्ध 0.63 का कोहेन का $\kappa$ प्राप्त किया।
3. प्रतिबंधों का अनुभवजन्य विश्लेषण (Empirical Analysis of Constraints): यह जांच कि विशिष्ट परिनियोजन प्रतिबंध (Temporal, Survey, Non-Disclosure) साइटेशन की गुणवत्ता को कैसे कम करते हैं, जिससे पता चलता है कि फॉर्मेट अनुपालन (format compliance) तथ्यपरक सटीकता की गारंटी नहीं देता है।

4. मुख्य परिणाम (Key Results)

समग्र प्रदर्शन (Overall Performance)

• किसी भी मॉडल ने बहुमत में सत्यापन योग्य साइटेशन प्राप्त नहीं किए। देखा गया उच्चतम अस्तित्व दर (existence rate) 0.475 था (सर्वे स्थितियों के तहत क्लॉड सोनेट)।
• अनसुलझे (Unresolved) का प्रभुत्व: सभी मॉडलों और स्थितियों में, 36–61% साइटेशन "अनसुलझी" श्रेणी में आए। मैन्युअल ऑडिट बताते हैं कि इनमें से लगभग आधा वास्तव में निर्मित (fabricated) है, जो एक विशाल "उच्च-जोखिम" पूल की ओर संकेत करता है जिसे स्वचालित जाँच आसानी से खारिज नहीं कर सकती।

प्रतिबंधों का प्रभाव (Impact of Constraints)

• टेम्पोरल प्रतिबंध (सबसे तीव्र गिरावट): हालिया 5-वर्षीय विंडो तक साइटेशन को सीमित करने से सत्यापन योग्यता में सबसे गंभीर गिरावट आई।
  • उदाहरण: GPT-4o की अस्तित्व दर 0.235 (Baseline) से गिरकर 0.019 (Temporal) हो गई।
  • मॉडल्स ने फॉर्मेट अनुपालन (सही वर्ष फ़ील्ड) बनाए रखा लेकिन उस विंडो के भीतर गैर-मौजूद पेपर जेनरेट किए।
• सर्वे-शैली प्रॉम्प्टिंग: प्रोप्रायटरी और ओपन-वेट मॉडल्स के बीच की खाई को चौड़ा कर दिया।
  • प्रोप्रायटरी मॉडल्स (Claude) में मामूली सुधार हुआ (0.381 $\to$ 0.475), जबकि ओपन-वेट मॉडल्स (Qwen) में भारी गिरावट आई (0.090 $\to$ 0.020), जहाँ निर्माण दर (fabrication rate) 54.7% तक पहुँच गई।
• गैर-प्रकटीकरण नीतियां (Non-Disclosure Policies): इन्होंने त्रुटियों को समाप्त नहीं किया बल्कि उन्हें पुनर्वितरित कर दिया। इसने "स्पष्ट रूप से गलत" साइटेशन (Fabricated) की संख्या को कम किया लेकिन DOI को दबाकर "अनसुलझी" श्रेणी को बढ़ा दिया, जिससे त्रुटियों का पता लगाना कठिन हो गया।
• कॉम्बो स्थिति (Combo Condition): सबसे खराब परिणाम दिए। चार में से तीन मॉडल्स अस्तित्व दर के मामले में शून्य के करीब पहुँच गए।

प्रोप्रायटरी बनाम ओपन-वेट अंतर (Proprietary vs. Open-Weight Gap)

• सभी स्थितियों में प्रोप्रायटरी और ओपन-वेट मॉडल्स के बीच एक महत्वपूर्ण और निरंतर अंतर मौजूद है।
• बेसलाइन पर, प्रोप्रायटरी मॉडल्स की अस्तित्व दर ~0.38 और 0.23 थी, जबकि ओपन-वेट मॉडल्स 0.07 और 0.09 पर थे।
• यह अंतर सर्वे स्थितियों के तहत बढ़ गया ($\Delta = +0.310$), जो बताता है कि प्रोप्रायटरी मॉडल्स के पास अकादमिक साहित्य का बेहतर प्रशिक्षण डेटा कवरेज है।

डोमेन विशिष्टता (SE & CS)

• SE और CS डोमेन में अस्तित्व दर 0.132 थी, जो क्रॉस-डोमेन औसत के बराबर है।
• प्रोप्रायटरी–ओपन-वेट अंतर SE डोमेन के भीतर भी बना रहा, जहाँ क्लॉड सोनेट 0.349 तक पहुँचा जबकि ओपन-वेट मॉडल 0.10 से नीचे रहे।

5. महत्व और निहितार्थ (Significance and Implications)

• अनुपालन $\neq$ सटीकता (Compliance $\neq$ Accuracy): मॉडल्स पूरी तरह से फॉर्मेटिंग बाधाओं (जैसे, विशिष्ट वर्ष रेंज, DOI की उपस्थिति) का पालन कर सकते हैं जबकि पूरी तरह से हैलुसिनेटेड सामग्री उत्पन्न करते हैं। सत्यापन के लिए फॉर्मेट-स्तर की जाँच अपर्याप्त है।
• "अनसुलझा" (Unresolved) का खतरा: एक बाइनरी (Real/Fake) मूल्यांकन मीट्रिक खतरनाक है क्योंकि यह बड़े "अनसुलझे" वर्ग की अनदेखी करता है, जिसमें निर्मित साइटेशन का उच्च अनुपात होता है।
• SE वर्कफ़्लो जोखिम: चूंकि व्यवस्थित साहित्य समीक्षा (SLRs) सटीक साइटेशन पर निर्भर करती है, इसलिए कठोर पोस्ट-हॉक सत्यापन के बिना ड्राफ्टिंग के लिए LLMs का उपयोग करना गलत साक्ष्य को इंजीनियरिंग साहित्य में प्रसारित करने का उच्च जोखिम पैदा करता है।
• सिफारिशें:
  • डेवलपर्स के लिए: कई डेटाबेस (Crossref, Semantic Scholar, DBLP) के विरुद्ध पोस्ट-हॉक सत्यापन पाइपलाइन लागू करें और "अनसुलझे" साइटेशन को उच्च-जोखिम के रूप में मानें।
  • शोधकर्ताओं के लिए: LLM-जेनरेटेड साइटेशन को अंतिम न मानें। उन्हें मैन्युअल रूप से सत्यापित किया जाना चाहिए, और स्थायी पहचानकर्ता (DOIs) आवश्यक होने चाहिए।
  • भविष्य की दिशाएं: केवल प्रॉम्प्ट इंजीनियरिंग से यह हल नहीं हो सकता; विश्वसनीय पीढ़ी के लिए रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) या अंतर्निर्मित सत्यापन आर्किटेक्चर की आवश्यकता है।

निष्कर्ष (Conclusion)

अध्ययन यह निष्कर्ष निकालता है कि परिनियोजन प्रतिबंध लगातार साइटेशन हैलुसिनेशन को बदतर बना देते हैं, जो अक्सर फॉर्मेट अनुपालन के पीछे विफलता को छिपा देते हैं। "अनसुलझा" श्रेणी वर्तमान मूल्यांकन विधियों में एक महत्वपूर्ण ब्लाइंड स्पॉट का प्रतिनिधित्व करती है। सॉफ्टवेयर इंजीनियरिंग समुदाय के लिए, व्यावहारिक सीख स्पष्ट है: LLM-जेनरेटेड संदर्भ सूचियों को किसी भी विद्वत्तापूर्ण या तकनीकी आउटपुट में शामिल करने से पहले स्वतंत्र, स्वचालित और मैन्युअल सत्यापन के लिए एक ड्राफ्ट के रूप में माना जाना चाहिए।