💬 NLP

Text Corpora as Concept Fields: Black-Box Hallucination and Novelty Measurement

यह शोध पत्र "कॉन्सेप्ट फील्ड्स" (Concept Fields) को प्रस्तुत करता है, जो एक ब्लैक-बॉक्स, कॉर्पस-अट्रीयूटेबल फ्रेमवर्क है जो टेक्स्ट को एम्बेडिंग स्पेस में लोकल ड्रिफ्ट फील्ड्स के रूप में मॉडल करता है ताकि मॉडल के आंतरिक विवरणों पर निर्भर किए बिना भ्रम (hallucinations) का पता लगाने और नवीनता (novelty) को मापने के लिए व्याख्या योग्य, संभाव्य स्कोर प्रदान किया जा सके।

मूल लेखक: Nicholas S. Kersting, Vittorio Castelli, Chieh Ting Yeh, Xinzhu Wang, Saad Taame

प्रकाशित 2026-05-07

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nicholas S. Kersting, Vittorio Castelli, Chieh Ting Yeh, Xinzhu Wang, Saad Taame

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास किताबों का एक विशाल पुस्तकालय है, लेकिन शब्दों को पढ़ने के बजाय, आप हर वाक्य को एक विशाल, अदृश्य मानचित्र पर एक अद्वितीय निर्देशांक (coordinate) में बदल देते हैं। इस मानचित्र में, समान अर्थ वाले वाक्य एक साथ करीब होते हैं, और अलग अर्थ वाले वाक्य एक-दूसरे से दूर होते हैं।

यह शोध पत्र एक नया तरीका पेश करता है जिससे यह जांचा जा सके कि उस पुस्तकालय के आधार पर AI (या मानव) द्वारा लिखा गया वाक्य समझ में आता है या नहीं। वे इस मानचित्र को "कॉन्सेप्ट फील्ड" (Concept Field) कहते हैं।

यह कैसे काम करता है, इसे सरल उपमाओं के माध्यम से यहाँ समझाया गया है:

1. "विचारों की नदी" (The Concept Field)

कल्पना कीजिए कि पुस्तकालय केवल किताबों का एक स्थिर ढेर नहीं है, बल्कि एक बहती हुई नदी है।

प्रवाह (The Flow): यदि आप "कार खरीदने" के बारे में एक वाक्य पढ़ते हैं, तो नदी स्वाभाविक रूप से अगले संभावित वाक्य की ओर बहती है, जैसे कि "इसे घर ले जाना।"
धारा (The Current): लेखकों ने इस नदी के "प्रवाह" (current) को मैप करने के लिए एक प्रणाली बनाई है। वे केवल एक वाक्य को नहीं देखते; वे एक वाक्य से अगले वाक्य के बीच के "परिवर्तन" (delta) को देखते हैं।
मानचित्र (The Map): उन्होंने एक डेटाबेस बनाया है (जिसे VSDB कहा जाता है) जो इन वाक्यों और उन्हें जोड़ने वाले "प्रवाह" को संग्रहीत करता है। यह एक ऐसा क्षेत्र बनाता है जहाँ प्रत्येक बिंदु की एक दिशा और गति होती है, जो यह दर्शाती है कि उस विशिष्ट पुस्तकालय में विचार आमतौर पर कैसे बहते हैं।

2. "कम्पास चेक" (हैलुसिनेशन को स्कोर करना)

अब, कल्पना कीजिए कि एक AI एक नई कहानी लिखता है। हमें कैसे पता चलेगा कि वह झूठ बोल रहा है (हैलुसिनेशन कर रहा है) या तथ्यों के प्रति सच्चा है?

परीक्षण: आप AI के वाक्य को लेते हैं और देखते हैं कि क्या वह नदी के "प्रवाह" का अनुसरण करता है।
स्कोर (Zeta): सिस्टम Zeta नामक एक स्कोर की गणना करता है। इसे एक कम्पास विचलन (compass deviation) की तरह समझें।
- कम स्कोर (Low Score): AI का वाक्य नदी के प्रवाह के साथ पूरी तरह से बह रहा है। यह "ग्राउंडेड" (grounded) है (स्रोत सामग्री के प्रति सच्चा है)।
- उच्च स्कोर (High Score): AI का वाक्य नदी के विरुद्ध तैर रहा है या नदी से पूरी तरह बाहर निकल गया है। यह "अनग्राउंडेड" (ungrounded) है (एक भ्रम या एक जंगली रचनात्मक छलांग)।
"अनिश्चित" ज़ोन: कभी-कभी नदी धुंधली हो सकती है या मानचित्र अधूरा हो सकता है। सिस्टम गलत उत्तर देने के बजाय कह सकता है, "मुझे यकीन नहीं है।" यह एक ट्राइएज (triage) प्रणाली है: ग्राउंडेड (Grounded), अनग्राउंडेड (Ungrounded), या अनिश्चित (Unsure)।

3. "फिजिक्स लैब" (2D बैलिस्टिक्स उदाहरण)

अपने विचार को सिद्ध करने के लिए, लेखकों ने टेक्स्ट के बजाय भौतिकी (physics) का उपयोग करके एक सरल परीक्षण चलाया।

सेटअप: उन्होंने हवा में अलग-अलग कोणों पर फेंकी गई 1,000 गेंदों का अनुकरण (simulate) किया। उन्होंने प्रत्येक गेंद के पथ को मैप किया।
परिणाम: उन्होंने एक "विंड मैप" (Concept Field) बनाया जो दिखाता है कि गेंदें आमतौर पर कहाँ जाती हैं।
परीक्षण: जब उन्होंने एक ऐसी गेंद फेंकी जो उसी भौतिकी का पालन करती थी, तो मानचित्र ने कहा, "हाँ, यह फिट बैठता है!" जब उन्होंने एक ऐसी गेंद फेंकी जिसमें "वायु प्रतिरोध" (air resistance) था (एक अलग भौतिकी नियम), तो मानचित्र चिल्ला उठा, "नहीं! यह पैटर्न में फिट नहीं बैठता!"
बिंदु: इसने सिद्ध किया कि उनका गणित टेक्स्ट के लिए भी काम करता है। यदि विचारों का "प्रवाह" बदलता है, तो सिस्टम इसे पकड़ लेता है।

4. दो अलग-अलग पुस्तकालय, एक उपकरण

उन्होंने इस पर दो बहुत ही अलग पुस्तकालयों का परीक्षण किया:

कानून का पुस्तकालय (CFR): अमेरिकी संघीय नियमों का एक संग्रह। यहाँ, "प्रवाह के विरुद्ध बहना" बुरा है (यह एक झूठ है)। उन्होंने कानूनी पाठ में AI के हैलुसिनेशन को पकड़ने के लिए इस प्रणाली का उपयोग किया।
कहानी का पुस्तकालय (Project Gutenberg): क्लासिक उपन्यासों का एक संग्रह। यहाँ, "प्रवाह के विरुद्ध बहना" अच्छा हो सकता है (यह रचनात्मकता है)। उन्होंने यह पता लगाने के लिए कि क्या AI कुछ नया और रचनात्मक लिख रहा है, न कि केवल पुरानी कहानियों की नकल कर रहा है, इस प्रणाली का उपयोग किया।

जादू: एक ही गणित दोनों के लिए काम कर गया। दोनों मामलों में उच्च स्कोर का अर्थ था "पुस्तकालय से अलग"। कानून में, यह एक चेतावनी है; कहानियों में, यह एक विशेषता (feature) है।

5. यह विशेष क्यों है ("ब्लैक बॉक्स" लाभ)

अधिकांश AI डिटेक्टर AI के मस्तिष्क के अंदर झांकने की कोशिश करते हैं (व्हाइट-बॉक्स) या AI से खुद को परखने के लिए कहते हैं (जो अक्सर अविश्वसनीय होता है)।

यह तरीका "ब्लैक बॉक्स" है: इसे इस बात से फर्क नहीं पड़ता कि AI कैसे काम करता है। यह केवल आउटपुट को देखता है और उसकी तुलना पुस्तकालय से करता है।
यह तेज़ और सस्ता है: इसे महंगे सुपरकंप्यूटर की आवश्यकता नहीं है। इसे केवल एक मानक कंप्यूटर और पुस्तकालय डेटा की आवश्यकता है।
यह पता लगाने योग्य (Traceable) है: यदि सिस्टम कहता है कि एक वाक्य एक हैलुसिनेशन है, तो यह उन विशिष्ट वाक्यों की ओर इशारा कर सकता है जो इसे पुस्तकालय में सिद्ध करते हैं। यह यह कहने जैसा है कि, "आपने X कहा, लेकिन पुस्तकालय कहता है Y, और यहाँ पृष्ठ संख्या है।"

6. छिपे हुए पैटर्न खोजना ("भंवर")

लेखकों ने नदी के आकार को भी देखा।

स्रोत और सिंक (Sources and Sinks): उन्होंने ऐसी जगहें पाईं जहाँ कई विचार शुरू होते प्रतीत होते हैं (जैसे एक फव्वारा) या समाप्त होते हैं (जैसे एक नाली)।
भंवर (Whirlpools): उन्होंने ऐसी जगहें पाईं जहाँ विचार एक केंद्रीय विषय के चारों ओर घूमते रहते हैं बिना आगे बढ़े।
यह क्यों मायने रखता है: ये केवल नंबर नहीं हैं; ये इस बात का प्रतिनिधित्व करते हैं कि मनुष्य कैसे बात करते हैं और लिखते हैं। उदाहरण के लिए, एक "भंवर" एक ऐसा विषय हो सकता है जिसके बारे में लोग बहुत चर्चा करते हैं लेकिन वे इसे कभी हल नहीं कर पाते।

सारांश

लेखकों ने एक विशिष्ट टेक्स्ट संग्रह में विचार कैसे बहते हैं, इसका एक मानचित्र बनाया है। उन्होंने एक कम्पास बनाया है जो बताता है कि एक नया वाक्य उस प्रवाह का अनुसरण कर रहा है या उससे दूर जा रहा है।

यदि आप तथ्यों की जाँच कर रहे हैं, तो प्रवाह से विचलन का अर्थ एक झूठ है।
यदि आप रचनात्मकता की जाँच कर रहे हैं, तो प्रवाह से विचलन का अर्थ एक नया विचार है।
यह तेज़ काम करता है, इसे यह जानने की आवश्यकता नहीं है कि AI कैसे सोचता है, और यह मूल पाठ की ओर इशारा करके यह स्पष्ट कर सकता है कि इसने निर्णय क्यों लिया।

तकनीकी सारांश: अवधारणा क्षेत्र के रूप में पाठ कॉर्पोरा (Text Corpora as Concept Fields)

समस्या विवरण
LLM मतिभ्रम (hallucinations) का पता लगाने या ग्राउंडेडनेस (groundedness) का आकलन करने की वर्तमान विधियाँ अक्सर व्हाइट-बॉक्स मॉडल इंटरनल, ग्रे-बॉक्स परप्लेक्सिटी मेट्रिक्स, या भारी कैलिब्रेशन (जैसे LLM-as-judge) की आवश्यकता वाले ब्लैक-बॉक्स दृष्टिकोणों पर निर्भर करती हैं। ये मौजूदा समाधान अक्सर महंगे, आर्किटेक्चर-निर्भर, या परिचालन व्याख्यात्मकता (operational interpretability) की कमी वाले होते हैं। इसके अलावा, एम्बेडिंग स्पेस में कई ज्यामितीय दृष्टिकोण केवल युग्म तुलनाओं (जैसे DTW) तक सीमित हैं या कॉर्पस के भीतर स्थानीय अनिश्चितता को ध्यान में रखने के तंत्र का अभाव है। लेखक मतिभ्रम को एक बाइनरी विफलता के बजाय ग्राउंडेडनेस (groundedness) की एक व्यापक अवधारणा के रूप में देखने का प्रस्ताव करते हैं: कि क्या कोई आउटपुट एक लक्षित कॉर्पस द्वारा समर्थित है। यह फ्रेमिंग अनुपालन (जहाँ विचलन नकारात्मक है) और रचनात्मकता (जहाँ विचलन सकारात्मक है) दोनों पर लागू होती है।

कार्यप्रणाली (Methodology)
मुख्य योगदान कॉन्सेप्ट फील्ड (Concept Field) है, जो सेंटेंस-एम्बेडिंग स्पेस में पॉइंटवाइज अनिश्चितता के साथ एक स्थानीय ड्रिफ्ट फील्ड है। कार्यप्रणाली इस प्रकार है:

वेक्टर सीक्वेंस डेटाबेस (VSDB): लेखक एक स्टोरेज लेयर पेश करते हैं जो फिक्स्ड-डायमेंशनल सेंटेंस एम्बेडिंग्स के साथ सीक्वेंस-पोजीशन मेटाडेटा और "नेक्स्ट-डेल्टा" जानकारी ( $\Delta_{i,j} = v_{p+1} - v_p$ ) को रखता है। यह सिस्टम को कॉर्पस को केवल वाक्यों के बैग के रूप में नहीं, बल्कि एम्बेडिंग स्पेस में प्रक्षेपवक्र (trajectories) के संग्रह के रूप में देखने की अनुमति देता है।
कॉन्सेप्ट फील्ड निर्माण: VSDB का उपयोग करके, लेखक सेंटेंस ट्रांजिशन के स्थानीय संभाव्यता घनत्व (local probability density) की गणना करते हैं। कॉर्पस को एक "वेक्टर फील्ड" के रूप में मानकर, वे एक नियत ड्रिफ्ट (deterministic drift) को परिभाषित करते हैं जहाँ "फ्लो" (flow) वर्तमान वाक्य के आधार पर सबसे संभावित अगले विचार (concept) का प्रतिनिधित्व करता है। इस फील्ड का अनुमान एम्बेडिंग स्पेस में निकटतम पड़ोसियों (nearest neighbors) पर इनवर्स डिस्टेंस वेटिंग (IDW) इंटरपोलेशन का उपयोग करके लगाया जाता है।
स्कोरिंग मैकेनिज्म ( $\zeta$ ): एक कैंडिडेट सेंटेंस ट्रांजिशन का मूल्यांकन करने के लिए, सिस्टम कॉन्सेप्ट फील्ड के स्थानीय गॉसियन अनुमान और देखे गए डेल्टा के बीच औसत एब्सोल्यूट ज़ेड-डिस्टेंस ( $\zeta$ $ζ$ ) की गणना करता है।
- एक छोटा $\zeta$ कॉर्पस फ्लो के साथ सांख्यिकीय सहमति (grounded) को दर्शाता है।
- एक बड़ा $\zeta$ कॉर्पस फ्लो से विचलन (ungrounded या novel) को दर्शाता है।
- यह स्कोर पूरी तरह से ब्लैक-बॉक्स है (जिसके लिए किसी मॉडल इंटरनल की आवश्यकता नहीं है), कॉर्पस-अट्रिब्यूटेबल है (विशिष्ट कॉर्पस वाक्यों तक वापस ट्रेस किया जा सकता है), और एक सीधा संभाव्य अर्थ प्रदान करता है।
ज्यामितीय विश्लेषण (Geometric Analysis): लेखक घने क्लस्टरों पर कॉन्सेप्ट फील्ड के डाइवर्जेंस (divergence) और कर्ल (curl) का अन्वेषण करते हैं। उच्च डाइवर्जेंस "लॉजिक सोर्सेस" (सामान्य शुरुआती बिंदु) या "लॉजिक सिंक्स" (सामान्य निष्कर्ष) को इंगित करता है, जबकि उच्च कर्ल "इम्प्लिसिट टॉपिक्स" या उन क्षेत्रों का सुझाव देता है जहाँ वेक्टर एक केंद्रीय विचार के चारों ओर घूमते हैं बिना किसी स्पष्ट रैखिक प्रवाह के।

प्रमुख योगदान

VSDB के माध्यम से कॉन्सेप्ट फील्ड: स्थानीय अनिश्चितता के साथ सेंटेंस-सीक्वेंस फ्लो का एक कॉर्पस-स्तरीय प्रतिनिधित्व, जिसे एक नवीन वेक्टर सीक्वेंस डेटाबेस के माध्यम से कार्यान्वित किया गया है।
चयनात्मक ग्राउंडेडनेस डिटेक्शन: $\zeta$ थ्रेशोल्ड्स के आधार पर एक ट्राइएज पॉलिसी (Grounded / Ungrounded / Unsure)। यह दृष्टिकोण स्वीकृत मामलों पर मजबूत त्रुटि दर प्राप्त करता है जबकि अस्पष्ट ट्रांजिशन के लिए एक "अनश्योर" (unsure) बकेट बनाए रखता है।
क्रॉस-डोमेन मजबूती: वही तंत्र अनुपालन-शैली के ग्राउंडेडनेस चेक (कानूनी टेक्स्ट में मतिभ्रम का पता लगाना) और नवीनता-शैली के विचलन चेक (साहित्य में रचनात्मक विचलन का पता लगाना) दोनों का समर्थन करता है, जिसमें थ्रेशोल्ड के पुन: कैलिब्रेशन की आवश्यकता नहीं होती है।
कॉर्पस ज्योमेट्री: गुणात्मक प्रमाण कि कॉन्सेप्ट फील्ड में टोपोलॉजिकल फीचर्स (डाइवर्जेंस/कर्ल) सार्थक अर्थपूर्ण पैटर्न, जैसे कि सामान्य तर्क प्रवाह या बचाव क्षेत्रों (avoidance regions) के अनुरूप हैं।

प्रायोगिक परिणाम
लेखकों ने दो बड़े पैमाने के सेटिंग्स पर दृष्टिकोण का मूल्यांकन किया:

CFR (Code of Federal Regulations): एक तथ्यात्मक/कानूनी कॉर्पस जिसका उपयोग मतिभ्रम डिटेक्शन का परीक्षण करने के लिए किया गया। सिस्टम का परीक्षण LLM-रीवर्डेड सेंटेंस पेयर्स पर किया गया, जो यह भेद करता है कि वे अर्थ को संरक्षित करते हैं (ग्राउंडेड) या अर्थ को बदलते हैं (अनग्राउंडेड)।
प्रोजेक्ट गुटेनबर्ग (Project Gutenberg): एक सामान्य साहित्य कॉर्पस जिसका उपयोग नॉवेलटी डिटेक्शन के लिए किया गया, जहाँ "अनग्राउंडेडनेस" (उच्च $\zeta$ ) रचनात्मक लेखन के लिए एक वांछित लक्षण है।

प्रदर्शन संबंधी निष्कर्ष:

चयनात्मक वर्गीकरण: एक ट्राइएज पॉलिसी (जैसे, $\zeta_{low}=1, \zeta_{high}=3.75$ ) के तहत, विधि ने CFR डेटासेट पर ~56% कवरेज (44% उदाहरणों को "अनश्योर" के रूप में चिह्नित किया गया) के साथ 0.get 0.978 का F1 स्कोर और 0.984 का AUC प्राप्त किया।
बेसलाइन तुलना: कॉन्सेप्ट फील्ड ने VSDB पर सरल नियरस्ट-नेबर डिस्टेंस (यूक्लिडियन या कोसाइन) का उपयोग करने वाले बेसलाइन्स को पीछे छोड़ दिया या उनके बराबर प्रदर्शन किया। महत्वपूर्ण रूप से, जबकि डिस्टेंस-आधारित बेसलाइन्स को कॉर्पस-विशिष्ट थ्रेशोल्ड ट्यूनिंग की आवश्यकता थी, कॉन्सेप्ट फील्ड ने दोनों (CFR और Gutenberg) डोमेन में सुसंगत प्रदर्शन और थ्रेशोल्ड व्याख्या बनाए रखी।
कवरेज-रिस्क व्यवहार: विधि ने दोनों डोमेन में समान कवरेज-रिस्क ट्रेड-ऑफ प्रदर्शित किया, जो इस दावे का समर्थन करता है कि $\zeta$ की संभाव्यता-आधारित व्याख्या तथ्यात्मक और रचनात्मक कॉर्पस के बीच प्रभावी ढंग से स्थानांतरित होती है।
ज्यामितीय अंतर्दृष्टि: डाइवर्जेंस और कर्ल के गुणात्मक विश्लेषण ने अर्थपूर्ण क्लस्टर्स (जैसे, स्पोर्ट्स कमेंट्री में "GOOOOAAALL!!" एक लॉजिक सिंक के रूप में, या CFR में नियामक वाक्यांशों के रूप में लॉजिक सोर्स/सिंक) को प्रकट किया।

महत्व और दावे
पेपर का दावा है कि कॉन्सेप्ट फील्ड ग्राउंडेडनेस और नवीनता के लिए एक तेज़, हल्का और व्याख्या योग्य सिग्नल प्रदान करते हैं जो LLM-as-judge और व्हाइट-बॉक्स डिटेक्टर्स के पूरक हैं।

व्याख्यात्मकता (Interpretability): ब्लैक-बॉक्स जजों के विपरीत, प्रत्येक स्कोर पास के कॉर्पस वाक्यों तक वापस जाता है, जो व्याख्यात्मकता प्रदान करता है।
दक्षता (Efficiency): एक बार इंडेक्स होने के बाद, यह विधि LLM-आधारित मूल्यांकन की तुलना में तेज़ और सस्ती है (कोई API टोकन उपयोग नहीं), जो कमोडिटी CPUs पर चलती है।
भाषा तटस्थता (Language Agnosticism): यह दृष्टिकोण विशिष्ट मॉडल आर्किटेक्चर से बंधा नहीं है, जिससे यह विभिन्न विश्व भाषाओं के लिए लागू करने योग्य बनता है।
विनम्रता (Modesty): लेखक ज्यामितीय विश्लेषण (डाइवर्जेंस/कर्ल) को निश्चित मात्रात्मक परिणाम के बजाय "परिकल्पना-जनरेटिंग" (hypothesis-generating) के रूप में प्रस्तुत करते हैं। वे स्वीकार करते हैं कि कॉन्सेप्ट फील्ड की गुणवत्ता डेटा-निर्भर है, यह नोट करते हुए कि तार्किक रूप से सुसंगत कॉर्पस (जैसे कानून) शोर वाले इंटरनेट डेटा की तुलना में अधिक विश्वसनीय फील्ड प्रदान करते हैं। इस कार्य को एक आधारभूत कदम के रूप में प्रस्तुत किया गया है, जो समुदाय को एम्बेडिंग स्कीम्स और इंटरपोलेशन विधियों को बेहतर बनाने के लिए जगह छोड़ता है।