← नवीनतम पेपर
🤖 machine learning

FLaG: Fine-Grained Latent Grouping for Hallucination Detection

FLaG एक हल्का, फ्रोजन-मॉडल फ्रेमवर्क है जो ऊर्जा-आधारित लेटेंट एविडेंस ग्रुपिंग और सिद्धांत-आधारित लॉग-मार्जनल एग्रीगेशन के माध्यम से उन्हें विषम विफलता तंत्रों के रूप में मॉडल करके LLM मतिभ्रम (hallucinations) का पता लगाता है, जो अंतर्निहित मॉडल को संशोधित किए बिना विविध बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त करता है।

मूल लेखक: Wentao Ye, Liyao Li, Zhiqing Xiao, Muzhi Zhu, Jiaqi Hu, Zhanming Shen, Xiaomeng Hu, Sean Du, Haobo Wang

प्रकाशित 2026-06-02
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Wentao Ye, Liyao Li, Zhiqing Xiao, Muzhi Zhu, Jiaqi Hu, Zhanming Shen, Xiaomeng Hu, Sean Du, Haobo Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक शिक्षक हैं जो किसी छात्र के निबंध का मूल्यांकन कर रहे हैं। कभी-कभी, छात्र कुछ ऐसा लिखता है जो सुनने में एकदम सटीक लगता है, जिसका प्रवाह बहुत सुंदर होता है और जो बड़े शब्दों का उपयोग करता है, लेकिन तथ्य पूरी तरह से मनगढ़ंत होते हैं। इसे ही हम लार्ज लैंग्वेज मॉडल्स (LLMs) में "हैलुसिनेशन" (hallucination) कहते हैं।

समस्या यह है कि ये "नकली" उत्तर सभी एक जैसे नहीं होते। कुछ झूठ इसलिए होते हैं क्योंकि मॉडल तथ्यों को लेकर भ्रमित है; कुछ इसलिए होते हैं क्योंकि वह आपको खुश करने की बहुत अधिक कोशिश कर रहा है; और कुछ इसलिए होते हैं क्योंकि वह बस अंदाजे लगा रहा है।

पुराना तरीका: एक ही आकार का जासूस (The One-Size-Fits-All Detective)
पिछले तरीकों ने इन झूठों को पकड़ने के लिए एक ही "झूठ पकड़ने वाले यंत्र" (lie detector) का उपयोग करने की कोशिश की। वे एक ही चीज़ को देखते थे—जैसे कि मॉडल कितना आत्मविश्वासी लग रहा था या आखिरी शब्द कितना अजीब था—और पूरे उत्तर को एक एकल स्कोर देते थे।

  • खामी: यह एक ही मेटल डिटेक्टर से हर प्रकार के चोर को पकड़ने की कोशिश करने जैसा है। यदि कोई चोर बंदूक छिपाता है, तो डिटेक्टर बीप करेगा। यदि वह चाकू छिपाता है, तो शायद नहीं। यदि वह बम छिपाता है, तो वह पागल हो जाएगा। क्योंकि हैलुसिनेशन कई अलग-अलग "स्वादों" में आते हैं, इसलिए एक एकल स्कोर अक्सर सूक्ष्म गलतियों को पकड़ने में विफल रहता है या भ्रमित हो जाता है।

नया तरीका: FLaG (Fine-Grained Latent Grouping)
इस शोध पत्र के लेखक FLaG नामक एक नई प्रणाली प्रस्तावित करते हैं। एक ही जासूस का उपयोग करने के बजाय, यह विभिन्न प्रकारों की गलतियों को खोजने के लिए विशेषज्ञों की एक टीम का उपयोग करता है।

यहाँ बताया गया है कि FLaG कैसे काम करता है, सरल उपमाओं का उपयोग करते हुए:

1. दो अलग-अलग स्रोतों से सुराग इकट्ठा करना

निर्णय लेने से पहले, FLaG मॉडल के काम को दो कोणों से देखता है:

  • "ज्यामिति" (Geometry) का सुराग: कल्पना करें कि मॉडल के विचार एक मानचित्र की तरह हैं। FLaG जाँचता है कि क्या अंतिम उत्तर मूल प्रश्न की तुलना में सही पड़ोस में है। क्या मॉडल मूल विषय से बहुत दूर भटक गया है?
  • "संभाव्यता" (Probability) का सुराग: यह मॉडल के आंतरिक आत्मविश्वास को देखता है। क्या वह कुछ शब्दों पर लड़खड़ाया? क्या वह अनिश्चित था? या क्या वह किसी ऐसी चीज़ के बारे में अत्यधिक आत्मविश्वासी था जो सच नहीं होनी चाहिए थी?

2. "सॉफ्ट" छँटाई प्रणाली (The Latent Groups)

यही मुख्य जादू है। FLaG उत्तर को एक ही बॉक्स में जबरदस्ती नहीं डालता। इसके बजाय, यह एक सॉफ्ट रूटिंग सिस्टम का उपयोग करता है।

  • उपमा: कल्पना करें कि एक अस्पताल में ट्राइएज नर्स (triage nurse) है। जब कोई मरीज आता है, तो नर्स केवल यह नहीं कहती कि "बीमार" या "स्वस्थ"। नर्स पूछती है: "क्या यह टूटी हुई हड्डी है? बुखार है? या पेट दर्द है?"
  • FLaG कैसे करता है: यह सुरागों को देखता है और कहता है, "यह उत्तर 60% 'तथ्य-गढ़ंत' (fact-fabrication) त्रुटि जैसा दिखता है, 30% 'तार्किक विरोधाभास' (logical contradiction) त्रुटि जैसा दिखता है, और 10% 'भ्रमित संदर्भ' (confused context) त्रुटि जैसा दिखता है।" यह केवल एक को नहीं चुनता; यह स्वीकार करता है कि उत्तर विभिन्न समस्याओं का मिश्रण हो सकता है।

3. "विशेषज्ञ पैनल" का मतदान

एक बार जब उत्तर को इन विभिन्न "समूहों" (या त्रुटि प्रकारों) में वर्गीकृत कर दिया जाता है, तो FLaG प्रत्येक समूह के लिए एक विशिष्ट विशेषज्ञ से पूछता है: "इस विशिष्ट प्रकार की त्रुटि के सुरागों के आधार पर, इसकी झूठ होने की कितनी संभावना है?"

  • समूह A (तथ्य-जांचकर्ता) कहता है: "यह नकली लग रहा है।"
  • समूह B (तर्क-जांचकर्ता) कहता है: "यह ठीक लग रहा है।"
  • समूह C (आत्मविश्वास-जांचकर्ता) कहता है: "यह संदिग्ध लग रहा है।"

4. अंतिम निर्णय (Log-Marginal Aggregation)

केवल उनके विचारों का औसत लेने के बजाय (जो कि सच्चाई को रद्द कर सकता है), FLaG उन्हें संयोजित करने के लिए एक विशेष गणितीय सूत्र का उपयोग करता है।

  • उपमा: इसे एक जूरी की तरह सोचें। यदि एक भी विशेषज्ञ कहता है, "मैं 99% आश्वस्त हूँ कि यह एक झूठ है क्योंकि मैं इस विशिष्ट पैटर्न को देख रहा हूँ," तो पूरी जूरी को बहुत सावधान रहना चाहिए। FLaG विचारों को इस तरह से तौलता है कि यदि कोई भी विशेषज्ञ झूठ के स्पष्ट पैटर्न को पहचान लेता है, तो अंतिम स्कोर उस खतरे को दर्शाता है।

यह बेहतर क्यों है?

  • यह लचीला है: क्योंकि यह एक एकल नियम पर निर्भर नहीं है, यह तब भी अच्छा काम करता है जब मॉडल बदलता है या विषय बदलता है। यह उन जासूसों की टीम की तरह है जो नए प्रकार के अपराधों के अनुकूल हो सकते हैं, न कि एक ऐसे रोबोट की तरह जो केवल एक विशिष्ट हथियार को पहचानने के लिए जाना जाता है।
  • इसे कम डेटा की आवश्यकता है: शोध पत्र दिखाता है कि FLaG तब भी अच्छा काम करता है जब आपके पास बहुत अधिक "लेबल वाला" डेटा (ऐसे उत्तर जहाँ हमें पहले से पता है कि वे सत्य हैं या असत्य) न हो। यह अपने आप विभिन्न "समूहों" को समझ सकता है।
  • यह तेज़ और हल्का है: इसे विशाल AI मॉडल को फिर से प्रशिक्षित करने की आवश्यकता नहीं है। यह मौजूदा मॉडल के ऊपर एक स्मार्ट "पोस्ट-इट नोट" प्रणाली जोड़ने जैसा है जो उसके काम की जाँच करती है, बिना यह बदले कि मॉडल कैसे सोचता है।

निष्कर्ष

शोध पत्र का दावा है कि यह स्वीकार करके कि "हैलुसिनेशन अव्यवस्थित होते हैं और कई रूपों में आते हैं," और एक ऐसी प्रणाली बनाकर जो उत्तरों को निर्णय लेने से पहले इन विभिन्न रूपों में वर्गीकृत कर सके, हमें AI में झूठ का पता लगाने का एक बहुत अधिक विश्वसनीय तरीका मिलता है। यह केवल यह पूछने से हटकर है कि "क्या यह उत्तर गलत है?" बल्कि यह पूछने की ओर बढ़ता है कि "यह किस प्रकार का गलत है, और क्या वह विशिष्ट प्रकार खतरनाक दिखता है?"

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →