💻 computer science

HalluJudge: A Reference-Free Hallucination Detection for Context Misalignment in Code Review Automation

यह शोध पत्र HalluJudge को प्रस्तुत करता है, जो एक संदर्भ-मुक्त (reference-free) ढांचा है जो मल्टी-स्ट्रेटजी रीजनिंग के माध्यम से संदर्भ संरेखण (context alignment) का आकलन करके LLM-जनित कोड समीक्षा टिप्पणियों में मतिभ्रम (hallucinations) का प्रभावी ढंग से पता लगाता है, जिससे वास्तविक उत्पादन वातावरण में डेवलपर प्राथमिकताओं के साथ निकटता से संरेखित होते हुए उच्च सटीकता और लागत-दक्षता प्राप्त होती है।

मूल लेखक: Kla Tantithamthavorn, Hong Yi Lin, Patanamon Thongtanunam, Wachiraphan Charoenwet, Minwoo Jeong, Ming Wu

प्रकाशित 2026-03-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kla Tantithamthavorn, Hong Yi Lin, Patanamon Thongtanunam, Wachiraphan Charoenwet, Minwoo Jeong, Ming Wu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपने अपनी टीम के कोड की समीक्षा करने के लिए एक बहुत ही बुद्धिमान, लेकिन थोड़ी अति-आत्मविश्वासी, AI इंटर्न को काम पर रखा है। यह इंटर्न शानदार, प्रवाहमयी और पेशेवर दिखने वाला फीडबैक लिखने में माहिर है। हालाँकि, कभी-कभी, यह इंटर्न बहक जाता है और अपनी ओर से बातें बनाने लगता है।

उदाहरण के लिए, आप लॉगिन प्रक्रिया को तेज़ करने के लिए कोड की एक लाइन बदल सकते हैं। AI इंटर्न, "user" शब्द देखते ही, पूरे आत्मविश्वास के साथ लिख सकता है: "चेतावनी: यह बदलाव एक बहुत बड़ा SQL इंजेक्शन भेद्यता (vulnerability) पैदा करता है!"

लेकिन अगर आप वास्तविक कोड को देखें, तो वहां कोई डेटाबेस शामिल ही नहीं है। यहाँ इंटर्न हैलुसिनेट (hallucinating) कर रहा है—वह आत्मविश्वास के साथ कुछ ऐसा कह रहा है जो सुनने में तर्कसंगत लगता है लेकिन पूरी तरह से मनगढ़ंत और कोड की वास्तविकता से असंबंधित है। यह खतरनाक है क्योंकि यदि डेवलपर्स इन फर्जी चेतावनियों पर भरोसा करने लगें, तो वे उन समस्याओं को ठीक करने में घंटों बर्बाद कर सकते हैं जो वास्तव में मौजूद ही नहीं हैं, या इससे भी बुरा, वे इस AI टूल पर भरोसा करना ही छोड़ देंगे।

यह पेपर HalluJudge पेश करता है, जो एक नया "डिटेक्टिव" (जासूस) है जिसे इन फर्जी रिपोर्टों को मानव डेवलपर्स को भेजने से पहले इन AI इंटर्न को पकड़ने के लिए डिज़ाइन किया गया है।

समस्या: "रेफरेंस-फ्री" (संदर्भ-रहित) चुनौती

आमतौर पर, यह जाँचने के लिए कि किसी छात्र का निबंध अच्छा है या नहीं, आप उसकी तुलना एक "गोल्ड स्टैंडर्ड" उत्तर कुंजी (answer key) से करते हैं। लेकिन सॉफ्टवेयर कोड समीक्षाओं में, कोई एक एकल "सही" उत्तर नहीं होता है। एक मानव समीक्षक कह सकता है, "यह जोखिम भरा लग रहा है," जबकि दूसरा कह सकता है, "यह ठीक है।" दोनों सही हो सकते हैं।

तो, बिना किसी "सही" उत्तर कुंजी के तुलना किए, आप AI को झूठ पकड़ते हुए कैसे पकड़ेंगे? यही पेचीदा हिस्सा है। अधिकांश पुराने तरीके इस बात पर ध्यान केंद्रित करते थे कि AI के शब्दों की तुलना मानव के शब्दों से की जाए, लेकिन यह यहाँ अच्छी तरह से काम नहीं करता है।

समाधान: HalluJudge (कॉन्टेक्स्ट डिटेक्टिव)

शोधकर्ताओं ने HalluJudge बनाया है, जो एक सख्त तथ्य-जांचकर्ता (fact-checker) की तरह काम करता है। यह पूछने के बजाय कि, "क्या यह इंसान जैसा लगता है?", यह पूछता है, "क्या यह कमेंट वास्तव में कोड परिवर्तनों (code changes) से मेल खाता है?"

कोड परिवर्तनों (जिसे "diff" कहा जाता है) को एक अपराध स्थल की फोटो की तरह समझें। AI का कमेंट एक गवाह का बयान है। HalluJudge का काम उस फोटो और बयान को देखना और यह कहना है, "एक मिनट रुकिए। गवाह कहता है कि संदिग्ध ने लाल टोपी पहनी थी, लेकिन फोटो में स्पष्ट रूप से नीली टोपी दिख रही है। यह बयान झूठ है (या हॉलुसिनेशन है)।"

HalluJudge कैसे काम करता है: सोचने के चार तरीके

शोधकर्ताओं ने अपने AI जासूस के लिए चार अलग-अलग "सोचने की शैलियों" का परीक्षण किया ताकि यह देखा जा सके कि झूठ पकड़ने में कौन सा सबसे अच्छा है:

सीधा दृष्टिकोण (The Direct Approach): AI कोड और कमेंट को देखता है और तुरंत कहता है, "यह एक झूठ है।" यह तेज़ और सस्ता है, जैसे एक त्वरित सहज बोध (gut check)।
"फ्यू-शॉट" दृष्टिकोण (The "Few-Shot" Approach): AI को पहले पाँच अच्छे और बुरे कमेंट्स के उदाहरण दिखाए जाते हैं, जैसे कोई छात्र वास्तविक परीक्षा से पहले अभ्यास टेस्ट का अध्ययन करता है।
चरण-दर-चरण दृष्टिकोण (The Step-by-Step Approach): AI समस्या को छोटे हिस्सों में तोड़ देता है। "चरण 1: कोड पढ़ें। चरण 2: कमेंट पढ़ें। चरण 3: जाँच करें कि क्या कमेंट के दावे कोड में मौजूद हैं।" यह अपने काम को दिखाकर गणित की समस्या हल करने जैसा है।
"ट्री ऑफ थॉट्स" (द सुपर डिटेक्टिव): यह सबसे गहन विधि है। कल्पना कीजिए कि AI अपना दिमाग चार अलग-अलग जासूसों में विभाजित कर देता है।
- जासूस A यह साबित करने की कोशिश करता है कि कमेंट सच है।
- जासूस B यह साबित करने की कोशिश करता है कि कमेंट झूठ है।
- जासूस C यह जाँचता है कि क्या कमेंट वास्तव में कोड के सही हिस्से को देख रहा है।
- जासूस D यह जाँचता है कि क्या कमेंट ऐसे नियम बना रहा है जो अस्तित्व में ही नहीं हैं।
- अंत में, ये चारों जासूस मिलते हैं, बहस करते हैं, और अंतिम निर्णय के लिए वोट करते हैं।

परिणाम: उन्होंने क्या पाया?

टीम ने Atlassian (एक बड़ी सॉफ्टवेयर कंपनी) के हजारों वास्तविक कोड रिव्यूज पर HalluJudge का परीक्षण किया। यहाँ उनकी खोजें हैं:

यह काम करता है: HalluJudge झूठ पकड़ने में बहुत अच्छा है। इसने लगभग 85% हॉलुसिनेशन्स को सही ढंग से पकड़ा।
"ट्री ऑफ थॉट्स" विजेता है: वह तरीका जहाँ AI कई जासूसों में विभाजित होता है (Tree of Thoughts) सबसे सटीक था। यह सबसे गहन था, लेकिन यह सबसे महंगा भी था (इसमें अधिक कंप्यूटर पावर का उपयोग हुआ)।
"डायरेक्ट" दृष्टिकोण वैल्यू किंग है: सरल, तेज़ "Direct" दृष्टिकोण सुपर-डिटेक्टिव के लगभग बराबर ही था, लेकिन इसकी लागत बहुत कम थी। एक कमेंट को जाँचने के लिए इसने केवल $0.009 (एक पैसे से भी कम) खर्च किए।
डेवलपर्स सहमत हैं: जब उन्होंने HalluJudge के निर्णयों की तुलना वास्तविक डेवलपर्स की पसंद (थम्स अप) या नापसंद (थम्स डाउन) से की, तो वे लगभग 67% बार मेल खाते थे। इसका मतलब है कि यदि HalluJudge कहता है कि एक कमेंट "सुरक्षित" है, तो डेवलपर्स आमतौर पर उससे सहमत होते हैं।

यह क्यों मायने रखता है

एक ऐसी दुनिया की कल्पना करें जहाँ आप एक AI कोड रिव्यूअर चालू कर सकते हैं, लेकिन आप जानते हैं कि इसमें एक अंतर्निहित "झूठ पकड़ने वाला यंत्र" (lie detector) है जो आपके स्क्रीन तक पहुँचने से पहले ही फालतू बातों को फ़िल्टर कर देता है।

विश्वास: डेवलपर्स फर्जी चेतावनियों से परेशान नहीं होंगे, इसलिए वे AI पर अधिक भरोसा करेंगे।
दक्षता (Efficiency): टीमें उन समस्याओं को ठीक करने में समय बर्बाद नहीं करेंगी जो वास्तव में मौजूद ही नहीं हैं।
लागत: इस जाँच को चलाना अविश्वसनीय रूप से सस्ता है, जिससे इसे किसी भी कंपनी द्वारा लिखे गए हर एक कोड पर उपयोग करना संभव हो जाता है।

निष्कर्ष

HalluJudge AI-जनित सलाह के लिए एक गुणवत्ता नियंत्रण निरीक्षक (quality control inspector) की तरह है। इसे अपना काम करने के लिए किसी "सही उत्तर कुंजी" की आवश्यकता नहीं है; इसे बस यह जाँचने की आवश्यकता है कि क्या AI की कहानी पन्ने पर दिए गए तथ्यों से मेल खाती है। इस टूल का उपयोग करके, कंपनियाँ अपने कोड रिव्यूज को सहायक और ईमानदार रख सकती हैं, यह सुनिश्चित करते हुए कि AI एक मददगार साथी बना रहे न कि मनगढ़ंत समस्याओं का एक भ्रमित करने वाला स्रोत।

यहाँ शोध पत्र "HalluJudge: A Reference-Free Hallucination Detection for Context Misalignment in Code Review Automation" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग कोड परिवर्तनों (Pull Requests) पर प्राकृतिक भाषा में फीडबैक उत्पन्न करने के लिए कोड समीक्षा को स्वचालित करने में तेजी से किया जा रहा है। हालाँकि, इनके अपनाने में एक महत्वपूर्ण बाधा हैलुसिनेशन (hallucination) है: यानी ऐसे समीक्षा कमेंट्स उत्पन्न करना जो प्रवाहपूर्ण (fluent) तो हैं, लेकिन वास्तविक कोड परिवर्तनों पर आधारित नहीं हैं।

संदर्भ विसंगति (Context Misalignment): कोड जनरेशन (जहाँ हैलुसिनेशन को कंपाइलेशन या रनटाइम एरर के माध्यम से पकड़ा जा सकता है) के विपरीत, समीक्षा कमेंट हैलुसिनेशन अर्थ संबंधी (semantic) होते हैं। इनमें अक्सर विश्वसनीय लगने वाली सलाह (जैसे, SQL इंजेक्शन जोखिम का दावा करना) शामिल होती है जो विशिष्ट कोड डिफ (diff) के विपरीत या उससे unsupported होती है।
वर्तमान विधियों की सीमाएँ:
- रेफरेंस-आधार आधारित मेट्रिक्स (जैसे, BLEU): ये विफल रहते हैं क्योंकि किसी कोड परिवर्तन के लिए कोई एकल "गोल्ड स्टैंडर्ड" कमेंट नहीं होता; कई वैध कमेंट्स मौजूद हो सकते हैं।
- मैनुअल निरीक्षण (Manual Inspection): स्केल के लिए बहुत महंगा और व्यक्तिपरक है।
- पारंपरिक NLP मेट्रिक्स: कोड-विशिष्ट संदर्भ संरेखण (context alignment) पर खराब प्रदर्शन करते हैं।
लक्ष्य: एक स्केलेबल, रेफरेंस-फ्री (reference-free) विधि विकसित करना जिससे यह पता लगाया जा सके कि LLM द्वारा जनरेट किया गया समीक्षा कमेंट प्रदान किए गए कोड डिफ के साथ कितना ग्राउंडेड (grounded) है।

2. कार्यप्रणाली: HalluJudge

लेखक HalluJudge का प्रस्ताव करते हैं, जो हैलुसिनेशन डिटेक्शन को एक संदर्भ संरेखण (context alignment) समस्या के रूप में देखता है। यह आकलन करता है कि क्या समीक्षा कमेंट में किए गए दावे कोड डिफ में तथ्यात्मक तत्वों द्वारा समर्थित हैं।

2.1 मुख्य परिभाषाएँ

कोड डिफ ( $D$ ): तथ्यात्मक संदर्भ (कोड परिवर्तन)।
समीक्षा कमेंट ( $C$ ): दावों ( $c_i$ ) का एक सेट वाला LLM आउटपुट।
ग्राउंडिंग फंक्शन ( $G$ ): एक बाइनरी फंक्शन जो यह निर्धारित करता है कि क्या दावा $c_i$ सीधे $D$ के कम से कम एक तत्व द्वारा समर्थित है।
हैलुसिनेशन (Hallucination): यह तब होता है जब $C$ का कोई भी दावा अनग्राउंडेड ( $G(c_i) = 0$ ) हो।

2.2 मूल्यांकन रणनीतियाँ (Assessment Strategies)

HalluJudge संरेखण निर्धारित करने के लिए चार अलग-अलग प्रॉम्प्टिंग रणनीतियों का मूल्यांकन करता है, जो सरल से जटिल तर्क तक विस्तृत हैं:

डायरेक्ट असेसमेंट (Direct Assessment): ज़ीरो-शॉट प्रॉम्प्टिंग जहाँ LLM मिसअलाइनमेंट को परिभाषित करने वाले सिस्टम प्रॉम्प्ट के आधार पर सीधे संरेखण को स्कोर (0–4 स्केल) देता है।
फ्यू-शॉट असेसमेंट (Few-Shot Assessment): डायरेक्ट असेसमेंट के समान, लेकिन इसमें LLM को मार्गदर्शन देने के लिए प्रॉम्प्ट में पाँच लेबल किए गए उदाहरण (सभी संरेखण स्तरों को कवर करते हुए) शामिल हैं।
मल्टी-स्टेप रीजनिंग (Multi-Step Reasoning): चेन-ऑफ-थॉट (CoT) दृष्टिकोण। LLM को 5-चरणीय प्रक्रिया का पालन करने का निर्देश दिया जाता है: बोध (Comprehension) $\rightarrow$ ट्रेसबिलिटी चेक (Traceability Check) $\rightarrow$ सपोर्ट असेसमेंट (Support Assessment) $\rightarrow$ कॉन्फ्लिक्ट एनालिसिस (Conflict Analysis) $\rightarrow$ फाइनल जजमेंट (Final Judgment)।
ट्री-ऑफ-थॉट्स (Tree-of-Thoughts - ToT): सबसे जटिल रणनीति। LLM एक साथ चार समानांतर तर्क शाखाओं (branches) का अन्वेषण करता है:
- एलाइनमेंट हाइपोथेसिस (Alignment Hypothesis): कमेंट का समर्थन करने वाले साक्ष्य खोजें।
- मिसअलाइनमेंट हाइपोथेसिस (Misalignment Hypothesis): कमेंट का खंडन करने वाले साक्ष्य खोजें।
- एविडेंस मैपिंग (Evidence Mapping): विशिष्ट वाक्यों को डिफ लाइन्स से ट्रैक करें।
- कॉन्टेक्स्ट बाउंड्रीज़ (Context Boundaries): स्कोप क्रीप या बाहरी धारणाओं की जाँच करें।
- सिंथेसिस (Synthesis): LLM अंतिम निर्णय लेने के लिए शाखाओं का वजन (weigh) करता है।

2.3 प्रयोगात्मक सेटअप (Experimental Setup)

डेटासेट्स:
- ग्राउंड ट्रुथ (RQ1 और RQ2): Atlassian के आंतरिक प्रोजेक्ट्स (Java, Python, JS, TS, Kotlin) से 1-3 शोधकर्ताओं द्वारा मैन्युअल रूप से एनोटेट किए गए 143 LLM-जनरेटेड कमेंट्स (हैलुसिनेशन स्थिति: कॉन्टेक्स्ट अलाइन्ड बनाम मिसअलाइन्ड)।
- डेवलपर प्रेफरेंस (RQ3): प्रोडक्शन (Bitbucket) से 557 कमेंट्स जहाँ डेवलपर्स ने "Thumbs Up/Down" फीडबैक दिया है। "Thumbs Up" को गैर-हैलुसिनेटेड/मूल्यवान कमेंट्स के प्रॉक्सी के रूप में उपयोग किया गया है।
मॉडेल्स: "जज" मॉडल के रूप में Gemini 3 और GPT-5.1 का उपयोग करके मूल्यांकन किया गया।

3. मुख्य योगदान

रेफरेंस-फ्री डिटेक्शन फ्रेमवर्क: बिना मानव-लिखित संदर्भ कमेंट्स के, कॉन्टेक्स्ट-मिसअलाइन्ड कोड रिव्यू कमेंट्स का पता लगाने के लिए पहला व्यवस्थित दृष्टिकोण पेश किया।
स्ट्रक्चर्ड रीजनिंग स्ट्रैटेजीज़: सॉफ्टवेयर इंजीनियरिंग में हैलुसिनेशन डिटेक्शन के लिए चार अलग-अलग तर्क रणनीतियों (Direct, Few-Shot, CoT, ToT) को परिभाषित और मूल्यांकित किया।
इंडस्ट्रियल वैलिडेशन: अकादमिक बेंचमार्क और प्रोडक्शन वास्तविकता के बीच के अंतर को पाटते हुए, Atlassian के वास्तविक एंटरप्राइज डेटा का उपयोग करके बड़े पैमाने पर मूल्यांकन किया।
एलाइनमेंट एनालिसिस: लाइव प्रोडक्शन वातावरण में ऑटोमेटेड हैलुसिनेशन डिटेक्शन और वास्तविक डेवलपर प्रेफरेंस (thumbs-up/down) के बीच सहसंबंध को क्वांटिफाई किया।

4. प्रयोगात्मक परिणाम

RQ1: प्रभावशीलता (डिटेक्शन एक्यूरेसी)

सर्वश्रेष्ठ प्रदर्शन: Gemini 3 का उपयोग करने वाली Tree-of-Thoughts (ToT) रणनीति ने उच्चतम प्रदर्शन किया।
- F1 स्कोर: 0.85
- प्रिसिजन (Precision): 0.85
- रिकॉल (Recall): 0.85
रैंकिंग: ToT > Direct Assessment > Multi-Step Reasoning $\approx$ Few-Shot।
मॉडल तुलना: Gemini 3 ने सभी रणनीतियों में GPT-5.1 से लगातार बेहतर प्रदर्शन किया।

RQ2: दक्षता (लागत और टोकन उपयोग)

लागत-प्रभावशीलता: Direct Assessment सबसे अधिक लागत-कुशल है।
- औसत लागत: ~$0.009 प्रति इन्फरेंस (Gemini 3)।
- टोकन उपयोग: ToT की तुलना में डायरेक्ट असेसमेंट काफी कम टोकन (लगभग 2,784 इनपुट / 81 आउटपुट) का उपयोग करता है।
ट्रेड-ऑफ (Trade-off): जबकि ToT सर्वोत्तम सटीकता प्रदान करता है, यह लंबे रीजनिंग ट्रेसेस और आउटपुट स्पष्टीकरण के कारण उच्च लागत (प्रति इन्फरेंस लगभग $0.005–$ 0.007 अधिक) उठाता है।

RQ3: डेवलपर प्रेफरेंस के साथ संरेखण

निरंतरता (Consistency): HalluJudge का "गैर-हैलुसिनेटेड" कमेंट्स का निर्णय, डेवलपर के "Thumbs Up" के साथ 0.67–0.72 के कंसिस्टेंसी स्कोर के साथ संरेखित है।
कवरेज: HalluJudge उन कमेंट्स में से 65% को सफलतापूर्वक कैप्चर करता है जिन्हें डेवलपर्स वास्तव में पसंद करते हैं (Thumbs Up)।
निष्कर्ष: जो रणनीतियाँ हैलुसिनेशन का पता लगाने में सबसे अच्छी हैं (ToT और Direct), वे उत्पादन में डेवलपर्स को उपयोगी लगने वाले कमेंट्स को भी सबसे अच्छी तरह दर्शाती हैं।

5. महत्व और निहितार्थ

व्यावहारिक सुरक्षा कवच (Practical Safeguard): HalluJudge को CI/CD पाइपलाइनों में एक फ़िल्टरिंग लेयर के रूप में एकीकृत किया जा सकता है ताकि डेवलपर्स तक पहुँचने से पहले हैलुसिनेटेड कमेंट्स को रोका जा सके, जिससे शोर (noise) कम हो और विश्वास बढ़े।
लागत-दक्षता: ~$0.009 प्रति चेक के साथ, यह महंगे मैनुअल कोड रिव्यू ऑडिट का एक व्यवहार्य, स्केलेबल विकल्प है।
व्याख्यात्मकता (Explainability): फ्रेमवर्क (विशेष रूपकर ToT) विस्तृत, साक्ष्य-आधारित स्पष्टीकरण प्रदान करता है कि कोई कमेंट हैलुसिनेटेड क्यों है (उदाहरण के लिए, "कमेंट isPresent() का सुझाव देता है लेकिन कोड .length() को कॉल करता है, जो यह सिद्ध करता है कि टाइप String है, न कि Optional")। यह पारदर्शिता टूल सुधार के लिए सहायता करती है।
AI कोड रिव्यू का भविष्य: यह अध्ययन दर्शाता है कि विश्वसनीय AI-असिस्टेड सॉफ्टवेयर इंजीनियरिंग के लिए केवल सतही तौर पर 'प्लॉसिबिलिटी' (plausibility) की जाँच करने के बजाय, क्लेम ग्राउंडिंग (claim grounding) और ट्रेसेबिलिटी (traceability) के बारे में स्पष्ट तर्क देना आवश्यक है।

6. सीमाएँ और खतरे (Limitations & Threats)

परिभाषा का दायरा: हैलुसिनेशन को सख्ती से "कॉन्टेक्स्ट मिसअलाइनमेंट" के रूप में परिभाषित किया गया है। यह स्टाइल संबंधी अतिरेक (stylistic redundancy) या एक्शन योग्य विवरण की कमी जैसे अन्य गुणवत्ता मुद्दों को कवर नहीं करता है।
डेवलपर फीडबैक प्रॉक्सी: गुणवत्ता के लिए "Thumbs Up" को ग्राउंड ट्रुथ के रूप में उपयोग करना अपूर्ण है (डेवलपर्स शिष्टता के लिए भी थम्स अप दे सकते हैं), लेकिन बड़े पैमाने पर प्रोडक्शन मूल्यांकन के लिए यह सबसे अच्छा उपलब्ध सिग्नल है।
सामान्यीकरण (Generalizability): डेटा Atlassian के एंटरप्राइज एनवायरनमेंट से है; ओपन-सोर्स या छोटे कोडबेस में प्रदर्शन भिन्न हो सकता है।