Library Hallucinations in LLM-Generated Code: A Risk Analysis Grounded in Developer Queries
यह शोध पत्र इस बात का पहला व्यवस्थित अध्ययन प्रस्तुत करता है कि कैसे वास्तविक डेवलपर प्रॉम्प्ट विविधताएं, जैसे कि वर्तनी की गलतियाँ और काल्पनिक नाम, एलएलएम (LLM) द्वारा जनरेट किए गए कोड में लाइब्रेरी मतिभ्रम (library hallucinations) को ट्रिगर करती हैं, जो महत्वपूर्ण कमजोरियों को उजागर करता है और इन जोखिमों के पुनरुत्पादनीय मूल्यांकन और शमन को सक्षम करने के लिए लिबहैलुबेंच (LibHalluBench) बेंचमार्क पेश करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली, आत्मविश्वासी, लेकिन थोड़ा भुलक्कड़ सहायक है जो कंप्यूटर कोड लिखने में विशेषज्ञ है। आप उससे एक विशिष्ट टूल बनाने के लिए कहते हैं, और वह खुशी-खुशी टाइप करना शुरू कर देता है। हालाँकि, इस सहायक की एक खतरनाक आदत है: कभी-कभी, जब उसे पता नहीं होता कि उसे किस टूल के सटीक नाम की आवश्यकता है, तो वह बस एक नया नाम बना लेता है। वह एक ऐसी लाइब्रेरी (कोड का एक पूर्व-निर्मित संग्रह) का आविष्कार करता है जो अस्तित्व में ही नहीं है, लेकिन वह इसे इतने आत्मविश्वास के साथ लिखता है कि आपको तब तक पता नहीं चलेगा कि यह नकली है जब तक कि आप इसे उपयोग करने की कोशिश नहीं करते और यह टूट नहीं जाता।
यह शोध पत्र इस बात की गहरी पड़ताल है कि यह सहायक क्यों इन नकली उपकरणों को बनाता है, विशेष रूप से तब जब आप उसे थोड़े अलग निर्देश देते हैं या छोटी गलतियाँ करते हैं।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. "टाइम ट्रैवल" का जाल (The "Time Travel" Trap)
शोधकर्ताओं ने पाया कि यदि आप अपने सहायक से "2025" (एक ऐसा वर्ष जो अभी तक आया नहीं है या उनके प्रशिक्षण की सीमा से परे है) का कोई टूल मांगते हैं, तो सहायक बहुत घबरा जाता है और पागलपन भरी कल्पनाएँ (hallucinations) करने लगता है।
- उपमा: कल्पना कीजिए कि आप एक लाइब्रेरियन से भविष्य में प्रकाशित होने वाली किताब मांग रहे हैं। "मेरे पास वह नहीं है" कहने के बजाय, लाइब्रेरियन एक ऐसा शीर्षक, कवर और सारांश बना सकता है जो सुनने में एकदम सही लगे लेकिन वास्तव में मौजूद न हो।
- परिणाम: जब "2025 से" लाइब्रेरी मांगी गई, तो 85% मामलों में सहायक ने एक नकली लाइब्रेरी का आविष्कार किया। वे अपनी "ज्ञान की सीमा" (वह तारीख जब उन्होंने सीखना बंद किया था) को जानने में बहुत खराब हैं।
2. "टाइपो" का जाल (Sloppy Spelling)
यदि आप गलती से किसी वास्तविक लाइब्रेरी के नाम को गलत वर्तनी (misspell) के साथ लिखते हैं, तो सहायक अक्सर आपको सुधारता नहीं है। इसके बजाय, वह उस गलत वर्तनी वाले संस्करण पर अड़ा रहता है और नाटक करता है कि वह असली है।
- उपमा: कल्पना कीजिए कि आप एक शेफ से "Spagetti" (जहाँ 'h' गायब है) मांगते हैं। "क्या आपका मतलब Spaghetti से है?" कहने के बजाय, शेफ या तो अपने बनाए हुए किसी शेल्फ से "Spagetti" लेबल वाला डिब्बा उठा लेगा, या इससे भी बुरा, वह "Spagetti" नामक एक नया व्यंजन बना देगा जो अस्तित्व में ही नहीं है।
- परिणाम:
- एक एक अक्षर की गलती (जैसे
numpyके बजायnumpi) ने 26% मामलों में नकली लाइब्रेरी का उपयोग करवाया। - एक नकली लाइब्रेरी का नाम (कुछ ऐसा जो असली लगता है पर नहीं है, जैसे "GaussianTools") को स्वीकार किया गया और उपयोग किया गया, जो 99% मामलों तक देखा गया। सहायक आपकी मदद करने के लिए इतना उत्सुक है कि वह एक नकली टूल का उपयोग कर लेगा बजाय इसके कि वह आपको बताए कि वह मौजूद नहीं है।
- एक एक अक्षर की गलती (जैसे
3. "विशेषण" का जाल (The "Adjective" Trap - जो काम नहीं करता)
दिलचस्प बात यह है कि यदि आप किसी ऐसी लाइब्रेरी के लिए पूछते हैं जो "फास्ट" (तेज़), "ईज़ी" (आसान) या "मॉडर्न" (आधुनिक) है, तो सहायक आमतौर पर उन शब्दों को अनदेखा कर देता है और बस एक मानक, वास्तविक लाइब्रेरी चुन लेता है जो वह जानता है।
- उपमा: यदि आप एक "फास्ट कार" मांगते हैं, तो सहायक आपको बस एक मानक टोयोटा दे देता है। वह "सुपर-फास्ट-फ्लाइंग-कार" का आविष्कार नहीं करता क्योंकि वह जानता है कि ऐसे विशेषण अस्पष्ट होते हैं।
- परिणाम: "फास्ट" या "लाइटवेट" जैसे विशेषणों ने शायद ही कभी भ्रम (hallucinations) पैदा किया। खतरा विशिष्ट बाधाओं (जैसे तारीखें) या त्रुटियों (जैसे स्पेलिंग मिस्टेक) से आता है।
4. "तर्क" का जाल (The "Reasoning" Trap - बहुत अधिक सोचना)
शोधकर्ताओं ने इसे ठीक करने के लिए सहायक को "कदम-दर-कदम सोचें" या "अपने तथ्यों की जाँच करें" जैसा निर्देश देकर आज़माया।
- उपमा: यह एक घबराए हुए छात्र को यह बताने जैसा है कि, "गहरी सांस लें और इस गणित के सवाल पर ध्यान केंद्रित करें।" कभी-कभी, इससे मदद मिलती है। लेकिन अक्सर, छात्र अपने गलत उत्तर पर अधिक आत्मविश्वासी हो जाता है क्योंकि उसने उसे सही ठहराने में अधिक समय बिताया होता है।
- परिणाम: ये "तर्क" (reasoning) वाली तकनीकें लगातार काम नहीं करतीं। वास्तव में, वे कभी-कभी भ्रम को और भी बदतर बना देती हैं। सहायक आत्मविश्वास के साथ समझाने लगेगा कि उनकी नकली लाइब्रेरी क्यों असली है, जिससे आपके लिए गलती पकड़ना और भी कठिन हो जाता है।
5. "टूल" समाधान (The "Tool" Solution - फोन बुक चेक करना)
शोधकर्ताओं ने सहायक को एक सरल टूल देकर परीक्षण किया: एक बटन जो यह जाँचता है कि क्या कोई लाइब्रेरी वास्तव में आधिकारिक डेटाबेस (PyPI) में मौजूद है।
- उपमा: सहायक के अंदाज़ा लगाने के बजाय, आप उसे एक फोन बुक देते हैं। यदि वह कहता है "मैं Spagetti का उपयोग करूँगा," तो वह बुक चेक करता है, देखता है कि वह वहां नहीं है, और फिर कहता है, "ओह, यह मौजूद नहीं है।"
- परिणाम: इससे बहुत मदद मिली, लेकिन यह कोई जादुई समाधान नहीं था। सहायक अभी भी कभी-कभी बुक चेक करना भूल जाता था, या चेक करता था लेकिन परिणाम को अनदेखा करने का निर्णय लेता था और फिर भी नकली नाम का उपयोग करता था।
मुख्य निष्कर्ष: LIBHALLUBENCH
चूंकि यह एक बहुत बड़ी समस्या है, इसलिए लेखकों ने LIBHALLUBENCH नामक एक नया टेस्ट बनाया है।
- उपमा: इसे एक "ड्राइविंग टेस्ट" के रूप में सोचें जिसे विशेष रूप रूप से यह देखने के लिए डिज़ाइन किया गया है कि क्या एक सेल्फ-ड्राइविंग कार नकली स्टॉप साइन को देखकर भ्रमित हो जाएगी। इसमें हजारों पेचीदा प्रश्न हैं (जैसे "2025 से एक लाइब्रेरी दें" या "इस गलत वर्तनी वाले नाम का उपयोग करें") ताकि यह व्यवस्थित रूप से परीक्षण किया जा सके कि विभिन्न AI मॉडल नकली टूल्स बनाने की कितनी संभावना रखते हैं।
आपको इसकी चिंता क्यों करनी चाहिए?
यदि आप कोड लिखने के लिए AI का उपयोग करने वाले डेवलपर हैं, और AI एक नकली लाइब्रेरी का आविष्कार करता है, तो जब आप अपना कोड चलाने की कोशिश करेंगे तो वह क्रैश हो जाएगा। इससे भी बुरा यह है कि यदि कोई हैकर एक ऐसी नकली लाइब्रेरी बनाता है जो AI द्वारा आविष्कार की गई लाइब्रेरी से मेल खाती है (एक चाल जिसे "स्लॉपस्क्वैटिंग" कहा जाता है), तो आपका सिस्टम मैलवेयर से संक्रमित हो सकता है।
संक्षेप में: AI कोड जनरेटर बेहतरीन हैं, लेकिन वे तब खतरनाक रूप से आत्मविश्वासी होते हैं जब उन्हें उत्तर नहीं पता होता। वे आपकी रिक्वेस्ट को पूरा करने के लिए नकली टूल्स का आविष्कार करेंगे, खासकर यदि आप भविष्य की किसी चीज़ के बारे में पूछते हैं या कोई छोटी स्पेलिंग मिस्टेक करते हैं। हमें उन्हें मनगढ़ंत बातें करने से रोकने के बेहतर तरीके खोजने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।