Beyond Self-Knowledge: Propagating Uncertainty Across Reasoning and Retrieval in LLMs
यह शोधपत्र BeyondUncertainty को प्रस्तुत करता है, जो एक रिट्रीवल-ऑगमेंटेड जनरेशन विधि है जो क्वेरीज़ को रिट्रीवल के लिए चुनिंदा रूप से रूट करने हेतु लैंग्वेज मॉडल्स से वर्बलाइज्ड कॉन्फिडेंस (verbalized confidence) का लाभ उठाती है, जिससे हमेशा-रिट्रीव करने वाले या कभी-रिट्रीव न करने वाले बेसलाइन्स की तुलना में बेहतर सटीकता और कम टोकन उपयोग प्राप्त होता है, हालांकि इसमें प्रारंभिक कॉन्फिडेंस प्रोब से होने वाला एक मामूली ओवरहेड शामिल है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट लाइब्रेरियन हैं जिसने ब्रह्मांड की लगभग हर किताब पढ़ ली है। आप लगभग हर सवाल का जवाब तुरंत दे सकते हैं क्योंकि आपने बहुत कुछ याद कर लिया है। लेकिन कभी-कभी, दुनिया बदल जाती है, या आप कोई छोटी सी बात भूल जाते हैं, या शायद आपको किसी विशिष्ट व्यक्ति या स्थान के बारे में किसी तथ्य को दोबारा जांचने की आवश्यकता होती है। यदि आप गलत अनुमान लगाते हैं, तो आप आत्मविश्वास से भरा हुआ लग सकते हैं लेकिन पूरी तरह से गलत हो सकते हैं। यहीं पर "रिट्रीवल-ऑगमेंटेड जनरेशन" (RAG) काम आता है। RAG को एक नियम के रूप में सोचें जो कहता है, "यदि आप 100% सुनिश्चित नहीं हैं, तो जवाब देने से पहले लाइब्रेरी में जाकर देख लें।"
हालाँकि, एक पेंच है। लाइब्रेरी जाने में समय और ऊर्जा लगती है। यदि आप हर एक सवाल के लिए, यहाँ तक कि उन आसान सवालों के लिए भी जिन्हें आप पहले से जानते हैं, लाइब्रेरी भागते हैं, तो आप बहुत सारा समय और ईंधन बर्बाद करते हैं। दूसरी ओर, यदि आप कभी भी लाइब्रेरी नहीं जाते हैं, तो आप कठिन सवालों के गलत जवाब दे सकते हैं। मुख्य सवाल जिसे वैज्ञानिक हल करने की कोशिश कर रहे हैं वह यह है: रोबोट को ठीक कब पता होना चाहिए कि उसे रुककर कुछ खोजना है, बिना आसान चीजों में ऊर्जा बर्बाद किए? यह शोध देखता है कि क्या एक रोबोट बस यह "कह" सकता है कि वह उत्तर के बारे में कितना आश्वस्त महसूस करता है, और अपने इस अहसास का उपयोग यह तय करने के लिए कर सकता है कि उसे लाइब्रेरी जाना चाहिए या बस बोल देना चाहिए।
द "कॉन्फिडेंस चेक" एक्सपेरिमेंट (आत्मविश्वास की जाँच का प्रयोग)
इस अध्ययन में, बेहंग यूनिवर्सिटी के शोधकर्ताओं चंदन कुमार साह, श्याओली लियान और ली झांग ने एक स्मार्ट लाइब्रेरियन बनाने की कोशिश की जिसे वे BeyondUncertainty नामक सिस्टम कहते हैं। वे यह देखना चाहते थे कि क्या एक "ब्लैक-बॉक्स" AI (एक ऐसा मॉडल जिसके आंतरिक पुर्जे आप देख नहीं सकते, केवल उसके उत्तर देख सकते हैं) अतिरिक्त जानकारी प्राप्त करने का निर्णय लेने के लिए अपने द्वारा व्यक्त किए गए आत्मविश्वास का उपयोग कर सकता है।
यह प्रयोग चरण-दर-चरण इस प्रकार काम करता है:
- द प्रोब (जांच): सबसे पहले, उन्होंने AI से एक प्रश्न पूछा और उसे एक त्वरित, संरचित उत्तर के साथ एक "कॉन्फिडेंस स्कोर" (0 और 1 के बीच एक संख्या जो यह बताती है कि वह कितना आश्वस्त है) देने के लिए कहा। उन्होंने AI को अपना काम दिखाने या विस्तार से सोचने के लिए नहीं कहा; उन्होंने बस एक त्वरित अनुमान और एक कॉन्फिडेंस रेटिंग मांगी।
- द डिसीजन (निर्णय): उन्होंने प्रत्येक AI मॉडल के लिए एक "थ्रेशोल्ड" (एक विशिष्ट आत्मविश्वास रेखा) निर्धारित किया।
- यदि AI ने कहा, "मैं बहुत आश्वस्त हूँ (रेखा से ऊपर)," तो सिस्टम उस उत्तर को तुरंत स्वीकार कर लेता था। कोई लाइब्रेरी यात्रा आवश्यक नहीं!
- यदि AI ने कहा, "मैं इतना आश्वस्त नहीं हूँ (रेखा से नीचे)," तो सिस्टम उस प्रश्न को एक सर्च इंजन (TF-IDF नामक विधि का उपयोग करके) पर भेज देता था ताकि शीर्ष 5 प्रासंगिक पैराग्राफ खोजे जा सकें। फिर, AI उन पैराग्राफों को पढ़ता और एक बेहतर अंतिम उत्तर देता।
- द टेस्ट (परीक्षण): उन्होंने इसे तीन अलग-अलग लोकप्रिय AI मॉडलों का उपयोग करके, छह विभिन्न ट्रिविया और नॉलेज डेटासेट्स के 27,000 अलग-अलग प्रश्नों पर चलाया।
जो उन्होंने पाया: अच्छा, बुरा और महंगा
परिणाम सफलता और एक आश्चर्यजनक समझौते का मिश्रण थे।
अच्छी खबर: स्मार्ट सर्चिंग
यह सिस्टम यह पहचानने में बहुत अच्छा था कि किन प्रश्नों को मदद की आवश्यकता थी। जब AI अनिश्चित महसूस करता था, तो वह आमतौर पर सही होता था कि उसे चीजें ढूँढने की आवश्यकता है।
- बेहतर उत्तर: "कॉन्फिडेंस रूटिंग" सिस्टम ने औसतन 0.483 का स्कोर (उत्तर की गुणवत्ता का एक माप जिसे F1 कहा जाता है) प्राप्त किया। यह बिना कुछ देखे केवल अनुमान लगाने (0.401) से बेहतर था और यहाँ तक कि हर एक प्रश्न के लिए खोजने वाले तरीके (0.467) से भी थोड़ा बेहतर था।
- लाइब्रेरी यात्राओं की बचत: क्योंकि सिस्टम ने आसान प्रश्नों के लिए लाइब्रेरी को छोड़ दिया, इसलिए इसने "हमेशा खोजें" पद्धति की तुलना में 20.4% कम टेक्स्ट पैसेजेस (अनुच्छेदों) को निकाला। यह बहुत अधिक चयनात्मक था।
- रैंडम गेस को हराना: यहाँ तक कि जब उन्होंने सिस्टम को एक रैंडम कंप्यूटर प्रोग्राम के समान ही संख्या में प्रश्न खोजने के लिए मजबूर किया, तब भी कॉन्फिडेंस-आधारित सिस्टम ने 18 में से 17 मामलों में बेहतर उत्तर दिए। इससे साबित हुआ कि AI का अनिश्चितता का "अहसास" वास्तव में शोध करने के लिए सही प्रश्नों को चुनने में उपयोगी था।
बुरी खबर: "प्रोब" की लागत
यहाँ एक मोड़ है। जबकि सिस्टम ने खोजने (कम लाइब्रेरी यात्राओं) में समय बचाया, इसने वास्तव में अधिक कुल कंप्यूटिंग पावर का उपयोग किया।
- कॉन्फिडेंस स्कोर प्राप्त करने के लिए, AI को पहले एक अतिरिक्त "प्रोब" चरण चलाना पड़ा। इस अतिरिक्त चरण ने उपयोग किए गए कुल "टोकन्स" (AI द्वारा प्रोसेस की जाने वाली टेक्स्ट की बुनियादी इकाइयाँ) में 28.2% की वृद्धि की।
- इसलिए, जबकि सिस्टम रिट्रीवल-सेविंग (उसने कम दस्तावेज़ निकाले) था, वह टोकन-सेविंग (उसने कुल कंप्यूटिंग ऊर्जा का अधिक उपयोग किया) नहीं था। यह एक जासूस को यह जांचने के लिए काम पर रखने जैसा है कि क्या आपको यात्रा पर जाने से पहले मानचित्र की आवश्यकता है; जासूस आपको गलत मानचित्र खरीदने से बचा लेता है, लेकिन आपको अभी भी जासूस की फीस देनी पड़ती है।
"पूरी तरह आश्वस्त नहीं" की वास्तविकता
शोधकर्ताओं ने यह भी पाया कि AI का आत्मविश्वास पूर्ण नहीं था।
- खराब कैलिब्रेशन: AI द्वारा दिए गए आत्मविश्वास के नंबर गणितीय रूप से सटीक संभावनाएं नहीं थे। यदि किसी AI ने कहा "90% आश्वस्त", तो वह वास्तव में 90% बार सही नहीं था।
- मॉडल के अंतर: सिस्टम का व्यवहार उपयोग किए गए AI मॉडल के आधार पर बहुत अलग था। एक मॉडल (OpenAI) इतना आत्मविश्वासी था कि वह लगभग हमेशा चीजें खोजना ही चाहता था, जिससे "स्मार्ट रूटिंग" कम उपयोगी हो गई। दूसरा मॉडल (Gemini) बहुत अधिक चयनात्मक था।
- कोई जादुई समाधान नहीं: सुधार बहुत बड़ा या पूर्ण नहीं था। कुछ विशिष्ट मामलों में, "हमेशा खोजें" वाला तरीका "स्मार्ट रूटिंग" से बेहतर था। यह एक औसत सुधार है, कोई सार्वभौमिक समाधान नहीं।
निष्कर्ष
यह पेपर सुझाव देता है कि AI से यह पूछना कि "आप कितने आश्वस्त हैं?" यह तय करने का एक चतुर तरीका है कि कब अतिरिक्त शोध करना है। यह AI को उन चीजों को खोजने में समय बर्बाद करने से बचने में मदद करता है जिन्हें वह पहले से जानता है, और समग्र रूप से थोड़े बेहतर उत्तरों की ओर ले जाता है। हालाँकि, उस प्रश्न को पूछने की लागत अधिक है। सिस्टम आपको बहुत सारे दस्तावेज़ निकालने से बचाता है, लेकिन उस निर्णय को लेने के लिए लगने वाला अतिरिक्त कदम पूरी प्रक्रिया को कुल कंप्यूटिंग शक्ति के मामले में अधिक महंगा बना देता है।
यह अधिक स्मार्ट, अधिक कुशल AI सहायकों की ओर एक आशाजनक कदम है, लेकिन यह दिखाता है कि मुफ्त में कुछ भी नहीं मिलता: आप जो खोज रहे हैं उसके बारे में अधिक चयनात्मक हो सकते हैं, लेकिन आपको निर्णय लेने के लिए अभी भी एक कीमत चुकानी पड़ सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।