Probabilistic Attribution For Large Language Models
यह शोध पत्र एक मॉडल-अज्ञेय (model-agnostic) संभाव्य एट्रिब्यूशन फ्रेमवर्क प्रस्तुत करता है जो टोकन महत्व और एंट्रॉपी को मापने के लिए LLM टोकन संभावनाओं पर बेयस नियम (Bayes' rule) का लाभ उठाता है, जिससे व्याख्यात्मकता में वृद्धि होती है और विभिन्न प्रॉम्प्ट्स के माध्यम से मॉडल की स्थिरता और व्यवहार में अंतर्दृष्टि प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक जादुई मस्तिष्क के रूप में न करें जो इंसान की तरह "सोचता" है, बल्कि इसे एक अति-विकसित स्लॉट मशीन या एक विशाल, उच्च-गति वाले पासे (dice) फेंकने वाली मशीन के रूप में देखें।
हर बार जब मॉडल कोई शब्द (या "टोकन") लिखता है, तो वह केवल अनुमान नहीं लगाता। वह अपने पूरे शब्दकोश के हर संभावित अगले शब्द की संभावनाओं (odds) की गणना करता है, जो उसने अब तक लिखा है उसके आधार पर। वह इन संभावनाओं के आधार पर अगला शब्द चुनता है।
यह शोध पत्र, "प्रोबेबिलिस्टिक एट्रिब्यूशन फॉर लार्ज लैंग्वेज मॉडल्स," इस "स्लॉट मशीन" के भीतर झाँकने का एक नया तरीका पेश करता है ताकि यह समझा जा सके कि उसने वे शब्द क्यों चुने। लेखक इस नए टूल को एट्रिब्यूशन स्कोर (AS) कहते हैं।
यहाँ उनके विचारों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. मूल विचार: टेप को रिवाइंड करना
आमतौर पर, जब हम एक AI से कोई प्रश्न पूछते हैं, तो वह उत्तर देता है। हमें आश्चर्य हो सकता है, "मेरे प्रश्न के किस हिस्से ने इसे वह कहने के लिए प्रेरित किया?"
लेखक AI की लेखन प्रक्रिया को एक स्टोकेस्टिक प्रोसेस (एक फैंसी गणितीय शब्द जिसका अर्थ है एक यादृच्छिक प्रक्रिया जो समय के साथ विकसित होती है, जैसे मौसम के पैटर्न या शेयर बाजार) की तरह मानते हैं। उन्होंने महसूस किया कि चूंकि AI केवल संभावनाओं की गणना कर रहा है, इसलिए हम गणित का उपयोग करके टेप को "रिवाइंड" कर सकते हैं।
उपमा:
कल्पना कीजिए कि आप एक गाना सुन रहे हैं, और आप जानना चाहते हैं कि धुन के किस विशिष्ट स्वर (note) ने गायक को अंत में ऊँचा स्वर लगाने के लिए प्रेरित किया।
- पुराना तरीका: आप अनुमान लगाते हैं कि कौन सा स्वर महत्वपूर्ण था।
- लेखकों का तरीका: वे गाने को लेते हैं, एक बार में एक स्वर हटाते हैं, और गायक से पूछते हैं, "यदि मैं यह विशिष्ट स्वर नहीं बजाता, तो क्या आपके द्वारा ऊँचा स्वर लगाने की संभावना अभी भी होती?"
- यदि स्वर हटाने से ऊँचा स्वर लगाना असंभव हो जाता है, तो वह स्वर महत्वपूर्ण था (उच्च स्कोर)।
- यदि स्वर हटाने से कुछ भी नहीं बदलता है, तो वह स्वर केवल बैकग्राउंड शोर था (कम स्कोर)।
2. जादुिक ट्रिक: "क्या होगा अगर" का खेल
tricky हिस्सा यह है कि AI केवल आगे लिखना जानता है। यह स्वाभाविक रूप से यह नहीं कह सकता, "क्या होगा अगर मैं यह शब्द छोड़ दूँ?"
लेखकों ने एक गणितीय ट्रिक (बायेस का नियम/Bayes' Rule) का उपयोग किया ताकि वे AI को यह "क्या होगा अगर" का खेल खेलने के लिए मजबूर कर सकें। वे अनिवार्य रूप से AI से कहते हैं: "यह आपका प्रॉम्प्ट और आपका उत्तर है। अब, मान लीजिए कि आपके प्रॉम्प्ट में 'apple' शब्द वास्तव में शब्दकोश का कोई अन्य शब्द था। इससे आपके उत्तर की संभावना कैसे बदलती है?"
इस गणित का उपयोग करके, वे प्रॉम्प्ट के प्रत्येक शब्द के लिए एक स्कोर की गणना करते हैं। यह स्कोर आपको बताता है कि उस विशिष्ट शब्द ने AI को उसके अंतिम उत्तर की ओर कितना "धकेला" (push किया)।
3. "भ्रम" (एन्ट्रॉपी) को मापना
यह शोध पत्र एन्ट्रॉपी (Entropy) पर भी नज़र डालता है, जो अनिश्चितता या भ्रम का एक माप है।
उपमा:
कल्पना कीजिए कि आप एक वाक्य में अगले शब्द का अनुमान लगाने की कोशिश कर रहे हैं।
- कम एन्ट्रॉपी (कम भ्रम): वाक्य है "आसमान..."। AI 99% निश्चित है कि अगला शब्द "नीला" होगा। वह भ्रमित नहीं है।
- उच्च एन्ट्रॉपी (उच्च भ्रम): वाक्य है "वह... चीज़... ने..."। AI को पता ही नहीं है कि आगे क्या आना चाहिए। "बिल्ली," "कुत्ता," "दौड़ना," या "कूदना" में से कुछ भी समान रूप से संभावित है।
लेखक मिले हैं कि:
- यदि किसी शब्द का एट्रिब्यूशन स्कोर उच्च है (वह बहुत महत्वपूर्ण है) लेकिन AI अभी भी अगले शब्द को लेकर बहुत भ्रमित (उच्च एन्ट्रॉपी) है, तो कुछ अजीब है। इसका मतलब हो सकता है कि मॉडल अस्थिर है या उसने डेटा को अच्छी तरह से नहीं सीखा है।
- यदि किसी शब्द का स्कोर कम है (वह ज्यादा मायने नहीं रखता) और AI उसके विकल्प के बारे में बहुत आश्वस्त है (कम एन्ट्रॉपी), तो वह शब्द संभवतः केवल "फिलर" या शोर है।
4. उन्होंने क्या खोजा
लेखकों ने 8 अलग-अलग AI मॉडलों पर 7 अलग-अलग प्रॉम्प्ट्स का परीक्षण किया। यहाँ उन्होंने क्या पाया:
- पुराने बनाम नए मॉडल: पुराने मॉडल (जैसे GPT-2) अधिक "भ्रमित" (उच्च एन्ट्रॉपी) लगते थे, भले ही वे शब्द ज्यादा मायने नहीं रखते थे। नए मॉडल (जैसे Llama) अधिक स्थिर और आश्वस्त थे। यह सुझाव देता है कि नए मॉडल अपने प्रशिक्षण डेटा पर बेहतर तरीके से "कन्वर्ज" (converged) हुए हैं—वे जानते हैं कि वे क्या कह रहे हैं और इसमें अधिक निरंतरता है।
- "बुरे" शब्दों को खोजना: उन्होंने ऐसे विशिष्ट उदाहरण पाए जहाँ AI भ्रमित था। उदाहरण के लिए, एक प्रॉम्प्ट में, AI ने वाक्य के प्रवाह को बेहतर बनाने के लिए उपयोगकर्ता के शब्द "जब" (when) के बजाय "में" (in) को प्राथमिकता दी। स्कोर ने इस बेमेल (mismatch) को उजागर किया, जिससे पता चला कि AI अपने थोड़े अलग सवाल के साथ अधिक "खुश" था।
- टोकन संवेदनशीलता: कुछ शब्द मेहराब (arch) के "कीस्टोन" (keystone) की तरह होते हैं; यदि आप उन्हें हटा देते हैं, तो पूरा उत्तर ढह जाता है। स्कोर इन कीस्टोन शब्दों की पहचान करता है। अन्य शब्द मोर्टार (सीमेंट/गारा) की तरह होते हैं; आप उन्हें बदल सकते हैं, और उत्तर वही रहता है।
5. यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
लेखक दावा करते हैं कि यह विधि मॉडल-अज्ञेयवादी (Model-Agnostic) है।
- उपमा: विभिन्न AI मॉडलों को अलग-अलग कार ब्रांडों (फोर्ड, टोयोटा, टेस्ला) के रूप में सोचें। अधिकांश उपकरण जो यह समझने के काम आते हैं कि वे कैसे काम करते हैं, वे केवल एक ही ब्रांड पर काम करते हैं। यह नया टूल एक यूनिवर्सल डायग्नोस्टिक स्कैनर की तरह है जो इंजन कैसे भी बना हो, किसी भी कार पर काम करता है।
वे यह भी दावा करते हैं कि यह पैरामीटर-मुक्त (Parameter-Free) है।
- उपमा: कई उपकरणों के लिए आपको परिणाम प्राप्त करने के लिए नॉब और डायल (सेटिंग्स) घुमाने की आवश्यकता होती है। यदि आप नॉब गलत घुमाते हैं, तो परिणाम बेकार होता है। इस टूल में कोई नॉब नहीं चाहिए; यह केवल उस गणित का उपयोग करता है जो AI पहले से ही कर रहा है। यह परिणामों को अधिक वस्तुनिष्ठ और विश्वसनीय बनाता है।
सारांश
यह शोध पत्र AI टेक्स्ट जनरेशन के लिए एक गणितीय "एक्स-रे" प्रस्तुत करता है। AI ने कुछ क्यों कहा, इसका अनुमान लगाने के बजाय, वे यह गणना करने के लिए प्रोबेबिलिटी मैथ का उपयोग करते हैं कि आपके प्रश्न का प्रत्येक शब्द उत्तर में कितना योगदान देता है। वे इसका उपयोग यह देखने के लिए करते हैं कि कौन से मॉडल स्थिर हैं, कौन से भ्रमित हैं, और कौन से शब्द AI के व्यवहार के वास्तविक चालक (drivers) हैं।
महत्वपूर्ण नोट: शोध पत्र पूरी तरह से मॉडल्स के गणित और स्थिरता को समझने पर केंद्रित है। यह दावा नहीं करता है कि यह AI के मतिभ्रम (hallucinations) को ठीक करता है, चिकित्सा स्थितियों का निदान करता है, या कानूनी मामलों को हल करता है, हालांकि यह सुझाव देता है कि इन संभावनाओं को समझना उपयोगकर्ताओं को AI के जनरेशन के "अनिश्चित या अस्थिर" हिस्सों पर ध्यान केंद्रित करने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।