💻 computer science

Decision Potential Surface: A Theoretical and Practical Approximation of Large Language Model Decision Boundary

यह शोध पत्र लार्ज लैंग्वेज मॉडल (Large Language Model) के निर्णय सीमाओं (decision boundaries) को चित्रित करने के लिए एक सैद्धांतिक ढांचे के रूप में डिसीजन पोटेंशियल सरफेस (Decision Potential Surface - DPS) को प्रस्तुत करता है और K-DPS का प्रस्ताव करता है, जो एक व्यावहारिक एल्गोरिदम है जो केवल सीमित संख्या में नमूनों (samples) का उपयोग करके इन सीमाओं का अनुमान लगाता है और जिसका त्रुटि स्तर प्रमाणित रूप से नगण्य है।

मूल लेखक: Zi Liang, Zhiyao Wu, Haoyang Shang, Yulin Jin, Qingqing Ye, Huadi Zheng, Peizhao Hu, Haibo Hu

प्रकाशित 2026-05-22

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC0 1.0

मूल लेखक: Zi Liang, Zhiyao Wu, Haoyang Shang, Yulin Jin, Qingqing Ye, Huadi Zheng, Peizhao Hu, Haibo Hu

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक विशाल रसोई में एक विशाल, अति-बुद्धिमान शेफ के रूप में करें। जब आप शेफ को कोई प्रॉम्प्ट देते हैं (जैसे "एक बिल्ली के बारे में कहानी लिखें"), तो शेफ केवल एक व्यंजन नहीं चुनता; उनके पास अरबों संभावित वाक्यों (टोकन) का एक मानसिक मेनू होता है जो वे आगे परोस सकते हैं।

आमतौर पर, शेफ सबसे स्वादिष्ट लगने वाला एक वाक्य चुनता है। लेकिन कभी-कभी, दो या अधिक वाक्य लगभग समान रूप से स्वादिष्ट होते हैं। वह सटीक क्षण जहाँ शेफ दो विकल्पों के बीच झिझक रहा होता है, जिसे शोधकर्ता डिसीजन बाउंड्री (Decision Boundary) कहते हैं।

समस्या: एक अरब आयामों का मानचित्र

पारंपरिक मशीन लर्निंग में, इन "झिझक वाले क्षणों" (डिसीजन बाउंड्री) का मानचित्र बनाना कठिन है लेकिन संभव है। हालाँकि, आधुनिक LLMs के लिए, यह एक ऐसे शहर का मानचित्र बनाने जैसा है जिसमें 1,00,000 सड़कें हैं और जहाँ हर एक कदम के लिए प्रत्येक सड़क 1,00,000 और सड़कों में विभाजित होती है।

पेपर बताता है कि शेफ द्वारा लिए जा सकने वाले हर एक संभावित पथ का मानचित्र बनाने की कोशिश करना गणितीय रूप से असंभव है। संयोजनों की संख्या इतनी विशाल है (जैसे $10^{169,790}$ ) कि कोई भी कंप्यूटर कभी भी इसकी गणना नहीं कर पाएगा। पिछले अध्ययनों ने या तो इस जटिलता को अनदेखा किया या बहुत छोटे, नकली उदाहरणों का उपयोग किया जो वास्तविक AI व्यवहार को प्रतिबिंबित नहीं करते थे।

समाधान: "डिसीजन पोटेंशियल सरफेस" (DPS)

इस समस्या को हल करने के लिए, लेखक एक नया तरीका आविष्कार करते हैं जिसे डिसीजन पोटेंशियल सरफेस (DPS) कहा जाता है।

उपमा: एक पर्वत श्रृंखला
शेफ की निर्णय लेने की प्रक्रिया को पहाड़ों और घाटियों के परिदृश्य के रूप में कल्पना करें।

पहाड़ की ऊँचाई: यह उस आत्मविश्वास को दर्शाता है जो शेफ महसूस कर रहा है। यदि पहाड़ बहुत ऊँचा है, तो शेफ 100% आश्वस्त है कि कौन सा वाक्य चुनना है।
शून्य-ऊँचाई रेखा (समुद्र तल): यह डिसीजन बाउंड्री है। यह वह सटीक रेखा है जहाँ शेफ दो विकल्पों के बीच पूरी तरह से विभाजित होता है। यदि आप इस रेखा पर खड़े हैं, तो शेफ को पता नहीं चलता कि किस दिशा में जाना है।
घाटियाँ: ये वे क्षेत्र हैं जहाँ शेफ अनिश्चित है, और डिसीजन बाउंड्री के करीब मंडरा रहा है।

पेपर यह सिद्ध करता है कि यदि आप इस "समुद्र तल" की रेखा (जहाँ आत्मविश्वास शून्य है) को खोज लेते हैं, तो आपने सफलतापूर्वक डिसीजन बाउंड्री का मानचित्र बना लिया है।

जादुई ट्रिक: K-DPS (गिनने के बजाय सैंपलिंग करना)

बड़ा सवाल यह है: बिना हर शिखर पर चढ़े एक अनंत जटिल पर्वत श्रृंखला का मानचित्र कैसे बनाया जाए?

लेखक एक स्मार्ट शॉर्टकट प्रस्तावित करते हैं जिसे K-DPS कहा जाता है।

उपमा: स्वाद परीक्षण (The Taste Test)
शेफ द्वारा बनाए जा सकने वाले हर एक संभावित व्यंजन का स्वाद लेने की कोशिश करने के बजाय (जो असंभव है), शेफ को किसी दिए गए प्रॉम्प्ट के लिए केवल K रैंडम सैंपल (मान लीजिए 2,000 व्यंजन) चखने की आवश्यकता है।

यदि आप 2,000 रैंडम व्यंजन चखते हैं, तो आप लगभग निश्चित रूप से दो सबसे अच्छे व्यंजनों को पा लेंगे।
केवल उन शीर्ष दो की तुलना करके, आप उस स्थान पर पहाड़ की "ऊँचाई" का सटीक अनुमान लगा सकते हैं।

पेपर गणितीय रूप से सिद्ध करता है कि यह "स्वाद परीक्षण" (सैंपलिंग) पर्याप्त है। आपको पूरे मेनू की जाँच करने की आवश्यकता नहीं है। यदि आप पर्याप्त बार (K) सैंपल लेते हैं, तो आपके अनुमान और वास्तविक पहाड़ की ऊँचाई के बीच का अंतर बहुत कम हो जाता है।

उन्होंने क्या खोजा (प्रयोग)

लेखकों ने कई वास्तविक दुनिया के AI मॉडलों (जैसे Llama और Mistral) पर इस पद्धति का परीक्षण किया और कुछ दिलचस्प बातें पाईं:

अलाइनमेंट परिदृश्य को सुचारू बनाता है:
- अलाइनमेंट से पहले: एक अन-अलाइन्ड (unaligned) AI का "पर्वत परिदृश्य" ऊबड़-खाबड़ और तीखे, खतरनाक स्पाइक्स (spikes) से भरा होता है। ये स्पाइक्स "कमजोरियां" हैं जहाँ एक चालाक ट्रिक (जेलब्रैक) AI को कुछ हानिकारक कहने की ओर धकेल सकती है।
- अलाइनमेंट के बाद: जब AI को मददगार और हानिरहित होने के लिए प्रशिक्षित किया जाता है, तो परिदृश्य चिकना और सपाट हो जाता है। खतरनाक स्पाइक्स गायब हो जाते हैं। AI अब एक चौड़ी, सुरक्षित घाटी में है जहाँ वह स्वाभाविक रूप से हानिकारक अनुरोधों को अस्वीकार करता है। यह समझाता है कि क्यों अलाइन्ड मॉडल को धोखा देना कठिन होता है।
मशीन अनलर्निंग (Unlearning) अव्यवस्थित है:
- जब शोधकर्ता किसी AI को विशिष्ट जानकारी (जैसे कि वह पुस्तक जिस पर उसे प्रशिक्षित किया गया था) "भूलने" के लिए प्रेरित करते हैं, तो यह प्रक्रिया विनाशकारी हो सकती है।
- उनके मानचित्र का उपयोग करते हुए, उन्होंने देखा कि कुछ "अनलर्निंग" विधियों ने न केवल बुरी यादों को हटाया, बल्कि पूरे परिदृश्य को ही छिन्न-भिन्न कर दिया, जिससे चिकनी घाटियाँ ऊबड़-खाबड़ और अराजक परिदृश्य में बदल गईं। यह समझाता है कि क्यों AI अजीब व्यवहार करने लगता है या कुछ भूलने के लिए मजबूर होने के बाद अपना सामान्य ज्ञान खो देता है।

सारांश

यह पेपर हमें यह समझने के लिए एक नया "GPS" देता है कि AI मॉडल निर्णय कैसे लेते हैं।

पुराना तरीका: हर संभावित पथ की गणना करने की कोशिश करना (असंभव)।
नया तरीका (DPS): आत्मविश्वास स्तरों का एक 3D मानचित्र बनाना।
शॉर्टकट (K-DPS): सब कुछ कैलकुलेट करने के बजाय, एक सटीक मानचित्र बनाने के लिए बस कुछ हज़ार रैंडम सैंपल लेना।

यह शोधकर्ताओं को अंततः उन अदृश्य रेखाओं को "देखने" की अनुमति देता है जहाँ AI मॉडल एक उत्तर से दूसरे उत्तर में बदलते हैं, जिससे हमें यह समझने में मदद मिलती है कि वे कभी-कभी विफल क्यों होते हैं, वे सुरक्षित क्यों हैं, और उन्हें कैसे ठीक किया जाए।

तकनीकी सारांश: डिसीजन पोटेंशियल सरफेस (Decision Potential Surface - DPS)

समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) की निर्णय सीमाओं (decision boundaries) का विश्लेषण करना उनके मूल गुणों, जैसे कि तर्क (reasoning), इन-कॉन्टेक्स्ट लर्निंग, मतिभ्रम (hallucination) और स्मृति (memorization) को समझने के लिए महत्वपूर्ण है। हालांकि, मुख्यधारा के LLMs के लिए इन सीमाओं का निर्माण करना वर्तमान में गणनात्मक रूप से असंभव है। सीमित आउटपुट क्लासेज वाले पारंपरिक डीप न्यूरल नेटवर्क के विपरीत, LLMs विशाल शब्दावलियों (अक्सर >100,000 टोकन) पर कार्य करते हैं और अनुक्रमों (sequences) को ऑटो-रिग्रेसिव रूप से उत्पन्न करते हैं। लंबाई $N_r$ और शब्दावली आकार $V$ के एक अनुक्रम के लिए, आउटपुट स्पेस का आकार $V^{N_r}$ होता है, जिससे निर्णय क्षेत्रों (decision regions) का घातीय विस्फोट (exponential explosion) होता है (उदाहरण के लिए, Qwen-3 मॉडल के लिए $\approx 10^{169,790}$ )। मौजूदा दृष्टिकोण या तो समस्या को खिलौना बाइनरी क्लासिफिकेशन परिदृश्यों तक सीमित कर देते हैं या वास्तविक निर्माण के बिना निर्णय सीमाओं की अवधारणा का रूपक के रूप में उपयोग करते हैं, जिससे यह प्रश्न अनुत्तरित रह जाता है कि LLM की निर्णय सीमाओं को कुशलतापूर्वक और कठोरता से कैसे बनाया जाए।

कार्यप्रणाली (Methodology)

यह शोध पत्र डिसीजन पोटेंशियल सरफेस (DPS) और इसके व्यावहारिक सन्निकटन (approximation), K-DPS पर केंद्रित एक नया ढांचा प्रस्तावित करता है।

1. डिसीजन पोटेंशियल सरफेस (DPS)

लेखक DPS को इनपुट मैनिफोल्ड (input manifold) पर एक परिदृश्य (landscape) के रूप में परिभाषित करते हैं जहाँ प्रत्येक बिंदु संभावित आउटपुट्स के बीच "प्रतिस्पर्धा क्षमता" (competition potential) को एनकोड करता है।

डिसीजन पोटेंशियल फंक्शन (DPF): एक दिए गए इनपुट $x$ के लिए, DPF $\Phi^\infty_f(x)$ को शीर्ष-दो उत्पन्न अनुक्रमों ( $y_{1*}$ और $y_{2*}$ ) के लॉग-लाइक्लीहुड (log-likelihoods) के वर्ग अंतर के रूप में परिभाषित किया गया है:
$\Phi^\infty_f(x) = (\log P_f(y_{1*}|x) - \log P_f(y_{2*}|x))^2$
सैद्धांतिक समानता (Theoretical Equivalence): लेखक सिद्ध करते हैं कि DPS का शून्य-ऊंचाई आइसोहाइप्स (zero-height isohypse) (वह कंटूर लाइन जहाँ $\Phi^\infty_f(x) = 0$ है) गणितीय रूप से LLM की औपचारिक निर्णय सीमा (decision boundary) के समान है (उन इनपुट्स का सेट जहाँ दो अलग-अलग अनुक्रमों की जनरेशन प्रोबेबिलिटी समान और अधिकतम होती है)। इस सीमा द्वारा अलग किए गए क्षेत्र अनुक्रम स्पेस (sequence space) में वोरोनोई सेल्स (Voronoi cells) के अनुरूप होते हैं।
कॉन्फिडेंस पदानुक्रम (Confidence Hierarchy): गैर-शून्य आइसोहाइप्स ( $\epsilon$ -isohypses) शीर्ष दो उम्मीदवारों के बीच निरंतर कॉन्फिडेंस मार्जिन ( $\sqrt{\epsilon}$ नैट्स) के कंटूर का प्रतिनिधित्व करते हैं, जो इनपुट स्पेस को आत्मविश्वासी क्षेत्रों (confident regions), अनिश्चित क्षेत्रों (uncertain regions) और स्वयं सीमा में विभाजित करते हैं।

2. K-ग्रेन्ड डिसीजन पोटेंशियल सरफेस (K-DPS)

चूंकि सटीक DPF की गणना करने के लिए संपूर्ण आउटपुट स्पेस की गणना करना आवश्यक है (जो अव्यवहार्य है), लेखक सीमित सैंपलिंग का उपयोग करके एक अनुमान K-DPS का प्रस्ताव करते हैं।

सैंपलिंग तंत्र (Sampling Mechanism): व्यापक खोज के बजाय, K-DPS दिए गए इनपुट के लिए मॉडल के आउटपुट वितरण से $K$ स्वतंत्र और समान रूप से वितरित (i.i.d.) अनुक्रमों को सैंपल करके DPF का अनुमान लगाता है। इस सैंपल सेट के भीतर शीर्ष-दो अनुक्रमों ( $y^K_{1*}, y^K_{2*}$ ) का उपयोग अनुमानित पोटेंशियल $\Phi^K_f(x)$ की गणना के लिए किया जाता है।
जटिलता में कमी (Complexity Reduction): यह गणनात्मक जटिलता को $O(V^{2N_r})$ से घटाकर $O(K^2)$ कर देता है, जिससे औद्योगिक-स्तर के मॉडल्स के लिए विश्लेषण संभव हो जाता है।

3. सैद्धांतिक त्रुटि सीमाएं (Theoretical Error Bounds)

शोध पत्र K-DPS और आदर्श DPS के बीच अनुमान त्रुटि के लिए कठोर सैद्धांतिक गारंटी प्रदान करता है:

निरपेक्ष त्रुटि सीमा (Absolute Error Bound): त्रुटि $|\Phi^K_f(x) - \Phi^\infty_f(x)|$ उच्च संभावना के साथ बद्ध (bounded) है, जो $1/\sqrt{K}$ के साथ स्केल करती है।
अपेक्षित त्रुटि और अभिसरण (Expected Error and Concentration): अपेक्षित त्रुटि और टेल प्रोबेबिलिटी प्राप्त की गई है, जो यह दर्शाती है कि $K$ बढ़ने के साथ त्रुटि तेजी से केंद्रित (concentrate) होती है।
स्थानीय कैंडिडेट-सेट बाउंड (Local Candidate-Set Bound): लेखक "निकट-द्वितीय" (near-second) उम्मीदवारों के प्रोबेबिलिटी मास पर निर्भर एक सीमा पेश करते हैं, जो यह प्रदर्शित करती है कि यदि सैंपल सेट वास्तविक शीर्ष-1 और वास्तविक शीर्ष-2 के करीब एक उम्मीदवार को कैप्चर करता है, तो त्रुटि नगण्य होती है।

मुख्य योगदान (Key Contributions)

DPS की औपचारिक परिभाषा: डिसीजन पोटेंशियल फंक्शन और सरफेस का परिचय, यह सिद्ध करते हुए कि शून्य-ऊंचाई आइसोहाइप्स LLM निर्णय सीमा के समान है।
K-DPS एल्गोरिदम: एक व्यावहारिक, सीमित-सैंपलिंग अनुमान एल्गोरिदम का प्रस्ताव जो प्रमाणित छोटी त्रुटि के साथ निर्णय सीमा का अनुमान लगाने के लिए केवल $K$ सैंपल की आवश्यकता रखता है।
सैद्धांतिक गारंटी: निरपेक्ष त्रुटि सीमा, अपेक्षित त्रुटि सीमा और कंसंट्रेशन इनइक्वलिटीज का व्युत्पन्न, जो सैंपलिंग बजट ( $K$ ) और अनुमान सटीकता के बीच संबंध स्थापित करता है।
अनुभवजन्य सत्यापन (Empirical Validation): ओपन-सोर्स LLMs (जैसे Llama-3, Mistral, Tulu) पर व्यापक प्रयोगों के माध्यम से यह प्रदर्शित करना कि K-DPS व्यावहारिक सैंपलिंग बजट (जैसे $K \approx 2,500$ ) के साथ तेजी से अभिसरित होता है और मॉडल व्यवहार में व्याख्या योग्य ज्यामितीय परिवर्तनों को प्रकट करता है।

परिणाम और केस स्टडीज (Results and Case Studies)

लेखक अपनी व्याख्यात्मकता (interpretability) को प्रदर्शित करने के लिए K-DPS को दो महत्वपूर्ण क्षेत्रों में लागू करते हैं:

एलाइनमेंट विश्लेषण (Alignment Analysis): एलाइनमेंट से पहले और बाद के मॉडल्स (AdvBench प्रॉम्प्ट्स का उपयोग करके) की निर्णय सीमाओं को विज़ुअलाइज़ करने से पता चलता है कि एलाइन्ड मॉडल्स काफी अधिक सुचारू (smoother) और सपाट (flatter) निर्णय सतह प्रदर्शित करते हैं। अन-एलाइन्ड मॉडल्स में मौजूद उच्च-कॉन्फिडेंस "वल्नेरेबिलिटी स्पाइक्स" (vulnerability spikes) को समाप्त कर दिया जाता है, जो यह समझाता है कि एलाइनमेंट हानिकारक आउटपुट्स के संभावित संकीर्ण क्षेत्रों को हटाकर जेलब्रेक को कैसे कम करता है।
मशीन अनलर्निंग (Machine Unlearning): यह विधि अनलर्निंग एल्गोरिदम (जैसे ग्रेडिएंट एसेंट बनाम नेगेटिव प्रिफरेंस ऑप्टिमाइजेशन) के दुष्प्रभावों को विज़ुअलाइज़ करती है। यह प्रकट करती है कि सरल अनलर्निंग निर्णय मैनिफोल्ड के "कैटास्ट्रोफिक कोलैप्स" (catastrophic collapse) का कारण बन सकता है, जिससे भूलने योग्य कॉर्पस (forget corpus) से असंबंधित टेढ़े-मेढ़े, खंडित क्षेत्र बन जाते हैं। इसके विपरीत, रिटेंशन ट्रेनिंग वाले तरीके निर्णय सतह की सुगमता को बनाए रखते हैं।

महत्व और दावे (Significance and Claims)

शोध पत्र दावा करता है कि यह LLMs के लिए निर्णय सीमाओं का निर्माण करने वाला पहला अध्ययन है जिसमें सैद्धांतिक गारंटी और गणनात्मक व्यवहार्यता दोनों हैं।

व्यावहारिकता: यह निर्णय सीमाओं की सैद्धांतिक अवधारणा और ऑटो-रिग्रेसिव जनरेशन की व्यावहारिक बाधाओं के बीच के अंतर को पाटता है, जो खिलौना परिदृश्यों से आगे बढ़ता है।
व्याख्यात्मकता: डिसीजन पोटेंशियल सरफेस की "ऊंचाई" को विज़ुअलाइज़ करके, यह विधि उन घटनाओं को समझने के लिए एक ज्यामितीय लेंस प्रदान करती है जैसे कि मजबूती (robustness), एलाइनमेंट और अनलर्निंग डैमेज, जिन्हें पहले सीधे देखना कठिन था।
सैद्धांतिक कठोरता: ह्यूरिस्टिक अनसर्टेनिटी क्वांटिफिकेशन विधियों के विपरीत, K-DPS स्पष्ट त्रुटि सीमाओं के साथ एक सिद्धांत-आधारित, सीमा-जागरूक प्रमाणन (certification) प्रदान करता है, जो प्रतिमान को पोस्ट-हॉक स्कोरिंग से ज्यामितीय सीमा विश्लेषण की ओर ले जाता है।

लेखक लंबे, उच्च-एन्ट्रॉपी जनरेशन के संबंध में अपनी विनम्रता बनाए रखते हैं, यह नोट करते हुए कि हालांकि K-DPS सीमित-लंबाई के रिस्पॉन्स के लिए अच्छा काम करता है, बहुत लंबे आउटपुट (जैसे 8K टोकन) के लिए सटीक अनुक्रम-स्तरीय सीमा निर्माण में लुप्त होती संयुक्त संभावनाओं (vanishing joint probabilities) के कारण अंतर्निहित चुनौतियां हैं, जो ऐसे शासन के लिए टोकन-स्तरीय या प्रीफिक्स-कंडीशन्ड वेरिएंट का सुझाव देती हैं।