Numerical Instability and Chaos: Quantifying the Unpredictability of Large Language Models
यह शोध पत्र यह प्रदर्शित करके लार्ज लैंग्वेज मॉडल्स (LLMs) की संख्यात्मक अस्थिरता (numerical instability) की जांच करता है कि कैसे परिमित फ्लोटिंग-पॉइंट प्रिसिजन (finite floating-point precision) शुरुआती ट्रांसफॉर्मर परतों में एक अराजक "एवलेंच इफेक्ट" (avalanche effect) को सक्रिय करता है, जो तीन विशिष्ट व्यवहारिक अवस्थाओं—स्थिर, अराजक और सिग्नल-प्रधान—की ओर ले जाता है जो मौलिक रूप से मॉडल्स की अप्रत्याशितता और विश्वसनीयता को नियंत्रित करती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "न्यूमेरिकल इनस्टेबिलिटी एंड केऑस: क्वांटिफाइंग द अनप्रेडिक्टेबिलिटी ऑफ लार्ज लैंग्वेज मॉडल्स" (Numerical Instability and Chaos: Quantifying the Unpredictability of Large Language Models) पेपर का सरल भाषा में अनुवाद दिया गया है।
बड़ी तस्वीर: AI एजेंट कभी-कभी पागल क्यों हो जाते हैं
कल्पना कीजिए कि आपने एक जटिल प्रोजेक्ट, जैसे कि अंतरिक्ष मिशन की योजना बनाने के लिए, बुद्धिमान रोबोटों (AI एजेंटों) की एक टीम बनाई है। आप उन्हें बिल्कुल एक ही निर्देश, बिल्कुल एक ही कंप्यूटर पर, और बिल्कुल एक ही समय पर देते हैं। आप उम्मीद करते हैं कि वे हर बार बिल्कुल एक ही योजना बनाएंगे।
लेकिन कभी-कभी, वे ऐसा नहीं करते। एक रोबोट कहता है, "चलो मंगल ग्रह चलते हैं," और दूसरा कहता है, "नहीं, चलो चंद्रमा पर चलते हैं," भले ही उन्होंने एक ही डेटा से शुरुआत की हो।
यह शोध इस बात की जांच करता है कि ऐसा क्यों होता है। लेखकों ने पाया कि समस्या यह नहीं है कि AI "भ्रमित" है या सामान्य अर्थों में "हैलुसिनेट" (hallucinate) कर रहा है। इसके बजाय, समस्या गणितीय अराजकता (mathematical chaos) है जो कंप्यूटर द्वारा गणित करने के तरीके में मौजूद सूक्ष्म, अदृश्य खामियों के कारण होती है।
मुख्य समस्या: "राउंडिंग एरर एवलांच" (Rounding Error Avalanche)
कंप्यूटर इंसानों की तरह पूर्ण, अनंत संख्याओं में नहीं सोचते। वे "फ्लोटिंग-पॉइंट" (floating-point) संख्याओं का उपयोग करते हैं, जो एक ऐसे पैमाने की तरह हैं जिस पर निशान सीमित हैं। यदि आपके पास 3.14159265... जैसी संख्या है, तो कंप्यूटर को इसे 3.14159 तक राउंड करना पड़ सकता है।
एक साधारण गणितीय समस्या में, थोड़ा सा राउंडिंग करना मायने नहीं रखता। लेकिन एक लार्ज लैंग्वेज मॉडल (LLM) में, डेटा दर्जनों परतों के "न्यूरल नेटवर्क" (इन्हें एक लंबी, घुमावदार फिसलने वाली स्लाइड की तरह समझें) से होकर गुजरता है।
उपमा: स्नोबॉल इफेक्ट (Snowball Effect)
कल्पना कीजिए कि एक पहाड़ की चोटी पर एक बर्फ के गोले (snowball) पर धूल का एक छोटा सा कण गिरता है।
- एवलांच (हिमस्खलन): जैसे ही बर्फ का गोला पहाड़ से नीचे लुढ़कता है (AI की परतों के माध्यम से), वह धूल का कण बर्फ के गोले को और अधिक बर्फ इकट्ठा करने के लिए प्रेरित करता है। जब तक वह नीचे पहुँचता है, वह छोटा सा कण एक विशाल हिमस्खलन में बदल चुका होता है जो गाँव को तबाह कर देता है (AI का आउटपुट)।
- सपाट सड़क: कभी-कभी, वही धूल का कण सड़क के एक सपाट हिस्से पर गिरता है। वह बस वहीं पड़ा रहता है, और बर्फ का गोला बिना दिशा बदले उसके पास से निकल जाता है।
पेपर में पाया गया कि LLMs एक ऐसे पहाड़ की तरह हैं जहाँ ऊँची खड़ी चट्टानें और सपाट सड़कें दोनों मौजूद हैं। एक सूक्ष्म त्रुटि या तो पूरी तरह से गायब हो सकती है या फिर एक विशाल परिवर्तन में विस्फोट कर सकती है, यह इस पर निर्भर करता है कि वह ठीक कहाँ गिरी है।
AI के तीन "मौसम क्षेत्र" (Weather Zones)
लेखकों ने तीन अलग-अलग क्षेत्रों की पहचान की है जहाँ AI थोड़ा बदलाव करने पर अलग तरह से व्यवहार करता है:
1. "फ्रोजन लेक" (Frozen Lake - जमी हुई झील)
- यह क्या है: आप AI को एक हल्का सा धक्का देते हैं, और कुछ नहीं होता। आउटपुट बिल्कुल वैसा ही रहता है।
- उपमा: कल्पना कीजिए कि एक जमी हुई झील पर एक भारी पत्थर को धकेलना। आप उसे धकेलते हैं, लेकिन वह एक इंच भी नहीं हिलता। AI अपने निर्णय में "जमा हुआ" है।
- महत्व: यह स्थिरता के लिए अच्छा है, लेकिन इसका मतलब है कि AI सूक्ष्म, संभावित रूप से महत्वपूर्ण विवरणों को अनदेखा कर रहा है।
2. "व्हर्लपूल" (Whirlpool - भंवर)
- यह क्या है: यह खतरनाक क्षेत्र है। एक छोटा सा धक्का (इतना छोटा जो इंसानों के लिए अदृश्य है) AI को बेतहाशा घुमा देता है और एक पूरी तरह से अलग उत्तर देता है।
- उपमा: कल्पना कीजिए कि एक घूमते हुए भंवर में रेत का एक दाना डालना। वह दाना सिर्फ डूबता नहीं है; वह पानी के प्रवाह में एक बड़ा बदलाव लाता है, जिससे पूरा भंवर एक नई दिशा में घूमने लगता है।
- निष्कर्ष: पेपर में पाया गया कि "निर्णय रेखाओं" (जहाँ AI दो उत्तरों के बीच अनिश्चित होता है, जैसे "हाँ" बनाम "नहीं") के पास, AI अविश्वसनीय रूप से नाजुक होता है। एक सूक्ष्म गणितीय त्रुटि निर्णय को पलट सकती है।
3. "क्लियर सिग्नल" (Clear Signal - स्पष्ट संकेत)
- यह क्या है: आप इनपुट में एक बड़ा बदलाव करते हैं (जैसे प्रश्न को पूरी तरह से बदलना), और AI तार्किक रूप से प्रतिक्रिया देता है। गणितीय त्रुटियों का "शोर" (noise) वास्तविक अर्थ के नीचे दब जाता है।
- उपमा: यदि आप एक तेज़ रेडियो के ऊपर से नया निर्देश चिल्लाते हैं, तो स्टैटिक (गणितीय त्रुटियां) मायने नहीं रखता। आप संदेश को स्पष्ट रूप से सुनते हैं।
"मैजिक कॉइन" (Magic Coin) की खोज
शोधकर्ताओं ने कुछ दिलचस्प किया। उन्होंने AI को "धक्का" देने के लिए अलग-अलग "दिशाओं" का परीक्षण किया। गणित में, कुछ दिशाएं "मजबूत" (हिलाना आसान) होती हैं और कुछ "कमजोर" (हिलाना कठिन) होती हैं।
- पुराना सिद्धांत: हमें लगा था कि AI केवल "मजबूत" दिशाओं में अस्थिर होगा।
- नया निष्कर्ष: AI हर जगह अस्थिर है। चाहे आप इसे "मजबूत" दिशा में धकेलें या "कमजोर" दिशा में, परिणाम एक ही है: एक छोटी सी गणितीय त्रुटि या तो गायब हो जाती है या विस्फोट करती है।
रूपक: ताश के पत्तों के घर (house of cards) की कल्पना करें। आपको लग सकता है कि यह केवल तभी अस्थिर होता है जब आप ऊपर के कार्ड पर फूँक मारते हैं। लेकिन इस पेपर ने पाया कि यदि आप किसी भी कार्ड पर फूँक मारते हैं, चाहे वह छोटा हो या बड़ा, पूरा घर ढह सकता है। अस्थिरता AI के आर्किटेक्चर का एक सार्वभौमिक गुण है, न कि केवल किसी विशिष्ट कमजोर बिंदु का।
वास्तविक दुनिया के लिए यह क्यों मायने रखता है?
- मल्टी-एजेंट केऑस (Multi-Agent Chaos): यदि आपके पास AI एजेंटों की एक टीम है जो आपस में बात कर रही है, तो एक एजेंट एक संदेश भेज सकता है जिसमें एक छोटी सी राउंडिंग त्रुटि होती है। अगला एजेंट उसे प्राप्त करता है, और क्योंकि "एवलांच इफेक्ट" मौजूद है, वह संदेश की व्याख्या पूरी तरह से अलग तरह से करता है। यह समझाता है कि क्यों AI टीमें अक्सर योजनाओं पर सहमत होने में विफल रहती हैं (पेपर में उल्लेखित 23-31% विफलता दर)।
- सुरक्षा जोखिम: यदि कोई AI सेल्फ-ड्राइविंग कार या मेडिकल डायग्नोसिस सिस्टम को नियंत्रित कर रहा है, तो हमें यह जानने की आवश्यकता है कि क्या एक छोटी सी गणितीय गड़बड़ी उसे दीवार से टकराने या गलत निदान करने के लिए मजबूर कर सकती है।
- यह केवल "खराब कोड" नहीं है: आप इसे बेहतर कोड लिखकर या तेज़ कंप्यूटरों का उपयोग करके ठीक नहीं कर सकते। यह एक मौलिक नियम है कि कंप्यूटर संख्याओं को कैसे संभालते हैं। भले ही आप अत्यधिक सटीक गणित का उपयोग करें (जैसे हज़ार के बजाय दस लाख निशान वाला स्केल), आप समस्या को केवल एक छोटे स्तर पर धकेल रहे हैं; केऑस (अराजकता) अभी भी वहीं है।
समाधान: "नॉइज़ फ़िल्टर" (Noise Filter)
पेपर एक चतुर समाधान प्रस्तावित करता है जिसे नॉइज़ एवरेजिंग (Noise Averaging) कहा जाता है।
उपमा: कल्पना कीजिए कि एक हवादार कमरे में फुसफुसाहट सुनने की कोशिश करना। हवा (रैंडम गणितीय त्रुटियां) इसे सुनना कठिन बना देती है।
- समाधान: एक बार सुनने के बजाय, आप AI से उसी फुसफुसाहट को 100 बार सुनने के लिए कहते हैं जबकि हवा हर बार अलग दिशा में चल रही हो। फिर, आप परिणामों का औसत निकालते हैं।
- परिणाम: रैंडम हवा का शोर खुद को रद्द कर देता है, और वास्तविक फुसफुसाहट (वास्तविक AI तर्क) स्पष्ट हो जाती है।
शोधकर्ताओं ने दिखाया कि AI गणना को कुछ बार चलाने और परिणामों को औसत करने से, वे केऑस को "स्मूथ" (smooth out) कर सकते हैं और एक विश्वसनीय, स्थिर उत्तर प्राप्त कर सकते हैं।
सारांश
लार्ज लैंग्वेज मॉडल्स अत्यंत संवेदनशील उपकरणों की तरह हैं। वे इतने सूक्ष्म रूप से ट्यून किए गए हैं कि कंप्यूटर मैथ का सूक्ष्म, अदृश्य "स्टैटिक" कभी-कभी उन्हें उत्तरों के बीच झूलने या पूरी तरह से रुक जाने के लिए मजबूर कर सकता है। यह कोई बग नहीं है; यह इस बात की विशेषता है कि बड़े पैमाने पर डिजिटल गणित कैसे काम करता है। विश्वसनीय AI सिस्टम बनाने के लिए, हमें इन "केऑटिक ज़ोन" को समझने की आवश्यकता है और शोर को फ़िल्टर करने के लिए एवरेजिंग जैसे तरीकों का उपयोग करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।