Categorical Perception in Large Language Model Hidden States: Structural Warping at Digit-Count Boundaries
यह शोध पत्र प्रदर्शित करता है कि बड़े भाषा मॉडल (large language models) अंक-गणना सीमाओं (जैसे, 10 और 100) पर अपने हिडन स्टेट्स (hidden states) में कैटेगोरिकल परसेप्शन जैसी ज्यामितीय विकृति (geometric warping) प्रदर्शित करते हैं, जो एक ऐसी घटना है जो अर्थ संबंधी ज्ञान के बजाय संरचनात्मक टोकनाइज़ेशन विच्छेदन (structural tokenization discontinuities) द्वारा संचालित होती है, और यह मॉडल आर्किटेक्चर के आधार पर या तो स्पष्ट वर्गीकरण या विशुद्ध रूप से ज्यामितीय विरूपण के रूप में प्रकट होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक लंबी, चिकनी सड़क को देख रहे हैं। जैसे-जैसे आप उस पर गाड़ी चला रहे हैं, मील के पत्थरों (mile markers) के बीच की दूरी बिल्कुल समान है। कंप्यूटर आमतौर पर संख्याओं को इसी तरह देखता है: एक चिकनी, निरंतर रेखा जहाँ 9, 10 से बस थोड़ा सा छोटा है, और 10, 11 से बस थोड़ा सा छोटा है।
लेकिन इस शोध पत्र ने पता लगाया है कि आधुनिक AI (लार्ज लैंग्वेज मॉडल्स) के "मस्तिष्क" में कुछ अजीब हो रहा है। जब ये AI संख्याओं को देखते हैं, तो उनका दुनिया का आंतरिक मानचित्र अचानक विशिष्ट स्थानों पर विकृत (warp) हो जाता है, ठीक वैसे ही जैसे किसी रबर की शीट को खींचा जा रहा हो।
यहाँ उस खोज की कहानी दी गई है, जिसे सरल अवधारणाओं में विभाजित किया गया है।
1. "रबर शीट" प्रभाव (कैटेगोरिकल परसेप्शन)
मानव मनोविज्ञान में, एक प्रसिद्ध विचार है जिसे कैटेगोरिकल परसेप्शन (Categorical Perception) कहा जाता है। इसका अर्थ है कि हमारे मस्तिष्क चीज़ों के साथ अलग तरह से व्यवहार करते हैं जब वे एक "सीमा" को पार करती हैं।
- उपमा: एक रंग चक्र (color wheel) की कल्पना करें। लाल और नारंगी एक-दूसरे के ठीक बगल में हैं। लेकिन यदि आप उनके बीच की रेखा पर खड़े होते हैं, तो आपका मस्तिष्क अचानक कहता है, "वाह, ये पूरी तरह से अलग रंग हैं!" भले ही भौतिक परिवर्तन बहुत मामूली हो। आप "लाल" और "नारंगी" के बीच का अंतर, लाल के दो अलग शेड्स के बीच के अंतर की तुलना में कहीं बेहतर तरीके से बता सकते हैं।
शोधकर्ताओं ने पाया कि AI भी संख्याओं के साथ बिल्कुल ऐसा ही करता है, लेकिन एक बहुत ही विशिष्ट कारण से: संख्याओं को लिखने का तरीका।
2. कोड में "दरवाजा"
AI केवल संख्या के मूल्य (value) को नहीं देखता; वह उन अक्षरों (tokens) को भी देखता है जिनसे वह संख्या बनी है।
- संख्या 9: इसे "9" के रूप में लिखा जाता है। यह एक वर्ण (character) है।
- संख्या 10: इसे "10" के रूप में लिखा जाता है। यह दो वर्णों से बना है।
AI के लिए, 9 से 10 का उछाल केवल मूल्य में एक छोटा सा कदम नहीं है। यह एक ऐसे दरवाजे से गुजरने जैसा है जहाँ फर्श अचानक अपना टेक्सचर बदल देता है। वह "दरवाजा" वह क्षण है जब एक एकल-अंक वाली संख्या दो-अंकों वाली संख्या बन जाती है।
शोध में पाया गया कि AI के मस्तिष्क के भीतर, 9 और 10 के बीच की दूरी अचानक बढ़ (stretch out) जाती है। ऐसा लगता है जैसे AI सोचता है कि 9 और 10, 8 और 9 की तुलना में बहुत अधिक दूर हैं, भले ही गणितीय रूप से वे समान दूरी पर हों। यह फिर से 99 और 100 (दो अंकों से तीन अंकों में परिवर्तन) पर होता है।
3. "AI मस्तिष्क" के दो प्रकार
शोधकर्ताओं ने छह अलग-अलग AI मॉडल का परीक्षण किया और इस "दरवाजे" के प्रति दो अलग-अलग प्रकार की प्रतिक्रियाएं पाईं:
- "क्लासिक" AI (Gemma, Qwen): ये मॉडल एक इंसान की तरह व्यवहार करते हैं। उनके पास न केवल फैला हुआ मानचित्र (ज्यामिति) है, बल्कि वे आपको यह बता भी सकते हैं। यदि आप उनसे पूछें, "क्या यह एकल-अंक या दो-अंकों वाली संख्या है?", तो वे उच्च आत्मविश्वास के साथ "एकल" या "दोहरे" कहेंगे। वे नियम जानते हैं।
- "स्ट्रक्चरल" AI (Llama, Mistral, Phi): इन मॉडलों के पास फैला हुआ मानचित्र तो है, लेकिन वे नियम नहीं बता सकते। यदि आप उनसे वही प्रश्न पूछते हैं, तो वे शायद गलत अनुमान लगाएंगे या भ्रमित हो जाएंगे।
- रूपक: एक ऐसे व्यक्ति की कल्पना करें जिसके पास एक बेहतरीन आंतरिक GPS है जो 9 और 10 के बीच एक विशाल खाई दिखाता है। लेकिन यदि आप उनसे पूछें, "क्या यहाँ कोई खाई है?" तो वे कंधे उचकाते हैं और कहते हैं, "मुझे नहीं पता।" वे इसे अपने "अंतरात्मा" (उनके भीतर के गणित) में महसूस करते हैं, लेकिन इसके बारे में बोल नहीं सकते।
यह एक बड़ी खोज है: आप श्रेणी (category) के अस्तित्व को जाने बिना भी उसकी ज्यामितीय संरचना प्राप्त कर सकते हैं।
4. "हॉट बनाम कोल्ड" टेस्ट
यह सिद्ध करने के लिए कि यह केवल संख्याओं के बारे में नहीं था, शोधकर्ताओं ने AI का तापमान (temperature) के साथ परीक्षण किया।
- हमारे पास "गर्म" और "ठंडा" के लिए शब्द हैं। एक सीमा (लगभग 22°C / 72°F) होती है जहाँ चीजें ठंडे से गर्म में बदल जाती हैं।
- परिणाम: AI ने इस सीमा पर अपने मानचित्र को नहीं फैलाया। क्यों? क्योंकि AI के टोकेनाइज़र (text को टुकड़ों में तोड़ने वाला हिस्सा) के लिए "21" और "23" शब्द एक जैसे दिखते हैं। कोड में कोई "दरवाजा" नहीं है।
- सबक: AI अपने मानचित्र को इसलिए नहीं फैला रहा है क्योंकि उसने सीखा है कि 10 विशेष है। वह इसे इसलिए फैला रहा है क्योंकि इनपुट का फॉर्मेट (format) बदल गया (एक अंक से दो अंक में)। डेटा का "आकार" मस्तिष्क को विकृत होने के लिए मजबूर करता है।
5. "अर्ली बनाम लेट" लेयर्स (छिपा हुआ कार्य)
AI मॉडल में प्रसंस्करण के कई स्तर (layers) होते हैं, जैसे एक गगनचुंबी इमारत की मंजिलें।
- ऊपरी मंजिलें (Top Floors): यह वह जगह है जहाँ AI का आंतरिक मानचित्र सबसे अधिक "फैला हुआ" और स्पष्ट दिखता है। यह सबसे अधिक पठनीय है।
- बेसमेंट (Basement): यह वह जगह है जहाँ वास्तविक काम होता है।
- ट्विस्ट: शोधकर्ताओं ने अलग-अलग मंजिलों पर AI के मस्तिष्क को "छूकर" (poke) देखा। जब उन्होंने ऊपरी मंजिलों को छुआ (जहाँ मानचित्र सबसे अच्छा दिख रहा था), तो कुछ नहीं हुआ। लेकिन जब उन्होंने बेसमेंट (शुरुआती परतों) को छुआ, तो AI का व्यवहार तुरंत बदल गया।
- रूपक: यह एक तैयार पेंटिंग को देखने जैसा है। कैनवास पर पेंटिंग (ऊपरी परत) एकदम सही दिखती है। लेकिन कलाकार ने अंतिम स्ट्रोक वहां नहीं लगाए; उन्होंने भारी काम बेसमेंट में मौजूद स्केचपैड पर किया था। AI के मस्तिष्क का "दृश्यमान" हिस्सा वह नहीं है जहाँ वास्तव में सोच चल रही है।
सारांश: इसका क्या अर्थ है?
- फॉर्मेट ही सर्वोपरि है: AI मॉडल श्रेणियों (जैसे एकल-अंक बनाम दो-अंकों वाली संख्या) का निर्माण केवल इसलिए करते हैं क्योंकि जिस तरह से हम संख्याओं को लिखते हैं, उससे फॉर्मेट बदल जाता है। उन्हें ऐसा करने के लिए गणित "सीखने" की आवश्यकता नहीं है; टेक्स्ट की संरचना ही उनके मस्तिष्क को विकृत होने के लिए मजबूर करती है।
- महसूस करना बनाम जानना: एक AI के पास किसी सीमा की गहरी, संरचनात्मक समझ (फैलाव को महसूस करना) हो सकती है, बिना यह बता पाने के कि वह नियम क्या है (जानना)।
- गहराई में देखें: सिर्फ इसलिए कि AI के मस्तिष्क का कोई हिस्सा "स्मार्ट" या "स्पष्ट" दिखता है, इसका मतलब यह नहीं है कि वह काम कर रहा है। असली जादू अक्सर शुरुआती, अव्यवस्थित परतों में छिपा होता है।
संक्षेप में, यह शोध पत्र दिखाता है कि हम चीजों को जिस तरह से लिखते हैं, वह बदल देता है कि मशीनें उनके बारे में कैसे सोचती हैं, जिससे उनके मन में अदृश्य "दीवारें" बन जाती हैं जो संख्याओं को अलग करती हैं, भले ही मशीन को इसका एहसास भी न हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।