Truth as a Trajectory: What Internal Representations Reveal About Large Language Model Reasoning
यह शोध पत्र "ट्रुथ ऐज़ अ ट्रैजेक्टरी" (TaT) को प्रस्तुत करता है, जो एक नवीन व्याख्यात्मकता विधि है जो स्थिर सक्रियणों (static activations) के बजाय लार्ज लैंग्वेज मॉडल्स में परत-वार ज्यामितीय विस्थापन (layer-wise geometric displacements) का विश्लेषण करती है, जो पॉलीसेमेंटिक फीचर्स और लेक्सिकल कन्फाउंड्स की सीमाओं को दूर करके वैध तर्क और स्प्यूरियस पैटर्न के बीच प्रभावी ढंग से अंतर करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह पता लगाने की कोशिश कर रहे हैं कि एक छात्र वास्तव में गणित की समस्या को समझ रहा है या केवल देखे गए शब्दों के आधार पर उत्तर का अनुमान लगा रहा है।
यदि आप केवल उनके द्वारा लिखे गए अंतिम उत्तर को देखते हैं, तो अंतर करना कठिन है। वे भाग्यवश सही उत्तर प्राप्त कर सकते हैं, या यदि वे अवधारणा को समझ भी गए हों, तो भी गलत उत्तर दे सकते हैं।
यह शोध पत्र बड़े भाषा मॉडल (LLMs)—जिन एआई चैटबॉट्स का हम आज उपयोग करते हैं—के "मस्तिष्क के भीतर झांकने" का एक नया तरीका पेश करता है। केवल अंतिम उत्तर को देखने के बजाय, लेखक प्रस्तावित करते हैं कि हमें उस पूरी यात्रा को देखना चाहिए जो एआई वहां तक पहुँचने के लिए तय करता है।
यहाँ उनके विचार, "ट्रुथ ऐज़ अ ट्रेजेक्टरी" (Truth as a Trajectory) का सरल उपमाओं के साथ विवरण दिया गया है।
1. पुराना तरीका: एक स्नैपशॉट लेना
समस्या:
वर्तमान में, शोधकर्ता एआई को समझने के लिए उसके मस्तिष्क के एक क्षण (आमतौर पर उसके प्रसंस्करण के बीच में) का "स्नैपशॉट" लेने का प्रयास करते हैं। वे पूछते हैं, "क्या यह विशिष्ट विचार पैटर्न 'विषाक्त' (toxic) है या 'सही' है?"
दोष:
लेखक कहते हैं कि यह किसी फिल्म को केवल एक फ्रेम देखकर आंकने जैसा है।
- यदि एआई "poison" (ज़हर) शब्द देखता है, तो एक स्नैपशॉट "खतरा!" चिल्ला सकता है, भले ही वाक्य हो "The poison ivy is dangerous to touch" (जो कि एक सुरक्षित, शैक्षिक वाक्य है)।
- एआई का मस्तिष्क अव्यवsted होता है। यह तथ्यों, व्याकरण और विशिष्ट शब्दों को एक साथ मिला देता है। एक एकल स्नैपशॉट यह बताने के लिए बहुत अधिक उलझा हुआ होता है कि क्या एआई वास्तव में तर्क कर रहा है या केवल एक पैटर्न को दोहरा रहा है जिसे उसने याद किया है।
2. नया तरीका: फिल्म देखना (ट्रेजेक्टरी/पथ)
समाधान:
लेखक सुझाव देते हैं कि हमें एक एकल फ्रेम नहीं देखना चाहिए। इसके बजाय, हमें परत-दर-परत, पहले शब्द से अंतिम शब्द तक एआई के विचारों में कैसे बदलाव आता है, उस पूरी फिल्म को देखना चाहिए।
वे इसे "ट्रुथ ऐज़ अ ट्रेजेक्टरी" कहते हैं।
उपमा: हाइकर (पगडंडी पर चलने वाला) बनाम शराबी
कल्पना कीजिए कि दो लोग एक पहाड़ी के नीचे से ऊपर (सही उत्तर) तक जाने की कोशिश कर रहे हैं।
- हाइकर (सही तर्क): वे एक सुचारू, स्थिर पथ पर चलते हैं। वे चट्टानों से बचने के लिए थोड़ा टेढ़ा-मेढ़ा चल सकते हैं, लेकिन उनकी समग्र दिशा सुसंगत है। वे लक्ष्य की ओर प्रगति कर रहे हैं।
- शराबी (भ्रामक तर्क): वे लड़खड़ाते हैं, गोल-गोल घूमते हैं, पीछे की ओर बड़े कदम लेते हैं, और फिर झटके से आगे बढ़ते हैं। उनका पथ ऊबड़-खाबड़, अराजक और तीखे, अचानक मोड़ों से भरा होता है।
लेखक का तर्क है कि सही तर्क एआई के मस्तिष्क में सूचना को संसाधित करते समय एक सुचारू, ज्यामितीय "पदचिह्न" छोड़ता है। गलत तर्क (या मतिभ्रम/hallucinations) एक ऊबड़-खाबड़, अराजक पदचिह्न छोड़ता है।
3. उन्होंने यह कैसे किया: "कदमों" को मापना
"एआई अभी क्या सोच रहा है?" पूछने के बजाय, उन्होंने पूछा, "पिछले कदम से इस कदम तक एआई की सोच कैसे बदली?"
- विस्थापन (Displacement): उन्होंने परतों के बीच एआई द्वारा लिए गए "कदम" को मापा।
- वेग और वक्रता (Velocity & Curvature): उन्होंने यह देखा कि एआई कितनी तेज़ी से अपना विचार बदल रहा था और वह कितनी तीव्रता से मुड़ रहा था।
उन्होंने पाया कि जब एक एआई सही ढंग से तर्क करता है, तो उसके आंतरिक "कदम" सुचारू और सुसंगत होते हैं। जब वह अनुमान लगा रहा होता है या झूठ बोल रहा होता है, तो उसके आंतरिक कदम झटकेदार और अनिश्चित होते हैं।
4. परिणाम: यह क्यों मायने रखता है
शोधकर्ताओं ने कई अलग-अलग कार्यों पर इसका परीक्षण किया:
- तर्क पहेलियाँ (Logic Puzzles): क्या एआई एक पहेली सुलझा सकता है?
- विषाक्तता (Toxicity): क्या एआई बुरा व्यवहार कर रहा है?
बड़ी जीत:
पुराने तरीके (स्नैपशॉट) आसानी से धोखा खा जाते थे। यदि आपने शब्दों को थोड़ा बदल दिया, तो वे विफल हो जाते थे। नया "ट्रेजेक्टरी" तरीका एक सुपर-डिटेक्टिव की तरह था।
- यह पहचान सकता था कि कोई व्यक्ति बुरा शब्द बोल रहा है (जैसे किसी कहानी में खलनायक को उद्धृत करना) और किसी के बुरे होने के इरादे के बीच अंतर।
- यह तब भी काम करता था जब एआई किसी ऐसे बिल्कुल नए विषय के बारे में बात कर रहा हो जिसे उसने पहले नहीं देखा था। इसने विशिष्ट शब्दों के बजाय अच्छे तर्क के आकार को पहचाना।
5. निष्कर्ष
एआई के मस्तिष्क को एक फैक्ट्री असेंबली लाइन की तरह समझें।
- पुराना तरीका: आप लाइन के अंत में उत्पाद की जाँच करते हैं। यदि यह अच्छा दिखता है, तो आप मान लेते हैं कि फैक्ट्री अच्छी तरह से काम कर रही है।
- नया तरीका (TaT): आप कन्वेयर बेल्ट को देखते हैं। आप देखते हैं कि पुर्जों को सुचारू रूप से जोड़ा जा रहा है या मशीन अटक रही है और बेतरतीब ढंग से पुर्जे उगल रही है।
यह एक बड़ी बात क्यों है?
इसका अर्थ है कि हम बेहतर एआई सुरक्षा प्रणाली बना सकते हैं। केवल बुरे शब्दों को रोकने के बजाय, हम यह पता लगा सकते हैं कि क्या एआई खतरनाक या अतार्किक तरीके से सोच रहा है, भले ही वह विनम्र भाषा का उपयोग कर रहा हो। यह हमें एआई पर केवल इसलिए भरोसा करने में मदद करता है क्योंकि वह सही बात कहता है, बल्कि इसलिए भी क्योंकि हम उसे सही काम करते हुए देख सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।