The Hard Decision Layer: Evidence for Committed Inference in Transformers
यह शोध पत्र "हार्ड डिसीजन लेयर" (HDL) की पहचान और पुष्टि करता है, जो ट्रांसफार्मर मॉडलों में एक स्वाभाविक वास्तुशिल्प गुण है जहाँ इन्फरेंस के दौरान उत्तरों की रैंकिंग अचानक स्थिर हो जाती है, जिससे सटीकता में महत्वपूर्ण सुधार होता है और कुशल तर्क एवं मॉडल स्टीयरिंग के लिए नई अंतर्दृष्टि प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, डिजिटल जासूस को रहस्य सुलझाते हुए देख रहे हैं। यह जासूस कोई व्यक्ति नहीं है, बल्कि एक "लार्ज लैंग्वेज मॉडल" (Large Language Model) है—एक प्रकार का कंप्यूटर मस्तिष्क जिसे भाषा को समझने और सवालों के जवाब देने के लिए टेक्स्ट के पहाड़ों पर प्रशिक्षित किया गया है। लंबे समय से, वैज्ञानिक इस बात से हैरान हैं कि ये डिजिटल जासूस कैसे काम करते हैं। वे जानते हैं कि इस जासूस के पास "सोचने" की कई परतें हैं, जैसे एक गगनचुंबी इमारत में पारदर्शी मंजिलों का एक ढेर। जैसे-जैसे एक सवाल नीचे की मंजिल से ऊपर की मंजिल तक जाता है, जासूस का उत्तर बदलता और खुद को परिष्कृत करता जाता है। लेकिन यहाँ बड़ा सवाल यह है: क्या जासूस शीर्ष मंजिल तक अपना मन बदलता रहता है, या वह वास्तव में बीच में ही अपना निर्णय ले लेता है? यह समझना बिल्कुल वैसा ही है जैसे यह जानना कि जासूस ठीक कब सुराग इकट्ठा करना बंद करता है और अंततः अपराधी की ओर उंगली उठाता है। यदि हम जानते हैं कि निर्णय कब होता है, तो हम इन कंप्यूटरों को तेज़, सस्ता और समझने में आसान बना पाएंगे, बजाय इसके कि उन्हें केवल रहस्यमय 'ब्लैक बॉक्स' के रूप में माना जाए जो उत्तर उगल देते हैं।
"द हार्ड डिसीजन लेयर" (The Hard Decision Layer) शीर्षक वाला यह शोध पत्र चार अलग-अलग AI मॉडलों (जिन्हें Qwen, Llama, Granite और Mistral नाम दिया गया है) के भीतर एक जासूसी अभियान चलाता है ताकि यह पता लगाया जा सके कि वे ठीक किस क्षण अनुमान लगाना बंद करते हैं और एक उत्तर के प्रति प्रतिबद्ध होते हैं। शोधकर्ताओं ने कुछ बेहद दिलचस्प खोजा: AI के "गगनचुंबी इमारत" में एक विशिष्ट मंजिल है जहाँ उत्तर अचानक लॉक हो जाता है। वे इसे हार्ड डिसीजन लेयर (HDL) कहते हैं। इस लेयर से पहले, AI का उत्तर का चुनाव अस्थिर होता है, जैसे कोई छात्र परीक्षा की पुस्तिका पलट रहा हो और हर कुछ सेकंड में अपना मन बदल रहा हो। लेकिन जैसे ही जानकारी HDL से टकराती है, संभावित उत्तरों की रैंकिंग अचानक स्थिर हो जाती है। यह ऐसा है जैसे AI अचानक कहता है, "ठीक है, मुझे मिल गया," और ऊपर की ओर की शेष यात्रा बस फिनिश लाइन तक एक शांत सैर है, जहाँ उत्तर बिल्कुल वैसा ही रहता है।
टीम ने पाया कि यह "निर्णय लेने वाला क्षण" बिना किसी विशेष प्रशिक्षण या नियमों के होता है जो AI को जल्दी रुकने के लिए कहें। यह AI की संरचना की एक स्वाभाविक आदत है। उदाहरण के लिए, Qwen मॉडल में, निर्णय 36 में से 25वीं लेयर पर ठोस होता है। Llama मॉडल में, यह 32 में से 18वीं लेयर पर पहले ही हो जाता है। जो बात अद्भुत है वह यह है कि इस लेयर के ठीक बाद, AI की सटीकता नाटकीय रूप से बढ़ जाती है। Qwen मॉडल के साथ एक परीक्षण में, सटीकता निर्णय लेयर पर ही 0.61 (एक बड़ी छलांग) बढ़ गई, और उसके बाद शायद ही कभी बदली। यह सुझाव देता है कि कई सवालों के लिए, AI ने इस विशिष्ट लेयर तक पहुँचते-पहुँचते अपनी सारी कठिन सोच पूरी कर ली है।
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या यह "निर्णय की मंजिल" केवल प्रशिक्षण का एक इत्तेफाक थी या यह एक स्थायी विशेषता थी। उन्होंने AI के प्रशिक्षण (फाइन-ट्यूनिंग) को बदलने और यहाँ तक कि प्रश्नों में विकल्पों की संख्या (तीन से पांच विकल्प) को बदलने की कोशिश की। परिणाम? हार्ड डिसीजन लेयर अपनी जगह पर टिकी रही। यह नहीं बदली, भले ही AI ने नई चीजें सीखीं या अलग-अलग पहेलियों का सामना किया। यह सुझाव देता है कि HDL इस बात का प्रमाण है कि ये मॉडल कैसे बने हैं, न कि केवल एक अस्थायी ट्रिक। दिलचस्प बात यह है कि उत्तरों के लिए उपयोग किए गए लेबल का प्रकार (जैसे A/B/C/D बनाम 1/2/3/4) यह प्रभावित करता था कि निर्णय की सीमा कितनी स्पष्ट थी, लेकिन लेयर वही रही।
तो, इसका क्या अर्थ है? वास्तव में, ये जटिल AI मॉडल अंतिम सेकंड तक अपने उत्तरों का पुनर्मूल्यांकन नहीं करते हैं। इसके बजाय, उनके पास एक प्राकृतिक "वापसी का बिंदु" (point of no return) होता है जहाँ वे एक विकल्प के प्रति प्रतिबद्ध होते हैं। यह खोज हमें AI तर्क (reasoning) के काम करने के तरीके का एक नया मानचित्र देती है, जो दिखाता है कि जादू एक विशिष्ट, अनुमानित स्थान पर होता है। यह सुझाव देता है कि हम ऐसे स्मार्ट, तेज़ सिस्टम बना सकते हैं जो ठीक जानते हैं कि कब सोचना बंद करना है और उत्तर देना शुरू करना है, जिससे सटीकता खोए बिना ऊर्जा और समय की बचत हो सके। लेखकों ने अपना कोड सार्वजनिक कर दिया है, दूसरों को उनके काम की जाँच करने और यह देखने के लिए आमंत्रित किया है कि क्या यह "हार्ड डिसीजन लेयर" अगली पीढ़ी के AI जासूसों के लिए एक सार्वभौमिक नियम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।