🤖 machine learning

Lying Is Just a Phase: The Hidden Alignment Transition in Language Model Scaling

यह शोध पत्र भाषा मॉडलों में एक छिपे हुए "एलाइनमेंट ट्रांजिशन" (alignment transition) की पहचान करता है जहाँ तर्क और सत्यनिष्ठा एक महत्वपूर्ण पैमाने के आगे प्रति-सहसंबंधी (anticorrelated) से सहकारी (cooperative) होने की ओर स्थानांतरित हो जाते हैं, जो एक ऐसा चरण परिवर्तन (phase change) है जिसे मॉडल के आंतरिक विवरणों तक पहुँच प्राप्त किए बिना वास्तुशिल्प समायोजन, डेटा क्यूरेशन और प्रशिक्षण विधियों के माध्यम से पूर्वानुमानित और हेरफेर किया जा सकता है।

मूल लेखक: Adil Amin

प्रकाशित 2026-05-20

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Adil Amin

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Lying Is Just a Phase" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

मुख्य विचार: AI के "बढ़ते समय की मुश्किलें" (Growing Pains)

कल्प_ना कीजिए कि आप एक बच्चे को एक ही समय में बुद्धिमान और ईमानदार बनना सिखा रहे हैं। लंबे समय तक वैज्ञानिकों का मानना था कि जैसे-जैसे आप बच्चे को अधिक शिक्षा (अधिक "स्केल") देते हैं, वे स्वाभाविक रूप से बुद्धिमान और ईमानदार दोनों होते जाते हैं।

यह पेपर तर्क देता है कि AI मॉडल के लिए, यह हमेशा सच नहीं होता है। वास्तव में, एक विशिष्ट "बढ़ते समय की मुश्किल" वाला चरण होता है जहाँ बौद्धिक रूप से अधिक स्मार्ट होने से AI सच बोलने में और भी खराब हो जाता है।

लेखक इसे "अलाइनमेंट टैक्स" (Alignment Tax) कहते हैं। यह एक अस्थायी दंड की तरह है जो आप AI के बड़े होने के दौरान चुकाते हैं। लेकिन अच्छी खबर? यह प्रकृति का कोई नियम नहीं है। यह एक डिज़ाइन दोष है जिसे इंजीनियर ठीक कर सकते हैं।

1. सड़क पर यू-टर्न (U-Turn)

शोधकर्ताओं ने 16 अलग-अलग परिवारों के 63 विभिन्न AI मॉडलों का अध्ययन किया। उन्होंने दो चीजें मापीं:

तर्कशक्ति (Reasoning): AI पहेलियों (जैसे गणित की परीक्षा) को कितनी अच्छी तरह हल करता है।
सत्यनिष्ठा (Truthfulness): AI कितनी अच्छी तरह मनगढ़ंत बातें बनाने से बचता है (जैसे झूठ पकड़ने वाला टेस्ट)।

उन्होंने क्या पाया:

छोटे मॉडल ("टैक्स" चरण): जब AI छोटा होता है, तो उसे स्मार्ट बनाने से अक्सर वह सच बोलने में और भी खराब हो जाता है। यह उस किशोर की तरह है जो अपने नए विचारों में इतना आत्मविश्वासी हो जाता है कि वह कूल दिखने के लिए कहानियाँ बनाना शुरू कर देता है। यहाँ दोनों कौशल आपस में लड़ते हैं।
क्रिटिकल स्विच ( $N_c$ ): एक विशिष्ट आकार (कुछ मॉडलों के लिए लगभग 3.5 बिलियन पैरामीटर्स) है जहाँ यह बदल जाता है।
बड़े मॉडल ("बोनस" चरण): एक बार जब AI इस आकार की सीमा को पार कर लेता है, तो यह लड़ाई समाप्त हो जाती है। अब, इसे स्मार्ट बनाने से यह अधिक ईमानदार भी बनता है। दोनों कौशल एक सुव्यवस्थित मशीन की तरह मिलकर काम करने लगते हैं।

ध्यान देने वाली बात: लॉस कर्व (AI प्रगति को मापने का मानक तरीका) इसे नहीं दिखाता है। यह एक चिकनी, पूर्ण रेखा की तरह नीचे जाता हुआ दिखता है। कौशलों के बीच की यह "लड़ाई" मानक उपकरणों से अदृश्य रहती है, जो सतह के ठीक नीचे छिपी होती है।

2. यह आकार के बारे में नहीं है; यह रेसिपी के बारे में है

आप सोच सकते हैं, "ओह, तो हमें बस इसे ठीक करने के लिए बड़े मॉडल की ज़रूरत है।" पेपर कहता है: नहीं। आकार केवल एक सामग्री है।

"अलाइनमेंट टैक्स" वास्तव में एक डिज़ाइन विकल्प है। शोधकर्ताओं ने तीन "नॉब्स" (बटन/नियंत्रक) खोजे हैं जिन्हें इंजीनियर इस समस्या को ठीक करने के लिए घुमा सकते हैं, यहाँ तक कि बहुत छोटे मॉडलों में भी:

नॉब 1: बेहतर डेटा (एक "क्यूरेटेड डाइट"):
- उपमा: कल्पना कीजिए कि आप एक बच्चे को इंटरनेट की अफवाहों के बजाय केवल उच्च गुणवत्ता वाले, सत्यापित तथ्यों के साथ खिला रहे हैं।
- परिणाम: Phi मॉडल (1 बिलियन पैरामीटर वाला बहुत छोटा मॉडल), जो सुपर-क्लीन डेटा पर प्रशिक्षित है, एक 10-बिलियन पैरामीटर वाले मॉडल जितना ही ईमानदार और स्मार्ट है जो अव्यवस्थित वेब डेटा पर प्रशिक्षित है। "टैक्स" गायब हो जाता है क्योंकि डाइट बेहतर थी।
- उदाहरण: Qwen3 मॉडल में कोई "टैक्स" नहीं है क्योंकि उनका प्रशिक्षण डेटा सावधानीपूर्वक क्यूरेट किया गया था।
नॉब 2: व्यापक आर्किटेक्चर (एक "चौड़ा गलियारा"):
- उपमा: कल्पना कीजिए कि एक गलियारा है जहाँ दो लोग (तर्क और सत्य) एक ही समय में एक संकीर्ण दरवाजे से गुजरने की कोशिश कर रहे हैं। वे एक-दूसरे से टकराते हैं और लड़ते हैं। यदि आप दरवाजे को चौड़ा कर देते हैं, तो वे बिना टकराए अगल-बगल चल सकते हैं।
- परिणाम: समस्या मस्तिष्क की नहीं है; यह आउटपुट प्रोजेक्शन (वह अंतिम दरवाजा जिससे जानकारी गुजरती है) की है। यदि आप उस दरवाजे को चौड़ा करते हैं, तो लड़ाई रुक जाती है, भले ही मॉडल का आकार वही रहे।
नॉब 3: आर्किटेक्चर में बदलाव:
- उपमा: घर के ब्लूप्रिंट (नक्शे) को बदलना।
- परिणाम: नए डिज़ाइन (जैसे Gemma-4) इस "बढ़ते समय की मुश्किल" वाले चरण को पूरी तरह से छोड़ सकते हैं। एक 4-बिलियन पैरामीटर वाला Gemma-4, पुरानी पीढ़ी के 13-बिलमीटर पैरामीटर वाले मॉडल की तरह व्यवहार करता है।

3. समस्या कहाँ छिपी है?

शोधकर्ताओं ने AI के "मस्तिष्क" (अटेंशन हेड्स) के अंदर देखा।

आश्चर्य: मस्तिष्क के अंदर, तर्क और सत्य के लिए जिम्मेदार हिस्से वास्तव में दोस्ताना हैं। वे 95% समय सहयोग कर रहे हैं।
असली बाधा (Bottleneck): समस्या बिल्कुल अंत में होती है, जब AI को उत्तर देना होता है। यह एक समूह के दोस्तों द्वारा योजना पर सहमत होने जैसा है, लेकिन जो व्यक्ति समूह की ओर से बोल रहा है, उसके पास एक ऐसा माइक्रोफ़ोन है जो एक साथ दोनों आवाजों को ले जाने के लिए बहुत छोटा है। सिग्नल दब जाता है, और ऐसा लगता है कि वे लड़ रहे हैं।
समाधान: यदि आप उस वक्ता को एक बड़ा माइक्रोफ़ोन (चौड़ा आउटपुट लेयर) देते हैं, तो सहयोग स्पष्ट रूप से दिखाई देता है।

4. यह आपके लिए क्यों महत्वपूर्ण है

यह न मानें कि "बड़ा ही बेहतर है": यदि आप एक छोटा AI मॉडल (जैसे आपके फोन पर) उपयोग कर रहे हैं, तो केवल उसे बड़ा करने से झूठ बोलने की उसकी प्रवृत्ति ठीक नहीं हो सकती। यह इसे केवल एक ज़्यादा स्मार्ट झूठा बना सकता है।
"कपलिंग" (जुड़ाव) की जाँच करें: मॉडल को स्केल करने से पहले, आपको यह देखना चाहिए कि क्या उसके कौशल आपस में लड़ रहे हैं या सहयोग कर रहे हैं।
- यदि वे लड़ रहे हैं (नेगेटिव कपलिंग): तो केवल अधिक डेटा या आकार न जोड़ें। प्रशिक्षण की रेसिपी बदलें, मॉडल को चौड़ा करें, या डेटा को साफ करें।
- यदि वे सहयोग कर रहे हैं (पॉजिटिव कपलिंग): तो हाँ, इसे बड़ा बनाने से दोनों कौशल बेहतर होंगे।
"टैक्स" वैकल्पिक है: यह पेपर साबित करता है कि "अलाइनमेंट टैक्स" ब्रह्मांड का कोई स्थायी नियम नहीं है। यह वर्तमान इंजीनियरिंग प्रक्रिया में एक बग है जिसे पैच किया जा सकता है।

सारांश उपमा

AI प्रशिक्षण को पुल बनाने की तरह समझें।

पुराना दृष्टिकोण: जैसे-जैसे आप अधिक स्टील (पैरामीटर्स) जोड़ते हैं, पुल अपने आप मजबूत और सुरक्षित हो जाता है।
नया दृष्टिकोण: निर्माण के बीच में, अधिक स्टील जोड़ने से वास्तव में पुल डगमगा सकता है क्योंकि पुल के दोनों हिस्से विपरीत दिशाओं में खींच रहे होते हैं।
समाधान: आपको केवल अधिक स्टील की आवश्यकता नहीं है; आपको ब्लूप्रिंट (आर्किटेक्चर) बदलने या बेहतर सामग्री (क्यूरेटेड डेटा) का उपयोग करने की आवश्यकता है ताकि यह सुनिश्चित हो सके कि दोनों पक्ष एक साथ चलें। एक बार जब आप निर्माण के इस चरण को पार कर लेते हैं, तो पुल अविश्वसनीय रूप से मजबूत और सुरक्षित हो जाता है।

यह पेपर इंजीनियरों को एक डैशबोर्ड और उपकरण प्रदान करता है जिससे वे ठीक से जान सकें कि उनका मॉडल किस चरण में है, ताकि वे केवल "स्केल अप" करने के बजाय "ब्लूप्रिंट को ठीक करने" में समय बर्बाद न करें।

तकनीकी सारांश: "झूठ बोलना सिर्फ एक चरण है: भाषा मॉडल स्केलिंग में छिपा हुआ एलाइनमेंट ट्रांजिशन"

1. समस्या विवरण (Problem Statement)

वर्तमान स्केलिंग लॉ (scaling laws) कंप्यूट और पैरामीटर संख्या के फलन के रूप में मॉडल लॉस (loss) की सटीक भविष्यवाणी करते हैं, फिर भी वे यह बताने में विफल रहते हैं कि विभिन्न क्षमताएं आपस में कैसे परस्पर क्रिया करती हैं। क्षेत्र में प्रचलित धारणा यह है कि बेंचमार्क (जैसे, रीजनिंग, सत्यनिष्ठा, निर्देश पालन) स्वतंत्र प्रक्षेपवक्र (trajectories) के रूप में स्केल होते हैं। यह शोध पत्र उस धारणा को चुनौती देता है, यह तर्क देते हुए कि क्षमताएं युग्मित (coupled) हैं और उनकी परस्पर क्रिया एक तीव्र 'रेजीम ट्रांजिशन' (regime transition) से गुजरती है जो मानक लॉस कर्व्स में अदृश्य है।

विशेष रूप से, लेखक रीजनिंग (HellaSwag द्वारा मापी गई) और सत्यनिष्ठा (TruthfulQA द्वारा मापी गई) के बीच संबंध की जांच करते हैं। जबकि स्केल के साथ लॉस निरंतर घटता है, इन दो क्षमताओं के बीच सहसंबंध (correlation) स्थिर नहीं रहता है। यह शोध पत्र एक "फेज ट्रांजिशन" (phase transition) की पहचान करता है जहाँ रीजनिंग को स्केल करने से छोटे मॉडलों में सत्यनिष्ठा सक्रिय रूप से कम हो सकती है (जिसे "एलाइनमेंट टैक्स" रेजीम कहा जाता है), और फिर बड़े मॉडलों में एक सहकारी (cooperative) रेजीम में बदल जाती है जहाँ स्केलिंग दोनों को एक साथ बेहतर बनाती है।

2. कार्यप्रणाली (Methodology)

लेखक 16 परिवारों के 63 बेस मॉडलों में क्षमताओं के बीच परस्पर क्रिया को मापने के लिए कैपेबिलिटी कपलिंग एनालिसिस ऑफ फेज इमर्जेंस (CAPE) फ्रेमवर्क पेश करते हैं।

कपलिंग मेट्रिक्स (Coupling Metrics):
- लोकल कपलिंग ( $\gamma_{12}$ ): इसे एक ही परिवार के भीतर क्रमिक मॉडल आकारों के बीच डेरिवेटिव $\Delta TQA / \Delta HS$ के रूप में परिभाषित किया गया है। यह मापता है कि रीजनिंग सुधार की प्रति इकाई के लिए सत्यनिष्ठा कैसे बदलती है।
- पॉपुलेशन कपलिंग ( $r$ ): मॉडलों के एक पैनल में पियर्सन सहसंबंध (Pearson correlation)।
डेटा स्कोप: विश्लेषण में Pythia, OPT, BLOOM, Llama, Falcon, Qwen, Gemma, और Phi सहित 16 परिवारों के 70M से 70B पैरामीटर्स तक के 63 मॉडल शामिल हैं।
डायनामिकल मॉडलिंग: लेखक केवल Pythia डेटा के आधार पर बेंचमार्क प्रक्षेपवक्रों के लिए गवर्निंग ऑर्डिनरी डिफरेंशियल इक्वेशन (ODE) खोजने के लिए स्पार्स रिग्रेशन (PySINDि) का उपयोग करते हैं, और फिर होल्ड-आउट परिवारों (Llama-2) के लिए इसकी क्रॉस-प्रेडिक्शन क्षमता का परीक्षण करते हैं।
हस्तक्षेप विश्लेषण (Intervention Analysis): अध्ययन इस ट्रांजिशन के प्रभाव का परीक्षण करने के लिए तीन इंजीनियरिंग लीवर्स को अलग करता है:
1. विड्थ नॉर्मलाइजेशन (Width Normalization): स्कोर को मॉडल विड्थ ( $d_{model}$ ) से विभाजित करना।
2. डेटा क्यूरेशन (Data Curation): क्यूरेटेड/सिंथेटिक डेटा (Phi, Qwen3) पर प्रशिक्षित मॉडलों की तुलना वेब-स्केल डेटा वाले मॉडलों से करना।
3. आर्किटेक्चर (Architecture): विभिन्न मॉडल परिवारों और आंतरिक संरचनाओं (जैसे, Gemma-4 का PLE आर्किटेक्चर) की तुलना करना।
इंटरनल मैकेनिज्म प्रोबिंग: लेखक यह निर्धारित करने के लिए कि क्या "टैक्स" आंतरिक प्रतिनिधित्व संघर्षों या आउटपुट बॉटलनेक्स से उत्पन्न होता है, TransformerLens का उपयोग करके अटेंशन हेड्स और हिडन स्टेट्स का विश्लेषण करते हैं।

3. मुख्य परिणाम (Key Results)

द फेज ट्रांजिशन (The Phase Transition)

केंद्रीय अनुभवजन्य निष्कर्ष एक परिवार-निर्भर क्रिटिकल स्केल ( $N_c$ ) पर रीजनिंग और सत्यनिष्ठा के बीच कपलिंग में साइन फ्लिप (sign flip) है।

$N_c$ के नीचे (Tax Regime): क्षमताएं एंटी-कोरिलेट (anticorrelate) होती हैं। रीजनिंग को स्केल करने से सत्यनिष्ठा में गिरावट आती है। Pythia परिवार के लिए, $r = -0.989$ है।
$N_c$ के ऊपर (Bonus Regime): क्षमताएं सहयोग करती हैं। स्केलिंग दोनों को बेहतर बनाती है। विभिन्न परिवारों के बड़े मॉडलों के लिए, $r > +0.78$ है।
क्रिटिकल स्केल ( $N_c$ ): ट्रांजिशन पॉइंट आर्किटेक्चर और ट्रेनिंग रेसिपी के अनुसार भिन्न होता है।
- Pythia: $N_c \approx 3.5B$ पैरामीटर्स [2.9B, 13.4B]।
- OPT: $N_c \approx 0.12B$ ।
- Falcon: $N_c \approx 7B$ ।
- क्यूरेटेड मॉडल्स (Phi, Qwen3): $N_c$ प्रभावी रूप से सबसे छोटे परीक्षण किए गए मॉडल से नीचे शिफ्ट हो गया है, जिसका अर्थ है कि वे सभी परीक्षण किए गए स्केल्स पर सहकारी कपलिंग प्रदर्शित करते हैं।

लॉस कर्व्स ट्रांजिशन को मिस कर देते हैं (Loss Curves Miss the Transition)

मानक लॉस कर्व्स कोई दृश्यमान ट्रांजिशन नहीं दिखाते हैं; वे एक स्मूथ पावर लॉ ( $R^2 = 0.9994$ Pythia के लिए) का पालन करते हैं। रेजीम परिवर्तन पूरी तरह से कपलिंग (क्षमताओं के बीच क्रॉस-डेरिवेटिव) में मौजूद है, न कि लॉस या व्यक्तिगत बेंचमार्क स्कोर में। दो मॉडलों का लॉस समान हो सकता है, फिर भी वे अलग-अलग क्षमता चरणों (phases) में हो सकते हैं।

मैकेनिज्म: द आउटपुट-प्रोजेक्शन बॉटलनेक (The Output-Projection Bottleneck)

आंतरिक सहयोग (Internal Cooperation): परीक्षण किए गए 40 में से 38 मॉडलों में, शून्य अटेंशन हेड्स रीजनिंग और सत्यनिष्ठा के लिए प्रतिस्पर्धी प्रतिनिधित्व दिखाते हैं। हेड्स सार्वभौमिक रूप से सहकारी हैं (मीडियन कोसाइन सिमिलरिटी +0.52)।
बॉटलनेक: एंटी-कोरिलेशन आंतरिक संघर्ष से नहीं, बल्कि आउटपुट प्रोजेक्शन पर आयामी संपीड़न (dimensional compression) से उत्पन्न होता है। क्रिटिकल स्केल ( $N_c$ ) पर, आउटपुट लेयर नए रूप से विलय किए गए सहकारी आंतरिक प्रतिनिधित्व को व्यक्त करने के लिए बहुत संकीर्ण होती है।
साक्ष्य:
- विड्थ नॉर्मलाइजेशन: जब बेंचमार्क स्कोर को मॉडल विड्थ से नॉर्मलाइज़ किया जाता है, तो एंटी-कोरिलेशन सभी परीक्षण किए गए परिवारों के लिए पॉजिटिव में बदल जाता है।
- लेयर एनालिसिस: Pythia-1B (जो $N_c$ पर है) में, कपलिंग हिडन लेयर्स से आउटपुट लेयर तक घटती है (0.725 $\to$ 0.639), जबकि अन्य आकारों में यह बढ़ती है।
- हस्तक्षेप (Intervention): आउटपुट प्रोजेक्शन को एक व्यापक मैप से बदलने से बिना रिट्रेनिंग के कपलिंग वापस मिल जाती है।

प्रेडिक्टिव पावर (Predictive Power)

ODE डिस्कवरी: Pythia डेटा पर खोजा गया एक स्पार्स-रिग्रेशन ODE, Llama-2 बेंचमार्क को 5.6% मीन एब्सोल्यूट एरर (MAE) के साथ क्रॉस-प्रेडिक्ट करता है, जो पॉलीनोमियल बेसलाइन्स की तुलना में लगभग दोगुना सटीक है।
स्वतंत्र सत्यापन: OLMo (AI2), जिसे इस फ्रेमवर्क के ज्ञान के बिना स्वतंत्र रूप से प्रशिक्षित किया गया है, 1B पैरामीटर्स पर ट्रांजिशन बाउंड्री ( $\gamma_{12} = 0.000$ ) पर स्थित है, जो अनुमानित ट्रांजिशन स्केल की पुष्टि करता है।

इंजीनियरिंग लीवर्स (Engineering Levers)

"एलाइनमेंट टैक्स" को एक इंजीनियर योग्य बॉटलनेक के रूप में दिखाया गया है, न कि प्रकृति के नियम के रूप में।

डेटा क्यूरेशन: Qwen3, समान स्केल पर Qwen2.5 की तुलना में कपलिंग डिप (dip) को पूरी तरह से समाप्त कर देता है। Phi (1B), केवल डेटा क्यूरेशन के माध्यम से 10B वेब-ट्रेन्ड मॉडलों की कपलिंग से मेल खाता है।
आर्किटेक्चर: Gemma-4 (4B), आर्किटेक्चरल इनोवेशन (PLE) और डिस्टिलेशन के माध्यम से 13B+ स्टैंडर्ड मॉडलों की कपलिंग विशेषताएं प्राप्त करता है।
विड्थ: फिक्स्ड पैरामीटर काउंट पर मॉडल विड्थ बढ़ाने से टैक्स कम हो जाता है या समाप्त हो जाता है।

4. महत्व और दावे (Significance and Claims)

यह शोध पत्र तर्क देता है कि "एलाइनमेंट टैक्स" (छोटे मॉडलों में रीजनिंग और सत्यनिष्ठा के बीच का ट्रेड-ऑफ) प्रशिक्षण रेसिपी और आर्किटेक्चर का एक संरचनात्मक गुण (structural property) है, न कि बुद्धिमत्ता की एक अंतर्निहित सीमा।

पैराडाइम शिफ्ट: ट्रांजिशन क्रमिक नहीं बल्कि एक तीव्र रेजीम परिवर्तन है। $N_c$ के नीचे, केवल स्केलिंग पर्याप्त नहीं है और संभावित रूप से हानिकारक है; $N_c$ के ऊपर, स्केलिंग फायदेमंद हो जाती है।
व्यावहारिक निहितार्थ: उन संगठनों के लिए जो 7B पैरामीटर्स से कम के मॉडल तैनात कर रहे हैं (जैसे, ऑन-डिवाइस, एम्बेडेड), केवल पैरामीटर्स को स्केल करना इष्टतम रणनीति नहीं है। इसके बजाय, डेटा क्यूरेशन, आर्किटेक्चरल विड्थ, और विशिष्ट ट्रेनिंग रेसिपी सहकारी एलाइनमेंट प्राप्त करने के लिए अधिक प्रत्यक्ष उत्तोलन (leverage) प्रदान करते हैं।
डायग्नोस्टिक उपयोगिता: कपलिंग फेज को केवल एक मॉडल फैमिली में सार्वजनिक बेंचमार्क स्कोर का उपयोग करके निदान किया जा सकता है, जिसके लिए मॉडल के इंटरनल्स तक पहुंच की आवश्यकता नहीं है।
फ्रंटियर विस्तार: सहकारी रेजीम फ्रंटियर तक फैला हुआ है (34 मॉडल, 10 लैब्स), जहाँ उन्नत क्षमताएं (SWE-bench, GPQA) भी सकारात्मक कपलिंग ( $r = +0.72$ ) दिखाती हैं।

लेखक पहचाने गए बॉटलनेक लेयर पर एक्टिवेशन स्टीयरिंग के लिए एक ओपन-सोर्स टूल (cape-steer.py) और कपलिंग फेज को डायग्नोस करने और हस्तक्षेप सुझाने के लिए एक इंटरैक्टिव डैशबोर्ड (zehenlabs.com/cape) जारी करते हैं।

5. दायरा और सीमाएं (Scope and Limitations)

दावे परीक्षण किए गए बेंचमार्क पेयर्स के तहत 'कैपेबिलिटी कपलिंग' तक सीमित हैं। फ्रेमवर्क सार्वजनिक बेंचमार्क स्कोर पर निर्भर करता है और इसके लिए मॉडल वेट्स की आवश्यकता नहीं होती है। लेखक नोट करते हैं कि हालांकि क्यूरेटेड मॉडल्स में "टैक्स" समाप्त हो जाता है, लेकिन Qwen3 में "डेटा क्यूरेशन" बनाम अन्य रेसिपी परिवर्तनों के विशिष्ट मैकेनिज्म को एक पर्याप्त स्थिति (sufficient condition) के रूप में पहचाना गया है, न कि नियंत्रित एब्लेशन के रूप में। शोध पत्र स्पष्ट रूप से कहता है कि ट्रांजिशन एक डिज़ाइन पैरामीटर है, न कि एक भौतिक स्थिरांक (physical constant), और "टैक्स" छोटे मॉडलों का गुण नहीं है, बल्कि उनके आर्किटेक्चर और ट्रेनिंग डेटा के सापेक्ष एक विशिष्ट स्केल पर मौजूद मॉडलों का गुण है।