💬 NLP

KALAVAI: Predicting When Independent Specialist Fusion Works -- A Quantitative Model for Post-Hoc Cooperative LLM Training

यह शोध पत्र KALAVAI को प्रस्तुत करता है, जो एक मात्रात्मक ढांचा और प्रोटोकॉल है जो यह प्रदर्शित करता है कि स्वतंत्र रूप से प्रशिक्षित डोमेन-विशेषज्ञ LLMs को हल्के Mixture-of-Experts रूटिंग के माध्यम से प्रभावी ढंग से पोस्ट-हॉक संलयित (fuse) किया जा सकता है, जिसके प्रदर्शन लाभ एक विचलन-आधारित (divergence-based) सूत्र द्वारा अनुमानित हैं और कई मॉडल स्केल्स एवं भाषाओं में मान्य हैं।

मूल लेखक: Ramchand Kumaresan

प्रकाशित 2026-03-25

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ramchand Kumaresan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप दुनिया का सबसे बेहतरीन "स्विस आर्मी नाइफ" (Swiss Army Knife) जैसा AI बनाने की कोशिश कर रहे हैं। आमतौर पर, ऐसा करने के लिए आपको इंजीनियरों की एक विशाल, केंद्रीकृत टीम की आवश्यकता होती है जो एक ही विशाल कारखाने में मिलकर काम करे, और उन्हें एक साथ हर संभव प्रकार का डेटा खिलाना पड़े। लेकिन क्या होगा अगर वह कारखाना बहुत महंगा हो, या डेटा निजी हो (जैसे मेडिकल रिकॉर्ड या कानूनी रहस्य) और उसे इमारत से बाहर नहीं निकाला जा सके?

यहाँ आता है KALAVAI (जिसका तमिल में अर्थ "फ्यूजन" या "मिश्रण" है)। यह पेपर एक चतुर, लोकतांत्रिक तरीका प्रस्तावित करता है जिससे एक सुपर-AI बनाया जा सके, बिना किसी को अपना निजी डेटा साझा करने या व्यक्तिगत रूप से मिलने की आवश्यकता के।

यहाँ इसका सरल विवरण दिया गया है, कुछ रोजमर्रा के उदाहरणों का उपयोग करते हुए।

1. समस्या: "एक ही आकार सबके लिए" (One-Size-Fits-All) की बाधा

वर्तमान में, एक स्मार्ट AI बनाने के लिए बड़ी कंपनियाँ टेराबाइट्स डेटा को एक ही मॉडल में डाल देती हैं। यह एक ही छात्र को डॉक्टर, वकील, कवि और कोडर सभी एक साथ बनने के लिए सिखाने जैसा है। वे उन सभी में ठीक-ठाक हो सकते हैं, लेकिन वे किसी एक में बेहतरीन नहीं हो पाएंगे। इसके अलावा, केवल अमीर कंपनियाँ ही इस "ट्यूशन" (कंप्यूटिंग पावर) का खर्च उठा सकती हैं।

2. KALAVAI समाधान: "विशेषज्ञों की टीम"

एक विशाल मॉडल के बजाय, KALAVAI विशेषज्ञों के एक सहकारी समूह का सुझाव देता है।

चरण 1: साझा ब्लूप्रिंट। एक समन्वयक (coordinator) सभी को बिल्कुल एक ही "आधार" (base) AI मॉडल देता है (जैसे एक खाली नोटबुक जिसमें एक ही तरह का आउटलाइन हो)।
चरण 2: स्वतंत्र अध्ययन। दस अलग-अलग लोग (या संगठन) इस नोटबुक की एक प्रति लेते हैं।
- व्यक्ति A केवल मेडिकल डेटा का अध्ययन करता है।
- व्यक्ति B केवल कानूनी (Legal) डेटा का अध्ययन करता है।
- व्यक्ति C केवल योरूबा (Yoruba) (एक भाषा) डेटा का अध्ययन करता है।
- महत्वपूर्ण बात: वे एक-दूसरे से कभी बात नहीं करते। वे अपने नोट्स कभी साझा नहीं करते। वे बस अपने स्वयं के विषय का अपने तरीके से अध्ययन करते हैं।
चरण 3: "मिक्सिंग" पार्टी। एक बार जब सभी का अध्ययन पूरा हो जाता है, तो वे अपनी तैयार नोटबुक वापस लाते हैं।
चरण 4: स्मार्ट स्विचबोर्ड। एक छोटा, सरल "राउटर" प्रशिक्षित किया जाता है। इसका एकमात्र काम एक प्रश्न को देखना और कहना है, "ओह, यह एक मेडिकल सवाल है? इसे व्यक्ति A की नोटबुक के पास भेजें। यह एक कानूनी सवाल है? इसे व्यक्ति B के पास भेजें।"

परिणाम? आपको एक ऐसा मॉडल मिलता है जो हर चीज़ का मास्टर है क्योंकि यह तुरंत उस विशेषज्ञ की ओर स्विच कर सकता है जिसे उत्तर का सबसे अच्छा ज्ञान है।

3. जादुई सूत्र: "डाइवर्जेंस = लाभ" (Divergence = Gain)

इस पेपर ने यह पता लगाया कि यह टीम कितनी अच्छी होगी, इसका अनुमान लगाने के लिए एक आश्चर्यजनक रूप से सरल नियम है। वे इसे डाइवर्जेंस-गेन रिलेशनशिप कहते हैं।

इसे इस तरह सोचें:

यदि सभी एक ही चीज़ का अध्ययन करते हैं, तो उनके पास एक जैसे ही नोट्स होंगे। उन्हें मिलाने से कोई मदद नहीं मिलेगी।
यदि सभी मूल आधार से बहुत अलग कुछ पढ़ते हैं, तो वे सच्चे विशेषज्ञ बन जाते हैं।

पेपर ने एक गणितीय सूत्र पाया: विशेषज्ञ मूल बिंदु से जितने अलग होंगे, अंतिम टीम का प्रदर्शन उतना ही बेहतर होगा।

कम डाइवर्जेंस (Low Divergence): यदि विशेषज्ञों ने मूल मॉडल से बहुत कम सीखा है, तो टीम को लगभग कुछ भी लाभ नहीं होता है।
उच्च डाइवर्जेंस (High Divergence): यदि विशेषज्ञों ने कुछ ऐसा सीखा जो मूल मॉडल को पता ही नहीं था (जैसे कोई दुर्लभ भाषा या जटिल मेडिकल शब्दावली), तो टीम को जबरदस्त शक्ति मिलती है।

वास्तविक दुनिया का उदाहरण: टीम ने AI को योरूबा (एक भाषा जिसके बारे में मूल मॉडल को लगभग कुछ नहीं पता था) सिखाने की कोशिश की। मूल मॉडल इसमें बहुत खराब था (जैसे कि एक रैंडम अनुमान)। विशेषज्ञ ने इसे अच्छी तरह से सीखा। जब इन्हें मिलाया गया, तो योरूबा बोलने की AI की क्षमता 5.4 गुना बढ़ गई। यह मुश्किल से बोलने से लेकर धाराप्रवाह होने जैसा है।

4. खेल के नियम

पेपर ने यह सुनिश्चित करने के लिए "नियम" भी निर्धारित किए कि यह काम कैसे करे:

साथ शुरू करें: सभी को बिल्कुल एक ही आधार मॉडल से शुरू करना चाहिए। यदि आप अलग-अलग संस्करणों से शुरू करते हैं, तो "स्विचबोर्ड" भ्रमित हो जाता है और यह नहीं पहचान पाता कि विशेषज्ञ कौन है।
जल्दी फ्रीज़ न करें: यदि विशेषज्ञ थोड़े समय के लिए प्रशिक्षण लेते हैं, तो आपको उनके मस्तिष्क के कुछ हिस्सों को लॉक (freeze) करने की आवश्यकता नहीं है। लेकिन यदि वे लंबे समय तक अध्ययन करते हैं, तो आपको उनके मस्तिष्क की निचली परतों को लॉक कर देना चाहिए ताकि वे बुनियादी बातें न भूलें।
स्विचबोर्ड को सीखना चाहिए: आप केवल विशेषज्ञों को यादृच्छिक रूप से प्रश्न नहीं भेज सकते। आपको एक छोटा "राउटर" प्रशिक्षित करने की आवश्यकता है ताकि वह जान सके कि कौन सा विशेषज्ञ किस विषय को संभालता है। यदि आप केवल उनके उत्तरों का औसत निकालते हैं (जैसे वोट लेना), तो मॉडल वास्तव में और खराब हो जाता है।

5. यह क्यों मायने रखता है (अहा! क्षण)

सबसे रोमांचक हिस्सा यह है कि यह AI का लोकतंत्रीकरण करता है।

गोपनीयता (Privacy): एक अस्पताल रोगी के डेटा को किसी टेक दिग्गज को दिखाए बिना एक मेडिकल विशेषज्ञ को प्रशिक्षित कर सकता है।
भाषा: एक छोटा समुदाय जो एक दुर्लभ भाषा बोलता है, एक ऐसा मॉडल बना सकता है जो उनकी भाषा को पूरी तरह से बोलता है, भले ही किसी बड़ी कंपनी को उसे प्रशिक्षित करने में कोई दिलचस्पी न हो।
लागत: आपको सुपरकंप्यूटर फार्म की आवश्यकता नहीं है। आपको बस कई छोटे कंप्यूटरों की आवश्यकता है जो स्वतंत्र रूप से काम करें, और फिर अंत में एक त्वरित "मिक्स" की आवश्यकता है।

एक कमी (The Catch)

इसमें एक ट्रेड-ऑफ है। इस सुपर-मॉडल का उपयोग करने के लिए, आपके कंप्यूटर को एक ही समय में सभी विशेषज्ञों को चलाना होगा (भले ही राउटर केवल एक का उपयोग करता हो)। यह एक कमरे में 10 विशेषज्ञों की टीम रखने जैसा है, लेकिन एक समय में केवल एक ही बोलता है। मॉडल को बनाने में यह बहुत कम लागत वाला है, लेकिन इसे इस्तेमाल करने में यह थोड़ा अधिक खर्च करता है।

सारांश

KALAVAI एक "सुपर-AI" बनाने की एक रेसिपी है, जिसमें कई छोटे, स्वतंत्र विशेषज्ञों को अपना होमवर्क खुद करने दिया जाता है और फिर हर सवाल के लिए सही विशेषज्ञ को चुनने के लिए एक स्मार्ट मैनेजर को काम पर रखा जाता है। यह साबित करता है कि स्मार्ट होने के लिए आपको एक विशाल, केंद्रीकृत मस्तिष्क की आवश्यकता नहीं है; आपको बस विशेषज्ञों की एक विविध टीम की आवश्यकता है जो मिलकर काम करती हो।

यहाँ शोध पत्र "KALAVAI: Predicting When Independent Specialist Fusion Works" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

फ्रंटियर लार्ज लैंग्वेज मॉडल्स (LLMs) को प्रशिक्षित करने के लिए केंद्रीकृत कंप्यूट संसाधनों (सैकड़ों GPUs) की आवश्यकता होती है जो अधिकांश शोधकर्ताओं और संस्थानों के लिए सुलभ नहीं हैं। हालांकि मौजूदा मॉडल्स को फाइन-ट्यून करना आम है, लेकिन यह एक एकल इकाई के डेटा और डोमेन ज्ञान तक सीमित है।

चुनौती: कैसे कई स्वतंत्र योगदानकर्ता, जो गोपनीयता या संसाधन बाधाओं के कारण डेटा या ग्रेडिएंट्स साझा नहीं कर सकते, सामूहिक रूप से एक ऐसा मॉडल बना सकते हैं जो किसी भी एकल विशेषज्ञ या उसी कुल कंप्यूट पर प्रशिक्षित केंद्रीकृत मॉडल से बेहतर प्रदर्शन करे?
अंतराल (The Gap): जबकि "ब्रान्च-ट्रेन-मिक्स" (BTX) प्रतिमान मौजूद हैं, इस बात की कोई अनुभवजन्य समझ नहीं है कि स्वतंत्र फ्यूजन कब सफल होता है, इसके लिए किन स्थितियों की आवश्यकता है (जैसे, फ्रोजन लेयर्स, रूटिंग), और प्रशिक्षण शुरू होने से पहले प्रदर्शन लाभ का पूर्वानुमान कैसे लगाया जाए।

2. कार्यप्रणाली: KALAVAI प्रोटोकॉल (Methodology: The KALAVAI Protocol)

KALAVAI (तमिल में "फ्यूजन" का अर्थ) एक चार-चरणीय, शून्य-संचार प्रोटोकॉल के माध्यम से सहकारी प्रशिक्षण को संचालित करता है:

साझा प्रारंभिक अवस्था (Shared Initialization): एक समन्वयक सभी योगदानकर्ताओं को एक ही, समान बेस चेकपॉइंट ( $\theta_0$ ) वितरित करता है। यह प्रतिनिधिक अनुकूलता (representational compatibility) सुनिश्चित करता है।
स्वतंत्र विशेषज्ञ प्रशिक्षण (Independent Specialist Training): प्रत्येक योगदानकर्ता अपने विशिष्ट डोमेन (जैसे, मेडिकल, कोड, एक विशिष्ट भाषा) पर $\theta_0$ $θ_{0}$ की एक प्रति को अपने निजी डेटा का उपयोग करके फाइन-ट्यून करता है।
- प्रशिक्षण: योगदानकर्ता मानक नेक्स्ट-टोकन प्रेडिक्शन लॉस का उपयोग करते हैं।
- बाधाएं: कोई डेटा, ग्रेडिएंट्स या एक्टिवेशन साझा नहीं किया जाता है। योगदानकर्ता अलग-अलग हार्डवेयर या हाइपरपैरामीटर्स का उपयोग कर सकते हैं (हालांकि प्रोटोकॉल मामूली विविधताओं के प्रति मजबूत है)।
- फ्रीजिंग (Freezing): वैकल्पिक रूप से, साझा निम्न-स्तरीय प्रतिनिधित्व बनाए रखने के लिए पहले $K$ लेयर्स को फ्रीज किया जा सकता है, हालांकि यह केवल 10,000 स्टेप्स से अधिक के ट्रेनिंग होराइजन के लिए अनिवार्य है।
चेकपॉइंट सबमिशन (Checkpoint Submission): योगदानकर्ता अपने अंतिम विशेषज्ञ चेकपॉइंट्स ( $\theta_i$ ) जमा करते हैं।
पोस्ट-हॉक MoE फ्यूजन (Post-Hoc MoE Fusion): एक हल्के वजन वाले राउटर को एक छोटे, मिश्रित-डोमेन डेटासेट (500 ग्रेडिएंट स्टेप्स) पर प्रशिक्षित किया जाता है ताकि विशेषज्ञों को संयोजित करने का तरीका सीखा जा सके।
- आर्किटेक्चर: राउटर एक लीनियर लेयर (या सरल MLP) है जो हिडन स्टेट्स को विशेषज्ञों के वितरण (distribution) पर मैप करता है।
- इन्फरेंस (Inference): सभी $N$ विशेषज्ञ समानांतर में चलते हैं। राउटर सभी विशेषज्ञों के लॉजिट वेक्टर्स को संयोजित करने के लिए वेट्स ( $g_t$ ) की गणना करता है: $\tilde{l}_t = \sum g_t^{(i)} \cdot l_{\theta_i, t}$ ।

3. मुख्य योगदान (Key Contributions)

A. प्रेडिक्टिव डाइवर्जेंस-गेन मॉडल (Predictive Divergence-Gain Model)

यह शोध पत्र बेस मॉडल से विशेषज्ञों के डाइवर्जेंस (विचलन) और फ्यूजन गेन (लाभ) के बीच एक मात्रात्मक संबंध स्थापित करता है।

फॉर्मूला: $\text{Gain} \approx 0.82 \times \text{Divergence} - 2.72$
मेट्रिक्स: 6 स्थितियों में $R^2 = 0.856$ (डाइवर्जेंस रेंज 3%–26%)।
निहितार्थ: अभ्यासकर्ता संसाधनों के लिए प्रतिबद्ध होने से पहले विशेषज्ञ डाइवर्जेंस को मापकर सहकारी प्रयास के मूल्य का अनुमान लगा सकते हैं। यदि डाइवर्जेंस <3.3% है, तो अनुमानित गेन शून्य के करीब है।

B. यांत्रिक अंतर्दृष्टि (Mechanistic Insights)

साझा प्रारंभिक अवस्था महत्वपूर्ण है: यह प्रतिनिधिक ज्यामिति (representational geometry) को सुरक्षित रखती है। बेमेल चेकपॉइंट्स रूटिंग की स्पष्टता को कम कर देते हैं, भले ही पूर्ण प्रदर्शन हानि कम दिखाई दे।
रूटिंग का सीखा जाना आवश्यक है: समान औसत (Equal Averaging) प्रदर्शन को कम कर देता है (सर्वश्रेष्ठ विशेषज्ञ की तुलना में $-1.2\%$ )। एक प्रशिक्षित राउटर ओरेकल-ऑप्टिमल रूटिंग प्राप्त करता है, जो सैद्धांतिक सर्वोत्तम स्थिर असाइनमेंट के साथ $<10^{-5}$ नैट्स का अंतर रखता है।
प्रशिक्षण अवधि क्रॉसओवर (Training Duration Crossover):
- < 10,000 स्टेप्स: फ्रोजन लेयर्स वैकल्पिक हैं; पीक गेन ~5,000 स्टेप्स पर होता है (+17.7%)।
- > 10,000 स्टेप्स: ओवर-स्पेशलाइजेशन और फ्यूजन गुणवत्ता में गिरावट को रोकने के लिए फ्रोजन लेयर्स आवश्यक हो जाते हैं।

C. क्षमता और गोपनीयता (Capacity and Privacy)

वितरित लाभ (Distributed Advantage): सहकारी मॉडल प्रत्येक डोमेन के लिए विशेषज्ञ गुणवत्ता के साथ-साथ प्राप्त करता है, जिसे मोनोलिथिक ट्रेनिंग नहीं कर सकती (मोनोलिथिक मॉडल अक्सर समग्र लॉस सुधारने के लिए विशिष्ट डोमेन पर प्रदर्शन का त्याग करते हैं)।
शून्य-डेटा-साझाकरण (Zero-Data-Sharing): यह प्रोटोकॉल उन डोमेन के लिए उच्च-प्रदर्शन वाले मॉडल सक्षम बनाता है जहाँ डेटा स्थानीय सुविधाओं (जैसे, अस्पताल, कानूनी फर्म) को नहीं छोड़ सकता है।

4. मुख्य परिणाम (Key Results)

विभिन्न स्केल्स पर प्रदर्शन

KALAVAI लगातार सर्वश्रेष्ठ व्यक्तिगत विशेषज्ञ और समान-कंप्यूट मोनोलिथिक बेसलाइन्स से बेहतर प्रदर्शन करता है:

Pythia-410M: सर्वश्रेष्ठ विशेषज्ञ से +7.72% सुधार।
Pythia-1B: +7.49% सुधार।
Pythia-6.9B: +6.53% सुधार।
नोट: 6.9B पर गेन कम है क्योंकि विशेषज्ञ बेस मॉडल से कम विचलित हुए थे (8.73% बनाम ~15.5% छोटे स्केल्स पर), न कि इसलिए कि प्रोटोकॉल विफल हुआ। बड़े मॉडल वास्तव में डाइवर्जेंस को अधिक कुशलता से परिवर्तित करते हैं (0.75x दर बनाम 0.49x)।

उच्च-डाइवर्जेंस परिदृश्य (फेज 2)

निजी डोमेन (मेडिकल/लीगल/पेटेंट): 18.52% औसत डाइवर्जेंस के साथ +10.17% गेन प्राप्त किया।
क्रॉस-लिंगुअल फ्यूजन (तमिल/योरुबा/वेल्श/कोड): 25.65% डाइवर्जेंस के साथ +21.76% गेन प्राप्त किया।
- योरुबा पर्प्लेक्सिटी (Yoruba Perplexity): 41.9 से 7.7 तक गिरी (5.4x सुधार)।
- वेल्श पर्प्लेक्सिटी (Welsh Perplexity): 102.7 से 22.1 तक गिरी (4.6x सुधार)।
20-कंट्रीब्यूटर फेडरेशन: 10 भाषाओं और 10 डोमेन के मिश्रण ने सर्वश्रेष्ठ विशेषज्ञ से +16.71% गेन प्राप्त किया।

रूटिंग संतृप्ति (Routing Saturation)

सीखा हुआ राउटर ओरेकल-ऑप्टिमल रूटिंग प्राप्त करता है। 410M और 6.9B स्केल्स पर, राउटर का टोकन असाइनमेंट सैद्धांतिक इष्टतम स्थिर असाइनमेंट से नगण्य त्रुटि ( $<10^{-5}$ नैट्स) के साथ मेल खाता है। यह सिद्ध करता है कि बाधा राउटर आर्किटेक्चर (एक सरल लीनियर लेयर पर्याप्त है) नहीं है, बल्कि विशेषज्ञ प्रतिनिधित्व की गुणवत्ता है।

5. महत्व और निहितार्थ (Significance and Implications)

प्रशिक्षण का लोकतंत्रीकरण: KALAVAI उन समूहों को केंद्रित फ्रंटियर मॉडल्स के बराबर मॉडल बनाने की अनुमति देता है जिनके पास सीमित कंप्यूट है (जैसे, कम संसाधन वाली भाषा समुदाय, छोटे अनुसंधान लैब), बशर्ते वे $N$ मॉडल्स को चलाने की इन्फरेंस लागत वहन कर सकें।
गोपनीयता-संरक्षित AI: यह संवेदनशील डोमेन (स्वास्थ्य सेवा, कानून) के लिए सहयोग का एक व्यवहार्य मार्ग प्रदान करता है जहाँ मालिकाना या PII डेटा साझा नहीं किया जा सकता है।
भविष्यवाणी ढांचा (Predictive Framework): डाइवर्जेंस-गेन फॉर्मूला संगठनों को यह तय करने के लिए एक व्यावहारिक उपकरण प्रदान करता है कि क्या सहकारी प्रशिक्षण प्रयास में निवेश करना सार्थक है।
इन्फरेंस ट्रेड-ऑफ: प्राथमिक सीमा इन्फरेंस लागत है, जो विशेषज्ञों की संख्या ( $N \times$ कंप्यूट) के साथ रैखिक रूप से बढ़ती है। हालांकि, पेपर नोट करता है कि जबकि स्पर्स इन्फरेंस (केवल शीर्ष विशेषज्ञ चलाना) सैद्धांतिक रूप से संभव है, यह वर्तमान में गुणवत्ता को कम करता है क्योंकि यह राउटर के कंडीशनिंग कॉन्टेक्स्ट के कारण मिलने वाले एन्सेम्बल सिग्नल को खो देता है।

निष्कर्ष: KALAVAI यह प्रदर्शित करता है कि स्वतंत्र विशेषज्ञता के बाद हल्का, सीखा हुआ फ्यूजन, वितरित, गोपनीयता-बाधित और कम-संसाधन वाले वातावरण में प्रतिस्पर्धी LLMs बनाने के लिए एक मजबूत, अनुमानित और अत्यधिक प्रभावी रणनीति है। इसकी सफलता जटिल विलय एल्गोरिदम या विशाल केंद्रीकृत कंप्यूट के बजाय साझा प्रारंभिक अवस्था, पर्याप्त विशेषज्ञ डाइवर्जेंस और प्रशिक्षित रूटिंग पर निर्भर करती है।