💬 NLP

Data Mixing for Large Language Models Pretraining: A Survey and Outlook

यह शोध पत्र लार्ज लैंग्वेज मॉडल प्रीट्रेनिंग के लिए डेटा मिक्सिंग विधियों का एक व्यापक सर्वेक्षण प्रस्तुत करता है, जो एक औपचारिक समस्या परिभाषा, स्टेटिक (स्थिर) और डायनेमिक (गतिशील) दृष्टिकोणों के बीच अंतर करने वाला एक सूक्ष्म वर्गीकरण, प्रदर्शन-लागत ट्रेड-ऑफ का विश्लेषण, और भविष्य के अनुसंधान दिशाओं के लिए एक रोडमैप प्रदान करता है।

मूल लेखक: Zhuo Chen, Yuxuan Miao, Supryadi, Deyi Xiong

प्रकाशित 2026-04-21

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zhuo Chen, Yuxuan Miao, Supryadi, Deyi Xiong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मास्टर शेफ हैं जो दुनिया का सबसे बेहतरीन सूप (लार्ज लैंग्वेज मॉडल, या LLM) बनाने की कोशिश कर रहे हैं। आपके पास एक विशाल पेंट्री है जिसमें हजारों अलग-अलग सामग्रियां भरी हैं: सब्जियां, मांस, मसाले और विदेशी फल। हालांकि, आपके पास खाना पकाने के लिए केवल सीमित समय और ईंधन (आपका कंप्यूटेशनल बजट) है।

बड़ा सवाल यह है: आप सबसे स्वादिष्ट सूप बनाने के लिए इन सामग्रियों को कैसे मिलाएंगे?

यह पेपर AI के लिए "डेटा मिक्सिंग" (Data Mixing) की कला और विज्ञान का एक व्यापक गाइड है। यह उन सभी विभिन्न रणनीतियों का सर्वेक्षण करता है जिनका उपयोग शोधकर्ता यह तय करने के लिए कर रहे हैं कि वे बर्तन में प्रत्येक "सामग्री" (डेटा स्रोत) की कितनी मात्रा डालेंगे।

यहाँ इस पेपर के मुख्य विचारों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. मूल समस्या: "रेसिपी" की दुविधा

अतीत में, शेफ (AI शोधकर्ता) केवल अनुमान लगाते थे। वे कह सकते थे, "आइए 50% विकिपीडिया, 20% समाचार और 30% किताबें इस्तेमाल करें।" वे सूप पकाते, चखते, महसूस करते कि यह बहुत नमकीन है, और फिर से शुरू करते। यह महंगा और धीमा था।

डेटा मिक्सिंग उस परफेक्ट रेसिपी को खोजने का विज्ञान है जिसे आपको सौ बार सूप पकाने की आवश्यकता न पड़े। यह इस बारे में है कि यह पता लगाना कि आपके पास सीमित समय और पैसा होने पर कौन सा सटीक अनुपात आपकी AI को सबसे स्मार्ट बनाएगा।

2. दो मुख्य दृष्टिकोण: स्टेटिक बनाम डायनेमिक

पेपर सभी मिक्सिंग रणनीतियों को दो मुख्य समूहों में विभाजित करता है:

स्टेटिक मिक्सिंग (एक "सेट-एंड-फॉरगेट" रेसिपी):
- यह कैसे काम करता है: आप खाना शुरू करने से पहले ही सटीक रेसिपी तय कर लेते हैं। आप सामग्रियों को एक विशिष्ट अनुपात में मिलाते हैं और सूप बनने तक उसी पर टिके रहते हैं।
- उपमा: एक स्लो-कुकर की तरह। आप सुबह 8:00 बजे सब कुछ डाल देते हैं, टाइमर सेट करते हैं, और चले जाते हैं।
- पक्ष: सरल और सस्ता।
- विपक्ष: यदि सूप बीच में अजीब स्वाद देने लगे, तो आप इसे ठीक नहीं कर सकते। आप अपने शुरुआती अनुमान के साथ फंस जाते हैं।
डायनेमिक मिक्सिंग (एक "स्वाद-और-समायोजन" रेसिपी):
- यह कैसे काम करता है: आप हर घंटे सूप चखते हैं और सामग्रियों को समायोजित करते हैं। यदि इसमें नमक की कमी है, तो आप नमक डालते हैं। यदि इसमें जड़ी-बूटियों की कमी है, तो आप जड़ी-बूटियाँ डालते हैं।
- उपमा: एक शेफ की तरह जो बर्तन के पास खड़ा है, लगातार पकते समय स्वाद को मिला रहा है और उसमें बदलाव कर रहा है।
- पक्ष: बदलती जरूरतों के अनुसार ढल जाता है; आमतौर पर बेहतर स्वाद देता है।
- विपक्ष: इसके लिए एक ऐसे शेफ की आवश्यकता होती है जो हमेशा देख रहा हो (अधिक जटिल और कंप्यूटेशनल रूप से महंगा)।

3. हम "परफेक्ट अनुपात" कैसे पाते हैं?

पेपर इन अनुपातों को खोजने के लिए उपयोग की जाने वाली विधियों को दो परिवारों में वर्गीकृत करता है:

A. नियम-आधारित विधियाँ (हेयुरिस्टिक्स - Heuristics)

विचार: "यदि X सत्य है, तो Y करें।"
उपमा: एक कुकबुक जो कहती है, "हमेशा हर 2 अंडों के लिए 1 कप आटा उपयोग करें।" या, "यदि सूप बहुत फीका है, तो नमक दोगुना कर दें।"
उदाहरण:
- यूनिफॉर्म (Uniform): बस सब कुछ समान मात्रा में डाल दें।
- प्रोपोर्शनल (Proportional): उन सामग्रियों का अधिक उपयोग करें जो आपके पास सबसे अधिक हैं।
- टेम्परेचर (Temperature): एक फैंसी नॉब जो रेसिपी को "मसालेदार" (उच्च गुणवत्ता वाले डेटा पर ध्यान केंद्रित करना) या "हल्का" (इसे समान रूप से फैलाना) बनाने की अनुमति देता है।
निर्णय: सस्ता और आसान, लेकिन अक्सर सबसे अच्छा संभव सूप नहीं होता।

B. लर्निंग-आधारित विधियाँ (एक "स्मार्ट AI शेफ")

विचार: अनुमान लगाने के बजाय, हम एक छोटे, सस्ते AI (एक प्रॉक्सी मॉडल) को बड़े AI के लिए सबसे अच्छी रेसिपी का पता लगाने के लिए प्रशिक्षित करते हैं।
उपमा: आपके पास एक छोटा, तेज़ प्रशिक्षु शेफ (apprentice chef) है। आप प्रशिक्षु को अलग-अलग रेसिपी के साथ सूप के 100 छोटे बैच पकाने देते हैं। प्रशिक्षु सीख जाता है कि कौन सी रेसिपी सबसे अच्छा काम करती है और मुख्य शेफ को बताता है, "इस रेसिपी का उपयोग करें बड़े बर्तन के लिए।"
दो प्रकार:
1. प्रॉक्सी ऑप्टिमाइज़ेशन (Proxy Optimization): प्रशिक्षु वास्तविक समय में चखकर और समायोजित करके सबसे अच्छी रेसिपी खोजने का प्रयास करता है।
2. प्रेडिक्शन-बेस्ड (Prediction-Based): प्रशिक्षु कुछ बैचों को चखता है, एक गणितीय सूत्र सीखता है (जैसे, "अधिक गणित डेटा = स्मार्ट सूप"), और फिर बिना और बैच पकाए परफेक्ट रेसिपी का अनुमान लगाने के लिए उस सूत्र का उपयोग करता है।

4. चुनौतियाँ (यह अभी तक हल क्यों नहीं हुआ है?)

पेपर तीन बड़ी समस्याओं की ओर इशारा करता है जिन्हें शोधकर्ता अभी भी ठीक करने की कोशिश कर रहे हैं:

"ट्रांसफरेबिलिटी" (स्थानांतरणशीलता) की समस्या: एक रेसिपी जो शाकाहारियों (टेक्स्ट पर प्रशिक्षित मॉडल) के लिए स्वादिष्ट सूप बनाती है, वह मांसाहार प्रेमियों (कोड पर प्रशिक्षित मॉडल) के लिए बहुत खराब हो सकती है। यदि आप मॉडल या डेटा को थोड़ा बदलते हैं, तो कल जो "परफेक्ट" रेसिपी आपने पाई थी, वह आज बेकार हो सकती है। यह एक ऐसी रेसिपी की तरह है जो केवल एक विशिष्ट ब्रांड के चूल्हे के लिए काम करती है।
"लागत" बनाम "प्रदर्शन" का ट्रेड-ऑफ: विधि जितनी स्मार्ट होगी (जैसे प्रशिक्षु शेफ), उसे चलाना उतना ही महंगा होगा। सस्ती विधियाँ (जैसे सरल नियम) अक्सर औसत दर्जे का सूप बनाती हैं। एक ऐसा तरीका खोजना जो सस्ता भी हो और मिशलिन-स्टार सूप भी बनाए, "होली ग्रेल" (अत्यधिक वांछित लक्ष्य) है।
कोई मानक स्वाद परीक्षण नहीं: प्रत्येक शोधकर्ता सूप को आंकने के लिए एक अलग तरीका उपयोग करता है। कोई "तीखेपन के मीटर" का उपयोग करता है, दूसरा "नमकीन स्केल" का। यह तुलना करना कठिन बनाता है कि वास्तव में कौन सबसे अच्छा शेफ है क्योंकि वे सभी एक ही पैमाने का उपयोग नहीं कर रहे हैं।

5. भविष्य: आगे क्या है?

लेखक भविष्य के लिए कुछ रोमांचक दिशाओं का सुझाव देते हैं:

बारीक कण (Finer Grains): "स्रोत" (जैसे, "पूरा विकिपीडिया") के आधार पर मिलाने के बजाय, शायद हमें "विषय" (जैसे, "विकिपीडिया से विज्ञान लेख" बनाम "इतिहास के लेख") के आधार पर मिलाना चाहिए। यह अपनी पेंट्री को केवल "डिब्बा A" बनाम "डिब्बा B" के बजाय "मसाले" बनाम "सब्जियां" के रूप में वर्गीकृत करने जैसा है।
रिवर्स इंजीनियरिंग: क्या होगा यदि हम एक तैयार, प्रसिद्ध सूप (एक शीर्ष-स्तरीय AI मॉडल) को देख सकें और ठीक से पता लगा सकें कि शेफ ने वास्तव में कौन सी रेसिपी उपयोग की थी, भले ही उन्होंने इसे कभी साझा न किया हो? यह हमें सर्वश्रेष्ठ से सीखने में मदद कर सकता है।
पाइपलाइन जागरूकता: केवल प्री-ट्रेनिंग सूप के बारे में सोचने के बजाय, हमें पूरे भोजन के बारे में सोचना चाहिए। प्री-ट्रेनिंग सूप ऐपेटाइज़र (फाइन-ट्यूनिंग) और डेज़र्ट (सेफ्टी अलाइनमेंट) को कैसे प्रभावित करता है? पूरी प्रक्रिया को एक साथ नियोजित किया जाना चाहिए, न कि अलग-थलग चरणों के रूप में।

सारांश

यह पेपर "डेटा मिक्सिंग" के परिदृश्य का एक मानचित्र है। यह हमें बताता है कि जबकि हम साधारण अनुमान लगाने से लेकर स्मार्ट, लर्निंग-आधारित रेसिपी तक बढ़ गए हैं, हम अभी भी इन रेसिपी को हर किसी के लिए, हर जगह, बिना भारी खर्च के काम करने के लिए बनाने के लिए संघर्ष कर रहे हैं। भविष्य अगली पीढ़ी के AI बनाने के लिए हमारे डेटा सामग्री को मिलाने के अधिक स्मार्ट, अधिक अनुकूलन योग्य और मानकीकृत तरीकों को बनाने में निहित है।

यहाँ चेन एवं अन्य द्वारा लिखित शोध पत्र "Data Mixing for Large Language Models Pretraining: A Survey and Outlook" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या की परिभाषा (Problem Definition)

यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LLMs) के प्रीट्रेनिंग में डेटा मिक्सिंग ऑप्टिमाइज़ेशन (data mixture optimization) की महत्वपूर्ण चुनौती को संबोधित करता है।

संदर्भ: LLMs विशाल, विषम (heterogeneous) कॉर्पोरा पर निर्भर करते हैं। कंप्यूट और डेटा बजट की वास्तविक सीमाओं के तहत, प्रशिक्षण डेटा का संयोजन (मिश्रण या "mixture") प्रशिक्षण दक्षता और डाउनस्ट्रीम सामान्यीकरण (generalization) को निर्णायक रूप से प्रभावित करता है।
मुख्य समस्या: एक निश्चित बजट के भीतर प्रदर्शन को अधिकतम करने के लिए विभिन्न डेटा डोमेन (जैसे, विकिपीडिया, कोड, वेब टेक्स्ट) के बीच सैंपलिंग वेट्स (sampling weights) को इष्टतम रूप से कैसे आवंटित किया जाए।
फॉर्मूलेशन: लेखक डेटा मिक्सिंग को प्रोबेबिलिटी सिम्प्लेक्स (probability simplex) पर एक बाइलेवल ऑप्टिमाइज़ेशन समस्या (bilevel optimization problem) के रूप में औपचारिक रूप देते हैं:
- आउटर लूप (Outer Loop): वैलिडेशन लॉस $L_{val}(\theta(k))$ को कम करने के लिए एक वेट वेक्टर $k$ (मिश्रण) का चयन करना।
- इनर लूप (Inner Loop): ट्रेनिंग लॉस को कम करने के लिए मिश्रण $k$ का उपयोग करके मॉडल पैरामीटर्स $\theta(k)$ को प्रशिक्षित करना।
चुनौती: बड़े पैमाने के LLMs के लिए इस बाइलेवल समस्या को सीधे हल करना कम्प्यूटेशनल रूप से कठिन (intractable) है। मौजूदा विधियाँ खंडित हैं, और उनके तुलनात्मक व्यवस्थित सर्वेक्षण का अभाव है।

2. कार्यप्रणाली और वर्गीकरण (Methodology and Taxonomy)

यह शोध पत्र मौजूदा डेटा मिक्सिंग विधियों के लिए एक व्यापक वर्गीकरण प्रस्तावित करता है, जो उन्हें दो प्राथमिक आयामों के आधार पर वर्गीकृत करता है: स्टैटिक बनाम डायनेमिक (Static vs. Dynamic) और रूल-बेस्ड बनाम लर्निंग-बेस्ड (Rule-Based vs. Learning-Based)।

A. स्टैटिक मिक्सिंग (Static Mixing)

मिश्रण $k$ प्रशिक्षण शुरू होने से पहले तय कर लिया जाता है और पूरे प्रशिक्षण के दौरान स्थिर रहता है।

रूल-बेस्ड विधियाँ (Rule-Based Methods):
- तंत्र (Mechanism): सहायक मॉडल को प्रशिक्षित किए बिना हीयुरिस्टिक नियमों या सरल पैरामीटराइज्ड एल्गोरिदम का उपयोग करती हैं।
- उदाहरण: यूनिफॉर्म सैंपलिंग (Uniform sampling), प्रोपोर्शनल सैंपलिंग (Proportional sampling), टेम्परेचर-आधारित सैंपलिंग (डिस्ट्रीब्यूशन की शार्पनेस को एडजस्ट करना), और UniMax (डोमेन रिपीट को कैप करना)।
- नए वेरिएंट्स: UtiliMax और MEDU जैसी विधियाँ मिक्सिंग को पोर्टफोलियो सिलेक्शन समस्या के रूप में देखती हैं, जो जोखिम और रिटर्न को संतुलित करने के लिए यूटिलिटी स्कोर का उपयोग करती हैं, और अक्सर पूर्ण रिट्रेनिंग से बचती हैं।
- पक्ष/विपक्ष: अत्यंत कम लागत और उच्च व्याख्यात्मकता (interpretability), लेकिन अक्सर सीखे गए (learned) तरीकों की तुलना में उप-इष्टतम (suboptimal) होती हैं।
लर्निंग-बेस्ड विधियाँ (Learning-Based Methods):
- तंत्र: इष्टतम मिश्रण सीखने के लिए सहायक मॉडल (प्रॉक्सी मॉडल या प्रेडिक्टर्स) को प्रशिक्षित करना।
- उप-श्रेणी 1: प्रॉक्सी ऑप्टिमाइज़ेशन-आधारित (Proxy Optimization-Based):
  - एक छोटे "प्रॉक्सी" मॉडल पर मिश्रण को अनुकूलित करना और उसे मुख्य मॉडल में स्थानांतरित करना।
  - उदाहरण: DoReMi (मजबूती के लिए मिनिमैक्स ऑप्टिमाइज़ेशन), DoGE (टारगेट डोमेन जनरलाइजेशन के लिए ग्रेडिएंट अलाइनमेंट)।
  - सीमा: खराब ट्रांसफरैबिलिटी; यदि मुख्य मॉडल का आर्किटेक्चर या डेटा बदलता है, तो प्रॉक्सी को फिर से प्रशिक्षित करने की आवश्यकता होती है।
- उप-श्रेणी 2: प्रेडिक्शन-आधारित (Prediction-Based):
  - मिश्रण और प्रदर्शन के बीच एक फंक्शनल रिलेशनशिप $f(k) \approx L_{val}$ सीखें, और फिर इस सरोगेट (surrogate) पर $k$ को अनुकूलित करें।
  - एक्सप्लिसिट प्रेडिक्शन (Explicit Prediction): पावर लॉ या एक्सपोनेंशियल फॉर्म का उपयोग करके पैरामीट्रिक मॉडल (जैसे, DML, AutoScale, BiMix, Data Mixing Scaling Laws) फिट करना।
  - इम्प्लिसिट प्रेडिक्शन (Implicit Prediction): प्रदर्शन की भविष्यवाणी करने के लिए ब्लैक-बॉक्स रिग्रेसर्स (जैसे, LightGBM, Gaussian Processes) का उपयोग करना।
  - उदाहरण: RegMix, MixMin, MDE, ADMIRE।
  - पक्ष/विपक्ष: नियमों की तुलना में बेहतर प्रदर्शन; प्रॉक्सी ऑप्टिमाइज़ेशन की तुलना में बेहतर ट्रांसफरैबिलिटी, लेकिन अभी भी स्केलिंग लॉ के अनुमानों पर निर्भर है।

B. डायनेमिक मिक्सिंग (Dynamic Mixing)

मिश्रण $k$ प्रशिक्षण के दौरान समय के साथ ( $k_t$ ) विकसित होता है, जो मॉडल की लर्निंग स्टेट के अनुकूल होता है।

एडेप्टिव विधियाँ (Adaptive Methods):
- तंत्र: बाहरी कंट्रोलर्स के बिना, टारगेट मॉडल से प्राप्त आंतरिक संकेतों (लॉस, ग्रेडिएंट्स) के आधार पर वेट्स को सीधे अपडेट करना।
- उदाहरण: ODM (Multi-armed bandit/Exp3), ADO (स्केलिंग लॉ डेरिवेटिव्स), Velocitune और GRAPE (लर्निंग स्पीड/RoI), PiKE (ग्रेडिएंट नॉर्म्स/वेरिएंस)।
- पक्ष/विपक्ष: लाइटवेट और कम ओवरहेड, लेकिन ऑप्टिमाइज़ेशन तंत्र को कम्प्यूटेशनल लागत को रोकने के लिए सरलता की आवश्यकता होती है।
एक्सटर्नली गाइडेड विधियाँ (Externally Guided Methods):
- तंत्र: प्रशिक्षण संकेतों को प्रोसेस करने और मिश्रण अपडेट आउटपुट करने के लिए एक बाहरी कंट्रोलर (अक्सर RL-आधारित) का उपयोग करना।
- उदाहरण: AC-ODM और Data Mixing Agent (Actor-Critic RL), TiKMiX (इन्फ्लुएंस फंक्शन्स + प्रेडिक्टर)।
- पक्ष/विपक्ष: उच्च प्रदर्शन के लिए जटिल लॉजिक और दीर्घकालिक संकेतों को शामिल कर सकते हैं, लेकिन इसमें महत्वपूर्ण ओवरहेड और कंट्रोलर के ट्रेनिंग सेटअप पर संभावित निर्भरता आती है।

3. प्रमुख योगदान (Key Contributions)

एकीकृत फॉर्मूलेशन (Unified Formulation): डेटा मिक्सिंग को एक बाइलेवल ऑप्टिमाइज़ेशन समस्या के रूप में एक कठोर गणितीय रूप प्रदान करता है, जिससे यह स्पष्ट होता है कि मौजूदा विधियाँ इस कठिन समस्या का अनुमान कैसे लगाती हैं।
विस्तृत वर्गीकरण (Granular Taxonomy): एक नया, सूक्ष्म वर्गीकरण सिस्टम पेश करता है (Static/Dynamic $\times$ Rule/Learning $\times$ Proxy/Prediction/Adaptive/Guided) जो खंडित साहित्य को व्यवस्थित करता है।
परफॉरमेंस-कॉस्ट विश्लेषण (Performance-Cost Analysis): विधियों का विश्लेषण ट्रेड-ऑफ के नजरिए से किया गया है, यह उजागर करते हुए कि कोई भी विधि सार्वभौमिक रूप से इष्टतम नहीं है; चुनाव बजट, ट्रांसफरैबिलिटी आवश्यकताओं और कम्प्यूटेशनल संसाधनों पर निर्भर करता है।
चुनौतियों की पहचान (Identification of Challenges): चार प्रमुख बाधाओं को व्यवस्थित रूप से पहचाना गया है:
- सीमित ट्रांसफरैबिलिटी (Limited Transferability): विधियाँ अक्सर अलग-अलग मॉडल्स, स्केल्स या डोमेन डेफिनिशन में ट्रांसफर होने पर विफल हो जाती हैं।
- अमानकीकृत मूल्यांकन (Unstandardized Evaluation): एकीकृत बेंचमार्क, लागत लेखांकन (टोकन बनाम FLOPs), और वैलिडेशन सेट डेफिनिशन की कमी।
- सैद्धांतिक अंतराल (Theoretical Gaps): एक एकीकृत सैद्धांतिक ढांचे की कमी जो यह समझा सके कि कुछ मिश्रण क्यों काम करते हैं, जो काफी हद तक एम्पिरिकल स्केलिंग लॉ पर निर्भर है।
- डोमेन परिभाषा (Domain Definition): वर्तमान विधियाँ अक्सर मोटे "सोर्स-बेस्ड" डोमेन पार्टिशनिंग पर निर्भर करती हैं, जो उप-इष्टतम हो सकती हैं।

4. परिणाम और निष्कर्ष (Results and Findings)

प्रभावशीलता: लर्निंग-बेस्ड विधियाँ (स्टैटिक और डायनेमिक दोनों) डाउनस्ट्रीम प्रदर्शन के मामले में सरल रूल-बेस्ड हीयुरिस्टिक्स (जैसे, यूनिफॉर्म या प्रोपोर्शनल सैंपलिंग) से बेहतर प्रदर्शन करती हैं।
ट्रांसफरैबिलिटी मुद्दे: प्रॉक्सी-आधारित विधियाँ तब काफी संघर्ष करती हैं जब टारगेट मॉडल प्रॉक्सी से भिन्न होता है। प्रेडिक्शन-आधारित विधियाँ बेहतर पुन: प्रयोज्यता दिखाती हैं, लेकिन जटिल संयुक्त स्केलिंग प्रभावों (मिश्रण $\times$ मॉडल आकार $\times$ डेटा वॉल्यूम) के साथ संघर्ष करती हैं।
डायनेमिक बनाम स्टैटिक: डायनेमिक विधियाँ बदलते मॉडल की जरूरतों के प्रति बेहतर अनुकूलन क्षमता प्रदान करती हैं, लेकिन वे अधिक कार्यान्वयन जटिलता और संभावित ओवरहेड लाती हैं। एडेप्टिव डायनेमिक विधियाँ वर्तमान में सबसे लाइटवेट हैं, जबकि एक्सटर्नली गाइडेड विधियाँ उच्च लागत पर उच्चतम संभावित प्रदर्शन प्रदान करती हैं।
डोमेन ग्रैनुलैरिटी (Domain Granularity): शोध पत्र नोट करता है कि सूक्ष्म-स्तरीय डोमेन पार्टिशनिंग (जैसे, केवल स्रोत के बजाय विषय या कौशल द्वारा) मिक्सिंग प्रभावशीलता को काफी सुधार देती है, जो वर्तमान साहित्य में अक्सर अनदेखा किया जाता है।

5. महत्व और भविष्य का दृष्टिकोण (Significance and Future Outlook)

वैचारिक ढांचा (Conceptual Framework): यह शोध पत्र शोधकर्ताओं के लिए एक आधारभूत संदर्भ के रूप में कार्य करता है, जो इस क्षेत्र को एड-हॉक हीयुरिस्टिक्स से सिद्धांतवादी, व्यवस्थित ऑप्टिमाइज़ेशन की ओर ले जाता है।
भविष्य की दिशाएं:
- सूक्ष्म-स्तरीय मिक्सिंग (Finer-Grained Mixing): डोमेन-लेवल से सैंपल-लेवल या मध्यवर्ती ग्रैनुलैरिटी (पदानुक्रमित मिक्सिंग) की ओर बढ़ना।
- इनवर्स डेटा मिक्सिंग (Inverse Data Mixing): क्लोज्ड-सोर्स मॉडल्स के सफल कॉन्फ़िगरेशन से सीखने के लिए उनके आउटपुट्स (जैसे, टोकेनाइज़र मर्ज लिस्ट) से उनके डेटा मिश्रण का अनुमान लगाना।
- पाइपलाइन-अवेयर डिज़ाइन (Pipeline-Aware Design): चरणों को अलग-थानों में अनुकूलित करने के बजाय पूरे ट्रेनिंग पाइपलाइन (Pretraining $\to$ SFT $\to$ DPO) में डेटा मिक्सिंग रणनीतियों का समन्वय करना।
- मानकीकरण (Standardization): प्रदर्शन लाभ और कम्प्यूटेशनल लागत के बीच के अंतर को पाटने के लिए लेखक एकीकृत मूल्यांकन प्रोटोकॉल, लागत लेखांकन और डोमेन परिभाषा मानकों का आह्वान करते हैं।

निष्कर्ष (Conclusion):
यह सर्वेक्षण स्थापित करता है कि हालांकि डेटा मिक्सिंग सरल नियमों से परिष्कृत लर्निंग-बेस्ड प्रतिमानों (paradigms) तक विकसित हुई है, फिर भी यह क्षेत्र ट्रांसफरैबिलिटी के मुद्दों और सैद्धांतिक आधार की कमी से बाधित है। भविष्य की प्रगति प्रदर्शन लाभ और कम्प्यूटेशनल लागत के बीच के अंतर को पाटने के लिए अधिक मजबूत, पाइपलाइन-अवेयर फ्रेमवर्क और मानकीकृत मूल्यांकन बेंचमार्क विकसित करने पर निर्भर करती है।