Improving Cross-Format Robustness in Language Models with Multi-Format Training
यह शोध पत्र यह प्रदर्शित करता है कि मल्टी-फॉर्मेट ट्रेनिंग को शामिल करना, विशेष रूप से कुशल "FormatMix" रणनीति के माध्यम से जो केवल डेटा के एक उपसमूह को विविध उत्तर प्रारूपों के साथ संवर्धित करती है, बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) में कार्य प्रदर्शन और क्रॉस-फॉर्मेट सुदृढ़ता दोनों को महत्वपूर्ण रूप से बढ़ाता है, जो यह सिद्ध करता है कि प्रारूप विविधता केवल अतिरिक्त पर्यवेक्षण की तुलना में अधिक महत्वपूर्ण है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र (paper) का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
समस्या: "क्विज़ शो" बनाम "असली बातचीत"
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान छात्र है जो बहुविकल्पीय (multiple-choice) परीक्षाओं में बहुत अच्छा है। वह लगभग हर बार सही उत्तर (A, B, C, या D) चुन लेता है। लेकिन, यदि आप उसी छात्र से वही सवाल किसी दूसरे तरीके से पूछें—जैसे कि "उत्तर को एक वाक्य में लिखें" या "क्या यह कथन सत्य या असत्य है?"—तो वह अचानक गलत हो जाता है।
यही वह समस्या है जिसे यह शोध पत्र हल करता है। लार्ज लैंग्वेज मॉडल्स (LLMs) उसी छात्र की तरह हैं। वे अक्सर फॉर्मेट (प्रारूप) के प्रति संवेदनशील होते हैं। उन्हें तथ्य तो पता हो सकते हैं, लेकिन वे उस ज्ञान तक तभी पहुँच पाते हैं जब प्रश्न एक विशिष्ट "यूनिफॉर्म" (जैसे कि बहुविकल्पीय क्विज़) में प्रस्तुत किया जाए। यदि आप यूनिफॉर्म बदल देते हैं, तो वे भ्रमित हो जाते हैं, भले ही प्रश्न का अर्थ बिल्कुल वही हो।
समाधान: मॉडल को "क्रॉस-ट्रेनिंग" देना
शोधकर्ताओं ने यह देखना चाहा कि क्या वे इन मॉडल्स को अधिक लचीला बना सकते हैं, ताकि उन्हें इस बात से फर्क न पड़े कि सवाल एक क्विज़ है, खाली स्थान भरने वाला है, या एक खुली बातचीत है।
उन्होंने मल्टी-फॉर्मेट ट्रेनिंग (Multi-Format Training) नामक एक विशेष प्रशिक्षण पद्धति बनाई। इसे मस्तिष्क के लिए एक जिम वर्कआउट की तरह समझें:
- पुराना तरीका (केवल MCQ): मॉडल ने केवल बहुविकल्पीय प्रश्न हल करने का अभ्यास किया। वह उस विशिष्ट शैली में बहुत अच्छा हो गया, लेकिन अन्य शैलियों में कमजोर रहा।
- नया तरीका (मल्टी-फॉर्मेट): शोधकर्ताओं ने उसी प्रश्न को लिया और उसे चार अलग-अलग "पोशाकों" में फिर से लिखा:
- बहुविकल्पीय (MCQ): मानक क्विज़।
- सत्य/असत्य (True/False): एक साधारण हाँ या ना वाला कथन।
- खाली स्थान भरें (Fill-in-the-Blank): एक वाक्य जिसमें एक शब्द गायब है।
- मुक्त-अंत (Open-Ended): एक स्वतंत्र रूप से पूछा गया प्रश्न।
इसके बाद उन्होंने मॉडल को इन चारों अलग-अलग फॉर्मेट का उपयोग करके एक ही मूल तथ्य का उत्तर देने के लिए प्रशिक्षित किया।
मुख्य निष्कर्ष: उन्होंने क्या खोजा
1. विविधता ही सफलता का मंत्र है
शोधकर्ताओं ने पाया कि केवल मॉडल को अधिक बहुविकल्पीय प्रश्न देने से ज्यादा मदद नहीं मिली। यह वैसा ही था जैसे छात्र को 1,000 और क्विज़ देना; वे केवल क्विज़ में बेहतर हो गए, वास्तविक बातचीत में नहीं।
हालाँकि, जब उन्होंने अन्य फॉर्मेट (सत्य/असत्य, खाली स्थान भरना, आदि) को इसमें मिला दिया, तो मॉडल मजबूत (robust) हो गया। मॉडल ने सीखा कि प्रश्न पूछने का तरीका चाहे जो भी हो, ज्ञान वही रहता है। वह एक "गिरगिट" बन गया जो किसी भी शैली को संभाल सकता था।
2. आपको सब कुछ फिर से लिखने की ज़रूरत नहीं है
आप सोच सकते हैं, "इस समस्या को ठीक करने के लिए, हमें अपने पूरे प्रशिक्षण पुस्तकालय (training library) को चार अलग-अलग फॉर्मेट में फिर से लिखना होगा!" यह बहुत बड़ा और महंगा काम होगा।
शोध पत्र ने एक शॉर्टकट खोजा: आपको केवल लगभग 30% प्रश्नों को ही फिर से लिखना होगा।
- कल्पना कीजिए कि एक लाइब्रेरी में 10,000 किताबें हैं। आपको उन सभी को चार भाषाओं में अनुवाद करने की आवश्यकता नहीं है।
- यदि आप केवल 3,000 किताबों (30%) को चारों फॉर्मेट में अनुवाद करते हैं, तो मॉडल पैटर्न को सीख जाता है और उसे पूरी लाइब्रेरी को अनुवाद करने के लगभग सभी लाभ मिलते हैं।
- इससे भी बेहतर, यदि आप उन 30% प्रश्नों को चुनते हैं जिनमें मॉडल फॉर्मेट बदलने में सबसे खराब प्रदर्शन कर रहा था, तो आपको सबसे अच्छे परिणाम मिलते हैं। यह एक ट्यूटर की तरह है जो छात्र के रैंडम विषयों के बजाय उसके सबसे कमजोर विषयों पर ध्यान केंद्रित करता है।
3. बड़े मॉडल्स मदद करते हैं, लेकिन ट्रेनिंग ज़्यादा मदद करती है
शोधकर्ताओं ने इसे अलग-अलग आकार के मॉडल्स (छोटे और बड़े) पर टेस्ट किया।
- बड़े मॉडल्स स्वाभाविक रूप से छोटे मॉडल्स की तुलना में थोड़े अधिक लचीले होते हैं (जैसे कि एक स्वाभाविक रूप से एथलेटिक व्यक्ति)।
- लेकिन, बड़े मॉडल्स भी संघर्ष करते थे जब प्रश्न का फॉर्मेट बदल जाता था।
- "मल्टी-फॉर्मेट ट्रेनिंग" ने बड़े मॉडल्स को और भी अधिक सुसंगत (consistent) बनाया, जिससे यह सिद्ध हुआ कि यह एक ऐसा कौशल है जिसे सिखाया जा सकता है, न कि केवल कुछ ऐसा जो आपको "बड़ा" होने के साथ मिलता है।
निचोड़ (The Bottom Line)
यह शोध पत्र निष्कर्ष निकालता है कि AI को विश्वसनीय बनाने के लिए फॉर्मेट की विविधता (format diversity) ही कुंजी है।
यदि आप एक ऐसा AI चाहते हैं जो सवाल पूछने का तरीका बदलने पर भ्रमित न हो, तो आपको AI के मस्तिष्क की संरचना बदलने की आवश्यकता नहीं है। आपको बस अपने प्रशिक्षण के दौरान उसे एक ही तथ्य को अलग-अलग "कपड़ों" (फॉर्मेट्स) में दिखाना है।
ऐसा करने के लिए, डेटा के एक छोटे से हिस्से पर इस "क्रॉस-ट्रेनिंग" का उपयोग करके, आप AI को बहुत अधिक विश्वसनीय और प्रश्न पूछने के तरीके के प्रति कम संवेदनशील बना सकते हैं, और इसके लिए आपको पूरे इंटरनेट को फिर से लिखने की आवश्यकता नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।