Constructing Synthetic Instruction Datasets for Improving Reasoning in Domain-Specific LLMs: A Case Study in the Japanese Financial Domain
यह अध्ययन डोमेन-विशिष्ट शब्दावली से शुरू होकर चेन-ऑफ-थॉट रीजनिंग ट्रेसेस के साथ उच्च-गुणवत्ता वाले सिंथेटिक इंस्ट्रक्शन डेटासेट बनाने के लिए एक सामान्य विधि प्रस्तुत करता है, जो 9.5 बिलियन-टोकन डेटासेट के माध्यम से जापानी वित्तीय डोमेन के LLMs के लिए रीजनिंग क्षमताओं को बढ़ाने में इसकी प्रभावशीलता को प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन सामान्यज्ञ छात्र (एक AI) को सिखाना चाहते हैं कि जापान में शीर्ष-स्तरीय वित्तीय सलाहकार कैसे बना जाए। आप उसे केवल वित्त के शब्दों का शब्दकोश नहीं थमा सकते; उन्हें यह सीखना होगा कि एक विशेषज्ञ की तरह कैसे सोचें, न कि केवल क्या कहें।
यह शोध पत्र एक विशाल, कस्टम-मेड "प्रशिक्षण नियमावली" (training manual) बनाने के लिए एक चतुर रेसिपी का वर्णन करता है, जो विशेष रूप से AI को जटिल जापानी वित्तीय समस्याओं के माध्यम से तर्क करने के लिए प्रशिक्षित करने के लिए डिज़ाइन की गई है।
यहाँ उनके तरीके का विवरण दिया गया है, जिसमें रोजमर्रा के उदाहरणों का उपयोग किया गया है:
1. समस्या: "बुद्धिमान लेकिन अनभिज्ञ" छात्र
वर्तमान AI मॉडल उन छात्रों की तरह हैं जिन्होंने पुस्तकालय की हर किताब पढ़ ली है लेकिन कभी गणित का टेस्ट नहीं दिया या वास्तविक दुनिया का कोई केस हल नहीं किया है। वे तथ्य जानते हैं, लेकिन जब आप उनसे पूछते हैं, "मैं कैसे अनुमान लगाऊं कि यह कंपनी दिवालिया हो जाएगी?" तो वे अक्सर अनुमान लगाते हैं या सतही उत्तर देते हैं। उनमें चेन ऑफ थॉट (CoT) की कमी होती है—वह आंतरिक एकालाप (internal monologue) जहाँ एक विशेषज्ञ उत्तर देने से पहले समस्या को चरण-दर-चरण तोड़ता है।
2. समाधान: एक "रीजनिंग जिम" (तर्क शक्ति का व्यायामशाला) बनाना
लेखकों ने AI को केवल और अधिक किताबें नहीं खिलाईं। उन्होंने एक सिंथेटिक ट्रेनिंग जिम (एक डेटासेट) बनाया जहाँ AI बोलने से पहले सोचने का अभ्यास करता है।
चरण A: बीज चुनना (विषय चयन)
यह अनुमान लगाने के बजाय कि क्या सिखाना है, उन्होंने बीज शब्दों (seed words) की एक सूची से शुरुआत की जैसे कि बीमा (Insurance), प्रतिभूति (Securities), और वित्तीय योजना (Financial Planning)।
- उपमा: कल्पना कीजिए कि आप एक बगीचा लगा रहे हैं। आप केवल मिट्टी में बीज नहीं फेंकते; आप सावधानीपूर्वक विशिष्ट बीजों (विषयों) का चयन करते हैं जो पूरे बगीचे का प्रतिनिधित्व करते हैं। उन्होंने इसमें कुछ "जंगली फूल" (सामान्य विषय) भी मिला दिए ताकि वित्त सीखने के दौरान AI सामान्य चीजों के बारे में बात करना न भूल जाए।
चरण B: प्रश्न उगाना (निर्देश निर्माण)
उन्होंने उन बीजों के आधार पर हजारों प्रश्न उत्पन्न करने के लिए एक सुपर-स्मार्ट AI का उपयोग किया।
- उपमा: यह एक मास्टर शेफ की तरह है जो अपने सहायक (sous-chef) से "टमाटर" के आधार पर 10,000 नए व्यंजन बनाने के लिए कह रहा है। कुछ व्यंजन सरल होते हैं (खुले अंत वाले प्रश्न), कुछ गणित-प्रधान होते हैं (गणना), और कुछ रचनात्मक होते हैं (रिपोर्ट लिखना)।
चरण C: "रिमिक्स" स्टेशन (विस्तार और संशोधन)
उन्होंने उन प्रश्नों को लिया और उनमें बदलाव किया। उन्होंने प्रारूप बदला, संदर्भ जोड़ा, या एक साधारण प्रश्न को एक जटिल परिदृश्य में बदल दिया।
- उपमा: यदि मूल प्रश्न था "ब्याज दर क्या है?", तो रिमिक्स स्टेशन इसे बदलकर, "यदि मेरे पास $10,000 हैं और कानून के कारण दर बदल जाती है, तो मेरी बचत कैसे बढ़ेगी?" कर देता है। यह AI को एक ही विषय के विभिन्न कोणों को संभालने के लिए मजबूर करता है।
चरण D: गुणवत्ता नियंत्रण (द "जज")
सभी उत्पन्न प्रश्न अच्छे नहीं होते। कुछ निरर्थक या बहुत आसान हो सकते हैं। उन्होंने डेटा को ग्रेड करने के लिए एक AI "जज" का उपयोग किया।
- उपमा: कल्पना कीजिए कि एक सख्त संपादक छात्र के निबंधों के ढेर की समीक्षा कर रहा है। यदि कोई निबंध काम दिखाने की प्रक्रिया (reasoning steps) या गलत उत्तर नहीं दिखाता है, तो संपादक उसे कचरे में डाल देता है। केवल वे निबंध जो स्पष्ट, तार्किक सोच दिखाते हैं, ही चयन के योग्य बनते हैं।
3. परिणाम: विचार का एक विशाल पुस्तकालय
अंत में उनके पास 9.5 बिलियन टोकन (पाठ की एक विशाल मात्रा) वाला एक डेटासेट तैयार हुआ जहाँ प्रत्येक उदाहरण में अंतिम उत्तर से पहले "सोचने की प्रक्रिया" (reasoning trace) शामिल है।
उन्होंने अपने AI मॉडल को इस डेटा पर प्रशिक्षित किया और पाया:
- बेहतर स्कोर: AI वित्तीय परीक्षाओं और कार्यों में उन मॉडलों की तुलना में काफी बेहतर प्रदर्शन करता है जिन्होंने केवल तथ्यों को याद किया था।
- "सोचना" मायने रखता है: जब AI को उत्तर देने से पहले "ज़ोर से सोचने" (reasoning traces उत्पन्न करने) के लिए मजबूर किया गया, तो उसने सही उत्तर अधिक बार दिए।
तर्क की लंबाई का "गोल्डीलॉक्स ज़ोन" (Goldilocks Zone)
उनकी सबसे दिलचस्प खोजों में से एक यह थी कि AI को कितना लंबा सोचना चाहिए।
- बहुत छोटा: AI उत्तर देने की जल्दी करता है और गलतियाँ करता है।
- बिल्कुल सही (1,024 टोकन): AI के पास समस्या को तोड़ने, अपने काम की जाँच करने और सही उत्तर खोजने के लिए पर्याप्त समय होता है। प्रदर्शन यहाँ चरम पर होता है।
- बहुत लंबा (4,096+ टोकन): AI ऊबने लगता है या भ्रमित होने लगता है। वह खुद को दोहराने लगता है या चक्कर लगाने लगता है, बिना समस्या को हल किए बार-बार "रुको, मुझे सोचने दो..." कहता रहता है।
- उपमा: यह एक छात्र द्वारा परीक्षा देने जैसा है। यदि उनके पास 5 मिनट हैं, तो वे घबरा जाते हैं। यदि उनके पास 30 मिनट हैं, तो वे बहुत अच्छा करते हैं। यदि आप उन्हें 5 घंटे देते हैं, तो वे छत को घूरना, चित्र बनाना, या एक ही वाक्य को 50 बार लिखना शुरू कर सकते हैं, और उनका स्कोर वास्तव में गिर जाता है।
5. यह क्यों महत्वपूर्ण है
यह शोध पत्र सिद्ध करता है कि आपको किसी विशेषज्ञ AI को प्रशिक्षित करने के लिए लाखों उदाहरण लिखने के लिए मानव की आवश्यकता नहीं है। आप AI का उपयोग अपने स्वयं के उच्च-गुणवत्ता वाले "सोचने के अभ्यास" (thinking practice) डेटा को उत्पन्न करने के लिए कर सकते हैं।
- मुख्य निष्कर्ष: किसी विशिष्ट क्षेत्र (जैसे वित्त, कानून या चिकित्सा) में AI को स्मार्ट बनाने के लिए, आपको केवल अधिक डेटा की आवश्यकता नहीं है; आपको बेहतर सोचने के पैटर्न की आवश्यकता है। चरण-दर-चरण तर्क करने के तरीके को सिखाकर, आप एक सामान्य स्मार्ट असिस्टेंट को एक सच्चा डोमेन विशेषज्ञ में बदल देते हैं।
लेखकों ने अपने "जिम" (डेटासेट और मॉडल) को दूसरों के उपयोग के लिए साझा भी किया है, ताकि सभी प्रकार के विशिष्ट कार्यों के लिए स्मार्ट AI बनाने में मदद मिल सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।