Synthetic Contrastive Reasoning for Multi-Table Q&A
यह शोध पत्र मल्टी-टेबल प्रश्न उत्तर (multi-table question answering) के लिए एक सिंथेटिक कंट्रास्टिव रीजनिंग-ट्रेस डेटासेट प्रस्तुत करता है और यह प्रदर्शित करता है कि इन प्रेफरेंस पेयर्स (preference pairs) पर कंट्रास्टिव प्रेफरेंस ऑप्टिमाइज़ेशन (CPO) के साथ ओपन-वेट LLMs को फाइन-ट्यून करना, कंपोजिशनल रीजनिंग और स्कीमा लिंकिंग को बढ़ाकर मानक सुपरवाइज्ड फाइन-ट्यूनिंग की तुलना में काफी बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ी समस्या: "लाइब्रेरी में खो जाने" का प्रभाव
कल्पना कीजिए कि आप एक लाइब्रेरियन हैं और आपको एक सवाल का जवाब देना है: "शिकागो का वह कौन सा इंजीनियर था जिसने 'Alpha' प्रोजेक्ट पर काम किया था?"
इसका जवाब देने के लिए, आप केवल एक किताब नहीं देख सकते। आपको यह करना होगा:
- Engineer की किताब ढूंढनी होगी यह देखने के लिए कि शिकागो में कौन रहता है।
- Project Lead की किताब ढूंढनी होगी यह देखने के लिए कि कौन सा प्रोजेक्ट कौन लीड कर रहा है।
- Project की किताब ढूंढनी होगी प्रोजेक्ट की शुरुआत की तारीख देखने के लिए।
- इन तीनों किताबों के बीच के कड़ियों को जोड़ना होगा।
वर्तमान AI मॉडल (लार्ज लैंग्वेज मॉडल्स) एक किताब पढ़ने में बहुत अच्छे हैं, लेकिन जब उन्हें एक उत्तर खोजने के लिए कई "किताबों" (डेटाबेस में टेबल्स) के बीच कूदना पड़ता है, तो वे अक्सर खो जाते हैं। वे नाम मिला सकते हैं, कोई स्टेप भूल सकते हैं, या गलत कनेक्शन का अनुमान लगा सकते हैं।
गायब कड़ी: केवल "क्या" नहीं, बल्कि "कैसे" दिखाना
इन AI मॉडल्स के लिए अधिकांश ट्रेनिंग डेटा एक फ्लैशकार्ड की तरह होता है:
- सवाल: "'Alpha' प्रोजेक्ट का नेतृत्व किसने किया?"
- जवाब: "टॉम स्मिथ।"
AI उत्तर तो सीख जाता है, लेकिन वह यह नहीं सीखता कि उसे कैसे ढूँढा जाए। यह एक ऐसे छात्र की तरह है जो गणित सीखने के बजाय केवल उत्तर कुंजी (answer key) रट रहा है। पेपर का तर्क है कि बेहतर होने के लिए, AI को सवाल से जवाब तक पहुँचने के चरण-दर-चरण तर्क (trace) को देखने की आवश्यकता है।
समाधान: "गुड कॉप / बैड कॉप" ट्रेनिंग विधि
लेखकों ने सिंथेटिक कॉन्ट्रास्टिव रीजनिंग (Synthetic Contrastive Reasoning) नामक एक नया तरीका बनाया है जिससे AI को प्रशिक्षित किया जाता है। इसे एक ट्रेनिंग कैंप के रूप में सोचें जिसमें दो प्रकार के प्रशिक्षक हैं:
- परफेक्ट इंस्ट्रक्टर (पॉजिटिव ट्रेस): यह प्रशिक्षक AI को दिखाता है कि पहेली को सही ढंग से, चरण-दर-चरण, केवल किताबों में दी गई जानकारी का उपयोग करके कैसे हल किया जाए।
- ट्रिकस्टर इंस्ट्रक्टर (नेगेटिव ट्रेस): यह प्रशिक्षक भी पहेली को हल करने की कोशिश करता है, लेकिन वे सूक्ष्म और विश्वसनीय गलतियाँ करते हैं। वे दो नामों को आपस में बदल सकते हैं, स्टेप्स का क्रम गलत कर सकते हैं, या गलत कॉलम चुन सकते हैं। उनका दिया गया उत्तर गलत होता है, लेकिन तर्क पहली नज़र में बहुत विश्वसनीय लगता है।
जादुई तत्व: पेपर में पाया गया कि यदि आप सही और ट्रिकस्टर दोनों उदाहरण बनाने के लिए एक ही इंस्ट्रक्टर का उपयोग करते हैं, तो AI भ्रमित हो जाता है क्योंकि "स्टाइल" बहुत समान होता है। इसके बजाय, उन्होंने दो अलग-अलग AI मॉडल्स (अच्छे उदाहरणों के लिए GPT-4o और बुरे उदाहरणों के लिए Gemini 2.0) का उपयोग किया। इसने एक मजबूत कंट्रास्ट (विभेद) पैदा किया, जैसे कि एक सख्त शिक्षक और एक चंचल धोखेबाज का होना, जिससे छात्र AI के लिए सही और गलत के बीच अंतर करना बहुत आसान हो गया।
ट्रेनिंग तकनीक: CPO (कॉन्ट्रास्टिव प्रेफरेंस ऑप्टिमाइजेशन)
एक बार जब उनके पास "सही तरीका" और "गलत तरीका" के ये जोड़े आ गए, तो उन्होंने CPO नामक एक विशेष प्रशिक्षण पद्धति का उपयोग किया।
- पुराना तरीका (SFT): "यह सही उत्तर है। इसे याद कर लो।"
- पुराना तरीका (DPO): "यहाँ एक सही उत्तर और एक गलत उत्तर है। सही वाले को चुनो।" (यह विधि अस्थिर और मेमोरी-भारी पाई गई)।
- नया तरीका (CPO): "यहाँ एक सही उत्तर और एक गलत उत्तर है। सही वाले को मजबूती से पसंद करना सीखो और गलत वाले को सक्रिय रूप से अस्वीकार करना सीखो।"
CPO AI को न केवल सही रास्ता जानना सिखाता है, बल्कि "जालों" (विश्वसनीय लेकिन गलत तर्क) को पहचानना और उनसे बचना भी सिखाता है।
परिणाम: एक बड़ी छलांग
शोधकर्ताओं ने चार अलग-अलग टेस्ट सेट्स का उपयोग करके तीन अलग-अलग AI मॉडल्स (Qwen, Mistral, और Llama) पर इसका परीक्षण किया।
- स्कोर: मानक ट्रेनिंग की तुलना में, इस नई पद्धति ने AI की सटीकता में औसतन 9.7% से 16.3% का सुधार किया।
- मुख्य आकर्षण: सबसे कठिन टेस्ट (MMQA) पर, सुधार 21 प्रतिशत अंक तक अधिक था।
- आश्चर्य: भले ही उन्होंने AI को केवल दो टेबल्स वाली पहेलियों पर प्रशिक्षित किया था, फिर भी AI बिना किसी अतिरिक्त ट्रेनिंग के तीन टेबल्स वाली पहेलियों को हल करने में काफी बेहतर हो गया। उसने केवल विशिष्ट कड़ियों को नहीं, बल्कि कड़ियों को जोड़ने के कौशल को सीखा।
यह क्यों महत्वपूर्ण है
यह पेपर साबित करता है कि AI को जटिल कार्यों में स्मार्ट बनाने के लिए, हमें उन्हें केवल प्रश्न और उत्तर नहीं खिलाने चाहिए। हमें उन्हें सोचने के तरीके के उदाहरण देने चाहिए, जिसमें गलत सोचने के तरीके के उदाहरण भी शामिल हों ताकि वे त्रुटियों को पहचान सकें।
सिंथेटिक डेटा (AI-जनरेटेड उदाहरण) और एक "कॉन्ट्रास्टिव" दृष्टिकोण (सही बनाम गलत की तुलना) का उपयोग करके, उन्होंने AI को जटिल, बहु-चरणीय समस्याओं को नेविगेट करने के लिए सिखाने का एक बहुत अधिक कुशल और प्रभावी तरीका बनाया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।