Generalizing Numerical Reasoning in Table Data through Operation Sketches and Self-Supervised Learning
यह शोधपत्र TaNOS को प्रस्तुत करता है, जो एक निरंतर प्री-ट्रेनिंग फ्रेमवर्क है जो हेडर अनायनाइज़ेशन (header anonymization), ऑपरेशन स्केचेस (operation sketches) और प्रोग्राम-फर्स्ट सेल्फ-सुपरवाइज्ड लर्निंग को संयोजित करके विशेषज्ञ-डोमेन तालिकाओं में संख्यात्मक तर्क की मजबूती और हस्तांतरणीयता को बढ़ाता है, ताकि सुपरवाइज्ड फाइन-ट्यूनिंग और डोमेन शिफ्ट की सीमाओं को दूर किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ TaNOS पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करते हुए हिंदी अनुवाद दिया गया है।
बड़ी समस्या: "चीट शीट" वाला छात्र
कल्पना कीजिए कि आप एक छात्र को वित्तीय रिपोर्ट (संख्याओं से भरी टेबल) के आधार पर गणित के वर्ड प्रॉब्लम्स हल करने के लिए प्रशिक्षित कर रहे हैं।
यदि आप इस छात्र को मानक तरीकों (सुपरवाइज्ड फाइन-ट्यूनिंग) का उपयोग करके पढ़ाते हैं, तो वे उन विशिष्ट अभ्यास परीक्षणों में बहुत अच्छे हो सकते हैं जो आप उन्हें देते हैं। हालाँकि, वे वास्तव में यह नहीं सीख रहे होते कि गणित कैसे किया जाता है। इसके बजाय, वे शॉर्टकट याद कर रहे होते हैं।
- शॉर्टकट: वे देखते हैं कि जब भी कॉलम हेडर में "Revenue" लिखा होता है, तो उत्तर में आमतौर पर संख्याओं को जोड़ना शामिल होता है। जब इसमें "Profit" लिखा होता है, तो वे घटाते हैं।
- विफलता: यदि आप उन्हें ऐसा टेस्ट देते हैं जहाँ हेडर बदलकर "Sales" या "Earnings" कर दिए गए हों, या प्रश्न थोड़े अलग तरीके से पूछे गए हों, तो छात्र घबरा जाता है और असफल हो जाता है। उन्होंने शब्दों (हेडर्स) पर भरोसा किया था, न कि तर्क (गणित की संरचना) पर।
यही वर्तमान AI मॉडल के साथ विशेषज्ञ टेबल्स (जैसे फाइनेंस या बायोलॉजी) पर होता है। वे "भंगुर" (brittle) होते हैं—संदर्भ बदलने पर वे आसानी से टूट जाते हैं।
समाधान: TaNOS (एक "आर्किटेक्ट" दृष्टिकोण)
शोधकर्ताओं ने TaNOS नामक एक नया प्रशिक्षण ढांचा बनाया है। AI को शब्द रटने देने के बजाय, उन्होंने इसे समस्या का ब्लूप्रिंट (खाका) सीखने के लिए मजबूर किया। उन्होंने यह तीन चतुर तरीकों से किया:
1. "ऑपरेशन स्केच" (ब्लूप्रिंट)
कल्पना कीजिए कि आप एक शेफ से केक बनाने के लिए कह रहे हैं।
- पुराना तरीका: आप कहते हैं, "चॉकलेट केक बनाओ।" शेफ याद कर लेता है कि "चॉकलेट = कोको पाउडर।" यदि आप "डार्क चॉकलेट केक" मांगते हैं, तो शेफ भ्रमित हो जाता है।
- TaNOS का तरीका: आप शेफ को एक स्केच देते हैं: "मैदा, चीनी और कोको मिलाएं। 350° पर बेक करें।"
- पेपर में: AI द्वारा प्रश्न का उत्तर देने से पहले, शोधकर्ता उसे एक छोटा, अमूर्त संकेत (स्केच) देते हैं जो बताता है कि किस तरह का गणित करना है (जैसे, "अंतिम संख्या से पहली संख्या को घटाएं")। यह AI को टेबल हेडर के शब्दों के आधार पर अनुमान लगाने के बजाय गणना के तर्क पर ध्यान केंद्रित करने के लिए मजबूर करता है।
2. हेडर एनोनिमाइजेशन (द आँखों पर पट्टी)
कल्पना कीजिए कि आप किसी को शतरंज खेलना सिखा रहे हैं, लेकिन आप मोहरों के नाम (राजा, रानी, प्यादा) को ढक देते हैं और उन्हें केवल "मोहरा A," "मोहरा B," और "मोहरा C" कहते हैं।
- ऐसा क्यों किया जाता है? यदि छात्र यह सीखता है कि "मोहरा A" हमेशा दो कदम चलता है, तो वह तब विफल हो सकता है जब आप उसे ऐसे खेल में बदल दें जहाँ "मोहरा A" अलग तरह से चलता है। लेकिन यदि वे नामों के बावजूद चलने के नियमों को सीख लेते हैं, तो वे कोई भी शतरंज का खेल खेल सकते हैं।
- पेपर में: AI को ऐसी टेबल्स पर प्रशिक्षित किया जाता है जहाँ कॉलम हेडर (जैसे "Revenue" या "Net Income") को यादृच्छिक (random) निरर्थक शब्दों (जैसे "Burger" या "Zebra") से बदल दिया जाता है। यह AI को विशिष्ट शब्दावली को अनदेखा करने और पूरी तरह से डेटा की संरचना पर ध्यान केंद्रित करने के लिए मजबूर करता है।
3. सेल्फ-सुपरवाइज्ड लर्निंग (अनंत अभ्यास प्रयोगशाला)
आमतौर पर, AI को सिखाने के लिए, इंसानों को हजारों प्रश्न और उत्तर लिखने पड़ते हैं। यह धीमा और महंगा है।
- TaNOS का तरीका: शोधकर्ताओं ने एक रोबोट बनाया जो अपने स्वयं के अभ्यास प्रश्न लिखता है।
- रोबोट एक यादृच्छिक गणितीय ऑपरेशन चुनता है (जैसे, "10 में से 5 घटाएं")।
- वह उत्तर की गणना करता है (5)।
- फिर, वह एक AI से पूछता है कि उस गणित से मेल खाता हुआ एक प्राकृतिक भाषा का प्रश्न लिखे।
- यह क्यों काम करता है: क्योंकि रोबोट ने गणित से शुरुआत की है, इसलिए उत्तर 100% गारंटी के साथ सही है। AI को बिना किसी इंसान द्वारा एक भी प्रश्न लिखे, लाखों ऐसे सटीक उदाहरणों पर अभ्यास करने का मौका मिलता है।
परिणाम: यह क्यों मायने रखता है
शोधकर्ताओं ने इसका परीक्षण एक 8-बिलियन-पैरामीटर वाले AI मॉडल पर किया (जो बड़े टेक दिग्गजों द्वारा उपयोग किए जाने वाले विशाल मॉडलों की तुलना में स्मार्ट लेकिन अपेक्षाकृत छोटा है)।
- कम डेटा, बेहतर परिणाम: TaNOS ने केवल 10% प्रशिक्षण डेटा का उपयोग करके 80% सटीकता प्राप्त की। मानक तरीकों को केवल 74% सटीकता पाने के लिए 100% डेटा की आवश्यकता थी।
- "शेप-शिफ्टर" टेस्ट: जब उन्होंने डोमेन बदला (जैसे, एक फाइनेंस मॉडल लिया और उसे अलग हेडर वाली बायोलॉजी टेबल्स पर टेस्ट किया), तो मानक मॉडल विफल हो गए (प्रदर्शन में 10% से अधिक की गिरावट आई)। TaNOS पर कोई खास असर नहीं पड़ा, प्रदर्शन में 2% से भी कम की गिरावट आई।
- दिग्गजों को पछाड़ना: TaNOS ने भारी-भरकम लागत वाले विशाल, प्रोप्राइटरी मॉडल्स (जैसे GPT-5 और Gemini) को भी पीछे छोड़ दिया, भले ही TaNOS एक बहुत छोटे, ओपन-सोर्स मॉडल का उपयोग कर रहा था।
मुख्य निष्कर्ष
TaNOS एक छात्र को गणित की शब्दावली रटने के बजाय उसके व्याकरण को समझने के लिए सिखाने जैसा है।
विशिष्ट शब्दों को छिपाकर (Anonymization), उन्हें तर्क का ब्लूप्रिंट देकर (Sketches), और उन्हें अनंत स्व-जनित समस्याओं पर अभ्यास करने देकर (Self-Supervised Learning), AI एक लचीला समस्या-समाधानकर्ता बनना सीख जाता है। यह नए उद्योगों, नई टेबल फॉर्मेट और नए प्रश्नों को बिना दोबारा प्रशिक्षित किए संभाल सकता है।
संक्षेप में: यह AI को एक ऐसे तोते के रूप में बनने से रोकता है जो केवल सुनी हुई बातों को दोहराता है, और इसे एक ऐसे गणितज्ञ में बदल देता है जो समझता है कि संख्याएँ कैसे काम करती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।