Fisher-R1: Training LLM Agents for Reliable Hypothesis Testing
यह शोध पत्र परिकल्पना परीक्षण (hypothesis testing) में सांख्यिकीय तर्क (statistical reasoning) के मूल्यांकन के लिए एक बेंचमार्क, P-Bench पेश करता है, और Fisher-R1 प्रस्तुत करता है, जो एक सुदृढीकरण शिक्षण (reinforcement learning) द्वारा प्रशिक्षित LLM एजेंट है जो उन सूक्ष्म अनुमानात्मक त्रुटियों को संबोधित करके मौजूदा मॉडलों की तुलना में काफी बेहतर प्रदर्शन करता है जो गलत वैज्ञानिक निष्कर्षों की ओर ले जाती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप सुरागों के ढेर का उपयोग करके एक रहस्य सुलझाने की कोशिश कर रहे एक जासूस हैं। विज्ञान की दुनिया में, ये सुराग संख्याएं और डेटा बिंदु होते हैं, और रहस्य एक सवाल है जैसे, "क्या अधिक चॉकलेट खाने से आप बुद्धिमान बनते हैं?" इसे हल करने के लिए, आप केवल अनुमान नहीं लगाते; आप एक विशेष गणितीय परीक्षण चलाते हैं जिसे हाइपोथीसिस टेस्टिंग (परिकल्पना परीक्षण) कहा जाता है। इस परीक्षण को एक 'ट्रुथ-ओ-मीटर' (सत्य-मापक) के रूप में समझें जो एक संख्या उगल देता है जिसे p-वैल्यू कहते हैं। यदि यह संख्या बहुत छोटी है, तो यह एक चमकती हुई लाल बत्ती की तरह है जो कहती है, "हे, यह संबंध वास्तविक है!" यदि संख्या बड़ी है, तो बत्ती हरी रहती है, जिसका अर्थ है, "नहीं, यह शायद सिर्फ एक संयोग है।"
लंबे समय तक, वैज्ञानिक ही 'ट्रुथ-ओ-मीटर' को थामे हुए थे, सावधानीपूर्वक यह जाँचते थे कि क्या सुराग अस्त-व्यस्त हैं या क्या उन्होंने सही परीक्षण चुना है। लेकिन अब, हमारे पास AI एजेंट हैं—सुपर-स्मार्ट कंप्यूटर प्रोग्राम जो डेटा पढ़ सकते हैं, कोड लिख सकते हैं और ये परीक्षण अपने आप चला सकते हैं। उम्मीद यह है कि ये AI जासूस विज्ञान की गति बढ़ा देंगे, और मानव टीम की तुलना में कहीं अधिक तेज़ी से उत्तर खोज लेंगे। बड़ा सवाल यह है कि: क्या ये AI जासूस वास्तव में रहस्य सुलझाने में अच्छे हैं, या वे केवल दिखावा करने में बहुत माहिर हैं? वे एकदम सटीक कोड लिख सकते हैं और बहुत आत्मविश्वास से भरी बातें कर सकते हैं, लेकिन यदि वे अपने पास मौजूद सुरागों के लिए गलत 'ट्रुथ-ओमीटर' चुन लेते हैं, तो वे एक नकली खोज को असली घोषित कर सकते हैं।
यही वह बात है जिसकी जांच शोध पत्र "Fisher-R1: Training LLM Agents for Reliable Hypothesis Testing" करता है। लेखकों ने, जो स्टैनफोर्ड और विस्कॉन्सिन-मैडिसन विश्वविद्यालय की एक टीम है, महसूस किया कि वर्तमान AI जासूस चालाकी भरी गलतियाँ कर रहे हैं। उन्होंने पाया कि उन्नत से उन्नत AI मॉडल अक्सर डेटा में चेतावनी के संकेत देखते हैं—जैसे कि अजीब आउटलेयर्स (outliers) जो ग्लिच की तरह दिखते हैं—लेकिन फिर भी उन्हें अनदेखा कर देते हैं और गलत परीक्षण चला देते हैं। यह एक ऐसे जासूस की तरह है जो संदिग्ध के जूते से मेल न खाने वाले कीचड़ भरे पदचिह्न को देखता है, लेकिन फिर भी ज़िद करता है, "नहीं, यह निश्चित रूप से संदिग्ध ही है!" और रिपोर्ट लिखता है कि "मामला सुलझ गया!" जबकि मामला वास्तव में अभी भी खुला है।
इसे साबित करने के लिए, टीम ने एक नया प्रशिक्षण मैदान बनाया जिसे P-Bench कहा जाता है। कल्पना कीजिए कि यह AI जासूसों के लिए एक विशाल, कठिन बाधा दौड़ (obstacle course) है, जो जीव विज्ञान, अर्थशास्त्र और चिकित्सा से जुड़े 425 वास्तविक दुनिया के पहेलियों से भरा है। प्रत्येक पहेली AI को एक डेटासेट और एक प्रश्न देती है, लेकिन यह उन्हें यह नहीं बताती कि कौन सा 'ट्रुथ-ओ-मीटर' उपयोग करना है। AI को सही परीक्षण का पता लगाना होता है, उसे चलाना होता है, और परिणाम बताना होता है। टीम ने पाया कि इस कोर्स पर, शीर्ष स्तर के AI मॉडल (सबसे शक्तिशाली मॉडलों सहित) अक्सर विफल रहे। वे परीक्षण चलाते थे, एक परिणाम प्राप्त करते थे, और आत्मविश्वास के साथ एक खोज घोषित कर देते थे, भले ही गणित वास्तव में उसका समर्थन न करता हो।
तो, उन्होंने इसके बारे में क्या किया? उन्होंने Fisher-R1 नामक एक नया AI एजेंट बनाया। AI को केवल अनुमान लगाने देने के बजाय, उन्होंने इसे एक विशेष विधि का उपयोग करके प्रशिक्षित किया जिसे रीइन्फोर्समेंट लर्निंग (reinforcement learning) कहा जाता है। इसे एक वीडियो गेम की तरह समझें जहाँ AI को अंक तभी मिलते हैं जब वह सही परीक्षण चुनता है और सही उत्तर भी देता है। यदि वह काम के लिए गलत उपकरण चुनता है, तो उसे "गेम ओवर" मिल जाता है और उसे फिर से प्रयास करना पड़ता है। उन्होंने Fisher-R1 को हजारों सिंथेटिक पहेलियों पर प्रशिक्षित किया जहाँ उत्तर निश्चित रूप से ज्ञात थे, जिससे उसे सावधान रहना और अपने काम की स्वयं जाँच करना सिखाया गया।
परिणाम क्रांतिकारी थे। जब Fisher-R1 ने P-Bench बाधा दौड़ में भाग लिया, तो उसने केवल पास ही नहीं किया; उसने प्रतियोगिता को पछाड़ दिया। Fisher-R1 का 14-बिलियन-पैरामीटर वाला संस्करण (Fisher-R1-14B) GPT-5.4 और DeepSeek-V4-Pro जैसे सबसे मजबूत प्रोप्राइटरी मॉडलों से भी बेहतर प्रदर्शन करता है। कठिन पहेलियों पर, इसने अगले सर्वश्रेष्ठ AI की तुलना में अपनी सफलता दर में लगभग 21% का सुधार किया। इससे भी महत्वपूर्ण बात यह है कि इसने "आत्मविश्वासपूर्ण लेकिन गलत" वाली गलतियाँ करना बंद कर दिया। इसने सीखा कि "रुको, ये डेटा बिंदु अजीब हैं; मुझे मानक परीक्षण का उपयोग नहीं करना चाहिए," और इसके बजाय एक सुरक्षित, अधिक सटीक तरीका चुना।
यह शोध पत्र सुझाव देता है कि जबकि वर्तमान AI एजेंट कोड लिखने में महान हैं, उनमें यह गहरी सांख्यिकीय अंतर्दृण (statistical intuition) की कमी है कि किसी विशिष्ट समस्या के लिए कौन सा कोड लिखना है। उन्हें सत्यापित पुरस्कारों (verified rewards) के साथ प्रशिक्षित करके—उन्हें एक स्कोर देकर कि क्या उनका अंतिम निष्कर्ष वास्तविक सत्य से मेल खाता है—Fisher-R1 ने एक बहुत अधिक विश्वसनीय वैज्ञानिक बनना सीख लिया। लेखक निष्कर्ष निकालते हैं कि हम अभी AI को ऑटोपायलट पर विज्ञान करने के लिए नहीं छोड़ सकते; हमें उन्हें विशेष रूप से एक सावधान सांख्यिकीविद बनने के लिए प्रशिक्षित करने की आवश्यकता है। Fisher-R1 जैसे उपकरणों और P-Bench जैसे बेंचमार्क के साथ, हम ऐसे AI पार्टनर बनाना शुरू कर सकते हैं जो केवल स्मार्ट सुनाई नहीं देते, बल्कि वास्तव में गणित को सही करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।