24514 पेपर
यह शोध पत्र विसंगति का पता लगाने (anomaly detection) में मापन त्रुटियों (measurement errors) और यांत्रिक बदलावों (mechanistic shifts) के बीच अंतर करने के लिए एक कारण मॉडल (causal model) और एक कुशल अनुमान प्रक्रिया प्रस्तावित करता है, जो अत्याधुनिक प्रदर्शन के साथ सटीक मूल कारण स्थानीयकरण (root cause localization) और विसंगति प्रकार वर्गीकरण को सक्षम बनाता है।
यह शोधपत्र नेस्टेड स्लाइस सैंपलिंग (NSS) को प्रस्तुत करता है, जो नेस्टेड सैंपलिंग का एक GPU-त्वरित, वेक्टरकृत निरूपण है जो जटिल, मल्टीमॉडल बायेसियन इन्फरेंस समस्याओं को कुशलतापूर्वक संभालने के लिए हिट-एंड-रन स्लाइस सैंपलिंग और एक अनुकूलित स्लाइस विड्थ नियम का लाभ उठाता है, साथ ही सटीक एविडेंस अनुमान और पोस्टीरियर सैंपल्स को बनाए रखता है।
यह शोध पत्र प्रकट करता है कि ट्रांसफॉर्मर्स में ग्रेडिएंट-आधारित एट्रिब्यूशन (attribution) व्यवस्थित रूप से कारण संबंधी महत्व को गलत पहचानता है, क्योंकि यह अनावश्यक प्रारंभिक-परत घटकों ("ग्रेडिएंट ब्लोट्स") को अत्यधिक महत्व देता है और महत्वपूर्ण अंतिम-परत घटकों ("हिडन हीरोज") को कम आंकता है, जिससे त्रुटिपूर्ण यांत्रिक व्याख्याओं से बचने के लिए कारण सत्यापन (causal validation) आवश्यक हो जाता है।
यह शोध पत्र आउटलायर-दूषित मापों के कारण बेयसियन व्युत्क्रम समस्याओं (Bayesian inverse problems) में डिफ्यूजन-आधारित सॉल्वर के प्रदर्शन में होने वाली गिरावट को संबोधित करने के लिए एक सुदृढ़ डिफ्यूजन पोस्टीरियर सैंपलिंग विधि का प्रस्ताव करता है जो रैखिक समस्याओं के लिए सैद्धांतिक रूप से स्थिर सिद्ध है और रैखिक एवं गैर-रैखिक दोनों कार्यों के लिए अनुभवजन्य रूप से प्रभावी है।
यह शोधपत्र MEG-XL को प्रस्तुत करता है, जो एक ब्रेन-टू-टेक्स्ट मॉडल है जो मौजूदा विधियों की तुलना में बेहतर डेटा-कुशल सामान्यीकरण (data-efficient generalization) और शब्द डिकोडिंग प्रदर्शन प्राप्त करने के लिए प्रति नमूना 2.5 मिनट के MEG डेटा के साथ लॉन्ग-कॉन्टेक्स्ट प्री-ट्रेनिंग का लाभ उठाता है, जो विशेष रूप से उन नैदानिक अनुप्रयोगों में लाभान्वित होता है जहाँ व्यापक प्रशिक्षण डेटा उपलब्ध नहीं होता है।
यह शोधपत्र MathlibLemma को प्रस्तुत करता है, जो एक स्वचालित LLM-आधारित पाइपलाइन है जो Lean Mathlib लाइब्रेरी का विस्तार करने के लिए लुप्त "लोकप्रिय" (folklore) लेम्मा की खोज और औपचारिकीकरण करती है, साथ ही AI-सहायता प्राप्त औपचारिक गणित को आगे बढ़ाने के लिए 4,000 से अधिक सत्यापित गणितीय कथनों का एक व्यापक बेंचमार्क स्थापित करती है।
यह शोध पत्र स्केलेबल टास्क एट्रिब्यूशन के लिए गैररेखीय टास्क इंटरैक्शन को सटीक रूप से पकड़ने हेतु एक कुशल ग्रेडिएंट-आधारित अनुमान प्रक्रिया के साथ कर्नेल सरोगेट मॉडल पेश करता है, जो ग्राउंड ट्रुथ के साथ सहसंबंध और डाउनस्ट्रीम डेटा चयन प्रदर्शन के मामले में लीनियर सरोगेट्स और इन्फ्लुएंस फंक्शन्स से काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र फेडरेटेड कॉन्सेप्ट-आधारित मॉडल्स (F-CMs) को प्रस्तुत करता है, जो एक नवीन ढांचा है जो डेटा गोपनीयता बनाए रखते हुए विकसित होते पर्यवेक्षण सेटों के अनुसार आर्किटेक्चर को गतिशील रूप से अनुकूलित करने और कॉन्सेप्ट-स्तरीय जानकारी को एकत्रित करके वितरित संस्थानों में व्याख्या योग्य डीप लर्निंग मॉडल्स को प्रशिक्षित करने में सक्षम बनाता है।
यह शोध पत्र पोस्टीरियर फिडेलिटी (posterior fidelity) के एक व्यवस्थित अध्ययन को पेश करके और एक ग्राउंड-ट्रुथ-मुक्त मीट्रिक, स्कोर-आधारित कर्नेल स्टीन डिस्क्रीपेंसी (score-based Kernel Stein Discrepancy), का प्रस्ताव देकर मौजूदा डिफ्यूजन इनवर्स सॉल्वर बेंचमार्क की उस सीमा को संबोधित करता है जो केवल पुनर्निर्माण सटीकता (reconstruction accuracy) पर ध्यान केंद्रित करते हैं, ताकि यह मूल्यांकन किया जा सके कि उत्पन्न नमूने नियंत्रित सिमुलेशन और वास्तविक दुनिया की इनवर्स समस्याओं में लक्षित पोस्टीरियर वितरण को कितनी अच्छी तरह कैप्चर करते हैं।
यह शोध पत्र Agent-Omit को पेश करता है, जो एक एकीकृत प्रशिक्षण ढांचा (unified training framework) है जो कोल्ड-स्टार्ट फाइन-ट्यूनिंग और ओमिट-अवेयर रीइन्फोर्समेंट लर्निंग के माध्यम से LLM एजेंटों को अनावश्यक विचारों और अवलोकनों को अनुकूल रूप से छोड़ने में सक्षम बनाकर उनकी दक्षता को बढ़ाता है, जिससे कई बेंचमार्क में बेहतर प्रभावशीलता-दक्षता ट्रेड-ऑफ प्राप्त होता है।