10206 पेपर
यह शोध पत्र प्रदर्शित करता है कि प्राचीन ग्रीक ग्रंथों पर OCR करने वाले विजन-लैंग्वेज मॉडल्स (VLMs) अक्सर प्रवाहपूर्ण लेकिन दृश्य रूप से अग्राउंडेड (visually ungrounded) त्रुटियाँ उत्पन्न करने के लिए भाषाई पूर्वग्रहों (language priors) पर निर्भर करते हैं, जो एक ऐसा विफलता मोड है जो डिकोड-टाइम हस्तक्षेपों के साथ भी बना रहता है और पारंपरिक OCR प्रणालियों के शोर पैटर्न से काफी भिन्न है।
यह शोध पत्र UniMaia को प्रस्तुत करता है, जो एक पैरामीटर-कुशल (parameter-efficient) फ्रेमवर्क है जो एंड-टू-एंड मल्टीमॉडल प्रशिक्षण की आवश्यकता के बिना, डोमेन-विशिष्ट प्रदर्शन को संरक्षित करते हुए, गेमप्ले शैली और सामर्थ्य पर मानव-समान नियंत्रणीयता प्राप्त करने के लिए भाषा प्रॉम्प्ट्स का उपयोग करके एक फ्रोजन (frozen) Lc0 चेस पॉलिसी नेटवर्क को निर्देशित करता है।
यह शोध पत्र प्रकट करता है कि जहाँ भाषा मॉडलों में चेन-ऑफ-थॉट तर्क मुख्य रूप से ज्ञान का एक स्थिर, निर्णय-अपरिवर्तनीय प्रदर्शन है जो ज्ञान संघर्षों के दौरान उनके विकल्पों की निष्ठापूर्वक व्याख्या करने में विफल रहता है, वहीं स्व-रेटेड आत्मविश्वास निर्णयों की भविष्यवाणी करने के लिए एक कमजोर लेकिन वास्तविक संकेत प्रदान करता है, जो यह सुझाव देता है कि तर्क संबंधी तर्कों का विश्लेषण करने की तुलना में आत्मविश्वास की निगरानी करना अधिक प्रभावी है।
यह शोध पत्र लाइब्रेरियन (Librarian) को प्रस्तुत करता है, जो एक निरंतर खोज उप-एजेंट (persistent search sub-agent) है, जो अनावश्यक अन्वेषण को दबाकर और पूर्ण फ़ाइल अंशों के स्थान पर संक्षिप्त संदर्भों का उपयोग करके मल्टी-एजेंट सॉफ्टवेयर इंजीनियरिंग सिस्टम की ऊर्जा खपत को 25% तक महत्वपूर्ण रूप से कम करता है।
यह शोध पत्र CARL को प्रस्तुत करता है, जो एक क्षमता-जागरूक सुदृढीकरण शिक्षण (competence-aware reinforcement learning) ढांचा है जो प्राकृतिक सीमाओं पर मॉडल रोलआउट को विभाजित करके टूल-उपयोग निर्णयों को सेगमेंट-स्तरीय क्रेडिट आवंटित करता है, जिससे LLMs को यह स्वायत्त रूप से सीखने में सक्षम बनाया जाता है कि वे पैरामीट्रिक ज्ञान पर कब भरोसा करें बनाम बाहरी उपकरणों पर, और विशेष रूप से छोटे मॉडलों में अनावश्यक टूल कॉल्स को कम करते हुए सटीकता में महत्वपूर्ण सुधार करता है।
यह शोध पत्र TARQ का प्रस्ताव करता है, जो एक लेबल-मुक्त पोस्ट-ट्रेनिंग क्वांटाइजेशन फ्रेमवर्क है जो एक क्लोज्ड-फॉर्म बैलेंसिंग नियम और रेसिडुअल करेक्शन का उपयोग करके कैलिब्रेशन मास को दुर्लभ शब्दों की ओर स्थानांतरित करता है, जिससे बिना किसी एंटिटी लेबल या अतिरिक्त प्रशिक्षण के ऑटोमैटिक स्पीच रिकग्निशन में दुर्लभ-शब्द त्रुटि दरों में महत्वपूर्ण सुधार होता है।
यह शोधपत्र यह जांच करता है कि लार्ज लैंग्वेज मॉडल्स (Large Language Models) तार्किक तर्क (logical reasoning) कैसे करते हैं, जिसमें तथ्यात्मक नियमों को पुनः प्राप्त करने वाले विशिष्ट अटेंशन हेड्स (attention heads) और ग्राफ ट्रैवर्सल (graph traversal) जैसे वैश्विक एल्गोरिद्मिक रणनीतियों को निष्पादित करने के लिए सूचना को एकीकृत करने वाले उच्च-स्तरीय हेड्स की पहचान करने के लिए कॉज़ल मीडिएशन एनालिसिस (causal mediation analysis) का उपयोग किया गया है।
यह शोध पत्र रचनात्मकता बढ़ाने के लिए 'वेरिफिएबल रिवॉर्ड्स के साथ रीइन्फोर्समेंट लर्निंग' का उपयोग करके कोडेनेम्स (Codenames) शब्द-जुड़ाव खेल पर लार्ज लैंग्वेज मॉडल्स को प्रशिक्षित करने का प्रस्ताव देता है, जिससे यह पता चलता है कि जहाँ बड़े मॉडल (8B) न्यूनतम तर्क हानि के साथ निरंतर रचनात्मक लाभ प्राप्त करते हैं, वहीं छोटे मॉडल (1.7B और 4B) रचनात्मकता की कीमत पर तर्क की सटीकता को प्राथमिकता देते हैं।
FPMoE एक हल्का, ओपन-सोर्स कोड जनरेशन मॉडल है जो फंक्शनल प्रोग्रामिंग भाषाओं में मौजूदा मॉडलों की सीमाओं को दूर करने के लिए समर्पित और साझा विशेषज्ञों के साथ एक स्पार्स मिक्स्चर-ऑफ-एक्सपर्ट्स आर्किटेक्चर का लाभ उठाता है, जिससे केवल 3B सक्रिय पैरामीटर्स के साथ बहुत बड़े मॉडलों के बराबर प्रदर्शन करते हुए Haskell, OCaml और Scala पर बेहतर प्रदर्शन प्राप्त होता है।
DecomposeRL एक अर्ध-पर्यवेक्षित (semi-supervised), सुराग योग्य (traceable) क्लेम वेरिफिकेशन फ्रेमवर्क है जो एक डेटा-क्यूरेशन फनल और GRPO-आधारित सुदृढीकरण शिक्षण (reinforcement learning) का लाभ उठाकर एक संक्षिप्त 7B मॉडल को प्रशिक्षित करता है, जो बहुत बड़े बेसलाइन्स के समान प्रदर्शन प्राप्त करने के साथ-साथ व्याख्यात्मक तर्क ट्रेसेस (interpretable reasoning traces) भी उत्पन्न करता है।