9899 पेपर
यह शोध पत्र इन्फॉर्मथ (Informath) प्रोजेक्ट का परिचय देता है, जो एक डेडक्टी हब (Dedukti hub) और ग्रामैटिकल फ्रेमवर्क (Grammatical Framework) पर निर्मित एक प्रतीकात्मक अनौपचारिककरण ढांचे (symbolic informalization framework) का उपयोग करता है ताकि एगडा (Agda), लीन (Lean) और रॉक (Rocq) जैसे सिस्टम के औपचारिक प्रमाणों को प्रवाहपूर्ण, सटीक और बहुभाषी प्राकृतिक भाषा में विश्वसनीय रूप से परिवर्तित किया जा सके।
यह शोध पत्र \textsc{LESS} को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free) और मॉडल-अज्ञेय (model-agnostic) अनुकूली सैंपलर है जो एक पारस्परिक-स्थिरता नियम (mutual-stability rule) के माध्यम से टोकन प्रतिबद्धता (token commitment) को गतिशील रूप से निर्धारित करके डिफ्यूजन लार्ज लैंग्वेज मॉडल्स की दक्षता और सटीकता में महत्वपूर्ण सुधार करता है, जिससे फिक्स्ड-बजट डिकोडिंग की तुलना में रिवर्स स्टेप्स में 72.1% की कमी आती है।
यह शोध पत्र यह पहचानते हुए कि अधिक शक्तिशाली मॉडल महत्वपूर्ण टोकन और सत्यापन एवं बैकट्रैकिंग जैसे संज्ञानात्मक व्यवहारों की उच्च व्यापकता प्रदर्शित करते हैं, कोड इंटरप्रेटर्स के साथ प्रभावी तर्क (reasoning) को व्यवस्थित रूप से अभिलक्षित करता है, और यह प्रदर्शित करता है कि अनुमान (inference) और प्रशिक्षण दोनों के दौरान इन बाह्य और आंतरिक गुणों का लाभ उठाना तर्क प्रदर्शन को बढ़ाने के साथ-साथ टोकन दक्षता में सुधार कर सकता है।
KVEraser एक सीखा हुआ (learned) तरीका है जो लॉन्ग-कॉन्टेक्स्ट LLMs में कुशल स्थानीयकृत संदर्भ मिटाने (localized context erasing) को सक्षम बनाता है, जो हटाए गए स्पैन के केवल KV स्टेट्स को सीखे हुए स्टीयरिंग स्टेट्स से बदलकर प्राप्त किया जाता है, जिससे पारंपरिक रीप्रोसेसिंग की तुलना में काफी कम लेटेंसी के साथ लगभग पूर्ण रीकंप्यूटेशन प्रदर्शन प्राप्त होता है।
यह शोध पत्र MetaSyn प्रस्तुत करता है, जो पूर्ण साक्ष्य संश्लेषण पाइपलाइन पर LLM एजेंटों को बेंचमार्क करने के लिए डिज़ाइन किया गया Nature Portfolio से 442 विशेषज्ञ-क्यूरेटेड मेटा-विश्लेषणों का एक व्यापक डेटासेट है, जो यह प्रकट करता है कि जहाँ रिट्रीवल प्रदर्शन उच्च है, वहीं वर्तमान प्रणालियाँ विषयगत रूप से समान विचलित करने वाले तत्वों से पात्र अध्ययनों को अलग करने के स्क्रीनिंग चरण में गंभीर रूप से विफल रहती हैं।
यह शोध पत्र ContextRL का प्रस्ताव करता है, जो एक संदर्भ-जागरूक सुदृढीकरण शिक्षण (reinforcement learning) विधि है जो केवल अंतिम उत्तर पर्यवेक्षण पर निर्भर रहने के बजाय, एक अप्रत्यक्ष सहायक उद्देश्य के माध्यम से अत्यधिक समान युग्मों में से सही संदर्भ चुनने के लिए मॉडलों को प्रशिक्षित करके, LLMs में दीर्घ-अवधि तर्क और बहुविध (multimodal) प्रदर्शन में सुधार करता है।
यह शोध पत्र प्रदर्शित करता है कि भाषा मॉडल आंतरिक रूप से लक्ष्य की सफलता की संभावना को दर्शाने वाले एक रैखिक "वैल्यू एक्सिस" (मूल्य अक्ष) को एनकोड करते हैं, जो आत्मविश्वास, आत्म-सुधार और अन्वेषण जैसे व्यवहारों को कारणवत रूप से नियंत्रित करता है, और जिसे स्टीयरिंग या प्राथमिकता अनुकूलन के माध्यम से हेरफेर किया जा सकता है।
यह शोध पत्र एक कमजोर रूप से पर्यवेक्षित (weakly supervised) प्राकृतिक भाषा प्रसंस्करण (Natural Language Processing) पाइपलाइन प्रस्तुत करता है जो वाक्य निष्कर्षण (sentence extraction), डोमेन-विशिष्ट सिमेंटिक एम्बेडिंग्स (domain-specific semantic embeddings), और कमजोर लेबल उत्पन्न करने के लिए दो-स्तरीय क्लस्टरिंग का लाभ उठाकर इतालवी अस्पताल डिस्चार्ज पत्रों से रोगी के निदान को स्वचालित रूप से पहचानता है, जिससे पूर्ण रूप से पर्यवेक्षित मॉडलों के समान प्रदर्शन प्राप्त होता है जबकि मैनुअल एनोटेशन की आवश्यकता को काफी कम कर दिया जाता है।
सेंटिनल (Sentinel) एक हल्का, प्रशिक्षण-मुक्त संदर्भ संपीड़न (context compression) ढांचा है जो केवल एक सिंगल फॉरवर्ड पास का उपयोग करके 5 तक संपीड़न के साथ कुशल, उच्च-प्रदर्शन वाले रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) को प्राप्त करने के लिए फ्रोजन (frozen) LLMs से इन्फरेंस-टाइम अटेंशन पैटर्न को डिकोड करता है।
यह शोध पत्र अनुसंधान लेखन में सांस्कृतिक मानदंडों के विश्लेषण और मापन के लिए एक मानव-केंद्रित ढांचे का प्रस्ताव करता है, जो विभिन्न अनुसंधान संस्कृतियों में प्रमुख शैलीगत और अलंकारिक अंतरों की पहचान करने के लिए अंतर्विषयक साक्षात्कारों का उपयोग करता है और यह प्रदर्शित करता है कि कैसे ये मीट्रिक विशिष्ट सांस्कृतिक संदर्भों के अनुकूल होने के बजाय बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) की लेखन को समरूप बनाने की प्रवृत्ति को प्रकट करते हैं।