10090 पेपर
यह शोध पत्र डियोन्टिक एजेंटिक रीजनिंग (DAR) प्रस्तुत करता है, जो एक एजेंटिक फ्रेमवर्क है जो लार्ज लैंग्वेज मॉडल्स को जटिल डियोन्टिक रीजनिंग कार्यों पर प्रदर्शन सुधारने के लिए मांग पर कानूनों (statutes) के साथ इंटरैक्ट करने में सक्षम बनाता है, हालांकि यह उल्लेख करता है कि ये लाभ समान नहीं हैं और कमजोर मॉडल्स में संख्यात्मक प्रदर्शन में गिरावट और अधिक टोकन खपत का कारण बन सकते हैं।
यह शोध पत्र तर्क देता है कि फाउंडेशन मॉडल्स के लिए लागत-बचत अनुसंधान रणनीतियाँ, जैसे कि प्रॉक्सी प्रयोग और अवलोकनात्मक अध्ययन, विशिष्ट वैधता खतरों को पेश करती हैं जिन्हें अनुभवजन्य सामाजिक विज्ञानों से अनुकूलित एक प्रस्तावित कारण अनुमान (कॉज़ल इन्फरेंस) ढांचे के माध्यम से व्यवस्थित रूप से पहचाना और प्रबंधित किया जा सकता है।
यह शोध पत्र रैंकिंग-इम्प्रूव्ड सेल्फ-कंसिस्टेंसी (RISC) को प्रस्तुत करता है, जो एक विधि है जो मानक मेजॉरिटी वोटिंग को एक हल्के लैम्ब्डा रैंक (LambdaRank) मॉडल से बदलकर लार्ज लैंग्वेज मॉडल के प्रदर्शन को बढ़ाती है, जो आवृत्ति, सिमेंटिक सेंट्रैलिटी और रीजनिंग कंसिस्टेंसी को बेहतर ढंग से पकड़ने के लिए कई पूरक विशेषताओं का उपयोग करके कैंडिडेट उत्तरों को स्कोर करता है।
यह शोध पत्र एक मिनिमल-पेयर (minimal-pair) डेटासेट प्रस्तुत करता है जो यह प्रदर्शित करता है कि भाषा मॉडल 'have' और 'make' जैसे शब्दों के लाइट-वर्ब (light-verb) और फुल-वर्ब (full-verb) उपयोगों के बीच समान संदर्भों के भीतर अंतर कर सकते हैं, जो वाक्यांशिक सक्षमता (phraseological competence) की जांच करने के लिए एक पुन: प्रयोज्य संसाधन प्रदान करता है।
यह शोध पत्र BabyCL को प्रस्तुत करता है, जो एक निरंतर बहुविध शिक्षण (continual multimodal learning) ढांचा है जो शब्द-संदर्भ मैपिंग (word-referent mappings) को प्रभावी ढंग से सीखने के लिए बाल-केंद्रित वीडियो डेटा को एक एकल कालानुक्रमिक पास (single chronological pass) में संसाधित करता है, जो ऑफलाइन प्रशिक्षण के साथ प्रदर्शन के अंतर को काफी कम करता है और साथ ही एक बच्चे के स्वाभाविक सीखने के अनुभव की बेहतर नकल करता है।
यह शोध पत्र ऑडियो इंटरेक्शन मॉडल और इसके कार्यान्वयन, ऑडियो-इंटरेक्शन को प्रस्तुत करता है, जो एक एकीकृत स्ट्रीमिंग फ्रेमवर्क है जो साउंडफ्लो सिस्टम और स्ट्रीमऑडियो-2एम कॉर्पस के माध्यम से ऑफलाइन टास्क निष्पादन को ऑनलाइन जनरल ऑडियो इंस्ट्रक्शन फॉलोइंग के साथ एकीकृत करके रीयल-टाइम, प्रोएक्टिव ऑडियो अंडरस्टैंडिंग और रिस्पॉन्स को सक्षम बनाता है।
यह शोध पत्र प्रदर्शित करता है कि बेस लार्ज लैंग्वेज मॉडल्स में पहले से ही बाहरी जज के स्कोर का पूर्वानुमान लगाने की एक अंतर्निहित क्षमता मौजूद है, जिसे प्रस्तावित सेल्फ-इवैल्यूएशन एलिसिटेशन (SEE) पद्धति के माध्यम से न्यूनतम डेटा का उपयोग करके प्रभावी रूप से अनलॉक और एक हस्तांतरणीय स्व-मूल्यांकन कौशल में परिष्कृत किया जा सकता है।
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स में इन-कॉन्टेक्स्ट उदाहरणों के चयन के लिए MLP एक्टिवेशन-आधारित संकेतों के उपयोग की क्षमता की जांच करता है, लेकिन यह निष्कर्ष निकालता है कि कार्य प्रदर्शन के साथ सहसंबंध की कमी के कारण ऐसी विधियाँ अप्रभावी हैं, और यह सुझाव देता है कि भविष्य के शोध को सुपरपोजिशन की अंतर्निहित समस्या को संबोधित करने के लिए स्पार्स ऑटोएनकोडर जैसी तकनीकों का अन्वेषण करना चाहिए।
यह शोधपत्र एक प्रशिक्षण-मुक्त विधि प्रस्तावित करता है जो रिकवरेबल (recoverable) और स्ट्रक्चरल (structural) विफलताओं के बीच अंतर करने के लिए विफल तर्क ट्रेसेस (reasoning traces) के वितरण संबंधी हस्ताक्षरों का विश्लेषण करती है, जिससे एक ऐसा रूटिंग नियम सक्षम होता है जो मॉडल वेट्स (model weights) तक पहुंच की आवश्यकता के बिना कठिन समस्याओं के लिए रेस्क्यू दरों में महत्वपूर्ण सुधार करता है।
यह शोध पत्र DistIL को प्रस्तुत करता है, जो एक वितरण संबंधी (distributional) DAgger-आधारित दृष्टिकोण है जो निरंतर सुधार (monotonic policy improvement) प्राप्त करने के लिए एक फॉरवर्ड क्रॉस-एन्ट्रॉपी ऑब्जेक्टिव के माध्यम से समृद्ध फीडबैक का लाभ उठाता है और मानक RLVR एवं सेल्फ-डिस्टिलेशन विधियों की तुलना में रीजनिंग, कोडिंग और गणितीय कार्यों में बेहतर प्रदर्शन करता है।