10245 पेपर
यह शोध पत्र LIFT को पेश करता है, जो डिफ्यूजन लैंग्वेज मॉडल्स के लिए एक लर्नैबिलिटी-इन्फॉर्म्ड फाइन-ट्यूनिंग एल्गोरिदम है जो विभिन्न डिफ्यूजन टाइम स्टेप्स पर उपलब्ध कॉन्टेक्स्ट के साथ टोकन लर्निंग की कठिनाई को गतिशील रूप से संरेखित करता है, और रीजनिंग बेंचमार्क्स पर मौजूदा सुपरवाइज्ड फाइन-ट्यूनिंग बेसलाइन्स से काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र एक नवीन मतिभ्रम (hallucination) पहचान पद्धति प्रस्तावित करता है जो संदर्भ दस्तावेजों और LLM आउटपुट के बीच द्विपक्षीय ग्राफ (bipartite graphs) का निर्माण करके और उनके संरेखण संरचना (alignment structure) को मॉडल करने के लिए एक ग्राफ न्यूरल नेटवर्क को प्रशिक्षित करके, ग्राफ संरेखण टोपोलॉजी (graph alignment topology) को एक इंडक्टिव बायस (inductive bias) के रूप में उपयोग करता है, जिससे विविध डेटासेट्स पर अत्याधुनिक प्रदर्शन प्राप्त होता है।
यह अध्ययन स्लैक (Slack) संचार लॉग से व्यक्तिगत डोमेन ज्ञान का अनुमान लगाने की सात लार्ज लैंग्वेज मॉडल्स की क्षमता का मूल्यांकन करता है, जिसमें उनके ज़ीरो-शॉट अनुमानों की स्वयं-रिपोर्ट किए गए कौशल के साथ तुलना की गई है, जिससे यह पाया गया कि हालांकि जेमिनी 2.5 फ्लैश (Gemini 2.5 Flash) ने उच्चतम सटीकता प्राप्त की, फिर भी अनुमान लगाने का प्रदर्शन संदेश की मात्रा पर केवल बहुत कम रूप से निर्भर है और यह गोपनीयता-संरक्षण एवं संरचना-जागरूक दृष्टिकोणों की आवश्यकता को रेखांकित करता है।
यह शोध पत्र प्रारंभिक उत्तर-जुनता काल के कथारेवुसा ग्रीक संसदीय ग्रंथों के लिए यूनिवर्सल डिपेंडेंसीज़-शैली का पार्सिंग संसाधन बनाने हेतु एक पुनरुत्पादक, ओपन-एक्सेस पाइपलाइन प्रस्तुत करता है, जो यह प्रदर्शित करता है कि एक कस्टम XLM-R मॉडल सिंटैक्टिक विश्लेषण में ऑफ-द-शेल्फ पार्सर्स की तुलना में काफी बेहतर प्रदर्शन करता है और ऐतिहासिक OCR डेटा को संसाधित करने के लिए एक ऑडिट करने योग्य कार्यप्रणाली प्रदान करता है।
यह शोध पत्र मानक बाएं-से-दाएं (left-to-right) उद्देश्यों की तुलना में फिल-इन-द-मिडल (FIM) प्रीट्रेनिंग की स्मृति गतिकी (memorization dynamics) की जांच करता है, जो यह प्रकट करता है कि जहाँ FIM छोटे या आंशिक स्पैन को पुनः प्राप्त करने में उत्कृष्ट है, वहीं यह शाब्दिक रिकॉल (verbatim recall) के लिए प्रीफिक्स संदर्भ पर अत्यधिक निर्भर रहता है और डेटा पुनरावृत्ति के साथ स्मृति में रैखिक वृद्धि प्रदर्शित करता है।
यह शोध पत्र RADAR को प्रस्तुत करता है, जो एक ज्यामितीय रूप से आधारित मीट्रिक है जो लेयर-वार रिप्रजेंटेशन प्रक्षेपवक्रों (representation trajectories) में कोणीय विचलन और सापेक्ष दूरी परिवर्तनों का विश्लेषण करके फाउंडेशन मॉडल्स में क्रॉस-डोमेन ट्रांसफरैबिलिटी का अनुमान लगाता है, जो टेक्स्ट और इमेज बेंचमार्क पर प्रतिस्पर्धी भविष्य कहनेवाला प्रदर्शन प्रदर्शित करता है।
यह अध्ययन प्रदर्शित करता है कि क्रॉस-लिंग्विस्टिक ब्रेन-एलएलएम संरेखण (alignment) मुख्य रूप से एक मॉडल के प्रशिक्षण-भाषा प्रभुत्व द्वारा संचालित होता है न कि किसी अंतर्निहित अंग्रेजी लाभ द्वारा, जिसमें अवशिष्ट भिन्नताएं वास्तविक टाइपोलॉजिकल दूरियों को दर्शाती हैं जो असमान रूप से सिंटैक्टिक मस्तिष्क क्षेत्रों को प्रभावित करती हैं।
यह अध्ययन प्रदर्शित करता है कि बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) पर लागू स्पार्स ऑटोएनकोडर्स उन व्याख्या योग्य अर्थपूर्ण विशेषताओं को प्रकट करते हैं जो न केवल यह स्पष्ट करती हैं कि मध्यवर्ती परतें मानव मस्तिष्क की प्रतिक्रियाओं की सबसे अच्छी भविष्यवाणी क्यों करती हैं, बल्कि मस्तिष्क के ज्ञात कॉर्टिकल सिमेंटिक टोपोग्राफी को भी दोहराती हैं और कई भाषाओं में पढ़ने के समय की भविष्यवाणी भी करती हैं।
यह शोधपत्र पहला कारणत्मक प्रमाण (causal evidence) प्रदान करता है कि बड़े भाषा मॉडल सांख्यिकीय पूर्व-अधिग्रहण (statistical preemption) के माध्यम से भाषाई अस्वीकार्यता के ज्ञान को प्राप्त करते हैं, जो यह प्रदर्शित करता है कि पारंपरिक रूपों के संपर्क में आने से केवल क्रियात्मक सुदृढ़ीकरण (verb entrenchment) के बजाय वितरण संबंधी प्रतिस्पर्धा (distributional competition) के माध्यम से संरचनात्मक रूप से संभव लेकिन अप्रमाणित विकल्पों का दमन होता है।
यह शोध पत्र पुनरावृत्त शिक्षण सिद्धांत (iterated learning theory) को लागू करके मॉडल कोलैप्स को एक सांस्कृतिक संचरण घटना के रूप में पुनर्गठित करता है ताकि यह प्रदर्शित किया जा सके कि अनफ़िल्टर्ड सेल्फ-ट्रेनिंग भाषाई संरचनात्मकता (linguistic compositionality) के गैर-एकदिष्ट क्षरण (non-monotonic degradation) का कारण बनती है, जो कई मॉडलों और भाषाओं में मान्य एक ऐसा निष्कर्ष है जो सुदृढ़ सेल्फ-ट्रेनिंग पाइपलाइनों को डिजाइन करने के लिए ठोस सिद्धांत प्रदान करता है।