10753 पेपर
यह शोध पत्र यह तर्क देता है कि लार्ज लैंग्वेज मॉडल (LLM) के आउटपुट की कथित सामान्य और खोखली प्रकृति उनके प्रशिक्षण पद्धतियों के कारण किच (kitsch) के व्यवस्थित उत्पादन से उत्पन्न होती है, जो इस अनुभवजन्य साक्ष्य द्वारा समर्थित है कि पाठक LLM-जनित कहानियों को मानव कृतियों की तुलना में अधिक किचपूर्ण महसूस करते हैं।
यह शोध पत्र यूनिवर्सल ट्रांसफॉर्मर्स के 'यूनिमैट्रिक्स' (UniMatrix) परिवार को प्रस्तुत करता है, जो यह प्रदर्शित करता है कि जबकि संरचित आवर्ती अवस्थाएं (structured recurrent states) पैरामीटर दक्षता प्रदान करती हैं, मजबूत दीर्घ-रेंज एसोसिएटिव रिकॉल प्राप्त करने के लिए उन्हें स्पार्स स्लॉट रूटिंग (sparse slot routing) और पॉइंटर-लॉगिट फ्यूजन (pointer-logit fusion) जैसे स्पष्ट स्पार्स रिट्रीवल तंत्रों के साथ संवर्धित करना आवश्यक है।
यह शोध पत्र "एंकर्ड कॉन्फैब्युलेशन" (anchored confabulation) की पहचान और औपचारिक रूप प्रदान करता है, जो एक ऐसी घटना है जहाँ आंशिक मध्यवर्ती साक्ष्य प्रदान करने से विरोधाभासी रूप से बड़े भाषा मॉडलों का काल्पनिक तर्क चरणों में आत्मविश्वास बढ़ जाता है, और यह प्रदर्शित करता है कि कैसे इस मीट्रिक का लाभ उठाना मॉडल फाइन-ट्यूनिंग के बिना अत्यधिक कुशल रिट्रीवल-ऑगमेंटेड जनरेशन रूटिंग को सक्षम बनाता है।
यह शोध पत्र यह प्रदर्शित करके वॉयनिच पांडुलिपि में करीयर के A/B भाषा विभाजन की वैधता का समर्थन करने वाले मात्रात्मक साक्ष्य प्रदान करता है कि एक बीटा-बाइनोमियल मिश्रण मॉडल पूर्व लेबल के बिना इस विभाजन को पुनः प्राप्त कर सकता है और एक पर्यवेक्षित क्लासिफायर (supervised classifier) 89.2% सटीकता के साथ फोलियो पहचान की भविष्यवाणी कर सकता है।
यह शोध पत्र 1,250 प्रॉम्प्ट-रिस्पॉन्स रिकॉर्ड्स के एक युग्मित, ट्रांज़िशन-आधारित विश्लेषण को प्रस्तुत करता है जिससे यह पता चलता है कि जबकि अधिकांश LLM प्रतिक्रियाएं हानिकारक सामग्री को कम करती हैं, यौन सामग्री को कम करना अन्य श्रेणियों की तुलना में काफी कठिन है, और सहायक होने तथा हानिरहित होने के बीच का समझौता अनुपालन मामलों में उच्च-गुणवत्ता वाली लेकिन बढ़ी हुई प्रतिक्रियाओं के रूप में बनाम मध्यम-गंभीरता वाले आउटपुट में कम-प्रासंगिकता, विषयांतर विस्तार के रूप में प्रकट होता है।
SWE-Edit कोड निरीक्षण और संशोधन को विशिष्ट उप-एजेंटों में अलग करके और GRPO के साथ प्रशिक्षित एक अनुकूली, बहु-प्रारूप संपादन मॉडल पेश करके सॉफ्टवेयर इंजीनियरिंग एजेंटों के प्रदर्शन में सुधार करता है, जो कुल मिलाकर कार्य पूर्णता सफलता दर को बढ़ाता है जबकि अनुमान लागतों को काफी कम करता है।
यह शोध पत्र वैज्ञानिक भाषण के लिए एक क्रॉस-लिंगुअल वॉयस क्लोनिंग सिस्टम प्रस्तुत करता है जो अरबी, चीनी और फ्रांसीसी में वक्ता की पहचान को बनाए रखते हुए स्पष्टता बढ़ाने के लिए ओम्नीवॉयस फाउंडेशन मॉडल और ACL 60/60 कॉर्पस से मल्टी-मॉडल एनसेंबल डिस्टिलेशन का लाभ उठाता है।
यह शोध पत्र AniMINT को प्रस्तुत करता है, जो 300 एनोटेटेड (annotated) UI एनिमेशन वीडियो का एक नया डेटासेट है, ताकि अत्याधुनिक विजन लैंग्वेज मॉडल्स (Vision Language Models) का व्यवस्थित रूप से मूल्यांकन किया जा सके और यह प्रकट किया जा सके कि जहाँ वे मौलिक गति (primitive motion) का विश्वसनीय रूप से पता लगा सकते हैं, वहीं एनिमेशन के उद्देश्यों और अर्थों की उनकी उच्च-स्तरीय व्याख्या असंगत रहती है और मानव प्रदर्शन से काफी पीछे है।
यह शोध पत्र प्रदर्शित करता है कि इनपुट वर्ड एम्बेडिंग्स (input word embeddings) को ज़ीरो-ऑर्डर ग्रेडिएंट एस्टीमेशन (zeroth-order gradient estimation) के माध्यम से अनुकूलित किया जा सकता है ताकि संरेखित भाषा मॉडलों (aligned language models) को हानिकारक इनकार या असुरक्षित आउटपुट से दूर ले जाया जा सके, जिससे मानक बेंचमार्क पर सुरक्षा-फ्लैग की गई प्रतिक्रियाओं को प्रभावी ढंग से निष्प्रभावी किया जा सके।
EvoSelect एक डेटा-कुशल ढांचा है जो एक पुनरावृत्ति जनन-चयन-प्रशिक्षण लूप पेश करके लक्षित LLM अनुकूलन को बढ़ाता है, जहाँ एक इष्टतम परिवहन-आधारित चयन तंत्र कार्य संरेखण और विविधता दोनों के लिए सिंथेटिक डेटा को फ़िल्टर करता है ताकि शोर वाले या अनावश्यक नमूनों से प्रदर्शन में गिरावट को रोका जा सके।