9931 पेपर
यह शोध पत्र बिनिंग सेमिरिंग (binning semiring) और औपचारिक भाषाओं का उपयोग करने वाले एक कारणत्मक ढांचे (causal framework) को प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि भाषा मॉडल की सीखने की क्षमता के मानक सहसंबंधात्मक मूल्यांकन (correlational evaluations) कन्फाउंडर्स (confounders) के कारण त्रुटिपूर्ण हैं, जिससे विशिष्ट कार्यों के लिए डेटा आवश्यकताओं को सटीक रूप से मापने हेतु एक कठोर विधि प्रदान की जा सके।
यह शोध पत्र अन्वेषण (exploration) और दोहन (exploitation) कार्यों के लिए पृथक रूप से बड़े भाषा मॉडलों (LLMs) का व्यवस्थित मूल्यांकन करता है, जिसमें यह पाया गया है कि हालांकि दोहन में LLMs को सरल रैखिक प्रतिगमन (linear regression) द्वारा पीछे छोड़ दिया जाता है, फिर भी वे बड़े, अर्थपूर्ण क्रिया स्थानों (action spaces) के अन्वेषण में मूल्य प्रदान करते हैं।
यह शोध पत्र दो संदर्भ-मुक्त (reference-free) मेट्रिक्स प्रस्तुत करता है जो सिमेंटिक-टैक्सोनोमिक सहसंबंध और नेचुरल लैंग्वेज इन्फरेंस के माध्यम से तार्किक पर्याप्तता को मापकर वर्गीकरण (taxonomy) की गुणवत्ता का मूल्यांकन करते हैं, जो लेबल किए गए डेटा की आवश्यकता के बिना ग्राउंड-ट्रुथ प्रदर्शन के साथ सहसंबंध स्थापित करने और डाउनस्ट्रीम पदानुक्रमित वर्गीकरण परिणामों की भविष्यवाणी करने की अपनी क्षमता को प्रदर्शित करते हैं।
यह अध्ययन भागीदारी प्रेरणा पर जर्मन मुक्त-अंत (ओपन-एंडेड) सर्वेक्षण प्रतिक्रियाओं को कोडिंग करने के लिए विभिन्न लार्ज लैंग्वेज मॉडल्स और प्रॉम्प्टिंग रणनीतियों की प्रभावशीलता का मूल्यांकन करता है, जिसमें यह पाया गया कि हालांकि मॉडल्स के बीच प्रदर्शन में काफी भिन्नता है, केवल फाइन-ट्यून्ड एलएलएम ही मानव विशेषज्ञों के तुलनीय संतोषजनक सटीकता प्राप्त करते हैं, जो स्वचालित कोडिंग विधियों को अपनाने वाले शोधकर्ताओं के लिए महत्वपूर्ण समझौतों (ट्रेड-ऑफ) को रेखांकित करता है।
यह शोध पत्र मिफी (Miffie) को प्रस्तुत करता है, जो एक स्वचालित डेटाबेस सामान्यीकरण ढांचा है जो स्कीमा डिजाइनों को पुनरावृत्ति रूप से उत्पन्न करने और सत्यापित करने के लिए एक दोहरे-एलएलएम (dual-LLM) स्व-परिष्करण आर्किटेक्चर का उपयोग करता है, जिससे उच्च सटीकता और लागत दक्षता बनाए रखते हुए मानवीय प्रयास को समाप्त किया जा सके।
यह शोध पत्र सैद्धांतिक और अनुभवजन्य रूप से यह प्रदर्शित करता है कि अटेंशन मैकेनिज्म में सॉफ्टमैक्स-आधारित नॉर्मलाइज़ेशन चयन बढ़ने के साथ सूचनात्मक टोकन को अलग करने की एक मॉडल की क्षमता को सीमित करता है, जो अक्सर समान चयन पैटर्न और ग्रेडिएंट संवेदनशीलता के कारण प्रशिक्षण चुनौतियों की ओर ले जाता है।
यह शोध पत्र NTK-Selector का प्रस्ताव करता है, जो एक नवीन डेटा चयन विधि है जो लाभकारी सामान्य-डोमेन चेन-ऑफ-थॉट नमूनों की पहचान करने के लिए जैकोबियन-मुक्त न्यूरल टेंगेंट कर्नेल सन्निकटन (Jacobian-free Neural Tangent Kernel approximation) का लाभ उठाती है, जो पारंपरिक डोमेन-ओनली फाइन-ट्यूनिंग की तुलना में चिकित्सा, वित्तीय, कानूनी और मनोवैज्ञानिक क्षेत्रों में बड़े भाषा मॉडल (large language models) के लिए निम्न-संसाधन डोमेन अनुकूलन (low-resource domain adaptation) में महत्वपूर्ण सुधार करती है।
यह शोध पत्र दस्तावेज़-स्तरीय व्यक्तिपरकता (subjectivity) के लिए एक नया एस्टोनियाई-भाषा का डेटासेट प्रस्तुत करता है जिसमें मानव एनोटेटरों द्वारा एक निरंतर पैमाने पर रेट किए गए 1,000 टेक्स्ट शामिल हैं, साथ ही मानव निर्णय की तुलना में स्वचालित व्यक्तिपरकता स्कोरिंग के लिए GPT-5 का उपयोग करने की व्यवहार्यता और सीमाओं का मूल्यांकन भी करता है।
AutoTool एक प्रशिक्षण ढांचा है जो एक दो-चरणीय अनुकूलन पाइपलाइन और एक बड़े पैमाने के डेटासेट का उपयोग करके LLM एजेंटों की विकसित होते टूलसेट्स के प्रति अनुकूलन क्षमता को बढ़ाता है ताकि गतिशील टूल चयन को सक्षम किया जा सके, जिसके परिणामस्वरूप मौजूदा तरीकों की तुलना में विविध तर्क कार्यों में बेहतर प्रदर्शन प्राप्त होता है।
यह अध्ययन 16 भाषाओं में 13 लार्ज लैंग्वेज मॉडल्स का मूल्यांकन करता है और पाता है कि वे लगातार प्रभावशाली भाषा उत्पन्न करते हैं जिसमें प्राप्तकर्ता के लिंग के आधार पर महत्वपूर्ण, लैंगिक-रूढ़िवादी अंतर होते हैं, जो सामाजिक मनोविज्ञान और समाजभाषाविज्ञान में प्रलेखित पूर्वाग्रहों को दर्शाते हैं।