11611 पेपर
यह शोध पत्र k-NLPmeans और k-LLMmeans को प्रस्तुत करता है, जो दो स्केलेबल टेक्स्ट-क्लस्टरिंग विधियाँ हैं जो संख्यात्मक सेंट्रोइड्स (numeric centroids) को समय-समय पर मानव-पठनीय पाठ्य सारांशों से बदलकर व्याख्यात्मकता और दक्षता में सुधार करती हैं।
यह शोध पत्र इस बात की जांच करता है कि क्या आंखों की गति के पैटर्न स्वचालित रूप से यह पता लगा सकते हैं कि क्या एक पाठक पहले उस पाठ का सामना कर चुका है, जिसमें सफल मशीन लर्निंग मॉडल और यह बेहतर ढंग से समझने के लिए एक सिमुलेशन-आधारित संवर्धन रणनीति प्रस्तावित की गई है कि स्मृति बार-बार पढ़ने को कैसे प्रभावित करती है।
SafeDialBench एक नया सूक्ष्म-स्तरीय (fine-grained) बेंचमार्क है जिसे एक पदानुक्रमित वर्गीकरण (hierarchical taxonomy), विविध जेलब्रेक हमला रणनीतियों और एक व्यापक मूल्यांकन ढांचे का उपयोग करके बहु-चरणीय संवादों में लार्ज लैंग्वेज मॉडल्स की सुरक्षा का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जो कई भाषाओं में डिटेक्शन (detection), हैंडलिंग (handling) और निरंतरता (consistency) क्षमताओं को मापता है।
यह शोधपत्र प्रतिनिधित्व इंजीनियरिंग (representation engineering) के लिए एक ग्रेडिएंट-आधारित दृष्टिकोण प्रस्तावित करता है ताकि यह प्रदर्शित किया जा सके कि एलएलएम (LLM) का इनकार किसी एक दिशा द्वारा नियंत्रित नहीं होता है, बल्कि कई, जटिल और कार्यात्मक रूप से स्वतंत्र बहु-आयामी "कॉन्सेप्ट कोन्स" (concept cones) द्वारा नियंत्रित होता है।
Mixture of Experts (MoE) मॉडल्स में असंतुलित टोकन वितरण के कारण होने वाले "स्ट्रैगलर इफ़ेक्ट" (Straggler Effect) को कम करने के लिए, यह शोध पत्र दो क्षमता-जागरूक तंत्रों—कैपेसिटी-अवेयर टोकन ड्रॉप (Capacity-Aware Token Drop) और कैपेसिटी-अवेयर एक्सपेंडेड ड्रॉप (Capacity-Aware Expanded Drop)—का प्रस्ताव करता है, जो मॉडल के प्रदर्शन पर न्यूनतम प्रभाव के साथ इन्फरेंस की गति और विशेषज्ञ उपयोगिता में महत्वपूर्ण सुधार करते हैं।
यह शोध पत्र FAID प्रस्तुत करता है, जो एक सूक्ष्म-स्तरीय (fine-grained) डिटेक्शन फ्रेमवर्क और एक नया बहुभाषी डेटासेट है जिसे मानव-लिखित, AI-जनित और मानव-AI सहयोगात्मक टेक्स्ट के बीच अंतर करने के साथ-साथ उपयोग किए गए विशिष्ट LLM परिवार की पहचान करने के लिए डिज़ाइन किया गया है, जो अनदेखे डोमेन और मॉडलों में सामान्यीकरण (generalization) में सुधार के लिए मल्टी-टास्क ऑक्जिलरी और मल्टी-लेवल कॉन्ट्रास्टिव लर्निंग का उपयोग करता है।
यह शोध पत्र यह प्रदर्शित करके LLM रेड-टीमिंग में "कमजोर-से-मजबूत" (weak-to-strong) चुनौती की जांच करता है कि जैसे-जैसे लक्षित मॉडल की क्षमता हमलावर की क्षमता से आगे निकलती है, हमले की सफलता दर तेजी से घट जाती है, जिससे क्षमता के अंतर के आधार पर भेद्यता (vulnerability) का पूर्वानुमान लगाने के लिए एक "जेलब्रेकिंग स्केलिंग कर्व" का प्रस्ताव दिया गया है।
यह शोध पत्र PBEBench प्रस्तुत करता है, जो ऐतिहासिक भाषाविज्ञान से प्रेरित एक नवीन बेंचमार्क है जो लार्ज लैंग्वेज मॉडल्स की आगमनात्मक तर्क (inductive reasoning) क्षमताओं का मूल्यांकन करने के लिए उन्हें इनपुट को आउटपुट में बदलने हेतु स्ट्रिंग रीराइट प्रोग्रामों के अनुक्रम उत्पन्न करने की आवश्यकता के माध्यम से परीक्षण करता है, जिससे यह प्रकट होता है कि उन्नत मॉडल भी जटिल, बहु-चरणीय तर्क कार्यों के साथ काफी संघर्ष करते हैं।
यह शोध पत्र PropInfer को प्रस्तुत करता है, जो यह मूल्यांकन करने के लिए एक बेंचमार्क है कि क्या लार्ज लैंग्वेज मॉडल्स (LLMs) प्रॉपर्टी इन्फरेंस हमलों के प्रति संवेदनशील हैं, और नए हमले के तरीकों के माध्यम से यह प्रदर्शित करता है कि फाइन-ट्यूनिंग के दौरान LLMs वास्तव में संवेदनशील, डेटासेट-स्तरीय गोपनीय जानकारी लीक कर सकते हैं।
AutoMixer इंटरमीडिएट ट्रेनिंग चेकपॉइंट्स की उभरती क्षमताओं का लाभ उठाता है ताकि रीजनिंग कार्यों पर मॉडल के प्रदर्शन को बढ़ाने के लिए सोर्स डेटा पर उनके प्रभाव का उपयोग करके डेटा मिश्रणों को स्वचालित रूप से अनुकूलित किया जा सके।