11158 पेपर
यह शोध पत्र TAGARELA को प्रस्तुत करता है, जो कि 8,972 घंटों से अधिक के पॉडकास्ट ऑडियो वाला एक सार्वजनिक रूप से जारी किया गया, बड़े पैमाने का पुर्तगाली भाषण डेटासेट है, जिसे संसाधनों की कमी को दूर करने और इस भाषा के लिए अत्याधुनिक स्वचालित भाषण पहचान (automatic speech recognition) और टेक्स्ट-टू-स्पीच मॉडल को सक्षम करने के लिए डिज़ाइन किया गया है।
यह शोध पत्र DOS को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त डिकोडिंग रणनीति है जो कोड और गणितीय तर्क कार्यों में पीढ़ी की गुणवत्ता और दक्षता में सुधार करने के लिए अटेंशन मैट्रिसेस के माध्यम से इंटर-टोकन निर्भरता का लाभ उठाती है।
यह शोध पत्र तालिका समझ (table understanding) के लिए उनके आंतरिक तंत्र को स्पष्ट करने हेतु 16 लार्ज लैंग्वेज मॉडल्स का एक अनुभवजन्य अध्ययन प्रस्तुत करता है, जो विशिष्ट तीन-चरणीय अटेंशन पैटर्न, गणितीय तर्क की तुलना में सारणीबद्ध कार्यों के लिए गहरे स्तर की आवश्यकताओं, मिक्स्चर-ऑफ-एक्सपर्ट्स मॉडल्स में विशेष विशेषज्ञ सक्रियण, और टेबल-ट्यूनिंग के साथ चेन-ऑफ-थॉट प्रॉम्प्टिंग के संवर्धित अटेंशन प्रभावों को प्रकट करता है।
ट्रिनिटीगार्ड (TrinityGuard) एक व्यापक, OWASP-आधारित ढांचा है जो तीन-स्तरीय जोखिम वर्गीकरण, एक स्केलेबल तीन-परत आर्किटेक्चर और एक एकीकृत LLM जज फैक्ट्री के माध्यम से LLM-आधारित मल्टी-एजेंट सिस्टम को सुरक्षित करता है ताकि प्री-डेवलपमेंट भेद्यता मूल्यांकन और रीयल-टाइम रनटाइम मॉनिटरिंग दोनों को सक्षम बनाया जा सके।
CLAG छोटे भाषा मॉडल एजेंटों के लिए एक अनुकूलन योग्य मेमोरी फ्रेमवर्क है जो अनुभवों को जनरेट किए गए प्रोफाइल्स के साथ अर्थपूर्ण रूप से सुसंगत और स्व-निहित क्लस्टर्स में सक्रिय रूप से व्यवस्थित करके तर्क और ज्ञान के पुन: उपयोग को बढ़ाता है, जिससे क्रॉस-टॉपिक इंटरफेरेंस कम होता है और रिट्रीवल दक्षता में सुधार होता है।
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स के लिए सेम-सब्जेक्ट नॉलेज एडिटिंग में जनरलाइजेशन विफलता के ज्यामितीय कारणों के रूप में "कोवेरिएंस ट्रैप" और शार्प मिनिमा की पहचान करता है और रोबस्ट इंस्ट्रक्शन-फॉलोइंग क्षमताओं को प्राप्त करने के लिए आइसोट्रोपिक ज्योमेट्रिक अलाइनमेंट और हिरार्किकल नॉलेज इंटीग्रेशन का उपयोग करने वाली एक विधि, RoSE, का प्रस्ताव करता है।
Code-A1 एक एडवरसेरियल को-इवोल्यूशन फ्रेमवर्क पेश करता है जो सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) के माध्यम से अलग-अलग कोड और टेस्ट LLMs को संयुक्त रूप से अनुकूलित करता है, जिसमें सेल्फ-कोल्यूजन और स्टैटिक रिवॉर्ड की सीमाओं को दूर करने के लिए व्हाइट-बॉक्स टेस्ट जनरेशन और मिस्टेक बुक मैकेनिज्म का उपयोग किया गया है, जिससे मानव-एनोटेटेड डेटा पर प्रशिक्षित मॉडलों की तुलना में बेहतर कोड जनरेशन और टेस्ट क्रिएशन प्रदर्शन प्राप्त होता है।
यह शोध पत्र बड़े भाषा मॉडलों (Large Language Models) में नैतिक उदासीनता की एक अंतर्निहित अवस्था की पहचान करता है जो विशिष्ट नैतिक अवधारणाओं के समान वितरणों (uniform distributions) में संपीड़न (compression) के कारण होती है, और यह प्रदर्शित करता है कि लेटेंट नैतिक विशेषताओं (latent moral features) में टोपोलॉजिकल संबंधों को पुनर्गठित करने के लिए स्पार्स ऑटोएनकोडर्स (Sparse Autoencoders) के माध्यम से प्रतिनिधित्व संरेखण (representational alignment) लागू करने से नैतिक तर्क और सूक्ष्मता में महत्वपूर्ण वृद्धि होती है, जिससे प्रतिकूल बेंचमार्क (adversarial benchmarks) पर 75% की जीत दर प्राप्त होती है।
यह शोध पत्र TRAJHIJACK को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त हमला (training-free attack) है जो शुरुआती प्रतिबद्ध इनकार टोकन (early committed refusal tokens) को पुनः मास्क करने और एक संक्षिप्त सकारात्मक उपसर्ग (affirmative prefix) डालने के माध्यम से डिफ्यूजन लैंग्वेज मॉडल्स की संरचनात्मक भंगुरता का लाभ उठाता है, यह प्रदर्शित करते हुए कि dLLM सुरक्षा पूरी तरह से डीनोइजिंग शेड्यूल की एकतोन्यता (monotonicity) पर निर्भर करती है न कि मजबूत सीखे गए निरूपणों (learned representations) पर।
यह शोध पत्र एक हल्का, ग्रेडिएंट-मुक्त नियंत्रण-सैद्धांतिक (control-theoretic) तरीका प्रस्तावित करता है जो भाषा मॉडल के लेटेंट स्पेस एक्टिवेशन्स में गतिशील रूप से हस्तक्षेप करता है ताकि यह सुनिश्चित किया जा सके कि टेक्स्ट जनरेशन पूर्व-निर्धारित सिमेंटिक क्षेत्रों के भीतर रहे, जिससे टेक्स्ट की गुणवत्ता से समझौता किए बिना विषाक्तता परिहार (toxicity avoidance) और सेंटिमेंट कंट्रोल जैसे उद्देश्यों को प्रभावी ढंग से प्राप्त किया जा सके।