10949 पेपर
RECIPER एक ड्यूल-व्यू रिट्रीवल पाइपलाइन है जो पैराग्राफ-स्तरीय संदर्भ को LLM-निष्कर्षित प्रक्रियात्मक सारांशों के साथ जोड़कर प्रक्रिया-उन्मुख सामग्री प्रश्नोत्तर (procedure-oriented materials question answering) को बेहतर बनाता है, जिससे मानक डेंस रिट्रीवल विधियों की तुलना में रिट्रीवल प्रदर्शन और डाउनस्ट्रीम QA सटीकता में महत्वपूर्ण सुधार प्राप्त होता है।
यह शोध पत्र ट्रांजेक्शनल अटेंशन (Transactional Attention) को प्रस्तुत करता है, जो एक स्पॉन्सरशिप तंत्र है जो संरचनात्मक एंकर पैटर्न (structural anchor patterns) का उपयोग करके सुप्त लेकिन महत्वपूर्ण टोकन (जैसे क्रेडेंशियल्स) को KV-कैश संपीड़न में निष्कासन से बचाता है, जिससे वहां 100% रिट्रीवल सटीकता प्राप्त होती है जहां मौजूदा विधियां पूरी तरह से विफल हो जाती हैं।
यह शोध पत्र सिंथेटिक सुपरवाइज्ड फाइन-ट्यूनिंग डेटा उत्पन्न करने के लिए शिक्षकों के रूप में बहुभाषी भाषा मॉडलों का व्यवस्थित रूप से मूल्यांकन करता है, जिसमें यह प्रदर्शित करने के लिए "पॉलीग्लॉट स्कोर" पेश किया गया है कि केवल मॉडल का पैमाना ही नहीं, बल्कि प्रॉम्प्ट विविधता और प्रवाह जैसे विशिष्ट डेटा गुणवत्ता गुण छात्र के प्रदर्शन को निर्धारित करते हैं, और प्रभावी शिक्षक-छात्र युग्मों के चयन के लिए व्यावहारिक दिशा-निर्देश प्रदान करता है।
यह शोध पत्र "सलामी स्लाइसिंग रिस्क" (Salami Slicing Risk) की अवधारणा और संबंधित "सलामी अटैक" (Salami Attack) ढांचे को प्रस्तुत करता है, जो कई कम-जोखिम वाले इनपुट को एक श्रृंखला में जोड़कर हानिकारक व्यवहारों को संचयी रूप से ट्रिगर करके LLM सुरक्षा को दरकिनार कर देता है, जिससे विविध मॉडलों में 90% से अधिक सफलता दर प्राप्त होती है और साथ ही एक प्रभावी रक्षा रणनीति का प्रस्ताव भी दिया जाता है।
यह शोध पत्र कॉन्ट्रास्टिव रीजनिंग पाथ सिंथेसिस (CRPS) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो सफल और विफल मोंटे कार्लो ट्री सर्च प्रक्षेपवक्रों के बीच के विरोधाभासों का विश्लेषण करके उच्च-गुणवत्ता वाली तर्क श्रृंखलाओं को संश्लेषित करता है, जिससे काफी छोटे डेटासेट पर प्रशिक्षित मॉडल मानक रिजेक्शन सैंपलिंगिंग पर निर्भर मॉडलों से बेहतर प्रदर्शन करने में सक्षम होते हैं और आउट-ऑफ-डोमेन सामान्यीकरण में सुधार करते हैं।
यह शोध पत्र MERIT को पेश करता है, जो एक प्रशिक्षण-मुक्त, परत-चयनात्मक (layer-selective) मॉडल विलय ढांचा है जो एक वीडियो मॉडल और उसके टेक्स्ट-ओनली बैकबोन से विशिष्ट परतों को रणनीतिक रूप से संयोजित करके वीडियो-लैंग्वेज मॉडलों में टेम्पोरल रीजनिंग क्षमताओं को प्रभावी ढंग से पुनर्स्थापित करता है, जिससे बिना पुन: प्रशिक्षण के विजुअल अलाइनमेंट के कारण होने वाली रीजनिंग गिरावट को दूर किया जा सकता है।
यह शोध पत्र एक ऐसे प्रशिक्षण ढांचे का प्रस्ताव करता है जो एक QA-निर्देशित तर्क मॉडल (QA-guided reasoning model) का उपयोग करके तर्क को सृजन से अलग करता है जो संरचित ट्रेस (structured traces) उत्पन्न करता है जो एक अलग सृजन मॉडल को अनुकूलित करते हैं, जिससे मानक तर्क-सक्षम LLMs की तुलना में लंबी कथाओं में चरित्र विवरणों की सत्यनिष्ठा, सूचनात्मकता और आधारभूतता में सुधार होता है।
यह शोध पत्र यह तर्क देता है कि ड्यूल-एनकोडर विजन-लैंग्वेज मॉडल्स का खराब कंपोजिशनल प्रदर्शन उनके इन्फरेंस के दौरान ग्लोबल कोसाइन सिमिलैरिटी (global cosine similarity) पर निर्भर रहने के कारण होता है, और यह प्रदर्शित करता है कि फ्रोजन रिप्रेजेंटेशन्स (frozen representations) पर हल्के, फाइन-ग्रेन्ड रीजन-सेगमेंट अलाइनमेंट मैकेनिज्म को पेश करने से फुल फाइन-ट्यूनिंग की तुलना में कंपोजिशनल जनरलाइजेशन और डिस्ट्रीब्यूशन शिफ्ट्स के प्रति मजबूती में महत्वपूर्ण सुधार होता है।
यह शोध पत्र "पॉलिसी स्प्लिट" (Policy Split) का प्रस्ताव करता है, जो एक नया प्रतिमान (paradigm) है जो एक लार्ज लैंग्वेज मॉडल की पॉलिसी को सामान्य और उच्च-एन्ट्रॉपी मोड में विभाजित करता है, जो पैरामीटर्स साझा करते हैं लेकिन कार्य सटीकता से समझौता किए बिना विविध अन्वेषण को बढ़ाने के लिए सहयोगात्मक दोहरे-मोड एन्ट्रॉपी नियमितीकरण (collaborative dual-mode entropy regularization) के साथ अनुकूलित होते हैं।
यह शोध पत्र DuET को प्रस्तुत करता है, जो एक दोहरा-निष्पादन ढांचा (dual-execution framework) है जो कार्यात्मक बहुमत मतदान (functional majority voting) के माध्यम से प्रत्यक्ष कोड निष्पादन और LLM-आधारित स्यूडोकोड तर्क (pseudocode reasoning) को जोड़ता है ताकि टेस्ट आउटपुट भविष्यवाणी की विश्वसनीयता में महत्वपूर्ण सुधार किया जा सके और LiveCodeBench पर अत्याधुनिक प्रदर्शन प्राप्त किया जा सके।