24606 पेपर
यह शोध पत्र FRACTAL को प्रस्तुत करता है, जो एक नवीन स्टेट स्पेस मॉडल है जो असीमित इतिहास को बनाए रखने और अल्पकालिक परिवर्तनों का पता लगाने के बीच के संतुलन को हल करने के लिए रिकर्सिव मेमोरी अपडेट में फ्रैक्शनल मेजर थ्योरी को एकीकृत करता है, जिससे यह S5 जैसे मौजूदा मॉडलों की तुलना में लॉन्ग सीक्वेंस बेंचमार्क पर बेहतर प्रदर्शन प्राप्त करता है।
यह शोध पत्र प्रकट करता है कि जहाँ बड़े भाषा मॉडल (large language models) स्पष्ट रूप से पूछे जाने पर ग्राउंडिंग आयामों (grounding dimensions) की पहचान कर सकते हैं, वहीं वे शब्दों के जुड़ाव (word associations) पर अत्यधिक निर्भर रहने और मुक्त सृजन (free generation) के दौरान भावनात्मक और आंतरिक अवस्था की अवधारणाओं को स्वाभाविक रूप से भर्ती करने में विफल रहने के कारण मनुष्यों की तुलना में एक महत्वपूर्ण "ग्राउंडिंग अंतराल" (grounding gap) प्रदर्शित करते हैं।
यह शोध पत्र SeedRG को प्रस्तुत करता है, जो एक अर्ध-सिंथेटिक (semi-synthetic) बेंचमार्क जनरेशन पाइपलाइन है जो सीड डेटा से रीजनिंग ग्राफ्स निकालकर और नवीन, संरचनात्मक रूप से समान उदाहरण उत्पन्न करके रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) मूल्यांकन में नॉलेज लीकेज और बेंचमार्क एजिंग की समस्या को कम करता है, जिन्हें किसी LLM की पैरामीट्रिक मेमोरी से हल नहीं किया जा सकता।
यह शोध पत्र M (मल्टी-स्केल मॉर्टन मेजर) को प्रस्तुत करता है, जो एक स्केलेबल फ्रेमवर्क है जो निरंतर भौतिक डोमेन में भविष्यवाणी सटीकता और डेटा दक्षता में महत्वपूर्ण सुधार करके, भौतिक सिमुलेशन के लिए न्यूरल सरोगेट मॉडल के प्रशिक्षण में मेजर-प्रेरित पूर्वाग्रह (measure-induced bias) को कम करने के लिए कई स्थानिक पैमानों (spatial scales) पर पर्यवेक्षण को संतुलित करता है।
यह शोध पत्र इस बात की जांच करता है कि संरेखित (aligned) लार्ज लैंग्वेज मॉडल्स अभी भी जेलब्रेकेबल क्यों बने रहते हैं, जिसमें 'रिफ्यूज़ल-एस्केप डायरेक्शंस' (RED) की अवधारणा पेश की गई है, यह सिद्ध किया गया है कि ये कमजोरियां मॉडल के आर्किटेक्चर के भीतर विशिष्ट ऑपरेटर-स्तरीय स्रोतों से उत्पन्न होती हैं, और यह प्रदर्शित किया गया है कि उन्हें समाप्त करने से एक अंतर्निहित सुरक्षा-उपयोगिता ट्रेड-ऑफ (safety-utility trade-off) उत्पन्न होता है।
यह शोध पत्र प्रकट करता है कि अत्यधिक क्वांटाइज्ड लार्ज लैंग्वेज मॉडल्स व्यवस्थित स्मूथनेस डिग्रेडेशन (smoothness degradation) से ग्रस्त होते हैं जिससे जनरेशन की गुणवत्ता खराब हो जाती है, और एक स्मूथनेस-प्रिजर्विंग सिद्धांत प्रस्तावित करता है जो केवल संख्यात्मक सटीकता सुधारों से परे प्रदर्शन लाभ प्रदान करता है।
यह शोध पत्र FragileFlow प्रस्तुत करता है, जो एक प्लग-इन रेगुलराइज़र है जो फाउंडेशन मॉडल्स में क्लीन एक्यूरेसी को बनाए रखते हुए वर्स्ट-क्लास रोबस्टनेस को सुधारने के लिए मार्जिन-अवेयर स्पेक्ट्रल एनालिसिस के माध्यम से "करेक्ट-बट-फ्रैजाइल" प्रेडिक्शन एरर्स को औपचारिक रूप देता है और नियंत्रित करता है।
यह शोध पत्र शापली रिग्रेशन (Shapley regression) को प्रस्तुत करता है, जो एक नवीन गेम-थ्योरेटिक मॉडल है जो जटिल लक्षणों की अंतःक्रियाओं को पकड़कर व्याख्यात्मकता और भविष्य कहने वाली शक्ति के बीच संतुलन बनाता है, और सार्वजनिक डेटासेट तथा एक वास्तविक नैदानिक समूह दोनों के माध्यम से दुर्लभ आनुवंशिक विकार एक्टिवेटेड PI3K8 सिंड्रोम (APDS) के निदान में सुधार करने में अपनी प्रभावशीलता का प्रदर्शन करता है।
यह शोध पत्र DAPE का प्रस्ताव करता है, जो एक नवीन ढांचा है जो सूचना घनत्व की असमानताओं को दूर करने और डाउनस्ट्रीम कार्य सटीकता को बढ़ाने के साथ-साथ कम्प्यूटेशनल ओवरहेड को कम करने के लिए एक गतिशील गैर-समान संरेखण तंत्र और एक प्रगतिशील विवरण संवर्धन मॉड्यूल पेश करके कुशल विजुअल लैंग्वेज मॉडल्स में सुधार करता है।
यह शोध पत्र OPT-BENCH प्रस्तुत करता है, जो LLM एजेंटों की स्व-अनुकूलन क्षमताओं का मूल्यांकन करने के लिए मशीन लर्निंग और NP-हार्ड कार्यों को संयोजित करता है, और OPT-Agent फ्रेमवर्क का प्रस्ताव करता है जो यह प्रदर्शित करता है कि हालांकि अधिक शक्तिशाली मॉडल पुनरावृत्ति सुधार के लिए फीडबैक का बेहतर लाभ उठाते हैं, उनकी अनुकूलन क्षमता मूल क्षमता द्वारा मौलिक रूप से बाधित रहती है और मानव विशेषज्ञ के प्रदर्शन से कम रह जाती है।