24832 पेपर
यह शोध पत्र सेल्फ-ऑप्टिमाइज़िंग लैंग्वेज मॉडल्स (SOL) को प्रस्तुत करता है, जो एक फ्रोजन (frozen) LLM को एक हल्के पॉलिसी नेटवर्क के साथ जोड़ता है ताकि स्पर्सिटी (sparsity), प्रूनिंग और क्वांटाइजेशन को समायोजित करके प्रति टोकन परिवर्तनीय कंप्यूटेशन बजट को गतिशील रूप से आवंटित किया जा सके, जिससे स्टेटिक एलोकेशन रणनीतियों की तुलना में इन्फरेंस गुणवत्ता और दक्षता में उल्लेखनीय सुधार होता है।
यह शोध पत्र AssayBench प्रस्तुत करता है, जो 1,920 CRISPR स्क्रीन्स से बना एक नया बेंचमार्क है जिसे सेलुलर फेनोटाइपिक परिणामों (cellular phenotypic outcomes) की भविष्यवाणी करने के लिए लार्ज लैंग्वेज मॉडल्स और एजेंट्स की क्षमता का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जो यह प्रकट करता है कि ज़ीरो-शॉट जनरलिस्ट LLMs वर्तमान में विशिष्ट जीव विज्ञान मॉडल्स (specialized biology models) से बेहतर प्रदर्शन करते हैं और साथ ही एक सुदृढ़ वर्चुअल सेल मॉडल प्राप्त करने की दिशा में सुधार की महत्वपूर्ण गुंजाइश को भी उजागर करते हैं।
यह शोध पत्र सिद्ध करता है कि फिक्स्ड-प्रिसिजन (fixed-precision) व्यवस्थाओं में, एक बाइनरी स्ट्रिंग आउटपुट देने वाले न्यूरल नेटवर्क का न्यूनतम वेट नॉर्म (weight norm), लॉगरिदमिक कारकों तक स्ट्रिंग की कोलमोगोरोव जटिलता (Kolmogorov complexity) के समकक्ष होता है, जिससे यह प्रदर्शित होता है कि वेट डिके (weight decay) स्पष्ट रूप से कंप्यूट करने योग्य फलनों (computable functions) पर सोलोमोनॉफ के यूनिवर्सल प्रायर (Solomonoff's universal prior) को लागू करता है।
यह शोध पत्र एक प्रशिक्षण-मुक्त (training-free), प्रति-टोकन (per-token) नैदानिक ढांचे को प्रस्तुत करता है जो यह प्रकट करता है कि ऑन-पॉलिसी डिस्टिलेशन (on-policy distillation) सही चरणों को सुदृढ़ करने के बजाय गलत तर्क चरणों को सुधारने के लिए सर्वाधिक लाभकारी है, जबकि यह भी प्रदर्शित करता है कि इष्टतम डिस्टिलेशन कॉन्फ़िगरेशन छात्र मॉडल की क्षमता और विशिष्ट कार्य के आधार पर महत्वपूर्ण रूप से भिन्न होता है।
यह शोध पत्र V4FinBench प्रस्तुत करता है, जो विसेग्राद समूह की अर्थव्यवस्थाओं के दस लाख से अधिक कंपनी-वर्ष रिकॉर्ड्स वाला एक बड़े पैमाने का बेंचमार्क है जिसे कॉर्पोरेट दिवालियापन भविष्यवाणी विधियों का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जो यह प्रकट करता है कि इम्बैलेंस-अवेयर फाइन-ट्यून्ड TabPFN, गंभीर क्लास इम्बैलेंस और मल्टी-होराइजन फोरकास्टिंग को संभालने में मानक ग्रेडिएंट बूस्टिंग और Llama-3-8B जैसे LLMs से बेहतर प्रदर्शन करता है।
RubricEM एक मेटा-रीइन्फोर्समेंट लर्निंग फ्रेमवर्क है जो चरणवार नीति अपघटन (stagewise policy decomposition) को संरचित करने के लिए रूब्रिक्स को एक केंद्रीय इंटरफ़ेस के रूप में उपयोग करके, स्टेज-स्ट्रक्चर्ड GRPO के माध्यम से सघन सिमेंटिक फीडबैक प्रदान करके, और एक रिफ्लेक्शन मेटा-पॉलिसी को विकसित करके डीप रिसर्च एजेंटों को उन्नत करता है, जिससे लंबे शोध बेंचमार्क पर प्रोप्रायटरी सिस्टम के तुलनीय प्रदर्शन को प्राप्त किया जाता है।
यह शोध पत्र DataMaster को प्रस्तुत करता है, जो एक स्वायत्त एजेंट फ्रेमवर्क है जो डेटा इंजीनियरिंग कार्यों—जैसे कि खोज, चयन और रूपांतरण—को साझा डेटा पूल्स और संचयी मेमोरी के साथ एक ट्री-स्ट्रक्चर्ड सर्च के माध्यम से अनुकूलित करके मशीन लर्निंग प्रदर्शन को बढ़ाता है, जो अंतर्निहित लर्निंग एल्गोरिदम में संशोधन किए बिना MLE-Bench Lite और PostTrainBench बेंचमार्क पर महत्वपूर्ण सुधार प्राप्त करता है।
यह शोध पत्र एक सामान्यीकृत -स्टेप पॉलिसी ग्रेडिएंट पद्धति प्रस्तावित करता है जो -स्टेप विंडो पर यादृच्छिकता (randomness) को जोड़कर प्रतिबंधित पॉलिसी वर्गों में निहित अल्पदर्शी स्थानीय इष्टतमों (myopic local optima) पर विजय प्राप्त करता है, जो वितरण बेमेल कारकों (distribution mismatch factors) पर निर्भर किए बिना निकट-इष्टतम समाधानों में अभिसरण की सैद्धांतिक गारंटी देता है।
यह शोध पत्र एक इक्विवेरिएंट (equivariant), आकार-अज्ञेय (size-agnostic) सुदृढीकरण शिक्षण (reinforcement learning) एजेंट प्रस्तुत करता है जो ऑल-टू-ऑल कनेक्टिविटी वाले उपकरणों के लिए इष्टतम या निकट-इष्टतम क्लिफोर्ड क्वांटम सर्किटों को कुशलतापूर्वक संश्लेषित करता है, जो कि Qiskit के सिंथेसाइज़र जैसे मौजूदा उपकरणों से बेहतर प्रदर्शन करता है और छह से तीस क्विबिट तक सफलतापूर्वक स्केल करता है।
यह शोध पत्र गणितीय रूप से सिद्ध करता है कि निम्न-तापमान सीमा (low-temperature limit) में, गहरे एनकोडर-ओनली ट्रांसफॉर्मर में टोकन वितरण तेजी से मॉडल के प्रोजेक्शन मैट्रिसेस द्वारा निर्धारित एक विशिष्ट मेटास्टेबल अवस्था पर केंद्रित हो जाते हैं, जिसका अभिसरण दर (convergence rate) वासरस्टीन दूरी (Wasserstein distance) के माध्यम से परिमाणित किया गया है और बाद के स्पेक्ट्रल-डोमिनेटेड टर्मिनल चरण को दर्शाने वाले संख्यात्मक प्रयोगों द्वारा मान्य किया गया है।