24608 पेपर
G-Zero एक वर्िफायर-मुक्त (verifier-free), सह-विकासवादी (co-evolutionary) ढांचा है जो एक आंतरिक "Hint-" रिवॉर्ड का उपयोग करके LLM के ओपन-एंडेड आत्म-सुधार को सक्षम बनाता है, जिससे एक प्रपोजर (Proposer) मॉडल को चुनौतीपूर्ण प्रश्न और संकेत उत्पन्न करने के लिए प्रशिक्षित किया जाता है, जिससे एक जनरेटर (Generator) मॉडल DPO के माध्यम से उनसे सीखता है, और इस प्रकार बाहरी जजों की सीमाओं को दरकिनार करता है।
यह शोध पत्र L3-PPI को प्रस्तुत करता है, जो एक मॉडल-अज्ञेय (model-agnostic), प्लग-एंड-प्ले ग्राफ प्रॉम्प्ट लर्निंग विधि है, जो वर्गीकरण को जैविक रूप से प्रेरित "L3 नियम" द्वारा निर्देशित ग्राफ-स्तरीय कार्य के रूप में पुनर्गठित करके प्रोटीन-प्रोटीन इंटरेक्शन भविष्यवाणी को बढ़ाता है ताकि मौजूदा भविष्यवक्ताओं में इंटरेक्शन प्रायर्स (interaction priors) को इंजेक्ट किया जा सके।
यह शोध पत्र GLiNER2-PII को प्रस्तुत करता है, जो एक संक्षिप्त बहुभाषी मॉडल है जिसे विविध भाषाओं और प्रारूपों में व्यक्तिगत रूप से पहचान योग्य सूचना (PII) के 42 प्रकारों को प्रभावी ढंग से पहचानने के लिए एक सिंथेटिक कॉर्पस पर प्रशिक्षित किया गया है, और इसने SPY बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त किया है।
यह शोध पत्र यति (Yeti) को प्रस्तुत करता है, जो लुकअप-फ्री क्वांटाइजेशन और फ्लो मैचिंग पर आधारित एक संक्षिप्त और अभिव्यंजक प्रोटीन संरचना टोकेनाइज़र है, जो उच्च पुनर्निर्माण सटीकता और टोकन विविधता प्राप्त करता है, जिससे छोटे मल्टीमॉडल मॉडल को प्रशिक्षित करना सक्षम होता है जो शून्य से ही विश्वसनीय प्रोटीन अनुक्रम और संरचनाएं उत्पन्न कर सकते हैं।
यह शोधपत्र 'जियोमेट्रिक 4D स्टिचिंग' (Geometric 4D Stitching) का प्रस्ताव करता है, जो एक कुशल ढांचा है कि स्पष्ट रूप से लुप्त ज्यामितीय क्षेत्रों की पहचान करता है और उन्हें ग्राउंडेड 4D स्टिच के साथ भरता है ताकि मौजूदा 4D जनरेशन विधियों में विसंगतियों को दूर किया जा सके, जिससे एकल GPU पर तेज़, उच्च-गुणवत्ता वाले दृश्य विस्तार और संपादन को सक्षम बनाया जा सके।
यह शोध पत्र इस परिकल्पना का प्रस्ताव और सत्यापन करता है कि मनुष्य भविष्य के कार्यों के लिए अनुकूलित होने हेतु "प्रॉस्पेक्टिव कम्प्रेशन" (prospective compression) के माध्यम से गैर-स्थिर वातावरण में पुन: प्रयोज्य अमूर्तताओं (reusable abstractions) को सीखते हैं, जो एक ऐसा व्यवहार है जिसे मौजूदा रेट्रोस्पेक्टिव एल्गोरिदम और एलएलएम-आधारित मॉडल पकड़ने में विफल रहते हैं।
यह शोध पत्र यह प्रदर्शित करता है कि AdamW और Muon जैसे ऑप्टिमाइज़र न्यूरल नेटवर्क में विशिष्ट, अक्सर विच्छेदित (disconnected), शून्य-हानि समाधान मैनिफोल्ड्स (zero-loss solution manifolds) उत्पन्न करते हैं, जो यह प्रकट करता है कि मोड कनेक्टिविटी (mode connectivity) मौलिक रूप से विशिष्ट ऑप्टिमाइज़र और इसके अंतर्निहित नियमितीकरण (implicit regularization) पर निर्भर करती है न कि लॉस लैंडस्केप के एक सार्वभौमिक गुण पर।
यह शोध पत्र "अटेंशन ड्रिफ्ट" (attention drift) को ऑटोरेग्रेसिव स्पेकुलेटिव डिकोडिंग मॉडल्स में एक प्रमुख सीमा के रूप में पहचानता है जहाँ अन-नॉर्मलाइज़्ड रेसिडुअल पाथ्स (un-normalized residual paths) के कारण अटेंशन प्रॉम्प्ट से हटकर जनरेटेड टोकन्स की ओर स्थानांतरित हो जाता है, और पोस्ट-नॉर्म (post-norm) एवं प्रति-हिडन-स्टेट RMSNorm (per-hidden-state RMSNorm) जैसे आर्किटेक्चरल सुधारों का प्रस्ताव करता है जो विभिन्न कार्यों और कॉन्टेक्स्ट लेंथ्स में एक्सेप्टेंस लेंथ्स (acceptance lengths) में महत्वपूर्ण सुधार करते हैं।
यह शोध पत्र मूव प्रोवर (Move Prover) के लिए एक स्पेसिफिकेशन इन्फरेंस टूल प्रस्तुत करता है जो वेरिफिकेशन स्पेसिफिकेशन्स को स्वचालित रूप से उत्पन्न करने और परिष्कृत करने के लिए साउंड वीकेस्ट-प्रीकंडीशन (weakest-precondition) विश्लेषण को एक एजेंटिक कोडिंग CLI के साथ समन्वित करता है, जो लूप इनवैरिएंट्स (loop invariants) और स्ट्रक्चरल इनवैरिएंट्स (structural invariants) जैसी जटिल प्रॉपर्टीज को संभालते हुए मैन्युअल बॉयलरप्लेट को प्रभावी ढंग से कम करता है।
यह शोध पत्र जनरेटिव मॉडल्स में एक महत्वपूर्ण "नवाचार विंडो" (innovation window) की पहचान करता है जो अमूर्त नियमों को सीखने () और प्रशिक्षण डेटा को याद करने () के बीच के लौकिक अंतराल द्वारा परिभाषित है, और यह प्रदर्शित करता है कि इस विंडो का अस्तित्व और अवधि डिफ्यूजन और ऑटोरेग्रेसिव दोनों आर्किटेक्चर में डेटासेट के आकार, नियम की जटिलता और मॉडल की क्षमता पर निर्भर करती है।