24308 पेपर
यह शोधपत्र "इवैल्यूएशन डिफरेंशियल" (मूल्यांकन विभेद) को प्रस्तुत करता है ताकि एआई मॉडलों द्वारा परीक्षण के दौरान अपने व्यवहार को पहचानने और बदलने से उत्पन्न होने वाली वैधता समस्या का समाधान किया जा सके, और सुरक्षा दावों को सामान्यीकृत प्रदर्शन मानने के बजाय विशिष्ट मूल्यांकन संदर्भ पर स्पष्ट रूप से आधारित करने के लिए TRACE ऑडिट प्रोटोकॉल का प्रस्ताव दिया जा सके।
यह शोध पत्र यह पहचान करता है कि यूजर सिम्युलेटर का मानक सुपरवाइज्ड फाइन-ट्यूनिंग 'लुक-अहेड बायस' (look-ahead bias) को पेश करता है और पॉलिसी शिफ्ट के तहत "कंट्रोलेबिलिटी कोलैप्स" (controllability collapse) का कारण बनता है, और एक कॉज़ल इन्फरेंस फ्रेमवर्क के साथ विशिष्ट प्रशिक्षण शमन (training mitigations) प्रस्तावित करता है जो कॉज़ल कंसिस्टेंसी को बहाल करने और संवादात्मक एजेंटों के सुदृढ़, निष्पक्ष मूल्यांकन को सक्षम करने के लिए है।
यह शोध पत्र OverNaN को प्रस्तुत करता है, जो एक हल्का ओवरसैंपलिंग फ्रेमवर्क है जो अधूरे डेटासेट में क्लास असंतुलन को संबोधित करने के लिए लापता मानों वाले फीचर वेक्टर्स पर सीधे सिंथेटिक नमूने उत्पन्न करके इसे हल करता है, जिससे पारंपरिक इम्प्यूटेशन या विलोपन के माध्यम से उन्हें मिटाने के बजाय सूचनात्मक मिसिंगनेस पैटर्न को संरक्षित किया जाता है।
यह शोध पत्र FERMI को प्रस्तुत करता है, जो एक नवीन मेंबरशिप इन्फरेंस अटैक है जो मल्टी-टेबल सेटिंग्स में टैबुलर डिफ्यूजन मॉडल्स के लिए प्राइवेसी रिस्क असेसमेंट को महत्वपूर्ण रूप से बढ़ाने के लिए प्रशिक्षण के दौरान उपलब्ध रिलेशनल ऑक्सिलरी इंफॉर्मेशन का लाभ उठाता है, जो मौजूदा सिंगल-टेबल बेसलाइन की तुलना में ट्रू पॉजिटिव रेट्स में 53% तक बेहतर प्रदर्शन करता है।
यह शोध पत्र स्टोकेस्टिक लागतों वाले ऑनलाइन परिमित-क्षितिज (finite-horizon) प्रतिकूल रैखिक CMDPs के लिए पहले प्रिमल-डुअल पॉलिसी ऑप्टिमाइज़ेशन एल्गोरिदम को प्रस्तुत करता है, जो नवीन भारित LogSumExp सॉफ्टमैक्स पॉलिसियों, आवधिक पॉलिसी मिक्सिंग और नियमित डुअल अपडेट्स के माध्यम से के उप-रैखिक (sublinear) रिग्रेट और बाधा उल्लंघन (constraint violation) बाउंड्स प्राप्त करता है।
यह शोध पत्र एक गतिशील विशेषज्ञ प्रतिकृति रणनीति (dynamic expert replication strategy) प्रस्तावित करता है जो ओवरलोडेड विशेषज्ञों का पूर्वानुमान लगाती है और उन्हें डुप्लिकेट करती है ताकि समवर्ती प्रसंस्करण (concurrent processing) सक्षम हो सके, जिससे बेसलाइन मॉडल के अधिकांश प्रदर्शन को बनाए रखते हुए लगभग पूर्ण GPU उपयोगिता और मिक्सचर ऑफ एक्सपर्ट्स (MoE) इन्फरेंस में 3x तक की गति वृद्धि प्राप्त की जा सके।
यह शोध पत्र कोवेरिएंस-अवेयर (Covariance-Aware) GRPO को प्रस्तुत करता है, जो एक हाइपरपैरामीटर-मुक्त विधि है जो टोकन संभावनाओं और एडवांटेज के बीच कोवेरिएंस पर आधारित गॉसियन-कर्नेल एडवांटेज रीवेटिंग के माध्यम से चरम टोकन अपडेट्स को गतिशील रूप से कम भार देकर प्रशिक्षण को स्थिर करती है और तर्क प्रदर्शन में सुधार करती है।
यह शोध पत्र SharpEuler को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free) फ्लो मैचिंग सैंपलर है जो उच्च वेग क्षेत्र की तीक्ष्णता (velocity field sharpness) वाले क्षेत्रों में एकीकरण चरणों (integration steps) को अनुकूल रूप से आवंटित करके अनुमान दक्षता को अनुकूलित करता है, जिससे मॉडल मूल्यांकन की संख्या बढ़ाए बिना नमूना गुणवत्ता और मोड कवरेज में सुधार होता है।
यह शोध पत्र हेवी टेलड एक्टिवेशन फंक्शन (HTAF) का प्रस्ताव करता है, जो हेविसाइड फंक्शन का एक सुचारू कंपोजिट सन्निकटन (smooth composite approximation) है जो बाइनरी और स्पाइकिंग न्यूरल नेटवर्क के लिए स्थिर ग्रेडिएंट-आधारित प्रशिक्षण को सक्षम बनाता है, और डिस्क्रीट फीचर रिप्रेजेंटेशन के साथ व्याख्या योग्य इम्प्लिसिट कॉन्सेप्ट बॉटलनेक मॉडल्स बनाने में इसकी प्रभावशीलता को प्रदर्शित करता है।
यह शोध पत्र ओवरफिटिंग-अंडरफिटिंग इंडिकेटर (OUI) को एक नवीन, लेबल-मुक्त, सक्रियता-आधारित अवलोकन के रूप में प्रस्तावित करता है जो प्रशिक्षण के दौरान तंत्रिका नेटवर्क (न्यूरल नेटवर्क्स) के आंतरिक संरचनात्मक विकास को प्रकट करता है, जो प्रशिक्षण गतिशीलता के सक्रियता-केंद्रित सिद्धांत की ओर एक मौलिक कदम के रूप में कार्य करता है।