22037 पेपर
यह शोध पत्र एक कठोर मिनिमैक्स ढांचे को स्थापित करता है जो यह प्रदर्शित करता है कि, मानक स्थिरता धारणाओं के तहत, किसी भी वैध ट्रांसपोर्ट मैप का अनुमान लगाना सांख्यिकीय रूप से इष्टतम (ऑप्टिमल) ट्रांसपोर्ट मैप का अनुमान लगाने जितना ही कठिन है, हालांकि इन धारणाओं के विफल होने पर महत्वपूर्ण लाभ उत्पन्न हो सकते हैं।
यह शोध पत्र ट्यूटरिंग और पीयर रिव्यूइंग में एलएलएम (LLMs) के लिए बेयसियन सिद्धांत और जोखिम-अवरोधक रणनीतियों पर आधारित अनिश्चितता-जागरूक निर्णय लेने वाले एल्गोरिदम का प्रस्ताव और मूल्यांकन करता है, यह प्रदर्शित करते हुए कि हालांकि ये विधियाँ जनरेशन उपयोगिता में सुधार कर सकती हैं, बेयसियन दृष्टिकोण आम तौर पर जोखिम-अवरोधक नियमों से बेहतर प्रदर्शन करते हैं जो अस्पष्ट परिदृश्यों में अत्यधिक सामान्य आउटपुट की ओर ले जा सकते हैं।
यह शोध पत्र एक हाइब्रिड फ्रेमवर्क का प्रस्ताव करता है जो एंटरप्राइज शेयर्ड स्टोरेज में क्रिप्टो-रैनसमवेयर का पता लगाने के लिए 'इंडिकेटर्स ऑफ कॉम्प्रोमाइज' निकालने हेतु सिग्नेचर-आधारित "रीजन ऑफ इंटरेस्ट" तकनीक को एक मशीन लर्निंग मॉडल के साथ जोड़ता है, जो 99.64% प्रिसिजन और 99.44% अर्ली डिटेक्शन एक्यूरेसी प्राप्त करते हुए 0% फॉल्स नेगेटिव रेट बनाए रखता है।
यह शोध पत्र CR को प्रस्तुत करता है, जो एक क्रॉस-सैंपल कंसिस्टेंसी रेगुलराइजेशन विधि है जो नमूनों (samples) के बीच सुसंगत लेटेंट असाइनमेंट को लागू करके स्पार्स ऑटोएनकोडर्स (Sparse Autoencoders) में फीचर स्प्लिटिंग और एब्जॉर्प्शन को कम करती है, जिससे पुनर्निर्माण निष्ठा (reconstruction fidelity) से समझौता किए बिना व्याख्यात्मकता (interpretability) में सुधार होता है।
इस प्रचलित अंतर्ज्ञान के विपरीत कि रूढ़िवादी ऑफलाइन प्रशिक्षण रिवॉर्ड हैकिंग से सुरक्षा प्रदान करता है, यह शोध पत्र प्रदर्शित करता है कि डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन में उच्च रूढ़िवादिता विरोधाभासी रूप से ऑनलाइन अनुकूलन के दौरान रिवॉर्ड हैकिंग को बढ़ा देती है क्योंकि यह पॉलिसी एंट्रॉपी को संकुचित करती है, जिससे रिवॉर्ड एनसेम्बल में एपिस्टेमिक अनिश्चितता बढ़ जाती है और शोषण (एक्सप्लोइटेशन) त्वरित हो जाता है।
यह शोध पत्र इस धारणा को चुनौती देता है कि एक-चरण ग्रेडिएंट विलंब (one-step gradient delay) स्वाभाविक रूप से एसिंक्रोनस पाइपलाइन पैरेललिज्म को अस्थिर करता है, और यह प्रदर्शित करता है कि Muon जैसे सुदृढ़ ऑप्टिमाइज़र को एरर फीडबैक-प्रेरित सुधार के साथ संयोजित करने से बड़े पैमाने पर LLM प्रीट्रेनिंग को सिंक्रोनस विधियों के तुलनीय प्रदर्शन प्राप्त करने में सक्षम बनाया जा सकता है, जबकि पाइपलाइन बबल्स को भी समाप्त किया जा सकता है।
यह शोध पत्र तर्क देता है कि अनुभवजन्य क्लासिफायर प्रदर्शन मेट्रिक्स में निहित पर्याप्त अनिश्चितता अक्सर मॉडल सटीकता में देखे गए अंतरों पर हावी हो जाती है, जो भ्रम मैट्रिक्स (confusion matrix) वितरणों और ROC स्पेस में पोस्टीरियर प्रेडिक्टिव प्रोबेबिलिटीज के नवीन विज़ुअलाइज़ेशन के माध्यम से एक संतुलित दृष्टिकोण की वकालत करता है।
यह शोध पत्र सुपरवाइज्ड क्वाड्रेटिक फीचर एनालिसिस (SQFA) प्रस्तुत करता है, जो एक आयामी कमी (dimensionality reduction) विधि है जो क्लास-कंडीशनल वितरणों के बीच फिशर-राओ दूरियों को अधिकतम करने वाले रैखिक फीचर्स सीखने के लिए सूचना ज्यामिति (information geometry) का लाभ उठाती है, और अत्याधुनिक विधियों की तुलना में प्रतिस्पर्धी या बेहतर वर्गीकरण प्रदर्शन प्रदर्शित करती है।
यह शोध पत्र ऑर्थोगोनल डोमिनेटिंग रेक्टेंगुलर रेंज पर आधारित एक नया बहु-आयामी कोलमोगोरोव-स्मिरनोव दूरी (Kolmogorov-Smirnov distance) प्रस्तावित करता है जो एक सिद्ध अभिसरण दर (convergence rate) वाले इंटीग्रल प्रोबेबिलिटी मेट्रिक के रूप में कार्य करता है, जिससे डेल्टा-परिशुद्धता (delta-precision) दो-नमूना परिकल्पना परीक्षण के लिए चार आयामों तक कुशल नियर-लीनियर समय गणना सक्षम होती है।
यह शोध पत्र कई मॉडलों और डेटासेटों में ट्यून्ड लेंस (Tuned Lens) विश्लेषण का उपयोग करके यह प्रदर्शित करता है कि निश्चित और अनिश्चित भविष्यवाणियों की परत-वार अनुमान संबंधी गतिशीलता (layer-wise inference dynamics) काफी हद तक संरेखित है, जो सरल अनिश्चितता पहचान विधियों की व्यवहार्यता को चुनौती देता है और यह सुझाव देता है कि अधिक सक्षम मॉडल अनिश्चितता को अलग तरह से संसाधित कर सकते हैं।