11158 पेपर
यह शोध पत्र डिस्टिल्ड लैंग्वेज मॉडल्स का बेंचमार्किंग करता है ताकि यह प्रदर्शित किया जा सके कि नॉलेज डिस्टिलेशन छोटे और सुलभ मॉडल बनाने के लिए एक अत्यधिक कुशल रणनीति है जो बहुत बड़े समकक्षों के बराबर या उनसे बेहतर तर्क क्षमताएं प्राप्त करते हुए कम्प्यूटेशनल लागत को नाटकीय रूप से कम कर देते हैं।
यह शोधपत्र ConceptRM प्रस्तुत करता है, जो एक नवीन विधि है जो न्यूनतम विशेषज्ञ एनोटेशन के साथ विचलित डेटासेट पर सह-शिक्षण (co-teaching) और आम सहमति-आधारित विश्लेषण का लाभ उठाती है ताकि शोर वाले उत्पादन डेटा से विश्वसनीय नकारात्मक नमूनों को प्रभावी ढंग से पहचाना जा सके, जिससे अलर्ट थकान (alert fatigue) को कम करने की रिफ्लेक्शन मॉडल्स की क्षमता में महत्वपूर्ण सुधार होता है।
यह शोध पत्र MoBiQuant को प्रस्तुत करता है, जो एक नवीन Mixture-of-Bits क्वांटिज़ेशन फ्रेमवर्क है जो टोकन-स्तरीय संवेदनशीलता (token-level sensitivity) और एक टोकन-जागरूक राउटर के आधार पर वेट प्रिसिजन (weight precision) को गतिशील रूप से समायोजित करके इलास्टिक LLM परिनियोजन की चुनौतियों का समाधान करता है, जिससे बार-बार अंशांकन (calibration) के बिना सुचारू रनटाइम प्रिसिजन स्विचिंग सक्षम होती है और बिट-विशिष्ट पोस्ट-ट्रेनिंग क्वांटिज़ेशन के प्रदर्शन के बराबर परिणाम प्राप्त होते हैं।
यह शोध पत्र एक कॉनवेक्स ऑप्टिमाइज़ेशन-आधारित क्लस्टरिंग पद्धति प्रस्तावित करता है जो वैश्विक इष्टतम (ग्लोबल ऑप्टिमा) की गारंटी देता है और स्थिर, व्याख्या योग्य विषय उत्पन्न करता है, जो एंटी-एजिंग बायोमेडिकल साहित्य के एक बड़े संग्रह पर लागू होने पर K-means और LDA जैसे पारंपरिक दृष्टिकोणों की तुलना में बेहतर पुनरुत्पादकता और प्रभावशीलता प्रदर्शित करता है।
एक 22-आयामी भाषाई विशेषता वेक्टर के माध्यम से 369,837 वास्तविक दुनिया के प्रश्नों का विश्लेषण करके, यह अध्ययन प्रदर्शित करता है कि विशिष्ट मानव-भ्रमित करने वाले प्रश्न लक्षण, जैसे कि गहरा क्लॉज नेस्टिंग (clause nesting) और अपर्याप्त विशिष्टता (underspecification), लार्ज लैंग्वेज मॉडल के मतिभ्रम (hallucinations) की संभावना को महत्वपूर्ण रूप से बढ़ा देते हैं, जिससे निर्देशित प्रश्न पुनलेखन (guided query rewriting) के माध्यम से इन जोखिमों को कम करने के लिए एक डेटा-संचालित ढांचा स्थापित होता है।
यह शोध पत्र RARE-PHENIX को प्रस्तुत करता है, जो एक एंड-टू-एंड एआई फ्रेमवर्क है जो क्लिनिकल नोट्स से ह्यूमन फेनोटाइप ऑन्टोलॉजी शब्दों को निकालने, मानकीकृत करने और प्राथमिकता देने के लिए लार्ज लैंग्वेज मॉडल्स को एकीकृत करता है, जो मल्टी-साइट डेटासेट्स में दुर्लभ रोग निदान में सहायता करने के लिए मौजूदा बेसलाइन्स की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।
यह शोधपत्र QueryBandits को प्रस्तुत करता है, जो एक मॉडल-अज्ञेय (model-agnostic) कॉन्टेक्स्टुअल बैंडिट फ्रेमवर्क है जो क्लोज्ड-सोर्स लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) को कम करने के लिए इष्टतम क्वेरी-रीराइट रणनीतियों को अनुकूल रूप से चुनता है, और यह प्रदर्शित करता है कि डायनेमिक ऑनलाइन नीतियां बिना किसी मॉडल रिट्रेनिंग के स्टैटिक रीराइटिंग दृष्टिकोणों और नो-रीराइट बेसलाइन की तुलना में काफी बेहतर प्रदर्शन करती हैं।
यह शोध पत्र असंतुलित दस्तावेज़ वर्गीकरण के लिए नैइव बायेस (Naive Bayes), BiLSTM और BERT मॉडलों का मूल्यांकन करता है, और यह निष्कर्ष निकालता है कि जहाँ BERT उच्चतम सटीकता प्रदान करता है, वहीं BiLSTM मॉडल उच्च प्रदर्शन को मध्यम कम्प्यूटेशनल लागत के साथ जोड़कर वास्तविक दुनिया के स्वचालन के लिए सबसे संतुलित समाधान प्रदान करता है।
सटीक पुनरावर्ती संख्या प्रणालियों (exact recursive numeral systems) के इस दृष्टिकोण को चुनौती देते हुए कि वे संचार की दृष्टि से इष्टतम हैं, यह अध्ययन एक परिष्कृत जटिलता मीट्रिक के साथ 52 विविध भाषाओं का विश्लेषण करता है ताकि यह प्रदर्शित किया जा सके कि अनगिनत रूप-वाक्यविन्यास संबंधी विविधताओं (morphosyntactic variations) के कारण कई प्रणालियाँ पहले की तुलना में काफी कम कुशल हैं।
यह शोध पत्र 108 नियंत्रित मॉडलों के माध्यम से ट्रांसफॉर्मर अनएम्बेडिंग मैट्रिक्स ज्यामिति और भाषा मॉडल प्रदर्शन के बीच के संबंध की व्यवस्थित रूप से जांच करता है, और यह निष्कर्ष निकालता है कि प्रभावी रैंक (effective rank) जैसे ज्यामितीय मेट्रिक्स मुख्य रूप से प्रशिक्षण हाइपरपैरामीटर्स को दर्शाते हैं न कि डाउनस्ट्रीम प्रदर्शन के विश्वसनीय भविष्यवक्ता के रूप में कार्य करते हैं।