23200 पेपर
यह शोध पत्र I-Segmenter को प्रस्तुत करता है, जो सिमेंटिक सेगमेंटेशन के लिए पहला पूर्णतः इंटीजर-ओनली (integer-only) विजन ट्रांसफॉर्मर फ्रेमवर्क है, जो -ShiftGELU और इंटीजर-ओनली डिकोडर ऑपरेशन्स जैसी नवीन तकनीकों का उपयोग करता है ताकि अत्यधिक वन-शॉट पोस्ट-ट्रेनिंग क्वांटाइजेशन के तहत भी प्रतिस्पर्धी सटीकता बनाए रखते हुए मॉडल के आकार और इन्फरेंस लेटेंसी में महत्वपूर्ण कमी लाई जा सके।
यह शोध पत्र पोलर कोऑर्डिनेट पोजीशनल एम्बेडिंग्स (PoPE) को प्रस्तुत करता है, जो एक नवीन पोजीशनल एनकोडिंग योजना है जो RoPE में उलझी हुई कंटेंट और पोजीशन की जानकारी को अलग करती है, जिससे RoPE और YaRN जैसी मौजूदा विधियों की तुलना में डायग्नोस्टिक कार्यों, मल्टीपल डोमेन में ऑटोरेग्रेसिव मॉडलिंग और ज़ीरो-शॉट लेंथ एक्सट्रपलेशन में बेहतर प्रदर्शन प्राप्त होता है।
VFEM एक क्रॉस-मोडल फोरकास्टिंग मॉडल है जो जटिल क्रॉस-वेरिएबल डिपेंडेंसीज को कैप्चर करने के लिए प्री-ट्रेंड लार्ज विजन मॉडल्स का लाभ उठाने हेतु मल्टीवेरिएट टाइम सीरीज़ को विजुअल रिप्रेजेंटेशन में बदल देता है, जो विजुअल और टेम्पोरल फीचर्स को फ्यूज करने वाले एक ड्यूल-ब्रांच आर्किटेक्चर के माध्यम से उच्च पैरामीटर दक्षता के साथ प्रतिस्पर्धी प्रदर्शन प्राप्त करता है।
MixReasoning एक ऐसा फ्रेमवर्क है जो चरण की कठिनाई के आधार पर विस्तृत और संक्षिप्त तर्क मोड के बीच गतिशील रूप से स्विच करके रीजनिंग मॉडल्स की दक्षता को बढ़ाता है, जिससे सटीकता से समझौता किए बिना प्रतिक्रिया की लंबाई कम होती है और कम्प्यूटेशनल दक्षता में सुधार होता है।
यह शोध पत्र एक नवीन लार्ज लैंग्वेज मॉडल-आधारित ओवरसैंपलिंग पद्धति प्रस्तावित करता है जो एक कंडीशनल जनरेशन स्ट्रैटेजी, एक नए परम्यूटेशन-आधारित फाइन-ट्यूनिंग दृष्टिकोण और इंटरपोलेशन के माध्यम से सिंथेटिक माइनॉरिटी सैंपल्स की विविधता और यथार्थता को बढ़ाता है, जिससे यह इम्बैलेंस्ड क्लासिफिकेशन कार्यों में मौजूदा स्टेट-ऑफ-द-आर्ट तकनीकों से काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र MatSciBench प्रस्तुत करता है, जो 1,340 कॉलेज-स्तरीय सामग्री विज्ञान (मटेरियल्स साइंस) समस्याओं का एक व्यापक बेंचमार्क है जिसे इस डोमेन में लार्ज लैंग्वेज मॉडल्स की तर्क करने की क्षमताओं, सीमाओं और विफलता के पैटर्न का मूल्यांकन और विश्लेषण करने के लिए डिज़ाइन किया गया है।
AlphaOPT एक स्व-सुधार (self-improving) ढांचा है जो बड़े भाषा मॉडलों को विफलताओं से सॉल्वर-सत्यापित अंतर्दृष्टि निकालने और उनकी प्रयोज्यता को विकसित करने के एक निरंतर चक्र के माध्यम से अनुकूलन मॉडलिंग ज्ञान को सीखने और परिष्कृत करने में सक्षम बनाता है, जिससे बिना किसी महंगी पुनर्रचना (retraining) या गोल्ड-स्टैंडर्ड प्रोग्राम लेबल की आवश्यकता के जटिल अनुकूलन कार्यों पर उत्कृष्ट सामान्यीकरण और प्रदर्शन प्राप्त होता है।
यह शोध पत्र SmartMixed को पेश करता है, जो एक दो-चरणीय प्रशिक्षण रणनीति है जो न्यूरल नेटवर्क को एक डिफरेंशिएबल चयन चरण के दौरान उम्मीदवारों के पूल से इष्टतम प्रति-न्यूरॉन सक्रियण फलनों (activation functions) को सीखने में सक्षम बनाती है और फिर कुशल अनुमान (inference) के लिए इन विकल्पों को स्थिर कर देती है, यह प्रदर्शित करते हुए कि ऐसा अनुकूलनशील विविधीकरण समान, स्थिर सक्रियण फलनों का उपयोग करने वाले मॉडलों की तुलना में बेहतर प्रदर्शन करता है।
यह अध्ययन एक नवीन मल्टी-एजेंट डिबेट फ्रेमवर्क पेश करता है जो फेडरल ओपन मार्केट कमेटी की विचार-विमर्श प्रक्रिया का अनुकरण करने के लिए लेटेंट हॉकिश-डोविश विश्वासों वाले इंटरैक्टिंग एलएलएम (LLMs) को मॉडल करता है, जो मानक स्टैटिक मॉडल्स की तुलना में मौद्रिक नीति निर्णय पूर्वानुमानों की सटीकता और व्याख्यात्मकता में महत्वपूर्ण सुधार करता है।
यह शोध पत्र एक क्वांटाइजेशन-अवेयर ट्रेनिंग पाइपलाइन प्रस्तुत करता है जो आर्टिक्स-7 (Artix-7) एफपीजीए के लिए स्वचालित रूप से लो-बिट इंटीजर पॉलिसीज़ का चयन और संश्लेषण करता है, जो फुल-प्रिसिजन बेसलाइन्स के तुलनीय प्रदर्शन बनाए रखते हुए और उन्नत शोर मजबूती (noise robustness) प्रदान करते हुए 2-3 बिट प्रिसिजन के साथ माइक्रोसेकंड-लेटेंसी इन्फरेंस प्राप्त करता है।