24939 पेपर
यह शोध पत्र एक विश्लेषणात्मक ढांचे और एक क्लोज्ड-फॉर्म प्रोविजनिंग नियम को प्रस्तुत करता है ताकि डिसैग्रिगेटेड (disaggregated) LLM सर्विंग में सैद्धांतिक रूप से इष्टतम अटेंशन-टू-एफएफएन (Attention-to-FFN) संसाधन अनुपात निर्धारित किया जा सके, जो डिवाइस के आइडल टाइम और स्टेप-लेवल ब्लॉकिंग को कम करने के लिए स्टोकेस्टिक वर्कलोड डायनेमिक्स और सिंक्रोनाइज़ेशन ओवरहेड्स को ध्यान में रखता है।
यह कार्य LAMP को प्रस्तुत करता है, जो बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के लिए एक अनुकूली मिश्रित-परिशुद्धता अनुमान रणनीति है, जो कम्प्यूटेशनल दक्षता बनाए रखते हुए सटीकता में दो गुना से अधिक सुधार प्राप्त करने के लिए ट्रांसफॉर्मर घटकों के एक छोटे उपसमुच्चय को उच्च परिशुद्धता के साथ चुनिंदा रूप से पुनर्गणना करता है।
यह शोध पत्र डिस्क्रीट डेटा के जेनेरेटिव मॉडलिंग के लिए एक ज्यामितीय लेटेंट-सबस्पेस फ्रेमवर्क प्रस्तावित करता है जो एक नवीन ज्यामितीय PCA उद्देश्य के माध्यम से प्रभावी फ्लो मैचिंग और आयामी न्यूनीकरण (dimensionality reduction) को सक्षम करने के लिए कैटेगोरिकल वितरणों के प्रोडक्ट मैनिफोल्ड्स पर रिमानियन ज्यामिति का लाभ उठाता है।
यह शोध पत्र लेविआथन (Leviathan) का परिचय देता है, जो एक ट्रांसफॉर्मर आर्किटेक्चर है जो मानक टाइड एम्बेडिंग मैट्रिक्स (tied embedding matrix) को एक सीखे हुए एम्बेडिंग वेक्टराइजेशन (learned embedding vectorization - LEV) से बदलकर इनपुट और आउटपुट रिप्रजेंटेशन को अलग करता है, जिससे न्यूनतम पैरामीटर ओवरहेड के साथ भाषा मॉडलिंग प्रदर्शन और डाउनस्ट्रीम बेंचमार्क में महत्वपूर्ण सुधार प्राप्त होता है।
PlatoLTL एक नवीन मल्टी-टास्क रिइन्फोर्समेंट लर्निंग दृष्टिकोण है जो प्रपोज़िशन को पैरामीटराइज्ड एटोमिक प्रेडिकेट्स के रूप में मॉडल करके और उन्हें एक विशेष आर्किटेक्चर के भीतर एम्बेड करके अनदेखे टास्क सिम्बल्स के लिए ज़ीरो-शॉट जनरलाइजेशन को सक्षम बनाता है, ताकि कंपोजिशनल LTL स्ट्रक्चर्स और पैरामेट्रिक वेरिएशंस दोनों को संभाला जा सके।
यह शोध पत्र Fed-Listing को प्रस्तुत करता है, जो एक नवीन ग्रेडिएंट-आधारित हमला है जो केवल अंतिम-परत (final-layer) के ग्रेडिएंट्स का उपयोग करके फेडरेटेड ग्राफ न्यूरल नेटवर्क में क्लाइंट्स के निजी लेबल वितरण सांख्यिकी (private label distribution statistics) का प्रभावी ढंग से अनुमान लगाता है, जो वर्तमान रक्षा तंत्रों के प्रति लचीला रहते हुए मौजूदा बेसलाइन की तुलना में काफी बेहतर प्रदर्शन करता है।
DisRFM एक ज्यामिति-जागरूक ग्राफ डोमेन अनुकूलन ढांचा है जो स्थिरांक-वक्रता वाले मैनिफोल्ड्स पर पोलर रिमानियन फ्लो मैचिंग का लाभ उठाता है ताकि टोपोलॉजिकल संरचनाओं को संरक्षित किया जा सके और अनुकूलन को स्थिर किया जा सके, जिससे यह सिमेंटिक और टोपोलॉजिकल डोमेन शिफ्ट के तहत मौजूदा यूक्लिडियन एडवरसेरियल विधियों से बेहतर प्रदर्शन करता है।
यह योगदान सांख्यिकीय सदस्यता अनुमान (Statistical Membership Inference - SMI) को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त ऑडिटिंग फ्रेमवर्क है जो मॉडल विस्मरण (model forgetting) के सत्यापन को गैर-सदस्य मिश्रण अनुपातों (non-member mixture proportions) के अनुमान की समस्या के रूप में पुनर्गठित करके पारंपरिक सदस्यता अनुमान हमलों की मौलिक सीमाओं और कम्प्यूटेशनल ओवरहेड को दूर करता है, जिससे सैद्धांतिक गारंटियों के साथ अधिक विश्वसनीय और कुशल प्रदर्शन मूल्यांकन सक्षम होता है।
यह शोध पत्र संवेदनशीलता संबंधी बाधाओं के कारण यह सिद्ध करते हुए इस खुले प्रश्न का समाधान करता है कि क्या एक-परत वाले ट्रांसफॉर्मर PARITY कार्य को कंप्यूट कर सकते हैं कि वे ऐसा नहीं कर सकते, और साथ ही एक व्यावहारिक चार-परत वाले ट्रांसफॉर्मर निर्माण को प्रस्तुत करता है जो लंबाई-निर्भर पोजीशनल एनकोडिंग या हार्डमैक्स जैसे पहले से आवश्यक अव्यवहारिक अनुमानों पर निर्भर किए बिना PARITY को हल करता है।
यह शोध पत्र HyQuRP को प्रस्तुत करता है, जो एक हाइब्रिड क्वांटम-क्लासिकल न्यूरल नेटवर्क फ्रेमवर्क है जो एक साथ रोटेशनल (घूर्णी) और परम्यूटेशनल (क्रमपरिवर्तनी) इक्विवैरिएंस (समरूपता) प्राप्त करता है, और स्पार्स 3D पॉइंट क्लाउड वर्गीकरण कार्यों पर क्लासिकल और क्वांटम बेसलाइन की तुलना में बेहतर डेटा दक्षता और सटीकता प्रदर्शित करता है।