22330 पेपर
यह शोध पत्र जूलिया और जैक्स (JAX) में अटाारी 2600 वीडियो कंप्यूटर सिस्टम का एक डिफरेंशिएबल (differentiable), बिट-फॉर-बिट सटीक एमुलेशन पेश करता है, जो एक पूर्णतः ज्ञात, जटिल ग्राउंड ट्रुथ प्रदान करता है जो डीप रिइन्फोर्समेंट लर्निंग कार्यों के लिए एक्सप्लेनेबल एआई (XAI) के ग्रेडिएंट-आधारित तरीकों के अनुप्रयोग को सक्षम बनाता है।
यह शोध पत्र एक दो-चरणीय डीप लर्निंग पाइपलाइन प्रस्तुत करता है जो वीडियो से अलग किए गए भारतीय सांकेतिक भाषा के संकेतों को पहचानने के लिए एक फाइन-ट्यून्ड VideoMAE ट्रांसफॉर्मर का उपयोग करता है और प्राप्त अंग्रेजी लेबल को NLLB-200 मॉडल का उपयोग करके हिंदी, तेलुगु और बंगाली में अनुवादित करता है, साथ ही एक Streamlit डेमो प्रदान करता है और एक छोटे पैमाने के डेटासेट पर प्रदर्शन की सीमाओं का विश्लेषण करता है।
यह शोध पत्र यह प्रदर्शित करता है कि कच्चे IoT सेंसर डेटा को समृद्ध पाठ्य निरूपणों (textual representations) में संरचित प्रॉम्प्ट-पक्ष पूर्व-प्रसंस्करण (prompt-side preprocessing) के माध्यम से परिवर्तित करना, पर्यावरणीय निगरानी के लिए स्थानीय, एज-तैनातित लार्ज लैंग्वेज मॉडल्स की सटीकता को महत्वपूर्ण रूप से बढ़ाता है, जो क्लाउड-आधारित मॉडलों के साथ प्रदर्शन के अंतर को प्रभावी ढंग से कम करते हुए कम विलंबता (latency) बनाए रखता है।
यह शोध पत्र Fed-CausalDiff का प्रस्ताव करता है, जो एक फेडरेटेड कॉज़ल डिफ्यूजन फ्रेमवर्क है जो वैश्विक कारण तंत्र (global causal mechanisms) को स्थानीय भ्रमकारकों (local confounders) से अलग करने के लिए डिकपल्ड सिंक्रोनाइज़ेशन का उपयोग करता है, जिससे विकेंद्रीकृत डेटा पर सटीक हस्तक्षेप संबंधी अनुमान (interventional inference) और नीति मूल्यांकन (policy evaluation) सक्षम होता है और संचार दक्षता के साथ अनुमान निष्ठा (inference fidelity) को संतुलित किया जाता है।
यह शोध पत्र "सिज़र्स इफ़ेक्ट" (Scissors Effect) को प्रकट करता है, जो एक शासन-निर्भर (regime-dependent) घटना है जहाँ रैंडम रिसाइजिंग के माध्यम से इनपुट विविधता को बढ़ाने से मानक मॉडलों के लिए एडवरसेरियल ट्रांसफ़रेबिलिटी में सुधार होता है, लेकिन यह रोबस्टली प्रशिक्षित सरोगेट्स के लिए ग्रेडिएंट अलाइनमेंट को कम करके इसे महत्वपूर्ण रूप से नुकसान पहुँचाता है, जिससे दोनों प्रकार के मॉडलों में हमले की सफलता को अनुकूलित करने के लिए एक प्रस्तावित ट्रेनिंग-मुक्त नियम (CG-DI) प्राप्त होता है जो स्थानीय ग्रेडिएंट निरंतरता जांच (local gradient consistency probe) के आधार पर विविधता को गतिशील रूप से अक्षम करता है।
यह शोध पत्र हाइब्रिड क्वांटम न्यूरल नेटवर्क में सीमित मापन आउटपुट के कारण "मेजरमेंट-इंड्यूस्ड लॉजिट कॉन्ट्रैक्शन" (मापन-प्रेरित लॉजिट संकुचन) को प्रशिक्षण अस्थिरता के एक कारण के रूप में पहचानता है और इन आउटपुट्स को पुन: स्केल करने के लिए एक सीखने योग्य "क्वांटम मेजरमेंट टेम्परेचर" (QMT) पैरामीटर का प्रस्ताव करता है, जिससे ग्रेडिएंट परिमाण को बढ़ाना, अनुकूलन को स्थिर करना और व्यावहारिक डेटासेट पर वर्गीकरण सटीकता में सुधार करना संभव होता है।
यह शोध पत्र कॉन्सेप्ट-कंस्ट्रेंड प्रॉम्प्ट लर्निंग (CCPL) का प्रस्ताव करता है, जो कि फ्यू-शॉट CLIP अनुकूलन के लिए एक हल्का ढांचा है जो ओवरफिटिंग को कम करने और अनदेखी श्रेणियों (unseen classes) पर सामान्यीकरण में सुधार करने के लिए, विशेष रूप से फाइन-ग्रेन्ड और रिमोट सेंसिंग डेटासेट पर, फ्रीज्ड कॉन्सेप्ट-लेवल टेक्स्ट प्रोटोटाइप के विरुद्ध सीखने योग्य क्लास प्रॉम्प्ट्स को रेगुलराइज करता है।
यह शोध पत्र वितरण संबंधी अनिश्चितता (distributional uncertainty) को समाहित करने वाले एक स्थिर सुदृढ़ मीन-फील्ड गेम (stationary robust mean-field game) ढांचे को विकसित करके मल्टी-एजेंट सुदृढीकरण शिक्षण (multi-agent reinforcement learning) में मॉडल मिसमैच की चुनौती को संबोधित करता है, एक नवीन एल्गोरिदम के लिए अभिसरण गारंटी (convergence guarantees) के साथ संतुलन की उपस्थिति स्थापित करता है, और यह सिद्ध करता है कि परिणामी नीति सीमित आबादी वाले परिदृश्यों में स्पष्ट गैर-अनंतकालीन त्रुटि सीमाओं (explicit non-asymptotic error bounds) के साथ अनुमानित संतुलन व्यवहार प्रेरित करती है।
यह शोध पत्र ऑन-पॉलिसी डिस्टिलेशन (On-Policy Distillation) में एक पोजीशन बायस (position bias) की पहचान करता है जहाँ वितरण संबंधी विचलन (distributional drift) के कारण बाद के टोकन घटिया पर्यवेक्षण प्रदान करते हैं, और इम्पोर्टेंस-वेटेड ऑन-पॉलिसी डिस्टिलेशन (Importance-Weighted On-Policy Distillation - IW-OPD) का प्रस्ताव देता है जो इन बाद के टोकनों को गतिशील रूप से कम भार देने के लिए है, जिसके परिणामस्वरूप विभिन्न सेटिंग्स में तेज़ अभिसरण (faster convergence) और बेहतर प्रदर्शन प्राप्त होता है।
यह शोध पत्र प्रदर्शित करता है कि विशिष्ट डोमेन डेटा पर प्रशिक्षित होने पर, कॉम्पैक्ट, कार्य-अनुकूलित लघु भाषा मॉडल (3B पैरामीटर्स से कम) सामान्य और साहित्यिक संबंध निष्कर्षण (relation extraction) दोनों में ज़ीरो-शॉट फ्रंटियर LLMs की तुलना में काफी बेहतर प्रदर्शन कर सकते हैं, जो जनरेटिव स्केलिंग की आवश्यकता के बिना एक हार्डवेयर-कुशल और निजी विकल्प प्रदान करते हैं।