22894 पेपर
यह शोध पत्र जनरल फिजिक्स ट्रांसफॉर्मर (GPhyT) को प्रस्तुत करता है, जो 1.8 TB विविध सिमुलेशन डेटा पर प्रशिक्षित एक फाउंडेशन मॉडल है जो पूर्व-निर्धारित समीकरणों पर निर्भर किए बिना सीधे संदर्भ से शासी गतिकी (governing dynamics) का अनुमान लगाकर उत्कृष्ट बहु-डोमेन प्रदर्शन और ज़ीरो-शॉट सामान्यीकरण प्राप्त करता है।
यह व्याख्यात्मक टिप्पणी यह प्रदर्शित करती है कि कैसे टेम ज्योमेट्री (o-मिनिमलिटी) फलन संरचनाओं (फंक्शन कंपोजिशन) के दृष्टिकोण से सामान्य गैर-सुचारू (nonsmooth), गैर-उत्तल (nonconvex) परिवेशों में स्टोकेस्टिक ग्रेडिएंट डिसेंट के लिए अभिसरण गारंटी स्थापित करके डीप लर्निंग के लिए एक स्वाभाविक गणितीय ढांचा प्रदान करती है।
यह शोध पत्र d2 को प्रस्तुत करता है, जो मास्क किए गए डिफ्यूजन लैंग्वेज मॉडल्स के लिए एक नवीन सुदृढीकरण शिक्षण (reinforcement learning) ढांचा है, जो विशेषीकृत ट्राजेक्टरी लाइकलीहुड अनुमानकों (d2-AnyOrder और d2-StepMerge) का उपयोग करता है ताकि तार्किक और गणितीय बेंचमार्क पर तर्क करने की क्षमताओं को महत्वपूर्ण रूप से बढ़ाया जा सके, जिससे नया अत्याधुनिक प्रदर्शन (state-of-the-art performance) प्राप्त होता है।
यह शोध पत्र FedCF प्रस्तुत करता है, जो एक ऐसा ढांचा है जो विनिमय क्षमता (exchangeability) धारणा का लाभ उठाते हुए विविध जनसांख्यिकीय समूहों में न्यायसंगत अनिश्चितता मात्रा निर्धारण (uncertainty quantification) की ऑडिट करने और उसे सुनिश्चित करने के लिए फेडरेटेड लर्निंग सेटिंग में कॉन्फॉर्मल फेयरनेस (Conformal Fairness) का विस्तार करता है।
यह शोध पत्र प्रदर्शित करता है कि लार्ज मल्टीमॉडल मॉडल्स (Large Multimodal Models) में विशिष्ट अटेंशन हेड्स (attention heads), विजुअल रिलेशनल नॉलेज (visual relational knowledge) को मैनिपुलेट करने योग्य "फंक्शन वेक्टर्स" (function vectors) के रूप में एनकोड करते हैं, जिन्हें निकाला जा सकता है, फाइन-ट्यून किया जा सकता है और लीनियरली संयोजित किया जा सकता है ताकि जीरो-शॉट परफॉर्मेंस (zero-shot performance), इन-कॉन्टेक्स्ट लर्निंग (in-context learning) और रिलेशनल रीजनिंग कार्यों पर सामान्यीकरण (generalization) को महत्वपूर्ण रूप से बढ़ाया जा सके।
यह शोध पत्र 2-FWL GNNs की एक चेनिंग प्रक्रिया प्रस्तुत करता है जो गैर-अवकलनीय (non-differentiable) रैंकिंग चरणों के माध्यम से विविक्त संयोजी फीडबैक (discrete combinatorial feedback) को इंजेक्ट करती है, जो स्पार्स, रेगुलर और वास्तविक दुनिया के ग्राफों में कॉम्बिनेटोरियल ग्राफ अलाइनमेंट समस्या को हल करने के लिए पूर्ववर्ती GNN विधियों और एक उचित रूप से इनिशियलाइज़्ड FAQ बेसलाइन दोनों से काफी बेहतर प्रदर्शन करती है।
यह शोध पत्र MAPR प्रस्तुत करता है, जो एक ऐसी विधि है जो रीजनिंग मॉडल्स को उनके अपने रोलआउट सांख्यिकी (जैसे लंबाई और पास-रेट) की भविष्यवाणी करने के लिए प्रशिक्षित करके मेटा-अवेयरनेस (meta-awareness) को सत्यापित करती है, जिससे अनुकूलन योग्य रीजनिंग व्यवहार सक्षम होता है जो गणितीय बेंचमार्क में प्रशिक्षण दक्षता और सटीकता दोनों में महत्वपूर्ण सुधार करता है।
यह शोधपत्र न्यूरल लो-डिस्क्रिपेंसी सीक्वेंस (NeuroLDS) को प्रस्तुत करता है, जो एक नवीन मशीन लर्निंग फ्रेमवर्क है जो शास्त्रीय विधियों की तुलना में बेहतर प्रीफिक्स यूनिफॉर्मिटी के साथ परिमित लो-डिस्क्रिपेंसी सीक्वेंस उत्पन्न करता है, जिससे संख्यात्मक एकीकरण (न्यूमेरिकल इंटीग्रेशन), रोबोट मोशन प्लानिंग और वैज्ञानिक मशीन लर्निंग जैसे अनुप्रयोगों में प्रदर्शन में वृद्धि होती है।
यह शोध पत्र मार्जिन-एडेप्टिव डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन (MADPO) प्रस्तुत करता है, जो एक नवीन विधि है जो DPO लॉस पर इंस्टेंस-लेवल, एडेप्टिव री-वेटिंग लागू करने के लिए रिवॉर्ड मॉडल का लाभ उठाती है, जिससे प्राथमिकता शिक्षण (preference learning) पर स्थिर और सूक्ष्म नियंत्रण प्राप्त करने के लिए फिक्स्ड और बैच-लेवल टेम्परेचर पैरामीटर्स की सीमाओं को दूर किया जा सके और मौजूदा बेसलाइन्स से बेहतर प्रदर्शन किया जा सके।
यह शोध पत्र डोमेन-शिफ्ट-अवेयर कॉन्फॉर्मल प्रेडिक्शन (DS-CP) का प्रस्ताव देता है, जो एक नवीन ढांचा है जो टेस्ट प्रॉम्प्ट्स के साथ अपनी निकटता के आधार पर कैलिब्रेशन सैंपल्स को व्यवस्थित रूप से पुन: भारित (reweighting) करके डोमेन शिफ्ट के तहत लार्ज लैंग्वेज मॉडल्स के लिए अनिश्चितता परिमाणीकरण की विश्वसनीयता को बढ़ाता है, जिससे वैध कवरेज गारंटी सुरक्षित रहते हुए अनुकूलन क्षमता में सुधार होता है।