24017 पेपर
यह शोध पत्र "टेल एनीलिंग" (Tail Annealing) का प्रस्ताव करता है, जो एक विधि है जो मानक फ्लो मैचिंग (Flow Matching) मॉडलों के लिए भारी-पूंछ वाले (heavy-tailed) डेटा को एक प्रबंधनीय सीमा में संकुचित करने हेतु कोऑर्डिनेट-वाइज सॉफ्ट-लॉग ट्रांसफॉर्म लागू करती है, जिससे बिना किसी आर्किटेक्चरल बदलाव या भारी-पूंछ वाले बेस डिस्ट्रीब्यूशन के, उन्हें पावर-लॉ डिस्ट्रीब्यूशन को सटीक रूप से जेनरेट करने में सक्षम बनाया जा सके।
यह शोधपत्र "क्लिप्ड लीनियर लॉटरी" (Clipped Linear Lottery) का प्रस्ताव देकर मौजूदा आंशिक लॉटरी चयन तंत्रों की अस्थिरता को संबोधित करता है, जो एक सुचारू, लिप्सचिट्ज़-निरंतर (Lipschitz-continuous) डिज़ाइन है जो वास्तविक दुनिया के पीअर रिव्यू डेटा पर विकल्पों की तुलना में इष्टतम रिग्रेट बाउंड्स और बेहतर प्रदर्शन प्राप्त करते हुए छोटे स्कोर परिवर्तनों के प्रभाव को न्यूनतम करता है।
यह शोध पत्र बड़े मॉडलों से ग्राफ न्यूरल नेटवर्क में कॉम्बिनेटरियल ऑप्टिमाइज़ेशन ज्ञान के कुशल डिस्टिलेशन (distillation) के लिए एक कठोर पर्याप्त शर्त स्थापित करता है, यह प्रदर्शित करते हुए कि सफलता तब सुनिश्चित होती है जब लक्षित आर्किटेक्चर अंतर्निहित डायनेमिक प्रोग्रामिंग समाधान के साथ एल्गोरिद्मिक रूप से संरेखित होता है और स्रोत मॉडल लीनियर रिप्रेजेंटेशन हाइपोथेसिस (linear representation hypothesis) को संतुष्ट करता है।
यह शोधपत्र इवोट्रेस (EvoTrace), जो विकासवादी कोडिंग ट्रेसेस का एक डेटासेट है, और इवोरिप्ले (EvoReplay), जो एक रिप्ले-आधारित कार्यप्रणाली है, को प्रस्तुत करता है, जिससे यह प्रकट होता है कि विकासवादी कोडिंग एजेंटों में प्रदर्शन लाभ अक्सर वास्तविक एल्गोरिद्मिक नवाचार के बजाय री-ट्यूनिंग या मौजूदा ज्ञान के पुन: उपयोग जैसे विविध तंत्रों से उत्पन्न होते हैं, जैसा कि कोड लाइनों के बार-बार होने वाले नियतात्मक चक्रण (deterministic cycling) से प्रमाणित होता है।
यह शोध पत्र प्रीट्रेनिंग और लीनियर प्रोबिंग का एक विश्लेषणात्मक उच्च-आयामी मॉडल प्रस्तुत करता है जो इष्टतम प्रतिनिधित्व आकार (representation sizes) की पहचान करने के लिए सटीक सामान्यीकरण त्रुटि व्यंजक (generalization error expressions) व्युत्पन्न करता है, जिससे यह पता चलता है कि जब प्रीट्रेनिंग डेटा प्रचुर मात्रा में हो लेकिन डाउनस्ट्रीम डेटा कम हो तो अधिकतम संकुचित प्रतिनिधित्व सबसे अच्छे होते हैं, जबकि सीमित प्रीट्रेनिंग डेटा के साथ उच्च-आयामी प्रतिनिधित्व बेहतर प्रदर्शन करते हैं।
यह शोधपत्र एक "सैंपल-स्केच-सॉल्व" (Sample-Sketch-Solve) प्रतिमान प्रस्तावित करता है जो डेटा को संकुचित करने और संरचना को नियमित करने के लिए एक नियमित कार्टेशियन ग्रिड स्केच का उपयोग करता है, जिससे सुचारू वितरणों के बीच वर्ग वसरस्टीन दूरी (squared Wasserstein distance) का -योगात्मक त्रुटि के साथ अनुमान लगाना संभव हो जाता है, जिसकी समय जटिलता पारंपरिक विधियों की तुलना में काफी बेहतर है, विशेष रूप से और आयामों के लिए।
यह शोध पत्र एक एकीकृत ढांचे को प्रस्तुत करता है जो यह मात्रात्मक रूप से मापता है कि मस्तिष्क प्रतिक्रिया स्थान के कौन से विशिष्ट पुनरुत्पादक आयाम (reproducible dimensions) प्राप्त किए गए हैं, जिससे यह स्पष्ट होता है कि केवल भविष्यवाणी सटीकता (prediction accuracy) कृत्रिम विजन मॉडल और मानव दृश्य वल्कुट (visual cortex) के बीच महत्वपूर्ण बेमेल को छिपा सकती है।
TrajTok एक प्रक्षेपवक्र (ट्रैजेक्टरी) एनकोडर है जो अनुकूलन योग्य बहु-रिज़ॉल्यूशन हेक्सागोनल स्थानिक टोकनाइज़ेशन और मास्क्ड-टोकन प्री-ट्रेनिंग के साथ एक फैक्टराइज्ड ट्रांसफार्मर आर्किटेक्चर का उपयोग करता है ताकि विविध डाउनस्ट्रीम कार्यों में कार्य-विशिष्ट विधियों से बेहतर प्रदर्शन करने वाले हस्तांतरणीय, सामान्य-उद्देश्य वाले प्रक्षेपवक्र प्रतिनिधित्व सीखे जा सकें।
यह शोध पत्र उनके स्टोकेस्टिक पार्शियल डिफरेंशियल इक्वेशन (stochastic partial differential equation) लक्षण वर्णन का लाभ उठाते हुए अनडिरेक्टेड ग्राफ्स (undirected graphs) के लिए माटर्न गॉसियन प्रोसेस (Matérn Gaussian processes) का विस्तार करता है, यह प्रदर्शित करते हुए कि परिणामी मॉडल यूक्लिडियन एनालॉग्स (Euclidean analogs) से प्रमुख गुणों को विरासत में प्राप्त करते हैं और मिनी-बैच (mini-batch) तथा गैर-संयुग्मी (non-conjugate) सेटिंग्स के लिए इंड्यूसिंग पॉइंट्स (inducing points) जैसी मानक तकनीकों का उपयोग करके कुशलतापूर्वक प्रशिक्षित किए जा सकते हैं।
यह शोधपत्र Acela को प्रस्तुत करता है, जो एक लागत-जागरूक अवधि भविष्यवाणी ढांचा (cost-aware duration prediction framework) है, जो विषम गलत भविष्यवाणी लागतों (asymmetric misprediction costs) और स्ट्रैगलर प्रभावों (straggler effects) को संबोधित करके डेटा केंद्रों में सॉफ्टवेयर अपग्रेड शेड्यूलिंग को अनुकूलित करता है, जिसके परिणामस्वरूप मेटा के प्रोडक्शन सिस्टम में दक्षता, थ्रूपुट में उल्लेखनीय सुधार और रद्दीकरण दरों में कमी आई है।