27986 पेपर
यह शोध पत्र सुपर-लेवल-सेट रिग्रेशन (SLS) को प्रस्तुत करता है, जो एक नवीन ढांचा है जो वॉल्यूम मिनिमाइजेशन और कंडीशनल एरर क्वांटाइल्स के बीच निहित युग्मन (इम्प्लिसिट कपलिंग) को हल करके न्यूनतम-वॉल्यूम कंडीशनल प्रेडिक्शन क्षेत्रों की ज्यामितिक सीमाओं को सीधे अनुकूलित करता है, जिससे जटिल, मल्टीमॉडल संरचनाओं को पकड़ने के लिए स्पष्ट घनत्व अनुमान (एक्सप्लिसिट डेंसिटी एस्टीमेशन) की आवश्यकता समाप्त हो जाती है।
यह शोध पत्र एक सामान्य क्रॉसिंग ग्राफ के माध्यम से सीखने योग्य वर्गों (learnable classes) को अभिलक्षित करके, नई ज्यामितीय स्थितियों और आयामों को स्थापित करके, और यह प्रदर्शित करके कि कंट्रास्टिव डेटा पारंपरिक केवल-सकारात्मक उदाहरणों की तुलना में प्रतिकूल भ्रष्टाचार (adversarial corruption) के प्रति अधिक सुदृढ़ हो सकता है, सीमा में कंट्रास्टिव पहचान और पीढ़ी के अध्ययन की शुरुआत करता है।
यह शोध पत्र TIDE का प्रस्ताव करता है, जो एक नवीन ट्रांसफार्मर आर्किटेक्चर है जो मानक सिंगल-इंजेक्शन टोकन एम्बेडिंग को एक "एम्बेडिंगमेमोरी" (EmbeddingMemory) प्रणाली से बदल देता है जो प्रत्येक परत में संदर्भ-मुक्त अर्थ संबंधी वेक्टर्स को इंजेक्ट करता है, जिससे दुर्लभ टोकन के कम प्रशिक्षण और समान टोकन के संदर्भात्मक पतन (contextual collapse) की समस्या को हल करते हुए भाषा मॉडलिंग प्रदर्शन में सुधार किया जा सके।
मेमोरी इनसेप्शन (Memory Inception) एक प्रशिक्षण-मुक्त विधि है जो लेटेंट अटेंशन लेयर्स में टेक्स्ट-व्युत्पन्न की-वैल्यू बैंकों को चुनि적으로 इंजेक्ट करके लार्ज लैंग्वेज मॉडल्स को निर्देशित करती है, जिससे पारंपरिक प्रॉम्प्टिंग और एक्टिवेशन स्टीयरिंग तकनीकों की तुलना में स्टोरेज ओवरहेड को काफी कम करते हुए बेहतर नियंत्रण और संरचित तर्क प्रदर्शन प्राप्त होता है।
यह शोध पत्र सॉफ्ट डिटर्मिनिस्टिक पॉलिसी ग्रेडिएंट (Soft-DPG) को प्रस्तुत करता है, जो एक नवीन सुदृढीकरण शिक्षण (reinforcement learning) ढांचा है जो क्रिटिक एक्शन-ग्रेडिएंट्स की आवश्यकता को समाप्त करने के लिए गॉसियन स्मूथिंग का उपयोग करता है, जिससे उन निरंतर नियंत्रण कार्यों में स्थिर शिक्षण और बेहतर प्रदर्शन सुनिश्चित होता है जहाँ मानक DPG विधियाँ विफल हो जाती हैं, विशेष रूप से विरल (sparse) या असतत (discrete) पुरस्कारों वाले मामलों में।
यह शोध पत्र सबग्राफ माइनिंग और बूटस्ट्रैप बेसलाइन को संयोजित करने वाले एक कैलिब्रेटेड डायग्नोस्टिक प्रोटोकॉल को प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि जबकि ग्राफ लैंग्वेज मॉडल शुरू में रटने (मेमोराइजेशन) पर निर्भर करते हैं, वे बड़े पैमाने पर, विशेष रूप से उच्च-आवृत्ति वाले पैटर्न के लिए, वास्तविक संरचनात्मक नियमितताओं को सीख सकते हैं, हालांकि दुर्लभ संरचनाओं तक उनके सामान्यीकरण की क्षमता सीमित बनी रहती है।
यह शोधपत्र रैंडम शफलिंग सबसॅम्पलिंग के साथ डिफरेंशियल प्राइवेट स्टोकेस्टिक ग्रेडिएंट डिसेंट (DP-SGD) के ट्रेड-ऑफ फंक्शन के लिए सटीक, पारदर्शी क्लोज्ड-फॉर्म ऊपरी और निचली सीमाएं स्थापित करता है, जो यह प्रदर्शित करता है कि यह विधि पॉइसन सबसॅम्पलिंग की तुलना में बेहतर व्याख्यात्मकता और अनुकूल गोपनीयता-उपयोगिता ट्रेड-ऑफ प्रदान करती है, विशेष रूप से उन स्थितियों में जहाँ नॉइज़ मल्टीप्लायर पर्याप्त रूप से बड़ा है।
यह शोधपत्र TARDIS को प्रस्तुत करता है, जो एक इन्फरेंस-टाइम रिफाइनमेंट फ्रेमवर्क है जो एक फ्रोजन प्री-ट्रेंड डिफ्यूजन बैकबोन के आउटपुट को ऑप्टिमाइज़ करने के लिए द्विदिश चैम्फर रिफाइनमेंट (Bidirectional Chamfer Refinement) का उपयोग करता है, जिससे सिंथेटिक-रियल गैप कम होता है और डाउनस्ट्रीम टास्क परफॉर्मेंस बिना रीट्रेनिंग के वास्तविक डेटा पर प्रशिक्षित मॉडल्स से भी बेहतर प्राप्त होती है।
यह शोधपत्र एंड-टू-एंड स्वायत्त ड्राइविंग के लिए एक पदानुक्रमित एट्रिब्यूशन फ्रेमवर्क प्रस्तावित करता है जो सहायक निगरानी मॉडलों पर निर्भर हुए बिना, प्लानिंग जोखिमों की प्रभावी ढंग से भविष्यवाणी करने और संभावित टक्करों की पहचान करने के लिए मल्टी-व्यू इनपुट से सांख्यिकीय संकेतों को निकालता है।
यह शोध पत्र फंक्शन प्रोजेक्शन फॉर फ्लो मैचिंग (FP-FM) का प्रस्ताव करता है, जो एक ऐसा एल्गोरिदम है जो वेग क्षेत्रों (velocity fields) के लिए आधार फलनों (basis functions) को सीखकर और अनुमान के समय लक्ष्य नमूनों को इस आधार पर प्रोजेक्ट करके, जनरेटिव मॉडल्स को अनदेखी वितरणों (unseen distributions) के लिए कुशल, प्रशिक्षण-मुक्त अनुकूलन सक्षम बनाता है।