25186 पेपर
LLM-AutoDP एक नवीन फ्रेमवर्क है जो संवेदनशील डेटा तक सीधी मानवीय पहुँच के बिना, मॉडल फाइन-ट्यूनिंग के लिए डेटा प्रोसेसिंग रणनीतियों को स्वचालित रूप से उत्पन्न करने और उन्हें पुनरावृत्ति (iteratively) के माध्यम से अनुकूलित करने के लिए LLM एजेंटों का लाभ उठाता है, जिससे विशेष त्वरण तकनीकों के माध्यम से उच्च-गुणवत्ता वाले परिणाम प्राप्त होते हैं और खोज समय में काफी कमी आती है।
यह शोध पत्र AsylADMM को प्रस्तुत करता है, जो एक नवीन एसिंक्रोनस गॉसिप एल्गोरिदम है जो केवल प्रति नोड दो वेरिएबल्स की आवश्यकता के साथ नॉन-स्मूथ ऑब्जेक्टिव्स के लिए सुदृढ़, मेमोरी-कुशल विकेंद्रीकृत शिक्षण को सक्षम बनाता है, जिससे मौजूदा विधियों की स्केलेबिलिटी सीमाओं को पार करते हुए क्वांटाइल एस्टिमेशन और रोबस्ट रिग्रेशन जैसे चुनौतीपूर्ण कार्यों पर बेहतर अभिसरण (convergence) प्रदर्शित किया गया है।
यह शोध पत्र एक विश्लेषणात्मक ढांचे और एक क्लोज्ड-फॉर्म प्रोविजनिंग नियम को प्रस्तुत करता है ताकि डिसैग्रिगेटेड (disaggregated) LLM सर्विंग में सैद्धांतिक रूप से इष्टतम अटेंशन-टू-एफएफएन (Attention-to-FFN) संसाधन अनुपात निर्धारित किया जा सके, जो डिवाइस के आइडल टाइम और स्टेप-लेवल ब्लॉकिंग को कम करने के लिए स्टोकेस्टिक वर्कलोड डायनेमिक्स और सिंक्रोनाइज़ेशन ओवरहेड्स को ध्यान में रखता है।
यह शोध पत्र लेविआथन (Leviathan) का परिचय देता है, जो एक ट्रांसफॉर्मर आर्किटेक्चर है जो मानक टाइड एम्बेडिंग मैट्रिक्स (tied embedding matrix) को एक सीखे हुए एम्बेडिंग वेक्टराइजेशन (learned embedding vectorization - LEV) से बदलकर इनपुट और आउटपुट रिप्रजेंटेशन को अलग करता है, जिससे न्यूनतम पैरामीटर ओवरहेड के साथ भाषा मॉडलिंग प्रदर्शन और डाउनस्ट्रीम बेंचमार्क में महत्वपूर्ण सुधार प्राप्त होता है।
यह योगदान सांख्यिकीय सदस्यता अनुमान (Statistical Membership Inference - SMI) को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त ऑडिटिंग फ्रेमवर्क है जो मॉडल विस्मरण (model forgetting) के सत्यापन को गैर-सदस्य मिश्रण अनुपातों (non-member mixture proportions) के अनुमान की समस्या के रूप में पुनर्गठित करके पारंपरिक सदस्यता अनुमान हमलों की मौलिक सीमाओं और कम्प्यूटेशनल ओवरहेड को दूर करता है, जिससे सैद्धांतिक गारंटियों के साथ अधिक विश्वसनीय और कुशल प्रदर्शन मूल्यांकन सक्षम होता है।
यह शोध पत्र संवेदनशीलता संबंधी बाधाओं के कारण यह सिद्ध करते हुए इस खुले प्रश्न का समाधान करता है कि क्या एक-परत वाले ट्रांसफॉर्मर PARITY कार्य को कंप्यूट कर सकते हैं कि वे ऐसा नहीं कर सकते, और साथ ही एक व्यावहारिक चार-परत वाले ट्रांसफॉर्मर निर्माण को प्रस्तुत करता है जो लंबाई-निर्भर पोजीशनल एनकोडिंग या हार्डमैक्स जैसे पहले से आवश्यक अव्यवहारिक अनुमानों पर निर्भर किए बिना PARITY को हल करता है।
यह शोध पत्र VeriTime को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो प्रोसेस-वेरिफिएबल (प्रक्रिया-सत्यापनीय) चेन-ऑफ-थॉट डेटा को संश्लेषित करके, एक सिद्धांतपूर्ण डेटा शेड्यूलिंग तंत्र को लागू करके, और अनुकूलित दो-चरणीय सुदृढीकरण शिक्षण (रीइन्फोर्समेंट लर्निंग) को लागू करके टाइम सीरीज़ रीजनिंग के लिए लार्ज लैंग्वेज मॉडल्स को उन्नत करता है, जिससे कॉम्पैक्ट मॉडल्स बड़े प्रोप्रायटरी सिस्टम के प्रदर्शन के बराबर या उससे अधिक प्रदर्शन करने में सक्षम होते हैं।
लेटेंट जेनरेटिव सॉल्वर (LGS), एक साझा लेटेंट मैनिफोल्ड, सेल्फ-कंडीशनिंग और इनपुट नॉइज़ के साथ एक फ्लो-मैचिंग ट्रांसफॉर्मर को संयोजित करके बारह अलग-अलग PDE परिवारों में सामान्यीकरण योग्य और स्थिर दीर्घकालिक भौतिक सिमुलेशन प्राप्त करता है, जिससे यह मल्टी-स्टेप सटीकता में नियत बेसलाइन मॉडलों से काफी बेहतर प्रदर्शन करता है और साथ ही गणनात्मक लागतों को भी भारी रूप से कम करता है।
यह शोध पत्र विजुअल पैरा-थिंकर (Visual Para-Thinker) को प्रस्तुत करता है, जो मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स के लिए पहला समानांतर तर्क ढांचा (parallel reasoning framework) है, जो विविध और कुशल दृश्य समझ प्राप्त करने के लिए विजुअल पार्टिशनिंग (visual partitioning), पा-अटेंशन (Pa-Attention) और एलपीआरओपीई (LPRoPE) का लाभ उठाकर पारंपरिक वर्टिकल स्केलिंग की अन्वेषण सीमाओं को दूर करता है।
यह शोध पत्र पर्सेप्टिव ह्यूमनॉइड पार्कोर (PHP) को प्रस्तुत करता है, जो एक मॉड्यूलर फ्रेमवर्क है जो कौशल संश्लेषण के लिए मोशन मैचिंग को धारणा-संचालित सुदृढीकरण लर्निंग (परसेप्शन-ड्रिवन रीइन्फोर्समेंट लर्निंग) के साथ जोड़ता है ताकि ह्यूमनॉइड रोबोटों को वास्तविक दुनिया के वातावरण में गतिशील अनुकूलन क्षमता के साथ जटिल, दीर्घ-क्षितिज वाले पार्कोर कार्यों को स्वायत्त रूप से निष्पादित करने में सक्षम बनाया जा सके।