26413 पेपर
यह सर्वेक्षण पारंपरिक समय श्रृंखला विश्लेषण (Time Series Analysis) से एलएलएम (LLM) युग में समय श्रृंखला प्रश्नोत्तर (Time Series Question Answering) तक के विकास का अन्वेषण करता है, जो भाषा मॉडलों और टेम्पोरल डेटा के बीच के अंतर को पाटने के लिए एक वर्गीकरण (taxonomy) और तीन संरेखण प्रतिमानों (alignment paradigms) का प्रस्ताव करता है और भविष्य की अनुसंधान दिशाओं को रेखांकित करता है।
यह शोध पत्र न्यूरल नेटवर्क लॉस लैंडस्केप्स में "चैनल्स टू इन्फिनिटी" (अनंत की ओर जाने वाले मार्ग) की पहचान और लक्षण वर्णन करता है जहाँ अनुकूलन एल्गोरिदम उन अर्ध-सपाट क्षेत्रों में अभिसरित होते हैं जहाँ भार (weights) विचलन करते हैं और स्पर्शोन्मुख रूप से गेटेड लीनियर यूनिट्स को लागू करते हैं, जो पूरी तरह से जुड़े हुए परतों (fully connected layers) की एक आश्चर्यजनक कम्प्यूटेशनल क्षमता को प्रकट करता है।
यह शोध पत्र MaPPO को प्रस्तुत करता है, जो एक प्राथमिकता अनुकूलन (preference optimization) विधि है जो पूर्व रिवॉर्ड ज्ञान को मैक्सिमम अ पोस्टीरियर (Maximum a Posteriori) उद्देश्य में शामिल करके DPO जैसे मौजूदा दृष्टिकोणों का सामान्यीकरण करती है, जिससे बिना किसी हाइपरपैरामीटर को जोड़े या दक्षता से समझौता किए विभिन्न बेंचमार्क पर LLM संरेखण (alignment) में सुधार होता है।
यह शोध पत्र एक नवीन इक्विलिब्रियम प्रोपेगेशन फ्रेमवर्क प्रस्तावित करता है जो वैनिशिंग ग्रेडिएंट समस्या को दूर करने के लिए लेयर-वाइज लर्निंग सिग्नल्स और नॉलेज डिस्टिलेशन को एकीकृत करता है, जिससे CIFAR डेटासेट्स पर डीप VGG आर्किटेक्चर को अत्याधुनिक प्रदर्शन के साथ सफलतापूर्वक प्रशिक्षित करना सक्षम होता है।
यह शोध पत्र स्केलेबल ऑप्शन लर्निंग (SOL) को प्रस्तुत करता है, जो एक अत्यधिक कुशल पदानुक्रमित सुदृढीकरण शिक्षण (hierarchical reinforcement learning) एल्गोरिदम है जो मौजूदा विधियों की तुलना में लगभग 35 गुना अधिक थ्रूपुट प्राप्त करता है और नेटहैक (NetHack) जैसे जटिल वातावरणों में 30 बिलियन फ्रेम पर प्रशिक्षण के माध्यम से उत्कृष्ट प्रदर्शन और सकारात्मक स्केलिंग रुझान प्रदर्शित करता है।
यह शोध पत्र यह प्रदर्शित करते हुए अनुसंधान में मानव प्रतिभागियों के विकल्प के रूप में लार्ज लैंग्वेज मॉडल एजेंटों के उपयोग की वैधता को चुनौती देता है कि, मनुष्यों के समान प्रतिक्रियाएं उत्पन्न करने के बावजूद, उनमें विभिन्न प्रयोगात्मक सेटिंग्स में वह मौलिक व्यवहारिक निरंतरता का अभाव है जो वास्तविक मानव व्यवहार का सटीक प्रतिनिधित्व करने के लिए आवश्यक है।
यह शोध पत्र स्पार्स ऑटोएनकोडर न्यूरल ऑपरेटर्स (SAE-NOs) को प्रस्तुत करता है, जो एक नवीन ढांचा है जो पारंपरिक स्पार्स ऑटोएनकोडर्स का विस्तार करता है, जिसमें अवधारणाओं (concepts) को स्केलर सक्रियणों के बजाय संरचित फलनों के रूप में पैरामीटराइज किया जाता है, जिससे इनपुट डोमेन में अवधारणा अभिव्यक्ति का मॉडलिंग सक्षम होता है, विभिन्न रिज़ॉल्यूशन पर उत्कृष्ट सामान्यीकरण प्राप्त होता है, और एक नवीन लिफ्टिंग तकनीक के माध्यम से अनुकूलन को त्वरित किया जाता है।
यह शोधपत्र एक नवीन टोपोलॉजिकल डेटा विश्लेषण दृष्टिकोण प्रस्तुत करता है जो जटिल नेटवर्क की लेटेंट हाइपरबोलिक आयामीता (latent hyperbolic dimensionality) का मजबूती से अनुमान लगाने के लिए कॉर्डलेस साइकिल फिल्ट्रेशन (chordless cycle filtrations) और मशीन लर्निंग का लाभ उठाता है, जिससे वास्तविक दुनिया के डेटा पर पुन: प्रशिक्षण के बिना प्रभावी मॉडलिंग और लो-डायमेंशनल एम्बेडिंग सक्षम होती है।
यह शोध पत्र प्रदर्शित करता है कि फाइन-ट्यून्ड विजन-लैंग्वेज मॉडल्स, विशेष रूप से LLaMA 3.2 का एक वेरिएंट, मल्टीमॉडल रीजनिंग के माध्यम से बेहतर सटीकता, मजबूती और व्याख्यात्मकता प्राप्त करके उच्च-ऊर्जा भौतिकी में न्यूट्रिनो इंटरैक्शन को वर्गीकृत करने में पारंपरिक कनवल्शनल न्यूरल नेटवर्क्स और विजन-ओनली ट्रांसफॉर्मर्स से बेहतर प्रदर्शन करते हैं।
यह शोध पत्र UXPID प्रस्तुत करता है, जो औद्योगिक मंचों (industrial forums) से 7,130 गुमनाम उपयोगकर्ता फीडबैक शाखाओं का एक सिंथेटिक डेटासेट है, जिसे गोपनीयता और लाइसेंसिंग बाधाओं को संबोधित करते हुए UX विश्लेषण, आवश्यकताओं के निष्कर्षण (requirements extraction) और AI-संचालित फीडबैक प्रोसेसिंग में अनुसंधान का समर्थन करने के लिए LLMs द्वारा एनोटेट किया गया है।