655 पेपर
यह शोध पत्र प्रदर्शित करता है कि न्यूरल नेटवर्क के बीच प्रतिनिधि संरेखण (representational alignment) सिग्नल-टू-नॉइज़ अनुपात और नमूना आकार द्वारा एक गैर-एकदिष्ट (non-monotonic) तरीके से नियंत्रित होता है, जो विशेष रूप से इंटरपोलेशन थ्रेशोल्ड के पास न्यूनतम संरेखण को दर्शाता है, एक ऐसी घटना जो सामान्यीकरण प्रदर्शन (generalization performance) से स्वतंत्र है।
यह शोध पत्र एक नवीन ढांचे का प्रस्ताव करता है जो सुदृढीकरण शिक्षण फाइन-ट्यूनिंग (reinforcement learning fine-tuning) के माध्यम से LLM सर्च ऑपरेटर को निरंतर परिष्कृत करके एल्गोरिदम खोज के लिए LLM-आधारित विकासवादी खोज (evolutionary search) को बढ़ाता है, जिससे कॉम्बिनेटरियल ऑप्टिमाइज़ेशन कार्यों में श्रेष्ठ समाधानों की पहचान करने की प्रक्रिया में तेजी आती है।
यह शोध पत्र वास्तविक क्षमता को अलग करने के लिए मीट्रिक का उपयोग करते हुए और मेटाकॉग्निटिव अलाइनमेंट के लिए इवोल्यूशन स्ट्रैटेजी फॉर मेटाकॉग्निटिव अलाइनमेंट (ESMA) का प्रस्ताव देते हुए, बड़े भाषा मॉडल (Large Language Model) की मेटाकॉग्निशन को मापने और बढ़ाने के लिए एक ढांचे को प्रस्तुत करता है, जो विविध स्थितियों में मजबूत सामान्यीकरण प्राप्त करता है और यह प्रकट करता है कि सुधार मापदंडों के एक विरल सेट (sparse set of parameters) से उत्पन्न होते हैं।
यह शोध पत्र इस बात की जांच करता है कि क्या बड़े विजन-लैंग्वेज मॉडल (VLMs), मानव-संचालित पिकब्रीडर (Picbreeder) प्रयोगों में देखे गए मुक्त-अंत वाले, रचनात्मक अन्वेषण की नकल कर सकते हैं, और यह पाता है कि हालांकि VLMs विशिष्ट आउटपुट उत्पन्न करते हैं, लेकिन जनरेटिव क्षमता के अंतर को बेहतर ढंग से समझने और संभावित रूप से उसे पाटने के लिए एक्सप्लोरेटरी नॉइज़ (exploratory noise), व्यवहार संबंधी विविधता और मेमोरी जैसे तंत्रों को शामिल करना आवश्यक है।
यह शोध पत्र एक स्मृति अनिश्चितता संबंध (मेमोरी अनसर्टेन्टी रिलेशन) स्थापित करता है जो अवस्था के उतार-चढ़ाव के विरुद्ध गतिशील प्रणालियों की अल्पकालिक स्मृति क्षमता को सीमित करता है, एक उप-इष्टतम "हार्मोनिक मेमोरी" की पहचान करता है जो इस सीमा को प्राप्त करती है, और यह प्रकट करता है कि कैसे इनपुट शोर को अवस्था-स्थान नियमितीकरण (स्टेट-स्पेस रेगुलराइजेशन) के साथ संयोजित करने से एक "शोर-प्रेरित स्मृति" (नॉयज-इंड्यूस्ड मेमोरी) घटना उत्पन्न होती है जो इस संबंध का उल्लंघन करती है।
यह शोध पत्र Convex-Neural RRT* को प्रस्तुत करता है, जो एक लर्निंग-गाइडेड पाथ प्लानिंग एल्गोरिदम है जो न्यूरल प्रेडिक्शन्स से कॉनवेक्स कैंडिडेट क्षेत्रों को निकालता है ताकि मौजूदा न्यूरल और क्लासिकल सैंपलिंग-आधारित विधियों की तुलना में गणना समय को महत्वपूर्ण रूप से कम किया जा सके और उच्च सफलता दर बनाए रखते हुए पथ की गुणवत्ता में सुधार किया जा सके।
यह शोध पत्र पुनरावर्ती कनवल्शनल न्यूरल नेटवर्क (recurrent convolutional neural networks) को प्रशिक्षित करने के लिए एक अवकलनीय ढांचे (differentiable framework) को प्रस्तुत करता है जो चौड़ाई, गहराई और समय के संयुक्त लागतों को अनुकूलित करता है, जिससे यह पता चलता है कि संसाधन संबंधी बाधाएं विविध कम्प्यूटेशनल आर्किटेक्चर को कैसे आकार देती हैं और मानव प्रतिक्रिया समय के साथ कैसे सह-संबद्ध होती हैं।
यह शोध पत्र एक नवीन, समन्वित कार्यप्रवाह का उपयोग करते हुए, जो मानवीय गणितीय अंतर्दृष्टि के साथ कई AI प्रणालियों का तालमेल बिठाता है, शास्त्रीय गणनात्मक ज्यामिति (classical enumerative geometry) में चेर्न वर्गों (Chern classes) के लिए दीर्घकालिक अनुमानों को हल करता है और नए धनात्मकता (positivity) एवं लघु-उन्नति (log-concavity) परिणामों को स्थापित करता है।
यह शोध पत्र प्रिसैक अटेंशन लेयर (PAL) को प्रस्तुत करता है, जो एक नवीन अनुक्रम मॉडलिंग आर्किटेक्चर है जो ट्यूरिंग-पूर्णता (Turing-completeness) प्राप्त करने के लिए, ऐतिहासिक रेंज सांख्यिकी की कुशल गणना सक्षम करने के लिए, और कमजोर स्थितिगत निर्भरता वाले दीर्घकालिक एपिसोडिक मेमोरी वाले कार्यों के लिए O(n log n) अनुमान लागत प्रदान करने के लिए सॉफ्टमैक्स अटेंशन को हिस्टेरेसिस-आधारित बाइनरी रिले ऑपरेटर से बदल देता है।
यह शोधपत्र प्रदर्शित करता है कि स्व-ऑर्थोगोनलाइज़िंग (self-orthogonalizing) अट्रैक्टर न्यूरल नेटवर्क रैंडम डायनेमिकल सिस्टम्स पर लागू फ्री एनर्जी प्रिंसिपल से स्वाभाविक रूप से उभरते हैं, जो स्पष्ट रूप से आरोपित लर्निंग रूल्स की आवश्यकता के बिना, प्रेडिक्टिव एक्यूरेसी और मॉडल कॉम्प्लेक्सिटी को अनुकूलित करने वाले जैविक रूप से प्रशंसनीय, मल्टी-लेवल बेयसियन एक्टिव इन्फरेंस डायनेमिक्स प्रदान करते हैं।