23941 पेपर
यह शोध पत्र DarkLLM को प्रस्तुत करता है, जो एक नवीन फ्रेमवर्क है जो विविध विजन और मल्टीमॉडल फाउंडेशन मॉडल्स में हमलों को एकीकृत और स्केल करने के लिए, प्राकृतिक भाषा के निर्देशों को बहुमुखी, उच्च-प्रभावकारिता वाले एडवरसैरियल परटर्बेशन्स (adversarial perturbations) में अनुवादित करने हेतु 1B-पैरामीटर वाले लार्ज लैंग्वेज मॉडल का लाभ उठाता है।
MO-CAPO एक नवीन बहु-उद्देश्यीय प्रॉम्प्ट अनुकूलन एल्गोरिदम है जो कुशल बजट आवंटन के माध्यम से लार्ज लैंग्वेज मॉडल के प्रदर्शन और अनुमान लागत (इन्फरेंस कॉस्ट) को संयुक्त रूप से अनुकूलित करता है, जो लागत-दक्षता बनाए रखते हुए विविध और सुदृढ़ प्रदर्शन-लागत ट्रेड-ऑफ की खोज करके मौजूदा विधियों से बेहतर प्रदर्शन करता है।
ZeroUnlearn एक फ्यू-शॉट नॉलेज अनलर्निंग फ्रेमवर्क है जो मॉडल एडिटिंग के माध्यम से इस कार्य को एक सटीक ज्ञान री-मैपिंग समस्या के रूप में पुनर्गठित करता है, जो समग्र मॉडल उपयोगिता को संरक्षित करते हुए संवेदनशील जानकारी को कुशलतापूर्वक हटाने के लिए मल्टीप्लिकेटिव पैरामीटर अपडेट का उपयोग करता है।
यह शोध पत्र LLM एजेंटों में अंतर्निहित ओवर-कॉलिंग बायस (over-calling bias) की पहचान और यांत्रिक रूप से स्पष्टीकरण करता है, जहाँ मॉडल अनावश्यक होने पर भी टूल इनवोकेशन (tool invocation) को प्राथमिकता देते हैं, और यह प्रदर्शित करता है कि कॉल प्रदर्शन से समझौता किए बिना समग्र निर्णय सटीकता में सुधार करने के लिए स्पार्स ऑटोएनकोडर्स (Sparse Autoencoders) का उपयोग करके इस बायस को कारणत्मक रूप से सुधारा जा सकता है।
यह शोध पत्र प्रदर्शित करता है कि जबकि मानक न्यूरल सिम्युलेटर सटीक प्रक्षेपवक्र (ट्रैजेक्टरी) भविष्यवाणियों के बावजूद भौतिक संरक्षण नियमों को बनाए रखने में अक्सर विफल रहते हैं, संरक्षण खोज नेटवर्क (कन्ज़र्वेशन डिस्कवरी नेटवर्क्स) जैसे विशिष्ट आर्किटेक्चर हैमिल्टोनियन प्रक्षेपवक्रों से वैश्विक संरक्षित मात्राओं को सफलतापूर्वक सीख सकते हैं, हालांकि उनका प्रदर्शन टेम्पोरल कंसिस्टेंसी (सामयिक निरंतरता) और प्रारंभिक स्थितियों के साथ संरेखण जैसी प्रशिक्षण रणनीतियों पर महत्वपूर्ण रूप से निर्भर करता है।
यह शोध पत्र यह सिद्ध करता है कि एक्सट्रीमम स्टैक (extremum stack) सभी गणनीय, कारण-आधारित, दर-स्वतंत्र फलन (computable, causal, rate-independent functionals) के लिए एक न्यूनतम पर्याप्त सांख्यिकी (minimal sufficient statistic) के रूप में कार्य करता है, जो यह प्रदर्शित करता है कि इसकी कोलमोगोरोव जटिलता (Kolmogorov complexity) इस वर्ग के भीतर किसी भी प्रश्न का उत्तर देने में सक्षम लघुतम प्रोग्राम के समतुल्य है, जिससे हिस्टेरेसिस-संचालित स्ट्रीम्स (hysteresis-driven streams) के स्टैक-आधारित संपीड़न के लिए एक सैद्धांतिक इष्टतमता स्थापित होती है।
यह शोध पत्र तर्क देता है कि LLM सामाजिक सिमुलेशन से प्राप्त वैज्ञानिक दावे अक्सर कार्यान्वयन के सूक्ष्म विवरणों के प्रति उच्च संवेदनशीलता के कारण कमजोर हो जाते हैं, और यह एजेंट, इंटरेक्शन और सिस्टम स्तरों पर मजबूती ऑडिट को एक अनिवार्य सत्यापन आवश्यकता के रूप में स्थापित करने के लिए TRAILS वर्गीकरण का प्रस्ताव करता है।
यह शोध पत्र यह प्रदर्शित करता है कि अनलर्निंग (unlearning) मूल्यांकनों में "बायपास पैटर्न" (bypass pattern), जहाँ तर्क के निशान (reasoning traces) विस्मृत सामग्री को बनाए रखते हैं जबकि उत्तर अनलर्न (unlearned) प्रतीत होते हैं, छिपे हुए वेट-लेवल मेमोराइजेशन (weight-level memorization) का एक विश्वसनीय संकेतक नहीं है क्योंकि इस घटना को सरल डिकोड-टाइम टेम्पलेट स्वैप (decode-time template swaps) द्वारा दोहराया या उलट दिया जा सकता है, जो भविष्य के ऑडिट के लिए ऐसे स्वैप को एक सैनिटी चेक (sanity check) के रूप में आवश्यक बनाता है।
यह शोध पत्र CAST को प्रस्तुत करता है, जो एक मल्टी-स्केल क्रॉस-अटेंशन ट्रांसफॉर्मर फ्रेमवर्क है जो दो-चरणीय ट्रांसफर लर्निंग रणनीति का उपयोग करके गैर-आक्रामक स्कैल्प रिकॉर्डिंग से अनदेखे विषयों के इंट्राक्रानियल EEG संकेतों के पुनर्निर्माण को सक्षम बनाता है, और न्यूनतम विषय-विशिष्ट अंशांकन (कैलिब्रेशन) के साथ कॉर्टिकल क्षेत्रों में उच्च सहसंबंध प्राप्त करता है।
यह शोध पत्र DiDi-Merging को प्रस्तुत करता है, जो एक कॉम्पैक्ट डायनेमिक मॉडल मर्जिंग फ्रेमवर्क है जो विजन, लैंग्वेज और मल्टीमॉडल कार्यों में मौजूदा तरीकों की तुलना में काफी कम मापदंडों के साथ बेहतर सटीकता-दक्षता ट्रेड-ऑफ प्राप्त करने के लिए डिफरेंशिएबल रैंक एलोकेशन और डेटा-फ्री रिफाइनमेंट का उपयोग करता है।