26959 पेपर
EvoPref, ग्रेडिएंट-आधारित विधियों के प्रेफरेंस कोलैप्स (preference collapse) को दूर करने के लिए NSGA-II और LoRA एडेप्टर का उपयोग करते हुए एक मल्टी-ऑब्जेक्टिव इवोल्यूशनरी एल्गोरिदम पेश करता है, जो मानक बेंचमार्क पर प्रतिस्पर्धी गुणवत्ता बनाए रखते हुए काफी अधिक विविध LLM अलाइनमेंट प्राप्त करता है।
यह शोधपत्र QD-LLM को प्रस्तुत करता है, जो एक पैरामीटर-कुशल न्यूरोइवोल्यूशन फ्रेमवर्क है जो फ्रोजन लार्ज लैंग्वेज मॉडल्स को विविध, उच्च-गुणवत्ता वाले आउटपुट की ओर निर्देशित करने के लिए क्वालिटी-डाइवर्सिटी ऑप्टिमाइज़ेशन स्कीम के भीतर कॉम्पैक्ट प्रॉम्प्ट एम्बेडिंग्स को विकसित करता है, जो मॉडल फाइन-ट्यूनिंग की आवश्यकता के बिना कवरेज और डाउनस्ट्रीम उपयोगिता में मौजूदा विधियों से काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र LEAD को प्रस्तुत करता है, जो एक नवीन विधि है जो सुदृढीकरण शिक्षण (reinforcement learning) के दौरान शुद्धता और दक्षता को गतिशील रूप से संतुलित करने के लिए ऑनलाइन, स्व-अनुकूली तंत्रों का उपयोग करती है, जिससे बड़े रीजनिंग मॉडल को विविध गणितीय बेंचमार्क में सटीकता से समझौता किए बिना काफी छोटे चेन-ऑफ-थॉट (Chain-of-Thought) आउटपुट उत्पन्न करने में सक्षम बनाया जा सके।
यह शोध पत्र क्रोनिक रोग प्रबंधन के लिए एक नवीन टू-लूप सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) ढांचे का प्रस्ताव करता है जो नियंत्रण-तक-समय (टाइम-टू-कंट्रोल) को संकुचित करने के उद्देश्य को औपचारिक रूप देता है और नैदानिक क्षमता एवं निष्पादन तीव्रता की बाधाओं को एकीकृत करता है, जो उच्च रक्तचाप और टाइप 2 मधुमेह के सिमुलेशन में मानक दृष्टिकोणों की तुलना में बेहतर प्रदर्शन और सामान्यीकरण प्रदर्शित करता है।
यह शोध पत्र यह पहचान करता है कि वेट ग्रेडिएंट्स (Wgrad) का क्वांटाइजेशन बड़े भाषा मॉडलों के फुल-पाइपलाइन FP4 प्रशिक्षण में अस्थिरता का प्राथमिक कारण है और यह प्रदर्शित करता है कि अभिसरण स्थिरता (convergence stability) को बहाल करने के लिए स्टोकेस्टिक राउंडिंग के बजाय डिटरमिनिस्टिक हेडामार्ड रोटेशन आवश्यक हैं।
यह शोध पत्र CryoSampler को प्रस्तुत करता है, जो एक नवीन विधि है जो सटीक परमाणु संरचनात्मक एंसेम्बल (conformational ensembles) उत्पन्न करने के लिए टेस्ट-टाइम सुपरविजन के माध्यम से कच्चे क्रायो-ईएम (cryo-EM) डेंसिटी मैप्स पर सीधे Boltz-2 जैसे प्री-ट्रेंड स्टैटिक स्ट्रक्चर प्रेडिक्शन मॉडल्स को फाइन-ट्यून करता है, जिससे पारंपरिक दो-चरणीय मॉडल बिल्डिंग को दरकिनार किया जा सके और इन-डोमेन सामान्यीकरण (in-domain generalization) की क्षमता प्रदर्शित की जा सके।
यह शोध पत्र रेट और वर्गीकरण बाधाओं के तहत स्रोत-पुनर्निर्माण युग्मन शक्ति को अधिकतम करने वाले सीमित न्यूनतम एंट्रॉपी युग्मन पर आधारित एक क्रॉस-डोमेन लॉस्य संपीड़न ढांचे का प्रस्ताव करता है, जो सैद्धांतिक विश्लेषण और तंत्रिका प्रयोगों दोनों के माध्यम से यह प्रदर्शित करता है कि उच्च दर वर्गीकरण सटीकता और पुनर्निर्माण गुणवत्ता में सुधार करती है।
यह शोध पत्र सिंथेटिक डेटा उत्पन्न करने के लिए उपयोग किए जाने वाले AI-प्रेरित नियम को सुधारकर विश्वसनीय AI-सूचित प्रायों (priors) के निर्माण के लिए एक रूपरेखा प्रस्तावित करता है, जिससे मॉडल त्रुटि प्रसार को कम किया जा सके, पूर्वाग्रह को घटाया जा सके और डेटा-सीमित सेटिंग्स में अनुमान प्रदर्शन में सुधार किया जा सके।
यह शोधपत्र फ्री एनर्जी मैनिफोल्ड (FEM) को प्रस्तुत करता है, जो एक स्कोर-प्रशिक्षित कंडीशनल एनर्जी मॉडल है जो कंडीशनल फैक्टर्स को एनर्जी लैंडस्केप के रूप में निरूपित करके और मल्टीमॉडल एवं कंपोजिशनल सेटिंग्स में पोस्टीरियर सटीकता में उल्लेखनीय सुधार करने के लिए वैली रेगुलराइजेशन के माध्यम से "मोड-ब्रिज आर्टिफैक्ट" को संबोधित करके हाइब्रिड बायेसियन नेटवर्क में प्रभावी इन्फरेंस को सक्षम बनाता है।
यह शोध पत्र 'मेटाकॉग्निटिव प्रोब' (Metacognitive Probe) को प्रस्तुत करता है, जो एक पांच-कार्य वाला नैदानिक उपकरण है जो पांच अलग-अलग आयामों में LLMs के आत्मविश्वास व्यवहारों का मूल्यांकन करता है ताकि अति-आत्मविश्वास के उन छिपे हुए क्षेत्रों को उजागर किया जा सके जिन्हें एग्रीगेट बेंचमार्क छोड़ देते हैं, जो एक मॉडल की कार्य-विशिष्ट अंशांकन (calibration) और उसकी क्रॉस-टास्क कठिनाई भविष्यवाणी क्षमताओं के बीच 47-अंकों का महत्वपूर्ण विचलन प्रदर्शित करता है।