9623 पेपर
यह शोध पत्र प्रदर्शित करता है कि फ्रंटियर LLMs अपने हिडन स्टेट्स (hidden states) के भीतर कंटेंट-फ्री फिलर टोकन्स पर संरचित, सुपाठ्य बहु-चरणीय तर्क (multi-step reasoning) करते हैं, जो यह प्रकट करता है कि अनसुपरवाइज्ड डिकोडिंग के माध्यम से रेसिडुअल स्ट्रीम (residual stream) की निगरानी तब भी की जा सकती है जब सतह के टोकन्स कोई दृश्यमान चेन-ऑफ-थॉट (chain-of-thought) प्रदान नहीं करते हैं।
यह शोध पत्र एंकोर्ड सेल्फ-प्ले (ASP) का प्रस्ताव करता है, जो एक सुदृढीकरण शिक्षण (reinforcement learning) विधि है जो एक संदर्भ सेट के साथ इसे स्थिर करके जनरेटर-फिक्सर सेल्फ-प्ले के स्वचालित पाठ्यक्रम को स्थिर करती है, जिससे अवास्तविक बग्स की ओर विचलन को रोका जा सकता है और मानक सेल्फ-प्ले की तुलना में विविध बग स्रोतों में कोड मरम्मत प्रदर्शन में महत्वपूर्ण सुधार किया जा सकता है।
यह शोध पत्र 'रिनफोर्समेंट लर्निंग फॉर सिलेक्शन रिवॉर्ड' (RLSR) का प्रस्ताव करता है, जो एक नवीन पोस्ट-ट्रेनिंग अलाइनमेंट फ्रेमवर्क है जो रिस्क-कवरेज कर्व के नीचे के क्षेत्र (AURC) को सीधे लक्षित करके बड़े भाषा मॉडलों को चयनात्मक भविष्यवाणी (selective prediction) के लिए अनुकूलित करता है, जिससे रिस्क-कवरेज ट्रेड-ऑफ में महत्वपूर्ण सुधार होता है और उच्च-जोखिम वाले निर्णय लेने की स्थितियों में विश्वसनीयता बढ़ती है।
यह शोध पत्र मानसिक स्वास्थ्य विकारों के पता लगाने के लिए गैर-सोशल मीडिया फ्री-टेक्स्ट डेटासेट्स की पहली व्यापक व्यवस्थित समीक्षा प्रस्तुत करता है, जो अंग्रेजी भाषा के अवसाद अध्ययनों के वर्तमान प्रभुत्व को प्रकट करता है और अधिक विविध, विश्वसनीय और नैदानिक रूप से प्रासंगिक संसाधन विकसित करने के लिए महत्वपूर्ण अंतराल और अवसरों को रेखांकित करता है।
यह शोध पत्र प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स (LLMs) अपने हिडन स्टेट्स (hidden states) के भीतर उपयोगकर्ता के संप्रेषणात्मक इरादे (communicative intent) को मजबूती से एनकोड करते हैं, जो अक्सर एक रीडआउट लैग (readout lag) के कारण उस पर कार्य करने में विफल रहते हैं जिसे सतही-स्तर के प्रॉम्प्ट्स पर निर्भर रहने के बजाय एक विशिष्ट कॉज़ल दिशा (causal direction) के साथ मॉडल को स्टीयर करके हल किया जा सकता है।
यह अध्ययन प्रदर्शित करता है कि जबकि फार्माकोविजिलेंस में लार्ज लैंग्वेज मॉडल्स के लिए कोई सार्वभौमिक तापमान इष्टतम (temperature optimum) मौजूद नहीं है, एक नवीन एंट्रॉपी-वेटेड एग्रीमेंट और कोसाइन सिमिलरिटी स्कोर (EWACS) मीट्रिक विकसित करने से बेयसियन हाइपरपैरामीटर अनुकूलन (Bayesian hyperparameter optimization) नैरानजो कॉज़ैलिटी असेसमेंट्स के लिए, विशेष रूप से संदिग्ध मामलों के लिए, एलएलएम-विशेषज्ञ सहमति में महत्वपूर्ण सुधार करने में सक्षम होता है।
यह शोध पत्र SelfMem को प्रस्तुत करता है, जो एक स्व-अनुकूलन योग्य मेमोरी फ्रेमवर्क है जो AI एजेंटों को पर्यावरणीय फीडबैक के माध्यम से अपनी स्वयं की मेमोरी रणनीतियों को स्वायत्त रूप से खोजने और परिष्कृत करने में सक्षम बनाता है, जो विविध लॉन्ग-कॉन्टेक्स्ट कार्यों में मौजूदा फिक्स्ड-मेमोरी बेसलाइन्स की तुलना में काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र ProACT को प्रस्तुत करता है, जो एक ब्रेकडाउन-जागरूक ढांचा है जो संवादात्मक एजेंटों को मल्टी-यूज़र सेटिंग्स में सहयोग संबंधी समस्याओं को सक्रिय रूप से पहचानने और उन्हें संबोधित करने में सक्षम बनाता है, साथ ही एक नए बेंचमार्क को भी प्रदर्शित करता है जो रिएक्टिव चैट मॉडल्स की तुलना में हस्तक्षेप की गुणवत्ता और उपयुक्तता में इसके बेहतर प्रदर्शन को दर्शाता है।
यह शोध पत्र EmCom-Diffusion को प्रस्तुत करता है, जो एक जनरेटिव मूल्यांकन ढांचा (generative evaluation framework) है जो संदेशों से इनपुट छवियों को पुनर्गठित करने के लिए एक टेक्स्ट-टू-इमेज डिफ्यूजन मॉडल को फाइनट्यून करके उभरती भाषाओं (emergent languages) के दृश्य प्रतिबिंब को सीधे मापता है, जिससे मौजूदा अप्रत्यक्ष मेट्रिक्स की सीमाओं को दूर किया जा सके।
यह शोध पत्र प्रदर्शित करता है कि एक डिस्क्रिमिनेटिव क्लासिफिकेशन हेड के साथ छोटे भाषा मॉडलों (3B पैरामीटर्स से कम) को फाइन-ट्यून करना लेबल जनरेशन दृष्टिकोणों की तुलना में काफी बेहतर प्रदर्शन करता है, जो मल्टी-चॉइस बेंचमार्क पर अत्याधुनिक परिणाम प्राप्त करता है और बहुत बड़े ज़ीरो-शॉट मॉडलों का मुकाबला करता है।