11158 पेपर
यह शोध पत्र ज़ीरो-शॉट और फाइन-ट्यूनिंग जैसी तकनीकों के माध्यम से वर्चुअल रियलिटी डिजिटल ह्यूमन्स में सूक्ष्म व्यक्तित्व भरने के लिए लार्ज लैंग्वेज मॉडल्स को एकीकृत करने की विधियों की समीक्षा करता है, जबकि शिक्षा, चिकित्सा और गेमिंग में अनुप्रयोगों को आगे बढ़ाने के लिए विलंबता (लेटेंसी) और मानकीकृत मूल्यांकन ढांचे की आवश्यकता जैसी प्रमुख चुनौतियों का समाधान भी करता है।
यह शोध पत्र एक कुशल प्रगतिशील प्रशिक्षण पद्धति का प्रस्ताव करता है जो एक मॉडल परिवार बनाने के लिए छोटे मॉडलों को बड़े आकार में क्रमिक रूप से विस्तारित करता है, जिससे पारंपरिक स्वतंत्र प्रशिक्षण की तुलना में प्रदर्शन और व्यवहार संबंधी निरंतरता बनाए रखते हुए कुल कम्प्यूटेशनल लागत में लगभग 25% की कमी आती है।
यह शोध पत्र "प्रति-तथ्यात्मक निर्देश अनुपालन" (counterfactual instruction following) के लिए एक बेंचमार्क प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि अत्याधुनिक लार्ज लैंग्वेज मॉडल्स, जिनमें रीजनिंग मॉडल्स भी शामिल हैं, गणितीय तर्क कार्यों में विपरीत प्रदर्शन स्तरों (जैसे कम दक्षता वाले छात्रों) वाली व्यक्तित्वों का अनुकरण करने में मौलिक रूप से संघर्ष करते हैं, जो कि नस्ल जैसे जनसांख्यिकीय गुणों के साथ प्रदर्शन के प्रतिच्छेदन होने पर और भी बढ़ जाता है।
यह शोध पत्र डेंस रिट्रीवल (dense retrieval) के लिए एक तेज़ और प्रभावी अनसुपरवाइज्ड कॉर्पस पॉइज़निंग हमले का प्रस्ताव करता है जो क्वेरी वितरण (query distribution) के पूर्व ज्ञान की आवश्यकता के बिना, प्राकृतिक दिखने वाले एडवरसेरियल दस्तावेज़ उत्पन्न करने के लिए सीधे निरंतर एम्बेडिंग स्पेस (continuous embedding space) में कार्य करता है।
यह शोधपत्र यह प्रदर्शित करके वर्तमान टेक्स्ट सैनिटाइजेशन (पाठ स्वच्छता) विधियों की प्रभावशीलता को चुनौती देता है कि वे गोपनीयता का एक झूठा अहसास प्रदान करते हैं, क्योंकि वे सूक्ष्म अर्थ संबंधी संकेतों और सहायक जानकारी के माध्यम से पुन: पहचान को रोकने में विफल रहते हैं, जिसके लिए अक्सर मजबूत गोपनीयता संरक्षण और डेटा उपयोगिता के बीच एक समझौते की आवश्यकता होती है।
यह शोध पत्र सिंथेटिक क्लिनिकल संवाद डेटासेट के निर्माण, मूल्यांकन और अनुप्रयोग की समीक्षा करता है और डेटा संश्लेषण स्तरों को वर्गीकृत करने के लिए एक नवीन वर्गीकरण (typology) प्रस्तावित करता है, जिसका उद्देश्य स्वास्थ्य सेवा एनएलपी (NLP) कार्यों में उनके प्रभावी उपयोग और सामान्यीकरण के लिए मार्गदर्शन करना है।
यह शोध पत्र "गाइडिंग जायंट्स" (Guiding Giants) को प्रस्तुत करता है, जो एक हल्का, प्रशिक्षित करने योग्य नियंत्रक है जो मूल मॉडल मापदंडों को बदले बिना, इन्फरेंस के समय हानिकारक एलएलएम (LLM) व्यवहारों को कुशलतापूर्वक और अनुकूल रूप से दबाने के लिए इनपुट सामग्री के आधार पर लेयर-विशिष्ट सक्रियण स्टीयरिंग (layer-specific activation steering) को गतिशील रूप से मॉड्यूलेट करता है।
यह शोध पत्र E2H Reasoner का प्रस्ताव करता है, जो एक करिकुलम रिइन्फोर्समेंट लर्निंग पद्धति है जो छोटे भाषा मॉडलों की तर्क करने की क्षमताओं को सुधारने के लिए कार्यों को आसान से कठिन के क्रम में निर्धारित करती है, जो मानक RL दृष्टिकोणों की तुलना में सैद्धांतिक अभिसरण गारंटी और बेहतर प्रदर्शन के अनुभवजन्य साक्ष्य दोनों प्रदान करती है।
यह शोध पत्र SimLens का प्रस्ताव करता है, जो एक प्रशिक्षण-मुक्त अर्ली-एग्जिट (early-exit) विधि है जो स्टार्ट और कैंडिडेट टोकन के साथ एक हल्का वन-टोकन निरंतरता (one-token continuation) निष्पादित करके लार्ज लैंग्वेज मॉडल्स में लेटेंट प्रेडिक्शन सटीकता में सुधार करती है, जिससे SimExit तंत्र न्यूनतम सटीकता हानि के साथ महत्वपूर्ण गति वृद्धि प्राप्त करने में सक्षम होता है।
यह शोध पत्र सोशल टैग्स से समृद्ध 6,300 एनोटेटेड मीम्स के TOXICTAGS डेटासेट का परिचय देता है और STEMTOX का प्रस्ताव करता है, जो एक एंट्रॉपी-गाइडेड मल्टी-टास्क लर्निंग फ्रेमवर्क है जो विजन-लैंग्वेज मॉडल्स का उपयोग करके इन टैग्स के माध्यम से सूक्ष्म-स्तरीय (fine-grained) टॉक्सिक मीम डिटेक्शन में महत्वपूर्ण सुधार करता है।