22898 पेपर
यह शोध पत्र FedCF प्रस्तुत करता है, जो एक ऐसा ढांचा है जो विनिमय क्षमता (exchangeability) धारणा का लाभ उठाते हुए विविध जनसांख्यिकीय समूहों में न्यायसंगत अनिश्चितता मात्रा निर्धारण (uncertainty quantification) की ऑडिट करने और उसे सुनिश्चित करने के लिए फेडरेटेड लर्निंग सेटिंग में कॉन्फॉर्मल फेयरनेस (Conformal Fairness) का विस्तार करता है।
यह शोध पत्र प्रदर्शित करता है कि लार्ज मल्टीमॉडल मॉडल्स (Large Multimodal Models) में विशिष्ट अटेंशन हेड्स (attention heads), विजुअल रिलेशनल नॉलेज (visual relational knowledge) को मैनिपुलेट करने योग्य "फंक्शन वेक्टर्स" (function vectors) के रूप में एनकोड करते हैं, जिन्हें निकाला जा सकता है, फाइन-ट्यून किया जा सकता है और लीनियरली संयोजित किया जा सकता है ताकि जीरो-शॉट परफॉर्मेंस (zero-shot performance), इन-कॉन्टेक्स्ट लर्निंग (in-context learning) और रिलेशनल रीजनिंग कार्यों पर सामान्यीकरण (generalization) को महत्वपूर्ण रूप से बढ़ाया जा सके।
यह शोध पत्र 2-FWL GNNs की एक चेनिंग प्रक्रिया प्रस्तुत करता है जो गैर-अवकलनीय (non-differentiable) रैंकिंग चरणों के माध्यम से विविक्त संयोजी फीडबैक (discrete combinatorial feedback) को इंजेक्ट करती है, जो स्पार्स, रेगुलर और वास्तविक दुनिया के ग्राफों में कॉम्बिनेटोरियल ग्राफ अलाइनमेंट समस्या को हल करने के लिए पूर्ववर्ती GNN विधियों और एक उचित रूप से इनिशियलाइज़्ड FAQ बेसलाइन दोनों से काफी बेहतर प्रदर्शन करती है।
यह शोध पत्र MAPR प्रस्तुत करता है, जो एक ऐसी विधि है जो रीजनिंग मॉडल्स को उनके अपने रोलआउट सांख्यिकी (जैसे लंबाई और पास-रेट) की भविष्यवाणी करने के लिए प्रशिक्षित करके मेटा-अवेयरनेस (meta-awareness) को सत्यापित करती है, जिससे अनुकूलन योग्य रीजनिंग व्यवहार सक्षम होता है जो गणितीय बेंचमार्क में प्रशिक्षण दक्षता और सटीकता दोनों में महत्वपूर्ण सुधार करता है।
यह शोधपत्र न्यूरल लो-डिस्क्रिपेंसी सीक्वेंस (NeuroLDS) को प्रस्तुत करता है, जो एक नवीन मशीन लर्निंग फ्रेमवर्क है जो शास्त्रीय विधियों की तुलना में बेहतर प्रीफिक्स यूनिफॉर्मिटी के साथ परिमित लो-डिस्क्रिपेंसी सीक्वेंस उत्पन्न करता है, जिससे संख्यात्मक एकीकरण (न्यूमेरिकल इंटीग्रेशन), रोबोट मोशन प्लानिंग और वैज्ञानिक मशीन लर्निंग जैसे अनुप्रयोगों में प्रदर्शन में वृद्धि होती है।
यह शोध पत्र मार्जिन-एडेप्टिव डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन (MADPO) प्रस्तुत करता है, जो एक नवीन विधि है जो DPO लॉस पर इंस्टेंस-लेवल, एडेप्टिव री-वेटिंग लागू करने के लिए रिवॉर्ड मॉडल का लाभ उठाती है, जिससे प्राथमिकता शिक्षण (preference learning) पर स्थिर और सूक्ष्म नियंत्रण प्राप्त करने के लिए फिक्स्ड और बैच-लेवल टेम्परेचर पैरामीटर्स की सीमाओं को दूर किया जा सके और मौजूदा बेसलाइन्स से बेहतर प्रदर्शन किया जा सके।
यह शोध पत्र डोमेन-शिफ्ट-अवेयर कॉन्फॉर्मल प्रेडिक्शन (DS-CP) का प्रस्ताव देता है, जो एक नवीन ढांचा है जो टेस्ट प्रॉम्प्ट्स के साथ अपनी निकटता के आधार पर कैलिब्रेशन सैंपल्स को व्यवस्थित रूप से पुन: भारित (reweighting) करके डोमेन शिफ्ट के तहत लार्ज लैंग्वेज मॉडल्स के लिए अनिश्चितता परिमाणीकरण की विश्वसनीयता को बढ़ाता है, जिससे वैध कवरेज गारंटी सुरक्षित रहते हुए अनुकूलन क्षमता में सुधार होता है।
यह शोध पत्र ओवरपैरामीटराइज्ड इंटरपोलेशन रिजीम में गिब्स और लैंग्विन मोंटे कार्लो एल्गोरिदम के लिए डेटा-डिपेंडेंट जनरलाइजेशन बाउंड्स स्थापित करता है, जो यह प्रदर्शित करता है कि लो-टेम्परेचर जनरलाइजेशन हाई-टेम्परेचर ट्रेनिंग एरर्स द्वारा संकेतित होता है और मानक डेटासेट्स पर सटीक टेस्ट एरर प्रेडिक्शन्स के साथ इन बाउंड्स को मान्य करता है।
यह शोध पत्र GREAT प्रस्तुत करता है, जो एक नवीन ढांचा है जो RLHF मॉडलों में सामान्यीकरण योग्य बैकडोर हमलों को निष्पादित करने के लिए लेटेंट स्पेस क्लस्टरिंग और क्रोधित प्रॉम्प्ट्स के एक क्यूरेटेड डेटासेट के माध्यम से स्वाभाविक, भावना-जागरूक ट्रिगर्स को संश्लेषित करता है, जिससे वे विशिष्ट उपयोगकर्ता उपसमूहों के लिए हानिकारक प्रतिक्रियाएं उत्पन्न करते हैं जबकि गोपनीयता और उपयोगिता बनाए रखते हैं।
यह शोध पत्र बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के इन्फरेंस-टाइम सुरक्षा संरेखण (सेफ्टी अलाइनमेंट) के लिए एक मॉडल-स्वतंत्र, ब्लैक-बॉक्स फ्रेमवर्क प्रस्तावित करता है जो सुरक्षा और उपयोगिता के बीच के समझौते को दो-खिलाड़ी शून्य-योग खेल (टू-प्लेयर ज़ीरो-सम गेम) के रूप में तैयार करता है, जिससे हितधारकों को मॉडल एक्सेस या पुनरप्रशिक्षण की आवश्यकता के बिना रैखिक प्रोग्रामिंग (लीनियर प्रोग्रामिंग) के माध्यम से सुरक्षा बाधाओं को लागू करने में सक्षम बनाया जा सके।