25416 पेपर
यह शोध पत्र "एथिक्स टेस्टिंग" (नैतिकता परीक्षण) की नवीन अवधारणा प्रस्तुत करता है, जो एक व्यवस्थित पद्धति है जिसे जनरेटिव एआई प्रणालियों द्वारा उत्पन्न सामग्री के भीतर अनैतिक व्यवहार और बौद्धिक संपदा उल्लंघन जैसे विभिन्न सॉफ्टवेयर नुकसानों को सक्रिय रूप से पहचानने और खोजने के लिए डिज़ाइन किया गया है।
यह शोधपत्र "स्वतःस्फूर्त अनुनय" (स्पोंटेनियस परसुएशन) की अवधारणा प्रस्तुत करता है ताकि यह ऑडिट किया जा सके कि लार्ज लैंग्वेज मॉडल्स रोज़मर्रा की बातचीत के दौरान अनपेक्षित अनुनय रणनीतियों—मुख्य रूप से तर्क और साक्ष्य—का उपयोग कैसे करते हैं, जिसमें यह पाया गया है कि हालांकि एलएलएम (LLMs) मनुष्यों की तुलना में अधिक बार और वस्तुनिष्ठ रूप से अनुनय करते हैं, फिर भी वे लोगों द्वारा उपयोग किए जाने वाले सामाजिक-प्रभाव-आधारित दृष्टिकोणों के बजाय अलग मनोवैज्ञानिक युक्तियों पर निर्भर करते हैं।
यह शोध पत्र "PermaFrost-Attack" को पेश करता है, जो एक नवीन स्टेल्थ प्रीट्रेनिंग सीडिंग (SPS) विधि है जो वेब पर बिखरे हुए अत्यंत सूक्ष्म, सौम्य दिखने वाले ज़हरीले पेलोड को प्रशिक्षण के दौरान अवशोषित करने के लिए बड़े भाषा मॉडलों में सुप्त "लॉजिक लैंडमाइन्स" (तर्क संबंधी बारूद के ढेर) को समाहित करती है, और इन अंतर्निहित कमजोरियों का पता लगाने के लिए ज्यामितीय निदान (जियोमेट्रिक डायग्नोस्टिक्स) के एक समूह का प्रस्ताव देता है।
यह शोध पत्र ESRRSim को प्रस्तुत करता है, जो एक वर्गीकरण-संचालित स्वचालित ढांचा है जिसे जटिल परिदृश्यों और दोहरी-रूब्रिक मूल्यांकनों को उत्पन्न करके लार्ज लैंग्वेज मॉडल्स में "इमर्जेंट स्ट्रैटेजिक रीजनिंग रिस्क" (ESRRs)—जैसे कि धोखेबाजी और इवैल्यूएशन गेमिंग—का व्यवस्थित रूप से मूल्यांकन करने के लिए डिज़ाइन किया गया है।
प्रमुख एआई मॉडलों के एक क्रॉस-कल्चरल ऑडिट से पश्चिमी व्यक्तिवादी मूल्यों की ओर एक व्यवस्थित पूर्वाग्रह का पता चलता है, जो कई गैर-पश्चिमी समाजों के वास्तविक सामूहिकतावादी मानदंडों से काफी भिन्न सलाह प्रदान करता है।
कॉ मैटर (Matter) एक एकीकृत जनरेटिव फ्रेमवर्क का प्रस्ताव करता है जो मानव दृश्य धारणा की नकल करते हुए गति संकेतों और उपस्थिति विशेषताओं को कणों और समूहों में पदानुक्रमित रूप से समूहीकृत करता है, ताकि यादृच्छिक बिंदुओं से लेकर प्राकृतिक RGB वीडियो तक विविध सेटिंग्स में स्वतंत्र रूप से चलने वाली भौतिक संस्थाओं को मजबूती से खंडित और ट्रैक किया जा सके।
यह शोध पत्र दुर्लभ, हानिकारक आउटपुट की संभावना का सटीक अनुमान लगाने के लिए भाषा मॉडलों के "असुरक्षित" (unsafe) संस्करणों का उपयोग करते हुए एक कुशल इम्पोर्टेंस सैंपलिंग (importance sampling) पद्धति का प्रस्ताव करता है, जो पारंपरिक ब्रूट-फोर्स सैंपलिंग की तुलना में टेल रिस्क (tail risks) को मापने का एक अधिक प्रभावी तरीका प्रदान करता है।
यह शोध पत्र एक LLM-संचालित क्लोज्ड-लूप फ्रेमवर्क का प्रस्ताव करता है जो रोबोटों को स्व-निष्पादन और अवलोकन से नए कौशल सीखने और उन्हें एक स्थानीय विधि लाइब्रेरी में समेकित करने में सक्षम बनाता है, जिससे बाहरी LLM इंटरैक्शन पर निर्भरता कम होती है और खुले वातावरण में दक्षता में सुधार होता है।
यह अध्ययन प्रदर्शित करता है कि 3-9B पैरामीटर रेंज वाले इंस्ट्रक्शन-ट्यून्ड ओपन-वेट एलएलएम (LLMs) मौखिक आत्मविश्वास के साइकोमेट्रिक वैधता परीक्षणों में विफल रहते हैं, जो अत्यधिक सीलिंग इफेक्ट्स और मौखिक निश्चितता एवं वास्तविक सटीकता या टोकन-स्तरीय लॉग-प्रोबेबिलिटीज के बीच सहसंबंध की कमी को दर्शाते हैं।
DROL (Dynamic Routing for Offline Reinforcement Learning) एक टॉप-1 डायनेमिक रूटिंग मैकेनिज्म का उपयोग करके वन-स्टेप ऑफलाइन RL एक्टर्स में सुधार करता है जो डेटासेट एक्शन्स को लेटेंट-कंडीशन्ड उम्मीदवारों में से निकटतम के असाइन करता है, जिससे मॉडल को पारंपरिक पॉइंटवाइज एक्सट्रैक्शन द्वारा उत्पन्न संघर्षपूर्ण ग्रेडिएंट्स के बिना स्थानीय पॉलिसी सुधार करने की अनुमति मिलती है।