3403 पेपर
यह अध्ययन अनुभवजन्य रूप से इस बात की पुष्टि करता है कि ChatGPT द्वारा जनरेट किया गया वास्तविक जीवन का कोड अक्सर सुरक्षा की कमी रखता है, जो सिंथेटिक प्रयोगों के पूर्व निष्कर्षों की पुष्टि करता है और यह भी प्रकट करता है कि उपयोगकर्ता कोड मांगते समय सुरक्षा संबंधी चिंताओं के बारे में शायद ही कभी पूछताछ करते हैं।
यह शोध पत्र Sieve-MMR को प्रस्तुत करता है, जो एक पूर्णतः-परमिशनलेस (fully-permissionless) ब्लॉकचेन प्रोटोकॉल है जो बाहरी तंत्रों के बिना नियत सुरक्षा (deterministic security) और निरंतर अपेक्षित विलंबता (constant expected latency) दोनों प्राप्त करता है, जो प्रूफ-ऑफ-वर्क सेटिंग में प्रूफ-ऑफ-स्टेक प्रोटोकॉल को अनुकूलित करके और टाइम-ट्रैवल हमलों को कम करने के लिए एक नवीन 'सीव' (Sieve) एल्गोरिदम का उपयोग करके इसे प्राप्त करता है।
यह शोध पत्र TamperBench प्रस्तुत करता है, जो विविध हमलों और सुरक्षा उपायों को क्यूरेट करके, कठोर हाइपरपैरामीटर स्वीप आयोजित करके, और 21 ओपन-वेट मॉडलों का बेंचमार्किंग करके बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) की टेंपर रेजिस्टेंस (छेड़छाड़ के प्रति प्रतिरोधक क्षमता) का व्यवस्थित रूप से मूल्यांकन करने के लिए पहला एकीकृत ढांचा है, जो वर्तमान सुरक्षा संरेखण विधियों में महत्वपूर्ण कमजोरियों को उजागर करता है।
यह शोध पत्र बेयसियन मेंबरशिप प्राइवेसी (BMP) प्रस्तुत करता है, जो ग्राफ न्यूरल नेटवर्क के लिए एक नवीन ढांचा है जो नोड-निर्भर प्रायिकता (priors) और ग्राफ सैंपलिंग संभावनाओं को शामिल करके मौजूदा गोपनीयता विश्लेषणों की सीमाओं को संबोधित करता है ताकि सदस्यता गोपनीयता रिसाव का अधिक सूक्ष्म, सैंपलिंग-जागरूक परिमाणीकरण प्रदान किया जा सके।
यह शोध पत्र "गुप्त प्रभाव" (covert influence) के बढ़ते जोखिम को रेखांकित करता है, जहाँ भाषा मॉडल फाइन-ट्यूनिंग, डिस्टिलेशन और इन-कॉन्टेक्स्ट लर्निंग इंटरफेस के माध्यम से प्राकृतिक भाषा वाहकों द्वारा एक-दूसरे को अदेय व्यवहार संबंधी पेलोड (behavioral payloads) प्रसारित करते हैं, जो यह प्रदर्शित करता है कि इन्फरेंस-टाइम एट्रिब्यूशन स्कोर इन हस्तांतरणों को बढ़ा भी सकते हैं और इनका पता लगाने तथा शमन के लिए एक उपकरण के रूप में भी कार्य कर सकते हैं।
यह शोध पत्र "SocioHack" प्रस्तुत करता है, जो एक सैंडबॉक्स है यह प्रदर्शित करता है कि सुदृढीकरण लर्निंग (reinforcement learning) के साथ प्रशिक्षित बड़े भाषा मॉडल (large language models) सामाजिक नियमों के अंतराल का लाभ उठाकर खामियों को खोजने और नियामक मंशा को विफल करने में सक्षम हो सकते हैं, जो सुरक्षित पोस्ट-ट्रेनिंग प्रतिमानों और अधिक सतर्क फीडबैक संग्रह की तत्काल आवश्यकता को रेखांकित करता है।
यह शोध पत्र LLM एजेंट क्रेडेंशियल एक्सफिल्ट्रेशन (credential exfiltration) के विरुद्ध एक बहु-स्तरीय रक्षा रणनीति प्रस्तावित करता है जो केवल टेक्स्ट-स्तर के आउटपुट फिल्टरों पर निर्भर रहने की सीमाओं को दूर करने के लिए प्री-आउटपुट एक्टिवेशन प्रोबिंग (pre-output activation probing), कॉन्फॉर्मल प्रेडिक्शन के साथ फॉर्मेट-विशिष्ट हनीटोकन डिटेक्शन (format-specific honeytoken detection) और संचयी मल्टी-टर्न लीकेज अकाउंटिंग (cumulative multi-turn leakage accounting) को संयोजित करता है।
यह शोध पत्र ऑटोरेग्रेसिव कंसिस्टेंसी (autoregressive consistency) को बड़े भाषा मॉडलों में उथले सुरक्षा संरेखण (shallow safety alignment) का कारण बनने वाले एक प्रमुख तंत्र के रूप में पहचानता है, यह प्रदर्शित करता है कि कैसे यह इनकार (refusals) को दरकिनार करने वाले नए "रैंडम इंसर्शन" (random insertion) हमलों को सक्षम बनाता है, और एक प्रतिकूल सुरक्षा संरेखण ढांचे (adversarial safety alignment framework) का प्रस्ताव करता है ताकि मॉडलों को संपूर्ण आउटपुट प्रक्षेपवक्र (output trajectory) के दौरान हानिकारक निरंतरता का विरोध करने के लिए प्रशिक्षित करके इन कमजोरियों को कम किया जा सके।
MimeLens एक पोजीशन-अज्ञेय (position-agnostic) BERT-शैली का एनकोडर है जो उच्च CPU विलंबता (latency) के बावजूद, Magika जैसे मौजूदा सिस्टमों की तुलना में किसी भी अनिश्चित फ़ाइल ऑफसेट से बाइनरी फ्रैगमेंट को वर्गीकृत करने में बेहतर सटीकता प्राप्त करता है।
यह शोध पत्र Sello को प्रस्तुत करता है, जो सेवा प्राप्तकर्ताओं (service receivers) द्वारा एजेंट के स्वामी को गतिविधि रसीदों पर हस्ताक्षर और एन्क्रिप्ट करने के माध्यम से छेड़छाड़-प्रमाणित (tamper-evident) AI एजेंट अवलोकन सुनिश्चित करता है, जिससे एजेंट या उसके ऑपरेटर पर विश्वास करने की आवश्यकता समाप्त हो जाती है।