3343 पेपर
यह शोध पत्र DDSA को प्रस्तुत करता है, जो एक संसाधन-कुशल प्रतिकूल सुदृढ़ता परीक्षण ढांचा (adversarial robustness testing framework) है जो महत्वपूर्ण फ्रेमों को रणनीतिक रूप से चुनने और एक दोहरे-डोमेन दृष्टिकोण के माध्यम से प्रभावशाली पिक्सेल क्षेत्रों को लक्षित करके वास्तविक समय की इमेज प्रणालियों में कम्प्यूटेशनल उपयोग को अनुकूलित करता है।
यह शोधपत्र एक AI-आधारित ढांचे का प्रस्ताव करता है जो संसाधन-सीमित उपकरणों पर भी IoT पारिस्थितिकी तंत्र में सुरक्षा और विश्वसनीयता बढ़ाने के लिए अनुकूली सेवा प्रावधान हेतु डीप रीइन्फोर्समेंट लर्निंग और वितरित व्यवहारिक फिंगरप्रिंटिंग हेतु फेडरेटेड लर्निंग को जोड़ता है।
यह शोध पत्र अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन के विरुद्ध LLMs की रक्षा करने में एक मौलिक सुरक्षा-फिडेलिटी (security-fidelity) ट्रेडऑफ को उजागर करने के लिए SecFid बेंचमार्क प्रस्तुत करता है, जो यह प्रदर्शित करता है कि वर्तमान बचाव या तो सुरक्षा सुनिश्चित करने के लिए सौहार्दपूर्ण सामग्री को दबा देते हैं या इंजेक्शन को रोकने में विफल रहते हैं, जिससे यह सिद्ध होता है कि मजबूती के लिए केवल सुरक्षा मेट्रिक्स के बजाय संदर्भ-जागरूक तैनाती निर्णयों की आवश्यकता होती है।
यह शोध पत्र "प्रोसेस साइडकार्स" (process sidecars) का परिचय देता है, जो एक दो-गुणांक (two-coefficient) संपादन विधि है जो भाषा मॉडलों से सीखी गई स्मृतियों को सटीक रूप से वापस लेने के लिए भविष्य के सुरक्षा प्रशिक्षण के प्रक्षेपवक्र (trajectory) का लाभ उठाती है, जिससे उन प्रथम-क्रम त्रुटियों (first-order errors) पर विजय प्राप्त होती है जो मूल स्मृति दिशा के विरूपण होने पर साधारण कार्य अंकगणित (naive task arithmetic) में निहित होती हैं।
यह शोधपत्र सर्टिफिकेट-गेटेड प्रीफिक्स एक्सेप्टेंस (CGPA) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो एक विश्वसनीय सत्यापनकर्ता (trusted verifier) को एक कॉन्फॉर्मली कैलिब्रेटेड वैल्यू बाउंड्री के साथ जोड़कर, अविश्वसनीय AI एजेंटों को कठिन-प्रतिबंधित अनुक्रमिक निर्णय लेने की प्रक्रिया में तेजी लाने में सक्षम बनाता है, जिससे सुरक्षा गारंटियों से समझौता किए बिना महत्वपूर्ण गति और शून्य के करीब बाधा उल्लंघन प्राप्त होता है।
यह शोध पत्र पहला बड़े पैमाने पर अनुभवजन्य अध्ययन प्रस्तुत करता है जो यह प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स अपने द्वारा जनरेट किए गए कोड में व्यापक अति-आत्मविश्वास (overconfidence) प्रदर्शित करते हैं, जहाँ कार्यात्मक अंशांकन (functional calibration), सुरक्षा अंशांकन (security calibration) की तुलना में लगातार बदतर होता है, और जबकि अंशांकन-निर्देशित मरम्मत (calibration-guided repair) और आर्किटेक्चरल गेटिंग (architectural gating) सीमित लाभ प्रदान करते हैं, वे अक्सर यथार्थवादी रिपॉजिटरी-स्तरीय संदर्भों में उच्च-विश्वास वाली कमजोरियों को रोकने में विफल रहते हैं।
यह शोध पत्र प्रदर्शित करता है कि फिक्स्ड प्रीफिक्स-विंडो मेमोराइजेशन प्रोब्स (fixed prefix-window memorization probes), गैर-गुप्त या ट्रंकेटेड टोकन प्रभावों के गलत आरोपण द्वारा कैनरी डेटा पर भ्रामक निर्णय दे सकते हैं, और फलस्वरूप, सटीक सीक्रेट-विशिष्टता मूल्यांकन सुनिश्चित करने के लिए फुल-स्पैन एनएलएल (full-span NLL), स्पैन-लोकलाइज्ड डीकंपोजिशन (span-localized decomposition), बिहेवियरल एक्ज़ैक्ट-रिकॉल (behavioral exact-recall), और डिकॉय प्रोब्स (decoy probes) को संयोजित करने वाले एक बहुआयामी मूल्यांकन ढांचे की सिफारिश करता है।
यह शोध पत्र ICLMEM को प्रस्तुत करता है, जो एक ऐसा प्रोबिंग फ्रेमवर्क है जो यह प्रकट करता है कि लार्ज टैबुलर मॉडल्स विशिष्ट, गैर-यथार्थवादी प्रशिक्षण स्थितियों (जैसे कि निश्चित नमूनों के साथ सिंगल-टास्क फाइन-ट्यूनिंग) के तहत मध्यम पैरामीट्रिक मेमोराइजेशन प्रदर्शित करते हैं, हालांकि ये संकेत यथार्थवादी परिदृश्यों में काफी हद तक लुप्त हो जाते हैं।
यह शोध पत्र AI-Infra-Guard को प्रस्तुत करता है, जो एक ओपन-सोर्स फ्रेमवर्क है जो इंफ्रास्ट्रक्चर, प्रोटोकॉल, एजेंट व्यवहार और मॉडल परतों के बीच विशिष्ट कमजोरियों को संबोधित करने के लिए नियत नियम मिलान (deterministic rule matching) से लेकर LLM-संचालित ऑडिटिंग और जेलब्रेक परीक्षण तक—एक अनुकूलित, बहु-स्तरीय रेड टीमिंग दृष्टिकोण लागू करके AI एजेंटों को सुरक्षित करता है।
यह शोध पत्र एआई एजेंट कौशल के लिए एक कॉम्पैक्ट, लोकैलिटी-सेंसिटिव प्रति-घटक फिंगरप्रिंटिंग पद्धति प्रस्तुत करता है जो फिक्स्ड-साइज़ सिग्नेचर उत्पन्न करने के लिए मल्टी-बैंक सिमहैश (SimHash) का उपयोग करता है, जिससे पैराफ्रेसिंग या रिफैक्टरिंग के माध्यम से कौशल वंशावली और संरचनात्मक संबंधों की पहचान करना सक्षम होता है, जबकि स्वतंत्र पुन: कार्यान्वयन (re-implementations) को अलग किया जाता है, और यह सब व्यवहार संबंधी सुरक्षा सत्यापन की आवश्यकता को प्रतिस्थापित किए बिना किया जाता है।