3542 पेपर
यह शोध पत्र प्रदर्शित करता है कि कैसे बड़े विजुअल लैंग्वेज मॉडल्स द्वारा संचालित एम्बॉडीड एआई (embodied AI), स्वायत्त ड्रोन्स को अपने परिवेश की गतिशील व्याख्या करने और अचानक होने वाली घटनाओं के जवाब में वास्तविक समय में, अनुकूल लैंडिंग निर्णय लेने में सक्षम बनाता है, जिससे पारंपरिक हैंड-कोडेड सुरक्षा नियमों की सीमाओं को पार किया जा सके।
यह शोधपत्र एजेंटिक प्रणालियों का सिस्टम-सुरक्षा के दृष्टिकोण से विश्लेषण करके, प्रमुख अनुसंधान चुनौतियों की पहचान करके और 11 वास्तविक दुनिया के हमले के केस अध्ययनों के परीक्षण के आधार पर नई समस्याओं को परिभाषित करके, एआई सुरक्षा (AI safety) और पारंपरिक साइबर सुरक्षा के बीच के अंतर को पाटता है।
यह शोध पत्र QCL-IDS का प्रस्ताव करता है, जो एक क्वांटम-केंद्रित निरंतर शिक्षण (continual learning) ढांचा है जो सख्त NISQ-युग के संसाधन और गोपनीयता प्रतिबंधों के तहत घुसपैठ का पता लगाने में बेहतर स्थिरता और अनुकूलन क्षमता प्राप्त करने के लिए क्वांटम फिशर एंकर और गोपनीयता-संरक्षण जनरेटिव रिप्ले का उपयोग करता है।
यह शोध पत्र एक व्यापक अनुभवजन्य अध्ययन प्रस्तुत करता है जो यह प्रकट करता है कि विविध परिवारों और आर्किटेक्चर वाले LLM रैंकर्स प्रॉम्प्ट इंजेक्शन हमलों के प्रति काफी संवेदनशील हैं, जबकि यह पहचान करता है कि एनकोडर-डिकोडर मॉडल स्वाभाविक लचीलापन प्रदर्शित करते हैं और इन सुरक्षा जोखिमों की विशिष्ट सीमा स्थितियों को स्पष्ट करता है।
यह शोध पत्र NESSiE का परिचय देता है, जो एक हल्का सुरक्षा बेंचमार्क है और यह प्रदर्शित करता है कि कैसे अत्याधुनिक लार्ज लैंग्वेज मॉडल्स भी सुरक्षा के बजाय सहायक होने के पूर्वाग्रह के कारण बुनियादी सुरक्षा कार्यों में विफल हो जाते हैं, जिससे स्वायत्त एजेंटों के रूप में उनकी तैनाती के लिए महत्वपूर्ण जोखिम उजागर होते हैं।
यह शोध पत्र वाइड-एरिया नेटवर्क पर लार्ज लैंग्वेज मॉडल्स के लिए एक प्राइवेसी-अवेयर स्प्लिट इन्फरेंस सिस्टम प्रस्तुत करता है जो रॉ टोकन्स को स्थानीय रखने के लिए एक एसिमेट्रिक लेयर स्प्लिट को स्पेकुलेटिव लुकअहेड डिकोडिंग के साथ जोड़ता है, जिससे टोकन-आइडेंटिकल आउटपुट, इनवर्जन हमलों के विरुद्ध ट्यूनेबल प्राइवेसी, और न्यूनतम स्थानीय VRAM आवश्यकताओं के साथ 12B पैरामीटर्स तक के मॉडल्स पर उच्च थ्रूपुट प्राप्त होता है।
यह सर्वेक्षण तर्क देता है कि एम्बोडेड (embodied) AI प्रणालियों की सुरक्षा को केवल LLM की कमजोरियों या CPS के दोषों का अलग-अलग विश्लेषण करके पूरी तरह से संबोधित नहीं किया जा सकता है, क्योंकि उनके मौलिक जोखिम एम्बोडिमेंट-प्रेरित सिस्टम-स्तरीय विसंगतियों से उत्पन्न होते जहाँ गैर-रेखीय गतिकी (nonlinear dynamics), त्रुटि प्रसार (error propagation) और गैर-संयोजनकारी सुरक्षा (non-compositional safety) के कारण सिमेंटिक शुद्धता भौतिक सुरक्षा की गारंटी देने में विफल रहती है।
जॉल्ट एटलस (Jolt Atlas) एक ज़ीरो-नॉलेज मशीन लर्निंग फ्रेमवर्क है जो लुकअप आर्गुमेंट्स के माध्यम से ONNX टेंसर ऑपरेशन्स को सीधे सत्यापित करने के लिए जॉल्ट प्रूविंग सिस्टम का विस्तार करता है, जिससे गोपनीयता-केंद्रित और प्रतिकूल अनुप्रयोगों के लिए संक्षिप्त प्रमाणों के साथ मेमोरी-कुशल, ऑन-डिवाइस क्रिप्टोग्राफिक इन्फरेंस सक्षम होता है।
यह शोध पत्र Re:cord-play को प्रस्तुत करता है, जो एक ग्रे-बॉक्स ऑडिटिंग फ्रेमवर्क है जो डिफरेंशियल प्राइवेसी एल्गोरिदम की आंतरिक स्थिति का निरीक्षण करता है ताकि गोपनीयता उल्लंघन का पता लगाया जा सके और उन्हें झूठा सिद्ध किया जा सके, जिसने सफलतापूर्वक 12 ओपन-सोर्स लाइब्रेरीज़ में 13 बग्स का खुलासा किया है जो उनके सैद्धांतिक गारंटियों से समझौता करते हैं।
यह मानते हुए कि , यह शोध पत्र यह स्थापित करता है कि के लिए गैर-तुच्छ शून्य-ज्ञान तर्कों (जहाँ पूर्णता, सुदृढ़ता और शून्य-ज्ञान त्रुटियों का योग 1 से दूर सीमित है) के अस्तित्व का अर्थ वन-वे फंक्शन्स का अस्तित्व है, जिससे गैर-इंटरैक्टिव और इंटरैक्टिव दोनों सेटिंग्स में उच्च-त्रुटि शासन (high-error regime) के लिए एक महत्वपूर्ण अंतराल समाप्त हो जाता है।