3343 पेपर
यह शोध पत्र एक एकीकृत, सत्यापन-केंद्रित रक्षा ढांचे का प्रस्ताव करता है जो प्रतिकूल हमलों का प्रभावी ढंग से पता लगाने और उन्हें कम करने के लिए उपयोगकर्ता प्रॉम्प्ट के इरादे और मॉडल प्रतिक्रिया की हानि का संयुक्त रूप से मूल्यांकन करता है, जो कई खतरे की श्रेणियों में मौजूदा एकल-पक्षीय रक्षा प्रणालियों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।
यह शोध पत्र क्वेरी ऑप्टिमाइज़र में हार्डवेयर-सॉफ्टवेयर बेमेल की पहचान करके कॉन्फिडेंशियल वर्चुअल मशीनों (CVM) में एनालिटिकल क्वेरीज़ के प्रदर्शन ह्रास को संबोधित करता है और एक हल्का, CVM-जागरूक लागत अंशांकन (cost calibration) प्रस्तावित करता है जो गैर-एन्क्रिप्टेड वातावरण के साथ प्रदर्शन के अंतर को महत्वपूर्ण रूप से कम करता है, जिससे खोए हुए प्रदर्शन का 48% तक पुनः प्राप्त किया जा सकता है।
यह शोध पत्र गूगल की प्राइवेसी सैंडबॉक्स पहल का एक अनुदैर्ध्य विश्लेषण प्रस्तुत करता है, जो यह प्रकट करता है कि सात वर्षों के विकास के बावजूद, इसके एपीआई (APIs) ने 2025 के अंत में अप्रचलित होने से पहले वेब इकोसिस्टम में सीमित और असमान रूप से अपनाए गए थे, जो गोपनीयता और उपयोगिता के बीच संतुलन बनाने की चुनौतियों और ब्राउज़र-आधारित ट्रैकिंग उपचारों में असमानताओं को रेखांकित करता है।
यह शोध पत्र WGPULens को पेश करता है, जो एक व्यापक ढांचा है जो WebGPU के गोपनीयता जोखिमों को प्रकट करता है—विशेष रूप से निरंतर पाइपलाइन संकलन अवस्था (persistent pipeline compilation state) और क्रॉस-एनवायरनमेंट इन्फरेंस के माध्यम से—जबकि यह प्रदर्शित करता है कि वास्तविक दुनिया का उपयोग वर्तमान में बुनियादी जांच तक सीमित है और सतह-विशिष्ट शमन रणनीतियों की आवश्यकता पर प्रकाश डालता है।
ProvenAI एक नया ढांचा पेश करता है जो रिट्रीवल-ऑगमेंटेड क्वेश्चन अनswering में पारदर्शिता को बढ़ाता है, इसे तीन स्वतंत्र रूप से मापने योग्य परतों—उत्तर की शुद्धता, उद्धरण निष्ठा और प्रति-दस्तावेज़ प्रभाव—में विभाजित करके, जो उद्धृत स्रोतों और वास्तव में मॉडल आउटपुट को संचालित करने वाले साक्ष्यों के बीच के महत्वपूर्ण अंतराल को उजागर करता है।
यह शोध पत्र आउट-ऑफ-बैंड एलएलएम (LLM) एजेंट सुरक्षा प्रणालियों के मूल्यांकन के लिए एक संरचित ढांचे का प्रस्ताव करता है, एक अनुकूली हमला प्रोटोकॉल के माध्यम से यह प्रदर्शित करता है कि प्रोजेंट (Progent) प्रणाली एक स्व-होस्ट किए गए एजेंट पर प्रॉम्प्ट इंजेक्शन की सफलता दर को काफी कम कर देती है, और यह तर्क देता है कि इन-बैंड डिटेक्शन की तुलना में नियत बाहरी प्रवर्तन (deterministic external enforcement) अधिक सुदृढ़ सुरक्षा स्थिति प्रदान करता है।
यह सर्वेक्षण टेक्स्ट/LLMs, इमेज क्लासिफायर, विजन-लैंग्वेज मॉडल्स और प्यूरिफिकेशन डिफेसेज़ पर डिफ्यूजन-आधारित हमलों के चार पूर्व में असंबद्ध शोध पथों को एक एकल वैचारिक ढांचे में एकीकृत करता है, जिसमें एक एकीकृत वर्गीकरण, मूल्यांकन मानदंड और LLM डोमेन पर केंद्रित एक महत्वपूर्ण अनुसंधान एजेंडा शामिल है।
यह सर्वेक्षण एलएलएम (LLM) एजेंटों द्वारा इंटरैक्ट किए जाने वाले विभिन्न डेटा स्रोतों को वर्गीकृत करके, बिखरे हुए अनुसंधान डोमेन में जुड़ी कमजोरियों का विश्लेषण करके, और शासन तंत्र एवं बेंचमार्क में महत्वपूर्ण अंतराल की पहचान करके, एलएलएम एजेंटों में गोपनीयता जोखिमों को समझने के लिए एक व्यापक, डेटा-केंद्रित ढांचा प्रदान करता है।
यह शोध पत्र एक LLM-आधारित ऑटोफॉर्मलाइजेशन पाइपलाइन प्रस्तुत करता है जो प्राकृतिक भाषा एजेंट निर्देशों और नीतियों को औपचारिक रूप से सत्यापित सिडर पॉलिसी लैंग्वेज (Cedar Policy Language) कोड में अनुवादित करता है, जो संभाव्य गार्डरेल्स (probabilistic guardrails) और हस्तलिखित प्रतीकात्मक प्रवर्तन (hand-coded symbolic enforcement) दोनों से बेहतर स्केलेबल और कठोर सुरक्षा गारंटी प्रदान करता है।
यह शोध पत्र DroidBreaker को प्रस्तुत करता है, जो एक व्यावहारिक और कार्यात्मक समस्या-स्थान (problem-space) हमला ढांचा है जो सूक्ष्म, बिल्ड-सुरक्षित हेरफेर और एक कठोर अर्थ-संरक्षण परीक्षण का उपयोग करके मौजूदा विधियों की सीमाओं को दूर करता है ताकि मशीन-लर्निंग एंड्रॉइड मैलवेयर डिटेक्टरों के विरुद्ध उच्च बचाव दर प्राप्त की जा सके और साथ ही यह सुनिश्चित किया जा सके कि संशोधित एप्लिकेशन उपयोग योग्य बने रहें।