🤖 AI

An Organization-Scoped LLM Agent Runtime Architecture for Regulated Cybersecurity Operations

यह शोध पत्र विनियमित वित्तीय साइबर सुरक्षा के लिए एक संगठन-स्तरीय, स्थानीय रूप से तैनात करने योग्य LLM एजेंट रनटाइम आर्किटेक्चर प्रस्तावित करता है जो सभी घटकों में एक टाइप किया गया (typed) सुरक्षा संदर्भ (Security Context) लागू करता है, SIEM/XDR सिस्टम को प्राथमिक ट्रिगर्स के रूप में एकीकृत करता है, और गवर्नड टूल एडेप्टर, संरचित निष्कर्षों और टियर्ड ह्यूमन-इन-द-लूप गेट्स के माध्यम से ऑडिटेबिलिटी सुनिश्चित करता है।

George Fatouros, Georgios Makridis, George Kousiouris, John Soldatos, Dimosthenis Kyriazis2026-06-01
💻 computer science

When AI Meets Wall Street: A Survey on Trustworthy AI in Fintech

यह शोध पत्र एक एकीकृत, जीवनचक्र-केंद्रित ढांचे और सत्रह हमले के उपप्रकारों के एक व्यापक वर्गीकरण का प्रस्ताव करके मौजूदा साहित्य के अंतराल को संबोधित करता है ताकि वित्तीय प्रौद्योगिकी पाइपलाइनों के भीतर विश्वसनीय एआई की अनूठी सुरक्षा और सुदृढ़ता संबंधी चुनौतियों का विश्लेषण और शमन किया जा सके।

Qingwen Zeng, Zhenghao Zhao, Yitian Yang, Yiqi Zhu, Fangchen Liu, Zhaoge Bi, Moe Thandar Kyaw Wynn, Kim-Kwang Raymond Ch (…)2026-06-01
🤖 AI

Automatically Attacking Software Reverse Engineering AI Agents

यह शोध पत्र जेनेटिक एल्गोरिदम-आधारित प्रॉम्प्ट जनरेशन का उपयोग करने वाली एक एडवर्सरियल तकनीक प्रस्तुत करता है, जो LLM-संचालित रिवर्स इंजीनियरिंग टूल्स की कमजोरियों का फायदा उठाने के लिए है, यह प्रदर्शित करते हुए कि कैसे हमलावर स्ट्रिंग वेरिएबल्स के माध्यम से गुप्त निर्देश इंजेक्ट कर सकते हैं ताकि AI एजेंटों को बाइनरी एक्जीक्यूटेबल्स की गलत व्याख्या करने और स्वचालित मैलवेयर डिटेक्शन को बायपास करने के लिए भ्रमित किया जा सके।

Brian Crawford, Justin Phillips, Patrick McClure2026-06-01
🤖 AI

Investigating Detection and Obfuscation of Prompt Injection Attacks Against Software Reverse Engineering AI Agents

यह शोध पत्र बाइनरी सोर्स कोड में अंतर्निहित प्रॉम्प्ट इंजेक्शन हमलों के प्रति एजेंटिक सॉफ्टवेयर रिवर्स इंजीनियरिंग सिस्टम की संवेदनशीलता की जांच करता है, और प्रोडक्शन-लेवल साइबर वर्कफ़्लो को सुरक्षित करने के लिए डीकंपाइलर आउटपुट में इन हमलों को अस्पष्ट (obfuscate) करने और उन्हें पहचानने दोनों के लिए विधियों का प्रस्ताव और मूल्यांकन करता है।

Brian Crawford, Patrick McClure2026-06-01
🤖 AI

Depth-Dependent Indirect Prompt Injection in Tool-Calling ReAct Agents: Injection Depth, Payload Framing, and Turn-Budget Sensitivity

यह शोधपत्र चार नियंत्रित अध्ययनों के माध्यम से ReAct एजेंटों में अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन (indirect prompt injection) की जांच करता है, जो यह प्रकट करता है कि इंजेक्शन की गहराई (injection depth) प्रमुख जोखिम कारक है जिसके कारण जैसे-जैसे पेलोड टूल अनुक्रमों (tool sequences) में बाद में आते हैं, हमले की सफलता दर महत्वपूर्ण रूप से घट जाती है, जबकि फ्रेमिंग का प्रभाव नगण्य है और टर्न बजट परिणामों को प्रभावित नहीं करते हैं।

Mohammadreza Rashidi2026-06-01
🤖 AI

Differentially Private Preference Data Synthesis for Large Language Model Alignment

यह शोध पत्र DPPrefSyn को प्रस्तुत करता है, जो DP-PCA के साथ एक निजी ब्रैडली-टेरी मॉडल को सीखकर और उपयोगकर्ता गोपनीयता से समझौता किए बिना मानवीय मूल्यों को बनाए रखने के लिए सार्वजनिक प्रॉम्प्ट्स का लाभ उठाकर, लार्ज लैंग्वेज मॉडल अलाइनमेंट के लिए डिफरेंशियल प्राइवेट सिंथेटिक प्रिफरेंस डेटा उत्पन्न करने वाला पहला फ्रेमवर्क है।

Fengyu Gao, Jing Yang2026-06-01
🤖 machine learning

Send a SCOUT First: Pre-hoc Reasoning for Adaptive Detector Allocation in Prompt-Injection Defense

यह शोधपत्र SCOUT का परिचय देता है, जो एक गतिशील ढांचा (डायनामिक फ्रेमवर्क) है जो अनुमानित विश्वसनीयता और विलंबता (लेटेंसी) के आधार पर विषम डिटेक्टरों (हेटरोजीनियस डिटेक्टर्स) और एलएलएम जजों को अनुकूल रूप से आवंटित करके प्रॉम्प्ट-इंजेक्शन डिफेंस को अनुकूलित करता है, जिससे स्टैटिक सिंगल-डिटेक्टर या ऑलवेज-ऑन जज दृष्टिकोणों की तुलना में हमले की सफलता दर और विलंबता में महत्वपूर्ण कमी आती है।

Shuhao Zhang, Jiarui Li, Qi Cao, Ruiyi Zhang, Pengtao Xie2026-06-01
💬 NLP

LLM Anonymization Against Agentic Re-Identificatio

यह शोध पत्र AURA को प्रस्तुत करता है, जो एक LLM-संचालित मास्क-पुनर्निर्माण ढांचा (mask-reconstruct framework) है, जो डाउनस्ट्रीम विश्लेषण के लिए प्रासंगिक उपयोगिता को संरक्षित करते हुए एजेंटिक वेब-सर्च पुन: पहचान हमलों का अनुकूल रूप से प्रतिरोध करके टेक्स्ट अनामीकरण (text anonymization) के लिए गोपनीयता-उपयोगिता सीमा (privacy-utility frontier) को बढ़ाता है।

Ziwen Li, Jianing Wen, Tianshi Li2026-06-01
💻 computer science

Free-Riding in the AI Economy: Demystifying Logic Flaws in x402-Enabled Payment Systems

यह शोध पत्र x402 प्रोटोकॉल का पहला व्यापक सुरक्षा विश्लेषण प्रस्तुत करता है, जो सिग्नेचर डिज़ाइन अंतराल और रेस कंडीशंस जैसी महत्वपूर्ण कमजोरियों को उजागर करता है जो AI-संचालित भुगतान प्रणालियों में फ्री-राइडिंग और संसाधन रिसाव को सक्षम बनाती हैं, और मशीन-टू-मशीन लेनदेन को सुरक्षित करने के लिए वास्तुशिल्प शमन (architectural mitigations) प्रस्तावित करता है।

Shengchen Ling, Yihang Huang, Yuan Chen, Yajin Zhou, Lei Wu, Cong Wang2026-06-01
💻 computer science

BadBone: Backdoor Attacks Against Backbone Models in Visual Prompt Learning

यह शोध पत्र BadBone को प्रस्तुत करता है, जो एक नवीन बैकडोर हमला है जो द्वि-स्तरीय अनुकूलन (bi-level optimization) के माध्यम से बैकबोन मॉडल से समझौता करता है ताकि केवल प्रॉम्प्ट लर्निंग का उपयोग करने वाले डाउनस्ट्रीम कार्यों को गुप्त रूप से संक्रमित किया जा सके, और यह प्रदर्शित करता है कि मौजूदा अत्याधुनिक रक्षा प्रणालियाँ इस खतरे के विरुद्ध काफी हद तक अप्रभावी हैं।

Ziqing Yang, Rui Wen, Xinlei He, Yun Shen, Michael Backes, Yang Zhang2026-06-01