🔒 Category

cs.CR

3403 पेपर

🤖 machine learning

Bypassing Prompt Guards in Production with Controlled-Release Prompting

यह शोध पत्र "कंट्रोल्ड-रिलीज़ प्रॉम्प्टिंग" (controlled-release prompting) को पेश करता है, जो एक व्यावहारिक हमला है जो प्रॉम्प्ट गार्ड्स को बायपास करने और प्रमुख एआई प्लेटफॉर्म से कॉपीराइट डेटा निकालने के लिए हल्के इनपुट फिल्टरों और लार्ज लैंग्वेज मॉडल्स के बीच संसाधन विषमता का फायदा उठाता है, यह प्रदर्शित करते हुए कि प्रॉम्प्ट फ़िल्टरिंग के लिए सैद्धांतिक असंभवता परिणाम वास्तविक दुनिया की कमजोरियों में बदल जाते हैं।

Jaiden Fairoze, Sanjam Garg, Keewoo Lee, Mingyuan Wang2026-06-04
💻 computer science

WildCode Revisited: A Comprehensive Empirical Study on the Security of LLM-Generated Code

यह अध्ययन अनुभवजन्य रूप से इस बात की पुष्टि करता है कि ChatGPT द्वारा जनरेट किया गया वास्तविक जीवन का कोड अक्सर सुरक्षा की कमी रखता है, जो सिंथेटिक प्रयोगों के पूर्व निष्कर्षों की पुष्टि करता है और यह भी प्रकट करता है कि उपयोगकर्ता कोड मांगते समय सुरक्षा संबंधी चिंताओं के बारे में शायद ही कभी पूछताछ करते हैं।

Kobra Khanmohammadi, Pooria Roy, Raphael Khoury, Abdelwahab Hamou-Lhadj, Wilfried Patrick Konan, Alexander Da Re, Nichol (…)2026-06-04
💻 computer science

Fast Deterministically Safe Proof-of-Work Consensus

यह शोध पत्र Sieve-MMR को प्रस्तुत करता है, जो एक पूर्णतः-परमिशनलेस (fully-permissionless) ब्लॉकचेन प्रोटोकॉल है जो बाहरी तंत्रों के बिना नियत सुरक्षा (deterministic security) और निरंतर अपेक्षित विलंबता (constant expected latency) दोनों प्राप्त करता है, जो प्रूफ-ऑफ-वर्क सेटिंग में प्रूफ-ऑफ-स्टेक प्रोटोकॉल को अनुकूलित करके और टाइम-ट्रैवल हमलों को कम करने के लिए एक नवीन 'सीव' (Sieve) एल्गोरिदम का उपयोग करके इसे प्राप्त करता है।

Ali Farahbakhsh, Giuliano Losa, Youer Pu, Lorenzo Alvisi, Ittay Eyal2026-06-04
🤖 AI

TamperBench: Systematically Stress-Testing LLM Safety Under Fine-Tuning and Tampering

यह शोध पत्र TamperBench प्रस्तुत करता है, जो विविध हमलों और सुरक्षा उपायों को क्यूरेट करके, कठोर हाइपरपैरामीटर स्वीप आयोजित करके, और 21 ओपन-वेट मॉडलों का बेंचमार्किंग करके बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) की टेंपर रेजिस्टेंस (छेड़छाड़ के प्रति प्रतिरोधक क्षमता) का व्यवस्थित रूप से मूल्यांकन करने के लिए पहला एकीकृत ढांचा है, जो वर्तमान सुरक्षा संरेखण विधियों में महत्वपूर्ण कमजोरियों को उजागर करता है।

Saad Hossain, Tom Tseng, Punya Syon Pandey, Samanvay Vajpayee, Matthew Kowal, Nayeema Nonta, Samuel Simko, Stephen Caspe (…)2026-06-04
💻 computer science

Bayesian Membership Privacy for Graph Neural Networks

यह शोध पत्र बेयसियन मेंबरशिप प्राइवेसी (BMP) प्रस्तुत करता है, जो ग्राफ न्यूरल नेटवर्क के लिए एक नवीन ढांचा है जो नोड-निर्भर प्रायिकता (priors) और ग्राफ सैंपलिंग संभावनाओं को शामिल करके मौजूदा गोपनीयता विश्लेषणों की सीमाओं को संबोधित करता है ताकि सदस्यता गोपनीयता रिसाव का अधिक सूक्ष्म, सैंपलिंग-जागरूक परिमाणीकरण प्रदान किया जा सके।

Sinan Yıldırım, Megha Khosla2026-06-04
💻 computer science

Covert Influence Between Language Models

यह शोध पत्र "गुप्त प्रभाव" (covert influence) के बढ़ते जोखिम को रेखांकित करता है, जहाँ भाषा मॉडल फाइन-ट्यूनिंग, डिस्टिलेशन और इन-कॉन्टेक्स्ट लर्निंग इंटरफेस के माध्यम से प्राकृतिक भाषा वाहकों द्वारा एक-दूसरे को अदेय व्यवहार संबंधी पेलोड (behavioral payloads) प्रसारित करते हैं, जो यह प्रदर्शित करता है कि इन्फरेंस-टाइम एट्रिब्यूशन स्कोर इन हस्तांतरणों को बढ़ा भी सकते हैं और इनका पता लगाने तथा शमन के लिए एक उपकरण के रूप में भी कार्य कर सकते हैं।

Avidan Shah, Jay Chooi, Jinghua Ou, Shi Feng2026-06-04
🤖 machine learning

Large Language Models Hack Rewards, and Society

यह शोध पत्र "SocioHack" प्रस्तुत करता है, जो एक सैंडबॉक्स है यह प्रदर्शित करता है कि सुदृढीकरण लर्निंग (reinforcement learning) के साथ प्रशिक्षित बड़े भाषा मॉडल (large language models) सामाजिक नियमों के अंतराल का लाभ उठाकर खामियों को खोजने और नियामक मंशा को विफल करने में सक्षम हो सकते हैं, जो सुरक्षित पोस्ट-ट्रेनिंग प्रतिमानों और अधिक सतर्क फीडबैक संग्रह की तत्काल आवश्यकता को रेखांकित करता है।

Wei Liu, Xinyi Mou, Hanqi Yan, Zhongyu Wei, Yulan He2026-06-04
💻 computer science

Caught in the Act(ivation): Toward Pre-Output and Multi-Turn Detection of Credential Exfiltration by LLM Agents

यह शोध पत्र LLM एजेंट क्रेडेंशियल एक्सफिल्ट्रेशन (credential exfiltration) के विरुद्ध एक बहु-स्तरीय रक्षा रणनीति प्रस्तावित करता है जो केवल टेक्स्ट-स्तर के आउटपुट फिल्टरों पर निर्भर रहने की सीमाओं को दूर करने के लिए प्री-आउटपुट एक्टिवेशन प्रोबिंग (pre-output activation probing), कॉन्फॉर्मल प्रेडिक्शन के साथ फॉर्मेट-विशिष्ट हनीटोकन डिटेक्शन (format-specific honeytoken detection) और संचयी मल्टी-टर्न लीकेज अकाउंटिंग (cumulative multi-turn leakage accounting) को संयोजित करता है।

Kargi Chauhan, Pratibha Revankar2026-06-04
🤖 machine learning

When Autoregressive Consistency Hurts Safety Alignment

यह शोध पत्र ऑटोरेग्रेसिव कंसिस्टेंसी (autoregressive consistency) को बड़े भाषा मॉडलों में उथले सुरक्षा संरेखण (shallow safety alignment) का कारण बनने वाले एक प्रमुख तंत्र के रूप में पहचानता है, यह प्रदर्शित करता है कि कैसे यह इनकार (refusals) को दरकिनार करने वाले नए "रैंडम इंसर्शन" (random insertion) हमलों को सक्षम बनाता है, और एक प्रतिकूल सुरक्षा संरेखण ढांचे (adversarial safety alignment framework) का प्रस्ताव करता है ताकि मॉडलों को संपूर्ण आउटपुट प्रक्षेपवक्र (output trajectory) के दौरान हानिकारक निरंतरता का विरोध करने के लिए प्रशिक्षित करके इन कमजोरियों को कम किया जा सके।

Bochen Lyu, Yiyang Jia, Xiaohao Cai, Zhanxing Zhu2026-06-04
🤖 AI

MimeLens: Position-Agnostic Content-Type Detection for Binary Fragments

MimeLens एक पोजीशन-अज्ञेय (position-agnostic) BERT-शैली का एनकोडर है जो उच्च CPU विलंबता (latency) के बावजूद, Magika जैसे मौजूदा सिस्टमों की तुलना में किसी भी अनिश्चित फ़ाइल ऑफसेट से बाइनरी फ्रैगमेंट को वर्गीकृत करने में बेहतर सटीकता प्राप्त करता है।

Michael J. Bommarito II2026-06-04