Shadow in the Cache: Unveiling and Mitigating Privacy Risks of KV-cache in LLM Inference
본 논문은 LLM 추론의 핵심 요소인 KV 캐시가 민감한 사용자 입력을 복원할 수 있는 심각한 프라이버시 취약점을 노출하고 있음을 최초로 입증하고, 이를 해결하기 위해 모델 정확도와 성능 저하 없이 강력한 보안을 제공하는 경량 방어 메커니즘 'KV-Cloak'을 제안합니다.
🔒 Category
cs.CR
313 편의 논문
Hierarchical Dual-Strategy Unlearning for Biomedical and Healthcare Intelligence Using Imperfect and Privacy-Sensitive Medical Data
이 논문은 불완전하고 민감한 의료 데이터를 기반으로 대규모 언어 모델의 특정 지식을 정밀하게 삭제하면서도 핵심 의료 역량은 유지하기 위해 기하학적 제약과 개념 인식 토큰 개입을 통합한 계층적 이중 전략 언러닝 프레임워크를 제안하고, 이를 통해 높은 망각률과 지식 보존률을 달성함과 동시에 파라미터 수정을 최소화하여 규제 준수 및 윤리적 기준을 충족함을 보여줍니다.
Burn-After-Use for Preventing Data Leakage through a Secure Multi-Tenant Architecture in Enterprise LLM
이 논문은 기업용 LLM 환경에서 데이터 유출을 방지하기 위해 부서 간 격리를 보장하는 안전한 멀티테넌트 아키텍처 (SMTA) 와 사용 후 즉시 소멸되는 'Burn-After-Use'메커니즘을 제안하고, 다양한 공격 시나리오와 실패 조건에 대한 실험을 통해 그 유효성을 입증했습니다.
Beyond Max Tokens: Stealthy Resource Amplification via Tool Calling Chains in LLM Agents
이 논문은 모델 컨텍스트 프로토콜 (MCP) 환경에서 도구 호출 체인을 악용하여 기존 단일 회선 공격의 한계를 넘어, 은밀하게 토큰 소모와 비용을 극대화하는 새로운 형태의 DoS 공격 기법을 제안하고 그 위험성을 입증합니다.
Adversarial Hubness Detector: Detecting Hubness Poisoning in Retrieval-Augmented Generation Systems
이 논문은 RAG 시스템의 보안 취약점인 허브성 (hubness) 중독을 탐지하기 위해 통계적 분석, 군집 확산 평가, 안정성 테스트 등을 통합한 오픈소스 스캐너 'Hubscan'을 제안하고, 다양한 벤치마크와 실전 데이터에서 높은 탐지 성능을 입증했습니다.
Defensive Refusal Bias: How Safety Alignment Fails Cyber Defenders
이 논문은 사이버 보안 방어 임무 수행 시 안전성 정렬된 대규모 언어 모델이 공격적 어휘와 유사한 키워드 사용만으로 합법적인 방어 요청을 과도하게 거부하는 '방어적 거부 편향'을 발견하고, 이를 해결하기 위해 단순한 의미 유사성 대신 의도와 권한을 분석하는 새로운 정렬 접근법의 필요성을 제기합니다.
Kraken: Higher-order EM Side-Channel Attacks on DNNs in Near and Far Field
이 논문은 기존 CUDA 코어뿐만 아니라 최신 GPU 의 텐서 코어에서도 근거리 물리적 사이드 채널 공격을 통해 DNN 파라미터를 추출할 수 있음을 최초로 증명하고, 100cm 떨어진 원거리에서도 LLM 의 하이퍼파라미터와 가중치가 유출될 수 있음을 보여줍니다.
There Are No Silly Questions: Evaluation of Offline LLM Capabilities from a Turkish Perspective
이 논문은 터키어 계승 언어 교육의 맥락에서 데이터 프라이버시와 신뢰성 문제를 해결하기 위해 오프라인 LLM 의 견고성과 교육적 안전성을 평가한 결과, 8B~14B 파라미터 범위의 추론 중심 모델이 비용과 안전성 간의 가장 균형 잡힌 선택임을 밝혔습니다.
Evaluating Generalization Mechanisms in Autonomous Cyber Attack Agents
이 논문은 NetSecGame 환경에서 IP 주소 재배치와 같은 미세한 변화가 자율 공격 에이전트의 일반화 능력을 어떻게 저해하는지 평가하고, 기존 강화학습 및 적응형 에이전트보다 추론 비용과 투명성 문제가 있음에도 불구하고 프롬프트 기반 사전 훈련 LLM 에이전트가 가장 높은 성공률을 보였음을 밝혔습니다.
Targeted Bit-Flip Attacks on LLM-Based Agents
이 논문은 하드웨어 결함을 악용하여 LLM 기반 에이전트의 최종 출력과 도구 호출을 조작하는 최초의 표적 비트 플립 공격 프레임워크인 'Flip-Agent'를 제안하고, 기존 방법보다 훨씬 효과적인 공격 가능성을 실증합니다.
Where Do Flow Semantics Reside? A Protocol-Native Tabular Pretraining Paradigm for Encrypted Traffic Classification
이 논문은 암호화 트래픽 분류에서 시퀀스 기반 접근법의 한계를 지적하고, 프로토콜 정의 semantics 를 구조적 우선순위로 삼아 학습 가능한 필드만 선별하고 메타데이터를 보존하는 표본 기반 자기지도 학습 모델인 FlowSem-MAE 를 제안하여 적은 레이블 데이터로도 최첨단 성능을 달성함을 보여줍니다.
OAuthHub: Mitigating OAuth Data Overaccess through a Local Data Hub
OAuthHub 는 사용자의 개인 기기를 중개자로 활용하여 OAuth 기반 데이터 공유를 제어하고, 필요한 시점에 맞춰 데이터 접근을 제한함으로써 기존 방식보다 개발 효율성을 높이고 불필요한 데이터 접근을 완화하는 새로운 개발 프레임워크를 제안합니다.
SBOMs into Agentic AIBOMs: Schema Extensions, Agentic Orchestration, and Reproducibility Evaluation
이 논문은 정적 의존성 목록에 그치는 기존 SBOM 을 넘어, 런타임 행동과 환경 변화를 실시간으로 포착하고 정책 기반의 자율적 추론을 통해 취약점 평가의 재현성과 정확성을 향상시키는 '에이전트 기반 AIBOM' 프레임워크를 제안하고 그 유효성을 검증합니다.
Tool Receipts, Not Zero-Knowledge Proofs: Practical Hallucination Detection for AI Agents
이 논문은 암호학적 증명 대신 HMAC 서명이 포함된 도구 실행 영수증과 인도 철학의 인식론적 분류를 활용하여 실시간으로 AI 에이전트의 환각을 탐지하는 경량 프레임워크 'NabaOS'를 제안하며, 기존 방법 대비 낮은 지연 시간과 높은 정확도를 달성함을 보여줍니다.
Building Privacy-and-Security-Focused Federated Learning Infrastructure for Global Multi-Centre Healthcare Research
이 논문은 개인 정보 보호 및 규제 준수를 위해 인증, 권한 부여, 감사 기능을 통합한 새로운 연동 학습 플랫폼 'FLA³'를 제안하고, 이를 다국적 의료 연구에 적용하여 중앙 집중식 학습과 동등한 예측 성능을 유지하면서도 엄격한 거버넌스 제약을 준수할 수 있음을 입증했습니다.
ADVERSA: Measuring Multi-Turn Guardrail Degradation and Judge Reliability in Large Language Models
이 논문은 단일 프롬프트 평가의 한계를 극복하고, 지속적 상호작용 하에서 LLM 의 안전성 저하를 연속적 궤적으로 측정하며 판사 모델의 신뢰성을 핵심 지표로 삼는 자동화된 레드팀링 프레임워크인 ADVERSA 를 제안하고, 이를 통해 선두 모델들 간의 초기 라운드에 집중된 재일브랙 경향과 다양한 실험적 한계들을 규명했습니다.
Why LLMs Fail: A Failure Analysis and Partial Success Measurement for Automated Security Patch Generation
이 논문은 Vul4J 벤치마크를 통해 LLM 이 생성한 보안 패치의 성공률을 분석한 결과, 문법적 오류는 적으나 의미적 오해로 인해 보안 및 기능적 실패율이 높음을 규명하고 이를 정량화하는 보안 복구 점수 (SRS) 를 제안했습니다.
TASER: Task-Aware Spectral Energy Refine for Backdoor Suppression in UAV Swarms Decentralized Federated Learning
이 논문은 UAV 군집의 분산 연합 학습에서 기존 이상치 탐지 기반 방어법의 한계를 극복하기 위해, 공격자가 은닉할수록 두드러지는 그라디언트의 주파수 특성을 분석하여 백도어 작업을 구조적으로 무력화하는 'TASER'라는 새로운 효율적 방어 프레임워크를 제안합니다.
Amnesia: Adversarial Semantic Layer Specific Activation Steering in Large Language Models
이 논문은 기존 안전 장치를 우회하여 오픈 가중치 대규모 언어 모델 (LLM) 이 유해한 콘텐츠를 생성하도록 유도하는 '아메네시아 (Amnesia)'라는 경량화 활성화 공간 적대적 공격 기법을 제안하고 그 유효성을 입증합니다.
Multi-Stream Perturbation Attack: Breaking Safety Alignment of Thinking LLMs Through Concurrent Task Interference
이 논문은 사고 모드 (thinking mode) 를 사용하는 대형 언어 모델의 안전 정렬을 우회하기 위해 단일 프롬프트 내 여러 작업 스트림을 교차시켜 간섭을 유발하는 '멀티스트림 교란 공격'을 제안하고, 이를 통해 주요 모델들에서 높은 공격 성공률과 사고 과정 붕괴를 입증했습니다.