Measuring Privacy vs. Fidelity in Synthetic Social Media Datasets
이 논문은 대형 언어 모델을 활용해 생성된 인스타그램 게시물의 사생활 보호 수준을 재식별 공격을 통해 평가하고, 데이터의 충실도가 높을수록 사생활 유출 위험도 커진다는 트레이드오프 관계를 규명했습니다.
🔒 Category
cs.CR
362 편의 논문
How Effective Are Publicly Accessible Deepfake Detection Tools? A Comparative Evaluation of Open-Source and Free-to-Use Platforms
이 논문은 법 집행 전문가가 수행한 블라인드 평가를 통해 공개된 딥페이크 탐지 도구 6 가지를 비교 분석한 결과, 포렌식 도구는 높은 재현율과 낮은 특이성을 보이고 AI 분류기는 그 반대 패턴을 보이며 인간 평가자가 모든 자동화 도구를 능가하고 인간과 AI 간 불일치 시 인간의 판단이 우세함을 규명했습니다.
Benchmark of Benchmarks: Unpacking Influence and Code Repository Quality in LLM Safety Benchmarks
이 논문은 31 개의 LLM 안전성 벤치마크를 분석하여 학술적 영향력과 코드 품질 간에 유의미한 상관관계가 없으며, 특히 코드 준비도와 윤리적 고려 사항이 현저히 부족함을 밝혀내어 저명 연구자들의 선도적 역할 필요성을 강조합니다.
Beyond Input Guardrails: Reconstructing Cross-Agent Semantic Flows for Execution-Aware Attack Detection
이 논문은 다중 에이전트 시스템의 기존 입력 방어 기법의 한계를 극복하기 위해, 에이전트 간 의미 흐름을 재구성하고 실행 인식 분석을 통해 이상 징후를 포착하는 새로운 프레임워크인 \SysName 을 제안하고 그 유효성을 입증합니다.
Impact of 5G SA Logical Vulnerabilities on UAV Communications: Threat Models and Testbed Evaluation
본 논문은 Open5GS, UERANSIM, Kubernetes 기반의 테스트베드를 통해 5G SA 네트워크의 논리적 취약점이 UAV 통신에 미치는 영향을 분석하고, 다양한 공격 시나리오를 통해 UAV 운영 중단 및 명령 조작 위험을 규명하여 사용자면 격리 및 명령 무결성 보호의 필요성을 강조합니다.
When Denoising Becomes Unsigning: Theoretical and Empirical Analysis of Watermark Fragility Under Diffusion-Based Image Editing
이 논문은 확산 기반 이미지 편집 기술이 고안된 무결성 유지 목적과 달리, 역방향 생성 과정에서 워터마크 신호를 노이즈로 간주하여 제거함으로써 기존 robust 워터마킹 시스템의 무결성을 이론적 및 실증적으로 붕괴시킨다는 점을 규명하고, 이에 대한 윤리적 함의와 새로운 설계 지침을 제시합니다.
Efficient Privacy-Preserving Sparse Matrix-Vector Multiplication Using Homomorphic Encryption
이 논문은 동형 암호화를 활용한 효율적인 희소 행렬 - 벡터 곱셈을 위해 압축된 희소 정렬 열 (CSSC) 형식을 도입하여 연산 효율성과 데이터 프라이버시를 동시에 해결하는 최초의 프레임워크를 제안하고 있습니다.
ShieldBypass: On the Persistence of Impedance Leakage Beyond EM Shielding
이 논문은 전자기 차폐가 수동적 방출을 억제하더라도, 외부 RF 신호를 주입하여 반사파를 분석하는 능동적 임피던스 누출 공격을 통해 차폐된 시스템에서도 실행 상태에 따른 정보가 유출될 수 있음을 실험적으로 증명합니다.
Osmosis Distillation: Model Hijacking with the Fewest Samples
이 논문은 데이터 증류로 생성된 합성 데이터셋을 이용한 전이 학습에서 소수의 독성 샘플만으로 원본 작업의 성능을 유지하면서 숨겨진 작업을 수행하도록 모델을 장악하는 새로운 '삼투 증류 (Osmosis Distillation)' 공격을 제안하고 그 위험성을 경고합니다.
AgentSCOPE: Evaluating Contextual Privacy Across Agentic Workflows
이 논문은 에이전트 시스템의 프라이버시 위험이 최종 출력뿐만 아니라 파이프라인 내 모든 정보 흐름 단계에서 발생할 수 있음을 지적하며, 이를 평가하기 위해 '프라이버시 흐름 그래프' 프레임워크와 62 가지 시나리오로 구성된 'AgentSCOPE' 벤치마크를 제안하고, 실제 평가에서 대부분의 위반이 도구 응답 단계에서 발생하여 기존 출력 중심 평가가 위험을 과소평가함을 입증합니다.
EVMbench: Evaluating AI Agents on Smart Contract Security
이 논문은 117 개의 취약점을 기반으로 스마트 계약의 취약점 탐지, 수정 및 악용 능력을 평가하는 벤치마크인 'EVMbench'를 소개하고, 최첨단 AI 에이전트들이 실제 블록체인 환경에서 취약점을 종단 간으로 발견하고 악용할 수 있음을 입증합니다.
Modification to Fully Homomorphic Modified Rivest Scheme
이 논문은 완전 동형 암호화 방식인 FHMRS 의 보안 취약점을 분석하고 이를 완화하기 위한 수정된 방식 (mFHMRS) 을 제안합니다.
A Practical Post-Quantum Distributed Ledger Protocol for Financial Institutions
이 논문은 금융 기관의 프라이버시 요구사항과 감사 가능성을 충족시키기 위해, 기존 링-CT 모델의 한계를 극복하고 영지식 증명 및 새로운 컴팩트 범위 증명을 활용한 포스트 양자 격자 기반의 효율적이고 공개적으로 검증 가능한 분산 원장 프로토콜을 제안합니다.
Good-Enough LLM Obfuscation (GELO)
이 논문은 TEE 에서 매 배치마다 무작위 행렬을 사용하여 은닉 상태를 혼합하고 복원하는 경량 프로토콜 GELO 를 제안함으로써, 공유 가속기 환경에서 KV 캐시 및 은닉 상태 관찰로 인한 프롬프트 프라이버시 위협을 해결하면서도 상호작용 추론 속도를 유지합니다.
Cyber Threat Intelligence for Artificial Intelligence Systems
이 논문은 인공지능 시스템의 고유한 취약점과 공격 벡터를 분석하여 기존 사이버 위협 인텔리전스 프레임워크의 한계를 지적하고, AI 공급망 전반에 걸친 구체적인 침해 지표와 유사성 측정 기법을 포함한 AI 전용 위협 인텔리전스 체계의 필요성과 방향성을 제시합니다.
Robust Single-message Shuffle Differential Privacy Protocol for Accurate Distribution Estimation
이 논문은 기존 프로토콜이 utility, 메시지 복잡도, 그리고 데이터 중독 공격에 대한 견고성 측면에서 한계를 보인다는 점을 지적하고, 상호 정보량의 더 엄격한 상한을 기반으로 한 최적화된 랜덤라이저와 적응적 평활화를 적용한 기대최대화 (EMAS) 알고리즘을 결합한 단일 메시지 '적응형 셔플러 기반 조각 (ASP)' 프로토콜을 제안하여 순차적 셔플러 모델에서 분포 추정의 정확도와 견고성을 획기적으로 향상시켰음을 보여줍니다.
Lambda-randomization: multi-dimensional randomized response made easy
이 논문은 다차원 무작위 응답 기법의 계산 비용과 정확도 저하 문제를 해결하기 위해, 각 속성별 파라미터와 단위 행렬, 그리고 모든 요소가 1 인 벡터만으로 구성된 '람다 무작위화 (Lambda-randomization)'라는 새로운 프로토콜을 제안합니다.
Volley Revolver: A Novel Matrix-Encoding Method for Privacy-Preserving Neural Networks (Inference)
이 논문은 동형 암호화를 활용한 프라이버시 보호 신경망 추론을 위해 새로운 행렬 인코딩 기법을 제안하고, 이를 MNIST 손글씨 이미지 분류에 적용하여 암호화된 데이터를 클라우드에서 효율적으로 처리하는 방법을 제시합니다.
virtCCA: Virtualized Arm Confidential Compute Architecture with TrustZone
이 논문은 향후 Armv9-A 기반의 CCA 하드웨어가 상용화되기 전까지 기존 Arm 플랫폼의 TrustZone 기능을 활용하여 CCA 사양과 호환되는 가상화 환경인 'virtCCA'를 제안하고, 이를 통해 CVM(기밀 가상 머신) 의 실행 및 격리를 구현하며 수용 가능한 오버헤드 수준을 입증했습니다.
Sample-Optimal Locally Private Hypothesis Selection and the Provable Benefits of Interactivity
이 논문은 상호작용을 활용한 라운드의 알고리즘을 통해 비상호작용 방식의 하한을 깨고, 개의 분포 클래스에 대한 국소적 차분 프라이버시 가설 선택 문제의 최적 샘플 복잡도 를 달성함을 보여줍니다.