Defensive Refusal Bias: How Safety Alignment Fails Cyber Defenders
이 논문은 사이버 보안 방어 임무 수행 시 안전성 정렬된 대규모 언어 모델이 공격적 어휘와 유사한 키워드 사용만으로 합법적인 방어 요청을 과도하게 거부하는 '방어적 거부 편향'을 발견하고, 이를 해결하기 위해 단순한 의미 유사성 대신 의도와 권한을 분석하는 새로운 정렬 접근법의 필요성을 제기합니다.
🤖 Category
cs.AI
4322 편의 논문
CARE: Towards Clinical Accountability in Multi-Modal Medical Reasoning with an Evidence-Grounded Agentic Framework
이 논문은 VLM 과 전문 시각 그라운딩 모델을 분해된 에이전트 프레임워크로 결합하여 증거 기반의 단계적 워크플로우를 구현함으로써 의료 다중 모달 추론의 정확성과 임상적 책임성을 크게 향상시킨 'CARE'를 제안합니다.
SEED-SET: Scalable Evolving Experimental Design for System-level Ethical Testing
이 논문은 자율 시스템의 윤리적 정렬을 평가하기 위해 이해관계자의 주관적 가치 판단과 객관적 평가를 계층적 가우시안 프로세스로 통합하고 새로운 획득 전략을 통해 효율적인 테스트 후보를 생성하는 'SEED-SET'이라는 확장 가능한 진화 실험 설계 프레임워크를 제안합니다.
BrandFusion: A Multi-Agent Framework for Seamless Brand Integration in Text-to-Video Generation
이 논문은 텍스트-비디오 생성 모델의 상업적 잠재력을 실현하기 위해, 사용자 의도를 해치지 않으면서 브랜드를 자연스럽게 통합하는 'BrandFusion'이라는 다중 에이전트 프레임워크를 제안하고 그 유효성을 입증합니다.
One Model, Many Skills: Parameter-Efficient Fine-Tuning for Multitask Code Analysis
이 논문은 코드 분석을 위한 단일 모델의 다중 태스크 파라미터 효율적 미세 조정 (PEFT) 을 체계적으로 평가하여, 단일 태스크 미세 조정과 유사한 성능을 유지하면서 저장 공간과 계산 비용을 대폭 절감할 수 있음을 입증하고, 작업 간 상호 보완성 및 모델 아키텍처 등 성공 요인을 규명했습니다.
Explainable LLM Unlearning Through Reasoning
이 논문은 기존 LLM 언러닝 기법의 한계를 극복하고 일반 성능 저하 없이 정확하고 설명 가능한 지식 제거를 실현하기 위해 추론 기반 목표를 활용한 '타겟 추론 언러닝 (TRU)'을 제안하고 그 유효성을 입증합니다.
AraModernBERT: Transtokenized Initialization and Long-Context Encoder Modeling for Arabic
이 논문은 아랍어에 ModernBERT 아키텍처를 적용하고 트랜스토크나이제이션 초기화 및 최대 8,192 토큰의 긴 컨텍스트 모델링을 통해 언어 모델링 성능과 다양한 다운스트림 태스크에서의 전이 능력을 크게 향상시킨 'AraModernBERT'를 제안합니다.
MoE-SpAc: Efficient MoE Inference Based on Speculative Activation Utility in Heterogeneous Edge Scenarios
이 논문은 이기종 엣지 환경에서 MoE 모델의 추론 성능을 향상시키기 위해, 메모리 관리를 위한 정보적 사전 탐색 센서로서 스펙큘레이티브 디코딩을 활용하는 MoE-SpAc 프레임워크를 제안하고, 이를 통해 기존 기법 대비 4.04 배의 속도 향상을 달성했음을 보여줍니다.
The Dunning-Kruger Effect in Large Language Models: An Empirical Study of Confidence Calibration
본 논문은 4 개의 최신 대규모 언어 모델을 대상으로 한 실증 연구를 통해, 성능이 낮은 모델일수록 자신의 능력을 과대평가하는 인간 고유의 '더닝-크루거 효과'와 유사한 과도한 자신감 편향을 보임을 확인하고, 이를 고위험 환경에서의 안전한 LLM 배포에 중요한 시사점으로 제시했습니다.
Quantifying Hallucinations in Language Language Models on Medical Textbooks
이 논문은 의료 교과서 기반 질문응답에서 LLaMA-70B-Instruct 모델의 환각 발생률 (19.7%) 을 측정하고, 환각률이 낮을수록 임상 전문가의 유용성 평가가 높아지는 경향이 있음을 규명했습니다.
Evolving Demonstration Optimization for Chain-of-Thought Feature Transformation
이 논문은 강화학습으로 탐색된 고품질 특성 변환 시퀀스를 기반으로 경험 라이브러리를 진화시키고 다양성 인식 선택기를 통해 컨텍스트를 최적화함으로써, 기존 LLM 기반 특성 변환 방법의 한계를 극복하고 다양한 태블러 데이터셋에서 더 높은 성능과 안정성을 달성하는 새로운 프레임워크를 제안합니다.
Causally Grounded Mechanistic Interpretability for LLMs with Faithful Natural-Language Explanations
이 논문은 GPT-2 Small 의 간접 객체 식별 (IOI) 태스크에서 활성화 패칭을 통해 인과적으로 중요한 어텐션 헤드를 식별하고, 이를 기반으로 생성된 자연어 설명의 충실도를 평가하여 기계적 해석 가능성과 인간이 이해할 수 있는 설명 사이의 간극을 해소하는 파이프라인을 제시합니다.
The System Hallucination Scale (SHS): A Minimal yet Effective Human-Centered Instrument for Evaluating Hallucination-Related Behavior in Large Language Models
이 논문은 대규모 언어 모델의 환각 관련 행동을 사용자 관점에서 신속하고 해석 가능하게 평가하기 위해 기존 심리측정 도구에 영감을 받아 개발된 경량화된 인간 중심 측정 도구인 '시스템 환각 척도 (SHS)'를 제안하고, 210 명을 대상으로 한 실증 평가를 통해 높은 신뢰도와 타당성을 입증했습니다.
A Two-Stage Architecture for NDA Analysis: LLM-based Segmentation and Transformer-based Clause Classification
이 논문은 LLaMA-3.1-8B-Instruct 를 활용한 구문 분할과 Legal-Roberta-Large 를 적용한 조항 분류로 구성된 2 단계 아키텍처를 제안하여, 다양한 형식의 비공개계약서 (NDA) 분석을 자동화하고 높은 정확도를 달성했음을 보여줍니다.
PoultryLeX-Net: Domain-Adaptive Dual-Stream Transformer Architecture for Large-Scale Poultry Stakeholder Modeling
이 논문은 poultry 관련 텍스트의 정서 분석을 위해 도메인 특화 임베딩과 게이트드 크로스 어텐션 메커니즘을 결합한 이중 스트림 트랜스포머 아키텍처인 PoultryLeX-Net 을 제안하며, 기존 모델 대비 97.35% 의 정확도와 99.61% 의 AUC-ROC 를 기록한 우수한 성능을 입증했습니다.
TAMUSA-Chat: A Domain-Adapted Large Language Model Conversational System for Research and Responsible Deployment
이 논문은 기관별 데이터에 맞춰 학습된 대규모 언어 모델 대화 시스템 'TAMUSA-Chat'의 아키텍처, 학습 방법론, 그리고 책임 있는 배포 전략을 제시하며, 학술 기관이 투명성과 거버넌스를 준수하며 전문적인 AI 시스템을 구축할 수 있는 프레임워크를 제안합니다.
CEI: A Benchmark for Evaluating Pragmatic Reasoning in Language Models
이 논문은 화용론적 추론 능력을 평가하기 위해 다양한 상황과 권력 관계를 반영한 300 개의 인간 검증 시나리오로 구성된 '맥락적 정서 추론 (CEI)' 벤치마크를 제안합니다.
Evaluating Adjective-Noun Compositionality in LLMs: Functional vs Representational Perspectives
이 논문은 대형 언어 모델이 형용사 - 명사 조합성을 내부 표현 수준에서는 잘 학습하지만, 실제 기능적 과업 수행에서는 일관된 성공을 보이지 않는다는 괴리를 발견하고, 이를 통해 모델 능력을 종합적으로 이해하기 위해 대비적 평가의 중요성을 강조합니다.
Context Over Compute Human-in-the-Loop Outperforms Iterative Chain-of-Thought Prompting in Interview Answer Quality
이 논문은 50 개의 행동 면접 데이터로 수행된 실험을 통해, 자동화된 체인 오브 씽킹 (Chain-of-Thought) 프롬프팅보다 인간 개입 (Human-in-the-Loop) 방식이 후보자의 자신감과 진정성 향상, 그리고 더 적은 반복 횟수로 더 높은 면접 답변 품질을 달성함을 입증했습니다.
There Are No Silly Questions: Evaluation of Offline LLM Capabilities from a Turkish Perspective
이 논문은 터키어 계승 언어 교육의 맥락에서 데이터 프라이버시와 신뢰성 문제를 해결하기 위해 오프라인 LLM 의 견고성과 교육적 안전성을 평가한 결과, 8B~14B 파라미터 범위의 추론 중심 모델이 비용과 안전성 간의 가장 균형 잡힌 선택임을 밝혔습니다.