Personalized Multi-Agent Average Reward TD-Learning via Joint Linear Approximation
이 논문은 이질적인 환경에서 상호작용하는 다중 에이전트가 공유 선형 표현과 국소 헤드를 결합하여 학습함으로써 상충되는 신호를 필터링하고 선형 속도 향상을 달성하는 개인화된 평균 보상 TD 학습의 수렴성을 분석하고 실험을 통해 그 유효성을 입증합니다.
🤖 Category
cs.LG
6899 편의 논문
Embedding interpretable -regression into neural networks for uncovering temporal structure in cell imaging
이 논문은 -규제 벡터 자기회귀 (VAR) 모델을 컨볼루션 오토인코더에 임베딩하여 세포 영상 데이터의 희소 시계열 구조를 해석 가능하게 추출하고, 비희소 공간 정보는 스킵 연결을 통해 분리 처리하는 새로운 딥러닝 프레임워크를 제안합니다.
Interpretable Motion-Attentive Maps: Spatio-Temporally Localizing Concepts in Video Diffusion Transformers
이 논문은 Video Diffusion Transformers 가 텍스트 기반 운동 개념을 어떻게 비디오로 변환하는지 이해하기 위해, 그라디언트 계산 없이 운동과 비운동 개념 모두에 대한 시공간적 국소화 맵을 생성하는 새로운 해석 가능한 방법론 (GramCol 및 IMAP) 을 제안합니다.
CGL: Advancing Continual GUI Learning via Reinforcement Fine-Tuning
이 논문은 SFT 와 RL 의 시너지를 극대화하고 정책 엔트로피 기반의 동적 조정 및 그라디언트 외과 기법을 도입하여 GUI 에이전트의 지속적인 학습 성능을 향상시키고, 이를 평가하기 위한 AndroidControl-CL 벤치마크를 제안하는 CGL 프레임워크를 소개합니다.
Why Adam Can Beat SGD: Second-Moment Normalization Yields Sharper Tails
이 논문은 이차 모멘트 정규화와 정지 시간/마팅겔 분석을 통해, 고확률 수렴에서 Adam 이 신뢰도 파라미터에 대해 의존성을 보이는 반면 SGD 는 적어도 의존성을 갖는다는 이론적 차이를 최초로 증명하여 Adam 의 SGD 대비 우월한 성능을 설명합니다.
Information Routing in Atomistic Foundation Models: How Task Alignment and Equivariance Shape Linear Disentanglement
이 논문은 분자 속성 예측 모델에서 작업 정렬과 대칭성이 표현의 선형 분리성을 어떻게 결정하는지 규명하기 위해 새로운 분석 기법인 CPD 를 제안하고, 작업 정렬이 아키텍처보다 정보 분리 효율에 더 지배적인 영향을 미친다는 사실을 입증합니다.
XInsight: Integrative Stage-Consistent Psychological Counseling Support Agents for Digital Well-Being
이 논문은 웹 기반 디지털 웰빙을 위해 '탐색 - 통찰 - 행동' 치료 패러다임에 부합하는 다중 에이전트 프레임워크인 XInsight 와 이를 평가하기 위한 벤치마크 XInsight-Bench 를 제안하며, 기존 시스템 대비 치료적 일관성, 해석 가능성 및 개입 깊이를 크게 향상시켰음을 보여줍니다.
vLLM Hook v0: A Plug-in for Programming Model Internals on vLLM
이 논문은 vLLM 의 내부 상태를 프로그래밍할 수 있게 하여 적대적 프롬프트 탐지, 향상된 RAG, 활성화 조향 등 다양한 테스트 시간 모델 정렬 및 개선 기법을 가능하게 하는 오픈소스 플러그인 'vLLM Hook'을 제안합니다.
Isotonic Layer: A Universal Framework for Generic Recommendation Debiasing
이 논문은 추천 시스템의 편향을 완화하고 보정 정확도를 향상시키기 위해 신경망 아키텍처에 통합된 미분 가능한 '등적층 (Isotonic Layer)'을 제안하며, 이를 통해 특징 공간의 단조성을 보장하고 컨텍스트별 왜곡을 적응적으로 보정하는 것을 목표로 합니다.
How Attention Sinks Emerge in Large Language Models: An Interpretability Perspective
이 논문은 대규모 언어 모델에서 의미 정보 없이도 입력 시퀀스의 첫 번째 토큰에 집중되는 '어텐션 싱크'가 P0 싱크 회로를 통해 어떻게 형성되고 학습 초기에 두 번째 레이어까지 집중되며 사전 학습 수렴 상태를 추적하는 신호가 될 수 있는지를 규명합니다.
Hierarchical Latent Structures in Data Generation Process Unify Mechanistic Phenomena across Scale
이 논문은 확률적 문맥 자유 문법 (PCFG) 을 기반으로 한 위계적 데이터 생성 과정이 인덕션 헤드, 함수 벡터, 하이드라 효과 등 거대언어모델의 서로 다른 기계적 현상들을 통합적으로 설명하는 핵심 요인임을 이론적 근거와 실험을 통해 규명합니다.
Hierarchical Embedding Fusion for Retrieval-Augmented Code Generation
이 논문은 대규모 코드 저장소의 정보를 고정된 수의 의사 토큰으로 압축하여 지연 시간을 획기적으로 줄이면서도 저장소 수준의 맥락을 유지하는 계층적 임베딩 융합 (HEF) 방식을 제안합니다.
FuzzingRL: Reinforcement Fuzz-Testing for Revealing VLM Failures
이 논문은 퍼징과 강화 학습 미세 조정을 결합하여 시각 언어 모델 (VLM) 이 의도적으로 오답을 내도록 유도하는 질문을 자동 생성함으로써 모델의 취약점을 효과적으로 발견하고 성능을 저하시키는 'FuzzingRL' 방법을 제안합니다.
Switchable Activation Networks
이 논문은 각 신경 단위에 입력에 의존하는 이진 게이트를 도입하여 계산 자원을 적응적으로 할당하면서도 정확도를 유지하는 'SWAN(Switchable Activation Networks)' 프레임워크를 제안함으로써, 기존 효율화 기법의 한계를 극복하고 동적 추론과 경량 배포를 가능하게 하는 새로운 패러다임을 제시합니다.
Khatri-Rao Clustering for Data Summarization
이 논문은 기존 중심점 기반 클러스터링의 중복성을 해결하고 데이터 요약의 간결성과 정확성 간의 균형을 개선하기 위해, 중심점이 두 개 이상의 간결한 프로토중심점 집합의 상호작용에서 비롯된다는 가정을 바탕으로 'Khatri-Rao k-Means' 알고리즘과 'Khatri-Rao 심층 클러스터링' 프레임워크를 제안합니다.
Scale Dependent Data Duplication
이 논문은 모델의 규모가 커질수록 의미적으로 유사한 문서들이 표면적 중복과 유사하게 작용하여 학습에 해로운 영향을 미치고 스케일링 법칙을 왜곡한다는 점을 규명하여, 데이터의 의미적 중복이 모델 성능 예측에 미치는 규모 의존적 영향을 분석하고 이를 보정하는 스케일링 법칙을 제시합니다.
Know When You're Wrong: Aligning Confidence with Correctness for LLM Error Detection
이 논문은 구조화된 태스크의 분류 레이블과 개방형 생성의 자기평가 응답을 기반으로 정규화된 신뢰도 점수를 도입하여 LLM 의 오류와 환각을 외부 검증 없이 탐지하는 프레임워크를 제시하고, 강화학습이 신뢰도를 저하시키는 반면 자기교란을 통한 사후 SFT 가 이를 회복시켜 RAG 시스템의 효율성을 극대화함을 증명합니다.
Structure-Aware Set Transformers: Temporal and Variable-Type Attention Biases for Asynchronous Clinical Time Series
이 논문은 비동기적 임상 시계열 데이터의 구조적 특성을 보존하면서도 효율적인 어텐션 편향을 도입하여 기존 그리드 또는 포인트셋 기반 모델보다 우수한 성능을 보이는 'STAR Set Transformer'를 제안합니다.
LegoNet: Memory Footprint Reduction Through Block Weight Clustering
이 논문은 재학습이나 데이터 없이도 가중치 제거 없이 레고넷 (LegoNet) 이라는 블록 가중치 클러스터링 기법을 통해 ResNet-50 모델의 메모리 사용량을 64 배 이상 줄이고 정확도는 유지하거나 128 배 압축 시 3% 미만의 정확도 손실만 발생하는 방법을 제안합니다.
Multi-Agent DRL for V2X Resource Allocation: Disentangling Challenges and Benchmarking Solutions
이 논문은 C-V2X 무선 자원 할당 문제를 다중 에이전트 강화 학습의 주요 난제를 분리하여 평가할 수 있는 일련의 간섭 게임과 대규모 데이터셋으로 체계화하고, 다양한 차량 토폴로지에서의 정책 견고성과 일반화가 가장 큰 도전 과제임을 규명하며 관련 코드와 벤치마크를 오픈소스로 공개합니다.