Spatial-TTT: Streaming Visual-based Spatial Intelligence with Test-Time Training
이 논문은 테스트 시간 훈련 (TTT) 을 활용하여 장시간의 비디오 스트리밍에서 공간 정보를 효율적으로 선택, 조직화 및 유지하는 'Spatial-TTT'를 제안하고, 이를 통해 비디오 공간 벤치마크에서 최첨단 성능을 달성했다고 요약할 수 있습니다.
🤖 Category
cs.LG
2315 편의 논문
The Latent Color Subspace: Emergent Order in High-Dimensional Chaos
이 논문은 FLUX.1 모델의 잠재 공간에서 색상 정보가 hue, saturation, lightness 구조로 조직화되어 있음을 규명하고, 이를 기반으로 학습 없이 폐쇄형 수식 조작만으로 색상을 예측하고 제어하는 새로운 방법을 제시합니다.
BEFANA: A Tool for Biodiversity-Ecosystem Functioning Assessment by Network Analysis
BEFANA 는 생태 네트워크의 위상과 역동성 분석, 실험 데이터 기반 모델링, 머신러닝 예측 등을 위해 Python 기반의 인터랙티브 계산 노트북으로 구성된 무료 오픈소스 생태 네트워크 분석 및 시각화 도구입니다.
Efficient Bayesian Updates for Deep Active Learning via Laplace Approximations
이 논문은 라플라스 근사를 기반으로 한 효율적인 베이지안 업데이트를 제안하여 딥러닝 모델의 재학습 없이도 활성 학습에서 데이터 배치의 다양성을 보장하고 재학습과 유사한 성능을 빠르게 달성할 수 있는 새로운 프레임워크를 제시합니다.
Improving Fairness with Ensemble Combination: Margin-Dependent Bounds
이 논문은 개인 및 집단 공정성을 모두 포괄하는 '판별 위험 (discriminative risk)' 지표를 제안하고, 이를 기반으로 마진 의존적 오라클 바운드를 통해 앙상블 조합이 공정성을 이론적으로 보장하며 향상시킬 수 있음을 증명합니다.
An Updated Assessment of Reinforcement Learning for Macro Placement
이 논문은 10nm 미만 기술 노드의 새로운 공개 벤치마크와 강화된 시뮬레이션 어닐링 기반을 활용하여 구글의 'AlphaChip'을 포함한 매크로 배치 강화학습 접근법의 재현성과 한계를 종합적으로 재평가하고, 그 결과와 도구를 공개하여 연구 커뮤니티의 향후 과제를 제시합니다.
Disjunctive Branch-and-Bound for Certifiably Optimal Low-Rank Matrix Completion
이 논문은 기존 휴리스틱 방법론의 한계를 극복하고, 이산적 분기-한계 (disjunctive branch-and-bound) 기법과 새로운 볼록 완화 기법을 통해 저랭크 행렬 완성 문제를 최적성 보장을 갖는 방식으로 해결하는 새로운 접근법을 제시합니다.
Mindstorms in Natural Language-Based Societies of Mind
이 논문은 자연어 기반의 대규모 신경망 '사회'가 상호작용하여 단일 모델의 한계를 극복하고 다양한 AI 과제를 해결하는 '마인드스톰' 개념을 제안하며, 이를 통해 미래 인공지능의 사회적 구조와 경제 원리 등 새로운 연구 과제를 제시합니다.
Riemannian Laplace Approximation with the Fisher Metric
이 논문은 기존 리만 라플라스 근사법의 한계를 지적하고 피셔 계량을 기반으로 데이터가 무한히 많아질 때 정확한 근사가 가능하도록 두 가지 대안 변형을 개발하여 이론적 분석을 확장하고 실험적 개선을 입증합니다.
Large Language Models for Travel Behavior Prediction
본 논문은 제로샷 프롬프팅과 LLM 기반 텍스트 임베딩을 활용한 두 가지 프레임워크를 통해 대규모 언어 모델 (LLM) 이 기존 전통적 모델과 경쟁력 있는 성능으로 이동 행동 예측에 효과적으로 적용될 수 있음을 실증적으로 입증했습니다.
Optimal Transport Aggregation for Distributed Mixture-of-Experts
이 논문은 분산된 데이터에서 각기 독립적으로 학습된 혼합 전문가 (MoE) 모델을 단일 통신 단계로 효율적으로 집계하기 위해 최적 수송 (Optimal Transport) 기반의 새로운 프레임워크를 제안하고, 이를 통해 중앙 집중식 학습과 유사한 성능을 유지하면서 계산 및 통신 비용을 크게 절감하는 방법을 제시합니다.
Communication-Efficient Multimodal Federated Learning: Joint Modality and Client Selection
이 논문은 이질적인 네트워크 환경에서 통신 오버헤드를 20 배 이상 줄이면서도 높은 정확도를 유지하기 위해, 모달리티 인코더와 퓨전 모듈을 분리하고 샤플리 값을 기반으로 모달리티와 클라이언트를 선택하는 통신 효율적인 멀티모달 연방 학습 프레임워크인 'MFedMC'를 제안합니다.
Toward Adaptive Large Language Models Structured Pruning via Hybrid-grained Weight Importance Assessment
이 논문은 구조적 가지치기 시 단일 그레인 의존성의 한계를 극복하고, 미세 및 거시 그레인의 가중치 중요도를 적응적으로 결합한 하이브리드 그레인 가중치 중요도 평가 (HyWIA) 방법을 제안하여 대규모 언어 모델의 성능 저하 없이 효율적인 압축을 가능하게 합니다.
Fast Fishing: Approximating BAIT for Efficient and Scalable Deep Active Image Classification
이 논문은 대규모 데이터셋에서도 계산 효율성을 유지하면서 BAIT 알고리즘의 성능을 발휘할 수 있도록 피셔 정보를 근사화하는 두 가지 방법을 제안하고, 이를 통해 확장 가능한 딥 러닝 활성 학습을 가능하게 합니다.
Explainable machine learning for predicting shellfish toxicity in the Adriatic Sea using long-term monitoring data of HABs
본 연구는 28 년간의 장기 모니터링 데이터를 활용하여 랜덤 포레스트 모델과 SHAP 등의 설명 가능한 머신러닝 기법을 적용해 아드리아해 굴 독성 (DSP) 발생을 예측하고, 주요 원인 종과 환경 요인을 규명하여 조기 경보 시스템 및 지속 가능한 양식업에 기여하는 결과를 도출했습니다.
Exploratory Optimal Stopping: A Singular Control Formulation
이 논문은 확률적 정지 시간을 제어하는 정규화 문제를 특이 제어 문제로 재해석하고, 이를 기반으로 모델 기반 및 모델 없는 강화 학습 알고리즘을 제안하여 고차원 환경에서도 확장 가능한 탐색적 최적 정지 전략을 도출합니다.
Mamba Neural Operator: Who Wins? Transformers vs. State-Space Models for PDEs
이 논문은 PDE(편미분방정식) 해법에서 기존 트랜스포머의 한계를 극복하고 장기 의존성과 연속 동역학을 더 효과적으로 포착하기 위해 구조화된 상태 공간 모델 (SSM) 과 신경 연산자를 통합한 'Mamba Neural Operator(MNO)'를 제안하며, 이를 통해 PDE 작업의 표현력과 정확도를 획기적으로 향상시켰음을 보여줍니다.
EarthquakeNPP: A Benchmark for Earthquake Forecasting with Neural Point Processes
이 논문은 데이터 누수 및 주요 지진 시퀀스 누락 등의 문제를 해결하고 지진학계의 최신 표준을 반영한 'EarthquakeNPP' 벤치마크를 제안하며, 이를 통해 현재 테스트된 5 가지 신경 점 과정 (NPP) 모델이 ETAS 와 같은 기존 지진 예측 모델보다 성능이 떨어졌음을 규명했습니다.
Losing dimensions: Geometric memorization in generative diffusion
이 논문은 확산 모델이 훈련 데이터를 기억하는 과정이 급격한 전환이 아니라 데이터가 부족해질 때 잠재 차원성이 서서히 축소되며 일반화와 완전한 복제 사이의 기하학적 기억 단계를 거친다는 이론을 제시하고 실험적으로 입증합니다.
Enhancing Brain Source Reconstruction by Initializing 3D Neural Networks with Physical Inverse Solutions
이 논문은 물리 기반 역해법으로 초기화를 수행하고 3D 합성곱 U-Net 을 통해 데이터 기반의 공간적 의존성을 학습하는 하이브리드 모델인 3D-PIUNet 을 제안하여, 기존 전통적 방법 및 순차적 딥러닝 접근법보다 뇌 전도 (EEG) 신호의 공간적 정확도를 획기적으로 향상시켰음을 보여줍니다.