3761 편의 논문
이 논문은 영차 (Zeroth-order) 최적화가 continual learning 에서의 망각을 완화하는 안정성 이점을 제공하지만 학습 속성 (plasticity) 을 저하시킨다는 점을 규명하고, 이를 해결하기 위해 영차 최적화를 어댑터 모듈에, 1 차 최적화를 분류기에 적용하는 메모리 효율적인 ZO-FC 방법을 제안합니다.
이 논문은 베이지안 관점에서 인-컨텍스트 학습과 활성화 조정이 모두 잠재 개념에 대한 모델의 신념을 변경한다는 통찰을 바탕으로, 두 가지 제어 방법을 통합적으로 설명하고 예측하는 폐쇄형 모델을 제시합니다.
이 논문은 기존 마이크로스케일링 (MX) MAC 설계의 한계를 극복하기 위해 하이브리드 정밀도 확장 가능 축소 트리를 제안하고 SNAX 플랫폼에 통합하여, 다양한 MX 포맷에서 높은 에너지 효율과 처리량을 달성한 NPU 통합 시스템을 제시합니다.
이 논문은 트랜스포머 기반의 생산자 - 정제기 아키텍처와 순환적 개선 방식을 통해 3D 혈관 중심선의 위상적 정확성과 정밀도를 향상시키면서도 파라미터 수를 대폭 줄인 'RefTr' 프레임워크를 제안합니다.
이 논문은 텍스트, 음성, 시각적 단서를 통합하여 대화 중 감정을 인식하는 기존 방법의 한계를 극복하기 위해 고차원 상호작용을 포착하는 '상호작용 다항식 융합 (SPF)'과 경량 최적화를 위한 '파레토 경사 조절기 (PGM)'를 결합한 '크로스-스페이스 시너지 (CSS)' 프레임워크를 제안하고, IEMOCAP 및 MELD 데이터셋에서 기존 방법보다 우수한 정확도와 학습 안정성을 입증했습니다.
이 논문은 단일 도메인 데이터로 학습된 모델이 정보 병목 현상으로 인해 도메인 특징을 완전히 잃어버리는 '도메인 특징 붕괴'가 발생하여 분포 외 (OOD) 검출에 실패한다는 이론적 근거를 제시하고, 사전 학습된 표현을 활용한 도메인 필터링을 통해 이를 해결할 수 있음을 증명합니다.
이 논문은 고도화된 불확실성을 가진 무력 충돌 사망자 수 예측의 한계를 극복하기 위해, 트리 기반 앙상블과 분포 회귀를 결합한 자동화 머신러닝 방식을 통해 점 예측에서 전체 예측 분포 추정으로 전환하고 지역별 모델 통합을 통해 예측 정확도를 입증했습니다.
이 논문은 손실 지형의 곡률 변화와 최적화 과정의 노이즈가 상호작용하여 생성되는 엔트로피 장벽이, 낮은 손실 경로를 연결하면서도 최적화 동역학이 특정 Basin 에 국한되게 하는 모순을 해결한다고 설명합니다.
이 논문은 사이버 위협 정보 (CTI) 도메인을 사례로, 파인튜닝된 대규모 언어 모델 (LLM) 에서 발생할 수 있는 민감 정보 유출을 방지하기 위해 재학습 없이 소량의 예시를 활용한 '프라이버시 정렬' 프레임워크인 CTIGuardian 을 제안하고, 기존 NER 기반 방법보다 우수한 프라이버시와 유용성의 균형을 입증합니다.
이 논문은 비자기수반 연산자의 고유값 문제를 효율적으로 해결하기 위해 고유함수 대신 고유공간을 학습하는 '심층 고유공간 네트워크 (DEN)'를 제안하고, 이를 스테클로프 고유값 문제에 적용하여 이론적 수렴성과 수치적 유효성을 입증합니다.
이 논문은 기존 연구가 단일 밀집 서브그래프를 가정했던 것과 달리, 실제 네트워크에서 흔히 나타나는 여러 개의 밀집 서브그래프가 혼재된 환경에서도 볼록 프로그래밍을 통해 밀집 서브행렬 문제를 다항 시간 내에 해결할 수 있는 충분 조건을 제시하고 실험적으로 검증합니다.
이 논문은 금융 시계열의 잡음과 비정상성 문제를 해결하고 위험 조정 수익을 최적화하기 위해, 학습 가능한 웨이블릿 기반의 다중 스케일 분해와 리스크 인식 정규화를 통해 직접 시장 중립적 롱/숏 포트폴리오를 생성하는 'WaveLSFormer'라는 새로운 트랜스포머 모델을 제안하고 그 우수성을 입증합니다.
이 논문은 타겟 도메인의 텍스트 데이터만으로 대규모 언어 모델 (LLM) 기반 음성 인식 시스템을 적응시키는 과정에서 기존 정렬을 해치지 않도록, 텍스트 복원 (denoising) 태스크를 통해 경량화된 적응 방법을 제안하고 기존 최첨단 방법보다 우수한 성능을 입증합니다.
이 논문은 수직적 확장 (깊이) 에 집중해 온 기존 LLM 접근법의 한계를 넘어, 다중 에이전트 강화학습을 통해 병렬 실행과 확장 가능한 오케스트레이션을 가능하게 하는 'WideSeek-R1'을 제안하여, 4B 파라미터 모델이 671B 단일 에이전트 모델과 comparable 한 성능을 내며 폭넓은 정보 검색 과제를 효과적으로 해결함을 보여줍니다.
이 논문은 양자 저수지 컴퓨터의 고정된 특징 매핑을 활용하여 커널 릿지 회귀 프레임워크 내에서 최적의 측정 연산자를 도출함으로써 예측 오차를 최소화하고, 대규모 큐비트 환경에서 기존 방법보다 효율적인 학습 전략을 제안합니다.
이 논문은 2 차원 고전 시스템에서 3 차원 고전 및 양자 다체 시스템으로 '프로메테우스' 프레임워크를 확장하여, 지도 학습 없이 3 차원 이징 모델의 임계 온도와 임계 지수를 정밀하게 탐지하고 양자 위상 전이 및 무질서한 시스템의 이국적 임계성을 성공적으로 발견했음을 보여줍니다.
이 논문은 사전 학습된 밀집 어텐션 모델을 재학습 없이도 추론 시 희소화 (dilated) 패턴으로 유연하게 전환하면서도 긴 범위의 연결성을 유지하고 정확도 저하를 최소화하는 'RAT+'라는 새로운 아키텍처를 제안합니다.
이 논문은 자기지도학습 음성 모델이 음운론적 특징을 선형 벡터로 인코딩하여 음소 간의 산술 연산 (예: [d]-[t]+[p]=[b]) 이 가능함을 96 개 언어를 대상으로 한 연구를 통해 입증했습니다.
이 논문은 질량 스펙트럼으로부터 분자 구조를 직접 규명하기 위해 제안된 'MSFlow'라는 2 단계 인코더-디코더 흐름 매칭 생성 모델을 소개하며, 기존 최첨단 방법 대비 최대 14 배 향상된 성능으로 스펙트럼의 45% 까지 정확한 분자 표현으로 변환하는 성과를 입증했습니다.
이 논문은 다중 모달 대형 언어 모델의 강화 학습에서 엔트로피 붕괴와 정책 저하를 방지하고 탐색과 활용의 균형을 유지하기 위해 전문가 지식과 희소성 기반 가중치를 결합한 'CalibRL'이라는 제어 가능한 탐색 하이브리드 정책 RLVR 프레임워크를 제안합니다.