💻 computer science

Contrasting Cost-Agnostic and Cost-Sensitive Losses under Limited Model Capacity via $\mathcal H$ -consistency

이 논문은 모델의 용량이 제한된 상황에서 비용 민감 손실 함수를 최적화하는 것이 비용 불가지론적 목적 함수로 학습된 모델을 사후 처리하는 것보다 직접적으로 엄격하게 더 나은 성능을 도출한다는 것을 이론적으로 입증하며, 이를 통해 다운스트림 결정 과업을 학습 과정에 통합하는 것의 경험적 이점을 설명한다.

원저자: Jessica Finocchiaro, Sanket Shah, Milind Tambe

게시일 2026-08-20

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jessica Finocchiaro, Sanket Shah, Milind Tambe

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

머신러닝의 세계에서 컴퓨터는 마치 교과서로 공부하는 학생처럼 사례들을 연구하며 예측을 수행하는 법을 배웁니다. 컴퓨터가 이메일이 스팸인지 아닌지, 혹은 대출 신청자가 우량 고객인지 아닌지를 추측하려고 할 때, 컴퓨터는 자신이 얼마나 틀렸는지를 측정하기 위해 '손실 함수(loss function)'라고 불리는 수학적 규칙을 사용합니다. 수십 년 동안 전문가들 사이에서는 이 규칙을 설정하는 최선의 방법에 대해 조용한 논쟁이 존재해 왔습니다. 한쪽은 컴퓨터가 사건이 발생할 정확한 확률을 예측하는 것과 같은 일반적이고 다목적인 기술을 배우게 한 뒤, 나중에 인간이나 별도의 프로그램이 특정 요구 사항에 따라 최종 결정을 조정해야 한다고 주장합니다. 다른 한쪽은 컴퓨터가 처음부터 틀렸을 때의 구체적인 비용, 예를 들어 피싱 공격을 놓치는 것과 실제 이메일을 차단하여 발생하는 번거로움 사이의 높은 가격 차이를 고려하도록 가르쳐야 한다고 주장합니다. 무한한 데이터와 무제한의 컴퓨팅 파워를 가진 완벽한 세상이라면 두 접근 방식 모두 동일한 결과에 도달할 것입니다. 하지만 현실 세계는 결코 완벽하지 않으며, 컴퓨터는 종종 제한된 자원과 불완전한 모델을 가지고 작업해야 합니다.

이러한 불확실성으로 인해 보스턴 칼리지와 하버드 대학교의 연구진은 컴퓨터의 '두뇌'가 작아서 데이터의 모든 가능한 패턴을 담을 수 없을 때 어떤 일이 발생하는지 조사하기로 했습니다. 그들은 제한된 모델에게 처음부터 특정 비용에 민데하게 반응하도록 가르치는 것이, 일반적인 규칙을 배우게 한 뒤 나중에 수정하는 것보다 실제로 더 나은 결정을 내리는지 알고 싶었습니다. 답을 찾기 위해 그들은 수학적 증명을 구축하고 이를 실제 데이터 세트에 테스트했습니다. 그들의 연구는 엄격하고 피할 수 없는 격차를 드러냈습니다. 모델이 작을 때, 일반적인 예측을 사후 처리(post-process)하려고 시도하는 것은 최선의 결정을 찾는 데 실패하는 경우가 많은 반면, 특정 비용에 민감하도록 훈련된 모델은 성공한다는 것입니다.

연구진은 먼저 최선의 결정을 내리는 방법은 단순한 직선이지만, 기저의 확률을 예측하는 최선의 방법은 곡선 형태의 복잡한 모양인 특정한 시나리오를 구성하며 시작했습니다. 경계선이 직선 도로인 지도를 상상해 보십시오. 작은 단순한 두뇌를 가진 컴퓨터는 직선만을 그릴 수 있을지도 모릅니다. 만약 이 컴퓨터에게 한 지역에 속할 일반적인 확률을 학습하도록 요청한다면, 컴퓨터는 곡선인 현실에 맞추기 위해 최선인 직선을 찾아 수직선을 그릴 것입니다. 그러나 특정 과업을 위한 실제 최선의 결정 경계는 대각선일 수 있습니다. 연구진이 사후에 그 수직선을 아무리 옮기거나 조정하려고 노력하더라도, 그것을 완벽한 결정에 필요한 대각선으로 바꿀 수는 없습니다. 모델 자체가 처음에 올바른 모양을 학습할 능력이 부족했기 때문입니다.

대조적으로, 연구진이 컴퓨터에게 결정의 특정 비용을 직접 고려하도록 가르쳤을 때, 모델은 즉시 그 올바른 대각선을 그려냈습니다. 연구는 이러한 작고 제한된 모델의 경우, '일반적인 규칙 학습 후 조정' 방식은 최선의 결정 수준에 도달하는 것이 수학적으로 불가능하다는 것을 보여주었습니다. 연구진은 최선의 결정 경계가 모델의 역량 범위 내에 존재함에도 불구하고, 일반적인 훈련 방식은 이를 찾아내지 못해 성능의 영구적인 격차를 남기는 상황이 존재함을 증명했습니다.

이론적인 격차가 실제 데이터의 복잡한 현실에서도 존재하는지 확인하기 위해, 연구팀은 학생 성적 및 신용 신청 기록을 포함한 캘리포니아 대학교 어바인(UCI)의 여러 표준 데이터 세트를 사용하여 실험을 수행했습니다. 그들은 서로 다른 방법을 사용하여 이 데이터 세트들에 단순 선형 모델을 훈련시켰습니다. 한 그룹의 모델은 일반적인 규칙을 학습한 뒤 임계값 탐색(threshold search)을 통해 예측을 조정했습니다. 이는 오류를 최소화하기 위해 컷오프 지점을 미세하게 조정하는 흔한 기법입니다. 또 다른 그룹은 과업의 비용에 특화된 규칙을 학습했습니다. 결과는 명확했습니다. 특정 비용 민감 규칙으로 훈련된 모델들이 일반 모델들보다 비용이 많이 드는 실수를 일관되게 적게 범했습니다. 이는 일반 모델들이 임계값을 조정하려고 시도한 후에도 마찬가지였습니다. 특히 더 복적인 다중 카테고리 문제에서 일반 모델들은 임계값을 조정할 때 오히려 성능이 저하되는 모습을 보였습니다.

연구진은 또한 결정 문제를 학습 과정에 직접 번역하여 반영하는 '임베딩(embedding)'이라는 특정 유형의 비용 민감 훈련법을 테스트했습니다. 이 방법은 표준 훈련 규칙의 가중치 적용 버전보다 더 뛰어난 성능을 보였습니다. 비록 이번 연구가 작은 모델에 초점을 맞추었지만, 연구진은 더 크고 복잡한 신경망에 대해서도 테스트를 진행했습니다. 더 큰 모델에서도 비용 민감 방식이 여전히 우수했지만, 두 접근 방식 사이의 격차는 좁혀졌습니다. 이는 강력한 컴퓨터가 때때로 이러한 한계를 극복할 수 있음을 시사하지만, 과업의 특정 비용을 처음부터 모델에 가르치는 것의 이점이 여전히 견고한 발견임을 보여줍니다.

궁극적으로, 이 연구는 해당 분야의 오랜 질문을 명확히 해줍니다. 이는 훈련 목표의 선택이 단순한 기술적 세부 사항이 아니라 최종 결과의 품질에 영향을 미치는 근본적인 결정임을 보여줍니다. 만약 실무자가 제한된 모델을 사용하고 있으며 잘못된 결정에 따르는 비용을 명확히 이해하고 있다면, 이 연구는 해당 비용을 훈련 과정에 직접 포함시켜야 한다는 강력한 근거를 제공합니다. 일반적인 모델에 의존하고 나중에 수정하기를 기대하는 전략은 많은 실제 시나리오에서 성능을 제대로 발휘하지 못할 것입니다. 이 연구 결과는 엣지 디바이스부터 고빈도 매매에 이르기까지, 잘못된 결정의 비용이 높고 모델의 용량이 제한적인 환경에서 작업하는 개발자들에게 명확한 길을 제시합니다.

기술 요약: 제한된 모델 용량 하에서의 H-일관성을 통한 비용 불가지론적 손실과 비용 민감적 손실의 대조

문제 정의
머신러닝에서, 실무자들이 일반적인 비용 불가지론적 목적 함수(예: 크로스 엔트로피)를 사용하여 모델을 학습시킨 후 특정 결정 과업을 위해 사후 처리(예: 임계값 설정)를 적용해야 하는지, 아니면 다운스트림 결정 과업을 비용 민감적 손실 함수를 통해 훈련 목적 함수에 직접 포함시켜야 하는지에 대한 오랜 논쟁이 존재한다. 이러한 접근 방식들은 무한한 데이터와 무한한 모델 용량을 가진 이상적인 설정에서는 통계적으로 동일하지만, 경험적 증거는 비용 민감적 훈련이 실제 적용 시 특정 과업 성능을 더 잘 향상시킨다는 것을 시사한다. 그러나 이러한 격차에 대한 이론적 근거는 특히 제한된 모델 용량 환경에서 엄밀하게 규명되지 않았다.

본 논문은 다음 두 가지 사이의 엄격한 성능 격차가 발생하는 조건에 대해 조사한다:

비용 불가지론적 접근법 (Cost-Agnostic Approach): 일반적인 대리 손실 $L_{ag}$ (예: 크로스 엔트로피)로 훈련한 후 링크 함수(예: 임계값 설정)에 대한 탐색을 수행함.
비용 민감적 접근법 (Cost-Sensitive Approach): 별도의 임계값 탐색을 요구하지 않고, 타겟 비용 행렬 $\ell$ 과 정렬되도록 설계된 대리 손실 $L_{cs}$ 로 훈련함.

저자들은 모델 클래스 $\mathcal{H}$ 가 "작은"(제한된 용량) 상황, 즉 최적의 비용 민감적 결정 경계(decision boundary)를 포함할 만큼은 풍부하지만, 전체 조건부 레이블 분포 $p(x)$ 를 예측하는 가설을 포함할 만큼은 풍부하지 않은 상황에 초점을 맞춘다.

방법론 및 이론적 프레임워크
본 논문은 가설 클래스 $\mathcal{H}$ 상에서 대리 손실을 최소화하는 것과 타겟 이산 손실 $\ell$ 을 최소화하는 것 사이의 관계를 분석하기 위해 H-일관성(H-consistency) 프레임워크를 활용한다.

H-일관성: 대리 함수 $L$ 과 링크 함수 $\psi$ 는 $\mathcal{H}$ 상에서 기대 대리 손실을 최소화하는 것이 기대 타겟 손실을 최소화함을 의미할 때 $H$ -일관적이라고 한다.
동기 부여 반례 (예시 1): 저자들은 이진 분류 시나리오를 구성한다. 여기서 최적의 비용 민감적 결정 경계는 선형이지만 그 기울기는 비용 파라미터 $\alpha$ $α$ 에 의존한다. 그러나 크로스 엔트로피를 최소화하는 최적의 비용 불가지론적 선형 분류기는 $\alpha$ $α$ 와 무관한 수직 등고선을 생성한다.
- 핵심 통찰: 사후 처리(임계값 설정)는 학습된 모델의 등고선을 따라 결정 경계를 이동시킬 수는 있지만, 기울기를 변경할 수는 없다. 따라서 만약 최적의 비용 민감적 경계가 비용 불가지론적 경계와 다른 기울기를 필요로 한다면, 설령 최적의 경계가 모델 클래스의 기하학적 역량 내에 존재하더라도 임계값 설정만으로는 최적의 결정을 복구할 수 없다.
대리 함수 유형 분석:
1. 비용 불가지론적 대리 함수 (예: 크로스 엔트로피): 본 논문은 선형 모델( $\mathcal{H}_{lin}$ )에 대해, 비용 불가지론적 대리 함수와 임계값 탐색의 조합이 비용 민감적 과업에 대해 $H$ -일관적이지 않음을 증명한다 (정리 6). 이는 결정 경계의 기울기가 서로 다를 때 발생한다.
2. 임베딩 (Embeddings): 저자들은 비용 행렬 $\ell$ 로부터 직접 구성된 피스 와이즈 선형(piecewise linear) 및 볼록(convex) 대리 함수 클래스인 "임베딩"(Finocchiaro et al., 2024)을 분석한다. $P$ -최소화 가능성(optimal decision boundary가 $\mathcal{H}$ 에 존재함)과 $\mathcal{H}$ 의 근사적 폐쇄성(approximate closure) 가정 하에, 임베딩은 $H$ -일관적임이 증명된다 (정리 9). 이들은 최적의 결정 속성을 "거의 직접적으로 유도(almost directly elicit)"한다.
3. 적절한 스코어링 규칙의 가중 유사체 (예: 가중 크로스 엔트로피): 본 논문은 가중 버전의 표준 손실 함수들을 검토한다. 이러한 손실들이 강한 가정(파라미터 공간의 볼록성 및 경계를 달성하는 가설의 최적성) 하에서 $H$ -일치성을 달성할 수 있지만, 저자들은 반례(명제 11)를 통해 이러한 조건들이 일반적으로 충족되지 않음을 보여준다. 결과적으로 가중 유사체들은 종종 $H$ -일관성을 달성하는 데 실패한다.

주요 기여

이론적 격차 확립: 본 논문은 제한된 모델 용량 설정에서 비용 민감적 접근법과 비용 불가지론적 접근법 사이에 엄격한 이론적 격차가 존재함을 확립한다. 대리 함수의 최적 가설과 타겟의 최적 가설 사이의 불일치로 인해, 최적의 결정 경계가 모델 클래스에 의해 표현 가능함에도 불구하고 비용 불가지론적 대리 함수가 이를 학습하는 데 실패할 수 있음을 보여준다.
사후 처리의 한계: "영리한" 사후 처리(예: 임계값 탐색)가 학습된 모델의 결정 등고선(예: 선형 크로스 엔트로피의 수직선)이 최적의 비용 민감적 경계의 기하학적 구조와 일치하지 않을 경우, 최적의 결정을 복구하기에 불충분함을 공식적으로 보여준다.
임베딩의 H-일관성: 저자들은 비용 민감적 임베딩이 완만한 분포 가정 하에서 $H$ -일관적임을 증명하여, 소규모 모델에서의 사용에 대한 이론적 보증을 제공한다.
가중 유사체를 위한 조건: 본 논문은 가중 유사체가 $H$ -일관적이기 위해 필요한 구체적이고 흔히 충족되지 않는 조건들(가정 3 및 4)을 식별하며, 이를 통해 임베딩에 비해 이들의 취약성을 강조한다.

실험 결과
저자들은 선형 모델과 작은 신경망을 사용하여 합성 데이터와 UCI 저장소의 실제 데이터셋(German Credit, Student Performance, Diabetes)에 대해 이론적 발견을 검증한다.

성능 격차: 비용 민감적 대리 함수(특히 임베딩 및 가중 크로스 엔트로피)는 사후 처리가 결합된 비용 불가지론적 대리 함수(크로스 엔트로피)보다 비용 민감적 손실 지표에 대해 평가했을 때 일관되게 더 나은 성능을 보인다.
임베딩의 우수성: 임베딩은 일반적으로 가중 크로스 엔트로피보다 우수한 성능을 보이는데, 이는 가중 유사체는 $H$ -일관성이 보장되지 않는 반면 임베딩은 $H$ -일관적이라는 이론적 결과와 일치한다.
다중 클래스 과제: 다중 클래스 설정에서 비용 불가지론적 모델의 사후 처리는 임계값 탐색을 하지 않았을 때보다 오히려 성능을 악화시키는 경우가 많은데, 이는 고차원에서의 임계값 탐색 복잡성 때문인 것으로 보인다.
모델 용량: 성능 격차는 작은 모델(선형 분류기)에서 가장 두드라진다. 모델 용량이 증가함에 따라(예: 4층 ReLU 네트워크), 격차는 좁아지지만 임베딩이 여전히 경쟁력이 있거나 더 우수한 모습을 보인다.

의의 및 주장
본 논문은 언제 대리 손실의 선택이 결정 이론적 성능에 영향을 미치는지를 규명하는 첫 단계로 자리매김한다. 이 논문은 비용 민감적 대리 함수를 보편적인 해결책으로 옹호하는 것이 아니라, (사후 처리를 통해 알려지지 않거나 변하는 비용 행렬에 적응할 수 있는 옴니프리딕터(omnipredictor)의 일반화 이점을 희생하더라도) 비용 민감적 접근법이 엄격한 우위를 점하는 특정 영역(제한된 모델 용량)을 명확히 규정하는 것을 목표로 한다.

저자들은 자신의 결과가 다음과 같은 트레이드오프를 강조한다고 강조한다: 비용 민감적 대리 함수는 자원이 제한된 환경(예: 엣지 컴퓨팅, 고빈도 추론)에서 과업 특화된 성능을 개선하지만, 비용 불가지론적 모델의 일반화 이점(예: 사후 처리를 통한 적응성)을 희생한다. 본 연구는 모델 용량이 제한되어 있고 결정 비용이 알려져 있으며 고정된 시나리오에서는, $H$ -일관적인 대리 함수를 통해 비용 민감적 목적 함수를 직접 최적화하는 것이 이론적 및 경험적으로 더 우월함을 시사한다.

유사한 논문