Is TabPFN the Silver Bullet for Insurance Pricing?

기술 요약: TabPFN 은 보험 요율 산정의 만능 해결책인가?

문제 제기
비생명 보험 요율 산정은 전통적으로 손실 빈도와 심각도를 모델링하기 위해 일반화 선형 모델 (GLM) 에 의존해 왔으며, 종종 Gradient-Boosted Machines(예: XGBoost) 가 주요 머신러닝 대안으로 보완되어 왔습니다. 이러한 방법들은 투명하고 잘 이해되고 있지만, 데이터셋별 전처리, 피팅, 하이퍼파라미터 튜닝이 필요합니다. 최근 Tabular Foundation Models(TFMs), 특히 TabPFN 이 패러다임의 전환으로 등장했습니다. Prior-data Fitted Networks(PFN) 를 사용하여 수백만 개의 합성 데이터셋으로 훈련된 TabPFN 은 데이터셋별 훈련 없이 컨텍스트 학습 (ICL) 을 활용하여 사후 예측 분포를 근사화합니다. 그러나 TabPFN 에 대한 기존 벤치마크는 일반적인 예측 정확도에 초점을 맞추고 있으며, 분포 적합성 및 운영 지연 시간과 같은 보험 요율 산정의 특정 보험계리학적 요구 사항에 대한 적합성에 대한 증거는 부족합니다.

방법론
본 논문은 표준 GLM 및 XGBoost 모델을 벤치마크로 삼아 자동차 보험 요율 산정에 TabPFN 을 적용한 최초의 실증 평가를 제공합니다.

• 데이터셋: 본 연구는 프랑스 freMTPL2 와 벨기에 beMTPL97 의 두 가지 공개된 자동차 제 3 자 책임 (MTPL) 데이터셋을 활용합니다.
• 모델:
  • 베이스라인: 빈도 모델링을 위한 포아송 GLM, 심각도 모델링을 위한 감마 GLM; 두 작업 모두에 대한 XGBoost.
  • TabPFN: 두 가지 버전을 테스트했습니다: 10 만 개 샘플까지 확장 가능한 TabPFN-v2.6 과 200 개 미만의 특징을 가진 경우 100 만 개 샘플까지 확장 가능한 TabPFN-v3.
• 실험 설계:
  • 전처리: TabPFN 은 원시 입력으로 작동하는 반면, GLM 과 XGBoost 는 순서형 범주형 변수에 대해 순서 인코딩, 명목형 범주형 변수에 대해 원-핫 인코딩을 받았습니다.
  • 검증: 5-fold 교차 검증이 사용되었습니다.
  • 컨텍스트 크기: 빈도 모델링의 경우 TabPFN 을 다양한 컨텍스트 (훈련) 크기 (2,000, 5,000, 10,000, 50,000, 100,000 및 전체 훈련 세트) 로 평가했습니다. 심각도 모델링에는 최대 컨텍스트 크기를 사용했습니다.
  • 지표:
    • 예측 정확도: 노출 가중치 적용 빈도 및 비가중치 심각도에 대한 Root Mean Squared Error (RMSE).
    • 분포 적합성: 빈도에 대한 포아송 편차 (deviance) 및 심각도에 대한 감마 편차.
    • 운영 비용: TabPFN 의 추론 시간 및 베이스라인의 훈련/추론 합계 시간.

주요 결과

• 예측 성능 (빈도): TabPFN 은 확립된 베이스라인을 일관되게 능가하지 못합니다. 큰 컨텍스트 크기 (≥50,000) 에서 TabPFN-v2.6 은 두 데이터셋 모두에서 XGBoost 보다 낮은 RMSE 를 달성했지만 GLM 을 능가하지는 못했습니다. TabPFN-v3 은 프랑스 데이터에서는 베이스라인과 유사하게 작동했지만 벨기에 데이터에서는 더 나빴습니다.
• 분포 적합성 (빈도): GLM 은 일관되게 가장 좋은 포아송 편차를 달성했습니다. TabPFN-v2.6 은 컨텍스트 크기에 매우 민감하게 반응하여 편차 성능이 비단조적으로 나타났으며, 중간 크기 (2k–10k) 에서 악화되었다가 더 큰 크기 (50k–100k) 에서 개선되었습니다. TabPFN-v3 은 모든 컨텍스트 크기에서 상대적으로 안정적이지만 높음 (나쁨) 편차를 보였습니다. TabPFN 의 폴드 간 분산은 특히 작은 컨텍스트 크기에서 GLM 또는 XGBoost 보다 훨씬 컸습니다.
• 심각도 모델링: 두 TabPFN 버전 모두 GLM 및 XGBoost 에 비해 성능이 저조했습니다. GLM 은 벨기에 데이터에서 가장 잘 작동한 반면, XGBoost 는 프랑스 데이터에서 뛰어났습니다. TabPFN 모델은 폴드 간 감마 편차에서 더 큰 분산을 보였습니다.
• 계산 비용: TabPFN 의 추론 시간은 컨텍스트 크기에 따라 급격히 증가합니다. 작은 컨텍스트 크기에서도 TabPFN 의 추론 비용은 GLM 과 XGBoost 의 훈련 및 추론 시간 합계를 크게 초과합니다. 용량 한계에 도달하면 추론에 몇 분이 소요되어 실시간 고처리량 요율 산정 환경에는 부적합합니다. TabPFN-v3 은 v2.6 보다 낮은 추론 시간을 보였지만 작은 데이터셋에서는 정확도를 희생했습니다.

주요 기여

1. 최초의 실증 평가: 본 논문은 일반 회귀 벤치마크를 넘어 보험계리학적 지표 (편차) 및 제약 조건 (지연 시간) 을 다루기 위해 비생명 보험 요율 산정을 위한 TabPFN 의 초기 벤치마킹을 제공합니다.
2. 컨텍스트 크기 민감성: 본 연구는 TabPFN 의 성능이 컨텍스트 내 훈련 세트 크기에 매우 민감하며, 중간 크기는 신뢰할 수 없는 분포 적합성을 초래할 수 있음을 강조합니다.
3. 운영 현실 점검: 본 논문은 "훈련 없음"이라는 기초 모델의 약속에도 불구하고, 컨텍스트 학습의 계산 비용이 실시간 보험 응용 프로그램의 병목 현상을 초래하며, 효율성 측면에서 GLM 과 XGBoost 가 여전히 우월함을 보여줍니다.

의의 및 주장
본 논문은 Tabular Foundation Models 가 데이터가 부족한 설정을 특히 유망한 방향으로 나타내지만, TabPFN 은 현재 보험 요율 산정에서 확립된 보험계리학적 방법을 대체할 수 있는 실현 가능한 대안이 아님을 결론지었습니다. 이 모델은 GLM 이나 XGBoost 를 일관되게 능가하지 못하며, 예측 분산이 더 크고 실시간 배포를 위한 추론 시간이 prohibitive(부적절할 정도로 긴) 합니다.

저자들은 기초 모델이 사기 탐지 (분류/이상 탐지), 손실 준비금 예측, 또는 사망률 전망과 같은 보험 가치 사슬의 다른 영역에서 여전히 유용성을 찾을 수 있음을 겸손하게 제안하지만, 현재 형식은 요율 산정의 핵심 문제를 해결하지 못합니다. 향후 연구로는 보험계리학적 지식을 활용한 이러한 모델의 미세 조정 (fine-tuning) 과 위험 드라이버에 대한 해석 가능성 분석을 제안합니다.