Is TabPFN the Silver Bullet for Insurance Pricing?

Resumo Técnico: TabPFN é a Bala de Prata para Precificação de Seguros?

Declaração do Problema
A precificação de seguros não vida tradicionalmente depende de Modelos Lineares Generalizados (GLMs) para modelar a frequência e a severidade de sinistros, frequentemente complementados por Máquinas de Gradiente Reforçado (como o XGBoost) como a principal alternativa de aprendizado de máquina. Embora esses métodos sejam transparentes e bem compreendidos, exigem pré-processamento, ajuste e sintonização de hiperparâmetros específicos do conjunto de dados. Recentemente, Modelos Fundacionais Tabulares (TFMs), especificamente o TabPFN, emergiram como uma mudança de paradigma. Treinado em milhões de conjuntos de dados sintéticos usando Redes Ajustadas a Dados Anteriores (Prior-data Fitted Networks - PFN), o TabPFN utiliza aprendizado em contexto (ICL) para aproximar distribuições preditivas posteriores sem treinamento específico do conjunto de dados. No entanto, os benchmarks existentes para o TabPFN focam na precisão geral de previsão e carecem de evidências quanto à sua adequação aos requisitos atuariais específicos da precificação de seguros, como ajuste distribucional e latência operacional.

Metodologia
Este artigo fornece a primeira avaliação empírica do TabPFN para precificação de seguros automotivos, comparando-o com modelos padrão GLM e XGBoost.

• Conjuntos de Dados: O estudo utiliza dois conjuntos de dados públicos de Responsabilidade Civil Automóvel (MTPL): o francês freMTPL2 e o belga beMTPL97.
• Modelos:
  • Baselines: Um GLM Poisson para frequência e um GLM Gama para severidade; XGBoost para ambas as tarefas.
  • TabPFN: Duas versões foram testadas: TabPFN-v2.6 (escalável até 100 mil amostras) e TabPFN-v3 (escalável até 1 milhão de amostras, fornecendo recursos < 200).
• Design Experimental:
  • Pré-processamento: O TabPFN opera sobre entradas brutas; GLM e XGBoost receberam codificação ordinal para categóricos ordenados e codificação one-hot para categóricos nominais.
  • Validação: Foi utilizada validação cruzada de 5 dobras.
  • Tamanhos de Contexto: Para modelagem de frequência, o TabPFN foi avaliado com tamanhos de contexto (treinamento) variáveis: 2.000, 5.000, 10.000, 50.000, 100.000 e o conjunto de treinamento completo. A modelagem de severidade utilizou o tamanho de contexto máximo.
  • Métricas:
    • Precisão Preditiva: Erro Quadrático Médio Raiz (RMSE), ponderado pela exposição para frequência e não ponderado para severidade.
    • Ajuste Distribucional: Desvio Poisson para frequência e desvio Gama para severidade.
    • Custo Operacional: Tempo de inferência (para TabPFN) e tempo combinado de treinamento/inferência (para baselines).

Principais Resultados

• Desempenho Preditivo (Frequência): O TabPFN não supera consistentemente as baselines estabelecidas. Em tamanhos de contexto grandes (≥50.000), o TabPFN-v2.6 alcançou RMSE menor que o XGBoost em ambos os conjuntos de dados, mas falhou em superar o GLM. O TabPFN-v3 performou de forma similar às baselines nos dados franceses, mas pior nos dados belgas.
• Ajuste Distribucional (Frequência): O GLM alcançou consistentemente o melhor desvio Poisson. O TabPFN-v2.6 mostrou alta sensibilidade ao tamanho do contexto; o desempenho do desvio foi não monotônico, piorando em tamanhos intermediários (2k–10k) antes de melhorar em tamanhos maiores (50k–100k). O TabPFN-v3 exibiu desvio relativamente estável, mas alto (ruim) em todos os tamanhos de contexto. A variância entre dobras para o TabPFN foi significativamente maior do que para GLM ou XGBoost, particularmente com tamanhos de contexto menores.
• Modelagem de Severidade: Ambas as versões do TabPFN performaram abaixo do esperado em comparação com GLM e XGBoost. O GLM performou melhor nos dados belgas, enquanto o XGBoost se destacou nos dados franceses. Os modelos TabPFN exibiram maior variância no desvio Gama entre as dobras.
• Custo Computacional: O tempo de inferência do TabPFN cresce abruptamente com o tamanho do contexto. Mesmo em tamanhos de contexto pequenos, o custo de inferência do TabPFN excede substancialmente o tempo combinado de treinamento e inferência do GLM e XGBoost. Nos limites de capacidade, a inferência leva vários minutos, tornando-a inadequada para ambientes de precificação em tempo real e de alto throughput. O TabPFN-v3 mostrou tempos de inferência menores que o v2.6, mas sacrificou precisão em conjuntos de dados menores.

Principais Contribuições

1. Primeira Avaliação Empírica: Este artigo oferece o benchmark inicial do TabPFN especificamente para precificação de seguros não vida, indo além de benchmarks gerais de regressão para abordar métricas específicas da atuária (desvio) e restrições (latência).
2. Sensibilidade ao Tamanho do Contexto: O estudo destaca que o desempenho do TabPFN é altamente sensível ao tamanho do conjunto de treinamento em contexto, com tamanhos intermediários potencialmente gerando ajustes distribucionais pouco confiáveis.
3. Verificação da Realidade Operacional: O artigo demonstra que, apesar da promessa de "sem treinamento" dos modelos fundacionais, o custo computacional do aprendizado em contexto cria um gargalo para aplicações de seguros em tempo real, onde GLM e XGBoost permanecem superiores em eficiência.

Significado e Alegações
O artigo conclui que, embora os Modelos Fundacionais Tabulares representem uma direção promissora, particularmente para cenários com escassez de dados, o TabPFN não é atualmente uma substituição viável para métodos atuariais estabelecidos na precificação de seguros. O modelo falha em superar consistentemente GLMs ou XGBoost, exibe maior variância nas previsões e sofre com tempos de inferência proibitivos para implantação em tempo real.

Os autores sugerem modestamente que os modelos fundacionais ainda podem encontrar utilidade em outras partes da cadeia de valor dos seguros, como detecção de fraudes (classificação/detecção de anomalias), previsão de provisionamento de sinistros ou projeções de mortalidade, mas sua formulação atual não resolve o problema central da precificação. Futuro trabalho é proposto para investigar o ajuste fino desses modelos com conhecimento atuarial e analisar sua interpretabilidade em relação aos drivers de risco.