EURO-5K: When Does Domain Pretraining Matter? Benchmarking Transformers for EU Reporting Obligation Extraction
Este artigo apresenta o EURO-5K, um conjunto de dados especializado para a extração de obrigações de reporte da UE, e demonstra que, embora o pré-treinamento jurídico ofereça ganhos marginais para modelos de ajuste fino completo, ele impulsiona significativamente o desempenho do ajuste de parâmetros eficientes e acelera o aprendizado com dados limitados, validando, em última análise, tanto as abordagens discriminativas quanto as generativas para a automação de conformidade regulatória.