ICD2Bert: ICD Bert Encodings for Clinical Outcome Prediction on Routine Health Insurance Data
Dieses Paper stellt ICD2BERT vor, ein Standard-BERT-Modell, das ohne domänenspezifische Modifikationen auf ICD-Codes vortrainiert wurde, und zeigt durch umfangreiches Benchmarking auf, dass solche architektonischen Komplexitäten oft daran scheitern, einfachere Baselines zu übertreffen, was hervorhebt, dass Datenqualität, Skalierung und Vortraining entscheidender für die Vorhersage klinischer Ergebnisse sind als Modellsophistizierung.