ΔPPL Is Not ΔCE: The Scale-Dependence Confound in Generative Continual-Learning Forgetting Metrics
Diese Arbeit zeigt auf, dass die Berichterstattung über das Vergessen in generativen kontinuierlichen Lernprozessen als Änderung der rohen Perplexität (ΔPPL) eine skalenabhängige Störvariable einführt, welche die differenziellen Vergessensraten basierend auf den Basis-Perplexitätswerten künstlich aufbläht oder abschwächt, und argumentiert stattdessen für die Kreuzentropie (ΔCE) als eine skaleninvariante Metrik, um die wahre zugrunde liegende Modelldrift offenzulegen.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.