ΔPPL Is Not ΔCE: The Scale-Dependence Confound in Generative Continual-Learning Forgetting Metrics
Este artigo demonstra que reportar o esquecimento em aprendizagem contínua generativa como a mudança na perplexidade bruta (ΔPPL) introduz um fator de confusão dependente da escala que infla ou defla artificialmente as razões de esquecimento diferencial com base nos níveis de perplexidade base, argumentando, em vez disso, pela entropia cruzada (ΔCE) como uma métrica invariante de escala para revelar o verdadeiro desvio subjacente do modelo.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.