Curse of Dimensionality in Neural Network Optimization
Este artigo demonstra que a otimização de redes neurais rasas sofre da maldição da dimensionalidade, onde a taxa de decaimento do risco populacional durante o treinamento por fluxo de gradiente é limitada pela suavidade da função alvo e pela dimensão do espaço, resultando em convergência lenta que piora conforme a dimensionalidade aumenta.