LoRA-Ensemble: Efficient Uncertainty Modelling for Self-Attention Networks
O artigo apresenta o LoRA-Ensemble, um método eficiente e parametrizado para modelagem de incerteza em redes de autoatenção que utiliza adaptações de baixo rank para criar um ensemble implícito, superando técnicas existentes e igualando ou superando a precisão de ensembles explícitos com melhor calibração.