LoRA-Ensemble: Efficient Uncertainty Modelling for Self-Attention Networks
El artículo presenta LoRA-Ensemble, un método eficiente de ensembling implícito para redes de autoatención que utiliza adaptaciones de bajo rango (LoRA) compartidas para lograr una precisión y calibración de incertidumbre superiores a las técnicas existentes, igualando o superando el rendimiento de los ensembles explícitos con un costo computacional significativamente menor.