Beyond the Unit Hypersphere: Embedding Magnitude in Contrastive Learning
Ce papier démontre que l'apprentissage de la magnitude des embeddings, plutôt que de la simple similarité cosinus, améliore significativement les performances en recherche d'information et en RAG en exploitant des rôles distincts pour les magnitudes des requêtes et des documents, au détriment des tâches où les entrées sont interchangeables.