Memory-Efficient Contrastive Learning via Budgeted Hard Negative Selection
Cet article introduit un cadre d'apprentissage contrastif efficace en mémoire qui élimine le goulot d'étranglement de la mémoire quadratique des matrices de similitude denses en utilisant des calculs en flux continu et en sélectionnant dynamiquement un budget fixe de négatifs difficiles, permettant ainsi des tailles de lots nettement plus grandes sur du matériel contraint tout en maintenant l'efficacité de l'optimisation.