NeuCLIP: Efficient Large-Scale CLIP Training with Neural Normalizer Optimization
El artículo presenta NeuCLIP, un marco de optimización novedoso que reformula la pérdida de contraste mediante análisis convexo y variacional para entrenar una red neuronal auxiliar que estima eficientemente la función de normalización, permitiendo un entrenamiento de modelos CLIP a gran escala con mayor precisión y sin depender de lotes masivos.