Rank-Gated and Sparse Low-Rank Adaptation for Efficient Fine-Tuning of Vision--Language Models
Cet article présente Rank-Gated LoRA (RG-LoRA), une méthode qui attribue des poids d'importance apprenables aux composantes de rang de LoRA afin de permettre l'élagage post-entraînement pour l'efficacité de la mémoire, mais les expériences initiales sur Qwen3-VL-8B montrent que sans régularisation explicite de la parcimonie, les portes ne parviennent pas à apprendre une parcimonie significative, entraînant des gains négligeables en latence ou en VRAM malgré la validation du mécanisme proposé de train-prune-evaluate.