DeAR: Fine-Grained VLM Adaptation by Decomposing Attention Head Roles
Het artikel introduceert DeAR, een raamwerk dat VLM-adaptatie verbetert door de rollen van individuele attention heads te ontleden en te isoleren, waardoor een betere balans wordt bereikt tussen taakspecifieke aanpassing en het behoud van de oorspronkelijke generalisatie.