Resumo Técnico: FRISM

Declaração do Problema

Os Modelos Visão-Linguagem (VLMs) alcançaram sucesso notável em tarefas de percepção, mas frequentemente carecem das capacidades de raciocínio complexo encontradas nos Modelos de Raciocínio de Grande Escala (LRMs). Embora a fusão de modelos ofereça uma maneira eficiente em parâmetros de injetar capacidades de raciocínio em VLMs sem um pós-treinamento custoso, os métodos existentes operam em um nível de camada granular grosseira. Essas abordagens tipicamente tratam camadas inteiras como unidades atômicas, levando a uma troca significativa: aprimorar o raciocínio frequentemente degrada as capacidades de percepção visual, e vice-versa. Estratégias atuais de fusão por camadas (por exemplo, FRANK, IP-Merging) lutam para desvendar representações de raciocínio e visuais dentro da mesma camada, resultando em desempenho subótimo em ambas as frentes.

Metodologia

Os autores propõem o FRISM (Injeção de Raciocínio de Granularidade Fina via Fusão de Modelos em Nível de Subespaço), um framework que desloca o paradigma de fusão do nível de camada para o nível de subespaço.

Hipótese Central

O FRISM é motivado pela observação de que as capacidades de raciocínio e as representações visuais residem em subespaços distintos dentro do espaço de parâmetros, mesmo dentro de uma única camada. Consequentemente, um coeficiente de escala uniforme por camada é insuficiente; ele inevitavelmente acopla o raciocínio benéfico (que pode exigir alta magnitude) com ruído visual.

Framework Técnico

O FRISM opera em duas etapas:

1. Decomposição e Inicialização (Etapa 1):

   • Em vez de tratar o vetor de tarefa do LRM ($\tau_{lrm}$) como uma atualização monolítica, o FRISM o decompõe em subespaços ortogonais usando Decomposição em Valores Singulares (SVD): $U, S, V^\top = \text{SVD}(\tau_{lrm})$.
   • Os vetores singulares ($U, V$) e os valores singulares ($S$) são congelados para preservar a direção semântica da tarefa de raciocínio.
   • Um parâmetro de controle (gating) leve e aprendível $g$ é introduzido para cada subespaço para modular adaptativamente a intensidade de injeção. Os valores singulares efetivos são computados como $S_{eff} = \text{Sigmoid}(g) \odot S$.
   • A camada fundida é formulada como: $\theta_{merged} = \theta_{vlm} + \lambda_{lrm} \cdot U (S_{eff}) V^\top$.

2. Injeção e Treinamento (Etapa 2):

   • O FRISM emprega uma estratégia de auto-distilação sem rótulos com uma função de otimização de dupla objetivo, eliminando a necessidade de conjuntos de dados escassos de raciocínio multimodal.
   • Preservação Visual ($L_{distill}$): Minimiza a divergência de Kullback-Leibler (KL) entre as distribuições de saída do VLM original (professor) e o modelo fundido (aluno) em dados de percepção visual não rotulados (por exemplo, VizWiz). Isso garante que o modelo fundido retenha uma compreensão visual robusta.
   • Maximização de Raciocínio ($L_{inject}$): Maximiza a magnitude espectral dos subespaços injetados ($-\sum \|S_{eff}\|^2$). Este termo incentiva a absorção de priors de raciocínio definidos pelos vetores de tarefa do LRM.
   • Objetivo Total: $L = L_{distill} + \alpha \cdot L_{inject}$. Isso atua como um filtro espectral, descobrindo automaticamente subespaços que oferecem a troca ótima entre injeção de raciocínio e preservação visual.

Contribuições Principais

1. Paradigma de Fusão em Nível de Subespaço: O artigo repensa a fusão de modelos, movendo-se de operações de camada de granularidade grosseira para modulação de subespaço de granularidade fina. Isso permite a identificação e integração precisas de componentes dominantes de raciocínio sem perturbar as capacidades visuais.
2. Modulação Adaptativa por SVD: O FRISM é o primeiro a propor decompor vetores de tarefa de LRM via SVD para injeção de raciocínio, permitindo o reponderamento adaptativo de subespaços sob um objetivo de preservação visual.
3. Auto-Distilação Sem Rótulos: Os autores projetam uma estratégia de treinamento que depende de otimização de dupla objetivo (minimização da divergência KL e maximização da magnitude espectral) para alcançar transferência estável de raciocínio sem exigir conjuntos de dados de raciocínio VL rotulados.
4. Eficiência Plug-and-Play: O método é altamente eficiente em parâmetros, exigindo apenas o treinamento de parâmetros de controle, enquanto mantém o modelo base e os vetores singulares decompostos congelados.

Resultados Experimentais

Experimentos extensivos foram conduzidos em várias escalas de modelo (3B, 7B, 32B) e arquiteturas (Qwen2.5-VL, ThinkLite-VL, InternVL) em diversos benchmarks.

• Desempenho de Raciocínio: O FRISM supera consistentemente as linhas de base de fusão existentes (Task Arithmetic, Ties-Merging, DARE, IP-Merging) e frequentemente supera significativamente o VLM base. Por exemplo, na escala 7B, o FRISM alcançou uma pontuação de raciocínio de 49,4 em média, superando o VLM base em 2,0 pontos e aproximando-se do desempenho de modelos pós-treinados de alto custo como o ThinkLite-VL-7B.
• Preservação Visual: Ao contrário de outros métodos que sofrem degradação de desempenho em tarefas de percepção visual, o FRISM preserva em grande parte ou até melhora ligeiramente as capacidades visuais. Em benchmarks de percepção VL, o FRISM mostrou a menor queda de desempenho entre todos os métodos.
• Eficiência: O FRISM é altamente eficiente, exigindo apenas 0,53M de parâmetros treináveis e 0,49 horas de tempo de treinamento em uma única GPU. Isso é significativamente mais eficiente do que métodos de pós-treinamento como o DRIFT, que exigem ~7000M de parâmetros e ~2 horas, enquanto alcança desempenho de raciocínio comparável ou superior.
• Estudos de Ablação: Experimentos confirmaram que tanto o processo de decomposição SVD quanto o termo de perda de maximização de raciocínio são críticos. Remover a SVD (retornando ao nível de camada) ou remover a perda de injeção resultou em desempenho próximo ao do VLM base, validando a necessidade de controle de subespaço de granularidade fina e injeção ativa de raciocínio.

Significado e Alegações

O artigo afirma que o FRISM efetivamente preenche a lacuna entre LRMs poderosos e VLMs, resolvendo o conflito inerente entre injetar raciocínio e preservar a percepção visual. Ao tratar a injeção de raciocínio como um problema de filtragem em nível de subespaço, em vez de um ato de equilíbrio em nível de camada, o FRISM oferece uma solução versátil e plug-and-play compatível com várias arquiteturas de VLM.

Os autores enfatizam que sua abordagem fornece uma alternativa eficiente ao pós-treinamento pesado em recursos, alcançando desempenho de raciocínio state-of-the-art enquanto mantém a robustez visual sem a necessidade de conjuntos de dados de raciocínio rotulados caros. O trabalho sugere que as capacidades dos modelos não estão distribuídas uniformemente, mas são distintamente codificadas dentro de subespaços de rank específicos, uma descoberta que permite uma fusão de modelos mais precisa e eficaz.

Nota: O artigo reconhece limitações, incluindo o aumento do tempo de inferência devido a sequências de saída mais longas (superpensamento) e a incapacidade atual de generalizar entre modelos de tamanhos ou estruturas diferentes. Também observa que o objetivo de raciocínio depende de um proxy (magnitude do subespaço) em vez de supervisão direta devido à escassez de dados.