🤖 machine learning

PVeRA: Probabilistic Vector-Based Random Matrix Adaptation

Este artigo apresenta o PVeRA, uma extensão probabilística do adaptador VeRA que modifica suas matrizes de baixo posto compartilhadas para lidar melhor com ambiguidades de entrada e alcançar desempenho superior no benchmark VTAB-1k em comparação com métodos existentes de adaptação eficiente em parâmetros.

Autores originais: Leo Fillioux, Enzo Ferrante, Paul-Henry Cournède, Maria Vakalopoulou, Stergios Christodoulidis

Publicado 2026-05-01

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Leo Fillioux, Enzo Ferrante, Paul-Henry Cournède, Maria Vakalopoulou, Stergios Christodoulidis

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem uma biblioteca massiva e incrivelmente inteligente de conhecimento (um "modelo de base") que leu quase todos os livros do mundo. Essa biblioteca é brilhante, mas também é enorme, pesada e cara para ser transportada. Se você quiser ensinar a ela uma nova habilidade específica — como reconhecer flores raras ou diagnosticar uma condição médica particular —, geralmente é necessário "ajustá-la finamente" (fine-tune).

O Problema: O ajuste fino tradicional é como tentar reescrever toda a enciclopédia para se adequar ao seu novo tópico. Isso exige muito tempo, dinheiro e poder de computação. Além disso, se você tiver apenas alguns exemplos do novo tópico, a biblioteca pode ficar confusa e esquecer seu conhecimento anterior (sobreajuste).

A Solução Atual (Adaptadores): Para resolver isso, cientistas inventaram "adaptadores". Pense neles como pequenos e leves post-its que você cola nas prateleiras da biblioteca. Em vez de reescrever os livros, você apenas adiciona essas notas para orientar a biblioteca sobre como lidar com sua nova tarefa. Um tipo popular de post-it é chamado de VeRA. Ele usa um par de padrões aleatórios "congelados" (imutáveis) compartilhados em toda a biblioteca e aprende apenas alguns números minúsculos (vetores) para ajustar como esses padrões são utilizados. É eficiente, mas um pouco rígido — toma uma única decisão fixa para cada entrada.

A Nova Ideia: PVeRA
Os autores deste artigo propõem o PVeRA (Adaptação de Matriz Aleatória Baseada em Vetores Probabilísticos). Aqui está uma explicação simples do que eles fizeram:

1. De uma Única Adivinhação para uma "Nuvem de Possibilidades"

Imagine que você está tentando identificar um animal em uma imagem nebulosa.

Antigo Método (VeRA): O modelo olha para a neblina e diz: "Tenho 100% de certeza de que isso é um elefante". Ele faz uma única adivinhação rígida baseada em uma regra fixa.
Novo Método (PVeRA): O modelo olha para a neblina e diz: "Isso parece majoritariamente um elefante, mas há uma pequena chance de ser um cavalo, e a neblina me deixa um pouco inseguro".

O PVeRA altera os "post-its" para que eles não guardem apenas um número; eles guardam uma distribuição (uma nuvem de possibilidades). Em vez de escolher um único ajuste fixo, o modelo aprende uma faixa de ajustes possíveis. Durante o treinamento, ele amostra aleatoriamente dessa nuvem, praticando efetivamente com muitas versões ligeiramente diferentes de si mesmo. Isso ajuda-o a lidar muito melhor com a "neblina" (ambiguidade) nos dados.

2. Por Que Isso É Como uma "Rede de Segurança"

O artigo afirma que essa abordagem probabilística concede ao modelo dois superpoderes:

Intervalos de Confiança (O Medidor "Quão Certeiro Você Está?"):
Como o modelo amostra de uma nuvem de possibilidades, você pode pedir que ele examine a mesma imagem 10 vezes.
- Se ele disser "Elefante" 10 vezes com a mesma confiança, você sabe que está certo.
- Se ele disser "Elefante" 6 vezes, "Cavalo" 3 vezes e "Zebra" 1 vez, você sabe que está inseguro.
  O artigo mostra que o PVeRA pode gerar naturalmente esses "intervalos de confiança" sem precisar de matemática extra e complicada. É como se o modelo tivesse um medidor de honestidade embutido que lhe diz quando está adivinhando.
Melhor Desempenho com Menos Dados:
Os autores testaram isso em 19 conjuntos de dados diferentes (variando de fotos naturais a imagens médicas e dados estruturados). Eles descobriram que o PVeRA consistentemente performou melhor que o VeRA original e outros adaptadores populares. Foi especialmente bom em manter a estabilidade através de diferentes tipos de tarefas.

3. A "Magia" da Fusão

Uma das características mais legais mencionadas é que, embora o PVeRA use uma "nuvem" de possibilidades durante o treinamento, você ainda pode fundi-lo no modelo principal para uso no mundo real.

Analogia: Imagine que você praticou um discurso testando 100 versões diferentes da sua entrega. Depois de praticar o suficiente, você escolhe a melhor versão do seu discurso e a memoriza.
Resultado: Quando você realmente dá o discurso (inferência), não precisa tentar 100 versões. Você apenas entrega a versão polida. Isso significa que o PVeRA é tão rápido quanto os métodos antigos quando você realmente o utiliza, mas aprendeu de forma mais inteligente durante o treinamento.

4. Identificando os "Forasteiros"

O artigo também descobriu que, como o PVeRA aprende uma distribuição, ele é melhor em identificar coisas que não conhece.

Analogia: Se você mostrar a um modelo treinado com gatos e cães uma imagem de uma torradeira, um modelo rígido pode dizer com confiança "Gato" (porque se parece um pouco com um gato). Um modelo PVeRA, no entanto, pode dizer: "Estou realmente inseguro sobre isso; minha confiança interna está completamente desordenada".
Os autores mostraram que os "sinais de incerteza" internos do modelo eram muito mais fortes para coisas que ele nunca tinha visto antes (fora da distribuição), tornando-o uma ferramenta melhor para tarefas críticas de segurança onde é necessário saber quando o modelo está confuso.

Resumo

O artigo apresenta o PVeRA, uma versão mais inteligente e flexível de uma ferramenta existente chamada VeRA. Ao ensinar o modelo a pensar em termos de "probabilidades" e "faixas de possibilidades" em vez de respostas fixas únicas, ele:

Performa melhor em uma ampla variedade de tarefas.
Sabe quando não sabe (melhor estimativa de incerteza).
Mantém-se rápido porque a matemática complexa é usada apenas durante o treinamento, não quando o modelo está realmente funcionando.

É essencialmente atualizar os "post-its" do modelo de instruções rígidas para guias flexíveis e probabilísticos que ajudam o modelo a navegar pela ambiguidade com confiança.

1. Declaração do Problema

Modelos fundamentais de grande escala (por exemplo, Vision Transformers) alcançaram desempenho de última geração, mas exigem recursos computacionais massivos e grandes conjuntos de dados para ajuste fino. O ajuste fino completo tradicional é frequentemente inviável devido ao custo e ao risco de sobreajuste em regimes de poucos dados.

Ajuste Fino Eficiente em Parâmetros (PEFT): Métodos como LoRA e VeRA abordam isso congelando o backbone e treinando apenas um pequeno número de parâmetros (adaptadores).
Limitações dos Métodos Atuais: Embora o VeRA (Adaptação de Matriz Aleatória Baseada em Vetores) seja altamente eficiente ao utilizar matrizes aleatórias de baixo rank congeladas e compartilhadas entre camadas, ele permanece uma abordagem determinística. Ele produz uma estimativa pontual única para adaptações de pesos, o que limita sua capacidade de:
1. Modelar ambiguidades inerentes nos dados de entrada.
2. Quantificar a incerteza da previsão.
3. Fornecer intervalos de confiança para as saídas.

2. Metodologia: PVeRA

Os autores propõem o PVeRA, uma extensão probabilística do VeRA que trata as matrizes de adaptação de baixo rank como variáveis aleatórias extraídas de uma distribuição aprendida, em vez de valores fixos.

Mecanismo Central

Formulação Probabilística: Em vez de aprender vetores de escala fixos, o PVeRA aprende os parâmetros de uma distribuição normal multivariada ( $\mu$ e $\sigma$ ) para o espaço de adaptação latente.
Arquitetura:
- Utiliza matrizes aleatórias congeladas $A$ e $B$ (compartilhadas entre camadas) semelhantes ao VeRA.
- Introduz vetores treináveis $d$ e $b$ para gerar a média ( $\mu$ ) e o desvio padrão ( $\sigma$ ) da distribuição.
- Truque de Reparametrização: Durante o treinamento, a variável latente $z$ é amostrada como $z = \mu + \epsilon \cdot \sigma$ , onde $\epsilon \sim \mathcal{N}(0, 1)$ . Isso permite que os gradientes fluam através do processo de amostragem.
Função de Perda: A perda total combina a perda de classificação específica da tarefa com um termo de divergência de Kullback-Leibler (KL). O termo KL impõe um prior normal padrão ( $\mathcal{N}(0, I)$ ) sobre as distribuições aprendidas para evitar sobreajuste e garantir que o espaço latente permaneça regularizado.
$\mathcal{L}_{total} = \mathcal{L}_{classificação} + \beta \sum \mathcal{L}_{KL}$

Estratégias de Inferência

O PVeRA suporta dois modos de inferência:

Determinístico: Utiliza apenas a média ( $\mu$ ) para a adaptação. Os pesos podem ser mesclados no backbone, resultando em zero sobrecarga de inferência (idêntico ao VeRA/LoRA).
Probabilístico (Monte Carlo): Amostra múltiplas vezes da distribuição aprendida durante a inferência. Isso permite:
- Quantificação de Incerteza: Alta variância nas previsões indica incerteza.
- Intervalos de Confiança: Geração de intervalos de confiança estatísticos para previsões.
- Detecção Fora de Distribuição (OOD): Amostras OOD tipicamente exibem características distribucionais diferentes no espaço latente em comparação com amostras dentro da distribuição.

3. Contribuições Principais

Proposta do PVeRA: Um novo adaptador que aprende uma distribuição sobre adaptações de pesos, introduzindo um viés indutivo para lidar com ambiguidades no espaço de características.
Superioridade de Desempenho: Demonstrou que o PVeRA supera o VeRA original e outros adaptadores de última geração (LoRA, DoRA, IA3, Bottleneck) em média.
Incerteza e Calibração:
- O PVeRA mantém excelente calibração do modelo (prevendo pontuações de confiança precisas).
- Permite a geração de intervalos de confiança e estimativa de incerteza sem retreinar o backbone.
Eficiência: Mantém a eficiência extrema de parâmetros do VeRA (ordens de magnitude menos parâmetros que adaptadores padrão) e permite a mesclagem de pesos para eliminar latência de inferência.
Código Aberto: Fornecimento de código para treinamento e avaliação de benchmarks do PVeRA e outros adaptadores.

4. Resultados Experimentais

Os autores avaliaram o PVeRA no benchmark VTAB-1k (19 conjuntos de dados nas categorias natural, especializada e estruturada) usando um backbone DINOv2 (ViT-B/14) congelado.

Acurácia: O PVeRA alcançou a maior acurácia média (71,4%) em todos os 19 conjuntos de dados, superando o VeRA (69,9%), LoRA (70,5%) e DoRA (71,0%). Mostrou desempenho particularmente estável em domínios diversos.
Eficiência de Parâmetros: O PVeRA mantém uma contagem de parâmetros muito baixa (comparável ao VeRA), significativamente menor que Bottleneck, AdaptFormer e DoRA.
Calibração: Usando a métrica de Erro de Calibração Adaptativo (ACE), o PVeRA (junto com LoRA e VeRA) mostrou calibração superior em comparação com outros adaptadores, o que significa que suas pontuações de confiança refletem melhor a acurácia real.
Estimativa de Incerteza:
- Experimentos mostraram que amostras classificadas incorretamente tiveram desvios padrão significativamente maiores em suas pontuações softmax em comparação com as classificadas corretamente ao usar inferência probabilística.
- Intervalos de Confiança: Amostras classificadas corretamente tiveram intervalos de confiança muito mais estreitos (0,085) em comparação com as incorretas (0,225).
Detecção Fora de Distribuição (OOD): A soma das médias ( $\mu_q + \mu_v$ ) nas camadas do adaptador serviu como uma métrica eficaz para distinguir dados dentro da distribuição de dados fora da distribuição, uma capacidade que o VeRA não possui.
Estudos de Ablação:
- Rank: Um rank de $r=256$ forneceu o melhor equilíbrio entre desempenho e parâmetros.
- Posição: Aplicar o PVeRA aos ramos Query (Q) e Value (V) produziu os melhores resultados, consistente com as descobertas originais do LoRA.

5. Significado e Impacto

O PVeRA representa um passo significativo para frente no Ajuste Fino Eficiente em Parâmetros, fechando a lacuna entre eficiência e modelagem probabilística.

Robustez: Ao modelar incerteza, o PVeRA é mais adequado para aplicações críticas de segurança (por exemplo, imagem médica), onde saber quando um modelo está inseguro é tão importante quanto a própria previsão.
Versatilidade: Estende a utilidade do VeRA além da classificação simples, permitindo tarefas como detecção OOD e estimativa de intervalos de confiança sem aumentar o custo de inferência do modelo (ao usar mesclagem determinística).
Generalização: O artigo também demonstrou brevemente a eficácia do PVeRA em tarefas de Processamento de Linguagem Natural (benchmark GLUE), sugerindo que o mecanismo de adaptação probabilística é agnóstico ao modelo e aplicável além da visão computacional.

Em resumo, o PVeRA oferece uma solução "o melhor dos dois mundos": a eficiência computacional e a baixa contagem de parâmetros do VeRA, combinadas com a robustez, a quantificação de incerteza e a calibração aprimorada da aprendizagem profunda probabilística.