💬 NLP

PEML: Parameter-efficient Multi-Task Learning with Optimized Continuous Prompts

O artigo propõe o PEML, um framework de aprendizado multi-tarefa eficiente em parâmetros que combina engenharia de arquitetura neural para prompts contínuos otimizados com adaptação de baixo rank dos pesos do modelo, alcançando melhorias significativas de precisão em relação aos métodos mais avançados em múltiplos benchmarks.

Autores originais: Anjir Ahmed Chowdhury, Syed Zawad, Xiaolong Ma, Xu Dong, Feng Yan

Publicado 2026-05-15

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Anjir Ahmed Chowdhury, Syed Zawad, Xiaolong Ma, Xu Dong, Feng Yan

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um bibliotecário brilhante e onisciente (o Modelo de Linguagem de Grande Escala) que sabe tudo sobre o mundo. No entanto, este bibliotecário é tão massivo que ocupa um armazém inteiro, requer uma usina de energia enorme para funcionar e é incrivelmente caro para contratar para cada trabalho individual.

Se você precisar que o bibliotecário escreva um poema, resolva um problema de matemática e traduza um documento, a maneira antiga era contratar um bibliotecário massivo diferente para cada trabalho. Isso é desperdício.

A nova maneira, chamada PEFT (Ajuste Fino Eficiente em Parâmetros), é como contratar um bibliotecário e fornecer a ele uma pequena "cola" especializada para cada trabalho. Em vez de reeducar todo o bibliotecário, você apenas ajusta algumas notas na cola.

O Problema: Muitas Colas Demais

O artigo argumenta que os métodos atuais de "cola" têm duas falhas principais quando você tenta fazer muitos trabalhos ao mesmo tempo:

O Método "LoRA" (Adaptação de Baixo Rango): Isso é como dar ao bibliotecário um conjunto de fórmulas matemáticas para ajustar seu pensamento. É ótimo para mudar como ele pensa, mas não ajuda a entender o que você está pedindo que ele faça. É como dar a um chef uma nova faca, mas não dizer se ele deve fazer sopa ou salada.
O Método "Prefix Tuning" (Ajuste de Prefixo): Isso é como escrever uma instrução específica no topo da página (por exemplo: "Agora, aja como um poeta"). É ótimo para definir o contexto, mas o artigo afirma que os métodos atuais usam uma instrução "tamanho único" que não se adapta bem quando você pede ao bibliotecário para alternar entre tarefas muito diferentes.

Quando você tenta fazer muitas tarefas ao mesmo tempo com esses métodos antigos, acaba com uma pilha bagunçada de diferentes colas. Alternar entre elas é lento, consome muita memória e o bibliotecário fica confuso porque as instruções não estão perfeitamente alinhadas.

A Solução: PEML (A Cola Inteligente e Unificada)

Os autores propõem um novo sistema chamado PEML (Aprendizado Multitarefa Eficiente em Parâmetros). Pense no PEML como um arquiteto inteligente e automatizado que constrói uma única "cola universal perfeita" que funciona para todas as suas tarefas simultaneamente.

Veja como o PEML funciona, usando analogias simples:

1. O Motor de Duas Partes

O PEML combina duas ferramentas trabalhando em paralelo:

O Músculo (LoRA): Esta parte ajusta os músculos internos do bibliotecário (os pesos do modelo) para ser melhor no trabalho real.
A Voz (PrefixNAS): Esta é a grande inovação do artigo. Em vez de escrever uma instrução estática, o PEML usa uma "Busca de Arquitetura Neural" (NAS) para projetar automaticamente a instrução perfeita.
- Analogia: Imagine que você está tentando fazer um cachorro fazer truques. Uma instrução estática é como gritar "Senta!" toda vez. O PEML é como um treinador que ouve o cachorro e descobre instantaneamente o tom de voz exato, o gesto da mão e o tamanho da recompensa necessários para aquele truque específico, criando então um único comando perfeito que funciona para sentar, rolar e buscar tudo ao mesmo tempo.

2. O "Arquiteto" (PrefixNAS)

O artigo introduz um componente chamado PrefixNAS. Pense nisso como um arquiteto automatizado que não apenas escolhe uma instrução pré-fabricada; ele constrói a instrução do zero.

Ele testa milhares de diferentes "estruturas de instrução" (como diferentes comprimentos de frase, diferentes tipos de ênfase ou diferentes maneiras de formular o prompt).
Ele usa um processo de busca inteligente para encontrar a única estrutura que ajuda o bibliotecário a entender melhor todas as suas tarefas.
Ele descobre automaticamente as configurações corretas (hiperparâmetros) para que você não precise adivinhar.

3. O Resultado: Um Adaptador para Governar a Todos

Uma vez que o PEML é treinado, você não precisa alternar entre diferentes colas. Você tem um adaptador unificado que lida com tudo.

Eficiência: Você economiza quantidades massivas de memória de computador (VRAM) porque não está carregando diferentes "modos" para tarefas diferentes.
Velocidade: O bibliotecário não precisa pausar para mudar de marcha; ele apenas usa o único conjunto perfeito de instruções.
Desempenho: Como a instrução está perfeitamente alinhada com os novos músculos do bibliotecário, ele performa melhor em média do que se você tentasse fazer as tarefas separadamente.

O Que o Artigo Encontrou

Os autores testaram este sistema em uma variedade de benchmarks de "exame" (como GLUE, SuperGLUE e MMLU), que são como testes padronizados para IA.

A Pontuação: O PEML melhorou a precisão média em cerca de 6,67% em comparação com os melhores métodos existentes. Em algumas tarefas específicas, ele saltou para 10,75%.
A Troca: O artigo observa que, embora o PEML seja ótimo para equilibrar muitas tarefas, às vezes ele luta com uma única tarefa se essa tarefa for extremamente específica (como um quebra-cabeça de raciocínio muito complicado). No entanto, para fazer muitas coisas ao mesmo tempo, é o método mais eficiente e eficaz testado.
Custo: Leva um pouco mais de tempo no início para deixar o "Arquiteto" (PrefixNAS) projetar a instrução perfeita, mas uma vez feito isso, o sistema roda com muita eficiência.

Resumo

Em resumo, PEML é uma nova maneira de ensinar uma IA gigante a fazer muitos trabalhos ao mesmo tempo. Em vez de dar a ela uma pilha de diferentes e desajeitados manuais de instrução, ela usa um arquiteto inteligente e automatizado para escrever um único manual de instrução universal perfeito que se encaixa perfeitamente no cérebro da IA. Isso economiza dinheiro, economiza poder de computador e torna a IA mais inteligente ao lidar com múltiplas tarefas simultaneamente.

Resumo Técnico: PEML (Aprendizado Multi-Tarefa Eficiente em Parâmetros com Prompts Contínuos Otimizados)

1. Declaração do Problema

Os Grandes Modelos de Linguagem (LLMs) alcançaram sucesso significativo em diversas tarefas de processamento de linguagem natural, no entanto, o ajuste fino completo tradicional é computacionalmente proibitivo à medida que os tamanhos dos modelos crescem. Embora métodos de Ajuste Fino Eficiente em Parâmetros (PEFT), como LoRA e Prefix Tuning, tenham surgido para abordar isso aprendendo apenas um pequeno conjunto de parâmetros adicionais, eles enfrentam desafios específicos quando aplicados ao aprendizado multi-tarefa (MTL):

Ineficiência de Recursos: A implantação de múltiplos adaptadores específicos de tarefa (por exemplo, matrizes LoRA separadas ou vetores de prefixo) aumenta o uso de memória e complica o gerenciamento de recursos. A troca frequente entre adaptadores durante a inferência incorre em sobrecarga computacional significativa.
Falta de Compartilhamento de Conhecimento: O treinamento de tarefas de forma isolada impede que o modelo aproveite recursos e insights compartilhados entre as tarefas, limitando os ganhos potenciais de desempenho.
Arquitetura Subótima: Métodos existentes de MTL-PEFT frequentemente focam em estender o LoRA (por exemplo, MTL-LoRA, MultiLoRA) ou utilizam arquiteturas estáticas. Eles frequentemente negligenciam o papel crítico do alinhamento de prompts em ambientes multi-tarefa. Além disso, métodos como C-Poly dependem de arquiteturas fixas que limitam a generalização para tarefas não vistas, enquanto outros exigem ajustes manuais de hiperparâmetros para novos benchmarks.
Escalabilidade de VRAM: Abordagens como MultiLoRA, que escalonam módulos horizontalmente, levam a um aumento linear no uso de VRAM devido ao cache de ativação para módulos paralelos.

2. Metodologia: Framework PEML

Os autores propõem o PEML, um framework que integra LoRA para adaptação de pesos do modelo com PrefixNAS para otimização de prompts contínuos. A filosofia central é a co-otimização do alinhamento de prompts e da adaptação do modelo dentro de uma estrutura unificada e eficiente em parâmetros.

2.1 Componentes Principais

LoRA (Adaptação de Baixo Rango): Aplicado a todas as camadas de projeção ( $W_Q, W_K, W_V$ ) para lidar com a adaptação do modelo. Isso permite que o modelo aprenda atualizações direcionais no espaço de parâmetros sem modificar os pesos pré-treinados congelados.
PrefixNAS (Busca de Arquitetura Neural para Prefixos): Diferentemente do Prefix Tuning padrão, que usa vetores de prefixo fixos, o PrefixNAS emprega uma abordagem de Busca de Arquitetura Neural (NAS) diferenciável. Ele gera e otimiza dinamicamente uma única arquitetura de prompt contínuo unificada.
- Espaço de Busca: Define operações candidatas (transformações lineares com várias funções de ativação como ReLU, Tanh, GELU, dropout e normalização de camada).
- Otimização: Utiliza relaxamento contínuo (Softmax) para aprender parâmetros de arquitetura ( $\alpha$ ) que selecionam as operações ótimas. Após a convergência, a arquitetura é discretizada selecionando a operação dominante.
- Posicionamento: Vetores de prefixo são adicionados em paralelo especificamente às projeções de Chave ( $K$ ) e Valor ( $V$ ) de cada cabeça de atenção, enquanto as matrizes LoRA são aplicadas às próprias projeções.

2.2 Otimização Conjunta

O PEML formula o aprendizado multi-tarefa como um problema de otimização conjunta. O framework treina os parâmetros do modelo base ( $\theta$ , congelados), os parâmetros LoRA ( $A, B$ ) e os parâmetros de arquitetura PrefixNAS ( $\alpha$ ) concorrentemente.

Objetivo: A função de perda conjunta combina a perda de tarefa (média sobre mini-lotes) e um termo de regularização de arquitetura ( $\lambda R(\alpha)$ ) projetado para incentivar uma seleção de operações esparsa e bem estruturada.
Ajuste de Hiperparâmetros: O framework utiliza uma abordagem de otimização de dois níveis. O loop interno otimiza a arquitetura do prefixo via PrefixNAS, enquanto o loop externo usa um Estimador Parzen Estruturado em Árvore (TPE) para otimizar hiperparâmetros (por exemplo, taxa de aprendizado, comprimento do prefixo).
Eficiência de Inferência: Após o treinamento, os pesos LoRA são mesclados ao modelo base. O modelo implantado final retém apenas a arquitetura unificada PrefixNAS, eliminando a necessidade de troca de adaptadores e reduzindo a latência de inferência.

3. Contribuições Principais

Framework Multi-Tarefa Unificado: O PEML introduz um framework coeso que integra o alinhamento de prompts (via PrefixNAS) com a adaptação de modelo de baixo rango (via LoRA), abordando a lacuna onde métodos existentes frequentemente negligenciam a otimização de prompts em configurações de MTL.
Busca de Arquitetura Dinâmica: A introdução do PrefixNAS permite a geração automática de uma única arquitetura de prompt contínuo unificada que se adapta aos requisitos da tarefa sem ajuste manual ou pré-treinamento de prompts professores.
Eficiência de Recursos: Ao usar um único adaptador unificado em vez de múltiplos adaptadores específicos de tarefa, o PEML reduz a sobrecarga de memória e a latência de inferência associadas à troca de adaptadores. Evita o aumento linear de VRAM observado em métodos escalonados horizontalmente como MultiLoRA.
Análise Teórica: O artigo fornece uma análise de convergência para a otimização conjunta de LoRA e PrefixNAS, demonstrando que as atualizações acopladas convergem nas taxas padrão de SGD não convexo e que a lacuna de contínuo para discreto é controlada pela regularização de entropia.

4. Resultados Experimentais

Os autores avaliaram o PEML nos benchmarks GLUE, SuperGLUE, Massive Multitask Language Understanding (MMLU) e raciocínio de senso comum, utilizando modelos incluindo T5-Large, FLAN-T5-Large, LLaMA-7B e LLaMA2-7B.

Ganhos de Desempenho:
- O PEML alcançou uma melhoria média de precisão de até 6,67% em comparação com métodos MTL de última geração (MTL-LoRA, MultiLoRA, C-Poly, MoE).
- Tarefas individuais mostraram ganhos máximos de até 10,75%.
- No benchmark GLUE com LLaMA2-7B, o PEML alcançou uma média de 91,1%, superando o MTL-LoRA (90,0%) e o MultiLoRA (87,9%).
- No SuperGLUE, o PEML alcançou 88,08%, superando o LoRA independente (83,67%) e o AdaLoRA (86,94%).
- No MMLU combinado com tarefas do SuperGLUE, o PEML atingiu 80,3%, superando o ajuste fino completo (76,9%) e o MultiLoRA (78,0%) com um orçamento de rango comparável.
Eficiência:
- O PEML demonstrou eficiência superior de VRAM em comparação com o MultiLoRA, mantendo um uso de VRAM quase constante independentemente do aumento de rango, enquanto o uso do MultiLoRA escala linearmente.
- A latência de inferência foi reduzida ao eliminar a troca de adaptadores (por exemplo, redução de ~17% para T5-large em 100 tarefas).
Ablação e Sensibilidade:
- A otimização paralela de LoRA e PrefixNAS superou consistentemente abordagens sequenciais.
- O número ótimo de camadas para o PrefixNAS foi encontrado como 6; aumentar além disso rendeu retornos decrescentes.
- O framework mostrou robustez em configurações de baixo volume de dados e demonstrou que as arquiteturas descobertas são transferíveis entre conjuntos de dados (por exemplo, GLUE para SuperGLUE) com queda mínima de desempenho quando ajustados finamente.

5. Significado e Alegações

O artigo alega que o PEML representa um avanço significativo no aprendizado multi-tarefa eficiente em parâmetros ao abordar os desafios duplos do desalinhamento de prompts e das limitações de arquiteturas estáticas em métodos PEFT existentes.

Estrutura Unificada: O PEML reduz a complexidade da implantação multi-tarefa ao exigir apenas um adaptador unificado, facilitando a consolidação de recursos e reduzindo significativamente os custos de inferência em comparação com a implantação de modelos individuais ou a troca de adaptadores.
Adaptação Automatizada: A integração do PrefixNAS elimina a necessidade de design manual de arquitetura ou pré-treinamento de prompts professores para cada tarefa, permitindo que o modelo adapte automaticamente sua estrutura de prompt a novas distribuições de dados.
Compensações Equilibradas: Embora reconheça uma compensação padrão de multi-tarefa onde tarefas específicas (como HellaSwag) podem ver desempenho ligeiramente inferior em comparação com o ajuste fino especializado de tarefa única, o PEML fornece melhorias consistentes e equilibradas em diversas tarefas e benchmarks.
Escalabilidade: O método é apresentado como uma solução escalável para implantar LLMs em múltiplas tarefas, oferecendo desempenho comparável ou superior ao ajuste fino completo e a métodos complexos de MTL-PEFT, mantendo a eficiência computacional das abordagens eficientes em parâmetros.

Os autores concluem que o PEML aprimora efetivamente as capacidades de aprendizado multi-tarefa na compreensão de linguagem natural ao otimizar dinamicamente tanto o processo de alinhamento de prompts quanto o processo de adaptação do modelo dentro de um único framework eficiente.