LiFT: Does Instruction Fine-Tuning Improve In-Context Learning for Longitudinal Modelling by Large Language Models?

Título: LiFT: A Ajuste Fino de Instrução Melhora a Aprendizagem em Contexto para Modelagem Longitudinal por Grandes Modelos de Linguagem?

1. O Problema

As tarefas de Processamento de Linguagem Natural (PLN) longitudinais exigem raciocínio sobre textos ordenados temporalmente para detectar persistência e mudanças em comportamentos e opiniões humanas. Exemplos incluem detecção de mudança de postura, monitoramento de saúde mental, sumarização de linhas do tempo e previsão clínica.

Apesar das capacidades gerais dos Grandes Modelos de Linguagem (LLMs), eles enfrentam dificuldades significativas nestas tarefas quando utilizam In-Context Learning (ICL) ou Zero-Shot/Few-Shot prompting padrão. As principais limitações identificadas são:

• Falta de Modelagem Temporal Explícita: Abordagens baseadas em prompt tratam observações históricas como um bloco de texto concatenado, sem modelar explicitamente a estrutura temporal ou dependências evolutivas.
• Limitações de Contexto: Histórias podem exceder os limites práticos de contexto, e os sinais preditivos estão frequentemente distribuídos ao longo de múltiplas observações.
• Fragilidade em Eventos Raros: Modelos baseados em prompts têm dificuldade em detectar eventos de mudança raros ou sutis (como crises de saúde mental ou mudanças de opinião) em meio a dados estáticos.
• Ineficiência do ICL Puro: Melhorar apenas a estratégia de prompting não resolve as deficiências estruturais na compreensão de dependências temporais de longo prazo.

2. Metodologia: O Framework LiFT

Os autores introduzem o LiFT (Longitudinal Instruction Fine-Tuning), um framework de ajuste fino de instrução projetado para unificar tarefas de modelagem longitudinal sob um esquema de instrução compartilhado. O LiFT não apenas ajusta o modelo, mas ensina-o a raciocinar sobre histórias temporais estruturadas.

O framework é composto por dois módulos principais: IFT Builder e IFT Trainer.

A. Construção de Dados e Prompting Sequencial

• Histórico Rolante: Os dados são agrupados por chaves de sequência (ex: ID do usuário) e ordenados cronologicamente. O histórico é truncado iterativamente do lado mais antigo para respeitar limites de tokens, mantendo um contexto "rolante".
• Estrutura de Prompt: Cada exemplo de treinamento é renderizado como um prompt estruturado contendo:
  • <instruction>: A tarefa.
  • <few-shot>: Demonstrações em contexto (k-shot).
  • <query>: A observação atual.
  • <output>: A previsão.
  • Tags especiais como <hist> (histórico) e <curr> (atual) são usadas para delimitar seções.

B. Aprendizado de Currículo (Curriculum Learning)

O treinamento segue um currículo de três estágios que aumenta progressivamente a dificuldade temporal:

1. Estágio 1 (AnnoMI): Diálogos de Entrevista Motivacional com rótulos de intenção comportamental explícitos. Fornece supervisão estável para inicialização.
2. Estágio 2 (LRS): Discussões em mídias sociais com posturas em evolução e linguagem mais ruidosa.
3. Estágio 3 (TalkLife): Linhas do tempo de saúde mental onde os sinais de mudança são esparsos e implícitos, exigindo inferência sobre pistas linguísticas sutis.

• O número de exemplos in-context aumenta de 1 para 2 e depois para 3 shots ao longo dos estágios.

C. Condicionamento Temporal e de Rótulo (Temporal–Label Conditioning)

Para forçar o modelo a entender a dimensão temporal, o LiFT injeta embeddings específicos nos tokens:

• Sinais Injetados: Posição absoluta ($p_t$), posição relativa ao final ($r_t$), ID do rótulo global ($z_t$) e ID do passo de tempo ($\tau_t$).
• Mecanismo: Esses embeddings são concatenados e projetados via MLP, sendo adicionados ao espaço de entrada do modelo de linguagem ($x'_t = x_t + W u_t$).

D. Função de Perda Multi-Objetivo

O treinamento utiliza uma perda ponderada que combina quatro termos para otimizar simultaneamente a geração de instruções e a previsão de eventos:

1. $L_{CE}$: Cross-entropy padrão para tokens de prompt (excluindo o histórico).
2. $L_{focalLM}$: Perda de linguagem focal aplicada apenas aos tokens de saída (resposta), focando em tokens difíceis.
3. $L_{focalCls}$: Perda de classificação focal sobre um espaço de rótulos global compartilhado (para lidar com desbalanceamento de classes).
4. $L_{histCls}$ (Auxiliar): Uma perda de classificação auxiliar calculada apenas a partir da representação agrupada do histórico (<HIST>). Isso força o modelo a extrair sinais preditivos do contexto histórico, não apenas do token atual.

O ajuste fino é realizado usando LoRA (Low-Rank Adaptation) para eficiência de parâmetros, com adaptação progressiva da rank do LoRA entre os estágios do currículo.

3. Principais Contribuições

1. Framework LiFT: Um método de ajuste fino baseado em currículo que aumenta progressivamente a dificuldade temporal e incorpora demonstrações few-shot para encorajar a modelagem de histórias estruturadas.
2. Condicionamento Temporal-Label: Uma técnica inovadora que injeta sinais de tempo e rótulo nos embeddings, juntamente com objetivos auxiliares sensíveis ao histórico.
3. Generalização Robusta: Demonstração de que o LiFT melhora o desempenho Zero-shot e Few-shot em modelos de tamanhos variados (OLMo 1B/7B, LLaMA-8B, Qwen-14B) e transfere conhecimento para domínios não vistos durante o treinamento.
4. Análise Mecanística: Provas de que as melhorias não vêm apenas de maior capacidade geral, mas de uma mudança na arquitetura interna: o modelo passa a depender causalmente do histórico temporal estruturado.

4. Resultados Experimentais

Os experimentos foram realizados em cinco conjuntos de dados: AnnoMI, LRS, TalkLife (usados no treinamento) e Reddit, CMV (usados apenas para teste/OOD - Out-of-Distribution).

• Desempenho Geral: O LiFT superou consistentemente os modelos base (sem ajuste fino) e a linha de base de Ajuste Fino Supervisionado (SFT) padrão em todas as configurações de shots (0, 1 e 3).
• Ganhos em Eventos Minoritários: O LiFT mostrou ganhos particularmente fortes na detecção de eventos de mudança raros (ex: em TalkLife e AnnoMI), onde modelos base falhavam frequentemente (ex: OLMo-7B em TalkLife saltou de ~0.05 para ~0.12 em Macro-F1).
• Generalização OOD: O modelo treinado em um conjunto de tarefas (AnnoMI, LRS, TalkLife) transferiu-se eficazmente para datasets não vistos (Reddit, CMV), superando os modelos base mesmo em cenários de domínio diferente.
• Impacto do Few-Shot: Ao contrário dos modelos base, que não melhoravam consistentemente com mais exemplos em contexto, os modelos LiFT mostraram ganhos adicionais significativos ao aumentar de 0 para 3 shots.

Análise de Ablação

• Remover o condicionamento temporal causou a maior queda de desempenho, confirmando a importância dos sinais de tempo.
• Remover o currículo reduziu o desempenho, indicando que o aprendizado progressivo é crucial.
• Remover a perda auxiliar de histórico também degradou o desempenho, validando a necessidade de forçar o modelo a aprender do contexto passado.

5. Análise Interpretativa (Por que funciona?)

Os autores realizaram análises de probing, atenção e activation patching para entender o comportamento interno:

• Probing: Mostrou que, após o LiFT, as representações do histórico (hist_mean) tornaram-se mais informativas para a tarefa, enquanto a dependência do token atual diminuiu.
• Atenção: O modelo LiFT aprendeu a focar mais ativamente em itens recentes do histórico (menor rel_t) e a rotear a atenção para regiões de evidência histórica em vez de apenas para o scaffolding da instrução.
• Activation Patching: Quando as ativações do histórico foram corrompidas (embaralhadas) e injetadas no modelo, o desempenho do LiFT caiu drasticamente mais do que o do modelo base. Isso fornece evidência causal de que o LiFT depende genuinamente da estrutura temporal do histórico para fazer previsões.

6. Significado e Conclusão

O trabalho demonstra que o Ajuste Fino de Instrução (IFT), quando combinado com um currículo temporal e condicionamento explícito, é superior ao In-Context Learning puro para tarefas longitudinais.

O LiFT resolve a limitação fundamental de que LLMs tratam entradas como instâncias independentes. Ao forçar o modelo a aprender a extrair sinais preditivos de históricos temporais distribuídos, o framework permite que modelos de linguagem raciocinem sobre persistência e mudança de estado de forma mais robusta. Isso é particularmente crítico para aplicações sensíveis como saúde mental e previsão clínica, onde a detecção de mudanças sutis ao longo do tempo é essencial. O estudo sugere que a modelagem longitudinal não deve ser tratada apenas como um problema de contexto longo, mas como uma tarefa que requer aprendizado estruturado de dependências temporais.