Exposure Bias as Epistemic Underidentification in Recursive Forecasting

Resumo Técnico: Viés de Exposição como Subidentificação Epistêmica em Previsão Recursiva

Declaração do Problema
A previsão multietapa recursiva é tradicionalmente enquadrada como um problema de mudança de distribuição (desvio de covariável), onde modelos treinados em históricos observados (via teacher forcing) são implantados em previsões autogeradas, levando a erros cumulativos conhecidos como viés de exposição. Este artigo argumenta que esse enquadramento é incompleto. Os autores postulam que, sob condições de observabilidade parcial, ruído ou truncamento de estado, a previsão recursiva não é meramente um descompasso entre as distribuições de treinamento e teste, mas fundamentalmente um problema de subidentificação epistêmica.

Especificamente, o artigo sustenta que um preditor de um passo ótimo de Bayes, treinado em contextos observados, pode falhar em identificar unicamente o comportamento correto para o processo de rolagem (rollout) recursiva. Quando um modelo gera seus próprios estados futuros (estados induzidos), o valor numérico desses estados isoladamente pode ser insuficiente para determinar o alvo local correto. O "próximo passo correto" pode depender da proveniência do estado (por exemplo, se ele foi observado ou autogerado), informação que é perdida quando o estado é truncado para uma representação numérica. Consequentemente, o preditor recursivo implantado opera em um regime onde o alvo local é subidentificado pela representação do estado.

Metodologia e Estrutura Teórica
Os autores formalizam este problema usando uma estrutura de estados induzidos ($Z_h$) e variáveis de proveniência ($P_h$).

• Estados Induzidos ($Z_h$): O estado numérico em uma profundidade de rolagem específica $h$, derivado das próprias saídas do preditor.
• Proveniência ($P_h$): Informação descrevendo como o estado foi formado (ex: observado vs. gerado pelo modelo).

O artigo estabelece três componentes teóricos:

1. Teorema da Subidentificação: Os autores provam que, mesmo que dois preditores recursivos sejam idênticos no suporte observado (alcançando o mesmo risco de Bayes de um passo), eles podem induzir previsões multietapas diferentes uma vez que consultam estados autogerados fora desse suporte. O objetivo de um passo não restringe o comportamento nesses estados induzidos.
2. Decomposição de Erro: O erro na previsão recursiva é decomposto em três termos não negativos:
   • Descompasso de Teacher-forcing/Rollout: A incapacidade de um preditor treinado em dados observados de generalizar para a tarefa do estado induzido.
   • Gap de Representação–Classe: O erro de aproximação da classe de funções escolhida sobre a representação induzida.
   • Gap de Proveniência: A perda de informação recuperável incorrida ao omitir dados de proveniência da entrada do estado.
3. Utilidade da Proveniência: Teoricamente, condicionar à proveniência pode reduzir estritamente o risco de Bayes nos estados induzidos se o alvo esperado diferir com base em como o estado foi gerado (ou seja, $E[Y|Z, P] \neq E[Y|Z]$).

Avaliação Empírica
Os autores testam essas afirmações teóricas em três conjuntos de dados de previsão numérica (ETTh1, MG, Weather) usando MLPs e GRUs. Os experimentos são desenhados para validar quatro previsões específicas:

1. Regime Distinto: A rolagem entra em um regime de estado distinto dos dados observados?
   • Resultado: Sondas lineares treinadas para distinguir contextos observados de estados induzidos por teacher forcing mostram precisão crescente com a profundidade da rolagem, confirmando que a implantação recursiva move o modelo para um regime de estado distinto.
2. Tarefa Local Distinta: A tarefa de prever sobre estados induzidos fixos é diferente da tarefa original de um passo?
   • Resultado: Quando os estados induzidos são congelados e o treinamento é refeito, o desempenho varia significativamente entre os conjuntos de dados. Em alguns datasets (MG, Weather), o re-aprendizado sobre estados induzidos fixos melhora o desempenho; em outros (ETTh1), ele degrada o desempenho. Isso sugere que a tarefa do estado induzido não é apenas uma versão deslocada da tarefa original, mas um problema estruturalmente diferente.
3. Utilidade da Proveniência: Adicionar informação de proveniência ajuda?
   • Resultado: Uma etiqueta de proveniência binária (observado vs. gerado) fornece ganhos condicionais. No cenário de "estado congelado", os ganhos são limitados, sugerindo que a codificação binária simples captura apenas uma fração do potencial teórico. No entanto, em configurações de malha fechada (closed-loop), métodos conscientes da proveniência mostram promessa em conjuntos de dados específicos.
4. Dinâmicas de Malha Fechada: A correção ajuda ao mudar os estados visitados, não apenas ao melhorar a previsão local?
   • Resultado: A correção de malha fechada (usando Scheduled Sampling com Proveniência) melhora o desempenho geral da rolagem. Crucialmente, os autores mostram que modelos treinados com correção geram estados induzidos que são "mais fáceis" de serem tratados por outros preditores, indicando que a correção melhora o próprio regime de estado induzido, e não apenas o preditor local.

Principais Contribuições

• Reenquadramento do Viés de Exposição: O artigo recastea o viés de exposição de um simples desvio de distribuição de treino-teste para um problema de subidentificação epistêmica decorrente de representação de estado insuficiente em sistemas parcialmente observados.
• Decomposição Formal: Fornece uma decomposição rigorosa do erro de previsão recursiva em lacunas de descompasso, aproximação e informação de proveniência.
• Evidência Empírica de Regimes Distintos: Demonstra que a rolagem recursiva entra em um regime de estado induzido distinto e que a tarefa corretiva local sobre esses estados é heterogênea e dependente de dados.
• Mecanismo de Correção: Mostra que os benefícios da correção recursiva surgem não apenas de um melhor ajuste local, mas de alterar a trajetória dos estados induzidos visitados durante a implantação.

Significância e Alegações
O artigo alega que compreender o viés de exposição requer reconhecer que a implantação recursiva cria um problema de previsão onde o alvo local não é determinado pelo estado numérico sozinho. A significância reside na mudança da narrativa de ver o viés de exposição puramente como um desvio de covariável para tratá-lo como raciocínio sob incerteza epistêmica autoinduzida.

Os autores observam modestamente que sua codificação de proveniência binária específica é um sinal mínimo e que os ganhos são condicionais em vez de uniformes. Eles não propõem uma solução universal, mas argumentam que o design de métodos futuros deve focar em explorar informações sobre como os estados são formados (ex: profundidade de rolagem, estimativas de incerteza ou traços estruturados) para resolver o aliasing entre estados observados e induzidos. O trabalho serve como um campo de teste para a incerteza epistêmica no aprendizado sequencial, sugerindo que melhorar a previsão recursiva requer abordar a subidentificação do mapa recursivo implantado.