Resumo Técnico: Regressão Quantílica Multi-Fidelidade (MFQR)

1. Formulação do Problema

Em muitos domínios científicos (por exemplo, design molecular, ciência dos materiais), dados de alta fidelidade (HF) — como ensaios de ligação em laboratório úmido ou simulações de alta resolução — são precisos, mas escassos e caros de coletar. Por outro lado, dados de baixa fidelidade (LF) — como escores de acoplamento molecular ou simulações em grade grosseira — são abundantes, mas proxies imperfeitos. Embora a aprendizagem multi-fidelidade tenha sido amplamente aplicada para estimar médias condicionais, a estimativa de quantis condicionais permanece desafiadora.

A regressão quantílica é essencial para a quantificação de incerteza, particularmente para dados heterocedásticos ou assimétricos. No entanto, com tamanhos de amostra HF limitados ($n_H$), os estimadores de quantis condicionais sofrem de alta variância, escalando inversamente com a densidade condicional no quantil alvo. Isso leva a estimativas de quantis instáveis e intervalos de previsão amplos e pouco confiáveis, mesmo ao usar previsão conformal para garantir cobertura marginal. Os métodos multi-fidelidade existentes visam principalmente funções médias ou assumem relações autorregressivas simples, que não se traduzem diretamente para a natureza complexa e dependente do nível dos quantis condicionais.

2. Metodologia

Os autores propõem a Regressão Quantílica Multi-Fidelidade (MFQR), um framework de duas etapas, agnóstico ao modelo. A inovação central é um Vínculo Quantílico Local que reformula o problema de estimação.

2.1 O Vínculo Quantílico Local (Suposição 1)

O método postula que, para um nível de quantil HF alvo $\tau$ e covariável $x$, o quantil HF $Q_H(\tau | x)$ pode ser representado como um quantil LF avaliado em um nível de probabilidade dependente da covariável $u_\tau(x)$:
$$Q_H(\tau | x) = Q_L(u_\tau(x) | x)$$
Aqui, $u_\tau(x) \in (0, 1)$ é uma "função de nível". Se as distribuições condicionais LF e HF compartilharem formas semelhantes, $u_\tau(x)$ pode variar de forma mais suave no espaço da covariável do que a função de quantil HF original $Q_H(\tau | x)$.

2.2 O Estimador Wrapper

A primeira etapa constrói um estimador "wrapper" transformando o problema na estimação de $u_\tau(x)$:

1. Transformar Respostas HF: Usando um estimador de CDF condicional LF $\hat{F}_L(\cdot | x)$, as respostas HF $Y^H_i$ são envoltas em pseudo-respostas: $\hat{U}_i = \hat{F}_L(Y^H_i | X^H_i)$.
2. Estimar Função de Nível: Uma regressão quantílica é realizada na amostra HF $\{(X^H_i, \hat{U}_i)\}$ para estimar o quantil condicional das respostas envoltas: $\hat{u}_\tau(x) = \hat{Q}_{U|X}(\tau | x)$.
3. Mapear de Volta: O estimador wrapper final é obtido invertendo a CDF LF: $\tilde{q}_\tau(x) = \hat{F}_L^{-1}(\hat{u}_\tau(x) | x)$.

Vantagem Teórica: Sob modelos estruturais onde a diferença de fidelidade é uma distorção de escala localizada, o alvo envolto $u_\tau(x)$ depende apenas da função de distorção relativa. Se essa distorção for mais suave do que as funções de média ou escala subjacentes que dirigem o quantil HF, o estimador wrapper alcança uma taxa de convergência mais rápida (menor variância) do que a regressão quantílica HF direta.

2.3 Framework de Correção

Para abordar regimes onde o wrapper é subótimo (por exemplo, quando os dados LF são não informativos ou o vínculo quantílico local é fraco), os autores introduzem um framework de correção proximal:

• Correção de Um Passo: Uma atualização semelhante a Newton é aplicada ao estimador wrapper usando a equação de quantil HF. Isso corrige o viés movendo a estimativa em direção à solução de $\hat{F}_H(q | x) = \tau$. O tamanho do passo é ajustado via cross-fitting para minimizar a perda pinball.
• Correção Multi-Etapas: Se o vínculo quantílico local falhar significativamente, atualizações Newtonianas iterativas são aplicadas para convergir para a raiz do quantil empírico HF, desde que a inicialização esteja dentro da bacia de Newton.

O framework utiliza cross-fitting nos dados HF escassos para evitar overfitting durante a etapa de correção.

3. Contribuições Principais

1. Reformulação Novel: O artigo introduz o "vínculo quantílico local", transformando a estimação de quantis HF na estimação de uma função de nível mais suave $u_\tau(x)$ na escala de probabilidade.
2. Caracterização Teórica: Os autores fornecem taxas de convergência mostrando que o estimador wrapper supera a regressão HF direta quando a função de distorção é mais suave do que a superfície de quantil HF. Eles também caracterizam quando a etapa de correção fornece melhoria adicional, especificamente quando a CDF HF pode ser estimada com precisão mesmo com pequenos tamanhos de amostra.
3. Agnosticismo de Modelo: O método não requer formas paramétricas específicas ou acesso a dados de treinamento LF brutos durante a etapa HF; requer apenas um estimador da CDF condicional LF. Isso permite integração com modelos LF pré-treinados.
4. Robustez: O framework inclui mecanismos de correção (um passo e multi-etapas) que garantem robustez mesmo quando os dados LF são "desinformativos" (ou seja, quando a suposição do wrapper se mantém mal).

4. Resultados Experimentais

Os autores avaliam a MFQR em dados sintéticos e cinco conjuntos de dados científicos (Acroleína, Timina, o-HBDI, PDE de Burgers e Energia de Formação).

• Regime Informativo: Quando as distribuições LF e HF têm formas semelhantes, o estimador wrapper reduz significativamente o Erro Quadrático Médio (MSE) e a largura do intervalo de previsão em comparação com as linhas de base apenas HF. A função de nível $u_\tau(x)$ é quase plana, confirmando o ganho teórico em suavidade.
• Regime Não Informativo: Quando os dados LF introduzem heterocedasticidade não presente nos dados HF, o wrapper sozinho oferece ganhos modestos. No entanto, a correção de um passo reduz drasticamente o MSE (por exemplo, ~78% de redução em um exemplo sintético) e apertar os intervalos, aproveitando a equação de quantil HF para corrigir o viés do wrapper.
• Regime Desinformativo: Quando as funções médias LF e HF diferem de forma não linear, o wrapper não corrigido desempenha mal. A correção multi-etapas recupera com sucesso um desempenho comparável à estimação HF direta, visando iterativamente a equação de quantil HF.
• Conjuntos de Dados Científicos: Em conjuntos de dados moleculares e de PDE, a MFQR e a MFQR + OS consistentemente produzem os intervalos de previsão conformal mais estreitos (redução de 20–39% na largura) enquanto mantêm uma cobertura nominal de 90%.

5. Significado e Alegações

O artigo afirma que a MFQR fornece uma solução robusta e agnóstica ao modelo para quantificação de incerteza em configurações científicas com escassez de dados. Seu significado reside em:

• Preenchendo a Lacuna: Estende a aprendizagem multi-fidelidade de médias condicionais para quantis condicionais, abordando uma necessidade crítica de intervalos de previsão confiáveis na tomada de decisões (por exemplo, descoberta de medicamentos).
• Eficiência: Ao explorar a suavidade da função de nível, reduz a complexidade de amostra necessária para estimar quantis HF.
• Adaptabilidade: O design de duas etapas (wrapper + correção) garante que o método permaneça eficaz, seja os dados LF altamente informativos ou potencialmente enganosos.
• Praticidade: O framework é compatível com modelos LF existentes (incluindo modelos de base) e não requer re-treinamento em dados LF brutos, tornando-o adequado para cenários onde os rótulos HF são o principal gargalo.

Os autores concluem que, embora o método seja mais poderoso quando as distribuições LF e HF compartilham similaridades estruturais, as etapas de correção garantem que ele não degrade o desempenho em regimes desfavoráveis, oferecendo uma ferramenta confiável para descoberta científica.