Generalized Local Polynomial Regression with Decomposed Context-Aware Kernels

1. Formulação do Problema

A "Tautologia Euclidiana" na Regressão Polinomial Local (LPR):
A Regressão Polinomial Local (LPR) clássica é um pilar do alisamento não paramétrico, valorizada pela sua capacidade de adaptação local sem suposições globais rígidas. No entanto, ela sofre de uma limitação fundamental: as variáveis utilizadas para definir a vizinhança local (ponderação) são idênticas às utilizadas no ajuste polinomial.

• A Restrição: Esta "tautologia euclidiana" restringe a LPR a cenários onde a proximidade é definida exclusivamente pela distância euclidiana no espaço de características.
• A Lacuna: Dados modernos frequentemente residem em estruturas complexas e não euclidianas (grafos, variedades, categorias discretas ou redes de transporte). Nestes domínios, as observações podem estar "próximas" em um sentido estrutural (por exemplo, conectadas por uma linha de metrô), mas distantes no espaço de características euclidiano, ou vice-versa.
• A Consequência: A LPR padrão falha em capturar relações que variam através destes contextos não euclidianos, mantendo-se localmente suave no espaço de características primário. Além disso, o uso de um kernel monolítico sobre todas as características exacerba a "maldição da dimensionalidade".

2. Metodologia: LPR Contextual Consciente Generalizada (GC-LPR)

O artigo propõe a GC-LPR, um framework que desacopla as coordenadas de ajuste ($Z$) do contexto de ponderação ($C$).

A. Convenção de Modelagem

Em vez de tratar o contexto meramente como um modificador de variância, os autores modelam a função de regressão como dependente do contexto:
$$Y = m_C(Z) + \epsilon$$
Aqui, $Z$ representa as coordenadas euclidianas primárias onde ocorre o ajuste polinomial local, e $C$ representa contextos auxiliares (categóricos, geoespaciais, nós de rede, etc.) que modulam a relação.

B. O Estimador

A inovação central é o uso de um Kernel Produto Composto ($K_c$) que fatoriza a ponderação:
$$K_c(x, u; H_c) = K_{0,H}(\psi_0(x) - \psi_0(u)) \times \prod_{j=1}^J K_j(\psi_j(x), \psi_j(u); \eta_j)$$

• Termo de Ajuste ($K_{0,H}$): Opera no gráfico euclidiano $\psi_0(X) = Z$. Isso governa a aproximação polinomial local (por exemplo, linear ou quadrática) dentro do espaço de características.
• Termos de Contexto ($K_j$): Operam em mapas de características auxiliares $\psi_j(X) = C_j$. Estes kernels podem ser não euclidianos (por exemplo, distância de Haversine para geografia, distância de caminho mais curto para grafos, kernels Aitchison-Aitken para rótulos discretos).
• Mecanismo: O estimador atua como um "alisador projetado". Ele isola um "fatia" da variedade de dados definida pelo contexto $C$ e realiza o ajuste polinomial em $Z$ apenas dentro dessa fatia.

C. Extensão Robusta (GRC-LPR)

O framework inclui um fator de robustez opcional ($K_r$) baseado na estimação de densidade condicional da variável de resposta. Isso reduz o peso de outliers sem distorcer a definição de localidade, seguindo trabalhos recentes de Shulman (2025).

3. Contribuições Principais

1. Desacoplamento de Coordenadas e Contexto: O artigo separa formalmente a base de regressão (ajuste de $Z$) da definição de vizinhança (ponderação de $C$), permitindo que estruturas não euclidianas arbitrárias influenciem a estimação local sem forçá-las a entrar na base polinomial.
2. Reenquadramento Teórico do Alvo:
   • Os autores esclarecem que, com larguras de banda de contexto fixas, o estimador visa uma média induzida suavizada pelo contexto ($m_W$), e não a média condicional pontual ($m_{c^*}$).
   • Decomposição do Viés: O viés total é decomposto em:
     1. Viés Polinomial: Erro de aproximação padrão em $Z$ ($O(\|H\|^{p+1})$).
     2. Viés de Suavização: A diferença entre o alvo suavizado pelo contexto e o alvo pontual verdadeiro, decorrente da média sobre a vizinhança do contexto.
   • Esta teoria preserva as propriedades de redução de viés da LPR padrão em $Z$, permitindo que o contexto module a estimação.
3. Composabilidade: O framework integra-se perfeitamente com técnicas de regressão robusta (GRC-LPR) e lida com tipos de dados mistos (contínuos, categóricos, baseados em grafos) dentro de uma única função objetivo unificada.

4. Resultados Experimentais

A eficácia da GC-LPR foi validada em quatro experimentos, comparando-a com a LPR padrão, LPR robusta (RSKLPR) e Vizinhos Mais Próximos (KNN).

• Experimento 1: Habitação da Califórnia (Contexto Geoespacial)

  • Configuração: Previsão de preços de casas usando características tabulares + coordenadas.
  • Resultado: A GC-LPR (usando um kernel de contexto Haversine) superou significativamente a LPR padrão (RMSE 0,506 vs. 0,528).
  • Insight: O desacoplamento explícito do contexto geoespacial permitiu que o modelo emprestasse força de vizinhanças euclidianas mais amplas, respeitando ao mesmo tempo fronteiras geográficas, reduzindo o viés de suavização entre regiões.

• Experimento 2: NYC Airbnb (Contexto de Rede)

  • Configuração: Previsão de preços de listagens usando características tabulares + proximidade da rede de metrô (distância de caminho mais curto).
  • Resultado: O kernel de contexto de metrô (GRC-LPR) alcançou o menor RMSE ($1660) em comparação com modelos apenas de características ($2029).
  • Insight: A distância euclidiana falhou em capturar a verdadeira "proximidade" das listagens; o kernel de contexto baseado em grafos modelou com sucesso a conectividade topológica.

• Experimento 3: Rede de Voos dos EUA (Sinal de Grafo Sintético)

  • Configuração: Um conjunto de dados sintético onde a variável alvo é gerada via propagação de sinal em um grafo de rede de voos.
  • Resultado: Modelos de contexto de grafo (GC-LPR) superaram significativamente os modelos apenas de características.
  • Insight: A LPR padrão não conseguia distinguir entre aeroportos com características semelhantes, mas posições de rede diferentes. A GC-LPR capturou com sucesso a dependência estrutural.

• Experimento 4: Varicela na Hungria (Sinal de Grafo do Mundo Real)

  • Configuração: Previsão de contagens semanais de varicela em 20 condados conectados por uma rede rodoviária.
  • Resultado: Modelos conscientes de grafos mostraram melhorias consistentes, embora modestas, sobre as linhas de base (RMSE 0,820 vs. 0,835).
  • Insight: Validou o método em um problema de grafo temporal-espacial do mundo real, confirmando que a estrutura do grafo atua como um regularizador útil mesmo em dados ruidosos e do mundo real.

5. Significado

• Ponte entre Estatística e Aprendizado Geométrico: A GC-LPR preenche a lacuna entre estatística não paramétrica clássica interpretável e aprendizado geométrico moderno (Processamento de Sinais em Grafos). Ela retém as propriedades bem compreendidas de viés-variância da LPR, enquanto estende a aplicabilidade a domínios irregulares.
• Flexibilidade: Fornece um framework unificado para lidar com tipos de dados mistos (contínuos, categóricos, baseados em grafos) sem exigir regularização global complexa ou decomposição espectral.
• Impacto Prático: O método oferece uma ferramenta poderosa para domínios onde os dados são tabulares, mas as relações subjacentes são governadas por estruturas complexas (por exemplo, redes de transporte, grafos sociais, fronteiras administrativas), permitindo modelagem local mais precisa e interpretável.

Em resumo, o artigo resolve a rigidez da LPR clássica introduzindo uma abordagem de kernel decomposto que permite que a "vizinhança local" seja definida por contextos não euclidianos arbitrários, enquanto o "ajuste local" permanece um polinômio padrão no espaço de características primário.