Econometric Inference with Machine-Learned Proxies: Partial Identification via Data Combination

Este artigo propõe um framework para identificação parcial e inferência em modelos de momentos que utilizam proxies gerados por aprendizado de máquina, combinando uma amostra principal com uma amostra de validação e empregando transporte ótimo para obter intervalos de confiança válidos sem exigir suposições restritivas sobre o desempenho do modelo de ML.

O essencial

Imagine que você é um detetive tentando resolver um crime (o seu modelo econômico), mas a principal testemunha ocular (o dado verdadeiro que você precisa) está escondida em uma sala trancada. Você não pode entrar nessa sala.

No entanto, você tem um robô de inteligência artificial (IA) que consegue olhar por uma fresta da porta e fazer uma "aproximação" do que a testemunha está dizendo. Vamos chamar essa aproximação de Proxy.

O problema é que o robô não é perfeito. Às vezes ele ouve errado, às vezes ele confunde palavras, e às vezes ele até inventa detalhes baseados no que ele acha que deveria ouvir. Se você simplesmente pegar o que o robô disse e usá-lo como se fosse a verdade absoluta, sua investigação (sua análise econômica) vai dar errado. Você pode prender o suspeito errado ou soltar o culpado.

Aqui entra a grande contribuição deste artigo do Lixiong Li. Ele cria um novo método para lidar com robôs imperfeitos, sem precisar confiar cegamente neles.

A Metáfora do "Ponteiro" e o "Livro de Respostas"

O autor propõe uma ideia genial: em vez de tratar o robô como uma substituição da testemunha, tratemos o robô como uma ponte entre dois mundos.

Imagine que você tem dois grupos de dados:

1. O Mundo Real (Amostra Principal): Onde você tem o crime, os suspeitos e o que o robô "viu" (o Proxy), mas não tem a testemunha real.
2. O Laboratório de Treinamento (Amostra de Validação): Um pequeno grupo onde você tem a testemunha real e também o que o robô disse sobre ela.

A maioria dos economistas tentaria consertar o robô ou assumir que ele é perfeito. O autor diz: "Não! Vamos usar o Laboratório para entender como o robô erra e como ele acerta, e depois usar esse conhecimento para corrigir a investigação no Mundo Real."

A "Caixa Preta" e o "Mapa de Conexões"

O método usa uma ferramenta matemática chamada Transporte Ótimo. Pense nisso como um jogo de logística.

• Você tem um monte de caixas no Mundo Real (os dados do robô) e um monte de caixas no Laboratório (os dados reais).
• O objetivo é encontrar o caminho mais eficiente para "transportar" a informação do Laboratório para o Mundo Real, respeitando as regras do jogo.
• O autor cria um mapa que diz: "Se o robô disse 'X' no Mundo Real, qual é a probabilidade de que a verdade seja 'A', 'B' ou 'C', baseando-se no que vimos no Laboratório?"

Isso permite que você não precise saber exatamente como o robô funciona internamente (se ele é um algoritmo complexo de redes neurais ou uma regressão simples). Você só precisa saber a relação entre o que ele diz e a realidade, que você aprende no Laboratório.

Por que isso é revolucionário?

1. Não exige perfeição: Você não precisa que o robô seja 100% preciso. Se ele for ruim, o método ainda funciona, mas você terá uma resposta mais "vaga" (um intervalo maior de possibilidades). Se ele for bom, a resposta será precisa. É como dizer: "Com um robô ruim, só sabemos que o suspeito tem entre 50% e 80% de chance de ser o culpado. Com um robô bom, sabemos que é entre 95% e 99%." Ambos são resultados válidos e honestos.
2. Não precisa de dados completos: Antigamente, para usar um robô assim, você precisava ter um laboratório gigante onde tivesse tudo (o crime, o suspeito e a testemunha). O autor diz: "Não precisa! Basta ter o laboratório com a testemunha e o robô. O resto você consegue conectar."
3. Sem "chutes" estatísticos: O método usa uma técnica chamada "Cross-Fitting" (como dividir um bolo em fatias e testar cada fatia com um ingrediente diferente) para garantir que seus resultados sejam matematicamente sólidos, sem precisar de simulações de computador demoradas.

Resumo da Ópera

Este artigo ensina aos economistas e cientistas sociais como usar a Inteligência Artificial moderna (que analisa textos, imagens e dados complexos) sem ter medo de ser enganado pelos erros da IA.

Em vez de tentar consertar a IA ou ignorar seus erros, o autor diz: "Use a IA como uma ponte. Compare o que ela diz com a realidade em um pequeno grupo de testes, e use essa comparação para desenhar limites seguros sobre o que é verdade no mundo real."

É como se você tivesse um tradutor que às vezes erra. Em vez de confiar cegamente no que ele diz, você tem um dicionário de erros (o laboratório) que te diz: "Quando o tradutor diz 'gato', ele pode estar falando de 'gato', 'cachorro' ou 'pássaro', dependendo do contexto". Com esse mapa, você consegue entender a história inteira, mesmo com um tradutor imperfeito.

Resumo técnico

Resumo Técnico: Inferência Econométrica com Proxies Aprendidas por Máquina

1. O Problema

Na economia e nas ciências sociais, há uma tendência crescente de utilizar dados não estruturados (como texto e imagens) e algoritmos de Aprendizado de Máquina (ML) para construir proxies (variáveis substitutas) de variáveis latentes de interesse ($Z$) que seriam difíceis ou custosas de observar diretamente.

O desafio central identificado pelo autor é que o uso ingênuo ("plug-in") dessas proxies geradas por ML ($\hat{Z} = g(X)$) em modelos econométricos downstream (etapa de inferência) leva a:

• Estimação viesada: Devido ao erro de medição não clássico ($Z - \hat{Z}$) e ao problema do regressor gerado.
• Inferência inválida: Os erros de previsão do ML podem ser endógenos ao modelo econômico e correlacionados com covariáveis observadas ($W$), violando suposições padrão de exogeneidade.
• Dificuldade Teórica: As propriedades assintóticas de algoritmos de ML complexos (como taxas de convergência ou consistência) são frequentemente desconhecidas ou intratáveis analiticamente, tornando difícil justificar métodos tradicionais de correção de erro de medição.

Além disso, muitas vezes não se dispõe de uma amostra de validação completa que contenha simultaneamente as covariáveis do modelo ($W$), a variável latente verdadeira ($Z$) e a proxy ($\hat{Z}$).

2. Metodologia Proposta

O autor propõe um framework de Identificação Parcial baseado na combinação de dados, utilizando duas amostras distintas:

1. Amostra Downstream: Contém covariáveis observadas ($W$), dados não estruturados ($X$) e a proxy construída ($\hat{Z}$), mas não a variável latente $Z$.
2. Amostra de Validação Auxiliar: Contém observações conjuntas da variável latente ($Z$), da proxy ($\hat{Z}$) e, opcionalmente, de características observáveis extraídas de $X$ ($S$), mas não necessariamente das covariáveis $W$.

Conceito Central: Em vez de tratar $\hat{Z}$ como um substituto ruidoso de $Z$, o artigo o trata como uma variável de ligação (linking variable) que conecta as duas amostras. O objetivo é aprender a distribuição condicional de $Z$ dado $\hat{Z}$ a partir da amostra de validação e aplicá-la à amostra downstream.

Estratégia de Identificação:

• Transporte Ótimo (Optimal Transport - OT): O autor desenvolve uma caracterização da identificação baseada em um problema de Transporte Ótimo incondicional. Diferente de abordagens anteriores que exigem resolver um problema de OT condicional para cada valor de $\hat{Z}$ (o que é computacionalmente proibitivo para variáveis contínuas ou de alta dimensão), este método formula um único problema de OT entre as distribuições marginais incondicionais das duas amostras.
• Condições de Momento: O conjunto identificado $\Theta_I$ é definido como o conjunto de parâmetros $\theta$ para os quais existe uma distribuição conjunta compatível com as marginais observadas e que satisfaz as condições de momento estruturais $E[q(W, Z; \theta)] = 0$.
• Dualidade de Kantorovich: Para tornar o problema tratável computacionalmente, o autor utiliza a formulação dual de Kantorovich, transformando o problema de minimização sobre distribuições em um problema de maximização convexa sobre funções duais.
• Aproximação por Sieve: A classe infinita de funções duais é aproximada por um espaço de "sieve" (baseado em funções de base, como polinômios ou splines), reduzindo o problema a um programa convexo de dimensão finita.

Procedimento de Inferência:

• Divisão de Amostra e Cross-Fitting: Para evitar métodos de reamostragem (como bootstrap) que seriam computacionalmente caros e complexos de calibrar neste contexto, o autor utiliza uma técnica de sample splitting (divisão da amostra) e cross-fitting.
• Valores Críticos Analíticos: O procedimento gera estatísticas de teste em folds separados e combina-os. Os valores críticos são derivados diretamente de quantis da distribuição normal padrão, garantindo controle assintótico do tamanho (size control) sem necessidade de simulação intensiva.

3. Principais Contribuições

1. Framework Robusto para Proxies de ML: O método não exige suposições estruturais restritivas sobre o erro de medição (como independência condicional) nem garante estatísticos formais sobre o algoritmo de ML upstream (como consistência ou taxas de convergência). A validade depende apenas da disponibilidade de dados de validação conjuntos $(Z, \hat{Z})$.
2. Identificação Parcial Sharp (Nítida): O framework fornece limites (bounds) nítidos para o parâmetro de interesse. Se a proxy for perfeita, a identificação é pontual; se for ruidosa, o conjunto identificado reflete honestamente a incerteza, sem gerar inferências inválidas.
3. Flexibilidade de Espaços: O método permite que a variável latente $Z$ e a proxy $\hat{Z}$ residam em espaços de dimensões diferentes (ex: $Z$ é binária, mas $\hat{Z}$ é uma probabilidade contínua ou um vetor de scores), permitindo o uso de proxies mais ricas em informação do que simples classificações.
4. Inferência Computacionalmente Viável: A proposta de inferência baseada em cross-fitting e valores críticos analíticos oferece uma solução prática para problemas de identificação parcial que envolvem transporte ótimo, evitando a complexidade computacional do bootstrap.
5. Generalização para Combinação de Dados: A estratégia de identificação via transporte ótimo incondicional é aplicável a problemas gerais de combinação de dados (data combination), não se limitando apenas a proxies de ML.

4. Resultados (Simulações de Monte Carlo)

O autor valida o método através de extensas simulações:

• Controle de Tamanho (Size Control): O teste proposto mantém o controle do tamanho (taxa de rejeição sob a hipótese nula) em todos os cenários, incluindo diferentes tamanhos de amostra e níveis de ruído de previsão. Em contraste, o teste "plug-in" ingênuo falha dramaticamente, apresentando super-rejeição (viés) significativa.
• Poder e Informatividade: A precisão do conjunto identificado melhora com o aumento do tamanho das amostras (tanto downstream quanto de validação) e com a qualidade da previsão do ML.
• Efeito da Estratificação: A inclusão de variáveis de estratificação ($S$) que capturam heterogeneidade na qualidade da previsão (ex: onde o ML funciona melhor ou pior) permite estreitar os limites de identificação, tornando a inferência mais informativa.
• Proxies Contínuas vs. Discretas: O uso de proxies contínuas (ex: probabilidades preditas) em vez de discretas (classificações binárias) resulta em conjuntos de confiança mais estreitos, demonstrando que reter mais informação da saída do ML é benéfico.
• Aproximação por Sieve: O aumento da ordem do polinômio no sieve reduz a conservatividade do teste, aproximando-se dos limites teóricos nítidos.

5. Significância e Implicações

Este trabalho é altamente relevante para a econometria aplicada moderna, onde o uso de ML é onipresente.

• Para Pesquisadores Aplicados: Oferece um caminho seguro para utilizar medidas complexas derivadas de ML sem precisar confiar em suposições teóricas não verificáveis sobre o desempenho do algoritmo de previsão. Permite que o pesquisador escolha o melhor algoritmo de ML para o contexto empírico, focando na preservação de informação econômica relevante em vez de apenas na precisão estatística.
• Para Desenvolvedores de ML: Sugere uma nova métrica de avaliação: a utilidade de um preditor deve ser julgada pela sua capacidade de preservar a informação relevante para as condições de momento econômicos downstream, e não apenas pela sua acurácia preditiva bruta.
• Avanço Teórico: Resolve o problema de inferência em modelos de momento com dados combinados e variáveis latentes não observadas, fornecendo uma ferramenta teórica e computacionalmente viável que supera as limitações de abordagens anteriores baseadas em transporte ótimo condicional ou exigências de amostras de validação completas.

Em suma, o artigo fornece uma "ponte" rigorosa entre a era dos dados não estruturados/ML e a inferência econométrica causal, garantindo validade estatística mesmo na presença de erros de medição complexos e não clássicos.