Second order asymptotics for the number of times an estimator is more than epsilon from its target value

Este artigo investiga a segunda ordem assintótica para o número de vezes que um estimador se desvia de seu valor alvo, introduzindo o conceito de "deficiência relativa assintótica" para distinguir entre estimadores com eficiência relativa assintótica idêntica e demonstrando, por exemplo, que o uso do denominador $n-1/3$ na estimativa da variância normal é superior a outras escolhas comuns.

O essencial

Imagine que você é um navegador tentando chegar a um tesouro escondido (o valor real, que chamaremos de θ). Você tem um mapa e uma bússola (o estimador), mas eles não são perfeitos. A cada passo que você dá (cada nova observação de dados), você faz uma nova estimativa de onde o tesouro está.

Às vezes, sua estimativa está longe demais do tesouro. Vamos definir uma "zona de perigo" ao redor do tesouro. Se sua estimativa cair fora dessa zona, chamamos isso de um "erro ε" (um erro pequeno, mas significativo).

O artigo de Nils Lid Hjort e Grete Fenstad trata de uma pergunta muito específica: Quantas vezes, ao longo de uma jornada infinita, um navegador vai errar o alvo?

Aqui está a explicação simplificada, usando analogias do dia a dia:

1. O Problema: Todos parecem iguais no começo

Imagine dois navegadores, o Navegador A e o Navegador B.

• Ambos são muito bons.
• Se você olhar apenas para a média de longo prazo deles, ambos parecem chegar no tesouro com a mesma precisão.
• Na estatística tradicional (chamada de "primeira ordem"), dizemos que eles têm a mesma eficiência. É como se dois carros de corrida tivessem a mesma velocidade média máxima.

Mas e se um deles for um pouco mais "estável" e o outro um pouco mais "trêmulo"? A estatística tradicional não consegue ver essa diferença sutil quando os erros são muito pequenos. É aí que entra a "segunda ordem" deste artigo.

2. A Grande Descoberta: Contando os "Quase Erros"

Os autores propõem uma nova maneira de medir quem é o melhor: contar quantas vezes o navegador sai da zona de segurança (ε) ao longo de toda a história.

Eles descobrem que, se você diminuir a zona de segurança (ε) até ficar minúscula, o número total de erros (Qε) se comporta de uma forma previsível.

• Se multiplicarmos o número de erros por ε², o resultado se estabiliza em um número que depende apenas da "variabilidade" do navegador.
• Se dois navegadores têm a mesma variabilidade, eles terão o mesmo número de erros na visão tradicional.

O Pulo do Gato (A Segunda Ordem):
O artigo pergunta: "E se eles tiverem a mesma variabilidade, mas um deles ainda for ligeiramente melhor?"
Eles mostram que, ao olhar para a diferença no número de erros entre dois navegadores muito parecidos, conseguimos ver qual é o verdadeiro campeão. É como ouvir o motor de dois carros idênticos: um faz um barulho de "tuc-tuc" e o outro "tuc-tuc-tuc". A diferença é pequena, mas existe.

3. O "Pulo do Gato" na Prática: O Denominador Mágico

O exemplo mais famoso e prático do artigo é sobre como calcular a variância (a dispersão) de um conjunto de dados.

Você provavelmente já viu a fórmula da variância na escola:
$$\text{Variância} = \frac{\sum (x_i - \text{média})^2}{N}$$
Ou talvez:
$$\text{Variância} = \frac{\sum (x_i - \text{média})^2}{N - 1}$$

• N é o número de dados.
• N-1 é usado para tornar a estimativa "inviésada" (sem viés).

Mas o artigo diz: "Esperem! Existe um número melhor!"

Usando a lógica de "contar os erros ε", eles provam que o melhor denominador não é N, nem N-1, mas sim N - 1/3.

• Analogia: Imagine que você está tentando adivinhar o peso médio de uma turma. Se você usar N, você tende a subestimar um pouco. Se usar N-1, você corrige, mas ainda não é o ponto ideal para evitar "quase erros". O N - 1/3 é o "ponto doce" que minimiza a chance de você dar um passo em falso (errar a estimativa) ao longo do tempo.

4. Por que isso importa? (A Analogia do Navegador)

Pense em dois métodos de estimativa como dois tipos de GPS:

• GPS A (Método Tradicional): Chega no lugar certo na média, mas às vezes dá um susto e aponta para o lado errado por um instante.
• GPS B (O Método Otimizado do Artigo): Também chega no lugar certo, mas é mais suave. Ele faz menos "sustos" (menos erros ε).

Para a maioria das pessoas, os dois GPS parecem iguais. Mas para um piloto de Fórmula 1 (ou um estatístico de precisão), fazer menos "sustos" significa chegar ao destino com mais segurança e menos correções bruscas.

5. O Resultado Final: Quem é o Vencedor?

O artigo testa vários cenários (média, variância, probabilidade binomial) e descobre que, em muitos casos, as fórmulas que usamos há décadas (como N-1) não são as melhores possíveis se o nosso objetivo for minimizar a frequência de erros pequenos.

• Para a variância normal: O vencedor é N - 1/3.
• Para a média de uma exponencial: O vencedor é um ajuste específico que usa N - 1/3 (em vez de N).
• Para a probabilidade binomial: O vencedor é uma fórmula que parece estranha, mas é matematicamente a mais eficiente em evitar erros.

Resumo em uma frase

Este artigo é como um ajuste fino de precisão para a estatística: ele nos ensina que, mesmo quando dois métodos parecem iguais, existe um "segredo" (uma pequena mudança na fórmula, como trocar N-1 por N-1/3) que faz um deles cometer menos erros ao longo do tempo, tornando-o o verdadeiro campeão da precisão.

Em suma: Não basta chegar perto do alvo; o melhor é o método que erra o alvo o menor número de vezes possível, mesmo que o erro seja minúsculo. E os autores nos deram a receita matemática para encontrar esse método.

Resumo técnico

Resumo Técnico: Segunda Ordem Assintótica para o Número de Erros $\epsilon$ de um Estimador

1. Problema e Motivação

O artigo aborda o problema de comparar sequências de estimadores $\{\hat{\theta}_n\}$ que são assintoticamente equivalentes na primeira ordem.

• Contexto: Seja $\hat{\theta}_n$ um estimador consistente para um parâmetro $\theta$. Define-se $Q_\epsilon$ como o número de vezes que o erro absoluto $|\hat{\theta}_n - \theta|$ excede uma tolerância $\epsilon$ (ou seja, o número de "erros $\epsilon$") ao longo de toda a sequência de observações ($n \ge 1$).
• Limitação da Primeira Ordem: Em trabalhos anteriores (Hjort & Fenstad, 1992), mostrou-se que, sob condições de regularidade, $\epsilon^2 Q_\epsilon$ converge em distribuição para uma variável aleatória $Q$ relacionada ao tempo que um movimento browniano $W(s)$ passa fora da região $|W(s)| \le s/\sigma$. A eficiência relativa assintótica (a.r.e.) tradicional é dada pela razão das variâncias limitantes ($\sigma_1^2 / \sigma_2^2$).
• O Desafio: Quando dois estimadores possuem a mesma distribuição limite (mesmo $\sigma^2$), a razão $EQ_{1,\epsilon}/EQ_{2,\epsilon}$ tende a 1 e a diferença $\epsilon^2(Q_{1,\epsilon} - Q_{2,\epsilon})$ tende a 0 em probabilidade. A primeira ordem não consegue distinguir qual estimador é "melhor" (isto é, qual comete menos erros esperados).
• Objetivo: Desenvolver uma teoria de segunda ordem para analisar a diferença esperada $E(Q_{1,\epsilon} - Q_{2,\epsilon})$ quando $\epsilon \to 0$, introduzindo uma medida de Deficiência Relativa Assintótica (a.r.d.).

2. Metodologia

Os autores utilizam uma abordagem baseada em expansões de Edgeworth e aproximações de Taylor para probabilidades, combinadas com a teoria de processos estocásticos (Movimento Browniano).

• Definição de Deficiência Relativa Assintótica (a.r.d.):
  A medida de comparação proposta é:
  $$\text{a.r.d.} = \lim_{\epsilon \to 0} E(Q_{1,\epsilon} - Q_{2,\epsilon})$$
  Se este limite for negativo, o estimador 1 é superior ao estimador 2, pois comete menos erros esperados.

• Técnica Analítica:

  1. Expansão de Edgeworth: Para estimar a probabilidade $P(|\hat{\theta}_n - \theta| \ge \epsilon)$, os autores utilizam expansões de Edgeworth da distribuição do estimador padronizado. Isso permite capturar efeitos de assimetria (skewness, $\gamma$) e curtose que são ignorados na aproximação normal padrão.
  2. Aproximação de Riemann: A soma discreta dos erros esperados sobre $n$ é aproximada por uma integral contínua. Especificamente, a soma $\sum_{n} P(\dots)$ é transformada em uma integral em relação a $s = n/m$ (onde $m = 1/\epsilon^2$).
  3. Cálculo de Limites: Os autores derivam limites para a diferença esperada $E\{Q_\epsilon(c) - Q_\epsilon(0)\}$, onde $c$ é um parâmetro que define a classe de estimadores (ex: $\frac{n}{n+c}\bar{X}_n$).

• Abordagem Alternativa (Seção 6): O artigo também menciona uma prova alternativa baseada na análise direta da distribuição do movimento browniano, onde a diferença $Q_{1,\epsilon} - Q_{2,\epsilon}$ (escalada por $\epsilon$) converge para variáveis relacionadas ao tempo que o movimento browniano passa nas fronteiras de certas regiões.

3. Resultados Principais

A. Caso Geral para Estimativa da Média (Seção 2)
Para uma sequência de estimadores da forma $\hat{\xi}_n(c, d) = \frac{n}{n+c}\bar{X}_n + \frac{c}{n+c}d$, onde $X_i$ tem média $\xi$, variância $\sigma^2$ e assimetria $\gamma$, o limite da diferença esperada de erros é:
$$\lambda_0(c, d) = \frac{(\xi - d)^2}{\sigma^2}c^2 - 2\left(1 - \frac{\gamma}{3}\frac{\xi - d}{\sigma}\right)c$$

• Descoberta Chave: A assimetria da distribuição subjacente ($\gamma$) entra naturalmente na fórmula de segunda ordem. Isso contrasta com a deficiência de Hodges-Lehmann, que depende apenas de momentos de segunda ordem.

B. Aplicações Específicas (Seção 3)
Os autores aplicam a fórmula acima para encontrar o estimador ótimo dentro de classes familiares:

1. Média Normal ($\sigma$ conhecido):
   • Estimador Bayesiano com prior normal. O estimador ótimo $\theta^*_n$ minimiza o risco esperado de erros $\epsilon$, concordando com a fórmula de credibilidade atuarial.
2. Média Exponencial:
   • Para $X_i \sim \text{Exp}(1/\theta)$, o estimador de máxima verossimilhança (ML) corresponde a $c=0$. O estimador ótimo para minimizar erros $\epsilon$ é obtido com $c = 1/3$.
   • O ML comete $1/9$a mais de erros esperados que o ótimo. O estimador de mínimos quadrados ($c=1$) comete$4/9$ a mais.
3. Variância Normal (Resultado Notável):
   • Para estimar $\sigma^2$ com dados normais, o denominador clássico é $N-1$ (estimador não viesado) ou $N$ (ML).
   • O artigo demonstra que o denominador $N - 1/3$ é superior.
   • O estimador $\hat{\sigma}^2 = \frac{\sum (Y_i - \bar{Y})^2}{N - 1/3}$ comete o menor número esperado de erros $\epsilon$ entre todas as escolhas de denominadores da forma $N-1+c$.
4. Probabilidade Binomial:
   • O estimador $(Y_n + 2/3)/(n + 4/3)$ é identificado como a sequência minimax de segunda ordem, superando a proporção amostral $Y_n/n$.

C. Casos Mais Complexos (Seção 4)

• Média Quadrática Normal ($\xi^2$):
  • Para estimar $\theta = \xi^2$, a solução ML é $(\bar{X}_n)^2$ e a solução UMV (mínima variância não viesada) é $(\bar{X}_n)^2 - \sigma^2/n$.
  • O estimador ótimo de segunda ordem é $(\bar{X}_n)^2 + \sigma^2/n$ (correspondente a $d=-1$ na notação do artigo).
  • Curiosamente, o estimador UMV (com $d=1$) é inferior ao ML neste critério de erros $\epsilon$.
• Desvio Padrão Normal:
  • Ao analisar erros na escala natural ($\sigma$) em vez de variância, o denominador ótimo muda para $N - 5/6$.
  • Para erros na escala logarítmica, o denominador ótimo é aproximadamente $N - 0.695$.

D. Limites Distribucionais (Seção 6)

• Enquanto a média da diferença converge para uma constante, a própria diferença escalada $\epsilon(Q_{1,\epsilon} - Q_{2,\epsilon})$ converge em distribuição para $A - B$, onde $A$ e $B$ são variáveis relacionadas ao tempo que o movimento browniano passa nas fronteiras $\pm s/\sigma$. Essas variáveis seguem distribuições exponenciais ou misturas de exponenciais e massas pontuais.

4. Contribuições e Significância

1. Novo Critério de Comparação: O artigo estabelece a Deficiência Relativa Assintótica (a.r.d.) baseada no número de erros $\epsilon$ como uma ferramenta poderosa para distinguir entre estimadores que são indistinguíveis pela eficiência relativa tradicional (a.r.e.).
2. Incorporação de Assimetria: Diferente de critérios clássicos (como Hodges-Lehmann baseados em MSE), a metodologia de segunda ordem proposta captura o efeito da assimetria ($\gamma$) da distribuição dos dados na performance do estimador.
3. Otimização de Estimadores Clássicos: O trabalho fornece justificativas teóricas rigorosas para escolhas de constantes em estimadores familiares que muitas vezes são arbitrárias ou baseadas apenas em não-viés ou MSE:
   • Justifica o uso de $N - 1/3$ para variância normal (superior a $N$ e $N-1$).
   • Identifica $N - 5/6$ e $N - 0.695$ como ótimos para desvio padrão em escalas natural e logarítmica, respectivamente.
   • Mostra que, para a média quadrática, o estimador com viés positivo ($+ \sigma^2/n$) é melhor que o UMV.
4. Conexão com Processos Estocásticos: O trabalho conecta profundamente a estatística de estimadores com a teoria do movimento browniano, mostrando que o comportamento assintótico de segunda ordem é governado pelo tempo que o processo estocástico passa em regiões de erro.
5. Implicações Bayesianas: O artigo discute como esses resultados se alinham com soluções Bayesianas sob certas priors, sugerindo que a minimização do número de erros $\epsilon$ pode ser vista como um critério de decisão natural.

Em suma, o artigo demonstra que, ao refinar a análise assintótica para a segunda ordem, é possível identificar estimadores "superiores" que minimizam a frequência de erros grandes em sequências infinitas, oferecendo recomendações práticas e teóricas para a escolha de constantes em fórmulas de estimação padrão.