Simple approximations of some statistical functions

1. Problema

O artigo aborda a necessidade de simplificar os cálculos estatísticos no processamento de observações e medições. Embora existam pacotes estatísticos avançados e softwares proprietários, muitas aplicações práticas — especialmente em computação automatizada, em larga escala e com recursos computacionais limitados — exigem algoritmos simples e rápidos.

O problema central identificado é que as fórmulas de aproximação existentes na literatura para distribuições estatísticas são frequentemente excessivamente complexas e projetadas para cobrir todo o domínio de definição das funções. No entanto, para a maioria dos problemas práticos de processamento de dados, apenas uma faixa estreita de probabilidades de confiança (geralmente entre 0,9 e 0,999) é necessária. O autor argumenta que focar nessa faixa específica permite simplificar drasticamente as fórmulas sem sacrificar a precisão necessária para aplicações práticas.

2. Metodologia

O autor propõe expressões de aproximação analítica simples para três funções estatísticas fundamentais usadas no teste de hipóteses e na avaliação de significância. A metodologia baseou-se nos seguintes passos:

• Dados de Referência: Os dados iniciais e de teste foram extraídos das tabelas de Bol'shev e Smirnov (1983) e Owen (1962).
• Foco de Intervalo: Em vez de aproximar a função em todo o seu domínio, as fórmulas foram otimizadas para intervalos específicos de probabilidade de confiança ($p$) e níveis de significância ($Q$) comumente utilizados.
• Formas Funcionais: Foram desenvolvidas fórmulas polinomiais e racionais simples, cujos coeficientes foram ajustados para minimizar o erro dentro dos intervalos definidos.

As três funções abordadas são:

1. Distribuição Normal Inversa ($\Psi(p)$): Para encontrar o quantil $x$ dado um $p$.
2. Distribuição $t$ de Student ($t(Q, m)$): Para testar significância estatística, dependendo dos graus de liberdade ($m$).
3. Critério de Rejeição de Outliers ($\zeta(Q, n)$): Para identificar e rejeitar pontos de dados aberrantes em uma amostra de tamanho $n$.

3. Principais Contribuições e Resultados

A. Aproximação da Distribuição Normal Inversa

O autor propõe a fórmula:
$$\Psi(p) = a_1 + a_2 t + a_3 \sqrt{t} - a_4$$
Onde $t = -\ln(1-p)$.

• Resultado: Coeficientes ($a_1$ a $a_4$) foram calculados para diferentes intervalos de $p$ (ex: 0,95–0,999; 0,8–0,9999).
• Precisão: O erro máximo de aproximação varia de $0,00005$a$0,0024$, dependendo do intervalo escolhido. O autor destaca que, para a maioria das aplicações práticas, o intervalo 0,95–0,999 oferece o melhor equilíbrio entre simplicidade e precisão.
• Comparação: A fórmula é significativamente mais simples que algoritmos existentes (como Odeh e Evans, 1974), que oferecem precisão marginalmente superior ($10^{-6}$) mas com complexidade computacional muito maior.

B. Aproximação da Distribuição $t$ de Student

Para calcular os quantis $t(Q, m)$, é proposta a fórmula:
$$t(Q, m) = a_1 + \frac{a_2}{m + a_3}$$

• Resultado: Coeficientes foram fornecidos para vários níveis de significância ($Q$) e para diferentes faixas de graus de liberdade ($m$).
• Precisão: O método garante uma precisão de erro absoluto não superior a 0,05, 0,01 ou 0,001 para $m$ acima de certos limites ($M_1, M_2, M_3$) definidos na Tabela 2.
• Comportamento Assintótico: A fórmula converge corretamente para a distribuição normal quando $m \to \infty$, mantendo a consistência teórica.

C. Aproximação do Critério de Rejeição de Outliers

Para o estatístico $\zeta(Q, n)$, usado para rejeitar outliers, a fórmula proposta é:
$$\zeta(Q, n) = \Psi(p) \cdot \left( a_1 + a_2 n + \frac{a_3}{a_4 + n} \right)$$
Onde $p = 1 - Q/(200n)$.

• Ajuste: O autor ajustou as tabelas originais de Bol'shev e Smirnov para o caso de variância amostral (dividida por $n-1$) em vez da variância populacional (dividida por $n$).
• Precisão: O erro de aproximação é inferior a 0,007 para $n$ entre 6 e 500, e inferior a 0,003 para $n$ entre 6 e 100.
• Flexibilidade: São fornecidos dois conjuntos de coeficientes para cada nível de significância, otimizados para diferentes faixas de tamanho de amostra ($n$).

4. Significância e Conclusão

A contribuição principal deste trabalho reside na otimização entre simplicidade computacional e precisão prática.

• Eficiência: As fórmulas propostas evitam o uso de funções especiais complexas ou iterações numéricas pesadas, sendo ideais para implementações em software embarcado, processamento de dados em tempo real ou grandes volumes de dados onde a velocidade é crítica.
• Adequação Prática: O autor demonstra que a precisão "excessiva" de métodos complexos é desnecessária para a maioria das aplicações de observação, onde os níveis de confiança típicos (0,9 a 0,999) são cobertos com alta fidelidade pelas aproximações simples.
• Disponibilidade: O autor disponibilizou rotinas em Fortran implementando esses algoritmos no site do Observatório de Pulkovo, facilitando a adoção imediata por pesquisadores e desenvolvedores.

Em suma, o artigo oferece um conjunto de ferramentas matemáticas "leve" que permite a realização de testes estatísticos rigorosos sem a sobrecarga computacional de métodos de alta precisão, preenchendo uma lacuna importante no processamento de dados observacionais.