Automated Residual Plot Assessment With the R Package autovi and the Shiny Application autovi.web

Resumo Técnico: Avaliação Automatizada de Gráficos de Resíduos com autovi

Declaração do Problema
A avaliação visual de gráficos de resíduos é uma abordagem padrão para o diagnóstico de modelos lineares, mas sofre de limitações significativas. A avaliação manual não escala bem e frequentemente leva a decisões inconsistentes entre diferentes analistas. Embora o "protocolo de lineup" — que insere um gráfico observado entre gráficos nulos — reduza a subjetividade, ele exige um esforço humano substancial, tornando-o impraticável para aplicações em larga escala. Pacotes de software existentes (ex: lmtest, DHARMa, ggResidpanel) fornecem testes convencionais e diagnósticos gráficos, mas a dependência da interpretação subjetiva desses gráficos pode levar a problemas como a sobreinterpretação de padrões aleatórios como violações do modelo. Há uma necessidade de um método automatizado e escalável para avaliar gráficos de resíduos que mantenha o rigor da inferência visual sem o fardo do trabalho manual.

Metodologia
O artigo apresenta um framework que automatiza a avaliação de gráficos de resíduos utilizando visão computacional e testes estatísticos. O núcleo desta metodologia envolve os seguintes componentes:

1. Força do Sinal Visual (VSS - Visual Signal Strength): Uma métrica contínua é definida para quantificar a clareza dos padrões visuais em um gráfico de diagnóstico que possam indicar violações do modelo. Teoricamente, a VSS estima a distância entre a distribuição de resíduos de um modelo ajustado e uma distribuição de referência (esperada sob a especificação correta do modelo). Esta distância baseia-se na divergência de Kullback-Leibler (KL). Como a verdadeira distribuição de resíduos é desconhecida na prática, a VSS é aproximada por um modelo de visão computacional treinado em dados sintéticos.
2. Modelo de Visão Computacional: Uma rede neural convolucional (CNN) é treinada em um grande conjunto de dados de modelos de regressão sintéticos. Esses modelos simulam violações específicas dos pressupostos clássicos da regressão linear, incluindo não-linearidade (via transformações de polinômios de Hermite), heterocedasticidade (variância do erro dependente de preditores) e não-normalidade (distribuições discretas, uniformes e log-normais). O modelo recebe uma imagem do gráfico de resíduos e variáveis auxiliares (ex: número de observações) como entrada e produz uma VSS prevista.
3. Protocolo de Teste Estatístico:
   • Resíduos Nulos: Gerados sob a hipótese nula de que o modelo está corretamente especificado (tipicamente através da amostragem de uma distribuição normal com média zero e variância de erro estimada).
   • Resíduos de Bootstrap: Gerados ao reajustar o modelo em amostras de bootstrap para estimar a variação na VSS devido à variabilidade de amostragem.
   • Teste de Hipótese: A avaliação automatizada calcula a proporção de gráficos nulos cuja VSS é igual ou superior à do gráfico de resíduos observado. Esta proporção serve como um valor-$p$ para um teste de hipótese unilateral.
4. Implementação de Software:
   • Pacote R (autovi): Construído sobre o sistema de programação orientada a objetos bandicoot, o pacote integra R e Python via o pacote reticulate. Utiliza ggplot2 para geração de gráficos, cassowaryr para scagnostics (diagnósticos de gráficos de dispersão), pillow para processamento de imagem e TensorFlow para a CNN pré-treinada. A infraestrutura é modular, permitindo que usuários substituam etapas específicas (ex: extração de dados, simulação de resíduos) para estender a ferramenta a outras classes de modelos, como Modelos Lineares Generalizados (GLMs).
   • Aplicação Shiny (autovi.web): Uma interface web que permite realizar avaliações sem instalação local de dependências de R ou Python. Utiliza TensorFlow.js para executar o modelo de visão computacional diretamente no navegador, transferindo a carga computacional para o cliente.

Principais Contribuições

• Automação da Inferência Visual: O artigo apresenta a primeira implementação automatizada do protocolo de lineup para gráficos de resíduos, substituindo a comparação visual manual por um teste estatístico baseado em visão computacional.
• Métrica Quantitativa (VSS): Introduz uma métrica contínua e interpretável (VSS) que quantifica a força dos padrões visuais, unindo a lacuna entre a avaliação visual subjetiva e o teste estatístico objetivo.
• Framework Modular: O pacote autovi é projetado com uma arquitetura modular que suporta a extensão além da regressão linear simples. Os autores demonstram isso criando um verificador customizado para regressão de Poisson, mostrando como os usuários podem substituir módulos específicos (ex: simulação de resíduos nulos) para acomodar diferentes classes de modelos.
• Acessibilidade: Ao fornecer tanto um pacote R quanto uma aplicação Shiny baseada em navegador, os autores reduzem a barreira de entrada para diagnósticos automatizados, tornando a inferência visual avançada acessível a usuários sem experiência em programação ou configurações de ambiente complexas.

Resultados e Exemplos Ilustrativos
O artigo demonstra a eficácia da ferramenta através de vários exemplos:

• Falsos Positivos: Em um caso simulado onde uma aparente heterocedasticidade foi causada pela assimetria nas variáveis preditoras em vez de uma verdadeira violação do modelo, a ferramenta automatizada atribuiu corretamente uma VSS baixa (1.53) e um valor-$p$ não significativo (0.25), enquanto um humano poderia interpretar erroneamente o padrão.
• Detecção de Não-linearidade: Usando o conjunto de dados mtcars, a ferramenta detectou uma estrutura não-linear sutil (VSS = 3.57, $p < 0.05$) que foi confirmada por um teste Ramsey RESET.
• Padrões Complexos: Em um conjunto de dados "surreal" com estrutura embutida, a ferramenta identificou uma forte violação (VSS = 5.87, $p < 0.05$) que os testes de não-linearidade padrão (RESET) perderam, embora outros testes (Breusch-Pagan, Shapiro-Wilk) tenham detectado problemas relacionados.
• Extensão para GLMs: Um exemplo de regressão de Poisson com um termo quadrático omitido resultou em um padrão em forma de U no lineup. O verificador customizado identificou isso com sucesso com uma VSS de 4.875 e um valor-$p$ de 0.0099, demonstrando a adaptabilidade do framework.

Significância e Alegações
Os autores afirmam que o autovi e o autovi.web preenchem uma lacuna crítica no software estatístico ao automatizar uma tarefa que historicamente dependia da interpretação humana inconsistente. A significância deste trabalho reside na:

• Eficiência e Consistência: Automatizar a avaliação melhora a eficiência do processo de diagnóstico e promove a consistência entre diferentes usuários e estudos.
• Escalabilidade: A abordagem supera as restrições de mão de obra do protocolo de lineup, tornando a inferência visual viável para aplicações em larga escala.
• Acessibilidade: A interface web remove barreções técnicas (instalação, dependências), permitindo que um público mais amplo, incluindo aqueles sem experiência em programação, utilize ferramentas de diagnóstico avançadas.
• Fundação para Trabalhos Futuros: O framework modular estabelece uma base para a extensão da avaliação automatizada para outros gráficos diagnósticos e modelos estatísticos, potencialmente revolucionando a forma como as exibições visuais são usadas na inferência estatística.

O artigo conclui que estas ferramentas permitem que os pesquisadores foquem mais na interpretação de resultados e no refinamento de modelos do que em lidar com as complexidades da avaliação manual de gráficos, mantendo o rigor da inferência visual.