On the Failure of Step-Response Tests to Certify Admissibility of Spectral Averaging Operators

Título: Sobre o Fracasso dos Testes de Resposta ao Degrau na Certificação da Admissibilidade de Operadores de Média Espectral

Autor: Justin Grieshop (Marithmetics)
Contexto: Análise Numérica, Processamento de Sinais, Teoria de Filtros Lineares.

---

1. O Problema

Em pipelines de processamento de sinais e numéricos, é comum aplicar operadores de suavização linear (como filtros de média) a sinais cujos valores possuem significado físico ou semântico restrito (ex: probabilidades, intensidades normalizadas, concentrações). Nesses casos, existe um requisito fundamental de preservação de intervalo (ou "admissibilidade"): se um vetor de entrada $x$ está contido no intervalo $[0, 1]^N$, a saída $Tx$ também deve permanecer estritamente dentro de $[0, 1]^N$.

A prática comum para verificar essa propriedade é o teste de resposta ao degrau (step-response test). A intuição é que, se o operador não produz "overshoot" (excesso acima de 1) ou "undershoot" (deficiência abaixo de 0) quando aplicado a uma função degrau, ele deve ser seguro para qualquer sinal limitado.

O problema central identificado no artigo: Este teste heurístico é fundamentalmente enganoso para operadores de convolução periódica definidos por truncamento espectral. Um operador pode exibir uma resposta ao degrau perfeita (sem violações visíveis) e, ainda assim, falhar catastróficamente na preservação de limites para outras entradas binárias, produzindo valores negativos ou superiores a 1.

2. Metodologia e Definições

O trabalho foca em operadores lineares invariantes no tempo (LTI) em um domínio discreto periódico ($\mathbb{Z}_N$), representados por convolução circular com um núcleo (kernel) real $h$.

• Admissibilidade: Um operador $T$ é admissível em $[0, 1]^N$ se $T\mathbf{1} = \mathbf{1}$ (preservação de constantes) e $x \in [0, 1]^N \implies Tx \in [0, 1]^N$.
• Construção dos Operadores: O autor analisa três tipos comuns de multiplicadores no domínio da frequência com um corte (cutoff) $K$:
  1. Média de Fejér (Cesàro): Suavização com janelamento triangular.
  2. Truncamento Espectral Agudo (Sharp): Corte abrupto (Núcleo de Dirichlet).
  3. Controle Espectral Assinado: Corte onde as frequências acima de $K$ são multiplicadas por $-1$.
• Abordagem Analítica e Construtiva:
  • O autor estabelece uma equivalência teórica entre admissibilidade e a não-negatividade do núcleo.
  • Desenvolve "testemunhas" (witnesses) construtivas: entradas binárias $\{0, 1\}^N$ projetadas especificamente para explorar coeficientes negativos do núcleo.
  • Realiza varreduras numéricas (sweeps) sobre o parâmetro de corte $K$ para comparar a violação observada no teste de degrau versus a violação garantida teoricamente.

3. Principais Contribuições

A. Teorema de Caracterização (Necessário e Suficiente)

O artigo prova que, para operadores de convolução periódica que preservam a massa (soma dos coeficientes igual a 1), a admissibilidade em $[0, 1]^N$ é equivalente à não-negatividade de todos os coeficientes do núcleo de convolução ($h[m] \ge 0$ para todo $m$).

• Implicação: Se qualquer coeficiente do núcleo for negativo, o operador não é admissível, independentemente de como ele se comporta com sinais de teste específicos.

B. Testemunhas Construtivas e Limites Inferiores Certificados

Se o núcleo possui coeficientes negativos, o artigo fornece um método para construir explicitamente vetores de entrada binários ($x_{neg}, x_{pos} \in \{0, 1\}^N$) que forçam a saída a violar os limites $[0, 1]$.

• A magnitude da violação é quantificada pela soma dos coeficientes negativos ($S_-$).
• Existe uma garantia de que o mínimo da saída será $\le S_-$ e o máximo será $\ge 1 - S_-$.

C. A "Ponto Cego" (Blind Spot) Próximo ao Nyquist

O trabalho identifica e explica um fenômeno crítico onde o teste de degrau falha completamente:

• Quando o corte espectral $K$ está logo abaixo da frequência de Nyquist ($K = N/2 - 1$), o teste de degrau canônico (meio-degrau) pode exibir zero overshoot (resposta perfeita).
• Isso ocorre porque o sinal de degrau é ortogonal ao modo de Nyquist (a única frequência que o operador altera em relação à identidade).
• No entanto, o núcleo real ainda possui massas negativas significativas. O autor demonstra que, mesmo com resposta ao degrau perfeita, existem entradas binárias que geram violações garantidas de cerca de $0.5$ (para truncamento agudo) ou $1.0$ (para controle assinado).

D. Reprodutibilidade

O artigo inclui um conjunto de dados e códigos abertos (disponíveis no Zenodo e GitHub) que reproduzem as figuras e as certificações numéricas, permitindo a verificação independente dos resultados.

4. Resultados Chave

1. Ineficácia do Teste de Degrau: O teste de resposta ao degrau mede apenas somas parciais contíguas do núcleo. Ele não detecta coeficientes negativos que se cancelam quando somados em blocos contíguos (como no degrau), mas que causam violações quando isolados por entradas binárias arbitrárias.
2. Discrepância Quantitativa: Nas simulações com $N=2048$:
   • No corte $K = 1023$ (Nyquist-1), a violação observada no degrau foi $\approx 4.4 \times 10^{-16}$ (zero numérico).
   • A violação garantida teoricamente (via testemunha construtiva) foi $\approx 0.4995$ para truncamento agudo e $\approx 0.9990$ para controle assinado.
3. Comparação de Filtros:
   • Filtros de Fejér: Possuem núcleos não-negativos em todo o domínio, sendo admissíveis em todos os cortes. O teste de degrau e a certificação teórica concordam (ambos indicam segurança).
   • Filtros de Truncamento Agudo/Assinado: Possuem núcleos oscilatórios com lobos negativos. São não-admissíveis para qualquer corte não trivial, mesmo que o teste de degrau pareça "bom".

5. Significado e Implicações

• Mudança de Paradigma na Validação: O artigo argumenta que a "preservação de limites" não deve ser tratada como uma métrica de desempenho baseada em sinais de teste, mas como uma restrição de projeto baseada na estrutura do operador.
• Critério de Projeto Correto: Para garantir que um filtro linear preserve intervalos físicos (como probabilidades), o critério correto é a não-negatividade do núcleo no espaço real, não a suavidade no domínio da frequência ou a ausência de overshoot em um degrau.
• Risco em Aplicações Práticas: Em aplicações onde valores fora de $[0, 1]$ são fisicamente impossíveis ou causam erros downstream (ex: clipping, instabilidade em PDEs), confiar apenas em gráficos de resposta ao degrau pode levar a pipelines que falham silenciosamente em casos de borda não testados.
• Recomendação Prática: Ao relatar a admissibilidade de um filtro, os autores recomendam reportar:
  1. O valor mínimo do coeficiente do núcleo ($\min h[n]$).
  2. A massa negativa total ($S_-$).
  3. A entrada binária testemunha que atinge a violação máxima.

Em suma, o trabalho desmistifica a crença popular de que "filtros de baixa frequência agem como médias suaves", provando matematicamente que o truncamento espectral agudo, embora comum, viola fundamentalmente a preservação de limites devido à sua natureza oscilatória no espaço real, e que o teste de degrau é uma ferramenta de diagnóstico insuficiente e potencialmente perigosa para essa finalidade.