ML-Enabled Deformable Matched Filters for Band-Limit Compensation in Free-Space Optics

Resumo Técnico: Filtros Casados Deformáveis Baseados em ML para Compensação de Limite de Banda em Óptica de Espaço Livre

Definição do Problema
A modulação de amplitude e fase sem portadora (CAP) é uma solução de eficiência espectral para sistemas de comunicação óptica com largura de banda limitada. No entanto, seu desempenho é altamente sensível a distorções na forma do pulso causadas por limitações de largura de banda, turbulência atmosférica e imperfeições de hardware (ex: saturação do fotodetector). Receptores CAP tradicionais dependem de filtros casados (CMF) analiticamente derivados e fixos, projetados para canais ideais. Na prática, as restrições de largura de banda causam variações rápidas nas estatísticas do sinal, levando a um descompasso entre o filtro nominal e a estrutura ideal do receptor. Embora existam técnicas de equalização adaptativa, elas frequentemente exigem sequências de treinamento que consomem largura de banda, retreinamento frequente ou operam no nível do símbolo, onde não podem compensar diretamente as distorções da forma do pulso que ocorrem antes da amostragem. Além disso, as abordagens de aprendizado de máquina (ML) existentes para receptores ópticos tipicamente operam em formas de onda ou sequências de símbolos de alta dimensão, carecendo de interpretabilidade física e exigindo recursos computacionais substanciais.

Metodologia
O artigo propõe um framework de Filtragem Casada Deformável Assistida por Redes Neurais (DMF). Em vez de substituir o filtro casado CAP analiticamente derivado por um modelo de "caixa-preta", o receptor proposto aprende uma deformação residual do filtro nominal.

• Extração de Características: O sistema extrai um conjunto compacto de 16 características de sinal motivadas fisicamente da forma de onda recebida. Essas características são calculadas pela média em quatro segmentos temporais para garantir robustez. Elas são categorizadas em:
  1. Estatísticas no domínio do tempo: RMS de amplitude, variância, assimetria (skewness), curtose excessiva e média do envelope.
  2. Características no domínio da frequência: Dispersão espectral, roll-off, achatamento (flatness), entropia e largura de banda de 3 dB.
  3. Métricas de qualidade do sinal: Razão de potência pico a média (PAPR), potência de pico, autocorrelação em lags específicos e fator de crista do envelope.
• Arquitetura da Rede Neural: Uma rede neural totalmente conectada leve (duas camadas: 16 → 256 → 384 neurônios) mapeia o vetor de características de 16 dimensões para termos de correção de filtro de valor complexo ($\Delta h$). A rede prevê correções residuais para os coeficientes do CMF de base, em vez de aprender filtros do zero.
• Adaptação do Filtro: Os filtros deformáveis finais são obtidos adicionando as correções previstas aos filtros de tempo reverso derivados analiticamente. Os filtros resultantes são normalizados em energia antes da aplicação.
• Treinamento: A rede é treinada de ponta a ponta usando uma configuração de hardware-in-the-loop (HITL). A função de perda é uma combinação ponderada de Erro Vetorial de Amplitude (EVM) e penalidades de regularização de suavidade (primeira e segunda ordem) para garantir coeficientes de filtro fisicamente realizáveis e não oscilatórios. O treinamento utiliza geração de dados online com variação sistemática de largura de banda, evitando conjuntos de treinamento fixos para prevenir o overfitting a padrões de símbolos específicos.

Configuração Experimental
A validação foi realizada utilizando um sistema de transmissão CAP operando a 850 nm sobre um link de espaço livre de 200 mm. O sistema utilizou uma placa Xilinx Zynq ZCU102 com um ADI FMC-DAQ3 para conversão DAC/ADC. A limitação de largura de banda foi emulada no domínio digital via um filtro FIR de 101 taps com frequências de corte normalizadas ($\omega_n$) variando de 0,5 a 0,9. O sistema testou formatos de modulação 4-QAM e 16-QAM através de potências ópticas recebidas de -25 dBm a +5 dBm.

Principais Resultados

• Desempenho sob Restrições Severas: Sob severa limitação de largura de banda ($\omega_n = 0,5$), o filtro casado convencional (CMF) exibiu valores de EVM superiores a 50%, tornando a demodulação inviável. O DMF proposto reduziu o EVM para abaixo de 30% sob as mesmas condições, representando uma melhoria de desempenho relativo de mais de 40%.
• Regime Intermediário: Na região de transição ($\omega_n \in [0,65, 0,75]$), o DMF proporcionou melhorias consistentes de EVM de 5 a 15% sobre o CMF.
• Degradação Suave: À medida que as restrições de largura de banda eram relaxadas ($\omega_n \ge 0,85$), o desempenho do DMF convergia com o do CMF. A rede neural aprendeu termos de correção próximos a zero, retornando efetivamente ao filtro analiticamente ótimo, evitando assim a degradação de desempenho em condições favoráveis.
• Comparação com Equalizadores:
  • Um equalizador linear LMS de 192 taps operando na taxa de símbolo não proporcionou nenhuma melhoria mensurável sobre o CMF, confirmando que a distorção da forma do pulso é irreversivelmente perdida após a decimação.
  • Um pós-equalizador MLP operando na taxa de símbolo igualou ou foi superado pelo DMF no regime dominado por Interferência Entre Símbolos (ISI) (limites de largura de banda moderados a severos). Embora o MLP tenha mostrado vantagens marginais em regimes dominados por ruído, o DMF oferece um compromisso complexidade-desempenho superior ao operar pré-decimação sem exigir símbolos piloto ou retreinamento periódico.
• Generalização: O DMF demonstrou robustez em diferentes formatos de modulação (4-QAM e 16-QAM) e mostrou capacidade de generalização quando um modelo treinado em 16-QAM foi aplicado a 4-QAM sem retreinamento.

Significância e Alegações
O artigo afirma que o framework DMF proposto consegue unir a confiabilidade e interpretabilidade da teoria clássica de comunicações com a otimização baseada em dados. Sua principal significância reside em:

1. Estratégia Híbrida: Combina a confiabilidade e interpretabilidade dos filtros casados derivados analiticamente com a adaptabilidade do aprendizado de máquina ao aprender correções residuais, em vez de substituir toda a estrutura do receptor.
2. Intervenção Pré-Decimação: Ao adaptar o próprio filtro casado antes da amostragem na taxa de símbolo, o método compensa distorções de forma de pulso que equalizadores de taxa de símbolo não conseguem recuperar.
3. Eficiência e Interpretabilidade: O uso de um conjunto de características compacto e informado pela física permite uma arquitetura de rede neural pequena (102.528 parâmetros) que garante convergência rápida e mantém a interpretabilidade física, ao contrário de modelos de deep learning de alta dimensão baseados em formas de onda.
4. Robustez: O sistema demonstra ganhos de desempenho significativos sob severas restrições de largura de banda, enquanto apresenta uma degradação suave para o desempenho convencional quando as condições são favoráveis, eliminando o risco de instabilidade induzida por ML.

Os autores concluem que esta abordagem oferece uma solução prática, livre de pilotos e adaptável por blocos para links ópticos com largura de banda limitada, particularmente em cenários onde a ISI é o impedimento dominante. O trabalho futuro identifica a investigação de impedimentos atmosféricos (turbulência, cintilação) e a comparação do DMF contra equalizadores com espaçamento fracionário e cadeias completas de DSP.