QKT: Quantum Kernel Transformer for High-Dimensional Classification Across Modalities

Resumo Técnico: QKT – Quantum Kernel Transformer para Classificação de Alta Dimensionalidade entre Modalidades

Definição do Problema
Na era da Computação Quântica de Escala Intermediária com Ruído (NISQ), a aplicação de Aprendizado de Máquina Quântico (QML) diretamente a dados de alta dimensionalidade enfrenta dois obstáculos primários: a dificuldade de carregar entradas de alta dimensionalidade bruta em estados quânticos grandes e a instabilidade de treinamento (platôs estéreis ou barren plateaus) associada a Circuitos Quânticos Parametrizados (PQCs) profundos. Embora modelos híbridos quântico-clássicos ofereçam uma alternativa implementável ao confinar o componente quântico a um PQC pequeno, as abordagens existentes frequentemente lutam com a estabilidade ao decodificar saídas quânticas ou falham em demonstrar vantagens consistentes sobre baselines clássicos em diversas modalidades de dados.

Metodologia
O artigo introduz o Quantum Kernel Transformer (QKT), uma arquitetura híbrida projetada para inserir uma camada quântica treinável entre um backbone clássico e um cabeçalho de classificação baseado em atenção. A arquitetura opera em quatro estágios distintos:

1. Codificação Clássica: Um backbone específico para a modalidade (ex: ResNeXt-50 para imagens/áudio, MLP para dados tabulares ou MiniLM para texto) comprime a entrada bruta $x$ em um vetor de características $h$.
2. Projeção: Um projetor MLP treinável $g_\phi$ comprime $h$ em um vetor de baixa dimensão $\xi$ que corresponde à contagem de qubits $n_q$. Crucialmente, $n_q$ é desacoplado da dimensionalidade da entrada bruta, permitindo que a mesma interface quântica lide com diversas modalidades.
3. Codificação Quântica (Embedding): O vetor $\xi$ é codificado em um estado quântico via um mapa de características $F$ (ex: ZZFeatureMap) e transformado por um ansatz variacional raso $A$ (ex: RealAmplitudes ou EfficientSU2). Isso forma o PQC $U(\xi; \omega)$.
4. Cabeçalho de Atenção de Distribuição: Diferente dos modelos híbridos padrão que achatam as probabilidades de medição em um classificador linear, o QKT trata as probabilidades dos estados de base $2^{n_q}$ como tokens. Ele aplica um mecanismo de autoatenção de múltiplas cabeças (multi-head self-attention) para aprender interações entre essas probabilidades antes de agrupá-las com pesos normalizados para produzir o logit de classificação final.

O modelo é treinado de ponta a ponta usando a regra de deslocamento de parâmetro (parameter-shift rule) para gradientes quânticos e otimização Adam.

Principais Contribuições

1. Arquitetura Agnóstica de Modalidade: Um pipeline unificado onde a contagem de qubits atua como um gargalo ajustável independente da dimensão de entrada, aplicável a texto, dados tabulares, áudio, imagem e física de altas energias.
2. Mecanismo de Atenção de Distribuição: Um novo cabeçalho que processa a saída quântica como uma distribuição de probabilidade em vez de um vetor de características plano, distinguindo-se das baselines de Hybrid-QNN linear.
3. Estudo Comparativo Controlado: Uma avaliação rigorosa em cinco benchmarks (AG News, Breast Cancer Wisconsin, BirdCLEF, CIFAR-10, SUSY) comparando o QKT contra baselines de Clássico, Clássico+Atenção e Hybrid-QNN Linear.
4. Framework de Reprodutibilidade: Um protocolo de escala de estação de trabalho totalmente reproduzível apresentando execuções com sementes (seeded runs), configuração baseada em YAML para cada célula de experimento e execução serializada em GPU para gerenciar a pressão de memória. Todo o código e artefatos são de código aberto.

Resultos
A avaliação, conduzida em simuladores exatos sem ruído, produz resultados mistos, porém esclarecedores:

• Desempenho Competitivo: Em tarefas de texto (AG News) e dados tabulares (Breast Cancer Wisconsin), o QKT é competitivo com fortes baselines clássicos e supera o Hybrid-QNN linear.
• Robustez: Em dados bioacústicos (BirdCLEF), o QKT alcança a maior acurácia média. Em dados de física de altas energias (SUSY), o QKT evita a severa instabilidade e o colapso de desempenho (caindo para 54% de acurácia) observado na baseline do Hybrid-QNN linear, mantendo o desempenho próximo ao baseline clássico (69%).
• Modo de Falha: Na classificação de imagens (CIFAR-10), o QKT subperforma significativamente tanto os baselines clássicos quanto os de clássico-atenção (40,28% vs. 84,11%), identificando um modo de falha específico onde o atual gargalo quântico é inadequado para características de imagem de alta variação.
• Insights de Ablação: Experimentos variando a contagem de qubits ($n_q$) e mecanismos de atenção revelam que a atenção de distribuição proporciona o benefício mais significativo em larguras de circuito muito pequenas (ex: $n_q=1$ em AG News), recuperando mais de 15 pontos percentuais de acurácia em comparação com um cabeçalho linear.

Significância e Alegações
O artigo explicitamente não alega uma vantagem quântica universal. Em vez disso, posiciona o QKT como uma arquitetura híbrida robusta que identifica nichos específicos onde um gargalo de kernel quântico treinável combinado com atenção de distribuição é eficaz. A principal significância reside em demonstrar que:

1. Componentes quânticos podem ser integrados em pipelines de alta dimensionalidade sem exigir o carregamento da entrada bruta em grandes estados quânticos.
2. A escolha do decodificador (atenção de distribuição vs. cabeçalho linear) é crítica para a estabilidade, particularmente em regimes de poucos qubits.
3. A arquitetura é atualmente limitada a tipos de dados específicos (texto, tabulares, bioacústicos) e falha em características de imagem complexas, definindo limites claros para pesquisas futuras.

Os autores concluem que as evidências apoiam um "desempenho competitivo com robustez aprimorada em células selecionadas", em vez de uma superioridade geral sobre métodos clássicos, e chamam para trabalhos futuros envolvendo hardware NISQ real, cabeçalhos quânticos específicos para imagens e estratégias de ansatz mais profundas.