RF-GPT: Teaching AI to See the Wireless World

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) e os Modelos Multimodais (VLMs) tornaram-se poderosos sistemas de raciocínio geral para texto, imagens e áudio. No entanto, existe uma lacuna fundamental: os sinais de radiofrequência (RF), que formam a base física das comunicações sem fio, radar e sensoriamento integrado, não são nativamente suportados por esses modelos.

As abordagens atuais de inteligência artificial para telecomunicações enfrentam limitações severas:

• Modelos Específicos de Tarefa: Soluções tradicionais de RF usam redes neurais dedicadas para tarefas específicas (ex: classificação de modulação, estimativa de canal), exigindo arquiteturas e pipelines de treinamento separados para cada objetivo.
• Falta de Generalização: Esses modelos geralmente falham ao serem implantados em cenários diferentes dos dados de treinamento (ex: diferentes SNRs, condições de canal).
• Ausência de Interface Natural: Eles produzem apenas rótulos ou valores numéricos, sem capacidade de explicar o "porquê" de suas previsões ou interagir com engenheiros humanos em linguagem natural.
• Falta de Dados: Não existem grandes conjuntos de dados reais de RF com anotações textuais detalhadas, tornando o treinamento supervisionado em larga escala difícil e caro.

2. Metodologia: RF-GPT

O artigo propõe o RF-GPT, um Modelo de Linguagem de Radiofrequência (RFLM) que integra sinais de RF diretamente em um LLM multimodal. A arquitetura e o fluxo de trabalho são os seguintes:

A. Arquitetura do Modelo

O RF-GPT adapta um LLM multimodal existente (baseado em Qwen2.5-VL) através de três componentes principais:

1. Codificador de RF (Visão): Os sinais de RF brutos (sequências complexas IQ) são convertidos em espectrogramas tempo-frequência usando a Transformada de Fourier de Curta Duração (STFT). Esses espectrogramas são tratados como imagens (escala de cinza ou pseudo-RGB) e processados por um codificador visual pré-treinado (ex: ViT), gerando "tokens de RF".
2. Adaptador de RF: Uma camada linear leve projeta os tokens de RF do espaço de embeddings visuais para o espaço de embeddings do LLM.
3. LLM Decodificador: Um modelo de linguagem decoder-only recebe os tokens de RF como prefixo e gera respostas em linguagem natural (explicações, JSON estruturado, previsões) condicionadas ao sinal de entrada.

B. Geração de Dados Sintéticos e Instruções

Devido à escassez de dados reais anotados, os autores criaram um pipeline totalmente sintético:

• Geração de Ondas: Utilizaram geradores de ondas conformes aos padrões (MATLAB Toolboxes) para simular seis tecnologias: 5G NR, LTE, UMTS, WLAN, DVB-S2 e Bluetooth.
• Metadados e Legendas: O pipeline gera automaticamente espectrogramas e metadados exatos (tipo de modulação, SNR, alocação de recursos, etc.). Um pipeline determinístico converte esses metadados em legendas técnicas densas.
• Síntese de Instruções: Um LLM de texto (Qwen) converte essas legendas em pares de Instrução-Resposta diversificados. Isso inclui perguntas de classificação, análise de sobreposição, contagem de usuários e extração de informações estruturadas.
• Escala: O conjunto de dados final contém aproximadamente 12.000 cenas de RF e 625.000 exemplos de instruções, sem necessidade de anotação manual.

C. Treinamento

O modelo é submetido a Ajuste Fino Supervisionado (SFT) com base em instruções, utilizando o conjunto de dados sintético. O objetivo é minimizar a perda de entropia cruzada sobre os tokens de resposta, forçando o modelo a alinhar padrões visuais no espectrograma com conceitos de linguagem de RF.

3. Principais Contribuições

1. Conceito de RFLM: Formalização de um modelo de linguagem condicional fundamentado em tokens de RF, capaz de raciocinar sobre o espectro eletromagnético.
2. Pipeline de Dados Sintéticos: Criação de um corpus massivo e diversificado de espectrogramas e instruções para seis tecnologias de comunicação, cobrindo cenários de banda larga e sobreposição de sinais.
3. Benchmark Abrangente: Desenvolvimento de uma suíte de testes padronizada para avaliar:
   • Classificação de Modulação de Banda Larga (WBMC).
   • Detecção de Sobreposição (WBOD) no tempo e frequência.
   • Reconhecimento de Tecnologia Sem Fio (WTR).
   • Contagem de Usuários em WLAN (WNUC).
   • Extração de Informações de 5G NR (NRIE).
4. Validação Empírica: Demonstração de que o RF-GPT supera significativamente VLMs genéricos e modelos convencionais de visão computacional.

4. Resultados

Os experimentos compararam o RF-GPT (versões de 3B e 7B parâmetros) contra VLMs de propósito geral (Qwen2.5-VL, GPT-5) e baselines tradicionais (CNNs, Transformers).

• Desempenho de VLMs Genéricos: Modelos sem fundamentação em RF falharam drasticamente, operando próximo ao nível de "chute aleatório" (ex: <5% de acurácia em classificação de modulação e reconhecimento de tecnologia). Eles não conseguem interpretar espectrogramas como sinais de RF.
• Desempenho do RF-GPT:
  • Classificação de Modulação (WBMC): Alcançou até 82,4% de acurácia (vs. <2% dos baselines).
  • Detecção de Sobreposição (WBOD): Alcançou 91,5% em tarefas fáceis e 71,7% em tarefas difíceis de sobreposição tempo-frequência.
  • Reconhecimento de Tecnologia (WTR): Acurácia conjunta de 99,6%, identificando corretamente a tecnologia e o enlace (uplink/downlink).
  • Extração de Informações 5G (NRIE): Capaz de extrair parâmetros específicos como espaçamento de subportadoras (SCS), padrões SSB e contagem de UEs com alta precisão, superando modelos CNN/Transformer treinados especificamente para essas tarefas.
• Robustez: O modelo demonstrou robustez a imperfeições de canal (como desvio de frequência e não-linearidade de PA), embora seja sensível a desequilíbrio IQ, que distorce severamente a estrutura do espectrograma.
• Eficiência: O RF-GPT-7B alcançou desempenho superior a modelos CNN/Transformer pesados (como ViT-H) usando apenas 3 épocas de treinamento, em comparação com 30 épocas necessárias para os baselines.

5. Significado e Impacto

O trabalho representa um avanço crucial para as redes 6G nativas em IA. Ao permitir que modelos de linguagem "vejam" e "raciocinem" sobre sinais de RF, o RF-GPT:

• Unifica Tarefas: Substitui múltiplos modelos especializados por uma única interface baseada em instruções.
• Interpretabilidade: Fornece explicações em linguagem natural e saídas estruturadas (JSON), facilitando a integração com sistemas de gerenciamento de rede e agentes autônomos.
• Escalabilidade: A abordagem baseada em dados sintéticos supera a barreira da falta de dados reais anotados, permitindo o treinamento de modelos fundamentais (foundation models) para o domínio de RF.
• Aplicações Futuras: Habilita diagnósticos automáticos de falhas, geração de configurações de rede, validação de conformidade com padrões e gerenciamento de espectro em tempo real.

Em resumo, o RF-GPT preenche a lacuna entre a percepção física de RF e o raciocínio de alto nível, estabelecendo a base para uma nova geração de sistemas de comunicação inteligentes e autônomos.