RF-GPT: Teaching AI to See the Wireless World

1. El Problema

A pesar de los avances masivos en Modelos de Lenguaje Grandes (LLMs) y Modelos Visuales-Lingüísticos (VLMs) multimodales, existe una brecha fundamental en el dominio de las telecomunicaciones: los modelos actuales no soportan nativamente las señales de radiofrecuencia (RF).

• Limitaciones de los enfoques actuales: Las soluciones existentes para la inteligencia en RF se basan en modelos de aprendizaje profundo específicos para tareas concretas (clasificación de modulación, estimación de canal, detección de interferencias). Estos modelos requieren arquitecturas separadas para cada tarea, dependen de conjuntos de datos pequeños y heterogéneos, y carecen de capacidad de razonamiento, explicación o interacción natural.
• La brecha de modality: Los LLMs aplicados a telecomunicaciones (como TelecomGPT) se centran exclusivamente en datos de texto y estructurados (logs, KPIs, tickets), ignorando la capa física (formas de onda RF, espectrogramas). Esto impide que la IA realice tareas avanzadas de percepción directa del espectro, como identificar tecnologías coexistentes, analizar solapamientos o validar el cumplimiento de estándares a nivel de señal.
• Falta de datos: No existen grandes conjuntos de datos de señales RF reales con anotaciones textuales expertas, debido al alto costo de la medición, la necesidad de hardware especializado y las preocupaciones de privacidad.

2. Metodología: RF-GPT

El artículo propone RF-GPT, un Modelo de Lenguaje de Radiofrecuencia (RFLM) que integra señales RF en un LLM multimodal, tratando los espectrogramas como entradas visuales.

Arquitectura

El modelo sigue una estructura de "encoder-adapter-LLM":

1. Codificación RF (Visión):
   • Las muestras complejas de señal (IQ) se convierten en espectrogramas tiempo-frecuencia utilizando la Transformada de Fourier de Corto Plazo (STFT).
   • Estos espectrogramas se mapean a imágenes (escala de grises o pseudo-RGB) y se procesan mediante un codificador visual preentrenado (basado en Vision Transformers, como los usados en LLaVA o Qwen-VL).
   • La salida son "tokens de RF" que capturan patrones de modulación, asignación de recursos e interferencias.
2. Adaptador (Proyección Lineal):
   • Un adaptador ligero proyecta los tokens de RF al espacio de incrustación del LLM, alineando las características visuales con el lenguaje.
3. Modelo de Lenguaje (Decodificador):
   • Un LLM decodificador (basado en Qwen2.5-VL) recibe los tokens de RF como prefijo y genera respuestas en lenguaje natural, explicaciones o salidas estructuradas (JSON) condicionadas a la señal.

Generación de Datos y Entrenamiento

Dado que faltan datos reales etiquetados, los autores desarrollaron un pipeline totalmente sintético:

• Generación de Ondas: Utilizaron generadores de ondas conformes a estándares (MATLAB 5G/LTE/UMTS/WLAN/Bluetooth) para crear 12,000 escenas de RF de banda ancha con 6 tecnologías diferentes.
• Anotación Determinista: Se extrajo metadatos exactos (tipo de modulación, SNR, ancho de banda, solapamientos) para crear descripciones técnicas precisas.
• Síntesis de Instrucciones: Un LLM de texto puro convirtió estos metadatos en 0.625 millones de pares de instrucción-respuesta, cubriendo tareas de clasificación, conteo, análisis de solapamiento y extracción de información.
• Ajuste Fino Supervisado (SFT): Se realizó un fine-tuning de modelos multimodales preentrenados (Qwen2.5-VL de 3B y 7B parámetros) utilizando este corpus sintético, sin ninguna anotación manual humana de espectrogramas.

3. Contribuciones Clave

1. Formulación del RFLM: Definición y realización práctica de un modelo de lenguaje condicionado a tokens de RF, capaz de razonar sobre señales físicas.
2. Pipeline de Datos Sintéticos: Creación de un corpus masivo y diverso de espectrogramas y pares instrucción-respuesta para seis tecnologías inalámbricas, eliminando la dependencia de anotación manual costosa.
3. Marco de Evaluación Integral: Desarrollo de un conjunto de benchmarks que incluyen:
   • Clasificación de modulación de banda ancha (WBMC).
   • Detección de solapamiento en tiempo y frecuencia (WBOD).
   • Reconocimiento de tecnología inalámbrica (WTR).
   • Conteo de usuarios en WLAN (WNUC).
   • Extracción de información específica de 5G NR (NRIE).
4. Validación Empírica: Demostración de que el "grounding" (anclaje) en RF es esencial, ya que los modelos VLM genéricos fallan estrepitosamente en estas tareas.

4. Resultados

Los experimentos compararon RF-GPT (3B y 7B) contra modelos VLM de propósito general (Qwen2.5-VL, GPT-5) y baselines tradicionales (CNN/ViT).

• Rendimiento Superior: RF-GPT superó drásticamente a los modelos genéricos. Mientras que los VLMs sin entrenamiento en RF obtuvieron puntuaciones cercanas al azar (ej. <5% en clasificación de modulación o detección de solapamiento), RF-GPT alcanzó:
  • WBMC: ~82.4% (Easy) y ~47.8% (Hard) con el modelo de 7B.
  • WTR (Reconocimiento de Tecnología): >99% de precisión en identificar tecnología y dirección del enlace.
  • WBOD (Solapamiento): ~91% en tareas fáciles y ~71% en tareas difíciles de solapamiento tiempo-frecuencia.
  • NRIE (Información 5G): Capacidad de extraer parámetros como espaciado de subportadoras (SCS) y patrones SSB con alta precisión.
• Comparación con Baselines: RF-GPT-7B superó a los modelos basados en CNN y ViT (entrenados durante 30 épocas) utilizando solo 3 épocas de entrenamiento, demostrando una mayor eficiencia de datos y capacidad de generalización gracias a la instrucción unificada.
• Robustez: El modelo mostró buena resistencia a imperfecciones como desviación de frecuencia portadora (CFO) y no linealidad de amplificadores, aunque fue más sensible al desequilibrio IQ (que distorsiona la estructura del espectrograma).

5. Significancia e Impacto

El trabajo de RF-GPT representa un cambio de paradigma en la inteligencia para redes inalámbricas:

• Unificación de Tareas: Permite realizar múltiples tareas de percepción de RF (clasificación, conteo, diagnóstico) en un solo modelo mediante instrucciones de lenguaje natural, eliminando la necesidad de arquitecturas específicas para cada tarea.
• Interfaz Explicable: Transforma la percepción de RF de una "caja negra" que solo devuelve etiquetas, a un sistema capaz de explicar qué observa, justificar predicciones y generar salidas estructuradas para controladores de red.
• Hacia Redes 6G: Sienta las bases para redes nativas de IA (AI-native networks) donde la IA puede interactuar directamente con la capa física, facilitando la gestión autónoma del espectro, la detección de interferencias y el cumplimiento de estándares.
• Viabilidad de Datos Sintéticos: Demuestra que los datos sintéticos generados por simuladores de estándares son suficientes para entrenar modelos fundacionales de RF, superando la barrera de la escasez de datos reales etiquetados.

En resumen, RF-GPT cierra la brecha entre la percepción de señales de radiofrecuencia y el razonamiento de alto nivel, ofreciendo una herramienta potente para la próxima generación de sistemas de comunicación inteligentes.