The Classics at SemEval-2026 Task 3: Combining Transformer Models and LLM-Generated Annotations for Dimensional Aspect-Based Sentiment Analysis

Resumen Técnico: Los Clásicos en SemEval-2026 Tarea 3

Planteamiento del Problema
Este artículo aborda los desafíos del Análisis de Sentimiento Basado en Aspectos Dimensional (DimABSA), un cambio de paradigma desde la clasificación de sentimiento categórica tradicional (por ejemplo, positivo/negativo) hacia la predicción de puntuaciones continuas de valores reales finos. Específicamente, los autores abordan la Tarea 3 de SemEval-2026, que requiere mapear el sentimiento en un espacio bidimensional de valencia (positividad) y excitación (intensidad). La tarea se divide en dos subtareas:

1. Subtarea 1 (Regresión de Sentimiento de Aspecto Dimensional): Predecir puntuaciones de valencia y excitación para un texto dado y un aspecto específico.
2. Subtarea 3 (Predicción de Cuádruple de Sentimiento de Aspecto Dimensional): Una tarea de extracción de extremo a extremo que requiere la identificación simultánea de aspectos, categorías, frases de opinión y sus correspondientes puntuaciones continuas de valencia/excitación.

Los autores señalan que los modelos tradicionales suelen simplificar excesivamente las emociones humanas complejas y carecen de la opacidad necesaria para una toma de decisiones matizada, lo que requiere métodos capaces de realizar regresión continua y extracción estructurada.

Metodología
Los autores proponen dos procesos distintos adaptados a los requisitos específicos de cada subtarea:

• Subtarea 1: Ensamble Discriminativo con Aumento por LLM

  • Ensamble de Codificadores: El enfoque central implica el ajuste fino de un ensamble ponderado de modelos codificadores basados en transformadores (RoBERTa-Base, RoBERTa-Large y DeBERTaV3-Large para inglés; XLM-RoBERTa-Base y XLM-RoBERTa-Large para ruso). Se aplica una cabeza de regresión lineal al token [CLS] para producir las dos variables continuas.
  • Aumento basado en LLM (Pista Rusa): Para abordar la dificultad de extraer matices de sentimiento sutiles en ruso, los autores introducen una técnica de aumento de datos zero-shot. Un Modelo de Lenguaje Grande (LLM) ajustado por instrucciones genera racionales descriptivos sintéticos (centrándose en la agradabilidad y la intensidad) para cada instancia de entrenamiento. Estos racionales se concatenan con el texto de entrada original para proporcionar un contexto descriptivo explícito para los modelos codificadores.
  • Estrategia de Ensamble: Las predicciones se agregan mediante un promedio ponderado, con pesos optimizados empíricamente basándose en el rendimiento del conjunto de desarrollo.

• Subtarea 3: Marco Generativo Unificado

  • Decodificador LLM: En lugar de un proceso de múltiples pasos (que conlleva el riesgo de propagación de errores), los autores emplean un enfoque generativo unificado. Un LLM basado en decodificador (Llama-3.1-8B) es ajustado mediante Fine-Tuning de Bajo Rango (LoRA) para realizar una predicción estructurada.
  • Estimación Conjunta: El modelo es entrenado para procesar el texto de entrada y generar directamente una secuencia estructurada que contiene el cuádruple completo (Aspecto, Categoría, Opinión, Valencia-Excitación) en un solo paso hacia adelante. Esto permite que el modelo aprenda la relación entre las frases textuales descriptivas y su correspondiente intensidad emocional de forma simultánea.

Resultados Clave

• Rendimiento de la Subtarea 1:
  • Pista de Inglés: El ensamble ponderado logró resultados competitivos, con el sistema final superando a los baselines de los organizadores (por ejemplo, Kimi-K2 Thinking y Qwen-3 14B) tanto en el dominio de Restaurantes como en el de Laptops. Por ejemplo, en el dominio de Restaurantes, el sistema logró un RMSE de 1.23 frente al 2.14 del baseline.
  • Pista de Ruso: El aumento basado en LLM resultó efectivo, reduciendo el RMSE de los modelos XLM-RoBERTa del rango de 1.43–1.45 a 1.40–1.41.
• Rendimiento de la Subtarea 3:
  • El enfoque generativo de extremo a extremo con LLM alcanzó una puntuación F1 continua (cF1) de 0.3072 en el conjunto de prueba del dominio de Laptops.
  • Hallazgos de Ablación: Contrario a la hipótesis inicial de que los codificadores son superiores para la regresión numérica, el pipeline híbrido (usando un codificador para predecir puntuaciones para fragmentos extraídos por el LLM) tuvo un rendimiento inferior (cF1 0.3024). Esto sugiere que el decodificador LLM captura con éxito la relación entre el texto y la intensidad emocional sin necesidad de un módulo de regresión separado.
  • Sensibilidad: El estudio destacó una alta sensibilidad al fraseo de los prompts y a las tasas de aprendizaje; prompts alternativos o tasas de aprendizaje más altas (2e-4) degradaron significativamente el rendimiento.

Significancia y Reivindicaciones
El artículo sostiene que su principal contribución reside en demostrar la eficacia de los marcos generativos unificados para tareas complejas de extracción de sentimiento, desafiando la dependencia convencional de módulos separados de extracción y regresión.

• Capacidades de los LLM: Los resultados indican que los decodificadores ajustados por instrucciones pueden manejar eficazmente la regresión numérica continua cuando se entrenan conjuntamente con tareas de extracción, un hallazgo que contradice la suposición de que los codificadores son estrictamente más estables para la regresión.
• Aumento Contextual: El trabajo valida que el uso de LLM para generar contexto descriptivo sintético puede mejorar significamente a los modelos codificadores más pequeños, particularmente en idiomas con matices de sentimiento complejos como el ruso.
• Direcciones Futuras: Los autores sugieren que extender el enfoque puramente generativo a la regresión dimensional estándar (Subtarea 1) representa una dirección prometedora, aunque no pudieron explorarla completamente dentro del cronograma de la tarea compartida. También señalan limitaciones respecto a la escalabilidad de sus métodos a modelos más grandes y la sensibilidad de los resultados al diseño de hiperparámetros y prompts.

El sistema obtuvo el 7º lugar de 18 en la Subtarea 3 y se situó entre los 16 mejores en varios dominios en la Subtarea 1, demostrando una eficacia competitiva en el análisis de sentimiento de grano fino.