ttda704 at SemEval-2026 Task 4: Modeling Narrative Structures via Pseudonymization and Multi-View Sentence Alignment

Resumen Técnico: ttda704 en SemEval-2026 Task 4

Planteamiento del Problema
El artículo aborda la Tarea 4 de SemEval-2026, que desafía a los participantes a modelar la similitud narrativa y el aprendizaje de representaciones. La dificultad central radica en distinguir entre el solapamiento léxico superficial y la estructura narrativa profunda. Como señalan Hatzel y Biemann (2024a), la comparación efectiva de historias requiere capturar dimensiones latentes como temas abstractos, la progresión de la trama (curso de acción) y los resultados finales, en lugar de depender de una simple coincidencia de palabras clave o de la extracción de eventos. Los autores destacan que, si bien los Modelos de Lenguaje de Gran Escala (LLMs) generativos pueden razonar a través de estas ambigüedades, su costo computacional y latencia los hacen poco prácticos para tareas escalables de recuperación y generación de embeddings. En consecuencia, el objetivo es desarrollar un sistema eficiente basado en embeddings que capture los matices estructurales de la narrativa sin depender de la costosa inferencia generativa.

Metodología
Los autores proponen un marco de aprendizaje contrastivo utilizando sentence transformers ajustados (fine-tuned), implementado a través de dos pipelines distintos correspondientes a las pistas de la tarea:

• Track A (Clasificación de Vista Única): Este pipeline se enfoca en determinar qué historia de entre dos candidatas es narrativamente más cercana a una historia ancla.

  • Pseudonimización: Para mitigar las correlaciones espurias causadas por nombres de entidades específicos (por ejemplo, la coincidencia de personajes o ubicaciones), los autores aplican un paso de normalización referencial. Utilizando fastcoref y spaCy, mapean las menciones repetidas de la misma entidad a marcadores genéricos consistentes (por ejemplo, "Personaje_A") preservando al mismo tiempo la correferencia dentro de la historia. Esto obliga al modelo a atender a la progresión semántica en lugar de a la identidad léxica.
  • Arquitectura y Entrenamiento: El sistema utiliza el modelo all-mpnet-base-v2 como base. Para prevenir el sobreajuste y preservar el conocimiento lingüístico preentrenado, se emplea una estrategia de "Congelación de Capas Inteligente" (Smart Layer Freezing): los parámetros de embedding y el 40% inferior de las capas del transformer se mantienen congelados, mientras que las capas superiores se ajustan. El modelo se entrena utilizando pérdida de margen de triplete (triplet-margin loss) sobre datos sintéticos.

• Track B (Aprendizaje de Representación Multi-Vista): Este pipeline genera embeddings vectoriales donde la similitud de coseno refleja la afinidad narrativa.

  • Descomposición Multi-Vista: En lugar de codificar el texto completo como un único vector, los autores descomponen cada historia en tres vistas distintas utilizando LLMs (específicamente o3-mini): Tema (idea central controladora), Trama (secuencia cronológica de eventos que cambian el estado) y Resultado (resolución).
  • Aprendizaje Contrastivo: El modelo emplea cabezales de proyección específicos para cada vista con el fin de mapear estos componentes en espacios de embedding ortogonales. Se aplica una función de pérdida contrastiva ($L_{con}$) a cada vista para maximizar la similitud entre los aspectos narrativos coincidentes y minimizarla para aquellos que no lo son.
  • Alineación Autosupervisada: Para asegurar la coherencia entre las diferentes vistas, se introduce una pérdida de alineación ($L_{align}$). Esta pérdida minimiza la distancia entre el embedding fusionado (una suma ponderada de las cuatro vistas: texto completo, tema, trama y resultado) y el promedio de los embeddings de las vistas individuales, fomentando un espacio conjunto unificado.
  • Fusión: En la inferencia, los embeddings de los cuatro componentes se fusionan utilizando pesos fijos (0.5 para el texto completo, 0.1 para el tema, 0.2 para la trama y 0.2 para el resultado) seguidos de una normalización L2.

Contribuciones Clave
El artículo describe tres contribuciones principales:

1. Representación Narrativa Aumentada por LLM: Un marco determinista que aprovecha los LLMs estrictamente para el aumento de datos offline (extracción sintética de estructuras narrativas) y la descomposición estructural, apoyándose en sentence transformers eficientes y ajustados para la inferencia de similitud final.
2. Modelado Estructural Multi-Vista: Un enfoque de aprendizaje contrastivo que modela explícitamente los tres aspectos centrales de la similitud narrativa (tema, curso de acción, resultado) mediante cabezales de proyección específicos para cada vista y alineación autosupervisada, desacoplando señales complejas en espacios ortogonales.
3. Entrenamiento Contrastivo Robusto: La implementación de la optimización de margen de triplete combinada con la congelación inteligente de capas para mejorar la generalización preservando la sutileza de las estructuras narrativas.

Resultados

• Track A: El sistema alcanzó una puntuación privada de 0.6925, ocupando el puesto 14 de 42 equipos. El uso de datos pseudonimizados produjo una mejora constante sobre los datos brutos (de 0.6650 a 0.6925) para el modelo all-mpnet-base-v2. Los autores atribuyen esto a la eliminación del ruido específico de las entidades, forzando al modelo a centrarse en la estructura semántica.
• Track B: El sistema clasificó en el 6º lugar de 25 participantes con una puntuación privada de 0.6875. Los estudios de ablación en el conjunto de desarrollo indicaron que una estrategia de fusión ponderada (enfatizando el texto completo con 0.5, y pesos menores para tema, trama y resultado) superó el peso igualitario o los enfoques de vista única. La combinación de all-mpnet-base-v2 y el extractor LLM o3-mini produjo los mejores resultados.

Significancia y Limitaciones
Los autores afirman que su enfoque ofrece una alternativa práctica a la inferencia generativa basada en LLM para la recuperación narrativa a gran escala. Al desplazar la carga computacional a una fase de generación de datos offline y utilizar modelos de embedding eficientes en la inferencia, el sistema logra un rendimiento competitivo con una latencia significativamente menor.

Sin embargo, el artículo reconoce modestamente varias limitaciones:

• Generalización: Los modelos dependen de datos de entrenamiento sintéticos y pueden no generalizarse completamente a diversos estilos o dominios narrativos sin una mayor adaptación.
• Ruido de Extracción: El pipeline multi-vista depende de elementos narrativos extraídos automáticamente; sin una auditoría manual de calidad dedicada a estas extracciones, pueden persistir errores no cuantificados en la coherencia del tema o la trama.
• Ajuste de Hiperparámetros: Los pesos de fusión fijos y los ajustes de temperatura fueron optimizados en el conjunto de desarrollo y pueden no ser óptimos para dominios no vistos.

El trabajo concluye que, si bien el enfoque evita los costos prohibitivos del razonamiento generativo, la dependencia de datos sintéticos y la extracción automatizada introduce restricciones en la robustez de las representaciones aprendidas.