SC-Taxo: Hierarchical Taxonomy Generation under Semantic Consistency Constraints using Large Language Models

1. Planteamiento del Problema

La rápida expansión de la literatura científica hace necesaria una organización eficiente del conocimiento de dominio. Si bien las taxonomías jerárquicas son cruciales para la navegación, el análisis de tendencias y la recuperación de información, los métodos de generación existentes adolecen de dos modos de fallo principales:

• Distorsión Estructural y Desalineación de Granularidad: Los métodos tradicionales a menudo mezclan diferentes niveles de abstracción (por ejemplo, colocar detalles específicos de implementación como "Código Python" junto a algoritmos de alto nivel como "Faster R-CNN" bajo el mismo padre).
• Deriva Semántica y Alucinación: Los enfoques puros de Modelos de Lenguaje Grandes (LLM) a menudo generan nodos "fuera de dominio" al sobreajustarse a palabras clave locales en los resúmenes (por ejemplo, generar un nodo "Conceptos Matemáticos" bajo "Aprendizaje Supervisado" porque un resumen menciona "concepto matemático", ignorando el contexto algorítmico global).
• Causa Raíz: Estos problemas surgen de la modelización inadecuada de la consistencia semántica jerárquica. Los métodos existentes no logran hacer cumplir explícitamente simultáneamente las restricciones conceptuales de arriba hacia abajo y las abstracciones semánticas de abajo hacia arriba, ni coordinan los nodos hermanos para prevenir la redundancia.

2. Metodología: El Marco SC-Taxo

SC-Taxo propone un marco que desacopla la inducción estructural de la generación semántica, integrándolas mediante un mecanismo riguroso de Fusión Profunda. El pipeline consta de tres fases principales:

A. Inicialización de Doble Ruta

Para prevenir una generación sin fundamento, el marco inicializa dos rutas paralelas:

1. Ruta Estructural (Agrupamiento): Los artículos se codifican en incrustaciones densas, se reducen mediante UMAP y se dividen en un Árbol de Agrupamiento ($T_{cluster}$) estructural utilizando una búsqueda en anchura (BFS) recursiva. Esto proporciona un andamio topológico estable y agnóstico al lenguaje.
2. Ruta Semántica (Construcción de Conceptos): Un LLM extrae conceptos técnicos clave de los resúmenes, fusiona/sinonimiza e induce un Árbol de Conceptos ($T_{concept}$) preliminar. Esto proporciona un rico significado semántico pero carece de estabilidad estructural.

B. Fusión Profunda (Validación de Cuatro Rondas)

La innovación central es un proceso de validación mutua de cuatro rondas que alinea $T_{cluster}$ y $T_{concept}$:

1. Ronda 1 (Conceptos $\to$ Agrupamientos): Valida si los conceptos generados por el LLM están fundamentados en las distribuciones reales de artículos. Los conceptos con asociaciones de artículos dispersas se filtran como alucinaciones.
2. Ronda 2 (Agrupamientos $\to$ Conceptos): Asigna el concepto validado más representativo como encabezado para cada agrupamiento estructural. Los agrupamientos que carecen de soporte claro se marcan para reagrupamiento.
3. Ronda 3 (Alineación Padre-Hijo): Hace cumplir la Consistencia Vertical. Al generar el título de un nodo hijo, el LLM se condiciona en: (1) el título global de la raíz, (2) el título del nodo padre y (3) el subconjunto específico de artículos del hijo. Esto previene la deriva semántica.
4. Ronda 4 (Expansión de Hermanos): Hace cumplir la Consistencia Horizontal. El LLM revisa los nodos hermanos existentes para identificar conceptos técnicos faltantes, asegurando al mismo tiempo que no haya superposición conceptual ni desajuste de granularidad, reduciendo la redundancia.

C. Control de Calidad

Antes de la salida final, la taxonomía se somete a:

• Puntuación de Conceptos: Los LLMs puntúan los nodos (1-10) basándose en la especificidad y la cobertura; los nodos con baja puntuación se podan.
• Detección de Redundancia: La similitud de incrustaciones y la verificación por LLM eliminan sinónimos o conceptos subsumidos.
• Verificación de Estructura: Valida la profundidad y los factores de ramificación para garantizar una jerarquía equilibrada.

3. Contribuciones Clave

1. Marco SC-Taxo: Una arquitectura novedosa que mitiga explícitamente la distorsión estructural y la deriva de contexto desacoplando el agrupamiento topológico de la inducción semántica impulsada por LLM.
2. Mecanismo de Fusión Profunda: Introduce un mecanismo de generación de encabezados bidireccional para una alineación vertical rigurosa y una asociación semántica a nivel de pares para la reducción de redundancia horizontal.
3. Generalización Robusta Multilingüe: Demuestra efectividad tanto en literatura científica en inglés como en chino, demostrando que el marco captura regularidades conceptuales universales en lugar de patrones superficiales específicos del idioma.

4. Resultados Experimentales

El marco se evaluó en la referencia TaxoBench (inglés) y en un conjunto de datos curado de literatura científica china (LLMs + Aprendizaje por Refuerzo).

Métricas Clave:

• CEDS (Similitud de Distancia de Edición de Catálogo): Mide el isomorfismo estructural y semántico con la verdad fundamental.
• HSR (Retención de Estructura Jerárquica): Evalúa la preservación de las relaciones ancestrales.
• Pureza/NMI: Mide la consistencia del agrupamiento a nivel de artículo.

Aspectos Destacados del Rendimiento:

• Inglés (TaxoBench): SC-Taxo logró un CEDS de 28.7 de última generación (superando a la mejor línea base en ~5 puntos) y un HSR de 75.3. También logró la mayor Pureza (64.8).
  • Nota: Aunque el NMI fue ligeramente inferior al de algunas líneas base (50.2 vs 60.1), esto fue un compromiso deliberado para evitar fragmentar en exceso los artículos en subagrupamientos sin sentido, priorizando la coherencia jerárquica.
• Evaluación en Chino: SC-Taxo mantuvo un rendimiento robusto con un CEDS de 29.8 y un HSR de 51.5, superando significativamente a los métodos generativos puros (por ejemplo, GoalEx cayó a un CEDS de 14.8). Esto destaca su capacidad para manejar límites de temas implícitos y ambigüedad terminológica en chino.

Estudios de Ablación:

• Eliminar la arquitectura de doble ruta (solo BU) causó una caída significativa en el CEDS (23.7), demostrando la necesidad de la guía semántica del LLM.
• Eliminar la validación bidireccional (s/v Bi) redujo el CEDS a 25.1, confirmando que la inyección simple de conceptos es insuficiente sin restricciones entre niveles.
• Eliminar la expansión a nivel de pares (s/v Peer) redujo el HSR, mostrando la importancia de la consistencia horizontal.

5. Significado

• Resolución de la Deriva Semántica: SC-Taxo aborda eficazmente el problema de la "deriva de contexto" donde los LLMs pierden el contexto global, asegurando que las taxonomías generadas sean lógicamente coherentes y estructuralmente sólidas.
• Interpretabilidad: Al hacer cumplir restricciones estrictas entre padre e hijo y entre hermanos, las taxonomías resultantes son más interpretables y útiles para tareas posteriores como el análisis de tendencias y la ingeniería de ontologías.
• Agnosticismo Lingüístico: La dependencia del marco de un andamio estructural (agrupamiento) combinado con el refinamiento semántico le permite generalizar entre idiomas, convirtiéndolo en una solución viable para organizar corpus científicos no ingleses donde a menudo falta la estandarización.
• Cambio de Paradigma: El trabajo va más allá de tratar a los LLMs como meros generadores o etiquetadores a posteriori, integrándolos en cambio en un bucle iterativo de refinamiento estructurado que respeta tanto la topología estadística como la lógica conceptual.