SC-Taxo: Hierarchical Taxonomy Generation under Semantic Consistency Constraints using Large Language Models

1. Enunciato del Problema

La rapida espansione della letteratura scientifica rende necessaria un'organizzazione efficiente della conoscenza di dominio. Sebbene le tassonomie gerarchiche siano cruciali per la navigazione, l'analisi delle tendenze e il recupero delle informazioni, i metodi di generazione esistenti soffrono di due principali modalità di fallimento:

• Distorsione Strutturale e Disallineamento della Granularità: I metodi tradizionali spesso mescolano diversi livelli di astrazione (ad esempio, collocando dettagli specifici di implementazione come "Codice Python" accanto ad algoritmi di alto livello come "Faster R-CNN" sotto lo stesso genitore).
• Deriva Semantica e Allucinazione: Gli approcci puri basati su Modelli Linguistici di Grande Dimensione (LLM) generano spesso nodi "fuori dominio" sovrapponendosi eccessivamente a parole chiave locali presenti negli abstract (ad esempio, generando un nodo "Concetti Matematici" sotto "Apprendimento Supervisionato" perché un abstract menziona "concetto matematico", ignorando il contesto algoritmico globale).
• Causa Radice: Questi problemi derivano dalla modellazione inadeguata della coerenza semantica gerarchica. I metodi esistenti non riescono a imporre esplicitamente vincoli concettuali top-down e astrazioni semantiche bottom-up simultaneamente, né coordinano i nodi fratelli per prevenire la ridondanza.

2. Metodologia: Il Framework SC-Taxo

SC-Taxo propone un framework che disaccoppia l'induzione strutturale dalla generazione semantica, integrandole attraverso un rigoroso meccanismo di Fusione Profonda. La pipeline è composta da tre fasi principali:

A. Inizializzazione a Doppio Percorso

Per prevenire una generazione priva di fondamento, il framework inizializza due percorsi paralleli:

1. Percorso Strutturale (Clustering): I documenti vengono codificati in embedding densi, ridotti tramite UMAP e partizionati in una Albero di Cluster ($T_{cluster}$) strutturale utilizzando una ricerca in ampiezza (BFS) ricorsiva. Questo fornisce un impalcato topologico stabile e indipendente dalla lingua.
2. Percorso Semantico (Costruzione di Concetti): Un LLM estrae i concetti tecnici chiave dagli abstract, fonde/sinonimizza e induce un Albero di Concetti ($T_{concept}$) preliminare. Questo fornisce un ricco significato semantico ma manca di stabilità strutturale.

B. Fusione Profonda (Validazione a Quattro Round)

L'innovazione principale è un processo di validazione reciproca a quattro round che allinea $T_{cluster}$ e $T_{concept}$:

1. Round 1 (Concetti $\to$ Cluster): Valida se i concetti generati dall'LLM sono radicati nelle effettive distribuzioni dei documenti. I concetti con associazioni di documenti disperse vengono filtrati come allucinazioni.
2. Round 2 (Cluster $\to$ Concetti): Assegna il concetto validato più rappresentativo come intestazione per ogni cluster strutturale. I cluster privi di un supporto chiaro vengono segnalati per un nuovo clustering.
3. Round 3 (Allineamento Genitore-Figlio): Impone la Coerenza Verticale. Quando si genera il titolo di un nodo figlio, l'LLM è condizionato su: (1) il titolo globale della radice, (2) il titolo del nodo genitore e (3) il sottoinsieme specifico di documenti del figlio. Questo previene la deriva semantica.
4. Round 4 (Espansione tra Fratelli): Impone la Coerenza Orizzontale. L'LLM esamina i nodi fratelli esistenti per identificare concetti tecnici mancanti, assicurando al contempo che non vi siano sovrapposizioni concettuali o disallineamenti di granularità, riducendo la ridondanza.

C. Controllo di Qualità

Prima dell'output finale, la tassonomia subisce:

• Punteggio dei Concetti: Gli LLM assegnano un punteggio ai nodi (1-10) in base alla specificità e alla copertura; i nodi con punteggio basso vengono potati.
• Rilevamento della Ridondanza: La similarità degli embedding e la verifica tramite LLM rimuovono sinonimi o concetti assorbiti.
• Controllo della Struttura: Convalida profondità e fattori di diramazione per garantire una gerarchia equilibrata.

3. Contributi Chiave

1. Framework SC-Taxo: Un'architettura innovativa che mitiga esplicitamente la distorsione strutturale e la deriva contestuale disaccoppiando il clustering topologico dall'induzione semantica guidata dall'LLM.
2. Meccanismo di Fusione Profonda: Introduce un meccanismo di generazione di intestazioni bidirezionale per un rigoroso allineamento verticale e un'associazione semantica a livello di pari per la riduzione della ridondanza orizzontale.
3. Robusta Generalizzazione Cross-Linguistica: Ha dimostrato efficacia sia sulla letteratura scientifica inglese che cinese, provando che il framework cattura regolarità concettuali universali piuttosto che pattern superficiali specifici della lingua.

4. Risultati Sperimentali

Il framework è stato valutato sul benchmark TaxoBench (inglese) e su un dataset curato di letteratura scientifica cinese (LLM + Apprendimento per Rinforzo).

Metriche Chiave:

• CEDS (Catalogue Edit Distance Similarity): Misura l'isomorfismo strutturale e semantico rispetto alla verità fondamentale.
• HSR (Hierarchical Structure Retention): Valuta la preservazione delle relazioni ancestrali.
• Purezza/NMI: Misura la coerenza del clustering a livello di documento.

Punti di Forza delle Prestazioni:

• Inglese (TaxoBench): SC-Taxo ha raggiunto un CEDS all'avanguardia di 28,7 (superando la migliore baseline di circa 5 punti) e un HSR di 75,3. Ha inoltre ottenuto la più alta Purezza (64,8).
  • Nota: Sebbene l'NMI fosse leggermente inferiore rispetto ad alcune baseline (50,2 contro 60,1), questo è stato un compromesso deliberato per evitare di frammentare eccessivamente i documenti in sottocluster privi di significato, dando priorità alla coerenza gerarchica.
• Valutazione Cinese: SC-Taxo ha mantenuto prestazioni robuste con un CEDS di 29,8 e un HSR di 51,5, superando significativamente i metodi generativi puri (ad esempio, GoalEx è sceso a un CEDS di 14,8). Ciò evidenzia la sua capacità di gestire confini tematici impliciti e ambiguità terminologiche in cinese.

Studi di Ablazione:

• La rimozione dell'architettura a doppio percorso (solo BU) ha causato un calo significativo del CEDS (23,7), dimostrando la necessità della guida semantica dell'LLM.
• La rimozione della validazione bidirezionale (w/o Bi) ha ridotto il CEDS a 25,1, confermando che una semplice iniezione di concetti è insufficiente senza vincoli cross-livello.
• La rimozione dell'espansione a livello di pari (w/o Peer) ha abbassato l'HSR, mostrando l'importanza della coerenza orizzontale.

5. Significato

• Risoluzione della Deriva Semantica: SC-Taxo affronta efficacemente il problema della "deriva contestuale" in cui gli LLM perdono il contesto globale, garantendo che le tassonomie generate siano logicamente coerenti e strutturalmente solide.
• Interpretabilità: Imponendo vincoli rigorosi tra genitore-figlio e tra fratelli, le tassonomie risultanti sono più interpretabili e utili per attività a valle come l'analisi delle tendenze e l'ingegneria delle ontologie.
• Indipendenza Linguistica: La dipendenza del framework da un impalcato strutturale (clustering) combinata con un affinamento semantico le permette di generalizzare tra le lingue, rendendola una soluzione praticabile per l'organizzazione di corpora scientifici non inglesi dove la standardizzazione è spesso assente.
• Cambiamento di Paradigma: Il lavoro va oltre il trattamento degli LLM come semplici generatori o etichettatori post-hoc, integrandoli invece in un ciclo iterativo strutturato di affinamento che rispetta sia la topologia statistica che la logica concettuale.