SC-Taxo: Hierarchical Taxonomy Generation under Semantic Consistency Constraints using Large Language Models

1. Declaração do Problema

A rápida expansão da literatura científica torna necessária a organização eficiente do conhecimento de domínio. Embora as taxonomias hierárquicas sejam cruciais para navegação, análise de tendências e recuperação de informações, os métodos de geração existentes sofrem com dois modos de falha primários:

• Distorção Estrutural e Desalinhamento de Granularidade: Métodos tradicionais frequentemente misturam diferentes níveis de abstração (por exemplo, colocar detalhes específicos de implementação como "Código Python" ao lado de algoritmos de alto nível como "Faster R-CNN" sob o mesmo pai).
• Deriva Semântica e Alucinação: Abordagens puras de Grandes Modelos de Linguagem (LLM) frequentemente geram nós "fora do domínio" ao superajustar-se a palavras-chave locais em resumos (por exemplo, gerar um nó "Conceitos Matemáticos" sob "Aprendizado Supervisionado" porque um resumo menciona "conceito matemático", ignorando o contexto algorítmico global).
• Causa Raiz: Essas questões decorrem da modelagem inadequada da consistência semântica hierárquica. Os métodos existentes falham em impor explicitamente restrições conceituais de cima para baixo e abstrações semânticas de baixo para cima simultaneamente, nem coordenam nós irmãos para prevenir redundância.

2. Metodologia: O Framework SC-Taxo

O SC-Taxo propõe um framework que desacopla a indução estrutural da geração semântica, integrando-as através de um mecanismo rigoroso de Fusão Profunda. O pipeline consiste em três fases principais:

A. Inicialização de Caminho Duplo

Para prevenir gerações sem fundamento, o framework inicializa dois caminhos paralelos:

1. Caminho Estrutural (Agrupamento): Os artigos são codificados em embeddings densos, reduzidos via UMAP e particionados em uma Árvore de Cluster ($T_{cluster}$) estrutural usando uma Busca em Largura (BFS) recursiva. Isso fornece uma estrutura topológica estável e independente de linguagem.
2. Caminho Semântico (Construção de Conceitos): Um LLM extrai conceitos técnicos-chave dos resumos, funde/sinonimiza e induz uma Árvore de Conceitos ($T_{concept}$) preliminar. Isso fornece significado semântico rico, mas carece de estabilidade estrutural.

B. Fusão Profunda (Validação de Quatro Rodadas)

A inovação central é um processo de validação mútua de quatro rodadas que alinha $T_{cluster}$ e $T_{concept}$:

1. Rodada 1 (Conceitos $\to$ Clusters): Valida se os conceitos gerados pelo LLM estão fundamentados nas distribuições reais de artigos. Conceitos com associações de artigos dispersas são filtrados como alucinações.
2. Rodada 2 (Clusters $\to$ Conceitos): Atribui o conceito validado mais representativo como o título para cada cluster estrutural. Clusters que carecem de suporte claro são sinalizados para reagrupamento.
3. Rodada 3 (Alinhamento Pai-Filho): Impõe Consistência Vertical. Ao gerar o título de um nó filho, o LLM é condicionado a: (1) o título global da raiz, (2) o título do nó pai e (3) o subconjunto específico de artigos do filho. Isso previne a deriva semântica.
4. Rodada 4 (Expansão de Irmãos): Impõe Consistência Horizontal. O LLM revisa os nós irmãos existentes para identificar conceitos técnicos faltantes, garantindo que não haja sobreposição conceitual ou desalinhamento de granularidade, reduzindo a redundância.

C. Controle de Qualidade

Antes da saída final, a taxonomia passa por:

• Pontuação de Conceitos: LLMs pontuam nós (1-10) com base na especificidade e cobertura; nós com baixa pontuação são podados.
• Detecção de Redundância: Similaridade de embeddings e verificação por LLM removem sinônimos ou conceitos subsumidos.
• Verificação de Estrutura: Valida a profundidade e os fatores de ramificação para garantir uma hierarquia equilibrada.

3. Contribuições Principais

1. Framework SC-Taxo: Uma arquitetura inovadora que mitiga explicitamente a distorção estrutural e a deriva de contexto ao desacoplar o agrupamento topológico da indução semântica impulsionada por LLM.
2. Mecanismo de Fusão Profunda: Introduz um mecanismo de geração de títulos bidirecional para alinhamento vertical rigoroso e associação semântica em nível de pares para redução de redundância horizontal.
3. Generalização Robusta Cross-linguística: Eficácia demonstrada tanto em literatura científica em inglês quanto em chinês, provando que o framework captura regularidades conceituais universais em vez de padrões superficiais específicos de idioma.

4. Resultados Experimentais

O framework foi avaliado no benchmark TaxoBench (inglês) e em um conjunto de dados de literatura científica chinesa curado (LLMs + Aprendizado por Reforço).

Métricas Principais:

• CEDS (Similaridade de Distância de Edição de Catálogo): Mede o isomorfismo estrutural e semântico com a verdade fundamental.
• HSR (Retenção de Estrutura Hierárquica): Avalia a preservação das relações ancestrais.
• Pureza/NMI: Mede a consistência do agrupamento ao nível do artigo.

Destaques de Desempenho:

• Inglês (TaxoBench): O SC-Taxo alcançou um CEDS de 28,7 state-of-the-art (superando a melhor linha de base em ~5 pontos) e HSR de 75,3. Também alcançou a maior Pureza (64,8).
  • Nota: Embora o NMI tenha sido ligeiramente inferior ao de algumas linhas de base (50,2 vs 60,1), isso foi um compromisso deliberado para evitar a fragmentação excessiva de artigos em subclusters sem sentido, priorizando a coerência hierárquica.
• Avaliação em Chinês: O SC-Taxo manteve desempenho robusto com um CEDS de 29,8 e HSR de 51,5, superando significativamente métodos puramente generativos (por exemplo, o GoalEx caiu para CEDS 14,8). Isso destaca sua capacidade de lidar com limites de tópicos implícitos e ambiguidade terminológica em chinês.

Estudos de Ablação:

• Remover a arquitetura de caminho duplo (apenas BU) causou uma queda significativa no CEDS (23,7), provando a necessidade de orientação semântica por LLM.
• Remover a validação bidirecional (sem Bi) reduziu o CEDS para 25,1, confirmando que a simples injeção de conceitos é insuficiente sem restrições entre níveis.
• Remover a expansão em nível de pares (sem Peer) diminuiu o HSR, mostrando a importância da consistência horizontal.

5. Significado

• Resolvendo a Deriva Semântica: O SC-Taxo aborda efetivamente o problema de "deriva de contexto" onde LLMs perdem o contexto global, garantindo que as taxonomias geradas sejam logicamente coerentes e estruturalmente sólidas.
• Interpretabilidade: Ao impor restrições estritas entre pai-filho e irmãos, as taxonomias resultantes são mais interpretáveis e úteis para tarefas downstream como análise de tendências e engenharia de ontologias.
• Independência de Idioma: A dependência do framework de uma estrutura de suporte estrutural (agrupamento) combinada com refinamento semântico permite que ele generalize entre idiomas, tornando-o uma solução viável para organizar corpora científicos não em inglês, onde a padronização frequentemente falta.
• Mudança de Paradigma: O trabalho vai além de tratar LLMs como meros geradores ou rotuladores post-hoc, integrando-os em um loop estruturado e iterativo de refinamento que respeita tanto a topologia estatística quanto a lógica conceitual.