💻 computer science

ESLA: Empirical and Semantic Label Alignment for Multi-Source NER Transfer in Unlabeled Target Domains

O artigo introduz o ESLA, um framework que combina consistência de predição empírica e representações semânticas para alinhar rótulos de Reconhecimento de Entidades Nomeadas heterogêneos através de múltiplos domínios de origem, permitindo uma transferência entre domínios eficaz para domínios de destino não rotulados sem exigir supervisão de treinamento no lado do alvo.

Autores originais: Xiaobo Zhang, Congqing He, Ying He, Jian Peng, Dajie Fu, Tien-Ping Tan

Publicado 2026-09-04

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Xiaobo Zhang, Congqing He, Ying He, Jian Peng, Dajie Fu, Tien-Ping Tan

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo dos computadores que leem e compreendem a linguagem humana, existe um gargalo persistente: a necessidade de quantidades massivas de dados rotulados. Para ensinar uma máquina a reconhecer uma entidade nomeada — como o nome de uma pessoa, uma empresa ou uma data específica — os pesquisadores devem fornecer a ela milhares de exemplos onde esses itens foram manualmente identificados e marcados por humanos. Este processo é caro, lento e exige profunda especialização, tornando-se particularmente difícil em campos especializados como finanças ou medicina, onde os textos são abundantes, mas os exemplos anotados são escassos. Embora os pesquisadores tenham construído grandes bibliotecas de textos rotulados para tópicos gerais como notícias ou redes sociais, esses recursos frequentemente utilizam sistemas diferentes para a marcação. Um conjunto de dados pode chamar um tipo específico de entidade de "produto", enquanto outro a chama de "obra criativa" e um terceiro pode ignorá-la inteiramente. Essas inconsistências criam um muro que impede os computadores de aprender com o vasto pool de dados públicos existentes, deixando-os incapazes de transferir seu conhecimento para novos domínios não rotulados, onde é mais necessário.

Para derrubar esse muro, uma equipe de pesquisadores liderada por Xiaobo Zhang desenvolveu um novo método chamado ESLA, que significa Alinhamento de Rótulos Empírico e Semântico (Empirical and Semantic Label Alignment). O trabalho deles aborda o desafio de fundir múltiplos conjuntos de dados incompatíveis em um único recurso de treinamento unificado, sem a necessidade de quaisquer exemplos rotulados do domínio de destino. Os pesquisadores focaram na língua chinesa, combinando três conjuntos de dados públicos distintos: um contendo notícias e mídia geral, outro com detalhes granulares de textos online e um terceiro extraído de redes sociais. Cada uma dessas fontes utilizava seu próprio conjunto único de rótulos e definições. O objetivo era alinhar esses diferentes sistemas para que um computador pudesse aprender com todos eles simultaneamente, criando um modelo mais robusto capaz de compreender textos em uma área completamente nova: relatórios financeiros.

O núcleo da estrutura ESLA é uma estratégia de duas partes para decidir quais rótulos de diferentes conjuntos de dados devem ser tratados como a mesma coisa. A primeira parte observa como os dados realmente se comportam. Os pesquisadores treinaram um modelo em um conjunto de dados e depois o testaram em outro para ver com que frequência as previsões do computador coincidiam com os rótulos humanos no segundo conjunto de dados. Se um modelo treinado para encontrar "empresas" em um conjunto de dados identificasse consistentemente "organizações" em outro, o sistema reconhecia um forte vínculo prático entre esses dois rótulos. Este é o sinal empírico, uma medida de consistência no mundo real, em vez de apenas definições de dicionário. A segunda parte observa o significado das próprias palavras. Usando modelos de linguagem avançados, o sistema analisa o contexto no qual esses rótulos aparecem. Ele calcula o quão próximo a "ideia" de um rótulo está de outro em um espaço matemático, garantindo que "filme" e "livro" sejam entendidos como semanticamente semelhantes, mesmo que sejam rotulados de forma diferente nos arquivos de origem. Ao misturar esses dois sinais — a maneira como os dados se comportam e o significado das palavras — o sistema constrói um mapa que conecta os conjuntos de dados díspares.

No entanto, simplesmente fundir dados pode ser perigoso. Se os pesquisadores forçassem a união de rótulos que eram apenas vagamente relacionados, correriam o risco de confundir o modelo e degradar seu desempenho. Para evitar isso, a equipe introduziu uma verificação de estabilidade. Eles trataram o processo de fusão como um problema de otimização, buscando a combinação específica de regras que permitiria fundir o maior número de rótulos possível, garantindo que a precisão do modelo em seus dados originais não caísse significativamente. Eles também abordaram um problema comum onde um conjunto de dados pode ter um rótulo para um tipo específico de número que outro não possui. Em vez de ignorar essas categorias ausentes, o sistema usou o conhecimento do conjunto de dados que as possuía para gerar "pseudo-rótulos", preenchendo as lacunas para que o modelo pudesse aprender com o quadro completo.

Os resultados desta abordagem foram testados treinando o modelo unificado nos conjuntos de dados chineses fundidos e, em seguida, avaliando-o em um benchmark financeiro chamado FinReportNER, que continha textos de relatórios anuais de empresas de semicondutores. Crucialmente, os dados financeiros nunca foram usados para treinar o modelo ou ajustar o alinhamento; eles serviram apenas como um teste final de quão bem o sistema poderia generalizar para um novo domínio. O estudo descobriu que o método ESLA alinhou com sucesso quinze tipos diferentes de rótulos através dos três conjuntos de dados de origem, criando um corpus unificado que manteve alta precisão. Quando testado nos relatórios financeiros, o modelo treinado com esses dados fundidos alcançou uma pontuação Macro-F1 de 0,59, superando modelos treinados em qualquer único conjunto de dados de origem ou em uma combinação direta dos dados sem o alinhamento.

A melhoria foi particularmente notável em categorias específicas. Por exemplo, a capacidade do modelo de identificar "produtos" em relatórios financeiros saltou significativamente, atingindo uma pontuação de 0,06, o que é três vezes maior do que o melhor resultado de um modelo de fonte única. Da mesma forma, a identificação de entidades de "tempo" melhorou para uma pontuação de 0,89, superando todas as outras configurações. Esses ganhos sugerem que, ao alinhar cuidadosamente as diferentes formas como os humanos rotulam informações, o sistema aprendeu uma compreensão de entidades mais rica e flexível. O estudo explicitamente descartou a ideia de que simplesmente colar os conjuntos de dados funciona; uma fusão direta sem alinhamento resultou em uma pontuação baixa de 0,17, demonstrando que o processo de alinhamento é essencial. Além disso, os pesquisadores mostraram que confiar exclusivamente em especialistas humanos ou em grandes modelos de linguagem para definir as regras era menos eficaz do que sua abordagem baseada em dados, que pôde descobrir conexões que não eram imediatamente óbvias para observadores humanos.

Os pesquisadores concluem que seu método oferece uma maneira confiável e automatizada de reutilizar recursos de dados existentes para tarefas de cross-domain, desde que o domínio de destino não possua dados rotulados disponíveis. Embora o sistema atual funcione melhor ao fundir muitos rótulos granulares em categorias mais amplas, ele reconhece que ainda não consegue lidar totalmente com a situação inversa, onde um rótulo amplo precisa ser dividido em muitos específicos. No entanto, o estudo demonstra que, ao combinar evidência empírica com compreensão semântica, é possível construir um recurso de treinamento unificado que aumenta significativamente o desempenho em campos especializados como o financeiro, transformando dados públicos fragmentados em uma poderosa ferramenta para o aprendizado de máquina.

Resumo Técnico: ESLA para Transferência de NER Multiferonte

Declaração do Problema

O Reconhecimento de Entidades Nomeadas (NER) depende fortemente de corpora anotados de alta qualidade e larga escala, que são caros e demorados para construir, particularmente para domínios específicos como finanças e saúde. Embora existam conjuntos de dados de NER públicos, eles sofrem de heterogeneidade de esquemas de rótulos (diferentes definições, granularidades e convenções de nomenclatura) e são frequentemente projetados para domínios gerais (ex: notícias, redes sociais) em vez de domínios alvo específicos.

O desafio central abordado por este artigo é a transferência de NER entre domínios em cenários sem rótulos no alvo. Pesquisadores visam reutilizar múltiplos conjuntos de dados de origem públicos para treinar um modelo para um domínio alvo onde não há dados de treinamento rotulados disponíveis. No entanto, simplesmente fundir esses conjuntos de dados introduz conflitos severos devido a:

Heterogeneidade de Esquema: Rótulos com o mesmo nome podem ter escopos semânticos diferentes (ex: "TIME" em OntoNotes vs. BosonNER), e nomes diferentes podem se referir a conceitos similares.
Inconsistência de Anotação: A fusão direta sem alinhamento cria sinais de supervisão conflitantes, degradando o desempenho do modelo.
Rótulos Ausentes: Alguns tipos de entidades presentes em um conjunto de dados podem estar ausentes em outros, levando a exemplos negativos implícitos e viés de supervisão quando os conjuntos de dados são fundidos.

Soluções existentes, como mapeamento manual, alinhamento baseado em grafos de conhecimento ou estratégias baseadas em prompts de LLM, muitas vezes carecem de escalabilidade, dependem de pesada intervenção de especialistas ou falham em resolver conflitos semânticos subjacentes de forma eficaz.

Metodologia: Estrutura ESLA

Os autores propõem o ESLA (Empirical and Semantic Label Alignment), uma estrutura automática que alinha rótulos heterogêneos combinando dois sinais complementares: consistência de predição empírica e representações semânticas contextuais. A estrutura opera em três estágios principais:

1. Computação de Matriz de Sinal Duplo

O ESLA calcula pontuações de alinhamento entre pares de rótulos $(L_s, L_t)$ de diferentes conjuntos de dados de origem usando dois sinais:

Sinal Empírico ( $S_{emp}$ ): Mede a consistência do comportamento de anotação. Um modelo treinado no conjunto de dados $D_s$ prediz entidades em $D_t$ . O sinal é definido como a proporção de entidades verdadeiramente rotuladas como $L_t$ em $D_t$ que são preditas como $L_s$ pelo modelo. Isso captura quão bem as normas de anotação de um conjunto de dados mapeiam outro.
Sinal Semântico ( $S_{sem}$ ): Mede a similaridade entre protótipos de rótulos em um espaço compartilhado de embeddings contextuais (usando Chinese-BERT-wwm-ext). Para cada rótulo, um vetor protótipo é construído pela média das representações contextuais normalizadas de seus spans de entidade. O sinal é a similaridade de cosseno entre esses protótipos, clipada para zero para valores negativos.

Esses sinais são fundidos via interpolação linear:
$S_{merge}(L_s, L_t, \lambda) = (1 - \lambda) \cdot S_{sem}(L_s, L_t) + \lambda \cdot S_{emp}(L_s, L_t)$
onde $\lambda$ equilibra a contribuição da evidência semântica vs. empírica.

2. Fusão Sequencial e Otimização com Restrição de Estabilidade

Busca de Caminho: Para fundir $N$ conjuntos de dados, o ESLA utiliza uma estratégia gananciosa (greedy) baseada no sinal empírico assimétrico para determinar a ordem de fusão sequencial ideal (ex: $D_1 \to D_2 \to D_3$ ).
Mapeamento Determinístico: Para evitar supervisão ambígua, o ESLA impõe uma restrição de mapeamento de alvo único. Um rótulo de origem é mapeado para o rótulo de alvo com a maior pontuação $S_{merge}$ , desde que esta exceda um limiar $\tau$ .
Otimização com Restrição de Estabilidade: Os parâmetros $(\lambda, \tau)$ não são selecionados manualmente, mas otimizados para maximizar o número de rótulos fundidos ( $N_{merged}$ ) enquanto restringem estritamente a degradação do desempenho de NER do domínio de origem ( $\Delta F1 \ge -\delta$ , onde $\delta=2\%$ ). Isso garante que o corpus fundido não prejudique a capacidade do modelo de reconhecer entidades nos domínios de origem originais.

3. Completagem de Rótulos Sensível ao Contexto

Para lidar com conflitos de rótulos ausentes (onde um rótulo existe em um conjunto de dados, mas não em outro), o ESLA emprega uma estratégia de rotulagem pseudo (pseudo-labeling). Um modelo treinado em um conjunto de dados contendo um rótulo específico (ex: CARDINAL) é usado para gerar pseudo-rótulos para esse tipo de entidade em conjuntos de dados onde ele está ausente. Isso fornece supervisão positiva para categorias que de outra forma estariam ausentes.

Principais Contribuições

Estrutura de Alinhamento de Sinal Duplo: O ESLA formula o alinhamento de rótulos como um problema de otimização que explora conjuntamente a consistência de predição empírica e a similaridade semântica contextual, eliminando a necessidade de bases de conhecimento externas ou regras manuais pesadas.
Estratégia de Fusão Escalável: A estrutura introduz um mecanismo de otimização com restrição de estabilidade que equilibra a cobertura de rótulos com a preservação do desempenho do domínio de origem, evitando uma fusão agressiva que introduza ruído.
Construção de Corpus Unificado: Os autores alinharam e fundiram com sucesso três conjuntos de dados de NER chineses heterogêneos (OntoNotes 5.0, CLUENER2020 e BosonNER) em um corpus unificado.
Validação de Alvo sem Rótulos: A estrutura foi validada em um cenário de transferência de domínio cruzado para um benchmark financeiro (FinReportNER) onde as anotações do alvo foram usadas exclusivamente para avaliação, garantindo que não houvesse vazamento de dados durante o treinamento ou alinhamento.

Resultados Experimentais

O estudo avaliou o ESLA em três conjuntos de dados de origem e um domínio alvo financeiro (FinReportNER).

Estabilidade no Lado da Origem: O ESLA alinhou com sucesso 15 pares de rótulos (o mais alto entre os baselines) enquanto manteve um Micro-F1 de 0.80, idêntico ao treinamento independente. Em contraste, a fusão direta resultou em quedas significativas de desempenho.
Transferência de Domínio Cruzado: No benchmark FinReportNER:
- O ESLA-Merge alcançou o maior Macro-F1 de 0.59 e igualou o melhor Micro-F1 de 0.56.
- Superou o treinamento de fonte única e outros baselines de alinhamento (baseados em regras, especialistas e LLM).
- Ganhos notáveis foram observados em categorias com supervisão limitada em fontes únicas, especificamente PRODUCT (F1 0.06, três vezes a pontuação da melhor fonte única de 0.02) e TIME (F1 0.89).
Estudos de Ablação:
- Remover o sinal semântico reduziu o número de rótulos alinhados e prejudicou o desempenho de PRODUCT.
- Remover o sinal empírico prejudicou o desempenho de ORG, destacando a necessidade de evidência estatística.
- Remover a completagem de rótulos causou uma queda catastrófica no desempenho de transferência (Micro-F1 de 0.56 para 0.21), particularmente para as categorias NUM e RATIO, provando a necessidade de pseudo-rotulagem para tipos ausentes.

Significância e Alegações

O artigo afirma que o alinhamento de rótulos empírico e semântico pode integrar efetivamente conjuntos de dados públicos heterogêneos para NER de domínio cruzado sem exigir supervisão de treinamento do domínio alvo.

Interpretabilidade e Automação: Ao contrário de métodos manuais ou baseados em grafos de conhecimento, o ESLA é orientado por dados e interpretável, baseando-se em comportamentos de predição observáveis e distâncias semânticas em vez de heurísticas rígidas.
Robustez: A otimização com restrição de estabilidade garante que os benefícios da integração de dados não ocorram às custas da degradação das capacidades fundamentais do modelo nos dados de origem.
Generalização: A estrutura demonstra que combinar múltiplas fontes de supervisão fraca pode render uma melhor generalização de domínio cruzado do que depender de uma única fonte de alta qualidade, particularmente para categorias que estão sub-representadas em conjuntos de dados individuais.

Os autores observam que, embora o ESLA suporte efetivamente mapeamentos de muitos-para-um, ele atualmente utiliza uma estratégia determinística de alvo único e não modela explicitamente relações de um-para-muitos ou hierárquicas, o que permanece como uma direção para trabalhos futuros.