Peacemaker at ATE-IT: Automatic term extraction from Italian text for waste management data using encoder model

Resumo Técnico: Peacemaker no ATE-IT

Definição do Problema
O artigo aborda o desafio da Extração Automática de Termos (ATE - Automatic Term Extraction) dentro do domínio específico da gestão de resíduos municipais em italiano. Embora os avanços recentes em Modelos de Linguagem de Grande Escala (LLMs) e arquiteturas Transformer tenham mostrado potencial em cenários de ATE de poucos disparos (few-shot), a rotulagem precisa continua difícil devido aos limitados dados de treinamento anotados e à complexidade de identificar expressões de múltiplas palavras (MWEs) que variam entre domínios. Os autores participaram da Tarefa Compartilhada ATE-IT 2026, especificamente na Subtarefa A, que exige a identificação e extração de termos específicos do domínio de textos italianos relacionados a regulamentações e procedimentos de gestão de resíduos. O desafio central reside no desenvolvimento de um método que seja eficaz e interpretável, capaz de rodar com recursos computacionais limitados, mantendo um desempenho equilibrado entre diferentes frequências de termos.

Metodologia
O sistema proposto, "Peacemaker", emprega um Framework de Rotulagem de Sequência baseado em um modelo Transformer ajustado (fine-tuned). A metodologia consiste em três estágios primários:

1. Pré-processamento e Alinhamento de Dados:
   Um pipeline de pré-processamento personalizado foi desenvolvido para converter anotações de termos brutas ao nível da sentença em um formato adequado para rotulagem de sequência.

   • Rotulagem BIO: O esquema padrão Begin-Inside-Outside (B-I-O) foi aplicado, atribuindo B-TERM ao primeiro token de um termo, I-TERM aos tokens subsequentes e O aos tokens que não são termos.
   • Alinhamento Token-Termo: Para resolver ambiguidades entre termos ao nível de caractere e tokens de subpalavras, os autores utilizaram mapeamentos de offset do tokenizador. Um mecanismo de mascaramento foi implementado para garantir que cada posição de caractere mapeie para apenas um termo, evitando sobreposição de rótulos.
   • Codificação de Rótulos: Rótulos simbólicos foram convertidos em IDs numéricos (O=0, B-TERM=1, I-TERM=2), com tokens especiais e preenchimento (padding) mascarados com -100 para serem ignorados pela função de perda (loss function).

2. Arquitetura do Modelo:
   O núcleo do sistema utiliza o modelo dbmdz/bert-base-italian-cased, uma variante BERT pré-treinada em um extenso corpus italiano. Uma camada linear com uma função de ativação Softmax foi anexada ao backbone para classificação de tokens. O modelo foi ajustado usando o otimizador AdamW (taxa de aprendizado $2 \times 10^{-5}$, decaimento de peso 0.01) ao longo de 5 épocas com um tamanho de lote (batch size) de 16.

3. Métricas de Avaliação:
   O desempenho foi avaliado sob duas perspectivas distintas:

   • Métricas de Nível de Tipo (Type-level): Avaliando a capacidade do sistema de identificar termos únicos do domínio, independentemente da frequência (Precisão, Recall, F1 baseados em contagens de termos únicos).
   • Métricas de Nível Micro (Micro-level): Avaliando o desempenho sentença por sentença, agregando Verdadeiros Positivos, Falsos Positivos e Falsos Negativos em todo o conjunto de dados.

Principais Contribuições
Os autores destacam três contribuições específicas para o campo de ATE:

• Alinhamento de Dados Robusto: A implementação de um pipeline personalizado apresentando alinhamento semântico ao nível de token (rotulagem BIO) especificamente adaptado para a língua italiana e para a tarefa ATE-IT, resolvendo efetivamente ambiguidades de fronteira de tokens.
• Extração de Características de Alta Fidelidade: A utilização de uma arquitetura Transformer sensível ao contexto (dbmdz/bert-base-italian-cased) otimizada para previsões ao nível de token dentro do domínio regulatório italiano.
• Reprodutibilidade: A fixação explícita de dependências críticas do Python (ex: transformers, accelerate) para garantir a estabilidade do ambiente e a reprodutibilidade em diferentes ambientes de execução.

Resultos
O sistema foi avaliado contra um baseline criado usando um LLM de código fechado (gemini-2.5-flash) em modo zero-shot e comparado com outras 8 equipes participantes.

• Desempenho do Baseline: O baseline zero-shot alcançou um Type F1 de 0.469 e um Micro F1 de 0.526.
• Desempenho do Peacemaker: O método proposto alcançou uma Precisão de Tipo de 0.430, um Recall de Tipo de 0.455 e um F1 de Tipo de 0.442. No nível micro, alcançou uma Precisão de 0.497, um Recall de 0.476 e um F1 de 0.486.
• Classificação: A equipe terminou em 7º lugar entre as 9 equipes participantes.
• Observações: Os resultados indicam um desempenho equilibrado entre Precisão e Recall tanto nos níveis de tipo quanto micro. O sistema demonstrou capacidades de extração consistentes tanto para termos frequentes quanto para menos frequentes, evitando a dependência exclusiva da detecção de termos de alta frequência.

Significância e Alegações
O artigo posiciona suas descobertas como uma demonstração da viabilidade de métodos de "baixo custo e interpretáveis" para ATE. Os autores afirmam modestamente que, embora sua abordagem não tenha alcançado o maior desempenho absoluto (provavelmente devido aos recursos computacionais limitados em comparação com equipes que utilizam modelos maiores ou mais especializados), ela serve como um "bom ponto de partida para modelos de baixos recursos".

A significância do trabalho reside em sua estabilidade e equilíbrio; o método produz resultados de extração consistentes sem otimizar excessivamente a precisão através de ciclos repetitivos. Os autores concluem que seu sistema permanece altamente competitivo dado as restrições de recursos, sugerindo que futuros avanços na expansão do modelo podem manter a interpretabilidade enquanto alcançam um desempenho superior. O artigo afirma explicitamente que ferramentas de IA Generativa foram utilizadas apenas para brainstorming e redação, com todas as decisões metodológicas e análises conduzidas pelos autores.