Improving Lexical Difficulty Prediction with Context-Aligned Contrastive Learning and Ridge Ensembling

Resumo Técnico: Melhoria da Predição de Dificuldade Lexical com Aprendizado Contrastivo Alinhado ao Contexto e Ensemble de Ridge

Declaração do Problema
A predição de dificuldade lexical é uma tarefa crítica para o aprendizado de línguas e a avaliação de legibilidade, exigindo que modelos estimem a dificuldade de palavras em diversos contextos de língua materna (L1). As abordagens existentes dependem predominantemente de treinamento apenas por regressão com supervisão escalar. Os autores argumentam que esse paradigma falha em estruturar explicitamente o espaço de representação, limitando a capacidade do modelo de capturar o alinhamento cross-lingual e a natureza ordinal da dificuldade. Além disso, a dificuldade lexical não é uma propriedade intrínseca de uma palavra, mas um fenômeno relacional influenciado pela interferência da L1 e pela interpretação contextual. Os métodos atuais frequentemente ignoram como os contextos de L1 dos aprendizes alteram a percepção do vocabulário em inglês e falham em distinguir entre palavras de níveis de dificuldade semelhantes no espaço latente.

Metodologia
Os autores propõem a Regressão Contrastiva Alinhada ao Contexto, um framework multi-objetivo projetado para abordar essas limitações por meio de três componentes integrados:

1. Aprendizado Contrastivo de Contexto com Múltiplas Visões (CVCCL):
   Para garantir a estabilidade da representação através de variações contextuais, o modelo utiliza visões emparelhadas específicas da tarefa derivadas de entradas conscientes da L1. Especificamente, contrasta o contexto original da L1 com um contexto em inglês traduzido (visão aumentada). Esse objetivo incentiva o codificador a aprender representações que permaneçam consistentes para o mesmo item lexical através de diferentes realizações contextuais, alinhando assim as representações entre as visões sem depender de aumentações estocásticas.

2. Aprendizado Contrastivo Suave Ordinal (OSCL):
   Reconhecendo que a dificuldade é uma estimativa psicométrica contínua e não uma classe discreta, os autores introduzem uma perda contrastiva suave ordinal. Esse objetivo substitui atribuições binárias de pares por pesos contínuos de pares derivados da proximidade das pontuações de dificuldade. Ao definir afinidade com base na diferença nas pontuações de verdade fundamental, o modelo organiza o espaço de incorporação de modo que itens com pontuações de dificuldade semelhantes fiquem mais próximos, enquanto aqueles com diferenças maiores de pontuação sejam afastados. Isso preserva a estrutura graduada da dificuldade lexical.

3. Ensemble Baseado em Ridge:
   Para mitigar vieses sistemáticos inerentes a modelos individuais, a abordagem emprega um ensemble de três backbones distintos de codificadores multilíngues: XLM-RoBERTa, multilingual DeBERTaV3 e mmBERT. Cada modelo é treinado independentemente usando o framework multi-objetivo. Suas previsões são então combinadas usando um meta-modelo de regressão Ridge, que aprende pesos adaptativos para agregar as saídas, fornecendo uma previsão final mais robusta e estável do que uma simples média.

Principais Contribuições

• Integração de Framework: O artigo introduz um framework inovador que integra regressão direta com regularização contrastiva no nível de representação (CVCCL e OSCL) especificamente para predição de dificuldade lexical consciente da L1.
• Estruturação de Representação: O método estrutura explicitamente o espaço latente para impor tanto alinhamento cross-lingual (via CVCCL) quanto ordenação ordinal de dificuldade (via OSCL), abordando a falta de restrições estruturais nas abordagens padrão apenas de regressão.
• Estratégia de Ensemble: A aplicação de ensembles de Ridge para combinar previsões de codificadores diversos reduz efetivamente os vieses sistemáticos de subestimação e superestimação em diferentes níveis de dificuldade.

Resultados
Os experimentos foram conduzidos em um conjunto de dados multilíngue compreendendo aprendizes de alemão, espanhol e mandarim chinês.

• Desempenho: O ensemble proposto superou consistentemente os modelos base individuais em todos os três grupos de L1. A configuração de melhor desempenho alcançou os 15 primeiros lugares na Track Fechada da Tarefa Compartilhada BEA 2026 (7º para mandarim, 11º para alemão, 14º para espanhol).
• Análise de Representação:
  • Alinhamento Cross-lingual: A análise de similaridade cosseno confirmou que pares cross-linguais alinhados exibiram maior similaridade do que pares aleatórios, indicando a aprendizagem de um espaço semântico compartilhado enquanto preservava nuances específicas de cada língua.
  • Estrutura Ordinal: As distâncias de incorporação mostraram uma correlação positiva consistente com as diferenças absolutas nas pontuações de dificuldade, confirmando que o modelo capturou com sucesso a estrutura ordinal da tarefa.
• Análise de Erros: O ensemble demonstrou a capacidade de corrigir vieses sistemáticos (por exemplo, subestimação pelo XLM-RoBERTa e superestimação pelo mDeBERTa-v3), resultando em menor Erro Absoluto Médio (MAE) em faixas de dificuldade em comparação com modelos individuais.

Significado e Alegações
Os autores afirmam que combinar regressão direta com regularização no nível de representação melhora significativamente tanto a precisão quanto a confiabilidade estrutural da predição de dificuldade lexical consciente da L1. O estudo demonstra que:

1. Objetivos contrastivos melhoram o alinhamento de representação cross-lingual enquanto mantêm nuances específicas de cada língua.
2. As representações aprendidas capturam com sucesso a estrutura ordinal da dificuldade lexical.
3. O ensemble de Ridge mitiga efetivamente os vieses sistemáticos de modelos individuais, levando a um desempenho mais estável através de níveis de dificuldade variados.

O artigo conclui que, embora o modelo ainda não esteja totalmente otimizado para minimizar o erro absoluto de previsão (RMSE), ele captura efetivamente a ordenação relativa da dificuldade lexical. Os autores notam limitações quanto ao escopo dos grupos de L1 testados (espanhol, alemão, mandarim) e ao custo computacional de treinar múltiplos codificadores, sugerindo que trabalhos futuros devem focar em generalização mais ampla de L1 e estratégias de ponderação mais robustas.