Multi-Granularity Reasoning for Natural Language Inference

Resumo Técnico: Raciocínio de Multigranularidade para Inferência de Linguagem Natural

Definição do Problema
A Inferência de Linguagem Natural (NLI), ou Reconhecimento de Implicação Textual, é uma tarefa fundamental que exige a determinação de relações lógicas (implicação, contradição ou neutro) entre uma premissa e uma hipótese. Embora os modelos pré-treinados baseados em Transformer tenham alcançado um sucesso notável, as abordagens existentes dependem predominantemente das representações de tokens da camada final. Os autores argumentam que essas representações de camada única são frequentemente insuficientes para capturar as interações semânticas complexas e hierárquicas necessárias para um raciocínio eficaz. Especificamente, pistas lexicais detalhadas, composições frasais e semânticas contextuais de nível superior tendem a se tornar emaranhadas ou diluídas dentro de um único espaço de representação, limitando a capacidade do modelo de discernir relações semânticas intrincadas.

Metodologia: Rede de Raciocínio de Multigranularidade (MGRN)
Para abordar essas limitações, o artigo propõe a Rede de Raciocínio de Multigranularidade (MGRN), um framework projetado para mimetizar o processo cognitivo humano de progressão do emparelhamento lexical superficial para a abstração semântica profunda. A arquitetura opera através das seguintes etapas:

1. Pré-processamento de Entrada e Representação Multicamada: A entrada consiste em um par de premissa e hipótese processado por um codificador baseado em BERT. Diferente das abordagens padrão que utilizam apenas a camada final, a MGRN extrai os estados ocultos de todas as $L$ camadas da pilha Transformer.
2. Construção da Matriz de Interação: Para cada camada $l$, o modelo captura explicitamente as interações entre as duas sentenças realizando a multiplicação elemento a elemento (produto de Hadamard) entre as representações de tokens da premissa ($h^{(l,i)}_1$) e da hipótesa ($h^{(l,j)}_2$). Isso gera um tensor de interação $M^{(l)} \in \mathbb{R}^{n \times m \times d}$, codificando interações palavra por palavra específicas ao nível de abstração daquela camada.
3. Empilhamento Multicamada: As matrizes de interação de todas as camadas ($M^{(1)}$ a $M^{(L)}$) são concatenadas ao longo de uma nova dimensão para formar uma representação de interação multicamada abrangente $M$. Essa agregação preserva informações semânticas que variam desde características superficiais até semântica abstrata.
4. Extração de Características via DenseNet: O tensor de interação empilhado $M$ é passado por uma série de Blocos Densos (Redes Convolucionais Densamente Conectadas). Este componente facilita a propagação eficiente de gradientes e o reuso de características ao concatenar as saídas de todas as camadas anteriores como entradas para as camadas subsequentes, permitendo a extração de características semânticas de alto nível através de mapeamento não linear de múltiplos passos.
5. Classificação: O vetor de características final é alimentado em uma rede totalmente conectada seguida por uma função softmax para prever o rótulo de classificação de três vias.

Principais Contribuições
O artigo delineia três contribuições primárias:

1. Arquitetura Inovadora: A proposta da MGRN, que integra características semânticas hierárquicas usando um tensor interativo estruturado para aumentar significativamente a precisão da inferência.
2. Modelagem de Interação de Alta Ordem: O modelo captura efetivamente interações semânticas de alta ordem entre pares de sentenças, estendendo-se além do alinhamento tradicional de nível de token para incorporar relações composicionais e frasais complexas através de múltiplos níveis de abstração.
3. Validação Empírica: Experimentos extensos em múltiplos benchmarks públicos demonstram que a MGRN supera consistentemente os baselines competitivos, validando sua eficácia, robustez e aplicabilidade geral em diversas tarefas de PLN.

Resultos Experimentais
Os autores avaliaram a MGRN em dez benchmarks públicos de larga escala, incluindo tarefas GLUE (MRPC, QQP, STS-B, MNLI, RTE, QNLI), SNLI, MultiNLI, Sci, SICK e Twi.

• Desempenho: Quando integrada com BERT-base e BERT-large, a MGRN alcançou melhorias médias de acurácia de 0,8% e 0,7%, respectivamente, em todos os datasets. Notavelmente, a MGRN superou a RoBERTa-base em 1,5% e a RoBERTa-large em 0,5%.
• Estudos de Ablação: A remoção da matriz de interação ou a substituição da DenseNet por pooling médio resultou em quedas claras de desempenho, confirmando a necessidade da captura de interação fina e da extração de características de alto nível. O uso apenas da última camada do BERT também degradou o desempenho, apoiando o valor da fusão multicamada.
• Robustez: Sob testes adversariais e de perturbação (ex: SwapAnt, NumWord, SwapSyn), a MGRN demonstrou robustez superior em comparação aos baselines. Ela manteve um desempenho estável sob transformações que perturbam formas superficiais ou regularidade sintática, sugerindo que seu raciocínio depende mais de padrões de interação semântica do que de características superficiais frágeis.
• Estudos de Caso: A análise qualitativa mostrou que a MGRN lida com sucesso com diferenças sutis lexicais, de gênero e numéricas onde modelos como ESIM, BERT e SyntaxBERT falharam, particularmente em casos que exigem discriminação semântica precisa (ex: distinguir "12" de "42").

Significância e Alegações
O artigo afirma que a abordagem proposta aborda a "fragilidade" dos modelos modernos de NLI ao modelar explicitamente interações semânticas hierárquicas. Ao simular a progressão cognitiva humana da compreensão de nível superficial para a compreensão profunda, a MGRN revela relações semânticas intrincadas que são frequentemente perdidas por abordagens de granularidade única. Os autores asseguram que essa capacidade de raciocínio de multigranularidade não apenas melhora o desempenho nos benchmarks, mas também aumenta a robustez do modelo contra mudanças de distribuição e ataques adversariais, diminuindo a lacuna entre a alta acurácia em testes padrão e a capacidade de raciocínio genuína. O trabalho alinha-se com a direção da avaliação orientada à robustez, demonstrando que integrar informação semântica através de múltiplas granularidades é um caminho viável para um entendimento de linguagem natural mais confiável.