Resumo Técnico: Pesquisa sobre a Geração de Amostras Adversárias de Nível de Palavra em Tibetano Baseada em Ligação Morfossintática

Declaração do Problema

Embora o processamento inteligente de informações em tibetano tenha avançado significativamente com o surgimento de grandes modelos de linguagem (ex: DEEPZANG, YangGuang QingYan), a segurança e a robustez desses modelos contra ataques adversários permanecem subpesquisadas em comparação ao inglês e ao chinês. Os métodos existentes de ataque adversário em tibetano baseiam-se primariamente em perturbações de nível de caractere ou de sílaba (ex: substituição, inserção ou deleção de sílabas). Uma limitação crítica dessas abordagens é a negligência das normas gramaticais do tibetano, especificamente as regras que regem as palavras funcionais (partículas que indicam caso, posse, localização, etc.).

Quando os métodos existentes realizam substituições de nível de palavra sem aderir à ligação morfossintática, as amostras adversárias resultantes frequentemente sofrem com a quebra da lógica da frase e regras gramaticais inválidas. Por exemplo, substituir uma palavra de conteúdo no tibetano muitas vezes exige uma mudança correspondente na palavra funcional subsequente (ex: partícula genitiva, ergativa ou locativa) para manter a legalidade gramatical. A falha em atualizar essas palavras funcionais torna a amostra adversária linguisticamente inválida, reduzindo sua eficácia e qualidade.

Metodologia: TWLAS-BMSL

O artigo propõe o TWLAS-BMSL (Geração de Amostras Adversárias de Nível de Palavra em Tibetano Baseada em Ligação Morfossintática), um método projetado para gerar exemplos adversários de alta qualidade e gramaticalmente corretos. O framework opera sob um paradigma de ataque de caixa branca (white-box) e consiste em quatro etapas principais:

1. Perturbação Aleatória de Palavras:

   • Utilizando uma Base de Conhecimento de Sememas de Tibetano construída (contendo 32.745 entradas), o método identifica palavras de conteúdo no texto original.
   • Ele combina aleatoriamente essas palavras com alternativas semanticamente similares da base de conhecimento.
   • Uma substituição de palavra única é realizada para criar um texto perturbado que preserve o significado semântico original o máximo possível.

2. Detecção e Correção de Palavras Funcionais:

   • Reconhecendo que as relações semânticas profundas do tibetano são organizadas através de palavras funcionais, o método emprega um algoritmo de detecção e correção de anexação de palavras funcionais.
   • Ao substituir uma palavra-chave, o algoritmo analisa dinamicamente a categoria gramatical da nova palavra (ex: se ela atua como um sujeito agente ou se requer uma marcação de caso específica).
   • Ele atualiza automaticamente as palavras funcionais subsequentes (genitivo, ergativo, locativo e sufixos de substantivos pessoais) para alinhar-se com as regras gramaticais do tibetano (especificamente as regras dos "Trinta Versos" em relação às letras de sufixo).

3. Reconstrução:

   • O sistema reconstrói a frase integrando a palavra-chave semanticamente similar com as palavras funcionais gramaticalmente corrigidas.

4. Execução do Ataque:

   • A amostra adversária final reconstruída é inserida no modelo alvo para induzir a classificação incorreta.

Principais Contribuições

Os autores destacam três contribuições primárias:

• Método de Ligação Morfossintática: A proposta de um método de geração adversária de nível de palavra que incorpora explicitamente a ligação morfossintática, garantindo que as palavras funcionais sejam adaptadas automaticamente para corresponder às palavras de conteúdo substituídas. Isso aumenta a robustez dos modelos de linguagem tibetanos contra ataques de perturbação de caixa branca.
• Algoritmos de Adaptação Automática: O estabelecimento de critérios e algoritmos para a adaptação e atualização automática de palavras funcionais tibetanas durante a perturbação, abordando uma lacuna nas estratégias existentes centradas em chinês e inglês.
• Base de Conhecimento de Sememas de Tibetano: A construção de uma Base de Conhecimento de Sememas de Tibetano especializada com 32.745 entradas, projetada especificamente para facilitar experimentos adversários de nível de palavra em textos tibetanos.

Resultados Experimentais

O estudo avaliou o método TWLAS-BMSL em quatro conjuntos de dados (TNCC, TU_SA, QHNUTSA, MZUCTSA) cobrindo tarefas de classificação de texto e análise de sentimento. Os modelos alvo incluíram TiBERT, CINO-base-v2 e CINO-large.

• Eficácia do Ataque:

  • O método causou uma queda média de Precisão (ADV) de 2,69% entre os modelos.
  • A Taxa de Sucesso de Ataque (ASR) média atingiu 28,83%.
  • A Distância de Levenshtein (LD) média foi de 6,80%, indicando que os ataques exigiram perturbações relativamente pequenas para serem eficazes.
  • O modelo CINO-base-v2 mostrou a maior sensibilidade ao ataque, enquanto o CINO-large demonstrou a maior robustez.

• Desempenho de Correção Gramatical:

  • Na tarefa de adaptação automática e correção de erros para palavras funcionais, o método alcançou 100% em três métricas principais:
    • Taxa de detecção de erro de palavra funcional.
    • Precisão geral.
    • Taxa de sucesso de correção completa de frases com erro.

• Análise Qualitativa:

  • Sem a ligação morfossintática, as amostras geradas frequentemente continham erros gramaticais que quebravam a lógica da frase. Com o método proposto, as amostras adversárias mantiveram o rigor gramatical enquanto enganavam com sucesso os modelos alvo.

Significância e Alegações

O artigo afirma que o método TWLAS-BMSL proposto aborda efetivamente o problema da "lógica sintática imprecisa" nos ataques adversários tibetanos existentes. Ao garantir que as palavras funcionais sejam atualizadas em sincronia com as substituições de palavras de conteúdo, o método garante o rigor lógico gramatical das amostras geradas.

Os autores afirmam que esta abordagem não apenas engana com sucesso os modelos para tomarem decisões de classificação incorretas, mas também garante a qualidade do texto das amostras adversárias, tornando-as indistinguíveis de textos naturais em termos de correção gramatical. Isso é apresentado como um passo crucial para melhorar a segurança e a robustez dos grandes modelos de linguagem tibetanos.

O artigo conclui modestamente, reconhecendo limitações como o tamanho finito da Base de Conhecimento de Sememas construída (32.745 entradas) e a escassez de grandes modelos específicos para o tibetano para testes. Sugere-se que trabalhos futuros apliquem este método a grandes modelos de linguagem tibetanos para aumentar ainda mais suas capacidades de anti-interferência.