Resumen Técnico: Investigación sobre la Generación de Muestras Adversarias a Nivel de Palabra en Tibetano Basada en el Vínculo Morfosintáctico

Planteamiento del Problema

Si bien el procesamiento de información inteligente del tibetano ha avanzado significativamente con la aparición de modelos de lenguaje de gran escala (por ejemplo, DEEPZANG, YangGuang QingYan), la seguridad y robustez de estos modelos frente a ataques adversarios sigue siendo insuficientemente investigada en comparación con el inglés y el chino. Los métodos existentes de ataque adversario para el tibetano se basan principalmente en perturbaciones a nivel de carácter o de sílaba (por ejemplo, reemplazo, inserción o eliminación de sílabas). Una limitación crítica de estos enfoques es la negligencia de las normas gramaticales tibetanas, específicamente las reglas que rigen las palabras funcionales (partículas que indican caso, posesión, ubicación, etc.).

Cuando los métodos existentes realizan sustituciones a nivel de palabra sin adherirse al vínculo morfosintáctico, las muestras adversarias resultantes suelen sufrir de una ruptura en la lógica de la oración y de reglas gramaticales inválidas. Por ejemplo, reemplazar una palabra de contenido en tibetano a menudo requiere un cambio correspondiente en la palabra funcional subsiguiente (por ejemplo, partículas genitivas, ergativas o locativas) para mantener la legalidad gramatical. El no actualizar estas palabras funcionales hace que la muestra adversaria sea lingüísticamente inválida, reduciendo su efectividad y calidad.

Metodología: TWLAS-BMSL

El artículo propone TWLAS-BMSL (Generación de Muestras Adversarias de Nivel de Palabra en Tibetano Basada en el Vínculo Morfosintáctico), un método diseñado para generar ejemplos adversarios de alta calidad y gramaticalmente correctos. El marco opera bajo un paradigma de ataque de caja blanca y consta de cuatro pasos principales:

1. Perturbación Aleatoria de Palabras:

   • Utilizando una Base de Conocimiento de Sememas de Tibetano construida (que contiene 3á,745 entradas), el método identifica las palabras de contenido en el texto original.
   • Empareja aleatoriamente estas palabras con alternativas semánticamente similares de la base de conocimiento.
   • Se realiza un reemplazo de palabra única para crear un texto perturbado que preserve el significado semántico original tanto como sea posible.

2. Detección y Corrección de Palabras Funcionales:

   • Reconociendo que las relaciones semánticas profundas del tibetano se organizan a través de palabras funcionales, el método emplea un algoritmo de detección y corrección de la unión de palabras funcionales.
   • Tras reemplazar una palabra clave, el algoritmo analiza dinámicamente la categoría gramatical de la nueva palabra (por ejemplo, si actúa como un sujeto agente o requiere una marca de caso específica).
   • Actualiza automáticamente las palabras funcionales subsiguientes (genitivas, ergativas, locativas y sufijos de sustantivos personales) para alinearlas con las reglas gramaticales tibetanas (específicamente las reglas de las "Treinta Versos" respecto a las letras de sufijo).

3. Reconstrucción:

   • El sistema reconstruye la oración integrando la palabra clave semánticamente similar con las palabras funcionales gramaticalmente corregidas.

4. Ejecución del Ataque:

   • La muestra adversaria final reconstruida se introduce en el modelo objetivo para inducir la clasificación errónea.

Contribuciones Clave

Los autores destacan tres contribuciones primordiales:

• Método de Vínculo Morfosintáctico: La propuesta de un método de generación adversaria a nivel de palabra que incorpora explícitamente el vínculo morfosintáctico, asegurando que las palabras funcionales se adapten automáticamente para coincidir con las palabras de contenido reemplazadas. Esto mejora la robustez de los modelos de lenguaje tibetano frente a ataques de perturbación de caja blanca.
• Algoritmos de Adaptación Automática: El establecimiento de criterios y algoritmos para la adaptación y actualización automática de las palabras funcionales tibetanas durante la perturbación, abordando una brecha en las estrategias de ataque existentes centradas en el chino y el inglés.
• Base de Conocimiento de Sememas de Tibetano: La construcción de una Base de Conocimiento de Sememas de Tibetano especializada con 32,745 entradas, diseñada específicamente para facilitar experimentos adversarios de nivel de palabra en textos tibetanos.

Resultados Experimentales

El estudio evaluó el método TWLAS-BMSL en cuatro conjuntos de datos (TNCC, TU_SA, QHNUTSA, MZUCTSA) que cubren tareas de clasificación de texto y análisis de sentimiento. Los modelos objetivo incluyeron TiBERT, CINO-base-v2 y CINO-large.

• Efectividad del Ataque:

  • El método causó una Caída de Precisión (ADV) promedio de 2.69% entre los modelos.
  • La Tasa de Éxito del Ataque (ASR) promedio alcanzó el 28.83%.
  • La Distancia de Levenshtein (LD) promedio fue de 6.80%, lo que indica que los ataques requirieron perturbaciones relativamente pequeñas para ser efectivos.
  • El modelo CINO-base-v2 mostró la mayor sensibilidad al ataque, mientras que CINO-large demostró la mayor robustez.

• Desempeño de la Corrección Gramatical:

  • En la tarea de adaptación automática y corrección de errores para palabras funcionales, el método logró un 100% en tres métricas clave:
    • Tasa de detección de errores de palabras funcionales.
    • Precisión general.
    • Tasa de éxito de la corrección completa de oraciones con errores.

• Análisis Cualitativo:

  • Sin el vínculo morfosintáctico, las muestras generadas a menudo contenían errores gramaticales que rompían la lógica de la oración. Con el método propuesto, las muestras adversarias mantuvieron el rigor gramatical mientras engañaban con éxito a los modelos objetivo.

Significado y Reivindicaciones

El artículo afirma que el método propuesto TWLAS-BMSL aborda eficazmente el problema de la "lógica sintáctica imprecisa" en los ataques adversarios tibetanos existentes. Al asegurar que las palabras funcionales se actualicen en sincronía con las sustituciones de palabras de contenido, el método garantiza el rigor lógico gramatical de las muestras generadas.

Los autores sostienen que este enfoque no solo engaña con éxito a los modelos para que tomen decisiones de clasificación incorrectas, sino que también asegura la calidad del texto de los ejemplos adversarios, haciéndolos indistinguibles del texto natural en términos de corrección gramatical. Esto se presenta como un paso crucial hacia la mejora de la seguridad y robustez de los modelos de lenguaje de gran escala en tibetano.

El artículo concluye modestamente, reconociendo limitaciones como el tamaño finito de la Base de Conocimiento de Sememas construida (32,745 entradas) y la escasez de modelos de gran escala específicos para el tibetano para realizar pruebas. Se sugiere como trabajo futuro aplicar este método a los modelos de lenguaje de gran escala en tibetano para mejorar aún más sus capacidades de anti-interferencia.