💬 NLP

Stochasticity in Tokenisation Improves Robustness

Este artículo demuestra que entrenar modelos de lenguaje con tokenización estocástica mejora significativamente su robustez frente a perturbaciones adversarias y aleatorias sin comprometer la precisión ni aumentar los costos de inferencia.

Autores originales: Sophie Steger, Rui Li, Sofiane Ennadir, Anya Sims, Arno Solin, Franz Pernkopf, Martin Trapp

Publicado 2026-04-20

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Sophie Steger, Rui Li, Sofiane Ennadir, Anya Sims, Arno Solin, Franz Pernkopf, Martin Trapp

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que los Grandes Modelos de Lenguaje (como los que impulsan a ChatGPT o a ti mismo) son como chefes de cocina extremadamente talentosos, pero con un problema muy peculiar: son obsesivos con la forma en que cortan los ingredientes.

En el mundo de la inteligencia artificial, antes de que un modelo pueda "leer" una frase, debe romperla en trocitos más pequeños llamados "tokens". Normalmente, esto se hace de una sola manera fija y predecible, como si el chef siempre cortara una manzana exactamente en el mismo lugar, sin importar si la fruta está un poco torcida o si alguien la empuja.

El problema:
Si un hacker (un "malvado") empuja ligeramente la manzana o la corta en un lugar diferente (aunque la fruta siga siendo la misma), el chef obsesivo se confunde por completo. Se vuelve frágil. Un pequeño cambio en cómo se escriben las palabras puede hacer que el modelo diga tonterías o revele secretos que no debería. Es como si un chef se negara a cocinar porque alguien puso la sal en un plato diferente al habitual.

La solución del papel: "El Corte Aleatorio"
Los autores de este estudio proponen una idea genial: enseñar al chef a cortar los ingredientes de muchas formas diferentes durante la práctica.

En lugar de entrenar al modelo con una sola forma de cortar las palabras (la "canónica"), les enseñan a aceptar muchas variaciones aleatorias de cómo se pueden dividir las mismas palabras.

La analogía de la "Biblioteca de Caminos"

Imagina que tienes que llegar a una ciudad llamada "Amor".

El modelo antiguo (Determinista): Solo conoce un camino: Calle A -> Calle B -> Plaza C. Si alguien bloquea la Calle A, el modelo se queda paralizado y no sabe qué hacer.
El nuevo modelo (Estocástico): Durante su entrenamiento, se le ha enseñado a recorrer la ciudad por cientos de caminos diferentes. A veces toma Calle X, a veces Calle Y, a veces Calle Z, pero todos llevan a "Amor".

Cuando un atacante intenta bloquear un camino (una "perturbación" o ataque adversario), el nuevo modelo no entra en pánico. Simplemente dice: "Ah, este camino está bloqueado. No pasa nada, ya conozco otros 50 caminos que también llegan a la misma ciudad".

¿Qué descubrieron los científicos?

La aleatoriedad es fuerza: Al entrenar al modelo con estas "variaciones aleatorias" (llamadas tokenización estocástica), el modelo se vuelve mucho más robusto. Ya no se rompe cuando alguien intenta engañarlo cambiando ligeramente cómo se escriben las palabras.
No es solo "cualquier" aleatoriedad: Descubrieron que no basta con cortar al azar de cualquier manera. Deben ser cortes justos y variados (como un dado bien equilibrado). Si la aleatoriedad está sesgada (siempre corta de la misma manera "rara"), el modelo sigue siendo vulnerable. Necesita ver todas las posibilidades posibles de forma equitativa.
Funciona en todas las etapas: Esto funciona tanto si entrenas al modelo desde cero (pre-entrenamiento) como si le das un "tuneo" final (fine-tuning) para tareas específicas.
Sin costo extra: Lo mejor de todo es que, una vez entrenado, el modelo no necesita hacer más cálculos ni gastar más energía para ser robusto. Es como si el chef hubiera aprendido a cocinar de muchas formas, pero cuando llega el cliente, cocina igual de rápido, solo que ahora no se equivoca si el cliente cambia el pedido un poco.

En resumen

Este papel nos dice que para hacer a la Inteligencia Artificial más segura y resistente a los ataques, no debemos ser tan rígidos. Debemos enseñarles a ser flexibles y adaptables desde el primer día, permitiéndoles ver el mundo (las palabras) desde múltiples perspectivas.

Es como enseñar a un niño a andar en bicicleta no solo en una pista recta y perfecta, sino en terrenos con baches, curvas y viento. Cuando llega el momento de la carrera real (el mundo real con sus ataques), el niño no se cae porque ya ha practicado para todo.

La lección clave: La rigidez hace frágil; la diversidad en el entrenamiento hace fuerte.

Resumen Técnico: Estocasticidad en la Tokenización para Mejorar la Robustez de los LLMs

1. El Problema

La adopción masiva de Modelos de Lenguaje Grande (LLMs) ha revelado vulnerabilidades críticas en su robustez frente a perturbaciones en la tokenización.

Tokenización Determinista: Los LLMs actuales utilizan funciones de codificación deterministas (como BPE - Byte Pair Encoding) que generan una única "tokenización canónica" para cada cadena de texto.
Fragilidad: Los modelos entrenados exclusivamente con esta tokenización canónica son extremadamente frágiles ante ataques adversarios o perturbaciones aleatorias que alteran la segmentación de los tokens (tokenizaciones no canónicas), incluso si el significado semántico del texto permanece intacto.
Brecha de Investigación: Aunque se sabe que las tokenizaciones no canónicas existen (múltiples secuencias de tokens pueden reconstruir la misma cadena), los modelos no están expuestos a ellas durante el entrenamiento, lo que los hace vulnerables a ataques que explotan este espacio de tokenización sin alterar el contenido del texto.

2. Metodología

Los autores investigan si entrenar modelos con tokenizaciones estocásticas (aleatorias) puede mitigar esta fragilidad. El estudio abarca tres regímenes de aprendizaje: pre-entrenamiento, ajuste fino supervisado (fine-tuning) y aprendizaje en contexto (In-Context Learning - ICL).

A. Mecanismos de Tokenización Estocástica Propuestos:
El trabajo evalúa y mejora métodos existentes para generar tokenizaciones no canónicas:

STOCHASTOK (Base): Un método previo que divide tokens aleatoriamente siguiendo reglas de fusión. Sin embargo, los autores identifican dos limitaciones críticas:
- Sesgo de Muestreo: La distribución de probabilidad no es uniforme; favorece ciertas segmentaciones sobre otras.
- Soporte Incompleto: No puede generar todas las posibles tokenizaciones válidas (por ejemplo, no puede saltar ciertas fronteras de tokens canónicas).
STOCHASTOK-UNI (Propuesta 1): Una extensión que elimina el sesgo. Mantiene la distribución de conteo de divisiones por token pero muestrea uniformemente las segmentaciones válidas para ese conteo específico.
UNIFORM-K (Propuesta 2): Un método que muestrea uniformemente tokenizaciones no canónicas a una distancia de edición $k$ específica sobre toda la secuencia de entrada, utilizando Diagramas de Decisión Multi-Valorados (MDD) para manejar la complejidad computacional. Esto permite un soporte completo sobre el espacio de tokenizaciones válidas.

B. Configuración Experimental:

Modelos: Se utilizaron modelos de diferentes escalas, incluyendo Tiny-LLM (50M parámetros), Llama-1b, Llama-8b, GPT-2-xl, Qwen-0.6b y Gemma-1b.
Datos: Se evaluó en conjuntos de datos específicos para pruebas de sub-token (LANGUAGE GAME, CUTE) y benchmarks generales de opción múltiple (ARC-E, COPA, CSQA, etc.).
Evaluación:
- Perturbaciones Aleatorias: Se mide la precisión al evaluar con tokenizaciones estocásticas de diferentes niveles de "ruido" (número de divisiones normalizadas).
- Ataques Adversarios: Se utiliza un algoritmo de búsqueda voraz para encontrar la tokenización no canónica que maximiza el error del modelo (ataque de evasión).

3. Contribuciones Clave

Demostración Empírica de Robustez: Se prueba que el entrenamiento con tokenizaciones estocásticas mejora significativamente la resistencia a perturbaciones aleatorias y ataques adversarios, sin sacrificar la precisión en datos limpios (tokenización canónica).
Análisis de Distribución de Muestreo: Se identifica que el método previo (STOCHASTOK) tiene un sesgo intrínseco y soporte incompleto, lo que lo hace vulnerable a ataques adversarios más fuertes. Se proponen STOCHASTOK-UNI y UNIFORM-K para corregir esto mediante muestreo uniforme.
Análisis Teórico: Se proporciona un límite superior teórico para el riesgo adversarial. Se demuestra que la tokenización estocástica reduce la constante de Lipschitz local del espacio de incrustación (embedding), suavizando la superficie de decisión y haciendo más difícil encontrar perturbaciones exitosas.
Guía Práctica: Se establece que el ajuste fino (fine-tuning) con tokenización estocástica es una estrategia efectiva y de bajo costo computacional (no afecta la inferencia) para endurecer modelos existentes.

4. Resultados Principales

Robustez frente a Perturbaciones Aleatorias:
- Los modelos entrenados canónicamente sufren una caída drástica de precisión (hasta un 29.8% en Llama-1b) cuando se evalúan con tokenizaciones no canónicas.
- Los modelos entrenados con UNIFORM-K o STOCHASTOK-UNI mantienen una precisión casi constante (caídas menores al 1-2%) incluso con altos niveles de perturbación.
- El ajuste fino estocástico es más efectivo que el pre-entrenamiento estocástico para mejorar la robustez en modelos grandes pre-entrenados canónicamente.
Robustez Adversarial:
- En ataques adversarios, un modelo canónicamente ajustado ve su precisión caer del 94% al 6.1%.
- Un modelo ajustado con UNIFORM-K mantiene una precisión del 69.6% bajo el mismo ataque, demostrando una mejora masiva en la defensa.
- La uniformidad del muestreo es crucial: STOCHASTOK (sesgado) es menos robusto que sus variantes uniformes frente a ataques dirigidos.
Aprendizaje en Contexto (ICL):
- Utilizar ejemplos en contexto con tokenizaciones estocásticas mejora la robustez, aunque los beneficios son menores en comparación con el ajuste fino completo, probablemente debido a la menor cantidad de ejemplos expuestos al modelo.
Costo e Inferencia:
- La tokenización estocástica se aplica solo durante el entrenamiento. Durante la inferencia, se puede utilizar la tokenización canónica estándar, por lo que no hay costo adicional de inferencia.

5. Significado e Impacto

Este trabajo cambia la perspectiva sobre cómo se deben entrenar los LLMs para garantizar su seguridad:

Nueva Defensa: Propone la tokenización estocástica como una técnica de regularización fundamental para la robustez, complementaria a otras técnicas como el ajuste de preferencias o el red teaming.
Comprensión Interna: Sugiere que exponer a los modelos a múltiples representaciones de la misma cadena de texto les permite aprender representaciones internas más robustas y menos dependientes de la segmentación superficial.
Implicaciones de Seguridad: Al hacer que los modelos sean menos sensibles a manipulaciones en el espacio de tokenización, se reduce el riesgo de que actores maliciosos eludan las alineaciones de seguridad o exploten vulnerabilidades de los LLMs mediante ataques de "tokenización adversaria".

En conclusión, el artículo demuestra que la estocasticidad controlada durante el entrenamiento es una herramienta poderosa y eficiente para transformar a los LLMs de modelos frágiles y fácilmente engañables a sistemas más robustos y seguros, sin comprometer su rendimiento en tareas estándar.