PTP: Previous-Token Prediction based LLM Inversion for Near-Exact Prompt Reconstruction

Imagina que estás frente a un robot mágico y omnisciente al que le encanta contar historias. Le das una frase inicial secreta y, al instante, escupe un relato largo y fascinante. Así es como funcionan los "Modelos de Lenguaje Extensos" (LLM) modernos: son como motores de autocompletado súper inteligentes que predicen la siguiente palabra en una oración, una por una, para construir una respuesta. Pero aquí está la parte difícil: si solo ves el final de la historia (la respuesta), ¿puedes averiguar exactamente cuál fue el inicio (el prompt)? Es como intentar adivinar el primer movimiento de una partida de ajedrez solo mirando el jaque mate final. Por lo general, esto es casi imposible porque muchas diferentes frases iniciales pueden conducir al mismo final. Los científicos han estado tratando de resolver este rompecabezas de "inversión" para entender cómo funcionan estas mentes de IA, para atraparlas si revelan secretos, o para ver si podemos engañarlas. La mayoría de los intentos previos requerían echar un vistazo dentro del cerebro del robot (acceder a su código interno) o usar cantidades masivas de datos externos para adivinar el punto de partida.

Ahora, conoce a los investigadores que decidieron probar un truco diferente. En lugar de intentar leer la mente del robot o adivinar basándose en el conocimiento externo, construyeron un "robot inverso". Enseñaron a este nuevo robot a pensar hacia atrás. Mientras que el robot original aprende preguntando "¿Qué viene después?", el nuevo robot aprende preguntando "¿Qué vino antes?". No necesitaron ver el código secreto del robot original ni usar una biblioteca gigante de libros externos. En su lugar, jugaron un juego con el robot original: le dieron palabras iniciales aleatorias y grabaron las historias que contaba. Luego, introdujeron esas historias en su nuevo "robot inverso" en orden inverso, enseñándole a predecir las palabras que debieron haber venido antes. Es como ver una película reproducida hacia atrás y aprender a predecir la escena que acaba de suceder. ¿El resultado? Este nuevo método, llamado Predicción de Token Previo (PTP, por sus siglas en inglés), puede reconstruir la frase inicial original con una precisión sorprendente, incluso cuando el robot es una "caja negra" (lo que significa que no podemos ver su interior). Esto sugiere que, simplemente cambiando la dirección de cómo enseñamos a la IA, podemos desbloquear una forma poderosa de rebobinar sus pensamientos.

La magia de rebobinar el tiempo

Piensa en un Modelo de Lenguaje Extenso (LLM) como un amigo muy hablador que es excelente terminando tus frases. Si dices: "Érase una vez", ellos podrían decir: "había un dragón". Si dices: "El cielo está", ellos podrían decir: "azul". Este amigo trabaja mirando lo que acabas de decir y adivinando la siguiente palabra. Esto se llama "Predicción del Siguiente Token". Así es como escriben historias, responden preguntas y charlan con nosotros.

Pero, ¿qué pasa si solo tienes la respuesta de tu amigo y quieres saber exactamente qué le preguntaste? Tal vez escuchaste una gran historia y quieres saber la pregunta exacta que la inició, o quizás quieres ver si el amigo está ocultando una instrucción secreta. Este es el problema de la "inversión". Es difícil porque muchas preguntas diferentes pueden conducir a la misma respuesta. Si tu amigo dice: "Me encanta la pizza", podrías haber preguntado: "¿Cuál es tu comida favorita?", o "¿Qué te gusta comer los viernes?", o incluso "Háblame de tu dieta".

El viejo camino vs. el nuevo truco

Antes de este artículo, los científicos intentaban resolver esto ya sea:

1. Echando un vistazo al cerebro: Mirando la matemática interna del robot (logits) para realizar ingeniería inversa a la pregunta. Esto es como intentar resolver un rompecabezas usando gafas de rayos X.
2. Usando una guía de referencia gigante: Entrenando una IA separada con millones de pares de pregunta-respuesta de internet para adivinar la pregunta. Esto es como contratar a un detective que ha leído todos los libros de la biblioteca.

El problema con estas formas antiguas es que a menudo requieren un acceso especial (que no obtienes con un modelo de "caja negra") o enormes cantidades de datos externos. También tienden a adivinar una pregunta que significa lo mismo pero no usa las mismas palabras exactas.

La solución del "Robot hacia atrás"

Los autores de este artículo, trabajando con modelos de IIT Bombay y Adobe Research, idearon una solución ingeniosa y autocontenida. No necesitaron gafas de rayos X ni una biblioteca. Solo necesitaron al propio robot.

Así es como construyeron su "Robot hacia atrás":

1. La configuración: Tomaron al robot objetivo (el que querían invertir) y jugaron un juego con él. Le dieron cada palabra de su vocabulario como punto de partida y dejaron que generara una historia corta.
2. El giro: Tomaron esas historias y las invirtieron. Si el robot escribió "El gato se sentó", lo convirtieron en "sentó gato El".
3. El entrenamiento: Entrenaron a un nuevo robot pequeño (un "modelo inverso") desde cero utilizando estas historias invertidas. Este nuevo robot aprendió una nueva habilidad: Predicción del Token Previo. En lugar de adivinar qué viene después, aprendió a adivinar qué vino antes.
   • Analogía: Imagina aprender a conducir un coche viendo solo videos del coche conduciendo en reversa. Eventualmente, te vuelves tan bueno en la reversa que, si ves un coche estacionado, puedes predecir perfectamente el camino que tomó para llegar allí.
4. El ajuste fino (Fine-Tuning): Para asegurar que el robot hablara como un humano, le dieron algunos ejemplos reales de preguntas y respuestas (de un conjunto de datos llamado ShareGPT) y le enseñaron a revertir esos también.

Los resultados: Rebobinando la cinta

Cuando probaron este nuevo método, los resultados fueron bastante impresionantes. Utilizaron un modelo llamado Qwen3-0.6B y descubrieron que su "Robot hacia atrás" podía reconstruir el prompt original (la pregunta) con una alta precisión.

• Coincidencia Exacta: Aproximadamente el 64.77% de las veces, el prompt reconstruido era exactamente igual al original. Esto es importante porque los métodos anteriores a menudo solo acertaban el significado, no las palabras exactas.
• F1 de Token: Obtuvieron 63.64, que es una medida de cuántas de las palabras individuales coincidieron perfectamente.
• Similitud Semántica: Incluso cuando las palabras no eran idénticas, el significado era muy cercano (Similitud de Coseno de 86.13).

El artículo también mostró que este "Robot hacia atrás" es bastante flexible. Incluso si lo entrenaron en un tipo de robot (Qwen) y le pidieron que adivinara los prompts para un tipo de robot diferente (como LLaMA o GPT-4o), todavía funcionó razonablemente bien. No fue perfecto en las palabras exactas (porque diferentes robots usan diferentes diccionarios), pero acertó en el significado. Esto sugiere que el robot aprendió una "lógica" general de cómo realizar ingeniería inversa de pensamientos, no solo un truco específico para un modelo.

Por qué esto es importante

El artículo argumenta que este enfoque es mejor que las formas antiguas por varias razones:

• Es una solución de "Caja Negra": No necesitas ver el código interno o los pesos del robot. Solo necesitas hablar con él.
• Es Autocontenido: No necesita una base de datos externa masiva de preguntas y respuestas. Genera sus propios datos de entrenamiento jugando con el robot objetivo.
• Es Fiel: Debido a que aprende el proceso inverso exacto del proceso directo, puede reconstruir las palabras exactas, no solo la idea general.

Sin embargo, los autores advierten cuidadosamente que esto no es una varita mágica que lo soluciona todo. Si el robot que intentas invertir utiliza un conjunto de símbolos (vocabulario) completamente diferente o una estructura cerebral muy distinta, la reconstrucción palabra por palabra se vuelve más difícil. Además, generar los datos de entrenamiento requiere hacer muchas preguntas al robot, lo que puede ser lento.

El panorama general

En términos simples, este artículo muestra que si quieres saber qué estaba pensando un robot antes de hablar, no necesitas abrirlo ni contratar a un detective. Solo necesitas enseñar a un nuevo robot a pensar hacia atrás. Al cambiar el guion y entrenar un modelo para predecir "qué vino antes" en lugar de "qué viene después", los autores crearon una herramienta que puede rebobinar la cinta de las conversaciones de IA con una precisión sorprendente. Es un recordatorio lúdico pero poderoso de que, a veces, para entender el futuro, solo necesitas mirar el pasado en reversa.