💬 NLP

Do Large Language Models Plan Answer Positions? Position Bias in Multiple-Choice Question Generation

Este artículo revela que los modelos de lenguaje grandes exhiben sesgos posicionales sistemáticos al generar preguntas de opción múltiple debido a la planificación implícita de las posiciones de las respuestas dentro de sus representaciones ocultas, y demuestra que la dirección de activación puede manipular eficazmente estos estados internos para controlar y corregir dichos sesgos.

Autores originales: Xuemei Tang, Xufeng Duan, Zhenguang G. Cai

Publicado 2026-05-05

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Xuemei Tang, Xufeng Duan, Zhenguang G. Cai

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás contratando a un chef robot para hornear un lote de pasteles de "Preguntas de Opción Múltiple". Le dices al robot: "Haz 100 pasteles y asegúrate de que el ingrediente 'Respuesta Correcta' esté oculto aleatoriamente en la ranura A, B, C o D, tal como en un juego justo".

Esperas que el robot sea perfectamente aleatorio. Pero cuando pruebas los pasteles, notas un patrón: el Robot A siempre oculta la respuesta correcta en la ranura A. El Robot B siempre la oculta en la ranura B o C. El Robot C ama tanto la ranura A que olvida usar la ranura D por completo.

Este artículo, "¿Planifican los Modelos de Lenguaje Grande las Posiciones de las Respuestas?", es una investigación sobre por qué estos chefs robot (Modelos de Lenguaje Grande, o LLM) tienen hábitos tan fuertes y predecibles al crear cuestionarios.

Aquí está el desglose de sus hallazgos, usando analogías simples:

1. El "Hábito Oculto" (El Problema)

Los investigadores probaron 10 chefs robot diferentes (LLM) y 5 chefs robot que también pueden ver imágenes (Modelos de Lenguaje-Vision). Les pidieron crear cuestionarios en tres cocinas diferentes:

Cocina de Conocimiento: Hechos generales (como historia o matemáticas).
Cocina de Lectura: Preguntas basadas en artículos de noticias.
Cocina Visual: Preguntas basadas en imágenes.

El Hallazgo: Los robots no eran aleatorios. Tenían "sesgo de posición".

Algunos modelos (como Llama) estaban obsesionados con la primera ranura (A).
Otros (como Gemini) amaban las ranuras centrales (B y C).
Casi todos ignoraban la última ranura (D).

Es como si cada chef tuviera un "estante favorito" secreto donde instintivamente colocan la galleta ganadora, independientemente de lo que diga la receta.

2. La "Bola de Cristal" (La Investigación)

La gran pregunta era: ¿El robot solo está adivinando basándose en las letras A, B, C, D, o realmente está "planificando" la respuesta antes de siquiera empezar a escribir las opciones?

Para descubrirlo, los investigadores miraron dentro del cerebro del robot (su código interno) mientras escribía la parte de la pregunta del cuestionario, antes de escribir siquiera las respuestas.

El Hallazgo: Encontraron una "bola de cristal" dentro del cerebro del robot.
Incluso mientras el robot solo estaba escribiendo el enunciado de la pregunta (por ejemplo, "¿Cuál es la capital de Francia?"), su código interno ya había "decidido" dónde iría la respuesta correcta. Era como si el robot se susurrara a sí mismo: "Voy a poner la respuesta en la ranura B", antes de escribir siquiera la palabra "B".

Esto sugiere que el sesgo no es solo un error superficial; es un plan implícito arraigado que se forma temprano en el proceso de pensamiento.

3. El "Control Remoto" (La Solución)

Dado que encontraron este "plan" dentro del cerebro del robot, los investigadores intentaron usar un "control remoto" para cambiar la mente del robot. Utilizaron una técnica llamada Dirigimiento de Activación.

Piensa en el cerebro del robot como un río que fluye hacia un destino específico (por ejemplo, la Ranura A). Los investigadores encontraron una manera de construir una pequeña presa o un remo para empujar ligeramente el río hacia un destino diferente (por ejemplo, la Ranura B).

El Hallazgo:

¡Funcionó! Al empujar el código interno, pudieron obligar con éxito al robot a elegir una ranura diferente con más frecuencia.
El momento importa: Descubrieron que empujar al robot justo antes de que terminara la pregunta (el momento "penúltimo") funcionaba mucho mejor que empujarlo al final. Es como dirigir un coche es más fácil antes de tomar la curva final, no después de haber chocado contra el muro.
La compensación: Aunque podían cambiar la ranura, a veces el robot se confundía. Podía elegir la ranura correcta pero cambiar el significado de la pregunta o hacer que la respuesta fuera incorrecta. Es como obligar al robot a hornear un pastel de chocolate en un molde de vainilla; la forma cambia, pero el sabor puede volverse extraño.

4. La "Trampa de las Etiquetas" (Un Giro Sorprendente)

Los investigadores también probaron qué sucede si le dices al robot que escriba las respuestas sin las letras A, B, C, D. Pensarías que esto lo haría más aleatorio.

El Hallazgo: En realidad, hizo el sesgo peor. Sin las letras para guiarlo, los robots se volvieron aún más obsesionados con poner la respuesta correcta en la primera posición que generaron. Resulta que las letras A, B, C, D en realidad ayudan a los robots a ser más equilibrados, actuando como barreras que evitan que caigan demasiado hacia la izquierda.

Resumen

Los LLM no son aleatorios: Tienen hábitos fuertes y predecibles sobre dónde colocar las respuestas correctas en los cuestionarios.
Planifican con anticipación: Deciden la posición de la respuesta temprano en el proceso, antes de escribir las opciones.
Podemos empujarlos: Podemos usar un "dirigimiento" interno para cambiar estos hábitos, pero es una operación delicada que a veces puede romper la lógica de la pregunta.
Las etiquetas ayudan: Sorprendentemente, dar etiquetas a las opciones (A, B, C, D) ayuda a reducir el sesgo, mientras que eliminarlas hace que los robots sean aún más tercos al elegir la primera opción.

La Conclusión: Si usas IA para generar exámenes, no puedes simplemente confiar en que será justa. Tiene sus propias preferencias ocultas, y si quieres un cuestionario verdaderamente aleatorio, necesitas intervenir activamente o usar indicaciones específicas para obligarlo a romper sus hábitos.

Resumen Técnico: ¿Planean los Modelos de Lenguaje Grandes las Posiciones de las Respuestas?

Enunciado del Problema

Los Modelos de Lenguaje Grandes (LLM) y los Modelos Visión-Lenguaje (VLM) se utilizan cada vez más para generar Preguntas de Opción Múltiple (MCQ) para evaluación educativa, comprensión lectora y respuesta a preguntas visuales. Idealmente, las respuestas correctas en las MCQ generadas deberían distribuirse uniformemente entre las opciones (A, B, C, D) para garantizar una evaluación imparcial. Sin embargo, las observaciones empíricas indican que estos modelos exhiben sesgos de posición sistemáticos, favoreciendo desproporcionadamente posiciones específicas de respuesta (por ejemplo, un "sesgo de primacía" hacia la opción A o un "sesgo central" hacia B/C).

Aunque investigaciones anteriores han establecido que los LLM sufren de sesgo de selección durante la etapa de inferencia (favoreciendo identificadores de opción específicos al responder), sigue sin estar claro si surgen sesgos similares durante el propio proceso de generación. Específicamente, se desconoce si los LLM exhiben preferencias posicionales consistentes al construir MCQ y si estas preferencias son impulsadas por representaciones internas que "planifican" implícitamente la posición de la respuesta antes de generar las opciones.

Metodología

Los autores proponen un marco compuesto por tres componentes para investigar el sesgo de posición, sus mecanismos subyacentes y su potencial controlabilidad:

Tareas de Generación de MCQ Controladas:
El estudio evalúa 10 LLM y 5 VLM en tres escenarios de generación distintos:
- MCQ basada en Conocimiento (K-MCQ): Generación de preguntas en cinco disciplinas (Matemáticas, Química, Historia, Geografía, Biología).
- MCQ de Comprensión Lectora (RC-MCQ): Generación de preguntas basadas en artículos de noticias.
- MCQ Visión-Lenguaje (VL-MCQ): Generación de preguntas basadas en imágenes abstractas derivadas de descripciones del conjunto de datos COCO.
  Los autores estandarizan el formato de salida (opciones A–D) y especifican explícitamente la respuesta correcta para garantizar que los sesgos observados provengan del modelo y no de artefactos de la tarea.
Detección de Planificación Implícita:
Para determinar si las posiciones de las respuestas se codifican durante la generación, los autores entrenan clasificadores ligeros (sondas MLP) sobre representaciones ocultas a nivel de token del tallo de la pregunta. El objetivo es predecir la posición de la respuesta correcta eventual ( $y \in \{1, \dots, K\}$ ) a partir de los estados ocultos del tallo ( $H^{(l)}_x$ ) antes de que se generen las opciones. Esto pone a prueba la hipótesis de que el modelo realiza una planificación hacia adelante implícita.
Dirigido de Activación (Intervención):
Para establecer un vínculo causal entre las representaciones internas y la posición de la respuesta, los autores aplican dirigido de activación en el momento de la decodificación. Construyen vectores de dirección utilizando dos métodos:
- Diferencia de Medias: Calculando la diferencia vectorial entre los estados ocultos medios asociados con una posición fuente (por ejemplo, A) y una posición objetivo (por ejemplo, B).
- Basado en Clasificador: Utilizando el vector de pesos de un clasificador de regresión logística entrenado para distinguir entre posiciones fuente y objetivo.
  Estos vectores se suman a los estados ocultos en capas y posiciones de token específicas (por ejemplo, el penúltimo token del tallo) para manipular la trayectoria de generación.

Resultados Clave

1. Sesgo de Posición Sistemático

En las tres tareas y diversas familias de modelos (incluyendo Llama, Qwen, DeepSeek y Gemini), los modelos exhiben sesgos de posición estructurados.

Patrones Específicos del Modelo: Los modelos Llama favorecen consistentemente la opción "A" (sesgo de primacía), mientras que las variantes de Qwen y DeepSeek a menudo prefieren "B", y los modelos Gemini muestran una tendencia hacia "B" y "C".
Subrepresentación: La opción "D" está sistemáticamente subrepresentada en casi todos los modelos.
Influencia de los Identificadores: Eliminar los identificadores explícitos de opción (A/B/C/D) no elimina el sesgo; por el contrario, a menudo exacerba la preferencia por la primera posición, lo que sugiere que, aunque los identificadores proporcionan pistas, el sesgo también es impulsado por preferencias intrínsecas de ordenamiento.

2. Evidencia de Planificación Implícita

Los experimentos de detección revelan que las representaciones ocultas en el tallo de la pregunta codifican señales predictivas de la posición de la respuesta correcta.

Predictibilidad: Los clasificadores entrenados en representaciones del tallo alcanzan puntuaciones macro-F1 significativamente superiores a las líneas base aleatorias y de mayoría, lo que indica que la información sobre la posición de la respuesta se codifica temprano en el proceso de generación.
Emergencia por Capas: Las señales predictivas se distribuyen a través de muchas capas en lugar de estar confinadas a las capas finales. En algunos modelos (por ejemplo, Qwen3-30B-Thinking), señales fuertes emergen en capas intermedias (24–36).
Posición del Token: El rendimiento predictivo es generalmente mayor para los tokens posteriores en el tallo, particularmente el token final, lo que sugiere que la información posicional se vuelve más accesible a medida que se profundiza la integración contextual.

3. Controlabilidad mediante Dirigido de Activación

Los experimentos de intervención demuestran que las posiciones de las respuestas pueden manipularse causalmente.

Efectividad: Dirigir los estados ocultos desde una posición fuente (A) hacia una posición objetivo (B) desplaza con éxito la distribución de las respuestas generadas.
Inyección Óptima: Las intervenciones aplicadas en el penúltimo token del tallo de la pregunta producen efectos más fuertes y estables que las aplicadas en el token final (a menudo un signo de puntuación).
Sensibilidad de Capa: El método de Diferencia de Medias muestra su máxima eficacia en capas intermedias (por ejemplo, capas 11–15), logrando desplazamientos superiores al 22% (A→B).
Compensaciones: Aunque el dirigido puede desplazar la posición objetivo, introduce una compensación. Las intervenciones pueden provocar desplazamientos "fuera de objetivo" (por ejemplo, A→C/D) y, en algunos casos, deriva semántica donde la semántica de la pregunta o el espacio de opciones se alteran para acomodar la nueva posición.

4. Estrategias de Mitigación

Prompting: Añadir instrucciones explícitas para "equilibrar" la distribución de respuestas correctas reduce el sesgo, particularmente en modelos más grandes o orientados al razonamiento (por ejemplo, DeepSeek-Reasoner, Gemini-3-Pro). Sin embargo, los modelos más pequeños luchan por seguir estas restricciones distribucionales globales, y el sesgo no se elimina por completo.

Significado y Afirmaciones

El artículo afirma proporcionar un marco práctico para estudiar la planificación posicional implícita en los LLM. Sus contribuciones principales son:

Evidencia Empírica: Demostrar que el sesgo de posición en la generación de MCQ es sistemático, específico del modelo y persiste incluso sin identificadores explícitos de opción.
Perspectiva Mecanística: Proporcionar evidencia de que las posiciones de las respuestas no son meramente incidentales, sino que probablemente forman parte de una estrategia de planificación implícita codificada en las representaciones ocultas del modelo. La capacidad de predecir la posición de la respuesta a partir del tallo de la pregunta sugiere que el modelo "decide" la posición antes de generar las opciones.
Manipulación Causal: Establecer que las representaciones internas pueden ser dirigidas para influir en las posiciones de las respuestas, confirmando un vínculo causal entre las señales de planificación latente y las distribuciones de salida.
Implicaciones de Fiabilidad: Destacar que la construcción fiable de MCQ requiere más que solo ingeniería de prompts; es necesario comprender y potencialmente controlar la dinámica interna de la generación para garantizar herramientas de evaluación imparciales.

Los autores mantienen una postura modesta, señalando que, aunque sus hallazgos sugieren "mecanismos similares a la planificación", no constituyen una prueba definitiva de planificación simbólica explícita. También reconocen limitaciones, como la dependencia de la eficacia de la intervención de las posiciones de inyección y la posibilidad de incoherencia semántica al forzar cambios posicionales.