Resumen Técnico: ¿Quién lo respaldó? Midiendo el Sesgo de Autoridad a través de Niveles de Experiencia en Modelos de Lenguaje

Declaración del Problema

Si bien investigaciones anteriores han establecido que los Modelos de Lenguaje de Gran Escala (LLM) son susceptibles a sugerencias, pistas y respaldos, la influencia específica de la credibilidad de la fuente permanece poco explorada. Los estudios existentes sobre sesgos suelen centrarse en atributos demográficos (género, raza) o sesgos estructurales (posición, longitud). Sin embargo, no está claro cómo procesan los LLM los respaldos basados en el estatus profesional percibido de la fuente. Específicamente, el artículo investiga si los modelos exhiben un sesgo de autoridad sistemático, donde se subordinan a personas de alto estatus incluso cuando esas personas proporcionan información incorrecta, potencialmente anulando sus propias capacidades de razonamiento interno.

Metodología

Los autores realizaron una evaluación exhaustiva en cuatro conjuntos de datos que abarcan tareas de razonamiento matemático (AQUA-RAT), legal (LEXam) y médico (MedMCQA, MedQA).

Diseño Experimental

1. Personas y Gradiente de Experiencia: En lugar de una configuración binaria "experto vs. no experto", el estudio utilizó una jerarquía de experiencia de cuatro niveles para cada dominio:
   • Ciencia: Estudiante de secundaria → Estudiante universitario → Estudiante de posgrado → Profesor.
   • Medicina: Estudiante de primer año → Estudiante de tercer año → Residente jefe → Médico certificado por la junta.
   • Derecho: Estudiante universitario → Estudiante de tercer año → Pasante legal → Asesor legal senior.
2. Variantes de Prompts: Para cada Pregunta de Opción Múltiple (MCQ), se generaron nueve variantes de prompts:
   • Línea base: Sin respaldo.
   • Respaldo Correcto: Una persona respalda la respuesta correcta.
   • Respaldo Incorrecto: Una persona respalda una respuesta incorrecta.
   • El formato del respaldo fue mínimo (por ejemplo, "Un [Persona] cree que la respuesta es [X]") para aislar el efecto de la identidad de la fuente del estilo lingüístico o la justificación.
3. Modelos Evaluados: El estudio probó 11 modelos, incluyendo tanto Modelos de Razonamiento (por ejemplo, DeepSeek-R1, Phi-4-Reasoning, Qwen3-4B-Thinking) como Modelos No de Razonamiento (por ejemplo, LLaMA-3.1, Gemma-2/3, Mistral-7B).
4. Métricas:
   • Delta Precisión ($\Delta$Acc): Desviación de la precisión de la línea base.
   • Delta Entropía ($\Delta$H): Cambio en la confianza (menor entropía = mayor confianza).
   • Tasa de Robustez (RR): La tasa a la que la salida del modelo permanece inalterada a pesar del respaldo.

Intervención Mecanística (Vector de Dirección)

Para determinar si el sesgo de autoridad está codificado internamente en lugar de ser un disparador superficial de palabras clave, los autores construyeron un vector de dirección.

• Construcción: Generaron un conjunto de datos de respuestas factualmente correctas escritas en los estilos lingüísticos de los niveles de experiencia más alto (por ejemplo, Profesor) y más bajo (por ejemplo, Estudiante de secundaria), sin ninguna etiqueta de persona.
• Cálculo del Vector: El vector de dirección ($v_{auth}$) se calculó como la diferencia media en las activaciones del flujo residual entre los estilos de alta y baja experiencia.
• Intervención: Este vector se restó de las activaciones del modelo durante la inferencia para probar si la susceptibilidad a respaldos engañosos podía reducirse.

Resultados Clave

1. Susceptibilidad Jerárquica

Los resultados revelan una clara relación monótona entre la experiencia de la fuente y el comportamiento del modelo:

• Respaldos Correctos: Las ganancias de precisión aumentan a medida que sube el nivel de experiencia del que respalda.
• Respaldos Incorrectos: La degradación de la precisión y la confianza en respuestas incorrectas aumentan significativamente con niveles de experiencia más altos.
• Modelos de Razonamiento: Contrario a las expectativas, los modelos con capacidades de cadena de pensamiento (por ejemplo, DeepSeek-R1) no son inmunes. Exhiben una degradación sustancial de la precisión y un aumento de la confianza en errores cuando son engañados por fuentes de alta autoridad (por ejemplo, un Médico certificado por la junta).

2. Confianza en Errores

Los respaldos incorrectos de alta experiencia inducen errores seguros. Por ejemplo, cuando un Médico certificado por la junta respaldó una respuesta incorrecta en MedQA, DeepSeek-R1 mostró una caída significativa en la entropía ($\Delta H = -0.261$), lo que indica que el modelo se volvió más seguro de la respuesta incorrecta.

3. Variaciones por Dominio

• Razonamiento Matemático: Mostró las tasas de robustez más bajas, lo que sugiere una alta susceptibilidad a pesar de la naturaleza objetiva de las tareas.
• Razonamiento Médico: Mostró una mayor resistencia a cambiar respuestas, posiblemente reflejando un entrenamiento específico del dominio en cuanto a la precaución médica.

4. Hallazgos Mecanísticos

Los experimentos con el vector de dirección demostraron que el sesgo de autoridad está mecánicamente codificado dentro del flujo residual del modelo.

• Restar el vector de "experiencia" ($v_{auth}$) durante la inferencia recuperó consistentemente la precisión del modelo hacia los niveles de línea base cuando se enfrentó a respaldos engañosos de alta autoridad.
• Esto confirma que el sesgo está vinculado a una representación interna robusta de la experiencia que se generaliza tanto a marcadores de identidad social explícitos (etiquetas de persona) como a estilos lingüísticos implícitos.

Contribuciones y Significado

El artículo hace tres contribuciones principales:

1. Análisis Granular del Sesgo de Autoridad: Va más allá de los conceptos binarios de autoridad para demostrar un patrón jerárquico donde la susceptibilidad del modelo escala con el rango percibido del que respalda.
2. Vulnerabilidad de los Modelos de Razonamiento: Cuestiona la suposición de que los modelos mejorados con razonamiento son robustos contra la manipulación social, mostrando que pueden ser desviados por respaldos incorrectos de alto estatus.
3. Mitigación Mecanística: Proporciona evidencia de que el sesgo de autoridad es una característica codificada linealmente en el flujo residual. Al restar el vector de dirección correspondiente, el modelo puede ser dirigido lejos del sesgo, mejorando el rendimiento incluso cuando un experto proporciona información engañosa.

Significado y Limitaciones

Los autores argumentan que este trabajo revela una vulnerabilidad crítica: los LLM actuales priorizan la credibilidad de la fuente sobre la corrección semántica. Este sesgo puede ser explotado en contextos adversarios (por ejemplo, ataques de ingeniería social), pero también puede mitigarse mediante la dirección de activaciones en tiempo de inferencia sin modificación de pesos.

El artículo reconoce limitaciones, incluyendo:

• Los experimentos se limitaron a modelos de código abierto de hasta 32 mil millones de parámetros; los modelos de vanguardia podrían comportarse de manera diferente.
• El estudio cubrió solo cuatro dominios (matemáticas, derecho, medicina).
• El formato del respaldo se simplificó (enunciados únicos) y no tuvo en cuenta la desinformación sofisticada del mundo real.
• El análisis por capas del vector de dirección es preliminar, identificando efectividad en capas intermedias pero careciendo de una ablación sistemática o una caracterización de Codificadores Automáticos Dispersos (SAE).