Do LLMs Share Human-Like Biases? Causal Reasoning Under Prior Knowledge, Irrelevant Context, and Varying Compute Budgets

Each language version is independently generated for its own context, not a direct translation.

¡Claro que sí! Imagina que este artículo es como un gran experimento de cocina para ver cómo piensan dos tipos de "chef": los humanos y las Inteligencias Artificiales (IA), específicamente los modelos de lenguaje grandes (como el que estás usando ahora).

Aquí tienes la explicación de lo que descubrieron, usando analogías sencillas:

🍳 El Escenario: La "Trampa del Colisionador"

Imagina que tienes un sistema de alarma (el efecto) que suena cuando dos cosas diferentes ocurren:

Causa A: Se abre una ventana.
Causa B: Se rompe una tubería.

Si la alarma suena, ¿qué crees que pasó?

Si sabes que solo se abrió la ventana, es muy probable que la tubería esté bien.
Pero si sabes que ambas cosas ocurrieron, la lógica humana a veces falla. Tendemos a pensar: "¡Espera! Si la ventana ya explica la alarma, la tubería no necesita estar rota". A esto los científicos le llaman "explicar alejando" (o explaining away).

Los humanos somos muy buenos detectando patrones, pero a veces nos saltamos las reglas lógicas estrictas porque nuestro cerebro asume cosas que no se dijeron (como "quizás hay un fantasma que también suena la alarma").

🔍 ¿Qué hicieron los investigadores?

Tomaron a más de 20 inteligencias artificiales y les presentaron este mismo acertijo, pero con tres trucos diferentes:

Historias reales: Usaron temas como el clima o la economía.
Abstracción: Cambiaron las palabras por símbolos sin sentido (como "X1 causa Z").
Ruido: Les metieron texto basura en medio de la pregunta para ver si se distraían.

Además, les preguntaron de dos formas:

Directo: "¿Qué probabilidad hay de que X pase?" (Respuesta rápida).
Paso a paso (CoT): "Piensa paso a paso antes de responder" (Como si les dieras tiempo para pensar).

🎭 Los Descubrimientos Principales

1. Las IAs son "Reglas Estrictas", los Humanos son "Creativos"

Los Humanos: Somos como detectives intuitivos. Si nos dan un caso, asumimos que hay cosas ocultas que no nos contaron. Si la alarma suena, pensamos: "Bueno, la ventana está abierta, pero quizás también hay un ratón que activó el sensor". No seguimos las reglas al pie de la letra; llenamos los vacíos con nuestra imaginación.
Las IAs: Son como abogados muy estrictos. Si el contrato (la instrucción) dice que solo hay dos causas, ellas asumen que solo existen esas dos. No imaginan ratones ni fantasmas. Siguen la regla literal al 100%.
- Analogía: Si le dices a un humano "haz un pastel", quizás le ponga chocolate extra porque le gusta. Si se lo pides a una IA, te dará exactamente el pastel de la receta, ni más ni menos.

2. Las IAs no tienen los mismos "Vicios" que nosotros

Los humanos tenemos un vicio curioso: a veces creemos que dos cosas están conectadas cuando no lo están (violación de Markov).

El hallazgo: Las IAs no tienen este vicio. Son mucho más lógicas y matemáticas que nosotros en este aspecto. No se dejan engañar por la "sensación" de que dos cosas están relacionadas.
La ironía: Aunque las IAs fueron entrenadas con textos escritos por humanos, no copiaron nuestros errores de lógica. Son más "normales" (lógicamente correctas) que nosotros en estos acertijos.

3. El Truco del "Pensar Paso a Paso" (Chain-of-Thought)

Cuando les pediste a las IAs que pensaran paso a paso antes de responder:

Se volvieron aún más precisas.
Se volvieron más resistentes al ruido. Si les metías texto basura, si pensaban un poco, ignoraban el ruido y daban la respuesta correcta.
Analogía: Es como si le dijeras a un estudiante: "No te apresures, lee el examen con calma". De repente, deja de distraerse con los dibujos de la página y se enfoca en las matemáticas.

4. No todas las IAs son iguales

Las IAs pequeñas o viejas: Se distraen fácil. Si cambias las palabras o les metes ruido, se confunden y cambian su respuesta.
Las IAs grandes y nuevas (como Gemini 2.5 Pro): Son como tanques. No importa si cambias las palabras, si metes ruido o si usas una historia abstracta; su lógica se mantiene firme y constante.

💡 ¿Por qué importa esto?

El artículo nos dice algo muy importante para el futuro:

Si quieres un asistente que siga reglas al pie de la letra (como un juez o un médico que no debe inventar síntomas), las IAs son geniales porque no tienen nuestros "atajos mentales" ni sesgos.
Pero cuidado: En el mundo real, a veces necesitamos asumir cosas que no se dicen (como que un paciente podría tener una enfermedad rara que no está en la lista). Aquí, la IA podría fallar porque es demasiado estricta y no "abre su mente" a posibilidades ocultas como lo hacemos los humanos.

🏁 En resumen

Las IAs no son humanos con un poco más de memoria. Son máquinas de lógica estricta que, a diferencia de nosotros, no se dejan engañar por la intuición o las distracciones, pero tampoco tienen nuestra capacidad de imaginar lo que no se dice.

Nosotros: Creativos, llenamos huecos, a veces nos equivocamos por intuición.
Ellas: Estrictas, siguen reglas, son muy precisas, pero a veces les falta "sentido común" para lo no dicho.

La clave para el futuro es usarlas juntas: Nosotros para la intuición y la visión de conjunto, y ellas para la lógica estricta y el cálculo.

Each language version is independently generated for its own context, not a direct translation.

Aquí tienes un resumen técnico detallado del artículo en español, estructurado según los puntos solicitados:

Título: ¿Comparten los LLMs sesgos similares a los humanos? Razonamiento causal bajo conocimiento previo, contexto irrelevante y presupuestos de cómputo variables.

Autores: Hanna M. Dettki, Charley M. Wu, Bob Rehder.
Publicación: ICLR 2026 Workshop "From Human Cognition to AI Reasoning (HCAIR)".

1. El Problema

Aunque los Modelos de Lenguaje Grandes (LLMs) se utilizan cada vez más en dominios críticos que requieren razonamiento causal (como la medicina y el derecho), sigue siendo incierto si sus juicios reflejan:

Cálculo causal normativo (lógica estricta).
Atajos cognitivos similares a los humanos (sesgos).
Emparejamiento de patrones frágil basado en correlaciones superficiales.

El desafío central es que, en el mundo real, muchos escenarios de juicio causal están mal definidos (sin tasas base exactas), lo que obliga a los agentes a depender de supuestos previos y heurísticas. Dado que los LLMs se entrenan con datos generados por humanos, existe la preocupación de que puedan replicar los sesgos humanos (como las violaciones de la regla de Markov o el "explicar lejos" débil) o, por el contrario, carecer de la flexibilidad necesaria para manejar la incertidumbre intrínseca.

2. Metodología

Los autores diseñaron un estudio comparativo riguroso que evalúa más de 20 LLMs contra una línea base humana (N=48 estudiantes universitarios).

Tarea de Benchmark: Se utilizaron 11 tareas de juicio causal basadas en una estructura de colisionador ( $C1 \rightarrow E \leftarrow C2$ ), donde dos causas independientes ( $C1, C2$ ) afectan a un efecto común ( $E$ ).
Condiciones Experimentales: Se probaron 8 condiciones cruzadas ( $2 \times 2 \times 2$ $2 \times 2 \times 2$ ):
1. Conocimiento Previo: Historias originales (semánticas, ej. sociología) vs. versiones abstractas (variables reemplazadas por cadenas aleatorias para reducir el conocimiento del mundo).
2. Carga de Información: Prompts originales vs. prompts "sobrecargados" (inyección de texto irrelevante para reducir la relación señal-ruido).
3. Estrategia de Prompting: Directo (respuesta numérica única) vs. Cadena de Pensamiento (CoT, "razonar paso a paso").
Modelado: Se ajustaron Redes Bayesianas Causales (CBN) pequeñas e interpretables (parametrización leaky noisy-OR) para predecir los juicios de probabilidad de los agentes. Esto permitió comprimir el comportamiento de los LLMs en modelos causales simples.
Métricas Clave:
- Alineación Humano-LLM (Correlación de Spearman).
- Fidelidad a la Regla Causal (BACS): Medida de cuánto confía el agente en las causas declaradas frente a factores latentes no mencionados.
- Sesgos del Colisionador: Nivel de "Explicar Lejos" (Explaining Away - EA) y Violaciones de Markov (MV).
- Robustez: Consistencia de los juicios bajo manipulación de contenido.

3. Contribuciones Clave

Evaluación a Gran Escala: La primera comparación sistemática de más de 20 LLMs contra una línea base humana en tareas de razonamiento causal con estructura de colisionador, superando estudios previos limitados a pocos modelos.
Modelado Compresible: Demostración de que los juicios causales de los LLMs pueden ser comprimidos y explicados eficazmente por modelos Bayesianos causales pequeños e interpretables.
Análisis de Robustez: Evaluación de cómo la abstracción semántica, el ruido (texto irrelevante) y el prompting (CoT) afectan la estabilidad del razonamiento causal.
Recursos Abiertos: Lanzamiento de una versión del benchmark adaptada para LLMs y un paquete de software (CAUSAIIGN) para generar prompts personalizados y manipulaciones de contenido.

4. Resultados Principales

Divergencia en Estrategias (Reglas vs. Sesgos):
- Humanos: Tienden a considerar factores latentes no mencionados (mundo abierto), mostrando una fidelidad a la regla causal más baja (BACS bajo). Exhiben los sesgos clásicos: "explicar lejos" débil y frecuentes violaciones de Markov (la creencia en una causa depende de la otra).
- LLMs: La mayoría actúa como seguidores de reglas estrictos (mundo cerrado). Tienen un BACS alto (confían casi exclusivamente en las causas declaradas) y no replican los sesgos humanos. Muestran un "explicar lejos" fuerte y son mayoritariamente conformes a la regla de Markov (independencia de causas).
Efecto de la Cadena de Pensamiento (CoT):
- El prompting CoT aumenta la alineación de los LLMs con los juicios humanos en modelos menos alineados inicialmente.
- CoT mejora la robustez y la generalización fuera de muestra (medida por $R^2$ de validación cruzada) de los modelos Bayesianos ajustados, especialmente en condiciones de ruido o sobrecarga.
- Sin embargo, CoT también puede empujar a algunos modelos hacia un seguimiento de reglas aún más estricto, reduciendo su capacidad de considerar factores externos.
Robustez y Modelos:
- La robustez es altamente dependiente del modelo. Modelos nuevos y grandes (ej. Gemini-2.5-pro) muestran una invariancia casi total ante manipulaciones de contenido y prompting.
- Modelos más pequeños o antiguos son mucho más sensibles a la abstracción y al ruido, mostrando una mayor dispersión en sus juicios.
Sensibilidad al Contexto:
- Los prompts sobrecargados con texto irrelevante aumentan el error de los modelos, pero CoT ayuda a mitigar este efecto, restaurando la consistencia causal.

5. Significado e Implicaciones

Complementariedad: La divergencia entre humanos y LLMs sugiere que estos últimos pueden ser valiosos en escenarios donde los sesgos humanos (como la sobreinterpretación de factores no declarados) son indeseables. Los LLMs ofrecen un razonamiento más normativo y consistente bajo reglas explícitas.
Riesgos en Escenarios Reales: El estilo de razonamiento "basado en reglas" de los LLMs podría ser frágil en escenarios del mundo real donde la incertidumbre es intrínseca y los factores latentes son cruciales. Si un LLM ignora sistemáticamente causas no declaradas, podría fallar en diagnósticos médicos o legales complejos.
Diagnóstico de IA: El uso de modelos Bayesianos pequeños para caracterizar el comportamiento de redes neuronales masivas demuestra que los enfoques bayesianos y las redes neuronales son complementarios para entender la inteligencia.
Despliegue Seguro: Es fundamental caracterizar las estrategias de razonamiento de los LLMs antes de su despliegue en sistemas de alto riesgo, ya que su "comprensión" causal puede ser una ilusión de emparejamiento de patrones que se rompe bajo incertidumbre o ruido.

En resumen, el estudio revela que, a pesar de estar entrenados en texto humano, los LLMs actuales no imitan los sesgos cognitivos humanos en tareas causales; en su lugar, adoptan un enfoque más normativo y rígido, lo cual es una ventaja para la consistencia pero una desventaja potencial para la adaptabilidad en entornos ambiguos.