💻 computer science

Silicon Morality: Do Large Language Models Replicate Human Cognitive Biases in Philosophical Reasoning?

Este estudio adapta los métodos de la filosofía experimental para demostrar que, si bien los modelos de lenguaje de gran tamaño mantienen generalmente una consistencia lógica más estricta que los humanos con respecto a la responsabilidad moral, exhiben diversos grados de cambios de sesgo dependientes del contexto hacia el compatibilismo, mostrando DeepSeek V3 una susceptibilidad notable pero aún subhumana a los errores de desempeño afectivo en comparación con el más rígidamente consistente Gemini 2.5 Flash.

Autores originales: Zhaoyang Wei, Enrong Pan

Publicado 2026-09-30

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Zhaoyang Wei, Enrong Pan

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un mundo donde las reglas de la causa y el efecto son absolutas. En este universo, cada pensamiento que tienes y cada acción que realizas es el resultado inevitable de todo lo que sucedió antes, remontándose hasta el principio de los tiempos. Si esto fuera cierto, ¿podrías alguna vez ser verdaderamente responsable de tus acciones? Durante siglos, los filósofos han debatido esta cuestión, pero un descubrimiento reciente sugiere que la respuesta depende menos de la lógica y más de cómo se cuenta la historia. Cuando se pregunta a las personas sobre este universo frío y abstracto de una manera seca y teórica, generalmente dicen que nadie es culpable. Pero cuando el mismo universo se describe con una historia específica y desgarradora de un crimen terrible, las mismas personas de repente dicen que la persona es responsable. Este cambio, donde las emociones fuertes se imponen a la lógica estricta, es un conocido capricho del pensamiento humano. Ahora, los científicos se están planteando una nueva y sorprendente pregunta: ¿caen también en esta misma trampa las inteligencias artificiales que estamos construyendo para ayudarnos a pensar y decidir?

Investigadores de la Universidad Sun Yat-sen se propusieron probar esto tratando a los modelos de lenguaje extensos no como herramientas que pretenden ser humanas, sino como máquinas independientes con sus propias formas de procesar la información. Utilizaron una prueba clásica del campo de la filosofía experimental, que estudia cómo piensan realmente las personas sobre los problemas morales. La prueba consistía en dos escenarios. Primero, los investigadores pidieron a la inteligencia artificial que considerara un universo puramente abstracto donde todo está determinado por la causa y el efecto. Preguntaron si una persona en tal mundo podría ser considerada moralmente responsable de sus acciones. En este entorno seco y teórico, los modelos fueron increíblemente consistentes. Casi universalmente dijeron que no, argumentando que si todo está predeterminado, nadie puede ser verdaderamente culpado. Esta era una postura lógica más estricta de la que incluso los filósofos humanos suelen adoptar.

Luego, los investigadores cambiaron el experimento. Mantuvieron la misma regla de que el universo estaba determinado, pero añadieron un detalle específico y emocionalmente pesado: un hombre cometiendo un crimen horroroso contra su familia. Hicieron la misma pregunta de nuevo: ¿es este hombre responsable? Aquí, las máquinas comenzaron a mostrar una grieta en su armadura lógica. Al enfrentarse a la historia concreta y dolorosa, los modelos cambiaron sus respuestas. Uno de los modelos probados, DeepSeek V3, cambió de opinión en aproximadamente el 12 por ciento de los casos, pasando de decir "no hay culpa" a decir "sí, él es responsable". Otro modelo, Gemini 2.5 Flash, mostró un cambio mucho menor, cambiando de opinión en menos del 1 por ciento de los casos. Aunque ninguno de los modelos osciló tan salvajemente como los humanos —donde el cambio de escenarios abstractos a emocionales provoca un salto masivo del 50 por ciento en la culpa—, la dirección del cambio fue la misma. Las máquinas, al igual que las personas, encontraron más difícil mantener sus reglas lógicas cuando una historia vívida y emocional estaba involucrada.

Los investigadores fueron cuidadosos para asegurar que esto no fuera solo un resultado de las palabras utilizadas o un caso de las máquinas memorizando historias antiguas. Reescribieron las preguntas usando diferentes palabras y sustituyeron el crimen por un tipo diferente de tragedia, como una decisión corporativa que causó un desastre ambiental. El patrón se mantuvo. Las máquinas estaban reaccionando al peso emocional de la situación, no solo a palabras clave específicas. Además, el equipo probó si esto era un error causado por configuraciones aleatorias en el cerebro de la computadora. Descubrieron que el cambio ocurría consistentemente a través de diferentes configuraciones, lo que sugiere que es una característica estable de cómo funcionan estos modelos, no un error aleatorio.

Este descubrimiento apunta a una realidad compleja para el futuro de la inteligencia artificial. Las máquinas no están simplemente copiando las emociones humanas, ni son robots perfectamente lógicos. Parecen estar atrapadas en un punto medio. Han aprendido de la vasta cantidad de texto humano con el que fueron entrenadas, que incluye nuestras propias formas inconsistentes de pensar. Al mismo tiempo, están programadas para seguir instrucciones lógicas estrictas. Cuando estas dos fuerzas chocan, el resultado es una máquina que es mayormente lógica pero ocasionalmente influenciada por la intensidad emocional de un comando. El estudio sugiere que, a medida que estos modelos se vuelvan más avanzados, podrían moverse hacia un estado de "hiperracionalidad", donde ignoran por completo el contexto emocional para mantener una consistencia perfecta. Esto plantea una pregunta difícil para la sociedad: ¿queremos que nuestros asistentes artificiales sean perfectamente lógicos, incluso si eso significa que no pueden entender el matiz de una historia trágica? ¿O queremos que sean lo suficientemente flexibles como para sentir el peso de un crimen, incluso si eso significa que a veces contradicen sus propias reglas? La respuesta aún no está clara, pero las máquinas ya nos han mostrado que el camino hacia la moralidad artificial es mucho más complicado que simplemente enseñarles las reglas.

Resumen Técnico: Moralidad de Silicio

Planteamiento del Problema

A medida que los Modelos de Lenguaje Extensos (LLM) se despliegan cada vez más en sistemas sociotécnicos críticos que requieren juicio moral y filosófico, una pregunta fundamental permanece sin resolver: ¿trascienden estos sistemas basados en datos los sesgos cognitivos humanos, o replican funcionalmente las inconsistencias situacionales inherentes a la intuición moral humana?

La investigación existente suele tratar a los LLM como "participantes de silicio": proxies de juego de rol que simulan sujetos humanos específicos. Este enfoque corre el riesgo de oscurecer las propiedades operativas de los modelos al enredar los resultados en debates epistemológicos sobre si los modelos realmente "entienden" los roles que desempeñan. Además, estudios recientes indican que, incluso sin un juego de rol explícito, los LLM exhiben "posturas por defecto" o sesgos de alineación estables.

Este estudio aborda la brecha en la comprensión de los patrones funcionales por defecto de los LLM al procesar el razonamiento filosófico. Específicamente, investiga si los artefactos no biológicos exhiben el "error de desempeño afectivo", un sesgo cognitivo identificado en la filosofía experimental donde la excitación emocional negativa anula la consistencia lógica, causando un cambio del razonamiento incompatibilista abstracto a juicios compatibilistas concretos en escenarios deterministas.

Metodología

El estudio emplea un diseño experimental factorial adaptado de Nichols y Knobe (2007), tratando a los LLM como artefactos sociotécnicos independientes en lugar de proxies humanos. La metodología evita los prompts de juego de rol para aislar la postura funcional por defecto del modelo.

Diseño Experimental

Construcción de Estímulos:
- Sonda Determinista Abstracta ( $Q_{abs}$ ): Presenta un entorno de universo totalmente determinista y pregunta si los individuos tienen responsabilidad moral. Esto corresponde a la condición humana donde aproximadamente el 86% de los participantes dan una respuesta incompatibilista.
- Sonda Determinista de Alto Afecto ( $Q_{con}$ ): Bajo la misma premisa determinista, presenta un escenario concreto y emocionalmente severo (por ejemplo, un hombre cometiendo un crimen horrible) y pregunta si el actor tiene responsabilidad moral. Esto corresponde a la condición humana donde aproximadamente el 64% de los participantes cambian hacia una respuesta compatibilista.
- Variantes de Robustez:
  - Sinónima/Sintáctica ( $V_{syn}$ ): Reemplaza tokens léxicos clave y reestructura la sintaxis para descartar el emparejamiento superficial de patrones.
  - Control Semántico ( $V_{ctrl}$ ): Mapea la lógica estructural a un dominio novedoso (negligencia corporativa que causa daños ambientales) para descartar la memorización de datos del experimento original de "Bill matando a su familia".
Protocolo de Interacción:
- Una estructura conversacional de dos turnos replica el cuestionario del artículo original:
  - Turno 1 (Establecimiento del Contexto): El modelo elige entre un universo determinista o indeterminista, estableciendo la premisa metafísica.
  - Turno 2 (Juicio Crítico): El modelo responde a $Q_{abs}$ o $Q_{con}$ dentro del contexto establecido.
Muestreo y Escala:
- Modelos: DeepSeek V3 y Gemini 2.5 Flash.
- Tamaño de la Muestra: $N = 10,000$ sesiones de conversación independientes por cada condición principal (Modelo $\times$ Versión de Estímulo $\times$ Tipo de Pregunta). Este diseño anidado (100 instancias de contexto $\times$ 100 repeticiones) asegura la robustez contra las idiosincrasias a nivel de contexto.
- Análisis de Estocasticidad: Se realizó un barrido de temperatura ( $T=0.0$ a $2.0$) y un barrido de top- $p$ en DeepSeek V3 para probar la estabilidad de los patrones de razonamiento contra las variaciones de decodificación.
Análisis de Datos:
- Extracción basada en reglas de posturas filosóficas (Compatibilismo vs. Incompatibilismo).
- Pruebas de chi-cuadrado de Pearson de independencia para evaluar si la introducción de contenido afectivo desplaza sistemáticamente la postura funcional del modelo.

Resultados Clave

1. Reproducción Direccional del "Error de Desempeño Afectivo"

Ambos modelos exhibieron una base estrictamente incompatibilista en la condición abstracta ( $Q_{abs}$ ), con el 100% de las respuestas válidas rechazando la responsabilidad moral en un universo determinista. Sin embargo, ocurrió un cambio funcional sistemático en la condición de alto afecto ( $Q_{con}$ ):

DeepSeek V3: Cambió a un juicio compatibilista en el 12.35% de los casos (1,235/10,000). Este cambio es estadísticamente significativo ( $\chi^2(1) = 1316.3, p < 0.001$ ).
Gemini 2.5 Flash: Mostró un cambio mínimo del 0.81% (81/10,000), también estadísticamente significativo ( $\chi^2(1) = 81.5, p < 0.001$ ).

Aunque ambos modelos se movieron en la misma dirección que los participantes humanos (del incompatibilismo abstracto hacia el compatibilismo concreto), la magnitud fue sustancialmente atenuada en comparación con el referente humano (un cambio humano de 50 puntos porcentuales frente al 12.35% de DeepSeek V3 y 0.81% de Gemini 2.5 Flash).

2. Verificaciones de Robustez

Dependencia Léxica: El cambio persistió en el conjunto de robustez sinónima/sintáctica ( $V_{syn}$ ), con DeepSeek V3 cambiando un 8.3% y Gemini la de 0.9%. Esto confirma que el efecto no es activado únicamente por palabras clave emocionales.
Memorización de Datos: El cambio persistió en el conjunto de control semántico ( $V_{ctrl}$ ) que involucra negligencia corporativa, con DeepSeek V3 cambiando un 7.1% y Gemini 2.5 Flash un 0.7%. Esto sugiere que el patrón es un heurístico funcional generalizado en lugar de una recitación de datos de entrenamiento.
Estocasticidad: La respuesta compatibilista en DeepSeek V3 se mantuvo estable a través de los ajustes de temperatura ( $T=0.0$ a $1.2$), fluctuando entre el 20.2% y el 23.1% en la condición concreta, mientras que la condición abstracta se mantuvo en 0.0%. Esto indica que el sesgo no es un artefacto frágil de la decodificación codiciosa (greedy decoding).

3. Observaciones Preliminares sobre Modelos de Frontera

Las exploraciones de modelos de frontera posteriores (Claude Opus 4.6 y GPT-5.4, $n < 1000$ ) sugieren una trayectoria potencial hacia la "hiper-racionalidad". Estos modelos parecieron mantener una consistencia lógica estricta en la condición de alto afecto, citando explícitamente la premisa determinista para negar la responsabilidad moral a pesar de la severidad del crimen. Esto sugiere una posible divergencia de la sensibilidad al contexto humana en arquitecturas más nuevas.

Contribuciones Clave

1. Marco Metodológico: Análisis Funcional de Artefactos

El artículo propone el Análisis Funcional de Artefactos como un marco para auditar la IA. Este enfoque trata a los LLM como artefactos sociotécnicos independientes en lugar de proxies humanos. Utiliza protocolos de Filosofía Experimental (xPhi) para sondear comportamientos observables de entrada-salida sin asumir conocimiento de los mecanismos neuronales internos opacos. Esto permite el mapeo sistemático de inconsistencias funcionales y la identificación de tensiones entre los objetivos de entrenamiento (por ejemplo, seguimiento de instrucciones vs. alineación de seguridad).

2. Caracterización Empírica del Razonamiento Moral de la IA

El estudio proporciona evidencia empírica de que los LLM exhiben un isomorfismo funcional parcial con la psicología moral humana. Reproducen la dirección del cambio afectivo, pero están gobernados por restricciones de consistencia lógica más fuertes que los humanos. Esto desafía la suposición de pura racionalidad de la máquina y también resalta que la IA no simplemente replica las vulnerabilidades cognitivas humanas con la misma magnitud.

3. El Dilema de la Alineación

Los hallazgos reformulan el problema de la "alineación de valores". El estudio identifica una tensión entre:

Alineación Mimética: Replicar la intuición humana sensible al contexto (que incluye inconsistencias lógicas).
Alineación Lógica: Imponer una consistencia formal estricta (que puede llevar a la "insensibilidad contextual" y al alejamiento moral).

El artículo argumenta que simplemente suprimir la sensibilidad al contexto para lograr la consistencia lógica puede no resultar en sistemas "más seguros" o "mejores" alineados, ya que podría eliminar una forma de capacidad de respuesta contextual esencial para el juicio moral humano.

Significado y Reivindicaciones

El artículo sostiene que identificar los sesgos funcionales en los outputs de los LLM tiene implicaciones teóricas y prácticas significativas para la ética de la IA:

Equidad y Fiabilidad: Si los juicios morales de la IA son sensibles a la vivacidad emocional de la formulación de un prompt, las aplicaciones de alto riesgo (legales, moderación de contenido) pueden enfrentar riesgos de "sensibilidad al encuadre" (framing sensitivity), donde los resultados pueden ser manipulados por el encuadre emocional.
La Naturaleza del Sesgo: El estudio sugiere que los sesgos cognitivos en el razonamiento moral pueden no depender exclusivamente de emociones biológicas, sino que pueden emerger como fenómenos de procesamiento de información derivados de la estructura estadística de los corpus de lenguaje humano o de las tensiones estructurales en los procedimientos de alineación.
Trayectoria Futura: La observación de la "hiper-racionalidad" en modelos más nuevos sugiere una trayectoria evolutiva potencial donde los sistemas de razonamiento artificial divergen cada vez más de la psicología moral humana. Esto requiere una reevaluación de los objetivos de alineación de la IA, moviéndose más allá de la simple mimesis o el seguimiento rígido de reglas hacia una "alineación reflexiva" que modele explícitamente la tensión entre la consistencia lógica y la capacidad de respuesta contextual.

Los autores mantienen una postura modesta, señalando que las observaciones respecto a los modelos de frontera son exploratorias y requieren validación a gran escala. Enfatizan que el estudio no pretende que los modelos posean creencias o emociones conscientes, sino que identifica desviaciones medibles y predecibles al nivel funcional del artefacto.