The role of System 1 and System 2 semantic memory structure in human and LLM biases

Título: El papel de la estructura de memoria semántica de los Sistemas 1 y 2 en los sesgos humanos y de los Modelos de Lenguaje Grande (LLM)

1. Problema e Introducción

Los sesgos implícitos, tanto en humanos como en Modelos de Lenguaje Grande (LLM), representan riesgos sociales significativos, manifestándose a menudo como estereotipos dañinos. La teoría del procesamiento dual propone que estos sesgos surgen principalmente del pensamiento asociativo y rápido (Sistema 1), mientras que el pensamiento deliberativo y lógico (Sistema 2) mitiga dichos sesgos. Sin embargo, los mecanismos cognitivos subyacentes que generan esta dualidad y cómo la estructura de la representación del conocimiento influye en el sesgo permanecen poco claros.

Existe una brecha en la comprensión de si los LLMs comparten arquitecturas cognitivas similares a las humanas y si carecen de mecanismos de regulación de sesgos basados en el razonamiento estructurado. El objetivo del estudio es modelar los Sistemas 1 y 2 como redes de memoria semántica con estructuras distintas, utilizando conjuntos de datos comparables de humanos y LLMs, para investigar cómo estas estructuras se relacionan con el sesgo de género implícito.

2. Metodología

Los autores emplearon un enfoque de redes multicapa para modelar la memoria semántica, permitiendo representar diferentes tipos de conocimiento conceptual en capas interconectadas pero distintas.

• Construcción de las Redes Multicapa:
  Se construyeron tres redes (una para humanos, una para Mistral-7b y otra para Llama3-8b), cada una compuesta por tres capas:

  1. Capa Asociativa (Proxy del Sistema 1): Construida a partir de asociaciones libres.
     • Humanos: Datos del conjunto Small World of Words (SWOW).
     • LLMs: Datos generados mediante prompting (LWOW).
     • Mecanismo: Conexiones entre palabras clave y respuestas asociativas, ponderadas por frecuencia.
  2. Capa Basada en Definiciones (Proxy del Sistema 2): Construida a partir de definiciones de diccionario.
     • Humanos: Definiciones de WordNet.
     • LLMs: Definiciones generadas por los modelos para cada sentido de la palabra.
     • Mecanismo: Conexiones entre la palabra y las palabras que aparecen en su definición, capturando condiciones necesarias y suficientes.
  3. Capa de Relaciones Categóricas (Proxy del Sistema 2): Construida a partir de relaciones taxonómicas.
     • Humanos: Relaciones de WordNet (sinónimos, antónimos, hiperónimos, hipónimos).
     • LLMs: Relaciones generadas por los modelos.
     • Mecanismo: Conexiones que reflejan la inclusión de categorías y restricciones lógicas.

• Análisis de Reducibilidad Estructural:
  Se utilizó el paquete multired para evaluar si las capas representan estructuras distintas o redundantes. El método mide la entropía relativa al fusionar capas. Si la configuración óptima mantiene las capas separadas, la red es irreducible (estructuras distintas); si se fusionan, es reducible (estructuras superpuestas).

• Medición del Sesgo Implícito:
  Se aplicó una metodología basada en la activación propagada (simulando el priming semántico) dentro de las redes.

  • Primes (Estímulos): Identidades de género (ej. man, woman).
  • Targets (Objetivos): 172 palabras relacionadas con estereotipos de género (rasgos, hogar/carrera, arte/ciencia, profesiones).
  • Métrica: Se calculó la fuerza de asociación entre pares consistente/inconsistente con el estereotipo. Se midió la diferencia en los niveles de activación final de los nodos objetivo tras activar los nodos primers. Se calcularon tamaños del efecto estandarizados (prueba de Wilcoxon) para cuantificar el sesgo en cada capa.

3. Contribuciones Clave

1. Modelado Unificado: Propone un marco empírico que coloca los sistemas de memoria asociativa y basada en reglas en el mismo plano representacional mediante redes multicapa, permitiendo comparaciones directas entre humanos y máquinas.
2. Distinción Estructural: Demuestra que la irreducibilidad de las estructuras de memoria semántica es un fenómeno específico de los humanos, sugiriendo que los LLMs carecen de ciertos tipos de conocimiento conceptual humano (específicamente conocimiento taxonómico diferenciado).
3. Mecanismo de Regulación del Sesgo: Identifica que la estructura de la memoria semántica en sí misma actúa como un regulador del sesgo en humanos (menor sesgo en estructuras de Sistema 2), pero no en los LLMs estudiados.

4. Resultados Principales

• Diferencias en la Estructura de la Memoria (Reducibilidad):

  • Humanos: La red es irreducible. Las capas asociativa, de definiciones y categórica son estructuralmente distintas; fusionarlas provoca una pérdida significativa de información estructural. Esto indica que los humanos mantienen formas de conocimiento conceptual diferenciadas.
  • LLMs (Mistral y Llama3): La red es parcialmente reducible. Las capas asociativa y categórica se fusionan con mínima pérdida de información, sugiriendo que los LLMs codifican las relaciones categóricas de manera superpuesta con las asociativas. Los LLMs parecen carecer de una distinción clara entre conocimiento asociativo y taxonómico lógico.

• Relación entre Estructura y Sesgo:

  • Humanos: Existe una relación sistemática y consistente. La capa asociativa (Sistema 1) muestra el sesgo de género más fuerte. Las capas de Sistema 2 (definiciones y relaciones categóricas) muestran una reducción significativa del sesgo. El patrón es consistente a través de los cuatro temas de estereotipos.
  • LLMs: No existe un patrón consistente. La relación entre la estructura de la memoria y el sesgo es inestable e impredecible. Los tamaños del efecto varían drásticamente entre temas dentro de la misma capa, y no se observa una reducción sistemática del sesgo en las capas de "Sistema 2".
  • Hallazgo Adicional: En humanos, la capa categórica mostró una asimetría donde los objetivos relacionados con lo femenino y lo masculino estaban ambos más asociados al género masculino (posiblemente debido a sesgos históricos en las jerarquías de WordNet, como el uso de "man" para "humanidad").

5. Significado e Implicaciones

• Diferencias Cognitivas Fundamentales: Los resultados sugieren que los mecanismos que regulan el sesgo en los humanos dependen de la estructura misma de la memoria semántica (la existencia de representaciones lógicas y taxonómicas distintas de las asociativas). Los LLMs, al carecer de esta diferenciación estructural, no exhiben el mismo mecanismo de regulación de sesgos.
• Limitaciones de los LLMs: Los modelos actuales pueden carecer de conocimiento relacional profundo y taxonómico genuino, reemplazándolo a menudo por estructuras asociativas. Esto explica por qué pueden fallar en tareas de razonamiento jerárquico o distinciones semánticas precisas.
• Implicaciones para la IA: Para desarrollar sistemas de IA menos sesgados, no basta con ajustar los datos de entrenamiento; es necesario incorporar representaciones conceptuales estructuradas y lógicas (similares al Sistema 2 humano) que sean estructuralmente distintas de las asociaciones estadísticas.
• Validación de la Teoría Dual: El estudio proporciona evidencia empírica a nivel de red que respalda la teoría del procesamiento dual en humanos, mostrando que los sistemas de memoria asociativa y basada en reglas son estructuralmente irreductibles entre sí.

En conclusión, el estudio revela que la arquitectura de la representación del conocimiento en los LLMs es fundamentalmente diferente a la humana, lo que impide que los modelos utilicen el razonamiento estructurado para mitigar estereotipos de la misma manera que lo hacen los humanos.