💻 computer science

A Theory of Appropriateness That Accounts for Norms of Rationality

Este artículo propone una teoría de la adecuación normativa centrada en la sociedad que, al modelar a los individuos como actores preentrenados similares a los modelos de lenguaje grandes, explica las normas sociales mediante la completación predictiva de patrones simbólicos distribuidos, desafiando así las teorías de elección racional y redefiniendo la racionalidad como la adhesión a estándares de justificación culturalmente contingentes.

Autores originales: Joel Z. Leibo, Alexander Sasha Vezhnevets, Manfred Diaz, John P. Agapiou, William A. Cunningham, Peter Sunehag, Logan Cross, Raphael Koster, Stanley M. Bileschi, Minsuk Chang, Iyad Rahwan, Simon Osind

Publicado 2026-03-17

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Joel Z. Leibo, Alexander Sasha Vezhnevets, Manfred Diaz, John P. Agapiou, William A. Cunningham, Peter Sunehag, Logan Cross, Raphael Koster, Stanley M. Bileschi, Minsuk Chang, Iyad Rahwan, Simon Osindero, James A. Evans

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que la mente humana no es como una calculadora financiera que siempre busca ganar la mayor cantidad de dinero posible, sino más bien como un actor de teatro muy talentoso que acaba de entrar en un escenario.

Este es el resumen de un paper fascinante de Google DeepMind y otros institutos, escrito en un lenguaje sencillo y con analogías para que cualquiera lo entienda.

🎭 La Idea Central: Somos Actores, no Calculadoras

La teoría tradicional (la de la "elección racional") dice que somos como robots que calculan: "Si hago esto, gano X; si hago aquello, gano Y. Elijo lo que más me conviene".

Esta nueva teoría dice: No. Somos como actores que han leído miles de guiones (libros, películas, conversaciones, cultura) y que, al entrar en una situación, simplemente improvisan basándose en lo que han visto antes.

La pregunta que tu cerebro se hace no es "¿Qué me conviene?", sino:

"¿Qué hace una persona como yo en una situación como esta?"

🧠 El Cerebro como un "LLM" (Un Modelo de Inteligencia Artificial)

Los autores proponen que nuestro cerebro funciona de manera muy similar a las Inteligencias Artificiales generativas (como el modelo que estás leyendo ahora).

El "Pre-entrenamiento": Cuando eres niño, tu cerebro se "entrena" absorbiendo todo lo que ves y escuchas en tu cultura. Aprendes cómo se habla, cómo se saluda, qué es correcto y qué no. Esto se guarda en tus "pesos" neuronales (tu memoria a largo plazo).
La "Completación de Patrones": Cuando llegas a una fiesta, tu cerebro no empieza a calcular desde cero. Mira el contexto (la música, la gente, tu ropa) y tu cerebro predice qué sigue. Es como cuando lees una frase y tu mente completa la palabra siguiente automáticamente.
- Ejemplo: Si ves a alguien estornudar, tu cerebro completa el patrón y dice: "Debo decir 'salud'". No piensas en la utilidad de decirlo; simplemente es lo que "sigue" en el guion social.

🎭 Las 5 Reglas del Juego Social (Los Hechos Estilizados)

La teoría explica cinco cosas que hacemos todos los días:

Depende del Contexto (El Camaleón): Lo que es correcto en una boda (llorar, bailar) es ridículo en una biblioteca (gritar, bailar). Tu cerebro cambia de "guion" según el escenario.
Es Arbitrario (El Código de Colores): ¿Por qué nos damos la mano al saludar y no nos chocamos los codos? No hay una razón lógica. Podría ser cualquiera. Pero una vez que todos acordamos hacerlo, se vuelve una ley. Es como el tráfico: lo importante es que todos vayan por la derecha, no por qué la derecha es mejor que la izquierda.
Es Automático (El Piloto Automático): La mayoría de las veces, actuamos sin pensar. No calculas la distancia para hablar con alguien; simplemente lo haces. Es como conducir por una carretera que conoces de memoria: tus manos saben qué hacer sin que tu cerebro tenga que pensar en cada movimiento.
Cambia Rápido (La Moda): Las normas cambian. Antes era normal fumar en oficinas; ahora no. Esto pasa porque, si suficientes personas cambian su comportamiento, el "guion" colectivo se actualiza. Es como una tendencia en TikTok: si todo el mundo lo hace, de repente es la norma.
Se Vigila con "Sanciones" (El Silencio Incómodo): Si rompes la norma, la gente te castiga. No siempre es con una multa; a veces es con una mirada de desaprobación, un chisme o un silencio incómodo. Estos "castigos" nos enseñan qué guion seguir.

🤔 ¿Y la "Racionalidad"?

Aquí viene la parte más interesante. La teoría dice que la racionalidad no es un superpoder innato, sino otra norma cultural.

En la escuela o en el trabajo, nos enseñan un guion específico llamado "pensamiento lógico": Identificar opciones -> Calcular consecuencias -> Elegir la mejor.
La teoría dice que esto es solo otro tipo de guion que aprendemos. No es que seamos máquinas de calcular; es que en ciertas culturas (como la de los economistas o ingenieros), el guion "racional" es el que se premia.
Si un experto en arquería de una tribu antigua hace un arco perfecto, no está haciendo cálculos de física complejos en su cabeza. Está siguiendo un guion cultural: "Así lo hacían los ancianos, así lo hace un maestro". Eso es tan "racional" para su contexto como un cálculo de Excel lo es para un banquero.

🔄 Implícito vs. Explícito

Normas Explícitas: Son las leyes escritas o las reglas que puedes decir en voz alta ("No robar"). Necesitan que las leas y las recuerdes.
Normas Implícitas: Son las que ya están "quemadas" en tu cerebro. Como no mirar a los ojos a alguien si es demasiado intenso, o no hablarle a un extraño en el ascensor. No piensas en ello; simplemente lo haces.

💡 Conclusión: La Sociedad nos Crea

La gran idea de este paper es que la sociedad crea al individuo, no al revés.

No nacemos como "hojas en blanco" que luego aprenden a ser personas. Nacemos con un cerebro que ya está "pre-entrenado" con la cultura de nuestra familia y país. Somos actores que, al interactuar entre nosotros, mantienen vivo el guion de la sociedad. Si todos dejamos de seguir el guion, la sociedad cambia.

En resumen: No somos máquinas que maximizan ganancias. Somos actores sociales que, basándonos en lo que hemos visto y aprendido, completan el guion de la vida para saber qué hacer en cada momento. Y eso, en realidad, es lo que llamamos "ser racional".

Resumen Técnico: Una Teoría de la Adecuación que Explica las Normas de Racionalidad

1. Planteamiento del Problema

El artículo aborda una pregunta fundamental en las ciencias sociales y cognitivas: ¿Cómo emerge el orden social?

El conflicto teórico: Existe una dicotomía central entre las explicaciones "individualistas" (método individualista, donde la sociedad es un agregado de agentes desocializados que maximizan utilidad) y las explicaciones "sociocéntricas" (donde la sociedad precede y constituye al individuo).
Limitaciones de la Teoría de la Elección Racional (TER): La TER asume agentes con preferencias exógenas fijas y un impulso intrínseco para maximizar una recompensa escalar (utilidad). El papel argumenta que esta aproximación es insuficiente para explicar cinco regularidades empíricas clave del comportamiento normativo humano y que introduce supuestos innecesarios (como preferencias fijas) que no pueden explicarse endógenamente.
El objetivo: Proponer una teoría "sociocéntrica" que explique la conducta normativa sin recurrir a recompensas escalares externas, sino basándose en la estructura cognitiva del agente como un producto cultural preentrenado.

2. Metodología y Marco Teórico

La propuesta se basa en un marco meta-teórico donde los individuos se modelan como Agentes Pre-entrenados con arquitecturas cognitivas análogas a los Modelos de Lenguaje Grandes (LLMs).

Mecanismo Central: Completación Predictiva de Patrones (Predictive Pattern Completion):
- La toma de decisiones no se basa en la maximización de utilidad, sino en responder a la pregunta: "¿Qué hace una persona como yo en una situación como esta?".
- El comportamiento se genera como la predicción y generación de secuencias simbólicas distribuidas basadas en el contexto actual y la memoria, similar a cómo un LLM autoregresivo completa un texto.
Arquitectura Cognitiva (Inspirada en LLMs y Neurociencia):
- Espacio Global (Global Workspace): Representa la conciencia transitoria donde se integran observaciones, recuerdos y planes.
- Red de Completación de Patrones ( $p$ ): Análoga a la corteza neocortical y a los pesos de un LLM. Contiene el conocimiento cultural consolidado (normas implícitas).
- Memoria ( $M_t$ ): Análoga al sistema hipocampal. Almacena episodios específicos y normas explícitas que pueden recuperarse en el espacio global.
- Aprendizaje: Distingue entre Aprendizaje en Contexto (In-Context Learning) (adaptación rápida basada en la memoria episódica, análogo a la memoria de trabajo) y Consolidación a Largo Plazo (cambio lento de los pesos de la red $p$ a través de la repetición, análogo a la memoria semántica).
Lógicas de Decisión:
- Lógica A (Racionalidad): Identificar opciones, evaluar consecuencias, maximizar valor. El papel argumenta que esto es una norma aprendida, no un mecanismo innato.
- Lógica B (Adecuación): Identificar la situación, identificar la identidad ("¿Quién soy?"), y completar el patrón de comportamiento esperado para esa identidad en ese contexto.

3. Contribuciones Clave

Reconceptualización de la Racionalidad:
- La racionalidad no es una adherencia universal a la lógica o la maximización de utilidad. Se redefine como una práctica normativa contingente culturalmente. Actuar "racionalmente" es simplemente seguir las normas epistémicas y justificativas de una comunidad específica (ej. un economista sigue la lógica de la utilidad esperada porque su comunidad lo sanciona positivamente).
Distinción entre Normas Implícitas y Explícitas:
- Normas Explícitas: Reglas verbalizables (leyes), almacenadas en memoria episódica, requieren deliberación consciente.
- Normas Implícitas: Patrones de comportamiento automatizados (distancia conversacional), consolidados en los pesos de la red neuronal ( $p$ ). Explican la automaticidad de la conducta social y por qué a menudo no podemos justificar racionalmente nuestras acciones (dumbfounding moral).
Explicación Unificada de los "Hechos Estilizados" (Stylized Facts):
El modelo explica cinco regularidades empíricas sin necesidad de recompensas externas:
- Dependencia del Contexto: El comportamiento cambia según la identidad y el rol activado en el espacio global.
- Arbitrariedad: Las normas pueden ser arbitrarias (ej. conducir por la izquierda vs. derecha) porque surgen de la coordinación de patrones de sanción, no de la eficiencia inherente.
- Automaticidad: La mayoría de las acciones son completaciones de patrones cortos y rápidos (implícitos), no deliberaciones largas.
- Dinamismo: Las normas cambian mediante retroalimentación positiva y acción colectiva (puntos de inflexión), no solo por cambios en preferencias individuales.
- Sancionamiento: Las normas se mantienen mediante patrones convencionales de sanción social (desde burlas hasta castigos legales), que actúan como información contextual que modifica la probabilidad de ciertas completaciones en la red $p$ .

4. Resultados y Explicaciones Teóricas

Resolución de la Paradoja de la Racionalidad: El papel demuestra que la "racionalidad" (Lógica A) es solo un subconjunto de las posibles lógicas de decisión. Un agente puede comportarse de manera "racional" simplemente porque su red $p$ ha sido entrenada culturalmente para completar patrones de justificación económica cuando se le presenta un contexto de negocios. No necesita un maximizador de utilidad interno.
Formación Endógena de Preferencias: A diferencia de la TER, donde las preferencias son fijas y exógenas, en esta teoría las preferencias emergen dinámicamente de la interacción entre la memoria, la identidad social y el contexto. Una preferencia es la completación de patrones más probable dada la historia cultural del agente.
Razonamiento Motivado y Sesgo: El modelo explica por qué la deliberación (cadenas de pensamiento largas) a veces aumenta el sesgo (razonamiento motivado). Si una norma implícita fuerte (identidad) guía el proceso, la red $p$ puede generar cadenas de justificación sofisticadas que racionalizan una conclusión preexistente, en lugar de buscar la verdad lógica.
Cambio de Normas: Se modela el cambio normativo como un proceso donde la acción colectiva altera el "peso del precedente" en las memorias y pesos de los agentes, creando un nuevo patrón de completación probable para la sociedad.

5. Significado e Impacto

Paradigma "Society-First": El trabajo invierte la jerarquía explicativa tradicional. En lugar de derivar la sociedad desde individuos racionales, explica cómo la sociedad (a través de la cultura y el lenguaje) constituye la mente del individuo.
Parsimonia (Navaja de Occam): El autor argumenta que su teoría es más parsimoniosa que la teoría de la elección racional. Explica el mismo rango de fenómenos (y más, como la formación de preferencias) utilizando un solo mecanismo fundamental (completación de patrones) en lugar de dos (mecanismo de maximización + especificación exógena de preferencias).
Puente entre IA y Ciencias Sociales: Proporciona un marco formal para utilizar agentes basados en LLMs (como Concordia o Generative Agents) para simular dinámicas sociales complejas, permitiendo a los investigadores probar contrafactuales históricos y explorar la evolución cultural sin reinventar la sociedad desde cero en cada simulación.
Implicaciones para la Epistemología: Sugiere que los estándares de lo que consideramos "verdad" o "evidencia válida" en diferentes disciplinas (ciencia, derecho, arte) son simplemente normas epistémicas contingentes, no universales lógicos.

En conclusión, el artículo propone que el orden social y la conducta humana no son el resultado de agentes calculando utilidades, sino de individuos culturalmente competentes que completan patrones simbólicos basados en su identidad y contexto, donde la "racionalidad" es simplemente una de las muchas normas culturales que se pueden internalizar y ejecutar.