🤖 AI

Some Large Language Models Exhibit Consistent Risk Attitudes

Este artículo demuestra que los modelos de lenguaje de gran tamaño exhiben actitudes ante el riesgo estables, consistentes y transdominios que convergen hacia una distribución restringida en comparación con las líneas base humanas, revelando la actitud ante el riesgo como una dimensión del comportamiento de la IA previamente no caracterizada pero medible.

Autores originales: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

Publicado 2026-07-21

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás observando a un grupo de amigos jugar un videojuego de altas apuestas. Algunos jugadores son tan cautelosos que apenas se mueven, aterrados de perder una sola vida. Otros son temerarios, lanzándose al peligro sin pensarlo dos veces. En psicología, esto no es solo cuestión de habilidad; se trata de la "actitud ante el riesgo". Es un rasgo de personalidad profundamente arraigado que decide cómo una persona convierte la sensación de "esto parece peligroso" en una acción real. Sabemos que los humanos tenemos estos estilos distintos, moldeados por nuestras experiencias y cerebros únicos. Pero ahora, la inteligencia artificial está entrando en el juego. Hemos enseñado a la IA a ser inteligente, a resolver problemas matemáticos y a escribir historias. Pero surge una nueva pregunta: ¿tienen estas mentes digitales sus propias "personalidades" cuando se trata de asumir riesgos? ¿Son naturalmente cautelosas o tienen un impulso oculto por apostar? Esto importa porque si dejamos que la IA tome decisiones importantes —como el triaje de pacientes en un hospital o la gestión de dinero— sin conocer su estilo de riesgo, podríamos terminar con un robot que tiene demasiado miedo para actuar o que es demasiado audaz para su propio bien.

Este artículo se sumerge directamente en ese misterio tratando a los Modelos de Lenguaje de Gran Escala (LLM, por sus siglas en inglés) como participantes experimentales en un laboratorio de psicología. Los investigadores, liderados por Bowen Sun y Jing Du, querían ver si estos modelos de IA tienen actitudes de riesgo consistentes, tal como lo hacen los humanos. No se limitaron a preguntarle a la IA "¿Eres arriesgada?", porque eso sería como preguntarle a una persona si es valiente; la respuesta podría ser una mentira o una suposición. En su lugar, diseñaron un ingenioso juego de tres escenarios diferentes: volar un dron a través de una tormenta de viento, decidir qué tan urgente era la necesidad médica de un paciente y elegir acciones en un mercado volátil. En cada juego, la IA tenía que primero formar una creencia sobre qué tan peligrosa era la situación (la "creencia contextual") y luego tomar una decisión basada en esa creencia (la "decisión de riesgo").

El equipo probó seis modelos de IA diferentes y los comparó con 100 participantes humanos. Encontraron algo fascinante: los modelos de IA no son solo generadores de números aleatorios. Tienen "personalidades de riesgo" estables. Al igual que un humano que es naturalmente cauteloso en el mercado de valores también podría ser cauteloso al conducir, estos modelos de IA mostraron un estilo consistente a través de los tres juegos muy diferentes. Si un modelo era cauteloso en la tarea del dron, era probable que también lo fuera en la tarea médica. Los investigadores midieron esto observando cómo los modelos mapeaban sus sensaciones de peligro con sus acciones. Descubrieron que, mientras los humanos abarcan un amplio espectro desde lo extremadamente cauteloso hasta lo extremadamente agresivo, los modelos de IA se agruparon todos en una estrecha franja de término medio. Es como si todos los modelos de IA hubieran sido entrenados para ser "promedio" o "seguros", perdiendo la variedad salvaje de estilos de toma de riesgos que hace que la toma de decisiones humana sea tan diversa.

El estudio sugiere que estas actitudes de riesgo son una parte real y medible de cómo funcionan estos modelos, no solo un azar de las preguntas específicas realizadas. Sin embargo, los investigadores también señalaron que, si bien el estilo de riesgo (cauteloso frente a audaz) era consistente, la forma en que los modelos reaccionaban agudamente a pequeños cambios en el peligro variaba según el juego. Esto significa que, aunque una IA pueda tener una "personalidad" estable, la forma en que ajusta sus acciones puede seguir dependiendo de la situación específica. El artículo concluye que ya no podemos tratar a la IA simplemente como una calculadora neutral. Han adquirido disposiciones conductuales intrínsecas. Este es un descubrimiento crucial porque significa que, para desplegar la IA de forma segura en el mundo real, necesitamos comprender y alinear no solo su inteligencia, sino también sus personalidades de riesgo, asegurando que no se vuelvan accidentalmente demasiado tímidos o demasiado temerarios para el trabajo en cuestión.

Resumen Técnico: Algunos Modelos de Lenguaje Extensos Exhiben Actitudes de Riesgo Consistentes

Planteamiento del Problema
A medida que los sistemas de inteligencia artificial se despliegan cada vez más en dominios de alto riesgo y de naturaleza abierta (p. ej., triaje clínico, asignación financiera, navegación autónoma), una dimensión conductual crítica permanece sin medir: la traducción de la percepción de riesgo situacional en una acción irreversible. Mientras que los benchmarks actuales evalúan la precisión fáctica y las capacidades de razonamiento, estos confunden la percepción del riesgo con la toma de decisiones de riesgo. En consecuencia, no pueden distinguir entre un modelo que interpreta erróneamente un escenario de riesgo y uno que simplemente prefiere una postura de riesgo específica (p. ej., adversa al riesgo frente a buscadora de riesgo) bajo incertidumbre. El artículo postula que los Modelos de Lenguaje Extensos (LLM), entrenados en vastas narrativas de decisión humana y ajustados mediante retroalimentación humana, pueden haber desarrollado "personalidades de riesgo" estables e intrínsecas, análogas a las actitudes de riesgo humanas: un rasgo psicológico central que gobierna cómo las percepciones de peligro se convierten en acción.

Metodología
Los autores introducen un marco transdominio diseñado para desacoplar la creencia de riesgo contextual de la toma de decisiones categórica, permitiendo la medición directa de la actitud de riesgo independientemente de la precisión fáctica.

Diseño Experimental: El estudio utiliza tres tareas de decisión estructuralmente ortogonales:
1. Control de Navegación de Drones (DNC): Navegación espacial bajo deriva de viento incierta.
2. Decisión de Triaje Clínico (CTD): Asignación de recursos basada en la evolución de los signos vitales del paciente.
3. Cartera de Inversión Financiera (FIP): Asignación de activos bajo dinámicas de mercado estocásticas.
Participantes: Seis LLM representativos (Sonnet 4.5, ChatGPT 5.2, Qwen3-Max, Gemini 3 Pro, DeepSeek V3.2 y Grok 4) y 100 participantes humanos. Cada agente completó 100 ensayos por tarea.
Marco de Medición: El proceso se descompone en una secuencia: Observaciones ( $O_t$ ) $\to$ Creencia Fáctica ( $B_F$ ) $\to$ Creencia Contextual ( $B_C$ ) $\to$ Decisión de Riesgo Categórica ($RD$). El análisis aísla el mapeo de $B_C$ hacia $RD$.
Métricas Cuantitativas:
- Consistencia Intra-tarea: Medida mediante la Desviación Estándar Relativa (RSD) de las creencias contextuales bajo condiciones idénticas y la "proporción de clase dominante" de las decisiones de riesgo ante bandas de creencia específicas.
- Cuantificación de la Actitud de Riesgo: El mapeo $B_C \to RD$ $B_{C} \to R D$ se modela utilizando Regresión Logística Ordenada (OLR). Se derivan dos índices:
  - Sensibilidad al Riesgo ( $\beta$ ): El parámetro de pendiente que indica qué tan fuertemente responden las decisiones a los cambios en el riesgo percibido.
  - Sesgo de Actitud de Riesgo ( $AUC_i$ ): El Área Bajo la Curva de la función de creencia-a-decisión ajustada, que representa la postura de riesgo general del modelo (valores más bajos = cautelosos; valores más altos = agresivos).
- Estabilidad Transdominio: Evaluada mediante la estabilidad de rango (Tau de Kendall $\tau_b$ ) del sesgo de actitud de riesgo a través de las tres tareas distintas.

Resultados Clave

Consistencia Intra-tarea Robusta: La mayoría de los LLM probados exhiben mapeos estables de la creencia contextual a la decisión de riesgo dentro de un dominio de tarea fijo. Los ensayos repetidos bajo condiciones idénticas resultan en creencias contextuales agrupadas y categorías de decisión consistentes. Las excepciones notables incluyen a Grok 4 (que muestra divergencia en la decisión) y Qwen3-Max (que muestra variabilidad de creencia en la tarea DNC).
Estabilidad de Rango Transdominio: Con la excepción de Grok 4, el orden relativo de las actitudes de riesgo se preserva a través de las tres tareas disímiles (DNC, CTD, FIP). Un modelo que es relativamente más adverso al riesgo en navegación tiende a ser similarmente más adverso al riesgo en triaje clínico y finanzas. Esto sugiere que la actitud de riesgo es una propiedad general del dominio de la arquitectura o el entrenamiento del modelo, en lugar de un artefacto específico de la tarea.
Divergencia en Sensibilidad vs. Actitud: Mientras que la ubicación de la actitud de riesgo (sesgo) es estable entre dominios, la sensibilidad al riesgo (la inclinación de la curva de respuesta) varía significativamente entre las tareas. Esto indica que, si bien la disposición subyacente es intrínseca, la capacidad de respuesta a las actualizaciones de creencia es modulada por factores específicos de la tarea.
Convergencia Respecto a los Baselines Humanos: Comparados con la distribución amplia y heterogénea de las actitudes de riesgo humanas (que abarca desde lo altamente cauteloso hasta lo altamente agresivo), los LLM probados se agrupan dentro de una región restringida y estrecha del espectro de actitud de riesgo. Esto sugiere que los protocolos de alineación actuales pueden estar promediando implícitamente la retroalimentación humana, resultando en un perfil conductual comprimido que subrepresenta la diversidad de riesgos humanos.

Significancia y Reivindicaciones
El documento establece la actitud de riesgo como una dimensión estable, cuantificable y previamente no caracterizada del comportamiento de los LLM. Los autores argumentan que este descubrimiento redefine el problema de la alineación de la IA: el desafío no es meramente mejorar la inteligencia o la veracidad del modelo, sino comprender y gobernar las personalidades de riesgo estables que estos sistemas han adquirido.

Las implicaciones clave incluyen:

Predictibilidad Conductual: La estabilidad transcontextual de las actitudes de riesgo sugiere que los sistemas de IA poseen una firma conductual central, lo que los hace potencialmente delegables y auditables en roles de alto riesgo, siempre que su postura de riesgo sea comprendida.
Ortogonalidad de Capacidad y Riesgo: La actitud de riesgo y la capacidad fáctica son empíricamente ortogonales. Un modelo puede ser altamente capaz pero poseer una postura de riesgo (p. ej., excesivamente agresiva o excesivamente cautelosa) que diverja de las normas humanas o de los requisitos de seguridad.
Brecha de Evaluación: Los benchmarks actuales no evalúan las disposiciones conductuales bajo incertidumbre. Los autores abogan por nuevos estándares de evaluación que midan explícitamente la sensibilidad al riesgo, los umbrales de decisión y el sesgo de actitud como métricas de primer orden junto con la precisión.
Consecuencias de la Alineación: La compresión de los perfiles de riesgo de los LLM hacia una media estrecha resalta una consecuencia estructural de los métodos de alineación actuales, creando potencialmente un desajuste entre los agentes de IA y las diversas preferencias de riesgo requeridas en contextos humanos personalizados o institucionales.

El estudio concluye que, si bien los orígenes mecánicos de estas disposiciones (p. ej., restricciones específicas de RLHF o datos de preentrenamiento) siguen siendo opacos, la evidencia conductual confirma que la actitud de riesgo es una característica intrínseca de los LLM contemporáneos que debe ser considerada en los protocolos de seguridad y las estrategias de despliegue.

Más como este