🤖 AI

Depictions of Depression in Generative AI Video Models: A Preliminary Study of OpenAI's Sora 2

Este estudio preliminar revela que el modelo de video generativo Sora 2 de OpenAI representa la depresión mediante un vocabulario visual limitado y estereotipado, mostrando una marcada diferencia entre sus versiones de aplicación y API donde la primera presenta un sesgo de recuperación narrativa y un aumento de brillo, mientras que la segunda es más estática y oscura.

Autores originales: Matthew Flathers, Griffin Smith, Julian Herpertz, Zhitong Zhou, John Torous

Publicado 2026-03-23

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Matthew Flathers, Griffin Smith, Julian Herpertz, Zhitong Zhou, John Torous

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

¡Claro que sí! Imagina que la Inteligencia Artificial (IA) es como un gran chef que ha cocinado millones de platos basándose en recetas de todo el mundo: películas, libros, anuncios de televisión y videos de TikTok. Ahora, este chef tiene un nuevo superpoder: puede crear videos completos en segundos.

Este estudio es como una "degustación a ciegas" para ver qué platos (videos) prepara este chef cuando le pides que cocine un tema muy delicado: la depresión.

Aquí tienes la explicación de lo que descubrieron, usando analogías sencillas:

1. El Experimento: Dos Comedores, Dos Platos Diferentes

Los investigadores pidieron al chef (la IA llamada Sora 2 de OpenAI) que hiciera 100 videos con una sola palabra: "Depresión". Pero hicieron algo muy inteligente:

50 videos los pidió a través de la App para el público (como pedir comida en un restaurante con menú y reglas).
50 videos los pidió a través de la API para desarrolladores (como pedir los ingredientes crudos directamente a la cocina, sin el menú del restaurante).

La gran sorpresa: Aunque usaron al mismo chef, los platos salieron muy diferentes.

2. La Diferencia: El "Restaurante" vs. La "Cocina"

En la App (El Restaurante): La IA actuó como un optimista forzado. El 78% de los videos mostraban una historia donde la persona triste al final se sentía mejor. Empezaban oscuros y terminaban con luz, sonriendo o mirando hacia arriba.
- La analogía: Es como si el restaurante tuviera una regla estricta: "Nunca sirvamos un plato que deje al cliente triste al final". Así que, aunque el cliente pidió "tristeza", el chef le sirvió "tristeza que se convierte en alegría" para que el cliente se vaya feliz.
En la API (La Cocina): Aquí la IA fue mucho más realista y estática. Solo el 14% de los videos mostraban una recuperación. La mayoría de los videos mostraban a una persona sentada en la oscuridad, sin moverse mucho, sin un final feliz.
- La analogía: Aquí el chef cocinó lo que realmente siente la depresión: un estado de inmovilidad y oscuridad que no siempre tiene un final feliz inmediato.

¿Qué nos dice esto? Que la tecnología no es neutral. La forma en que una empresa decide mostrar la IA (con filtros de seguridad o reglas de "ser positivo") cambia completamente el mensaje que recibe la gente.

3. El "Guion" Viejo y Conocido

Aunque la IA es nueva, no inventó nada nuevo para representar la depresión. Usó un guion de Hollywood que llevamos usando siglos.

Los personajes: Casi siempre eran jóvenes (de 20 a 30 años), solos en una habitación.
Los objetos: Lluvias, ventanas, capuchas grises, camas desordenadas.
El lenguaje: Palabras como "pesado", "ahogarse", "día", "tormenta".

La analogía: Es como si la IA fuera un collage gigante. En lugar de crear una nueva imagen, recortó miles de fotos viejas de películas y libros sobre la tristeza y las pegó todas juntas. No descubrió nada nuevo; solo repitió los clichés que ya conocemos.

4. El Peligro Oculto

Los autores advierten algo importante:
Si una persona que está pasando por un momento muy difícil (una crisis de depresión) busca en internet videos generados por IA, podría ver esos videos "optimistas" de la App.

El riesgo: Podría pensar: "La IA dice que la depresión siempre termina en luz y sonrisas en 10 segundos. Si yo sigo triste, ¿es que algo va mal conmigo?".
La realidad: La depresión es compleja, a veces dura mucho y no siempre tiene un final rápido y brillante. La IA, al estar programada para ser "segura" y "entretenida", simplifica demasiado la realidad clínica.

En Resumen

Este estudio nos enseña que la IA no es un espejo mágico que muestra la "verdad" sobre la salud mental. Es más bien un espejo deformado por dos cosas:

Lo que ha aprendido: Repite los estereotipos viejos de las películas (lluvia, oscuridad, soledad).
Quién lo controla: Las empresas ponen filtros para que los videos sean "positivos" y seguros para las redes sociales, borrando la parte fea y difícil de la enfermedad.

La lección para todos: Cuando veas videos de IA sobre sentimientos o enfermedades, recuerda que no son consejos médicos ni la realidad completa. Son historias contadas por un robot que ha sido entrenado para seguir las reglas de su creador, no para entender el dolor humano real.

A continuación presento un resumen técnico detallado del estudio en español, estructurado según los componentes solicitados:

Título del Estudio:

Representaciones de la Depresión en Modelos de Video Generativo: Un Estudio Preliminar de Sora 2 de OpenAI

1. Problema de Investigación

Los modelos de video generativo (como Sora 2) tienen la capacidad de producir representaciones complejas de experiencias de salud mental. Sin embargo, existe un vacío de conocimiento sobre cómo estos sistemas interpretan y visualizan condiciones sensibles como la depresión.

Riesgo Clínico: El contenido generado por IA puede llegar a personas en periodos vulnerables, influyendo en su autopercepción, estigmatización o expectativas de recuperación.
Brecha Metodológica: La investigación actual a menudo trata al "modelo" como un objeto monolítico, sin distinguir entre el modelo base (entrenamiento y asociaciones subyacentes) y la capa del producto (aplicaciones de consumo con filtros, moderación y diseño de UX). No está claro si las representaciones observadas provienen de los datos de entrenamiento o de las restricciones impuestas por la plataforma.

2. Metodología

El estudio empleó un diseño comparativo cuasi-experimental para aislar el efecto de la capa del producto frente al modelo base.

Generación de Datos:
- Se generaron 100 videos en total utilizando el prompt aislado de una sola palabra: "Depresión".
- Grupo A (App de Consumo): 50 videos generados a través de la aplicación móvil de Sora 2 (n=50).
- Grupo B (API para Desarrolladores): 50 videos generados a través de la API de OpenAI (n=50), que accede al mismo modelo base pero con menos capas de mediación de producto.
- Control: Todos los videos se generaron en una ventana de una semana (noviembre 2025) para evitar actualizaciones del modelo. No se usó ingeniería de prompts compleja para forzar al modelo a resolver la ambigüedad del concepto desde sus asociaciones internas.
Análisis Cualitativo:
- Dos codificadores entrenados analizaron los videos de forma independiente.
- Dimensiones codificadas: Arco narrativo (recuperación vs. estancamiento), entornos, objetos, demografía de las figuras y estados (postura, mirada).
- Fiabilidad: Se calculó el Kappa de Cohen ( $\kappa$ ) y la Intersección sobre Unión (IoU) para segmentos temporales. Dimensiones con fiabilidad insuficiente (expresión facial, raza, SES) se excluyeron.
Análisis Cuantitativo (Visión por Computadora y NLP):
- Estética Visual: Extracción de brillo, saturación, temperatura de color y texturas (GLCM) cada segundo.
- Dinámica Temporal: Flujo óptico denso (movimiento) y detección de cortes de escena.
- Audio y Semántica: Análisis de volumen, tono, y transcripción de texto (Whisper) para sentimiento (VADER), metáforas de luz/oscuridad y marcadores lingüísticos (pronombres, negaciones).
- Estadística: Pruebas t de Welch con corrección de tasa de descubrimiento falso (Benjamini-Hochberg) y cálculo de tamaños de efecto (d de Cohen).

3. Contribuciones Clave

Distinción Modelo vs. Producto: Es uno de los primeros estudios en demostrar empíricamente que las representaciones de salud mental en IA no son solo un reflejo del entrenamiento, sino que están altamente moldeadas por las capas de mediación del producto (filtros de seguridad, algoritmos de feed, diseño de UX).
Arquitectura de Análisis: Propone un marco metodológico para evaluar sistemas de IA que separa el comportamiento del modelo base de las restricciones de la interfaz de usuario, crucial para la evaluación de seguridad en IA.
Lenguaje Visual de la Depresión: Documenta la "gramática visual" que la IA ha aprendido para representar la depresión, identificando un vocabulario visual estrecho y culturalmente arraigado.

4. Resultados Principales

A. Divergencia Narrativa y de Sesgo de Recuperación

App (Consumo): Mostró un sesgo de recuperación pronunciado. El 78% (39/50) de los videos presentaban un arco narrativo que progresaba desde un estado depresivo hacia la resolución o la esperanza.
API (Desarrollador): Solo el 14% (7/50) mostró arcos de recuperación. La mayoría permaneció en un estado estático o de estancamiento.
Interpretación: La capa de producto de la App fuerza o favorece narrativas de "final feliz" o resolución, probablemente debido a directrices de comunidad y optimización para el compromiso (engagement), mientras que la API refleja más fielmente las asociaciones crudas del modelo (que a menudo muestran la condición sin resolución).

B. Diferencias Visuales y Temporales

Brillo y Color: Los videos de la App se volvieron significativamente más brillantes con el tiempo (pendiente = 2.90 unidades/s) y pasaron de tonos fríos/saturados a cálidos/desaturados. Los videos de la API permanecieron planos y oscuros.
Movimiento: Los videos de la App tenían 3 veces más movimiento (flujo óptico) y cortes de escena más frecuentes (3.1 cortes vs. 0.76 en API), indicando una dinámica más activa y menos estática.
Audio: La App tenía un tono de voz más grave (posiblemente más narradores masculinos) y un volumen ligeramente mayor.

C. Vocabulario Visual y Temático Convergente

A pesar de las diferencias en la narrativa, ambos modos convergieron en un vocabulario visual estrecho, sugiriendo que el modelo base tiene asociaciones culturales muy específicas:

Figuras: Predominantemente jóvenes adultos (20-30 años), casi siempre solos (98%) y con la mirada hacia abajo (96%).
Entornos y Objetos: Habitaciones oscuras, ventanas, lluvia, camas y sudaderas (hoodies).
Lenguaje:
- Fase depresiva: Palabras de peso y contención ("pesado", "ahogándose", "habitación").
- Fase de recuperación: Palabras de luz y liberación ("luz", "respirar", "pequeño").
Diferencia de Género por Plataforma: La App tendió a generar figuras masculinas (68%), mientras que la API tendió a generar figuras femeninas (59%).

5. Significado e Implicaciones

Para la Clínica: Los profesionales de la salud deben ser conscientes de que el contenido generado por IA sobre la depresión no refleja conocimiento clínico, sino datos de entrenamiento y diseño de plataformas. Los pacientes pueden encontrar narrativas simplistas de "recuperación rápida" que no se alinean con la realidad clínica de la enfermedad, o estereotipos visuales homogéneos que no representan la diversidad de la experiencia humana.
Para la Investigación y Política: Se debe evaluar la IA considerando tanto el modelo base como el producto final. Las restricciones de seguridad y moderación de contenido (como las de la App) pueden alterar drásticamente la representación de temas sensibles, creando una realidad distorsionada para el usuario final.
Cultura Visual: La IA no "inventa" nuevas formas de representar la depresión; comprime y recombina iconografías culturales históricas (desde el arte renacentista hasta el cine moderno) y las canaliza a través de lógicas de plataforma que privilegian ciertos finales (la recuperación) sobre otros (el sufrimiento crónico).

Conclusión Final: Sora 2 actúa como un espejo de las convenciones visuales culturales existentes, pero la forma en que estos reflejos llegan al usuario está profundamente mediada por las decisiones de diseño del producto, que en este caso favorecen narrativas de recuperación optimistas sobre la representación cruda de la patología.