Formalising Sample Size Calculations for the Development of Risk Prediction Models: The Importance of Accounting for Performance Variability
Este artículo propone un nuevo marco para los cálculos del tamaño de la muestra en el desarrollo de modelos de predicción de riesgos que va más allá de centrarse en las métricas de rendimiento esperadas para considerar explícitamente la variabilidad del rendimiento, asegurando así una alta probabilidad de lograr una calibración y robustez del modelo aceptables.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que eres un chef intentando crear la receta perfecta para un nuevo plato. Tienes una lista de ingredientes (predictores) y quieres cocinar una receta (un modelo) que sepa exactamente bien para todos los que la prueben. En el mundo de la medicina, estas "recetas" se llaman modelos de predicción de riesgo. Ayudan a los médicos a adivinar qué tan probable es que un paciente tenga un evento de salud específico, como un ataque cardíaco o una infección, basándose en cosas como su edad, peso e historial médico. Pero aquí está la parte difícil: el hecho de que una receta sepa increíble en tu propia cocina no significa que sepa igual en todas las demás cocinas. Si solo cocinas unos pocos lotes para probar tu receta, podrías tener suerte y dar con el sabor perfecto por azar, o podrías obtener un lote extraño y salado solo porque no mezclaste suficientes ingredientes. Este es el problema de la "variabilidad". Los científicos necesitan saber exactamente cuántos lotes (o pacientes) necesitan probar para estar seguros de que su receta es confiable, no solo un golpe de suerte.
Durante mucho tiempo, la forma estándar de determinar cuántos pacientes se necesitaban era apuntar a un resultado "promedio" perfecto. Era como decir: "Si cocinamos 1,000 lotes, el sabor promedio debería ser delicioso". Pero los autores de este artículo, Menelaos Pavlou, Rumana Z. Omar y Gareth Ambler, se dieron cuenta de que apuntar al promedio no es suficiente. A veces, incluso si el promedio es excelente, podrías terminar con un lote que es completamente incomestible simplemente debido a la mala suerte con los ingredientes. Ellos argumentan que debemos cambiar el objetivo: en lugar de solo esperar que el promedio sea bueno, debemos aspirar a que la mayoría de los lotes que cocinamos sean realmente buenos. Ellos llaman a esto la "Probabilidad de Desempeño Aceptable". Es como decir: "Necesitamos cocinar suficientes lotes para que haya un 80% de probabilidad de que cualquier lote que saquemos del horno sepa genial", en lugar de solo esperar que el promedio de todos los lotes sea bueno.
El artículo sugiere que la vieja forma de calcular los tamaños de muestra a menudo conduce a modelos que son inestables, especialmente cuando el modelo tiene pocos ingredientes (predictores). Si intentas hornear un pastel con solo dos ingredientes, necesitas una cocina mucho más grande (más datos) para estar seguro de que no solo estás teniendo suerte con la mezcla. Los autores utilizaron simulaciones por computadora para mostrar que, cuando ignoras esta "variabilidad", podrías terminar con un modelo que se ve bien en el papel pero falla en el mundo real. Proponen un nuevo método que tiene en cuenta este riesgo, lo que a menudo requiere tamaños de muestra más grandes para asegurar que el modelo sea robusto. También analizaron una técnica llamada "reducción" (shrinkage), que es como ajustar suavemente tu receta para que sea un poco más conservadora, y descubrieron que, si bien ayuda, no soluciona completamente el problema si no tienes suficientes datos para empezar.
La Receta para una Predicción Confiable
Piensa en construir un modelo de predicción médica como entrenar a un robot para reconocer gatos en fotos. Le muestras miles de imágenes y él aprende los patrones. Si solo le muestras diez imágenes, podría memorizar perfectamente esos diez gatos específicos pero fallar por completo cuando vea un gato nuevo. Esto se llama "sobreajuste" (overfitting), y es el enemigo de una buena predicción. Para evitar esto, los científicos necesitan saber exactamente cuántas imágenes (pacientes) mostrarle al robot.
El artículo comienza explicando que la regla actual para decidir cuántos pacientes se necesitan se centra en el valor esperado. Imagina que estás lanzando un dado. El "valor esperado" es el promedio que obtienes si lo lanzas un millón de veces (que es 3.5). El método antiguo dice: "Lancemos el dado suficientes veces para que el promedio sea 3.5". Pero los autores señalan un error: si solo lanzas el dado diez veces, podrías obtener un 6 en cada ocasión, o un 1 en cada ocasión. El promedio puede ser 3.5 a largo plazo, pero tus diez lanzamientos específicos podrían ser un desastre. En términos médicos, esto significa que un modelo puede verse perfecto en promedio a través de muchos estudios, pero el modelo específico construido para tu hospital podría ser tremendamente inexacto.
Los autores introducen un nuevo concepto llamado PrAP (Probabilidad de Desempeño Aceptable). En lugar de solo preocuparse por el promedio, el PrAP pregunta: "¿Cuáles son las probabilidades de que el modelo que construimos justo ahora sea lo suficientemente bueno?". Ellos definen un rango de "suficientemente bueno", como una pendiente de calibración entre 0.85 y 1.15 (donde 1 es perfecto). El objetivo es elegir un tamaño de muestra lo suficientemente grande como para que haya, digamos, un 80% de probabilidad de que el modelo caiga en esa zona "buena".
La Cocina de Simulación
Para probar su idea, los autores no solo adivinaron; realizaron miles de simulaciones por computadora. Crearon datos de pacientes falsos con diferentes números de "ingredientes" (predictores), que iban desde 4 hasta 28. Compararon dos formas de decidir cuántos pacientes usar:
- La Forma Estándar: Calcular el tamaño necesario para que el promedio del desempeño sea 0.9 (cerca de la perfección).
- La Nueva Forma: Calcular el tamaño necesario para que haya un 80% de probabilidad de que el desempeño esté entre 0.85 y 1.15.
Los resultados fueron reveladores. Cuando los modelos tenían un pequeño número de predictores (como 4 o 5), la Forma Estándar sugería un tamaño de muestra relativamente pequeño. Sin embargo, cuando realmente ejecutaron las simulaciones, encontraron que los modelos construidos con este pequeño tamaño de muestra estaban por todos lados. A veces eran excelentes, pero a menudo eran terribles. La probabilidad de obtener un "buen" modelo era de solo un 54%, ¡básmente un volado!
En contraste, la Nueva Forma exigía un tamaño de muestra mucho mayor. Para un modelo con solo 4 predictores, la Nueva Forma requería 2.7 veces más pacientes que la Forma Estándar. Pero la recompensa fue enorme: con este mayor tamaño de muestra, la probabilidad de obtener un buen modelo saltó al 80% objetivo. Los autores encontraron que para modelos con muchos predictores (como 18 o más), los dos métodos sugerían tamaños de muestra similares, pero para los modelos más pequeños y simples, la diferencia era masiva.
¿El Atajo de la "Reducción" (Shrinkage)?
El artículo también investigó un truco popular llamado reducción (shrinkage). Imagina que horneaste un pastel y quedó un poco demasiado dulce. La reducción es como quitarle un poquito de azúcar para hacerlo más seguro. En estadística, esto implica reducir ligeramente la fuerza de las predicciones del modelo para evitar el exceso de confianza.
Los autores probaron si usar la reducción podía permitir a los investigadores utilizar tamaños de muestra más pequeños. Encontraron que la reducción ayudó a mejorar el desempeño promedio, haciendo que los modelos estuvieran más cerca de la perfección. Sin embargo, también introdujo un nuevo tipo de inestabilidad. Debido a que tienes que estimar cuánto reducir, esa estimación añade su propia incertidumbre. Las simulaciones mostraron que, si bien la reducción mejoró las probabilidades de un buen modelo, no solucionó el problema por completo si el tamaño de la muestra era demasiado pequeño. De hecho, para modelos muy pequeños (menos de 6 predictores), la incertidumbre adicional de la reducción significó que la probabilidad de un buen modelo no mejoró mucho. Los autores sugieren que la reducción es una herramienta útil, pero no debe usarse como una varita mágica para saltarse la recolección de suficientes datos.
Una Prueba del Mundo Real: Cirugía de Válvula Cardíaca
Para demostrar que su teoría no era solo una fantasía de computadora, los autores aplicaron sus métodos a un conjunto de datos reales de 16,67án de pacientes que se sometieron a cirugía de válvula cardíaca. Querían construir un modelo para predecir el riesgo de morir en el hospital.
Usando el método Estándar, calcularon que necesitaban 2,250 pacientes. Usando su nuevo método PrAP, calcularon que necesitaban 2,740 pacientes. Luego realizaron una simulación donde muestreaban repetidamente estos grupos de los datos reales para ver qué sucedía.
Los resultados confirmaron sus sospechas. El grupo con 2,250 pacientes (Estándar) tenía un desempeño mediano que era bueno, pero los modelos variaban salvajemente. Algunos eran excelentes, otros eran pobres. El grupo con 2,740 pacientes (Nuevo) fue mucho más consistente. Casi todos los modelos construidos con este grupo más grande caían en el rango "aceptable". Además, cuando agregaron la reducción a la mezcla, el grupo más grande (2,740) mostró una clara mejora en la confiabilidad, mientras que el grupo más pequeño no vio mucha mejora.
La Conclusión
El mensaje principal de este artículo es una advertencia contra sentirse demasiado cómodo con los resultados "promedio". En el mundo de alto riesgo de la predicción médica, una tasa de éxito promedio no es suficiente si los modelos individuales pueden fallar estrepitosamente. Los autores sugieren que para construir modelos de riesgo verdaderamente confiables, especialmente con menos ingredientes, los investigadores necesitan estar dispuestos a recolectar más datos. Proponen una nueva forma de calcular los tamaños de muestra que prioriza la probabilidad de éxito sobre el éxito promedio.
Si bien esto puede significar reunir más pacientes de los que se pensaba necesario anteriormente, la compensación es un modelo que es estable y digno de confianza. Como señalan los autores, si quieres estar 80% seguro de que tu modelo funciona, no puedes solo apuntar al promedio; tienes que apuntar al margen de seguridad. Su trabajo proporciona las herramientas matemáticas para hacer precisamente eso, asegurando que cuando un médico confíe en un modelo de predicción, no sea solo un golpe de suerte, sino una receta bien probada.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.