The potential roles and risks of Artificial Intelligence in public health: A scoping review

Resumen Técnico: Los Roles Potenciales y los Riesgos de la Inteligencia Artificial en la Salud Pública

Planteamiento del Problema
Los sistemas de salud pública enfrentan restricciones crónicas de recursos mientras se esfuerzan por proteger y mejorar la salud de la población a nivel local, regional y global. La Inteligencia Artificial (IA), que abarca técnicas como el aprendizaje automático (ML), el procesamiento de lenguaje natural (NLP) y la IA generativa, ofrece vías potenciales para mejorar la eficiencia y la eficacia de las intervenciones de salud pública. Sin embargo, la rápida adopción de la IA plantea preocupaciones significativas respecto a la equidad, la ética y la confianza. Si bien existen marcos regulatorios para los dispositivos médicos clínicos, se reconoce un vacío en la comprensión de cómo la implementación de la IA en contextos más amplios de salud pública podría amplificar inadvertidamente las desigualdades en salud, reducir la confianza pública o causar daños no intencionados. El problema específico abordado es la falta de un mapeo exhaustivo tanto de los roles potenciales que la IA podría desempeñar en la salud pública como de los riesgos asociados, particularmente dentro de los contextos de países de ingresos altos.

Metodología
Este estudio es una revisión de alcance realizada de acuerdo con la Extensión PRISMA para Revisiones de Alcance (PRISMA-ScR). Los autores buscaron en cuatro bases de datos bibliográficas (Medline, Embase, Web of Science y Scopus) informes publicados entre el 1 de enero de 2020 y el 8 de septiembre de 2025.

• Criterios de Elegibilidad: Los informes incluidos fueron estudios primarios, revisiones, artículos de opinión, comentarios y editoriales publicados en inglés. El alcance se limitó a países de ingresos altos (según la definición del Banco Mundial) y se centró en contextos de salud pública (organizaciones financiadas por el gobierno que implementan intervenciones o políticas). La revisión excluyó explícitamente contextos pandémicos, entornos clínicos (por ejemplo, el uso de recursos del NHS), monitoreo ambiental, seguridad de la infraestructura y la predicción de riesgos clínicos a nivel individual.
• Participación de las Partes Interesadas: El protocolo y los hallazgos iniciales se refinaron mediante la consulta con dos comunidades de práctica: nueve profesionales de las Colaboraciones de Investigación de Determinantes de la Salud (HDRC) financiadas por el NIHR y nueve directores estratégicos de institutos de ciencia de datos, agencias de salud pública y redes de gobiernos locales.
• Síntesis de Datos: Dos revisores cribaron de forma independiente los títulos, los resúmenes y los textos completos. Un revisor extrajo los datos y un segundo revisor los verificó. La síntesis consistió en resumir narrativamente la evidencia por contexto de salud pública, combinando roles potenciales y riesgos sustantivamente similares en categorías temáticas.

Contribuciones Clave y Resultados
La revisión cribó 1,805 registros y 320 textos completos, incluyendo finalmente 67 informes. Estos informes identificaron 44 roles potenciales para la IA a través de ocho contextos de salud pública:

1. Comunicación de Salud Pública: Uso de ML e IA generativa para crear mensajes dirigidos, generar imágenes, mejorar la claridad, monitorear el sentimiento público en tiempo real y desmentir la desinformación.
2. Educación en Salud Pública: Automatización de la retroalimentación para tareas, creación de módulos de aprendizaje dinámicos y provisión de capacitación personalizada para profesionales.
3. Emergencias de Salud Pública (no brotes): Asignación de recursos (camas, personal), gestión de logística (evacuaciones, rutas), triaje de víctimas y facilitación de la comunicación entre partes interesadas.
4. Revisiones de Evidencia: Automatización de la búsqueda de citas, evaluaciones de riesgo de sesgo, extracción de datos y redacción de informes para reducir la carga de cribado.
5. Pronóstico: Mejora de la precisión de los modelos para resultados a nivel poblacional como la obesidad, la demencia, la mortalidad cardiovascular y las enfermedades relacionadas con el alcohol.
6. Intervenciones de Salud Pública: Desarrollo de intervenciones poblacionales personalizadas, predicción de impactos de políticas y detección de riesgos conductuales (por ejemplo, obesidad, sobredosis de opioides).
7. Organizaciones de Salud Pública: Análisis de grandes conjuntos de datos para la toma de decisiones, organización de datos, resumen de tareas rutinarias y redacción de solicitudes de subvenciones.
8. Vigilancia: Monitoreo del cumplimiento de medidas como el uso de mascarillas y el distanciamiento social mediante clasificación de imágenes y detección de objetos.

Riesgos Identificados
La revisión identificó una serie de riesgos, muchos de los cuales son transversales en lugar de específicos de cada contexto:

• Sesgo y Generalizabilidad: El riesgo más citado, donde la IA podría perpetuar o reforzar las desigualdades en salud, la discriminación y las predicciones inexactas debido a datos de entrenamiento sesgados.
• Transparencia y Ética: Preocupaciones sobre la privacidad de los datos, la seguridad, la confidencialidad y la naturaleza de "caja negra" de los resultados de la IA.
• Exacerbación de las Desigualdades: Riesgos derivados de la falta de capacidad de la fuerza laboral, infraestructura o la exclusión digital de poblaciones vulnerables.
• Integridad del Contenido: El potencial de la IA generativa para producir contenido inexacto, plagio o "alucinaciones".
• Desprofesionalización (Deskilling): El riesgo de que la dependencia excesiva de la IA pueda conducir a un exceso de confianza o a una reducción del pensamiento crítico profesional.
• Riesgos Específicos de Contexto: Estos incluyeron estudiantes que sabotean su propio aprendizaje en educación, la omisión de artículos relevantes en revisiones de evidencia y una reducción de la confianza pública debido a comunicaciones inauténticas.

Significancia y Afirmaciones
Los autores posicionan esta revisión como un paso fundamental para equilibrar la innovación con la responsabilidad. Afirman que, si bien la IA posee una promesa teórica de eficiencia, la base de evidencia actual sobre su efectividad en la salud pública es limitada y mixta.

El artículo argumenta que:

• Se requiere Precaución: Los roles potenciales identificados deben tratarse con cautela y equilibrarse frente a los riesgos sustanciales, particularmente en lo que respecta a la equidad y la confianza.
• Existen Brechas Regulatorias: A diferencia de los entornos clínicos, la salud pública carece de marcos regulatorios específicos para la IA. Los autores abogan por un cumplimiento específico de la salud pública que centre los valores de la salud pública.
• La Generación de Evidencia es Crítica: Existe una necesidad urgente de investigación futura para evaluar la efectividad y la rentabilidad de las intervenciones de IA, con un enfoque específico en la evaluación de los impactos generadores de inequidad.
• Estrategia de Implementación: La adopción de la IA requiere planificación estratégica, capacitación de la fuerza laboral y un compromiso comunitario significativo con grupos diversos y subrepresentados para mitigar la inequidad. Los autores sugieren un proceso estructurado e iterativo para la adopción (desde el descubrimiento hasta la sostenibilidad) en lugar de una difusión caótica.

La revisión concluye que, sin una consideración cuidadosa de los riesgos y una evidencia robusta, las intervenciones de IA ineficaces o sesgadas podrían erosionar la confianza pública en los sistemas de salud pública. Por lo tanto, la implementación futura debe guiarse por principios de confiabilidad, equidad y rigor metodológico.