FairHealth: An Open-Source Python Library for Trustworthy Healthcare AI in Low-Resource Settings

El artículo presenta FairHealth, una biblioteca de Python de código abierto diseñada para cerrar brechas críticas en la inteligencia artificial para la atención sanitaria en entornos de recursos limitados, mediante un marco unificado y modular que integra auditoría de equidad, aprendizaje federado que preserva la privacidad, explicabilidad de bajo ancho de banda y herramientas especializadas para conjuntos de datos del Sur Global.

Lo esencial

Imagina que estás construyendo un equipo de médicos para ayudar a personas en aldeas remotas donde el internet es intermitente, la electricidad es poco fiable y no hay muchos especialistas. Quieres usar un programa informático (IA) para ayudarlos, pero tienes tres grandes preocupaciones:

1. ¿Es justo? ¿Trata la computadora a una mujer joven de una aldea de la misma manera que a un hombre mayor de la ciudad?
2. ¿Es seguro? ¿Podemos enseñar a la computadora sin robar registros privados de pacientes?
3. ¿Podemos confiar en ella? Si la computadora hace una sugerencia, ¿puede una enfermera local entender por qué tomó esa decisión sin necesitar un doctorado en matemáticas?

FairHealth es una nueva "caja de herramientas" gratuita (una biblioteca de Python) diseñada específicamente para resolver estos tres problemas en lugares como Bangladesh y otros países de bajos recursos. Piensa en ella como un cuchillo suizo para la IA ética en la atención médica.

Así es como funciona la caja de herramientas, desglosada en sus seis herramientas principales:

1. El "Espejo de Equidad" (fairhealth.fairness)

El Problema: A menudo, los modelos de IA se entrenan con datos de países ricos. Cuando los usas en un lugar diferente, podrían fallar con ciertos grupos de personas (como mujeres o grupos étnicos específicos). Es como una aplicación del clima entrenada solo con el clima de Londres tratando de predecir la lluvia en el Sahara; simplemente no funcionará.
La Herramienta: Este módulo actúa como un espejo que verifica si tu IA está siendo sesgada. Realiza una "auditoría de equidad" para ver si la IA trata a diferentes grupos por igual.

• Ejemplo del mundo real: El documento muestra que, sin esta herramienta, una IA que revisa los latidos cardíacos (ECG) era justa solo el 23% de las veces entre hombres y mujeres. Después de usar esta herramienta para "arreglar" la IA, la equidad saltó al 71%.

2. El "Traductor" (fairhealth.explain)

El Problema: La mayoría de la IA es una "caja negra". Da una respuesta, pero nadie sabe cómo llegó a ella. En una clínica concurrida en un entorno de bajos recursos, un médico no puede pedirle a un científico informático que explique las matemáticas. Necesitan una razón simple.
La Herramienta: Este módulo traduce matemáticas complejas a reglas en lenguaje sencillo, como un traductor hablando con un anciano local.

• Ejemplo del mundo real: En lugar de decir "La puntuación de probabilidad es 0.88", dice: "Regla 1: Presión arterial alta Y azúcar en sangre alta = Alto Riesgo". Un estudio mencionado en el documento encontró que los médicos preferían estas explicaciones simples "basadas en reglas" sobre gráficos complejos.

3. La "Bóveda Secreta" (fairhealth.federated)

El Problema: Los hospitales no pueden compartir registros de pacientes debido a las leyes de privacidad. Es como intentar enseñarle a un chef una nueva receta enviándole los ingredientes reales, pero los ingredientes están bloqueados en una bóveda.
La Herramienta: Esta herramienta utiliza un tipo especial de "cerradura mágica" (llamada Cifrado Homomórfico). Permite a los hospitales entrenar la IA juntos sin nunca abrir la bóveda ni enviar los datos reales de los pacientes. Solo envían "pistas cifradas" sobre la receta.

• El Resultado: El documento afirma que este método reduce la cantidad de datos enviados por internet en un 97.5% (haciéndolo rápido incluso en conexiones lentas) mientras mantiene los datos matemáticamente inexpugnables para los hackers.

4. El "Triage de Emergencia" (fairhealth.lowresource)

El Problema: Durante brotes de enfermedades (como la fiebre del dengue), las clínicas se ven desbordadas. Necesitan una forma rápida de clasificar a los pacientes, pero el sistema debe funcionar sin conexión y hablar el idioma local.
La Herramienta: Esta es una asistente de clasificación inteligente para la fiebre del dengue. Hace preguntas simples (Edad, Ubicación, Tipo de vivienda) y da una recomendación en inglés o bengalí.

• Ejemplo del mundo real: Si un niño en Daca tiene fiebre, la herramienta puede decir instantáneamente: "Grave: Acuda al médico inmediatamente", ayudando a los médicos a decidir quién necesita ayuda primero.

5. La "Brújula de Equidad" (fairhealth.equity)

El Problema: Cuando ocurren desastres (como inundaciones), la ayuda suele ir a los lugares más fáciles de alcanzar (ciudades), dejando atrás a las áreas rurales más afectadas. Los modelos de IA antiguos simplemente copian este error.
La Herramienta: Este módulo actúa como una brújula que apunta hacia las personas que más necesitan ayuda, independientemente de dónde vivan. Utiliza una técnica especial para ignorar el "sesgo de ubicación".

• Ejemplo del mundo real: En las inundaciones de Bangladesh de 2022, esta herramienta cambió la lista de prioridades. Un área rural llamada Sunamganj, que anteriormente estaba clasificada en el puesto 14 para la ayuda, fue correctamente movida al Puesto 1 porque el modelo se dio cuenta de que estaban sufriendo más.

6. La "Biblioteca Abierta" (fairhealth.datasets)

El Problema: La mayoría de la investigación de IA médica requiere permiso especial (un "Acuerdo de Uso de Datos") para acceder a los registros de los pacientes. Esto excluye a investigadores independientes, estudiantes o personas en países sin grandes redes hospitalarias.
La Herramienta: FairHealth es la primera caja de herramientas que solo utiliza datos que ya son gratuitos y públicos. No necesitas pedir permiso ni firmar documentos legales.

• El Beneficio: Cualquier persona con una computadora puede descargar los datos y comenzar a construir IA justa de inmediato.

Resumen

FairHealth es un kit de herramientas gratuito y de código abierto que ayuda a investigadores y médicos a construir una IA que sea justa (no discrimina), privada (mantiene los secretos a salvo) y explicable (fácil de entender). Está construida específicamente para los desafíos de los entornos de bajos recursos, utilizando solo datos que son gratuitos para que todos los usen.

Puedes instalarlo como cualquier otra aplicación (pip install fairhealth) y comenzar a usar estas herramientas para hacer que la IA en la atención médica sea más segura y confiable para todos.

Resumen técnico

Resumen Técnico: FairHealth

Declaración del Problema

El aprendizaje automático promete avances significativos para la atención sanitaria, pero su implementación en el mundo real, particularmente en entornos de países de bajos ingresos y recursos limitados (LMIC), se ve obstaculizada por tres limitaciones estructurales:

1. Sesgo Demográfico: Los modelos entrenados con datos a nivel de población a menudo tienen un rendimiento inferior para los grupos minoritarios. Por ejemplo, los modelos de detección de infarto de miocardio basados en ECG sin corregir exhiben una razón de impacto dispar de 0.23 entre grupos de sexo, muy por debajo del umbral de 0.80 para la equidad.
2. Restricciones de Privacidad: Las protecciones legales sobre los registros de salud impiden el intercambio de datos entre instituciones. Aunque el aprendizaje federado (FL) ofrece una solución, las bibliotecas existentes de Python carecen de la integración de cifrado homomórfico criptográfico (HE) accesible para los investigadores en salud.
3. Brechas de Explicabilidad: Las herramientas de apoyo a la decisión clínica en LMIC (por ejemplo, Bangladesh) requieren explicaciones interpretables por clínicos sin experiencia en aprendizaje automático, operación en entornos de bajo ancho de banda y soporte para idiomas locales. Las bibliotecas existentes (por ejemplo, SHAP, LIME) carecen de integración con flujos de trabajo clínicos.

Los kits de herramientas actuales como PyHealth cubren amplios conjuntos de datos de historias clínicas electrónicas (EHR), pero omiten la auditoría de equidad, el aprendizaje federado y la implementación específica para LMIC. Por el contrario, las bibliotecas de equidad como AIF360 carecen de conjuntos de datos específicos para la atención sanitaria, y los marcos de FL como FATE carecen de enfoque en salud e imponen una alta sobrecarga de ingeniería.

Metodología y Diseño de la Biblioteca

FairHealth es una biblioteca modular de código abierto en Python diseñada para abordar estas brechas. Se basa en cinco contribuciones de investigación revisadas por pares y está estructurada en seis módulos débilmente acoplados. La biblioteca se adhiere a tres principios de diseño fundamentales:

• Solo Datos Públicos: Todos los conjuntos de datos son descargables desde fuentes públicas sin acuerdos de uso de datos institucionales (DUA).
• Anclado en Artículos: Cada módulo está vinculado a una publicación revisada por pares específica, con los resultados clave documentados en las cadenas de documentación (docstrings) para la trazabilidad.
• Enmarcado Clínico: Los resultados se presentan en lenguaje clínico en lugar de jerga de aprendizaje automático, validados mediante un estudio que involucró a 14 profesionales de la salud.

Módulos Principales

1. fairhealth.fairness (Equidad en Señales Biológicas):

   • Función: Proporciona métricas de equidad agnósticas al modelo (Paridad Demográfica, Probabilidades Igualadas, Impacto Dispar) para señales biológicas y datos tabulares.
   • Innovación: Incluye intersectional_fairness para evaluar múltiples atributos sensibles simultáneamente (por ejemplo, sexo × edad).
   • Validación: Demostrado en el conjunto de datos PTB-XL, donde el desviado adversarial mejoró la razón de impacto dispar de 0.23 a 0.71 manteniendo un AUROC de 0.8472.

2. fairhealth.explain (Explicabilidad Híbrida):

   • Función: Combina reglas de lógica difusa ante-hoc con explicaciones SHAP post-hoc.
   • Innovación: Aborda el "déficit de confianza" en entornos con recursos limitados. Un estudio de validación con clínicos mostró una preferencia del 71.4% por este enfoque híbrido sobre explicaciones solo con SHAP o solo con puntuaciones.
   • Rendimiento: Logró una precisión del 88.67% en el conjunto de datos de Riesgo de Salud Materna de la UCI, superando a las líneas base de Gradient Boosting en 2.46 puntos porcentuales.

3. fairhealth.federated (FL que Preserva la Privacidad):

   • Función: Implementa aprendizaje federado con cifrado homomórfico (HE) y privacidad diferencial (DP).
   • Innovación: Utiliza el enfoque MedHE, diseñando conjuntamente la esparsificación adaptativa de gradientes con el cifrado homomórfico CKKS.
   • Rendimiento: Reduce la sobrecarga de comunicación en un 97.5% (de 1,277 MB a 32 MB) manteniendo puntuaciones macro-F1 estadísticamente equivalentes al FedAvg estándar. Mejora la resistencia a ataques de inferencia de membresía (MIA) a niveles cercanos al azar (tasa de éxito del 51.1%).

4. fairhealth.lowresource (Triaje Multilingüe):

   • Función: Un clasificador de Árbol de Decisión para el triaje de dengue que soporta inglés y bengalí.
   • Innovación: Opera en condiciones de bajo ancho de banda utilizando características demográficas (Edad, Género, Tipo de Área, etc.).
   • Rendimiento: Logró una puntuación F1 de 0.802 y un AUC de 0.851. Un estudio piloto (n=50) reportó una satisfacción del usuario del 75% con su mecanismo de umbral de confianza (redirigiendo casos de baja confianza a médicos).

5. fairhealth.equity (Asignación de Ayuda en Desastres):

   • Función: Una arquitectura de desviado adversarial para la distribución equitativa de ayuda por inundaciones.
   • Innovación: Utiliza capas de reversión de gradientes para aprender representaciones de vulnerabilidad invariantes al distrito, corrigiendo sesgos urbanos en datos históricos.
   • Rendimiento: Evaluado en 87 upazilas de Bangladesh, el modelo redujo la diferencia de paridad estadística en un 41.6% y la brecha de equidad regional en un 43.2% con un costo R² mínimo (2.7 puntos porcentuales).

6. fairhealth.datasets (Cargadores Públicos):

   • Función: Cargadores en tiempo de ejecución para seis conjuntos de datos específicos, incluidos datos de salud materna, vigilancia de dengue y daños por inundaciones (PDNA) específicos de Bangladesh, junto con conjuntos de datos estándar como PTB-XL y MIMIC-III Demo.
   • Detalle de Datos de Salud Materna: Para el módulo de salud materna, la biblioteca integra indicadores reales publicados derivados de registros públicos, evitando el uso de valores sintéticos o simulados. Específicamente, las variables Healthcare_Access_Score y MMR (Maternal Mortality Ratio per 100k) se obtienen directamente de dos fuentes oficiales: (1) el DGHS Dashboard 2024 (Directorate General of Health Services, Bangladesh) y (2) el informe UNFPA MPDSR 2023 (Maternal and Perinatal Death Surveillance and Response). Estos cargadores garantizan que el análisis de equidad se base en datos epidemiológicos reales y verificables.

Resultados Clave y Contribuciones

El artículo afirma las siguientes contribuciones:

1. Marco Unificado: La primera biblioteca instalable mediante pip que integra aprendizaje federado, equidad, explicabilidad y herramientas de bajos recursos específicamente para la atención sanitaria.
2. Reproducibilidad: La primera herramienta de IA en salud construida enteramente sobre conjuntos de datos disponibles públicamente, eliminando la barrera de los DUA institucionales para investigadores independientes.
3. Enfoque en LMIC: Una colección curada de conjuntos de datos de salud específicos de Bangladesh (materna, dengue, inundaciones) que no se encuentran en las bibliotecas de ML existentes, utilizando indicadores reales del DGHS y UNFPA para la salud materna.
4. Implementación Abierta: Código de código abierto para cinco métodos revisados por pares, que permite la reproducción y extensión directas.

Aspectos Destacados del Rendimiento Técnico:

• Equidad: Mejora de la razón de impacto dispar de 0.23 a 0.71 en datos de ECG.
• Privacidad: Logró una reducción del 97.5% en la comunicación en FL con HE manteniendo la utilidad del modelo (macro-F1 ≈ 0.95).
• Explicabilidad: Preferencia del 71.4% por parte de los clínicos para explicaciones híbridas Fuzzy+SHAP.
• Equidad: Cambió las clasificaciones de prioridad para el 70.6% de las regiones afectadas por desastres, mejorando significativamente la clasificación de áreas rurales vulnerables (por ejemplo, Sunamganj).

Significado y Afirmaciones

El artículo posiciona a FairHealth como una capa complementaria para bibliotecas de cobertura amplia existentes como PyHealth, dirigiéndose específicamente a la "dimensión de confiabilidad" (equidad, privacidad, explicabilidad) que otras herramientas dejan abierta. Su significado principal radica en democratizar la investigación de IA en salud para el Sur Global mediante:

• Eliminar la necesidad de acuerdos de acceso a datos institucionales, utilizando exclusivamente registros públicos como el DGHS Dashboard y UNFPA MPDSR para datos críticos.
• Proporcionar herramientas adaptadas a entornos clínicos multilingües y de bajo ancho de banda.
• Garantizar que la equidad y la privacidad no sean reflexiones tardías, sino componentes integrados y auditables del flujo de trabajo de ML.

Los autores declaran que la biblioteca permite a investigadores de todo el mundo, incluidos aquellos sin afiliaciones hospitalarias, llevar a cabo investigaciones rigurosas y reproducibles en IA para la salud. El trabajo futuro se limita a expandir el módulo federado con cifrado CKKS completo basado en TenSEAL para los pesos de las redes neuronales e integrar paneles en tiempo real para la vigilancia del dengue.