A transferable explainable and uncertainty-aware machine learning framework for water quality classification in data-scarce regions

Resumen Técnico: Un marco de aprendizaje automático transferible, explicable y consciente de la incertidumbre para la clasificación de la calidad del agua en regiones con escasez de datos

Planteamiento del problema
La evaluación de la calidad del agua en regiones con escasez de datos enfrenta desafíos críticos, incluyendo redes de monitoreo fragmentadas, conjuntos de datos heterogéneos, calidad variable de las etiquetas y la incertidumbre en los umbrales de decisión. Si bien los Índices de Calidad del Agua (WQI, por sus siglas en inglés) ofrecen una herramienta de comunicación simplificada, a menudo oscurecen la complejidad hidroquímica local y la incertidumbre, particularmente cuando los umbrales se transfieren de contextos diferentes. Los enfoques actuales de aprendizaje automático (ML) frecuentemente priorizan la precisión predictiva sobre la definición de la tarea, confundiendo a menudo problemas de clasificación independientes con ejercicios de recuperación de reglas basados en etiquetas derivadas de índices. Además, estos modelos suelen carecer de explicabilidad y estimación de la incertidumbre, lo que conduce a predicciones excesivamente confiadas en entornos donde los parámetros fisicoquímicos pueden no separar completamente las clases de calidad del agua. El estudio aborda la necesidad de un marco de apoyo a la decisión cauteloso y reproducible que gestione explícitamente la escasez de datos, la heterogeneidad de las tareas y el riesgo de fuga de información.

Metodología
Los autores proponen un marco transferible que integra conjuntos de datos de acceso abierto, razonamiento de WQI, construcción de tareas conscientes de la fuga de datos, aprendizaje supervisado, IA explicable (XAI) y estimación de la incertidumbre. El flujo de trabajo avanza a través de las siguientes etapas:

1. Curación y armonización de datos: Se auditaron y armonizaron cinco conjuntos de datos de acceso abierto. Esto implicó la estandarización de nombres de columnas, la conversión de variables a formatos numéricos, el manejo de valores faltantes mediante imputación de la mediana (utilizando únicamente las estadísticas del conjunto de entrenamiento) y la eliminación de registros duplicados. Crucialmente, se aplicó un protocolo consciente de la fuga de datos: las variables que codifican directamente las etiquetas objetivo o las puntuaciones de WQI fueron excluidas de la matriz de predictores para evitar el razonamiento circular.
2. Definición de tareas: El estudio separa explícitamente tres familias de tareas distintas para evitar la interpretación errónea del rendimiento del modelo:
   • Clasificación binaria de potabilidad del agua: La tarea principal "difícil", que busca distinguir muestras potables de no potables utilizando descriptores fisicoquímicos.
   • Clasificación estructurada de la calidad de las aguas subterráneas: Una tarea de clasificación hidroquímica basada en parámetros como salinidad y sodicidad.
   • Recuperación de reglas de WQI: Una tarea secundaria donde los modelos intentan reproducir clasificaciones derivadas de la lógica de WQI, sirviendo como una prueba de aproximación de reglas más que como una validación de campo independiente.
3. Construcción de etiquetas: Para las tareas de WQI, las etiquetas se generaron utilizando diversas formulaciones (peso igual, aritmética ponderada, ponderación de entropía, ponderación CRITIC y una híbrida de entropía-CRITIC). Estas se utilizaron estrictamente para las tareas de recuperación de reglas, no como verdad de terreno para la potabilidad.
4. Modelado y optimización: Se evaluó un amplio conjunto de algoritmos (Random Forest, Extra Trees, HistGradientBoosting, XGBoost, LightGBM, SVM, KNN, MLP). La optimización de hiperparámetros se centró en F1-macro y precisión equilibrada para abordar el desequilibrio de clases. Las técnicas de remuestreo (SMOTE, ADASYN) se aplicaron únicamente dentro del pliegue de entrenamiento para evitar la fuga de datos.
5. Explicabilidad e incertidumbre:
   • Explicabilidad: Se utilizaron SHAP (Explicaciones Aditivas de Shapley) e importancia por permutación para identificar los impulsores fisicoquímicos.
   • Incertidumbre: El marco emplea calibración de probabilidad, puntuación de confianza, márgenes de decisión, análisis de entropía y predicción de conformal dividido (split-conformal prediction). Esto permite que el sistema emita una sola clase cuando la evidencia es fuerte, o un conjunto de clases posibles (o una señal para revisión experta) cuando la incertidumbre es alta.

Resultados Clave

• Rendimiento específico de la tarea:
  • Potabilidad Binaria: El modelo Random Forest logró un rendimiento moderado (Precisión: 0.6890, Precisión Equilibrada: 0.6627, F1-macro: 0.6655, ROC-AUC: 0.6902). Esto confirma que los descriptores fisicoquímicos disponibles solo separan parcialmente las muestras potables de las no potables.
  • Clasificación de Aguas Subterráneas: Los modelos alcanzaron puntuaciones casi perfectas (Precisión: 1.0000) en los conjuntos de datos de Telangana, lo que indica que las clases hidroquímicas en estos conjuntos de datos curados están altamente estructuradas y son separables.
  • Recuperación de Reglas de WQI: Los modelos lograron un rendimiento muy alto (Precisión > 0.98), confirmando que el ML puede aproximar eficazmente las reglas de decisión basadas en índices. Sin embargo, los autores advierten que esto refleja la recuperación de reglas, no una validación de campo independiente.
• Análisis de Incertidumbre: Para la tarea difícil de potabilidad, la capa de incertidumbre reveló que solo ~6.25% de las predicciones eran altamente confiables. Sin embargo, este subconjunto confiable alcanzó una precisión de ~0.8780. Por el contrario, ~63.11% de las muestras fueron marcadas para revisión experta, evitando decisiones excesivamente confiadas sobre datos ambiguos.
• Explicabilidad: Los modelos identificaron impulsores científicamente significativos. Para la potabilidad, las variables clave incluyeron sulfato, pH, sólidos, cloraminas y dureza. Para las aguas subterráneas, la conductividad eléctrica, la relación de adsorción de sodio (SAR) y la dureza total fueron dominantes.

Contribuciones Clave

1. Distinción Metodológica: El estudio establece una separación crítica entre las tareas de clasificación independientes y las tareas de recuperación de reglas de WQI, evitando la exageración de las capacidades del modelo cuando las etiquetas se derivan de las mismas características utilizadas para la predicción.
2. Apoyo a la Decisión Consciente de la Incertidumbre: En lugar de actuar como un "clasificador automático ciego", el marco funciona como una herramienta de apoyo a la decisión que marca explícitamente las muestras inciertas para la revisión experta, una característica crucial para las regiones con escasez de datos.
3. Marco Transferible: El flujo de trabajo proporciona una metodología reproducible para auditar, limpiar y modelar datos de calidad del agua que puede adaptarse a contextos locales una vez que los datos de campo estén disponibles.
4. Interpretación Cautelosa: El documento evita reclamar una generalización universal, posicionando en su lugar el trabajo como una fase fundacional para la futura calibración local.

Significancia y Reclamaciones
Los autores afirman que este marco ofrece un "marco de apoyo a la decisión cauteloso y reproducible" en lugar de un clasificador automático definitivo. Su principal significancia radica en su aplicabilidad a regiones con escasez de datos (citando específicamente el contexto de Guinea) donde los datos de monitoreo local son limitados o fragmentados. Al integrar la explicabilidad y la estimación de la incertidumbre, el marco asegura que las predicciones vayan acompañadas de una evaluación de fiabilidad, apoyando así la gestión de la salud pública y ambiental sin reemplazar las confirmaciones de laboratorio necesarias.

El documento establece explícitamente que los resultados actuales se basan en conjuntos de datos de acceso abierto y no constituyen predicciones operativas directas para los sistemas de agua de Guinea. El marco está diseñado para ser adaptado, recalibrado y validado en una segunda fase utilizando datos de campo locales (pozos, sondeos, aguas superficiales) y variables expandidas (indicadores microbiológicos, metales pesados, efectos estacionales). El trabajo sirve como una base metodológica para futuros despliegues en contextos africanos donde se requiere un modelado robusto, transparente y consciente de la incertidumbre antes de la implementación a nivel de campo.