A transferable explainable and uncertainty-aware machine learning framework for water quality classification in data-scarce regions

Resumo Técnico: Uma Estrutura de Aprendizado de Máquina Transferível, Explicável e Consciente de Incertezas para Classificação da Qualidade da Água em Regiões com Escassez de Dados

Problema
A avaliação da qualidade da água em regiões com escassez de dados enfrenta desafios críticos, incluindo redes de monitoramento fragmentadas, conjuntos de dados heterogêneos, qualidade variável de rótulos e incerteza nos limiares de decisão. Embora os Índices de Qualidade da Água (IQAs) ofereçam uma ferramenta de comunicação simplificada, eles frequentemente ocultam a complexidade hidroquímica local e a incerteza, particularmente quando os limiares são transferidos de diferentes contextos. As abordagens existentes de aprendizado de máquina (ML) frequentemente priorizam a precisão preditiva em detrimento da definição da tarefa, muitas vezes confundindo problemas de classificação independentes com exercícios de recuperação de regras baseados em rótulos derivados de índices. Além disso, esses modelos frequentemente carecem de explicabilidade e estimativa de incerteza, levando a previsões excessivamente confiantes em ambientes onde os parâmetros físico-químicos podem não separar totalmente as classes de qualidade da água. O estudo aborda a necessidade de uma estrutura de suporte à decisão cautelosa e reprodutível que lide explicitamente com a escassez de dados, a heterogeneidade das tarefas e o risco de vazamento de informações (information leakage).

Metodologia
Os autores propõem uma estrutura transferível que integra conjuntos de dados de acesso aberto, raciocínio de IQA, construção de tarefas consciente de vazamento, aprendizado supervisionado, IA explicável (XAI) e estimativa de incerteza. O fluxo de trabalho procede através das seguintes etapas:

1. Curadoria e Harmonização de Dados: Cinco conjuntos de dados de acesso aberto foram auditados e harmonizados. Isso envolveu a padronização de nomes de colunas, conversão de variáveis para formatos numéricos, tratamento de valores ausentes via imputação pela mediana (usando apenas as estatísticas do conjunto de treinamento) e remoção de registros duplicados. Crucialmente, um protocolo consciente de vazamento foi aplicado: variáveis que codificam diretamente os rótulos alvo ou pontuações de IQA foram excluídas da matriz de preditores para evitar o raciocínio circular.
2. Definição de Tarefas: O estudo separa explicitamente três famílias distintas de tarefas para evitar a interpretação errônea do desempenho do modelo:
   • Classificação Binária de Potabilidade da Água: A tarefa principal "difícil", que visa distinguir amostras potáveis de não potáveis usando descritores físico-químicos.
   • Classificação Estruturada da Qualidade da Águas Subterrâneas: Uma tarefa de classificação hidroquímica baseada em parâmetros como salinidade e sodicidade.
   • Recuperação de Regras de IQA: Uma tarefa secundária onde os modelos tentam reproduzir classificações derivadas da lógica de IQA, servindo como um teste de aproximação de regras, e não como uma validação de campo independente.
3. Construção de Rótulos: Para as tarefas de IQA, os rótulos foram gerados usando várias formulações (peso igual, aritmética ponderada, ponderação por entropia, ponderação CRITIC e híbrido de entropia–CRITIC). Estes foram estritamente usados para tarefas de recuperação de regras, não como verdade fundamental (ground truth) para potabilidade.
4. Modelagem e Otimização: Um amplo conjunto de algoritmos (Random Forest, Extra Trees, HistGradientBoosting, XGBoost, LightGBM, SVM, KNN, MLP) foi avaliado. A otimização de hiperparâmetros focou em F1-macro e acurácia balanceada para lidar com o desequilíbrio de classes. Técnicas de reamostragem (SMOTE, ADASYN) foram aplicadas apenas dentro da dobra de treinamento para evitar vazamento.
5. Explicabilidade e Incerteza:
   • Explicabilidade: SHAP (Shapley Additive Explanations) e importância por permutação foram usados para identificar os direcionadores físico-químicos.
   • Incerteza: A estrutura emprega calibração de probabilidade, pontuação de confiança, margens de decisão, análise de entropia e predição de conformal dividido (split-conformal prediction). Isso permite que o sistema exiba uma única classe quando a evidência é forte, ou um conjunto de classes possíveis (ou um alerta para revisão de especialistas) quando a incerteza é alta.

Principais Resultados

• Desempenho Específico por Tarefa:
  • Potabilidade Binária: O modelo Random Forest alcançou desempenho moderado (Acurácia: 0,6890, Acurácia Balanceada: 0,6627, F1-macro: 0,6655, ROC-AUC: 0,6902). Isso confirma que os descritores físico-químicos disponíveis separam apenas parcialmente as amostras potáveis e não potáveis.
  • Classificação de Águas Subterrâneas: Os modelos alcançaram pontuações próximas da perfeição (Acurácia: 1,0000) nos conjuntos de dados de Telangana, indicando que as classes hidroquímicas nesses conjuntos de dados curados são altamente estruturadas e separáveis.
  • Recuperação de Regras de IQA: Os modelos alcançaram desempenho muito alto (Acurácia > 0,98), confirmando que o ML pode aproximar efetivamente as regras de decisão baseadas em índices. No entanto, os autores alertam que isso reflete a recuperação de regras, não uma validação de campo independente.
• Análise de Incerteza: Para a tarefa difícil de potabilidade, a camada de incerteza revelou que apenas ~6,25% das previsões eram altamente confiáveis. No entanto, este subconjunto confiável alcançou uma acurácia de ~0,8780. Por outro vez, ~63,11% das amostras foram sinalizadas para revisão de especialistas, evitando decisões excessivamente confiantes em dados ambíguos.
• Explicabilidade: Os modelos identificaram direcionadores cientificamente significativos. Para potabilidade, as variáveis principais incluíram sulfato, pH, sólidos, cloraminas e dureza. Para águas subterrâneas, a condutividade elétrica, a razão de sódio de adsorção (SAR) e a dureza total foram dominantes.

Principais Contribuições

1. Distinção Metodológica: O estudo estabelece uma separação crítica entre tarefas de classificação independentes e tarefas de recuperação de regras de IQA, evitando a superestimação das capacidades do modelo quando os rótulos são derivados das mesmas características usadas para a predição.
2. Suporte à Decisão Consciente de Incerteza: Em vez de atuar como um "classificador automático cego", a estrutura funciona como uma ferramenta de suporte à decisão que sinaliza explicitamente amostras incertas para revisão de especialistas, uma característica crucial para regiões com escassez de dados.
3. Estrutura Transferível: O fluxo de trabalho fornece uma metodologia reprodutível para auditar, limpar e modelar dados de qualidade da água que pode ser adaptada a contextos locais assim que os dados de campo estiverem disponíveis.
4. Interpretação Cautelosa: O artigo evita reivindicar generalização universal, posicionando o trabalho como uma fase fundamental para futura calibração local.

Significância e Alegações
Os autores alegam que esta estrutura oferece uma "estrutura de suporte à decisão cautelosa e reprodutível" em vez de um classificador automático definitivo. Sua principal significância reside na sua aplicabilidade em regiões com escassez de dados (citando especificamente o contexto da Guiné), onde os dados de monitoramento local são limitados ou fragmentados. Ao integrar explicabilidade e estimativa de incerteza, a estrutura garante que as previsões sejam acompanhadas por uma avaliação de confiabilidade, apoiando assim a gestão pública e ambiental sem substituir as necessárias confirmações laboratoriais.

O artigo afirma explicitamente que os resultados atuais baseiam-se em conjuntos de dados de acesso aberto e não constituem previsões operacionais diretas para sistemas de água guineenses. A estrutura foi desenhada para ser adaptada, recalibrada e validada em uma segunda fase utilizando dados de campo locais (poços, furos, águas superficiais) e variáveis expandidas (indicadores microbiológicos, metais pesados, efeitos sazonais). O trabalho serve como uma fundação metodológica para o futuro implantação em contextos africanos onde a modelagem robusta, transparente e consciente de incertezas é necessária antes da implementação no nível de campo.