FairHealth: An Open-Source Python Library for Trustworthy Healthcare AI in Low-Resource Settings

O artigo apresenta o FairHealth, uma biblioteca Python de código aberto projetada para preencher lacunas críticas na IA para a saúde em contextos de recursos limitados, fornecendo um framework unificado e modular que integra auditoria de equidade, aprendizado federado com preservação de privacidade, explicabilidade de baixa largura de banda e ferramentas especializadas para conjuntos de dados do Sul Global.

O essencial

Imagine que você está montando uma equipe de médicos para ajudar pessoas em aldeias remotas onde a internet é instável, a eletricidade é pouco confiável e há poucos especialistas. Você deseja usar um programa de computador (IA) para ajudá-los, mas tem três grandes preocupações:

1. É justo? O computador trata uma jovem de uma aldeia da mesma forma que trata um homem mais velho da cidade?
2. É seguro? Podemos ensinar o computador sem roubar registros privados de pacientes?
3. Podemos confiar nele? Se o computador fizer uma sugestão, uma enfermeira local consegue entender por que ele fez essa escolha sem precisar de um doutorado em matemática?

FairHealth é uma nova "caixa de ferramentas" gratuita (uma biblioteca Python) projetada especificamente para resolver esses três problemas em lugares como Bangladesh e outros países com poucos recursos. Pense nela como uma Canivete Suíço para IA ética na saúde.

Veja como a caixa de ferramentas funciona, dividida em suas seis principais ferramentas:

1. O "Espelho da Equidade" (fairhealth.fairness)

O Problema: Frequentemente, modelos de IA são treinados com dados de países ricos. Quando você os usa em um lugar diferente, eles podem errar para certos grupos de pessoas (como mulheres ou grupos étnicos específicos). É como um aplicativo de clima treinado apenas com o clima de Londres tentando prever chuva no Saara; simplesmente não funcionará.
A Ferramenta: Este módulo age como um espelho que verifica se sua IA está sendo enviesada. Ele realiza uma "auditoria de equidade" para ver se a IA trata diferentes grupos de forma igual.

• Exemplo do mundo real: O artigo mostra que, sem esta ferramenta, uma IA que verifica batimentos cardíacos (ECG) era justa apenas 23% das vezes entre homens e mulheres. Após usar esta ferramenta para "corrigir" a IA, a equidade saltou para 71%.

2. O "Tradutor" (fairhealth.explain)

O Problema: A maioria das IAs é uma "caixa preta". Ela dá uma resposta, mas ninguém sabe como chegou lá. Em uma clínica movimentada em um ambiente com poucos recursos, um médico não pode pedir a um cientista da computação para explicar a matemática. Eles precisam de uma razão simples.
A Ferramenta: Este módulo traduz matemática complexa em regras de linguagem simples, como um tradutor falando com um ancião local.

• Exemplo do mundo real: Em vez de dizer "A pontuação de probabilidade é 0,88", ela diz: "Regra 1: Pressão Arterial Alta E Açúcar no Sangue Alto = Alto Risco". Um estudo mencionado no artigo descobriu que os médicos preferiam essas explicações simples "baseadas em regras" em vez de gráficos complexos.

3. O "Cofre Secreto" (fairhealth.federated)

O Problema: Hospitais não podem compartilhar registros de pacientes devido a leis de privacidade. É como tentar ensinar a um chef uma nova receita enviando os ingredientes reais, mas os ingredientes estão trancados em um cofre.
A Ferramenta: Esta ferramenta usa um tipo especial de "cadeado mágico" (chamado Criptografia Homomórfica). Ela permite que hospitais treinem a IA juntos sem nunca abrir o cofre ou enviar os dados reais dos pacientes. Eles enviam apenas "dicas criptografadas" sobre a receita.

• O Resultado: O artigo afirma que este método reduz a quantidade de dados enviados pela internet em 97,5% (tornando-o rápido mesmo em conexões lentas) enquanto mantém os dados matematicamente inquebráveis por hackers.

4. O "Triage de Emergência" (fairhealth.lowresource)

O Problema: Durante surtos de doenças (como dengue), as clínicas ficam sobrecarregadas. Elas precisam de uma maneira rápida de classificar os pacientes, mas o sistema deve funcionar offline e falar a língua local.
A Ferramenta: Esta é uma assistente inteligente de classificação para dengue. Ela faz perguntas simples (Idade, Localização, Tipo de Habitação) e dá uma recomendação em Inglês ou Bengali.

• Exemplo do mundo real: Se uma criança em Daca tem febre, a ferramenta pode dizer instantaneamente: "Grave: Vá ao médico imediatamente", ajudando os médicos a decidir quem precisa de ajuda primeiro.

5. A "Bússola da Equidade" (fairhealth.equity)

O Problema: Quando desastres acontecem (como enchentes), a ajuda frequentemente vai para os lugares mais fáceis de alcançar (cidades), deixando as áreas rurais mais atingidas para trás. Modelos antigos de IA apenas copiam esse erro.
A Ferramenta: Este módulo age como uma bússola que aponta para as pessoas que mais precisam de ajuda, independentemente de onde vivem. Ele usa uma técnica especial para ignorar o "viés de localização".

• Exemplo do mundo real: Nas enchentes de Bangladesh de 2022, esta ferramenta mudou a lista de prioridades. Uma área rural chamada Sunamganj, que anteriormente estava classificada em 14º lugar para ajuda, foi corretamente movida para o 1º Lugar porque o modelo percebeu que eles estavam sofrendo mais.

6. A "Biblioteca Aberta" (fairhealth.datasets)

O Problema: A maioria das pesquisas em IA médica exige permissão especial (um "Acordo de Uso de Dados") para acessar registros de pacientes. Isso exclui pesquisadores independentes, estudantes ou pessoas em países sem grandes redes hospitalares.
A Ferramenta: O FairHealth é a primeira caixa de ferramentas que usa apenas dados que já são gratuitos e públicos. Você não precisa pedir permissão ou assinar documentos legais.

• O Benefício: Qualquer pessoa com um computador pode baixar os dados e começar a construir IA justa imediatamente.

Resumo

FairHealth é um kit de ferramentas gratuito e de código aberto que ajuda pesquisadores e médicos a construir IA que é justa (não discrimina), privada (mantém segredos seguros) e explicável (fácil de entender). É construído especificamente para os desafios de ambientes com poucos recursos, usando apenas dados que são gratuitos para todos usarem.

Você pode instalá-lo como qualquer outro aplicativo (pip install fairhealth) e começar a usar essas ferramentas para tornar a IA na saúde mais segura e confiável para todos.

Resumo técnico

Resumo Técnico: FairHealth

Declaração do Problema

A aprendizagem de máquina oferece grande promessa para a saúde, mas a sua implementação no mundo real, particularmente em contextos de países de baixa e média renda (LMIC), é impedida por três limitações estruturais:

1. Viés Demográfico: Modelos treinados com dados ao nível da população frequentemente apresentam desempenho inferior para grupos minoritários. Por exemplo, modelos de detecção de enfarte do miocárdio baseados em ECG, sem correção, exibem uma razão de impacto desproporcional de 0,23 entre grupos de sexo, muito abaixo do limiar de 0,80 para equidade.
2. Restrições de Privacidade: As proteções legais sobre registos de saúde impedem o partilha de dados entre instituições. Embora a aprendizagem federada (FL) ofereça uma solução, as bibliotecas Python existentes carecem da integração de criptografia homomórfica (HE) criptográfica acessível aos investigadores da área da saúde.
3. Lacunas de Explicabilidade: As ferramentas de apoio à decisão clínica em LMIC (por exemplo, Bangladesh) requerem explicações interpretáveis por clínicos sem experiência em aprendizagem de máquina, operação em ambientes de baixa largura de banda e suporte para línguas locais. As bibliotecas existentes (por exemplo, SHAP, LIME) carecem de integração com fluxos de trabalho clínicos.

Os conjuntos de ferramentas atuais, como o PyHealth, cobrem conjuntos de dados abrangentes de registos eletrónicos de saúde (EHR), mas omitem auditoria de equidade, aprendizagem federada e implementação específica para LMIC. Por outro lado, bibliotecas de equidade como a AIF360 carecem de conjuntos de dados específicos para saúde, e os frameworks de FL como o FATE carecem de foco na saúde e impõem uma sobrecarga de engenharia elevada.

Metodologia e Design da Biblioteca

O FairHealth é uma biblioteca Python de código aberto e modular, concebida para colmatar estas lacunas. É construída sobre cinco contribuições de investigação revisadas por pares e estruturada em seis módulos fracamente acoplados. A biblioteca adere a três princípios de design fundamentais:

• Apenas Dados Públicos: Todos os conjuntos de dados são descarregáveis a partir de fontes públicas sem acordos de utilização de dados institucionais (DUAs).
• Ancorado em Artigos Científicos: Cada módulo está ligado a uma publicação específica revisada por pares, com os resultados-chave documentados nas docstrings para rastreabilidade.
• Enquadramento Clínico: As saídas são apresentadas em linguagem clínica em vez de jargão de aprendizagem de máquina, validadas por um estudo envolvendo 14 profissionais de saúde.

Módulos Principais

1. fairhealth.fairness (Equidade em Biosinais):

   • Função: Fornece métricas de equidade agnósticas ao modelo (Paridade Demográfica, Odds Igualizadas, Impacto Desproporcional) para biosinais e dados tabulares.
   • Inovação: Inclui intersectional_fairness para avaliar múltiplos atributos sensíveis simultaneamente (por exemplo, sexo × idade).
   • Validação: Demonstrado no conjunto de dados PTB-XL, onde a desvição adversarial melhorou a razão de impacto desproporcional de 0,23 para 0,71, mantendo a AUROC em 0,8472.

2. fairhealth.explain (Explicabilidade Híbrida):

   • Função: Combina regras de lógica difusa ante-hoc com explicações SHAP post-hoc.
   • Inovação: Aborda o "défice de confiança" em contextos com recursos limitados. Um estudo de validação com clínicos mostrou uma preferência de 71,4% por esta abordagem híbrida em detrimento de explicações apenas SHAP ou apenas por pontuação.
   • Desempenho: Alcançou uma precisão de 88,67% no conjunto de dados de Risco de Saúde Materna da UCI, superando as linhas de base de Gradient Boosting em 2,46 pontos percentuais.

3. fairhealth.federated (FL com Preservação de Privacidade):

   • Função: Implementa aprendizagem federada com criptografia homomórfica (HE) e privacidade diferencial (DP).
   • Inovação: Utiliza a abordagem MedHE, co-desenhando a esparsificação adaptativa de gradientes com criptografia homomórfica CKKS.
   • Desempenho: Reduz a sobrecarga de comunicação em 97,5% (de 1.277 MB para 32 MB) enquanto mantém pontuações macro-F1 estatisticamente equivalentes ao FedAvg padrão. Melhora a resistência a ataques de inferência de associação (MIA) para níveis próximos do aleatório (taxa de sucesso de 51,1%).

4. fairhealth.lowresource (Triagem Multilíngue):

   • Função: Um classificador de Árvore de Decisão para triagem de dengue com suporte a inglês e bengali.
   • Inovação: Opera em condições de baixa largura de banda utilizando características demográficas (Idade, Género, Tipo de Área, etc.).
   • Desempenho: Alcançou uma pontuação F1 de 0,802 e uma AUC de 0,851. Um estudo piloto (n=50) reportou 75% de satisfação do utilizador com o seu mecanismo de limiar de confiança (redirecionando casos de baixa confiança para médicos).

5. fairhealth.equity (Alocação de Ajuda em Desastres):

   • Função: Uma arquitetura de desvição adversarial para distribuição equitativa de ajuda em inundações.
   • Inovação: Utiliza camadas de reversão de gradientes para aprender representações de vulnerabilidade invariantes ao distrito, corrigindo viéses urbanos em dados históricos.
   • Desempenho: Avaliado em 87 upazilas em Bangladesh, o modelo reduziu a diferença de paridade estatística em 41,6% e a lacuna de equidade regional em 43,2%, com um custo R² mínimo (2,7 pontos percentuais).

6. fairhealth.datasets (Carregadores Públicos):

   • Função: Carregadores em tempo de execução para seis conjuntos de dados específicos, incluindo dados de saúde materna, vigilância de dengue e danos por inundações (PDNA) específicos de Bangladesh, juntamente com conjuntos de dados padrão como PTB-XL e MIMIC-III Demo.
   • Dados de Saúde Materna: O módulo de saúde materna integra dados reais provenientes de registos públicos, excluindo valores sintéticos ou simulados. Especificamente, as variáveis Healthcare_Access_Score e MMR (Maternal Mortality Ratio per 100k) são indicadores publicados reais extraídos de duas fontes oficiais: (1) o DGHS Dashboard 2024 (Directorate General of Health Services, Bangladesh) e (2) o relatório UNFPA MPDSR 2023 (Maternal and Perinatal Death Surveillance and Response).

Principais Resultados e Contribuições

O artigo afirma as seguintes contribuições:

1. Framework Unificado: A primeira biblioteca instalável via pip que integra aprendizagem federada, equidade, explicabilidade e ferramentas de baixa recursos especificamente para a saúde.
2. Reprodutibilidade: A primeira ferramenta de IA para saúde construída inteiramente sobre conjuntos de dados publicamente disponíveis, removendo a barreira dos DUAs institucionais para investigadores independentes.
3. Foco em LMIC: Uma coleção curada de conjuntos de dados de saúde específicos de Bangladesh (materna, dengue, inundações) não encontrados em bibliotecas de ML existentes.
4. Implementação Aberta: Código de código aberto para cinco métodos revisados por pares, permitindo a reprodução e extensão diretas.

Destaques de Desempenho Técnico:

• Equidade: Melhorou a razão de impacto desproporcional de 0,23 para 0,71 em dados de ECG.
• Privacidade: Alcançou uma redução de 97,5% na comunicação em FL com HE, mantendo a utilidade do modelo (macro-F1 ≈ 0,95).
• Explicabilidade: 71,4% de preferência dos clínicos por explicações híbridas Fuzzy+SHAP.
• Equidade: Alterou as classificações de prioridade para 70,6% das regiões afetadas por desastres, elevando significativamente a classificação de áreas rurais vulneráveis (por exemplo, Sunamganj).

Significado e Alegações

O artigo posiciona o FairHealth como uma camada complementar às bibliotecas existentes de cobertura ampla, como o PyHealth, visando especificamente a "dimensão de fiabilidade" (equidade, privacidade, explicabilidade) que outras ferramentas deixam aberta. O seu significado principal reside na democratização da investigação de IA para a saúde no Sul Global ao:

• Eliminar a necessidade de acordos de acesso a dados institucionais.
• Fornecer ferramentas adaptadas a ambientes clínicos de baixa largura de banda e multilíngues.
• Garantir que a equidade e a privacidade não sejam reflexos tardios, mas componentes integrados e auditáveis do fluxo de trabalho de ML.

Os autores afirmam que a biblioteca permite que investigadores de todo o mundo, incluindo aqueles sem afiliações hospitalares, conduzam investigação rigorosa e reprodutível em IA para a saúde. O trabalho futuro limita-se à expansão do módulo federado com criptografia CKKS baseada em TenSEAL completa para pesos de redes neuronais e à integração de painéis de controlo em tempo real para vigilância de dengue.