Advancing Health Equity through Multi-Level Fairness in Health Informatics

No hospital moderno, uma revolução silenciosa está ocorrendo. Os computadores estão aprendendo a ler prontuários médicos, identificar padrões em sintomas e sugerir tratamentos com uma velocidade e precisão que os médicos humanos não conseguem igualar. Essas ferramentas, construídas com base no aprendizado de máquina, prometem otimizar o atendimento e salvar vidas. No entanto, como qualquer ferramenta forjada a partir da história humana, elas carregam as impressões digitais do passado. Os dados usados para ensinar esses computadores — registros de quem ficou doente, quem foi tratado e quem foi deixado para trás — frequentemente refletem desigualdades sociais profundas. Quando um computador aprende com dados tendenciosos, ele pode, inadvertidamente, aprender a tratar alguns pacientes pior do que outros, reforçando as mesmas disparidades que espera resolver. Isso não é uma falha no código, mas um reflexo do mundo que o código foi construído para compreender. O desafio central para os cientistas hoje não é apenas tornar esses sistemas precisos, mas garantir que sejam justos, para que os benefícios da tecnologia alcancem cada paciente, independentemente de sua origem ou de onde viva.

Nick Souligne e Vignesh Subbian, pesquisadores da Universidade do Arizona, voltaram sua atenção para este problema crítico. Eles se propuseram a examinar como o campo da informática em saúde está lidando atualmente com a questão da justiça. Especificamente, eles investigaram uma estratégia conhecida como justiça multinível (multi-level fairness). Em vez de tentar corrigir um modelo de computador tendencioso em apenas uma etapa — como limpar os dados antes do computador aprender, ou ajustar a resposta final depois que o computador tomou uma decisão — a justiça multinível tenta intervir em vários pontos ao longo do caminho. Os pesquisadores queriam saber se essa abordagem abrangente realmente leva a melhores resultados de saúde para grupos subatendidos e se a maneira como os cientistas relatam seu trabalho é boa o suficiente para provar isso. Após revisar uma ampla gama de estudos existentes, descobriram que, embora a ideia de enfrentar o viés em múltiplas etapas seja promissora, o campo ainda luta para conectar essas correções técnicas à equidade de saúde no mundo real, e as regras para relatar esses esforços são frequentemente muito vagas para serem verdadeiramente úteis.

Os pesquisadores começaram mapeando o cenário dos esforços atuais. Eles descobriram que muitos estudos focam em um único tipo de viés ou em um único método de correção. Alguns pesquisadores limpam os dados antes de treinar o modelo, outros ajustam o modelo enquanto ele aprende, e alguns modificam as previsões finais. No entanto, os autores observaram que muito poucos estudos combinam esses métodos em uma estratégia coesa. Em uma revisão de centenas de estudos sobre mitigação de viés, apenas uma fração minúscula realmente combinou diferentes técnicas, e ainda menos analisou como essas combinações afetavam grupos específicos de pessoas, como minorias raciais ou populações de baixa renda. Os autores sugerem que confiar em uma única correção é como tentar estancar um vazamento em um barco tapando um buraco enquanto ignora os outros; a água continuará entrando. Para avançar verdadeiramente na equidade de saúde, eles argumentam, precisamos abordar o viés em cada etapa do desenvolvimento do computador, desde o momento em que os dados são coletados até o momento em que um médico usa a ferramenta em uma clínica.

Uma parte significativa do artigo foca na lacuna entre a justiça técnica e a equidade de saúde real. Os pesquisadores apontam que um modelo de computador pode ser matematicamente "justo" em um sentido estreito — prevendo o risco de doenças de forma igual para diferentes grupos raciais — enquanto ainda falha em melhorar os resultados de saúde. Isso acontece porque o modelo pode ignorar as barreiras complexas e sobrepostas que certos grupos enfrentam, como a falta de acesso ao transporte ou o estresse de viver na pobreza. Se um modelo prevê que um paciente precisa de um tratamento específico, mas o paciente não pode pagá-lo ou não consegue chegar ao hospital, a previsão, por mais precisa que seja, nada faz para ajudá-lo. Os autores enfatizam que a verdadeira justiça exige olhar além dos números para ver como as previsões do modelo se desenrolam no mundo real, especialmente para aqueles que enfrentam múltiplas camadas de desvantagem. Eles argumentam que devemos medir o sucesso não apenas pelo desempenho do computador, mas se ele leva ao acesso equitativo ao cuidado e a uma melhor saúde para todos.

Para garantir que esses esforços sejam transparentes e responsáveis, o artigo examina os padrões que os cientistas usam para relatar seu trabalho. Atualmente, existem diretrizes como TRIPOD-AI e MINIMAR que dizem aos pesquisadores quais informações incluir quando publicam um novo modelo médico. Esses padrões pedem detalhes sobre os dados usados e como o modelo foi testado. No entanto, os autores descobriram que essas diretrizes frequentemente falham quando se trata de justiça. Elas raramente pedem aos pesquisadores que expliquem como verificaram o viés em cada estágio do desenvolvimento ou como garantiram que o modelo funcionaria bem para grupos marginalizados. Sem esses detalhes, é difícil para outros cientistas ou administradores de hospitais saberem se uma nova ferramenta é verdadeiramente segura e justa para todos os pacientes. Os pesquisadores observam que, embora o TRIPOD-AI seja um ponto de partida sólido, ele precisa ser expandido para exigir o relato explícito de como o viés foi detectado e corrigido, e como o modelo impacta a equidade de saúde após ser implantado em um hospital real.

Com base nessas descobertas, os autores oferecem duas recomendações claras para o futuro. Primeiro, eles instam os pesquisadores a incorporar a justiça em todo o ciclo de vida da construção de um modelo de computador. Isso significa verificar o viés ao coletar dados, ajustar o processo de treinamento para ser mais inclusivo e monitorar constantemente o modelo após o seu lançamento para ver se ele está tratando todos de forma justa. Segundo, eles pedem um padrão de relato novo e mais rigoroso. Eles sugerem que a comunidade científica deve concordar com um conjunto de regras único e abrangente que exija que os autores detalhem cada etapa que tomaram para garantir a justiça, incluindo como lidaram com diferentes grupos de pessoas e como mediram o impacto na equidade de saúde. Ao fazer essas mudanças, o campo pode ir além de simples correções técnicas e construir um futuro onde o aprendizado de máquina sirva verdadeiramente como uma ferramenta para fechar a lacuna nas disparidades de saúde, em vez de ampliá-la. O trabalho de Souligne e Subbian serve como um lembrete de que o caminho para uma saúde melhor para todos requer não apenas computadores mais inteligentes, mas uma abordagem mais cuidadosa e honesta sobre como os construímos e os compartilhamos.