Population representativeness cannot be assessed for most FDA-authorized AI medical devices targeting high-disparity conditions
Este estudo revela que, para 76,6% dos dispositivos médicos de IA autorizados pela FDA voltados para condições de alta disparidade, a representatividade populacional não pode ser avaliada a partir de registros públicos devido à falta de reporte de dados raciais, uma lacuna que persiste mesmo ao revisar a literatura revisada por pares subjacente e destacando a falha das atuais orientações de divulgação em garantir a avaliabilidade da equidade.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
A inteligência artificial tornou-se silenciosamente uma ferramenta padrão na medicina moderna, ajudando médicos a ler raios-X, identificar tumores e prever riscos cardíacos. Essas ferramentas não são mágicas; são programas de computador treinados em vastas quantidades de dados de pacientes para reconhecer padrões. Para que um programa funcione bem para todos, ele deve ser treinado em uma mistura de pessoas que se pareçam com os pacientes que ele eventualmente tratará. Se uma ferramenta aprende apenas com um tipo de pessoa, ela pode falhar ao ser usada em alguém diferente, levando potencialmente a diagnósticos perdidos ou tratamentos incorretos. Esta é uma questão de justiça e segurança. Quando um dispositivo médico é aprovado para uso, a agência governamental que o regula, a Food and Drug Administration, publica um resumo das evidências. Esses documentos destinam-se a ser o registro público, mostrando quem foi testado e como o dispositivo desempenhou. A questão crítica é se esses resumos contam a história completa sobre em quem o dispositivo foi testado, especialmente para doenças que afetam alguns grupos raciais e étnicos de forma mais severa.
Uma equipe de pesquisadores partiu para responder a essa pergunta examinando quase todos os dispositivos médicos de inteligência artificial aprovados nos Estados Unidos até o final de 2025. Eles examinaram 1.428 dispositivos, variando de ferramentas que escaneiam imagens cerebrais a aquelas que analisam ritmos cardíacos. O objetivo deles era ver se os documentos públicos permitiam que qualquer pessoa julgasse se as pessoas testadas nos dispositivos correspondiam às pessoas que realmente sofrem das doenças que os dispositivos pretendem tratar. Os pesquisadores encontraram uma lacuna significativa de informação. Para cerca de três em cada quatro dispositivos projetados para tratar condições onde existem disparidades raciais conhecidas, os documentos públicos não relatavam a raça ou etnia das pessoas nos dados de teste. Sem essa informação básica, é imposs vezes dizer se o dispositivo foi testado em uma mistura justa de pacientes ou se foi testado apenas em um grupo que não representa a população mais ampla.
Os pesquisadores desenvolveram um checklist específico para avaliar esses documentos, procurando por detalhes como a raça, idade e localização dos pacientes envolvidos nos testes. Eles descobriram que, embora alguma informação estivesse presente, os dados mais cruciais relativos à raça e etnia estavam ausentes na grande maioria dos casos. Essa informação ausente não era apenas uma questão de os resumos serem muito curtos; os pesquisadores investigaram mais profundamente e examinaram os estudos científicos originais por trás dos dispositivos. Mesmo quando encontraram os artigos de pesquisa completos, os dados ainda estavam ausentes na maioria dos casos. Isso sugere que o problema não reside apenas em como o governo resume a informação, mas na própria pesquisa. Os estudos usados para provar que esses dispositivos funcionam frequentemente não incluem detalhes suficientes sobre a demografia dos pacientes envolvidos.
O estudo também revelou que, quando os dados estavam presentes, eles frequentemente mostravam que os grupos de teste não correspondiam aos grupos mais afetados pela doença. Por exemplo, alguns dispositivos projetados para detectar câncer de pele, uma condição que pode ser mais difícil de diagnosticar em pessoas com pele escura, foram testados quase inteiramente em pessoas com pele clara. Em outros casos, dispositivos para condições cardíacas foram testados em populações que não refletiam as taxas mais altas de doenças cardíacas encontradas em certas comunidades minoritárias. Os pesquisadores observaram que, embora alguns dispositivos fornecessem informações excelentes e detalhadas sobre seus grupos de teste, estes eram a exceção e não a regra. Na maioria das vezes, o registro público simplesmente não continha os números necessários para fazer um julgamento justo.
Uma das descobertas mais impressionantes foi que os pesquisadores não puderam classificar de forma confiável a justiça dos dispositivos baseando-se apenas no texto. Eles descobriram que, ao serem solicitados a interpretar descrições vagas ou julgar quão bem um grupo de pacientes correspondia a uma doença, diferentes especialistas frequentemente discordavam. No entanto, eles podiam concordar de forma confiável em fatos simples e binários: se um número era relatado ou não. Isso levou a equipe a concluir que o sistema atual de relatórios é insuficiente para garantir a equidade. Os documentos são, com frequência, silenciosos sobre os próprios detalhes que mais importam para a justiça. Os pesquisadores propõem um novo e simples padrão para esses relatórios, exigindo que os fabricantes listem números específicos sobre a raça, idade e histórico das pessoas testadas, em vez de apenas escrever declarações genéricas.
As implicações deste trabalho são claras para pacientes, médicos e hospitais. Se um hospital deseja comprar uma nova ferramenta de inteligência artificial para ajudar a diagnosticar uma doença, atualmente ele não pode consultar os documentos de aprovação pública para ver se essa ferramenta foi testada em pessoas como seus próprios pacientes. Eles ficam adivinhando. O estudo mostra que, para as doenças mais comuns e mortais, as ferramentas que estão sendo implementadas são frequentemente construídas sobre dados que não refletem a realidade das pessoas que mais precisam delas. Os pesquisadores enfatizam que este não é um problema que possa ser resolvido simplesmente pedindo mais texto; a indústria deve começar a relatar dados específicos e estruturados. Até lá, o registro público permanece incompleto, deixando um ponto cego crítico na segurança e na justiça da tecnologia médica que está moldando cada vez mais a saúde americana.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.