Can it be checked? A cross-sectional meta-research audit of access to, and reporting in, machine learning studies of pharmaceutical manufacturing and quality control
Esta auditoria de meta-pesquisa transversal revela que, embora apenas cerca de um terço dos estudos de aprendizado de máquina sobre fabricação farmacêutica sejam acessíveis sem assinatura, meros 1,1% dos artigos acessíveis fornecem a combinação necessária de dados públicos, código e avaliação de teste para permitir a verificação independente de seus resultados.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA de um preprint que não foi revisado por pares. Não é aconselhamento médico. Não tome decisões de saúde com base neste conteúdo. Ler aviso legal completo
Nas fábricas que produzem medicamentos modernos, as máquinas agora fazem mais do que apenas misturar e engarrafar. Elas observam, medem e predizem. Usando um tipo de inteligência computacional chamada aprendizado de máquina, esses sistemas podem identificar um comprimido defeituoso a partir de uma fotografia, prever como um fármaco irá se dissolver ou monitorar as condições delicadas dentro de um enorme tanque onde células vivas crescem. Essa tecnologia tornou-se uma ferramenta padrão para garantir que cada pílula e injeção seja segura e eficaz. Mas para que esses sistemas inteligentes sejam confiáveis pelas pessoas que os regulamentam e pelos médicos que os prescrevem, os cientistas que os constroem devem ser capazes de provar seu trabalho. Assim como um chef não pode afirmar que um prato é delicioso sem mostrar a receita e os ingredientes, um cientista não pode afirmar que um modelo computacional funciona a menos que mostre os dados dos quais ele aprendeu, o código que o executa e a prova de que ele funciona em novos exemplos não vistos.
Um novo estudo faz uma pergunta simples, mas crítica: quando os cientistas publicam esses estudos de aprendizado de máquina sobre a fabricação de medicamentos, qualquer pessoa fora do laboratório consegue realmente verificar o trabalho deles? O pesquisador, um estudioso independente chamado Phani Kumar Balagam, propôs-se a auditar o registro publicado deste campo de 2019 a 2025. Ele queria saber duas coisas. Primeiro, uma pessoa comum, sem uma assinatura especial em bibliotecas, conseguiria realmente ler o artigo completo? Segundo, se ela conseguisse ler, o artigo continha os detalhes específicos necessários para repetir o experimento e verificar os resultados? A resposta, descobriu o estudo, é que para a maioria desses artigos, a resposta para ambas as perguntas é não.
Para descobrir, o pesquisador pesquisou cinco grandes bases de dados científicas em busca de milhares de artigos que descreviam o uso de aprendizado de máquina para fabricar ou testar medicamentos humanos. Após filtrar revisões, pré-publicações (preprints) e estudos que não se encaixavam nos critérios, restaram 553 artigos elegíveis para o estudo. O primeiro obstáculo foi o acesso. O estudo verificou se cada artigo estava disponível gratuitamente para o público. Apenas 186 dos 553 artigos, ou cerca de um terço, podiam ser lidos sem uma assinatura. O restante estava trancado atrás de paywalls ou não pôde ser recuperado, embora alguns estivessem marcados como acesso aberto, frequentemente devido a barreiras técnicas, como verificações de segurança automatizadas que bloqueavam o download. Isso significa que, para dois de cada três estudos neste campo, um leitor curioso não consegue sequer ver o texto completo.
O pesquisador concentrou-se então nos 186 artigos que eram legíveis. Ele analisou de perto se esses artigos relatavam os quatro ingredientes essenciais necessários para verificar um resultado: os dados brutos, o código de computador, uma descrição clara de como os dados foram divididos em grupos de treinamento e teste, e uma pontuação de desempenho final baseada em dados que o modelo nunca tinha visto antes. Esta última parte é crucial; sem ela, um modelo pode estar apenas memorizando as respostas em vez de aprender as regras. O estudo descobriu que, embora quase todos os artigos mencionassem como dividiam seus dados, muito poucos compartilhavam os dados reais ou o código. Apenas cerca de um em cada quatro artigos tornava os dados públicos, e apenas cerca de um em cada dez tornava o código público.
A situação era ainda pior ao procurar pelo pacote completo. O estudo definiu um artigo "verificável" como aquele que compartilhava os dados, o código, a divisão e o resultado do teste final, tudo de uma só vez. Dos 186 artigos legíveis, apenas dois atendiam a esse padrão. Isso representa pouco mais de um por cento. Em outras palavras, quase nenhum dos estudos publicados neste campo fornece informações suficientes para que uma pessoa independente refaça a análise e confirme o número principal. O pesquisador observou que essa falta de transparência não se devia à natureza dos dados em si. Mesmo quando os dados vinham de pequenos experimentos laboratoriais em vez de enormes fábricas industriais, eles raramente eram compartilhados. Da mesma forma, a falta de compartilhamento de código não era porque o código era secreto; era simplesmente não fornecido.
O estudo também examinou se esses problemas estavam melhorando ao longo do tempo ou se variavam dependendo do tipo de periódico onde o artigo era publicado. Os resultados mostraram que não houve melhora significativa na taxa de compartilhamento de dados ou código ao longo dos anos, e a qualidade do relato era a mesma em diferentes tipos de periódicos científicos. O pesquisador utilizou um modelo de linguagem de grande escala, um tipo de inteligência artificial, para ler e pontuar os artigos, um método que ele verificou ao fazer o modelo checar os mesmos artigos duas vezes. O modelo foi capaz de encontrar as frases específicas nos artigos que sustentavam seus julgamentos, provando que a falta de informação era uma lacuna real no relato, e não um mal-entendido do leitor.
A conclusão é contundente. Embora o aprendizado de máquina esteja se tornando rotineiro na fabricação farmacêutica, o registro publicado deste trabalho é amplamente opaco. Um terço dos artigos não pode ser lido pelo público e, dos que podem ser lidos, quase nenhum contém o conjunto completo de detalhes necessários para verificar os resultados. O pesquisador sugere que a solução não exige que os autores façam algo novo ou difícil. Eles precisam simplesmente compartilhar os dados e o código que já possuem e declarar claramente quais dados produziram seu resultado principal. Ao pedir o que os autores já possuem, a comunidade científica poderia fechar a lacuna entre o que é publicado e o que pode ser verificado, garantindo que as máquinas inteligentes que fabricam nossos medicamentos sejam tão confiáveis quanto afirmam ser.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.