From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

No mundo moderno da pesquisa em saúde, os cientistas frequentemente dependem de programas de computador que aprendem com vastas quantidades de informações para encontrar padrões, prever doenças ou sugerir tratamentos. Esses programas, conhecidos como inteligência artificial, são ferramentas poderosas, mas operam de forma diferente dos experimentos tradicionais que os pesquisadores usaram por décadas. Em um estudo padrão, um cientista pode pedir permissão a um grupo de pessoas para usar seus registros médicos para uma questão específica, realizar a análise e publicar os resultados. Uma vez concluído o estudo, o trabalho é geralmente considerado terminado. No entanto, a inteligência artificial altera esse cronograma. Esses sistemas podem ser treinados com dados, depois atualizados, aprimorados e implantados para tarefas inteiramente novas muito tempo depois da aprovação inicial da pesquisa. Eles também podem criar novas informações a partir de registros antigos, ou ser usados por empresas fora da equipe de pesquisa, levantando questões sobre quem é responsável se algo der errado. O Canadá possui um conjunto de regras respeitadas, chamado Declaração de Política do Tri-Council, que orienta como os pesquisadores tratam os participantes humanos. Essas regras são construídas sobre três ideias sólidas: respeitar as pessoas, cuidar do seu bem-estar e garantir a justiça. Embora esses princípios sejam fortes, eles foram escritos antes que a inteligência artificial se tornasse uma parte comum da pesquisa em saúde. A grande questão que a comunidade de pesquisa do Canadá enfrenta é se essas regras antigas são suficientes para lidar com a natureza mutável e nova desses sistemas de computador inteligentes.

Um pesquisador chamado Abdolreza Babamahmoodi propôs-se a responder a essa questão examinando de perto como as regras atuais do Canadá se aplicam à inteligência artificial na saúde. Este não foi um estudo que testou novos medicamentos ou entrevistou pacientes; em vez disso, foi um exame cuidadoso das políticas, leis e diretrizes existentes no Canadá e ao redor do mundo. O pesquisador reuniu vinte e oito documentos diferentes, incluindo a principal política de ética de pesquisa do Canadá, orientações internacionais da Organização Mundial da Saúde e regras da Austrália e da União Europeia. O objetivo era ver se as regras atuais do Canadá fornecem instruções claras para pesquisadores e comitês de ética sobre o que fazer quando a inteligência artificial está envolvida. A análise concentrou-se em seis áreas principais: decidir o que conta como pesquisa, de onde vêm os dados, se o modelo de computador funciona de forma justa, como os humanos mantêm o controle, como lidar com mudanças no sistema posteriormente e como respeitar os direitos das comunidades Indígenas.

O estudo descobriu que, embora as regras existentes do Canadá sejam boas para estabelecer o tom moral, elas não são detalhadas o suficiente para guiar as decisões diárias que pesquisadores e conselhos de ética devem tomar. A política atual diz que os pesquisadores devem respeitar as pessoas e garantir a justiça, mas não especifica quais evidências um pesquisador precisa apresentar para provar que um modelo de computador é justo. Não diz o que acontece quando um modelo é atualizado seis meses após a aprovação, ou quem é responsável se uma empresa terceira usar os dados de uma forma que o pesquisador não esperava. O pesquisador observou que, sem essas instruções específicas, os comitês de ética ficam adivinhando. Alguns podem pedir informações demais, atrasando trabalhos importantes, enquanto outros podem perder riscos críticos porque não sabem o que procurar. O artigo argumenta que os princípios são suficientes para julgar o certo do errado, mas não são operacionalmente adequados para dizer às pessoas exatamente o que fazer.

Para resolver isso, o pesquisador propôs uma nova maneira de olhar para o processo, chamada de "revisão de ciclo de vida". Em vez de tratar a pesquisa como um evento único que termina quando o estudo é publicado, esta abordagem vê a pesquisa como uma jornada contínua com seis pontos de verificação distintos. O primeiro ponto de verificação é o propósito: definir exatamente o que a inteligência artificial fará e quem ela ajudará. O segundo são os dados: mapear de onde a informação veio e quem tem o direito de usá-la. O terceiro é o desenvolvimento: verificar como o modelo de computador foi construído e testado. O quarto é a validação: garantir que o modelo funcione bem para diferentes grupos de pessoas e não apenas para a média. O quinto é a implantação: garantir que um humano possa entender as sugestões do computador e pará-lo se ele cometer um erro. O ponto de verificação final é mudança e aposentadoria: planejar o que acontece quando o modelo é atualizado, movido para um novo lugar ou desligado.

Este novo framework sugere que os pesquisadores devem enviar um conjunto específico de informações em cada uma dessas seis etapas. Por exemplo, quando um modelo é proposto pela primeira vez, o pesquisador deve explicar seu uso pretendido. Mais tarde, se o modelo for atualizado ou se as fontes de dados mudarem, o pesquisador deve relatar isso ao comitê de ética para ver se a mudança é significativa o suficiente para exigir uma nova revisão. O artigo enfatiza que não se trata de criar uma montanha de papelada, mas de garantir que as pessoas certas estejam tomando as decisões certas no momento certo. Sugere que um estudo de baixo risco pode precisar de apenas alguns detalhes, enquanto um estudo de alto risco que afeta o cuidado ao paciente precisaria de um plano muito mais minucioso.

Uma parte crucial do artigo aborda os direitos dos povos Indígenas no Canadá. As regras atuais já reconhecem que as comunidades Indígenas têm direitos coletivos sobre seus dados, não apenas direitos individuais. O pesquisador descobriu que, embora a política existente reconheça isso, ela não explica como esses direitos se aplicam à inteligência artificial. Por exemplo, se um modelo de computador for treinado com dados de uma comunidade Indígena, a comunidade tem voz se esse modelo for posteriormente vendido para uma empresa ou usado para um propósito diferente? O artigo argumenta que essas questões não podem ser respondidas por uma política geral escrita por pessoas de fora. Em vez disso, o pesquisador afirma explicitamente que essas questões específicas de governança devem ser lideradas pelas próprias comunidades Indígenas. O framework proposto deixa um espaço para que essas comunidades definam suas próprias regras sobre como seus dados e os modelos de computador resultantes são tratados, garantindo que sua autoridade seja respeitada sem ser sobreposta por uma solução de tamanho único.

O pesquisador também observou como outros países lidam com essas questões. A Organização Mundial da Saúde e a Austrália começaram a criar guias específicos para a inteligência artificial, e a União Europeia possui leis que exigem monitoramento rigoroso de sistemas de alto risco. O artigo sugere que o Canadá não precisa copiar essas leis exatamente, mas pode aprender com sua estrutura. Ao adotar um guia "vivo" semelhante, que pode ser atualizado conforme a tecnologia muda, o Canadá pode manter seus princípios éticos fundamentais estáveis, enquanto adiciona os detalhes necessários para lidar com novos desafios. O estudo conclui que o sistema atual não está quebrado, mas está incompleto. Ele precisa de uma ponte entre seus fortes princípios morais e as realidades práticas de como a inteligência artificial funciona.

A solução proposta é um modelo de trabalho que pode ser testado e melhorado. O pesquisador não está alegando que este framework é perfeito ou que resolve todos os problemas imediatamente. Em vez disso, ele é apresentado como uma ferramenta para discussão e validação futura. O artigo sugere que, antes que este modelo se torne uma regra padrão, ele deve ser testado com pesquisadores reais e comitês de ética para ver se realmente os ajuda a tomar melhores decisões sem criar atrasos desnecessários. O objetivo final é criar um sistema onde a inteligência artificial possa ser usada para melhorar a saúde, mas onde as pessoas envolvidas sejam protegidas, os dados sejam usados de forma responsável e as comunidades afetadas tenham uma voz real na governança da tecnologia. Ao decompor o processo em etapas claras e gerenciáveis, o framework visa tornar o complexo mundo da pesquisa em inteligência artificial mais transparente e responsável para todos os envolvidos.