Governance, Accountability and Post-Deployment Monitoring Preferences for AI Integration in West African Clinical Practice: A Mixed-Methods Study

Este estudo de métodos mistos realizado na África Ocidental revela que os clínicos preferem fortemente órgãos reguladores independentes e mecanismos de monitoramento em tempo real para governança e responsabilidade da IA, destacando a necessidade de estruturas que garantam transparência, equidade e proteção aos profissionais de saúde contra erros algorítmicos.

O essencial

Imagine que a Inteligência Artificial (IA) na medicina é como um novo copiloto extremamente inteligente que acabou de entrar na cabine de um avião em voo sobre a África Ocidental. Esse copiloto pode ajudar o piloto (o médico) a ver tempestades antes de acontecerem, a escolher a melhor rota e a economizar combustível. Mas, e se esse copiloto começar a ter alucinações? E se ele for treinado apenas em dados de outro continente e não entender o terreno local? E se ele cometer um erro e o piloto for o único a ser preso?

Este estudo é como uma grande reunião de emergência onde os pilotos (médicos) e os engenheiros que construíram o avião (especialistas em tecnologia) se sentaram para conversar: "Como podemos garantir que esse copiloto seja seguro, justo e que ninguém seja injustamente culpado se algo der errado?"

Aqui está o resumo dessa conversa, traduzido para uma linguagem simples:

1. O Grande Medo: "Quem é o Chefe?"

Os médicos da África Ocidental estão entusiasmados com a IA, mas têm um grande medo: não querem que a empresa que vendeu o software (o "fabricante do copiloto") seja quem decide se o sistema está funcionando bem.

• A Analogia: É como se o fabricante do carro fosse o único responsável por dizer se o freio do seu carro está funcionando. Você não confiaria nisso, certo?
• O que eles querem: Os médicos disseram, em uníssono: "Precisamos de um inspetor independente". Alguém que não ganhe dinheiro vendendo o software e que não seja o chefe do hospital. Eles querem um "juiz" neutro que vigie a IA o tempo todo.
• O resultado: Pouquíssimos confiam nos fabricantes (apenas 3,7%), mas a maioria confia em um órgão regulador independente (40,4%).

2. O Painel de Controle: "Não queremos esperar pelo relatório anual"

Antigamente, os médicos recebiam relatórios de segurança uma vez por ano. Com a IA, isso não funciona. A IA muda rápido, como um carro que muda de cor e comportamento a cada semana.

• A Analogia: Imagine que você dirige um carro e só recebe um relatório de manutenção uma vez por ano. Se o pneu furar hoje, você só saberá daqui a 365 dias. Isso é perigoso!
• O que eles querem: Os médicos querem um painel de controle em tempo real (como o painel de um avião ou um aplicativo de trânsito ao vivo). Eles querem ver, agora, se a IA está acertando as diagnósticos, se está sendo justa com todos os pacientes e se não está "alucinando".
• O resultado: Quase 42% dos médicos escolheram o "painel em tempo real" como a melhor forma de monitorar.

3. A Culpabilidade: "Não me deixe levar a culpa pelo erro do robô"

Este foi o ponto mais sensível. Os médicos têm pavor de que, se a IA errar um diagnóstico e o paciente se machucar, o médico seja o único a ser processado ou demitido.

• A Analogia: É como se você estivesse dirigindo um carro autônomo e ele bateu porque o software falhou. Se a polícia prender apenas você, o motorista, e ignorar quem programou o carro, ninguém vai querer usar carros autônomos.
• O que eles querem: Eles exigem regras claras de quem é o culpado. Se o algoritmo falhar, a responsabilidade deve ser do desenvolvedor ou do sistema, não do médico que apenas confiou na ferramenta.
• O resultado: 76,5% dos médicos têm medo de serem injustamente culpados. 94% dizem que é essencial ter um caminho claro para saber quem responde pelo erro.

4. O Que os Especialistas Disseram: "O trabalho não acaba na entrega"

Os engenheiros e cientistas de dados entrevistados concordaram com os médicos. Eles disseram que "entregar o software" não é o fim; é apenas o começo.

• A Analogia: Entregar um software de IA é como plantar uma árvore. Você não pode apenas plantar e ir embora. Você precisa regar, podar e verificar se ela está crescendo saudável. Se o clima mudar (novas doenças, novos dados), a árvore precisa ser ajustada, senão ela morre ou dá frutos ruins.
• O Plano: Eles sugeriram criar comitês dentro dos hospitais, ter regras para quando a IA falha (desligá-la imediatamente, investigar o porquê e consertar) e garantir que a IA funcione bem para todos, não apenas para pessoas de grandes cidades (evitando que a IA seja preconceituosa).

Conclusão: O Caminho a Seguir

Este estudo é um mapa para a África Ocidental. Ele diz: "Podemos usar essa tecnologia incrível, mas só se tivermos regras justas."

Para que a IA seja uma aliada e não uma vilã, os líderes precisam:

1. Criar um vigia independente (não o vendedor).
2. Exigir painéis ao vivo para ver o que a IA está fazendo.
3. Escrever leis que protejam os médicos de erros do software.
4. Ter um plano de emergência claro quando a IA falhar.

Sem essas regras, os médicos não vão confiar na IA, e a promessa de salvar vidas com tecnologia pode se transformar em um pesadelo de desconfiança e erros. A tecnologia está pronta, mas a "caixa de ferramentas" de segurança precisa ser construída primeiro.

Resumo técnico

Título do Estudo

Governança, Responsabilidade e Preferências de Monitoramento Pós-Implantação para a Integração de IA na Prática Clínica na África Ocidental: Um Estudo de Métodos Mistos

---

1. Problema e Contexto

A integração da Inteligência Artificial (IA) na saúde na África Ocidental está a transitar de projetos-piloto para implementação no mundo real (ex: rastreio de cancro do colo do útero, previsão de risco de cancro, interpretação de radiografias de tuberculose). No entanto, a ausência de estruturas de governança estabelecidas levanta preocupações críticas sobre segurança, equidade e eficácia a longo prazo.

Os principais desafios identificados incluem:

• Risco de "Divisão Digital 2.0": Ferramentas desenvolvidas em contextos de alta renda podem falhar devido a diferenças linguísticas, culturais e de dados na região.
• Degradação de Modelos: Ao contrário de dispositivos médicos tradicionais, os modelos de IA sofrem de "desvio de dados" (data drift) e "desvio de conceito" (concept drift), exigindo monitoramento contínuo.
• Falta de Confiança: Os clínicos temem serem injustamente responsabilizados por erros da IA, a falta de transparência dos algoritmos e o controle excessivo por parte dos fornecedores comerciais.
• Vazio de Evidência: Não existiam dados empíricos sobre as preferências dos profissionais de saúde da África Ocidental quanto à governança e mecanismos de responsabilidade para IA.

2. Metodologia

O estudo utilizou uma abordagem transversal de métodos mistos, conduzida entre 22 e 28 de fevereiro de 2026.

• Fase Quantitativa:
  • Amostra: 136 médicos afiliados à Colégio de Médicos da África Ocidental (WACP), com predominância de participantes da Nigéria (84,6%).
  • Instrumento: Questionário estruturado autoadministrado (via Open Data Kit - ODK) utilizando escalas Likert de 5 pontos.
  • Análise: Estatística descritiva, testes inferenciais (t-test, ANOVA) e regressão linear multivariada no SPSS.
• Fase Qualitativa:
  • Amostra: 72 Entrevistas com Informantes Chave (KIIs).
  • Participantes: Líderes técnicos, desenvolvedores de IA, cientistas de dados, formuladores de políticas, líderes hospitalares e educadores médicos.
  • Análise: Análise temática seguindo a abordagem de Braun & Clarke, utilizando o software NVivo.

3. Principais Contribuições

• Primeira Evidência Empírica Regional: Este é o primeiro estudo a fornecer dados concretos sobre as preferências de governança de IA por parte de clínicos e especialistas técnicos na África Ocidental.
• Definição de Requisitos de Monitoramento: Identifica especificamente que os clínicos rejeitam relatórios anuais ou trimestrais, preferindo monitoramento em tempo real.
• Mapeamento de Lacunas de Responsabilidade: Revela o "vazio de responsabilidade" onde os clínicos temem assumir a culpa por falhas algorítmicas, destacando a necessidade urgente de enquadramentos legais claros.
• Proposta de Estrutura Híbrida: Sugere um modelo de governança que combina órgãos reguladores independentes, comitês institucionais e protocolos de falha estruturados.

4. Resultados Chave

A. Preferências de Governança e Monitoramento (Quantitativo)

• Órgão de Supervisão: A maioria absoluta (40,4%) prefere um órgão regulador independente para supervisionar o desempenho da IA, rejeitando fortemente a autorregulação por fornecedores (apenas 3,7% de apoio).
• Nível de Confiança:
  • Órgão Regulador Independente: Média de 4,3/5 (Alta confiança).
  • Ministério da Saúde: 3,8/5.
  • Administração Hospitalar: 3,6/5.
  • Vendedor/Fabricante: 2,4/5 (Baixa confiança).
• Método de Monitoramento: O "Painel em Tempo Real" (Real-time dashboard) foi a abordagem mais preferida (41,9%), seguida por relatórios mensais (19,9%). Relatórios anuais foram rejeitados (1,5%).
• Componentes Essenciais:
  • Caminhos claros de responsabilidade: 94,1% consideraram essencial.
  • Transparência do algoritmo: 91,9%.
  • Dados de desempenho em tempo real: 89,7%.

B. Preocupações e Medos

• Responsabilidade Injusta: 76,5% dos clínicos temem ser injustamente culpados por erros da IA.
• Controle Excessivo do Fornecedor: 72,8% preocupam-se com o domínio dos fornecedores sobre o monitoramento.
• Falta de Vias de Denúncia: 69,9% indicam que não há caminhos claros para relatar danos relacionados à IA.

C. Insights Qualitativos (Entrevistas)

• Monitoramento Contínuo: A implantação não é o fim; é o início. É necessário rastrear continuamente precisão, sensibilidade, especificidade e viés.
• Detecção de Desvios: Sistemas devem detectar automaticamente data drift (mudanças nos dados de entrada) e concept drift (mudanças na relação dados-resultado), acionando alertas.
• Protocolos de Falha: Quando a IA falha, o protocolo deve incluir: 1) Suspensão imediata da ferramenta; 2) Análise de causa raiz; 3) Retreinamento ou aposentadoria do modelo; 4) Comunicação transparente.
• Governança Multinível: Recomenda-se a criação de comitês de governança de IA dentro dos hospitais (incluindo líderes, TI, clínicos e jurídicos) e órgãos reguladores independentes multissetoriais.

5. Significado e Implicações

O estudo oferece um roteiro prático para formuladores de políticas na África Ocidental e globalmente:

1. Estabelecimento de Órgãos Independentes: A confiança na IA depende da percepção de objetividade. Órgãos reguladores devem ser independentes de interesses comerciais e políticos.
2. Mandato de Transparência em Tempo Real: As políticas devem exigir que sistemas de IA implantados forneçam painéis de controle acessíveis para monitoramento contínuo de segurança e equidade.
3. Proteção Legal dos Clínicos: É urgente criar quadros de responsabilidade legal que protejam os clínicos de penalidades por falhas algorítmicas, desde que sigam protocolos estabelecidos.
4. Padronização de Relatórios de Incidentes: A criação de protocolos padronizados para relatar "quase-erros" e eventos adversos é crucial para o aprendizado e melhoria do sistema.

Conclusão: A integração segura e equitativa da IA na saúde da África Ocidental não depende apenas da tecnologia, mas da construção de estruturas de governança que priorizem a transparência, a supervisão independente e a proteção dos profissionais de saúde. Sem esses pilares, o potencial transformador da IA corre o risco de ser minado pelo ceticismo e por danos evitáveis aos pacientes.