Generative AI systems conflate two distinct pregnancy-dating algorithms

Resumo Técnico: Sistemas de IA Generativa Conflacionam Dois Algoritmos Distintos de Datação de Gravidez

Definição do Problema
O artigo identifica uma discrepância crítica na forma como os sistemas de IA generativa lidam com cálculos clínicos, especificamente no que diz respeito à estimativa da data provável do parto (DPP) e da idade gestacional. Embora a comunidade médica frequentemente trate a "regra de Naegele" (uma heurística baseada no calendário) e uma "contagem fixa de 280 dias" como idênticas, elas são algoritmos matematicamente distintos. A regra de Naegele, formulada em 1812, instrui os clínicos a subtrair três meses do calendário da primeira data da última menstruação (DUM) e adicionar sete dias. Em contraste, a contagem fixa de 280 dias simplesmente adiciona 280 dias à DUM. Como o calendário gregoriano contém meses de durações variáveis (28–31 dias), esses dois métodos frequentemente produzem resultados diferentes. Os autores argumentam que os modelos de IA generativa, treinados em livros didáticos que historicamente conflacionaram esses métodos, podem reproduzir essa confusão ao recitar os passos de um algoritmo enquanto computam o resultado do outro, ocultando assim o caminho de cálculo.

Metodologia
Os autores empregaram uma abordagem de auditoria determinística para avaliar esta hipótese:

1. Geração da Verdade Fundamental (Ground Truth): Um script enumerou todas as possíveis datas de DUM de 1 de janeiro de 1812 até 31 de dezembro de 2025 (N = 78.163 datas). Para cada data, duas DPPs foram computadas: uma usando a regra de calendário de Naegele ($DPP = \text{Data}(ano+1, mês-3, dia+7)$) e outra usando a contagem fixa de 280 dias ($DPP = DUM + 280 \text{ dias}$). A diferença ($\Delta$) entre os dois foi calculada.
2. Auditoria de IA: Em 17 de junho de 2026, cinco sistemas de IA generativa amplamente utilizados (ChatGPT 5.5, Claude Opus 4.8, Gemini 3.5 Flash, Perplexity Sonar 2 e Open Evidence) foram consultados com dois prompts padronizados:
   • Prompt 1 (Convergente): DUM de 21 de janeiro de 2026 (uma data onde ambos os métodos produzem o mesmo resultado).
   • ** Prompt 2 (Divergente/Travessia de Ano Bissexto):** DUM de 21 de janeiro de 2024 (uma data onde os métodos divergem devido à inclusão de 29 de fevereiro no intervalo gestacional).
3. Avaliação: As respostas foram analisadas quanto à DPP retornada, ao método de cálculo declarado e se o sistema distinguiu entre a regra do calendário e a contagem de 280 dias.

Principais Resultados

• Divergência Algorítmica: Ao longo das 78.163 datas, os dois métodos produziram resultados idênticos em apenas 44,3% dos casos. Em 55,7% dos casos, a regra de Naegele resultou em uma data 1–3 dias posterior à contagem fixa de 280 dias. A discrepância foi unidirecional; a regra de Naegele nunca produziu uma data anterior.
• Impacto do Ano Bissexto: Em intervalos que atravessam 29 de fevereiro (n = 14.828), os métodos nunca concordaram (0,0% de concordância). A contagem de 280 dias absorve o dia intercalar, enquanto a subtração do calendário não o faz.
• Desempenho da IA:
  • O ChatGPT 5.5 e o Claude Opus 4.8 distinguiram corretamente os métodos para a data divergente, fornecendo o resultado de 280 dias (27 de outubro) enquanto reconheciam que a regra do calendário resultaria em 28 de outubro.
  • O Gemini 3.5 Flash, Perplexity Sonar 2 e Open Evidence não conseguiram distinguir os métodos. Eles ou rotularam o resultado de 280 dias como "regra de Naegele" (apesar de mostrarem passos de calendário que levavam a uma data diferente) ou afirmaram que a data do calendário era igual à contagem de 280 dias.
• Natureza do Erro: A falha foi conceitual, e não aritmética. Três sistemas apresentaram a regra do calendário e a contagem de 280 dias como o mesmo procedimento, reproduzindo efetivamente a conflação histórica encontrada em livros didáticos médicos.

Significância e Alegações
Os autores afirmam que, embora uma diferença de 1–3 dias seja clinicamente trivial dada a variabilidade biológica da gestação humana (desvio padrão ~13 dias), a auditoria revela uma falha fundamental no comportamento da IA generativa: o sistema pode retornar um valor clínico plausível enquanto oculta ou rotula incorretamente o método utilizado para produzi-lo.

O artigo alega que este é um "erro de rótulo de método" onde os modelos dependem de correspondência de padrões (pattern-matching) em vez de consistência lógica. Os autores enfatizam que casos semelhantes de incompatibilidade entre método e rótulo em cenários clínicos de maior risco, como dosagem de medicamentos ou pontuação de risco, poderiam ser muito menos benignos, embora este trabalho não demonstre tal dano diretamente.

A principal contribuição é um apelo pela transparência de método. Os autores argumentam que as ferramentas de IA médica devem divulgar seus caminhos de cálculo (por exemplo, declarando explicitamente se estão adicionando 280 dias ou usando aritmética de calendário) juntamente com suas suposições e incertezas, em vez de apresentar uma única data, excessivamente precisa, que mascara a escolha algorítmica subjacente.