💬 NLP

Forensic Reproducibility Audit of a Radiology Vision-Language Model Benchmark: From Intended Protocol to Released Artifact

Este artigo apresenta uma auditoria de reprodutibilidade forense de um benchmark de modelo de visão-linguagem para radiografias de tórax que revelou discrepâncias críticas na renderização de dados, no rastreamento do caminho de importação e chamada preservado para fundamentar uma inferência sobre o vínculo do prompt e na análise estatística, levando à retirada das reivindicações originais de desempenho e de detecção de discordância entre relatório e rótulo automatizada e à proposta de controles verificáveis por máquina para garantir a integridade futura dos artefatos. A auditoria esclarece que, embora a análise de coorte fixa tenha produzido 27/45 comparações não ajustadas e 20/45 comparações com ajuste de Holm, o resultado de 28/45 foi de fato reproduzido em uma análise separada de casos disponíveis por par, na qual cada comparação utilizou seu próprio denominador.

Autores originais: Mateusz Kozłowski

Publicado 2026-07-29✓ Author reviewed ⓘ

📖 9 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Mateusz Kozłowski

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um mundo onde cientistas constroem detetives digitais para ler Raios-X e dizer aos médicos o que há de errado. Esses detetives são um tipo especial de programa de computador chamado "Modelo de Visão-Linguagem". Pense neles como robôs superinteligentes que podem olhar para uma imagem de um tórax e depois escrever um relatório, exatamente como um médico humano faria. Para ver se esses robôs são bons, os pesquisadores criam "benchmarks" (referenciais). Um benchmark é como um teste padronizado: você mostra os Raios-X ao robô, faz perguntas específicas e verifica as respostas dele contra um "padrão ouro" para ver quantas ele acertou. Todos assumem que, se o teste está escrito em um artigo, o computador fez exatamente o que o artigo diz. Mas e se o computador pegou um atalho? E se as perguntas do teste foram trocadas ou os Raios-X foram virados de cabeça para baixo, e ninguém percebeu até anos depois? Este é o abismo assustador entre o que dizemos que fizemos e o que o computador realmente fez.

Este artigo é uma história de investigação forense sobre um desses testes digitais. O autor, Mateusz Kozłowski, decidiu desempenhar o papel de um investigador de cena de crime digital. Ele não executou o teste novamente; em vez disso, ele examinou a "cena do crime" (os arquivos de computador e o código) deixada por um estudo anterior. Ele queria ver se a história contada no relatório final correspondia à realidade dos arquivos no disco rígido. Ele descobriu que a história e a realidade eram muito diferentes. O estudo afirmava comparar duas maneiras diferentes de fazer perguntas ao robô, mas ao rastrear o caminho de importação e de chamada preservado, o autor pôde inferir o que aconteceu com a vinculação dos comandos (prompts). O código mostrou que o robô foi, na verdade, feito de perguntar a mesma coisa duas vezes. Afirmava usar 30 pacientes diferentes, mas os arquivos mostraram apenas 28. Afirmava usar imagens de Raio-X perfeitas, mas quatro delas estavam invertidas, como se fossem uma imagem de espelho de um tórax. Devido a essas confusões, as pontuações e classificações finais no relatório original estavam erradas. O autor conclui que os resultados do teste original não podem ser confiados para nos dizer quão bem os robôs realmente trabalham, e propõe um novo conjunto de "regras de máquina" para garantir que testes futuros não tenham esses erros ocultos.

O Relatório do Detetive Digital

A Configuração: Um Teste Que Não Foi um Teste
Imagine que você é um professor aplicando um teste de matemática. Você diz à classe: "Vou dar a vocês duas versões diferentes do teste, Versão A e Versão B, para ver qual é mais difícil". Você distribui as folhas, as recolhe e as corrige. Mas quando olha para o seu gabarito mais tarde, percebe que acidentalmente deu a todos os alunos a exata mesma folha da Versão C. Você pensou que estava testando a diferença entre A e B, mas estava apenas testando como os alunos se saíram na C duas vezes.

Isso é exatamente o que aconteceu neste estudo. Os pesquisadores queriam ver se fazer duas perguntas diferentes à IA médica (Prompt A e Prompt B) mudaria as respostas. Eles executaram o teste em 30 Raios-X de tórax. No entanto, quando o autor investigou o código do computador, encontrou um "erro" no sistema de entrega. O código deveria alternar entre o Prompt A e o Prompt B, mas ao rastrear o caminho de importação e de chamada preservado, o autor pôde inferir que ambos os grupos de perguntas foram enviados como Prompt C. Assim, as 60 vezes que o computador foi solicitado a responder, ele estava, na verdade, respondendo à mesma pergunta 60 vezes. O estudo alegou encontrar uma diferença entre A e B, mas como A e B nunca aconteceram, essa diferença era um fantasma.

A Confusão do Raio-X
Em seguida, imagine que você está olhando para uma foto em preto e branco. Se a foto for impressa em "negativo" (onde o preto é branco e o branco é preto), você pode pensar que uma mancha escura é, na verdade, uma mancha clara. No mundo das imagens médicas, existem dois tipos de configurações de preto e branco: um onde o escuro significa "osso" e outro onde o escuro significa "ar". O estudo alegou usar Raios-X padrão. Mas o autor descobriu que quatro das imagens estavam na configuração de "ar", e o código do computador esqueceu de invertê-las para a configuração de "osso" antes de mostrá-las à IA.

É como servir a um cliente um hambúrguer com o pão embaixo e a carne em cima, e depois alegar que serviu um "hambúrguer padrão". A IA viu uma imagem distorcida, não o Raio-X real. Isso significou que a IA estava tomando decisões baseadas em uma realidade distorcida, não no Raio-X real.

A Contagem de Pacientes e os Arquivos Ausentes
O estudo disse que usou 30 pacientes diferentes. Mas quando o autor contou os arquivos, descobriu que dois pacientes haviam aparecido duas vezes, o que significa que havia apenas 28 pessoas únicas. É como uma chamada de classe onde dois alunos assinaram duas vezes, fazendo parecer que havia 30 crianças quando havia apenas 28. Isso importa porque, se a mesma pessoa está no teste duas vezes, isso distorce os resultados.

Além disso, o estudo planejou 300 respostas (30 Raios-X × 10 modelos de IA diferentes). Mas quando o autor verificou os arquivos, três deles estavam faltando ou vazios. Dois arquivos estavam completamente vazios (zero bytes) e um simplesmente sumiu. O relatório original fingiu que estes eram respostas bem-sucedidas, mas eram, na verdade, falhas. É como um professor corrigindo uma prova e dando uma nota a um aluno mesmo que o aluno tenha deixado a folha em branco.

A Matemática "Mágica"
Devido a esses erros, a matemática no artigo original estava errada. Os autores calcularam uma pontuação chamada "estatística de Cochran" para ver se os modelos eram diferentes. O artigo original dizia que a pontuação era 154,73. Quando o autor corrigiu a matemática usando os dados corretos e completos (369 blocos de informação em vez da versão bagunçada e incompleta), a pontuação saltou para 182,29.

O artigo original também alegou que 26 de 45 comparações mostraram uma diferença "significativa". Ao corrigir a matemática e os dados ausentes, o autor descobriu que a análise de coorte corrigida produziu 27 de 45 comparações não ajustadas e 20 de 45 com o ajuste de Holm. No entanto, o resultado de 28 de 45 foi de fato reproduzido em uma análise separada de casos disponíveis por par, onde cada comparação utilizou seu próprio denominador. Embora esses números possam parecer semelhantes, o significado é totalmente diferente porque os dados nos quais se basearam eram falhos. A afirmação original de que "o Modelo A é melhor que o Modelo B" baseou-se em um teste que nunca aconteceu de fato.

O Lançamento "Obsoleto"
Aqui está a parte mais frustrante. Quando os pesquisadores perceberam o erro e corrigiram os números em seu artigo escrito, esqueceram de atualizar os arquivos digitais que compartilharam com o mundo. Eles fizeram o upload de um artigo "revisado", mas o arquivo zip anexado ainda tinha os números errados e os nomes errados para os modelos. É como um chef corrigindo uma receita em um livro de receitas, mas esquecendo de mudar a lista de ingredientes no site. Quem baixou o arquivo recebeu a versão antiga e quebrada.

A Solução: Um Novo Livro de Regras
O autor não apenas aponta os erros; ele constrói um novo livro de regras para evitar que isso aconteça novamente. Ele chama isso de "Contrato de Benchmark". Imagine um contrato que força um computador a provar que fez a coisa certa antes de ser permitido publicar uma pontuação.

Este contrato tem oito regras:

Contrato de Coorte: Prove que você tem o número correto de pacientes únicos.
Contrato de Pixel: Prove que as imagens de Raio-X não foram invertidas ou quebradas.
Contrato de Prompt: Prove que a IA realmente recebeu a pergunta específica que você fez, não uma pergunta diferente.
Contrato de Modelo: Prove que você usou a versão exata da IA que disse ter usado.
Contrato de Saída: Prove que o arquivo de resposta não está vazio.
Contrato de Anotação: Prove que os rótulos (como "doente" ou "saudável") foram atribuídos corretamente.
Contrato de Análise: Prove que a matemática foi feita nos grupos de dados corretos.
Contrato de Lançamento: Prove que os arquivos que você compartilha correspondem ao artigo que você escreveu.

O autor construiu um conjunto de 36 testes automatizados (como um inspetor robô) que verificam essas regras. Se um teste falha, o sistema para e diz: "Não, você não pode publicar isso ainda".

A Conclusão
A grande lição é que as afirmações do estudo original sobre o quão bem esses modelos de IA funcionam foram retiradas. O autor é muito claro: os resultados originais são inválidos. Você não pode confiar nas classificações ou no modelo "melhor" porque o teste estava quebrado. A única coisa que pode ser salva é a história de como ele quebou.

O autor sugere que, no futuro, precisamos usar esses contratos verificáveis por máquinas. Não podemos apenas confiar que o computador fez o que mandamos ele fazer; precisamos que o computador prove. Este artigo não nos dá um novo ou melhor modelo de IA; em vez disso, nos dá uma maneira melhor de garantir que os testes que usamos para julgar a IA sejam realmente justos e reais. O autor aponta que o descompasso entre o relatório e a realidade resultou em uma desconexância de rótulo de relatório automatizado. É um lembrete de que, na era digital, se você não verificar o código, pode estar corrigindo um teste que nunca aconteceu.

Resumo Técnico: Auditoria de Reprodutibilidade Forense de um Modelo de Visão-Linguagem para Radiologia

Declaração do Problema
Benchmarks de IA para imagens médicas são tipicamente representados por uma cadeia complexa de artefatos: manuscritos, tabelas de análise, código executável, APIs de provedores e lançamentos de repositórios. Embora se assuma a concordância entre esses componentes, isso raramente é testado diretamente. Este artigo aborda o problema específico onde um estudo piloto arquivado, comparando dois prompts de relatório entre cinco famílias de Modelos de Visão-Linguagem (VLM), divergiu significamente de seu protocolo relatado. O estudo investiga como essas divergências — ocorrendo no roteamento de prompts, renderização de imagens, definição de coorte e propagação de dados — afetaram a identificabilidade das reivindicações científicas originais e se controles verificáveis por máquina poderiam ter detectado tais ocorrências antes da publicação.

Metodologia
Os autores realizaram uma auditoria forense retrospectiva de um snapshot de projeto preservado em 27 de julho de 2026. A auditoria foi estritamente não invasiva: nenhuma nova chamada de modelo foi feita, nenhuma imagem foi re-renderizada e nenhuma nova anotação foi criada. A investigação focou nos "seis estados" de um resultado computacional: Pretendido, Executado, Observado, Analisado, Relatado e Lançado.

As etapas metodológicas principais incluíram:

Rastreamento de Execução: Rastreamento de imports de Python, estado de módulos e chamadas de adaptadores para realizar uma inferência sobre o vínculo de prompts, baseando-se no caminho de importação e chamada preservado.
Auditoria de Coorte e Imagem: Reconciliação do manifesto de casos com cabeçalhos DICOM para verificar contagens de pacientes, independência de estudos, posições de visualização (PA/AP) e interpretações fotométricas (MONOCHROME1 vs. MONOCHROME2).
Reconciliação Saída: Verificação de existência de arquivos, contagem de bytes e estados terminais contra as 300 chamadas planejadas (30 estudos × 5 modelos × 2 prompts).
Reconstrução Estatística: Recálculo de estatísticas históricas (testes de Q de Cochran e McNemar) usando uma abordagem "chaveada". Em vez de confiar na truncagem posicional (que emparelha incorretamente observações após a exclusão de dados ausentes), os autores usaram chaves explícitas de (caso, achado) para alinhar as observações em todas as condições, criando uma coorte globalmente completa de 369 blocos.
Auditoria de Propagação: Varredura de versões de manuscritos, figuras, READMEs de repositórios e pacotes de submissão para determinar se as correções no código-fonte foram propagadas para todos os artefatos públicos.

Principais Descobertas e Resultados
A auditoria identificou falhas sistemáticas em múltiplas camadas do pipeline do benchmark:

Falha de Roteamento de Prompt: Um erro de importação de valor em Python fez com que tanto a condição nominal "Claude A" quanto a "Claude B" fossem executadas com o mesmo prompt "System C". Consequentemente, as 60 chamadas destinadas a comparar dois prompts na verdade mediram a variabilidade de execução de um único prompt, invalidando qualquer reivindicação de efeito de prompt.
Falha de Identidade de Imagem: Quatro estudos com interpretação fotométrica MONOCHROME1 foram renderizados sem a inversão de polaridade necessária. Além disso, quatro estudos possuíam posições de visualização não documentadas (cabeçalhos em branco), e um era uma visão lateral, violando os critérios de inclusão de "apenas frontal".
Problemas de Coorte e Partição: Os 30 estudos pertenciam a apenas 28 pacientes (dois pacientes contribuíram com dois estudos cada), violando a suposição de unidades de amostragem independentes. A divisão do conjunto de dados (treino/teste/validação) não foi retida no manifesto, tornando a composição da partição final irrecuperável.
Completude de Dados e Extração: Das 300 chamadas planejadas, apenas 297 geraram relatórios não vazios (dois foram arquivos de zero bytes, um estava ausente). Além disso, um extrator de rótulos automatizado truncou cinco relatórios em 4000 caracteres, e as respostas brutas da API não foram preservadas, impedindo a auditoria completa dos rótulos extraídos.
Correções Estatísticas:
- O recálculo do Q de Cochran com a coorte chaveada e globalmente completa alterou a estatística de $Q = 154,73$ relatado para $182,29$.
- O número de comparações de McNemar com o $p < 0,05$ nominal não ajustado mudou de 26/45 para 27/45. Após o ajuste de Holm, a contagem mudou de 18/45 para 20/45.
- O resultado de 28/45 sugerido pelo revisor foi reproduzido apenas em uma análise de pares separada de casos disponíveis, onde cada comparação utilizou seu próprio denominador, mas não foi reproduzido por nenhuma das quatro variantes de McNemar implementadas na análise de coorte global.
Integridade do Lançamento: O repositório público (Zenodo) e os pacotes de submissão paralelos mantiveram nomes de modelos, figuras e estatísticas obsoletos que não refletiam o manuscrito corrigido, demonstrando uma falha na propagação de artefatos.

Principais Contribuições

Framework de Auditoria Forense: O artigo demonstra um método rigoroso para auditar benchmarks de IA, distinguindo entre o protocolo pretendido e o artefato executado, utilizando hierarquias de evidência (ex: payloads de requisição sobre rótulos de console).
Retirada de Reivindicações: Com base nas evidências, os autores retiram formalmente todas as reivindicações originais relativas ao ranking de desempenho de modelos, efeitos de prompt e detecção de discordância entre relatório e rótulo automatizado. O benchmark original é considerado inválido para inferência de resultados.
Contrato de Benchmark Verificável por Máquina: O artigo propõe um contrato de oito cláusulas "fail-closed" projetado para prevenir falhas semelhantes. As cláusulas cobrem:
- Coorte: Chaves imutáveis para pacientes/estudos e proveniência explícita de divisão.
- Pixels: Hashes de imagens renderizadas e transformações fotométricas condicionais.
- Prompts: Verificação dos payloads de requisição reais contra hashes esperados.
- Modelos: Resolução de aliases de provedores para snapshots estáveis.
- Saídas: Registros atômicos com bytes não nulos e estados terminais.
- Anotação: Separação de respostas brutas, incerteza e rótulos derivados.
- Análise: Junções baseadas em chaves científicas explícitas em vez de alinhamento posicional.
- Lançamento: Registros versionados e manifestos fechados para garantir que todos os artefatos derivados correspondam à fonte.
Implementação de Referência: É fornecida uma versão candidata contendo 36 testes de regressão offline, fixtures sintéticos, um validador de JSON Schema e um scanner de privacidade. Esses testes verificam a lógica dos controles (ex: detectar colisões de prompt ou metadados de divisão ausentes) sem exigir acesso aos dados clínicos restritos.

Significância e Escopo
O artigo conclui que, embora a aritmética histórica possa ser corrigida e reproduzida, as condições subjacentes (identidade do prompt, representação da imagem e definição da coorte) nunca foram estabelecidas de forma válida. Portanto, o artigo não oferece um leaderboard reparado ou novas estimativas de desempenho. Em vez disso, sua significância reside em documentar a cadeia de falhas específica que torna o experimento original interpretável e fornecer um conjunto de controles verificáveis por máquina para detectar tais divergências em trabalhos futuros.

Os autores declaram explicitamente que o contrato proposto é uma implementação de referência de controles selecionados, não um framework totalmente validado. A auditoria é limitada a um único estudo de caso, e os controles são testados contra fixtures sintéticos e agregados públicos, não contra validação clínica prospectiva. O trabalho enfatiza que a reprodutibilidade requer não apenas o lançamento do código, mas a preservação da identidade através de cada transição do protocolo para o artefato público.

O Relatório do Detetive Digital

Mais como este