Medication Names Are a Safety-Critical Failure Mode in Clinical Speech Recognition: An Open Benchmark of On-Device and Cloud Systems

Os médicos passam mais da metade de seu dia de trabalho escrevendo notas sobre seus pacientes. Esse pesado fardo administrativo é uma das principais causas de esgotamento, empurrando muitos médicos para o limite da exaustão. Nos últimos anos, uma nova tecnologia surgiu para ajudar: a inteligência artificial ambiente. Esses sistemas ouvem as conversas entre médicos e pacientes e transformam automaticamente as palavras faladas em texto escrito, na esperança de liberar o tempo do médico. No entanto, para que essa tecnologia seja segura, o computador deve entender exatamente o que foi dito. Se o software ouvir mal o nome de um medicamento, as consequências podem ser graves. O desafio central reside na forma como esses sistemas são construídos. A maioria dos serviços atuais envia a gravação de áudio pela internet para uma enorme fazenda de servidores na nuvem para ser processada. Isso levanta preocupações sobre a privacidade do paciente e o custo de enviar esses dados de ida e volta. Uma abordagem alternativa é executar o software diretamente no dispositivo do médico, como um laptop ou celular, mantendo o áudio local e nunca o enviando para fora. Mas, até agora, ninguém tinha uma maneira clara e aberta de comparar o desempenho desses dispositivos locais contra os poderosos gigantes da nuvem, especialmente quando se trata das palavras mais críticas em uma conversa médica.

Um pesquisador da Escola de Medicina da Universidade de Emory estabeleceu-se para construir essa ferramenta de comparação que estava faltando. Ele criou um teste padronizado usando 400 conversas simuladas entre médicos e pacientes, abrangendo três diferentes especialidades médicas: problemas respiratórios, cuidados primários e avaliações psiquiátricas. Essas conversas não eram visitas reais de pacientes, mas cenários cuidadosamente gravados projetados para imitar o fluxo de um exame real. O pesquisador então executou essas mesmas gravações através de doze modelos diferentes de reconhecimento de fala que podem rodar em um dispositivo local, e cinco serviços comerciais de nuvem diferentes que processam áudio pela internet. O objetivo era ver qual sistema conseguiria capturar com precisão os termos médicos específicos que mais importam, como nomes de drogas, sintomas e procedimentos, sem cometer erros perigosos.

Os resultados revelaram um padrão claro e preocupante. Embora os dispositivos locais tenham tido um desempenho surpreendentemente bom em fala geral, eles tiveram dificuldades significativas com nomes de medicamentos. Nas conversas simuladas, os modelos locais entenderam erroneamente nomes de medicamentos específicos em uma alta porcentagem de casos, variando de 85% a 93%, dependendo do medicamento e do conjunto de dados. Por exemplo, quando a palavra "lisinopril" foi dita no conjunto de dados de cuidados primários, o software local errou em 92 por cento dos casos, e "amoxicilina" em 93 por cento. Os serviços de nuvem foram muito melhores, errando esses mesmos nomes apenas de 3 a 30 por cento das vezes. Essa lacuna sugere que, embora os computadores locais sejam bons em entender conversas gerais, eles carecem do treinamento específico para reconhecer os nomes complicados e de sonoridade semelhante de remédios que são críticos para a segurança do paciente. O estudo descobriu que mesmo os melhores modelos locais ainda não eram confiáveis o suficiente para serem usados sem que um humano revisasse os nomes dos medicamentos antes que a nota fosse finalizada.

O pesquisador também testou se combinar as saídas de múltiplos modelos locais poderia corrigir esse problema. A ideia era que, se um modelo perdesse uma palavra, outro poderia captur-la, e um sistema de votação escolheria a resposta correta. No entanto, essa abordagem ofereceu muito pouca ajuda. Mesclar os resultados de diferentes modelos melhorou a precisão em menos de um ponto percentual, uma diferença tão pequena que não mudaria o resultado em um cenário do mundo real. O estudo mostrou que simplesmente adicionar mais modelos não resolve o problema central; a limitação fundamental reside nos próprios modelos, não em como eles são combinados. O pesquisador também observou que um modelo específico, projetado para ditado médico, teve um desempenho muito melhor em nomes de drogas do que os outros, sugerindo que o problema pode ser resolvido se o software for especificamente treinado para uso médico em vez de conversação geral.

Além da precisão, o estudo analisou as implicações de custo e privacidade. Enviar áudio para a nuvem custa dinheiro, variando de alguns centavos a mais de um dólar por visita ao paciente, dependendo do serviço. Para um médico que atende milhares de pacientes por ano, isso se acumula em milhares de dólares. Em contraste, executar o software em um dispositivo local não custa nada por visita após a configuração inicial, pois utiliza o computador que o médico já possui. Isso torna o processamento local uma opção muito mais acessível para clínicas menores ou aquelas em áreas com acesso limitado à internet. Além disso, manter o áudio no dispositivo significa que as informações privadas de saúde do paciente nunca saem da sala, abordando preocupações significativas de privacidade que surgem quando os dados são enviados para servidores de terceiros.

O estudo conclui que, embora o reconhecimento de fala local seja uma alternativa viável e econômica aos serviços de nuvem, ele ainda não é perfeito. A tecnologia é próxima o suficiente para ser útil, mas não pode ser confiada para lidar com nomes de medicamentos por conta própria. Os pesquisadores enfatizam que qualquer sistema que utilize essa tecnologia, seja ele executado em um dispositivo local ou na nuvem, deve incluir uma etapa obrigatória onde um humano revisa e confirma os nomes dos medicamentos antes que o registro médico seja salvo. Até que o software melhore especificamente nesses termos críticos, a segurança do paciente depende dessa verificação humana final. O trabalho fornece um roteiro claro para o futuro: em vez de tentar combinar muitos modelos imperfeitos, o foco deve mudar para o treinamento de modelos únicos especificamente em linguagem médica para fechar a lacuna restante de precisão.