Llettuce: An Open Source Natural Language Processing Tool for the Translation of Medical Terms into Uniform Clinical Encoding

Resumen Técnico: Lettuce – Una Herramienta de Procesamiento de Lenguaje Natural para la Traducción de Términos Médicos a Codificación Clínica Uniforme

1. El Problema

La estandarización de datos de salud observacionales bajo el modelo de datos común OMOP (Observational Medical Outcomes Partnership) es fundamental para hacer que los datos sean FAIR (encontrables, accesibles, interoperables y reutilizables). Sin embargo, el proceso de mapeo de términos fuente (nombres de medicamentos, condiciones, etc., extraídos de historiales clínicos o cuestionarios) a conceptos estandarizados de OMOP presenta desafíos significativos:

• Limitaciones de las herramientas actuales: Soluciones existentes como la búsqueda en la base de datos Athena o la herramienta Usagi (basada en coincidencia de cadenas/strings) luchan con matices semánticos. Usagi, aunque automatiza parcialmente el proceso, requiere una revisión manual intensiva y falla cuando los términos fuente son informales, contienen errores tipográficos, abreviaturas o nombres de marcas que no coinciden literalmente con los conceptos formales (ej. "Now Foods omega-3" vs. "Ácidos grasos omega-3").
• Riesgos de privacidad y cumplimiento: El uso de modelos de lenguaje grandes (LLMs) propietarios en la nube (como OpenAI) plantea problemas de cumplimiento con el GDPR (Reglamento General de Protección de Datos) y la seguridad de los datos de pacientes sensibles, ya que implica enviar información fuera de la infraestructura local.
• Inconsistencia: La falta de herramientas automatizadas robustas y locales conduce a decisiones de mapeo inconsistentes entre diferentes sistemas de salud.

2. Metodología

El artículo introduce Lettuce, una herramienta de código abierto, modular y desplegable localmente que utiliza Procesamiento de Lenguaje Natural (NLP) avanzado, incluyendo LLMs y búsqueda semántica.

• Arquitectura: Lettuce se conecta a una base de datos OMOP-CDM (configurada con extensiones para búsqueda de texto y vectores) y ofrece tres rutas de recuperación para mapear un término fuente:

  1. Búsqueda de Texto (Lexical): Utiliza coincidencia de palabras clave (lexemas) y algoritmos como BM25. Es rápida pero limitada a términos con redacción similar.
  2. Búsqueda Semántica Vectorial: Utiliza modelos de codificadores (embeddings) como BGE-small y PubMedBERT. Convierte los términos en vectores numéricos para encontrar similitudes de significado (ej. "paracetamol" y "acetaminofén") incluso si las cadenas de texto son diferentes.
  3. Generación Aumentada por Recuperación (RAG): Combina la búsqueda semántica con un LLM. Si la coincidencia semántica no es suficiente, los conceptos más relevantes recuperados se inyectan en el prompt del LLM para guiar su razonamiento y sugerir el concepto correcto, asegurando que la salida esté anclada al vocabulario OMOP real.

• Interfaz y Despliegue:

  • Disponible como CLI (Interfaz de Línea de Comandos) y API HTTP (FastAPI).
  • Diseñada para ejecutarse localmente, garantizando el cumplimiento del GDPR y la protección de datos.
  • Incluye Lettuce-Inspector, un marco experimental independiente para evaluar y optimizar las tuberías de mapeo.

• Estudios de Caso:

  • NUH (Nottingham University Hospitals, UK): 218 medicamentos de ensayos clínicos (términos más formales).
  • HELIOS (Singapur): Datos de medicamentos auto-reportados por pacientes, con nombres informales, marcas comerciales y errores ortográficos (términos más complejos).

3. Contribuciones Clave

• Herramienta de Código Abierto (MIT): Lettuce es la primera herramienta que integra LLMs, búsqueda vectorial y bases de datos OMOP en un flujo de trabajo unificado y local.
• Enfoque Híbrido (RAG): Demuestra que combinar la recuperación semántica con la generación de lenguaje natural mejora significativamente la precisión en la identificación de conceptos médicos informales.
• Cumplimiento Normativo: Al ser desplegable localmente, resuelve el problema de la privacidad de datos al evitar el envío de información de pacientes a APIs de terceros en la nube.
• Marco de Evaluación: Proporciona un método estandarizado (Lettuce-Inspector) para comparar diferentes modelos de embeddings, LLMs (Llama, Gemma, Phi, Qwen) y estrategias de prompting.

4. Resultados

Los experimentos compararon Lettuce contra métodos léxicos (BM25/Usagi) y modelos LLM puros:

• Rendimiento de Recuperación:
  • La búsqueda semántica superó consistentemente a la búsqueda léxica. En el conjunto de datos HELIOS (términos informales), BM25 encontró el concepto correcto en el top 10 solo el 10.25% de las veces, mientras que la búsqueda semántica (BGE-small) lo logró en el 22.25%.
  • En el conjunto de datos NUH (términos más formales), la mejora fue menor pero significativa (de 50.9% en BM25 a 79.8% en búsqueda semántica con contexto).
• Impacto del RAG:
  • La integración de RAG aumentó las probabilidades de que el LLM diera la respuesta correcta en un 62% (Odds Ratio = 1.62, p < .001) en comparación con el uso del LLM sin contexto.
  • El modelo Gemma 3 (12B) con RAG obtuvo el mejor rendimiento general, alcanzando un 45.5% de precisión en el dataset HELIOS (frente al 35% sin RAG).
  • Proporcionar atributos del concepto (dominio, clase, vocabulario) en el prompt fue más efectivo que solo dar el nombre o la puntuación.
• Independencia del Modelo: No se encontró una correlación directa entre el tamaño del modelo y la precisión; modelos más pequeños y eficientes (como Llama 3.2 o Gemma) funcionaron tan bien o mejor que modelos más grandes en ciertos escenarios, lo que permite flexibilidad en recursos computacionales.

5. Significado e Impacto

• Automatización Eficiente: Lettuce reduce drásticamente la carga de trabajo manual en la ingeniería de datos de salud, permitiendo mapear términos informales a estándares OMOP con una precisión que antes requería intervención humana experta.
• Escalabilidad y Reproducibilidad: Al ser una herramienta local y de código abierto, facilita la colaboración global en investigación biomédica sin comprometer la seguridad de los datos, promoviendo la reproducibilidad de los estudios.
• Adaptabilidad: Su arquitectura modular permite integrar futuros modelos de IA, clasificadores jerárquicos o nuevos dominios de OMOP (no solo medicamentos), evolucionando hacia un agente autónomo de mapeo.
• Gobernanza de Datos: Ofrece una solución práctica para el desafío de la armonización de datos en un entorno regulatorio estricto (GDPR), demostrando que la IA avanzada puede utilizarse en salud de manera ética y segura.

En conclusión, Lettuce representa un avance significativo en la estandarización de datos de salud, superando las limitaciones de las herramientas tradicionales mediante el uso inteligente de LLMs locales y búsqueda semántica, logrando un equilibrio óptimo entre precisión, privacidad y eficiencia computacional.