Prompt Sensitivity and Answer Consistency of Small Open-Source Large Language Models on Clinical Question Answering: Implications for Low-Resource Healthcare Deployment

Este estudio demuestra que, para el despliegue de IA clínica en entornos de bajos recursos, los modelos de código abierto pequeños como Llama 3.2 ofrecen el mejor equilibrio entre precisión y consistencia, advirtiendo que una alta consistencia no garantiza la corrección y que el entrenamiento específico en el dominio sin ajuste de instrucciones es insuficiente para tareas de respuesta clínica estructurada.

Lo esencial

Imagina que estás en una pequeña clínica rural en una zona donde no hay internet rápido ni computadoras potentes. Necesitas ayuda para responder preguntas médicas, pero no puedes usar los "superordenadores" de la nube. Así que decides usar un pequeño programa de inteligencia artificial (IA) que cabe en tu computadora normal.

Este estudio es como una prueba de estrés para ver qué tan confiables son estos pequeños programas de IA cuando se les hace la misma pregunta de diferentes maneras.

Aquí tienes los hallazgos principales, explicados con analogías sencillas:

1. La "Constancia" no significa "Verdad" (El reloj roto)

El estudio descubrió algo muy importante: que una IA sea constante no significa que tenga la razón.

• La analogía: Imagina un reloj que siempre marca las 3:00 PM. Es extremadamente constante; nunca cambia de hora. Pero si son las 10:00 AM, ese reloj es muy constante y muy equivocado.
• En el estudio: Un modelo llamado Gemma 2 fue el más constante (siempre daba la misma respuesta sin importar cómo preguntaras), pero esa respuesta solía ser incorrecta. En medicina, esto es peligroso porque un médico podría pensar: "La IA siempre dice lo mismo, debe tener la razón", cuando en realidad está dando un diagnóstico erróneo con mucha seguridad.

2. El disfraz de "Doctor" arruina el juego (El actor distraído)

Los investigadores probaron pedirle a la IA que respondiera como si fuera un "médico experto" (un estilo de pregunta llamado "roleplay").

• La analogía: Es como pedirle a un actor que interprete a un cirujano mientras intenta resolver un problema de matemáticas complejo. El actor se distrae pensando en "cómo actuar" y olvida hacer los cálculos.
• En el estudio: Cuando se le pedía a la IA que "actuara" como médico, sus respuestas se volvían peores. Los modelos pequeños se confundían con el disfraz y daban menos respuestas correctas. La lección es: en medicina, es mejor ser directo y simple que intentar parecer un personaje.

3. El tamaño no lo es todo (El camión vs. la moto)

A veces pensamos que una IA más grande (con más "cerebro" o parámetros) es siempre mejor y más segura.

• La analogía: Imagina que tienes un camión gigante (una IA grande) y una moto pequeña (una IA pequeña). A veces, el camión se atasca en un camino estrecho (no sigue las instrucciones) mientras que la moto pasa rápido y bien.
• En el estudio: El modelo más grande (Mistral 7B) no siempre fue el mejor. De hecho, a veces fallaba en seguir instrucciones simples. El modelo Llama 3.2 (que es más pequeño) fue el equilibrio perfecto: dio las respuestas más correctas y siguió las instrucciones mejor que los demás, siendo ideal para clínicas con recursos limitados.

4. Saber mucho no sirve si no sabes escuchar (La enciclopedia muda)

Hubo un modelo especial (Meditron) que había leído millones de libros médicos, pero nunca le habían enseñado a seguir instrucciones (como "responde solo con A, B o C").

• La analogía: Imagina a una persona que ha leído toda la biblioteca de medicina, pero si le preguntas algo, en lugar de responder, empieza a recitar un poema o a gritar. Tiene el conocimiento, pero no sabe cómo entregarlo.
• En el estudio: Este modelo, a pesar de saber mucho, falló casi el 100% de las veces porque no entendía cómo debía responder. Esto nos enseña que tener conocimiento médico no es suficiente; la IA también necesita saber cómo comportarse en una consulta.

Conclusión: ¿Qué debemos hacer?

Si quieres usar una IA pequeña en un hospital rural o una clínica sin muchos recursos:

1. No te fíes solo de que la IA sea constante: Si siempre da la misma respuesta, verifica si es correcta. Podría estar equivocada de forma muy segura.
2. No le pidas que "actúe": Hazle preguntas directas y simples. No necesitas que se disfraze de doctor para que funcione bien.
3. Elige el equilibrio: A veces, un modelo mediano y bien entrenado (como Llama 3.2) es mejor que uno gigante o uno que solo tiene muchos libros pero no sabe conversar.

En resumen, para que la IA sea segura en medicina, no basta con que sea "inteligente" o "constante"; necesita ser precisa, obediente y honesta, incluso si es pequeña.

Resumen técnico

Aquí presento un resumen técnico detallado del artículo "Sensibilidad al Prompt y Consistencia de Respuesta en Modelos de Lenguaje de Código Abierto Pequeños para la Respuesta a Preguntas Clínicas: Implicaciones para el Despliegue en Sanidad de Recursos Limitados", traducido y estructurado en español.

---

1. Planteamiento del Problema

La inteligencia artificial se integra cada vez más en los flujos de trabajo sanitarios. Mientras que los modelos grandes basados en la nube dominan la investigación, los modelos de lenguaje pequeños (SLM) de código abierto (2B–7B parámetros) están ganando relevancia para entornos de recursos limitados (clínicas rurales, hospitales comunitarios) donde la infraestructura de GPU y el acceso a la nube son inexistentes.

Sin embargo, existe una brecha crítica en la evaluación de estos modelos:

• La mayoría de las evaluaciones actuales se centran únicamente en la precisión (accuracy).
• Se desconoce la estabilidad de sus respuestas ante variaciones semánticas en la formulación de la misma pregunta clínica (sensibilidad al prompt).
• En entornos de alta seguridad como la medicina, un modelo que cambia su respuesta según la redacción de la pregunta, o que es consistentemente incorrecto, representa un riesgo grave para la toma de decisiones clínicas.

2. Metodología

El estudio realizó una evaluación sistemática bajo condiciones realistas de despliegue (hardware de consumo, sin fine-tuning médico).

• Modelos Evaluados (5):
  • Modelos de instrucción general: Phi-3 Mini (3.8B), Llama 3.2 (3B), Gemma 2 (2B), Mistral 7B (7B).
  • Modelo de dominio: Meditron-7B (7B), preentrenado en corpus médico pero sin ajuste de instrucciones (base model).
• Datasets (3):
  • MedQA: Preguntas de licencia médica de EE. UU. (USMLE).
  • MedMCQA: Preguntas de exámenes de entrada a medicina en India.
  • PubMedQA: Preguntas de investigación biomédica con respuestas sí/no/tal vez.
  • Muestra: 200 preguntas aleatorias por dataset (total 600 preguntas).
• Diseño de Prompts (5 variaciones):
  Para cada pregunta se generaron 5 estilos semánticamente equivalentes pero estilísticamente distintos:
  1. Original: Tal cual aparece en el dataset.
  2. Formal: Lenguaje académico clínico.
  3. Simplificado: Lenguaje cotidiano (simulando a un paciente).
  4. Roleplay: Instrucción de actuar como "médico practicante".
  5. Directo: Solo la pregunta y opciones, sin marco.
• Configuración de Inferencia:
  • Ejecución local en CPU (sin GPU) mediante Ollama.
  • Temperatura = 0 (salidas deterministas).
  • Sin fine-tuning específico de dominio.
• Métricas de Evaluación:
  • Puntuación de Consistencia (Consistency Score): Proporción de veces que el modelo da la misma respuesta (la mayoría) ante las 5 variaciones de prompt.
  • Precisión Global (Overall Accuracy): Comparación de la respuesta mayoritaria con la etiqueta de verdad (ground truth).
  • Tasa de Fallo en Seguimiento de Instrucciones (UNKNOWN Rate): Porcentaje de respuestas que no contienen una opción válida (A-D o sí/no/tal vez).

3. Contribuciones Clave

1. Marco de Evaluación Multidimensional: Introduce la necesidad de evaluar conjuntamente la consistencia y la precisión, demostrando que no son métricas correlacionadas.
2. Análisis de Sensibilidad al Prompt en SLM: Es el primer estudio que evalúa sistemáticamente cómo los modelos pequeños y ejecutables en CPU responden a reformulaciones de preguntas clínicas.
3. Descubrimiento de la "Incorrectitud Confiable": Identifica un modo de fallo peligroso donde un modelo es altamente consistente pero sistemáticamente incorrecto.
4. Evaluación de Despliegue Realista: Los experimentos se realizaron en hardware de consumo sin fine-tuning, reflejando las condiciones reales de entornos con pocos recursos.

4. Resultados Principales

A. Independencia entre Consistencia y Precisión

• Hallazgo Crítico: No existe correlación positiva entre ser consistente y ser correcto.
• Caso Gemma 2: Logró la mayor consistencia (0.845–0.888) pero la menor precisión (33.0–43.5%). Esto significa que Gemma 2 daba la misma respuesta incorrecta independientemente de cómo se formulara la pregunta.
• Caso Llama 3.2: Mostró consistencia moderada (0.774–0.807) pero alcanzó la mayor precisión (49.0–65.0%).
• Implicación: Un modelo puede ser "confiablemente incorrecto", lo cual es más peligroso que un modelo inconsistente, ya que genera una falsa sensación de seguridad en el clínico.

B. Efecto Negativo del "Roleplay"

• El estilo de prompt Roleplay (ej. "Actúa como un médico senior") redujo consistentemente la precisión en todos los modelos y datasets.
• Phi-3 Mini sufrió la caída más drástica: -21.5 puntos porcentuales en precisión en MedQA al usar roleplay comparado con el estilo directo.
• Conclusión: Las marcos de personalidad (persona-based framing) introducen interferencia de tareas en modelos pequeños, desviando la atención del razonamiento clínico estructurado.

C. Fallos en el Seguimiento de Instrucciones

• La tasa de respuestas inválidas (UNKNOWN) no depende del tamaño del modelo (número de parámetros).
• Phi-3 Mini tuvo la tasa más alta en MedQA (10.5%).
• Meditron-7B (modelo de dominio sin ajuste de instrucciones) mostró un fallo casi total en PubMedQA (99.0% de respuestas UNKNOWN).
• Lección: El conocimiento de dominio por sí solo (preentrenamiento médico) es insuficiente si el modelo carece de la capacidad de seguir instrucciones estructuradas.

D. Selección de Modelo para Recursos Limitados

• Llama 3.2 (3B) emergió como el mejor equilibrio, ofreciendo la mayor precisión, consistencia moderada y bajas tasas de fallo en instrucciones.
• Mistral 7B no superó a los modelos más pequeños en precisión y mostró fallos de instrucción no despreciables.

5. Significado e Implicaciones

• Seguridad Clínica: La consistencia no es sinónimo de seguridad. En la asistencia clínica, un modelo que es consistentemente erróneo puede llevar a diagnósticos repetidos incorrectos y retrasos en el tratamiento.
• Guía de Ingeniería de Prompts: Para aplicaciones de IA en salud con modelos pequeños, se debe evitar el roleplay. Las formulaciones directas y mínimas son más fiables.
• Despliegue en Entornos de Pocos Recursos:
  • No se debe asumir que un modelo más grande (7B) es automáticamente mejor o más seguro.
  • La selección de modelos debe basarse en una evaluación conjunta de precisión, consistencia y adherencia a instrucciones.
  • Los modelos de dominio (como Meditron) requieren ajuste de instrucciones (instruction tuning) para ser útiles en flujos de trabajo estructurados, a pesar de su conocimiento médico.
• Cambio de Paradigma: La comunidad de investigación debe abandonar las evaluaciones basadas solo en precisión y adoptar marcos multidimensionales que incluyan la estabilidad ante variaciones de prompts.

En resumen, el estudio demuestra que para el despliegue seguro de IA en entornos sanitarios de bajos recursos, la robustez (consistencia) y la exactitud deben evaluarse simultáneamente, y que la elección del modelo y la estrategia de prompt son tan críticas como el conocimiento médico del modelo.