LLM Enhancement with Domain Expert Mental Model to Reduce LLM Hallucination with Causal Prompt Engineering

En el mundo de la inteligencia artificial, los modelos de lenguaje extensos se han vuelto notablemente hábiles para leer, escribir y resumir vastas cantidades de información. Pueden explicar teorías científicas complejas, redactar documentos legales e incluso escribir código. Sin embargo, estos sistemas tienen un punto ciego fundamental: solo pueden trabajar con el conocimiento que ya ha sido escrito e introducido en sus datos de entrenamiento. Cuando se enfrentan a una decisión que depende de la intuición no escrita, del contexto organizacional específico o de una combinación única de circunstancias que nunca ha sido registrada, el modelo no simplemente admite que no sabe. En su lugar, a menudo inventa una respuesta segura pero falsa, un fenómeno conocido como alucinación. Esto no es un fallo que pueda corregirse buscando más documentos; es un límite estructural. Si el conocimiento no existe en una base de datos, la máquina no puede encontrarlo. Para decisiones de alto riesgo en campos como la medicina, la seguridad nacional o la financiación de la investigación, esta brecha entre lo que la máquina sabe y lo que sabe un experto humano puede ser peligrosa.

Los investigadores Boris Kovalerchuk y Brent D. Fegley han propuesto una nueva forma de cerrar esta brecha. En lugar de intentar que la inteligencia artificial sea más inteligente o darle más libros para leer, sugieren construir un mapa específico y estructurado de cómo piensa realmente un experto humano. Lo llaman un Modelo Mental de Experto. La idea central es dejar de pedirle a la máquina que adivine la respuesta y, en su lugar, utilizar la máquina como una herramienta para ayudar al experto a articular su propia lógica de toma de decisiones. Al convertir el juicio intuitivo de un humano en un conjunto claro y paso a paso de reglas, el sistema puede entonces aplicar esas reglas a situaciones nuevas sin necesidad de alucinar nunca. Este enfoque trata el problema no como un fallo de la memoria de la máquina, sino como un fallo al capturar el proceso de razonamiento específico del humano.

Los investigadores probaron esta idea en tres campos muy diferentes: decidir si se debe solicitar una subvención de investigación, diseñar un sistema de ciberseguridad y realizar diagnósticos clínicos. En el primer escenario, un equipo de investigadores necesitaba decidir si debían dedicar meses a escribir una propuesta para una agencia de financiación. La decisión dependía de muchos factores, como si el equipo tenía las habilidades adecuadas, si el proyecto encajaba con los objetivos de la agencia y si tenían suficiente tiempo. Una inteligencia artificial estándar podría generar una lista de preguntas para hacer, pero no podía determinar cómo ponderar esas respuestas. Si el equipo decía "sí" a tener las habilidades pero "no" a tener el presupuesto, la máquina podría suponer que el proyecto seguía siendo viable, o podría suponer que no lo era. La máquina no tenía forma de saber que para este equipo específico, el presupuesto era un factor determinante, mientras que para otro equipo, podría ser un obstáculo menor.

Para resolver esto, los investigadores utilizaron un método que se basa en un principio simple: si una situación es lo suficientemente buena como para decir "sí", mejorar cualquier parte de ella no debería convertir la respuesta en "no". Esto se llama monotonicidad. Imagine un equipo de expertos respondiendo a una serie de preguntas de sí o no sobre un proyecto. Si deciden que un proyecto con una gran idea pero sin dinero es un "no", entonces un proyecto con una gran idea, sin dinero y también sin miembros en el equipo, también debe ser un "no". Al utilizar esta lógica, los investigadores pudieron hacer a los expertos muchas menos preguntas de las que normalmente se requerirían. En lugar de preguntar por cada combinación posible de factores —que podrían ser millones para una decisión compleja—, hicieron un conjunto de preguntas cuidadosamente seleccionadas. Las respuestas a estas preguntas les permitieron inferir automáticamente las respuestas a miles de otros escenarios.

En el ejemplo de la propuesta de subvención, el equipo comenzó con veinte preguntas potenciales. Una inteligencia artificial ayudó a organizarlas en una jerarquía, agrupando preguntas relacionadas. Luego, el experto humano respondió un pequeño número de preguntas generalizadas. Por ejemplo, en lugar de responder sobre cada detalle de los recursos, el experto podría responder una pregunta amplia sobre si el equipo estaba preparado. Si la respuesta era "no", el sistema sabía inmediatamente que no se necesitaban más detalles para rechazar el proyecto. Si la respuesta era "si", el sistema profundizaría en los detalles específicos. A través de solo cuatro rondas de preguntas, los investigadores pudieron mapear la lógica de decisión del experto para más del 60 por ciento de todos los escenarios posibles. Los escenarios restantes se agruparon alrededor de los casos límite difíciles donde la decisión no es clara, que es exactamente donde el juicio humano es más valioso.

Los investigadores también probaron este método en ciberseguridad, donde las reglas suelen estar definidas por estándares gubernamentales. En este caso, la inteligencia artificial podía extraer las reglas estándar de un documento, pero aún necesitaba que un experto humano aplicara esas reglas a los datos específicos de una organización en particular. El sistema ayudó al experto a determinar el impacto de una brecha de seguridad en su red específica, traduciendo preocupaciones vagas en un modelo estructurado. En la tercera área, la atención médica, los investigadores revisaron estudios pasados donde se habían utilizado métodos similares para diagnosticar el cáncer de mama. Encontraron que cuando las reglas de decisión se extraían directamente de los radiólogos utilizando este enfoque estructurado, los modelos resultantes eran más precisos y consistentes que aquellos construidos puramente a partir de datos. Los modelos podían explicar por qué se tomó una decisión, rastreándola hasta factores específicos, lo cual es crucial para los médicos que necesitan confiar en el sistema.

Una parte crítica de este trabajo fue medir con qué frecuencia la inteligencia artificial se equivocaría si se dejaba a su suerte. Los investigadores crearon simulaciones donde compararon las decisiones de un experto humano contra las conjeturas de una inteligencia artificial. Encontraron que, si bien la tasa de error general podía parecer pequeña, los errores se concentraban en los casos más importantes. Cuando el experto habría dicho "sí" a un proyecto, la inteligencia artificial a menudo decía "no", perdiendo la oportunidad por completo. En algunas simulaciones, la tasa de error para estas oportunidades perdidas se acercaba al 100 por ciento. Esto reveló que el peligro de la alucinación no es solo cometer errores aleatorios; es fallar sistemáticamente al reconocer los casos raros y de alto valor que requieren un conocimiento específico y no escrito.

Los investigadores argumentan que la solución no es intentar que la inteligencia artificial sea más como un humano, sino usar la inteligencia artificial para ayudar a los humanos a codificar su propio pensamiento. La máquina es excelente generando listas de factores, organizándolos en grupos lógicos y verificando la consistencia. Es pésima sabiendo qué es lo que importa para un equipo u organización específica. Al combinar ambos, el sistema crea una herramienta de apoyo a la decisión que es tanto computacionalmente eficiente como fundamentada en la experiencia humana real. La inteligencia artificial se encarga del trabajo pesado de estructura y organización, mientras que el humano proporciona los valores y la lógica específicos que hacen que la decisión sea significativa.

Este enfoque también ayuda a prevenir un riesgo sutil conocido como homogeneización cognitiva, donde todos comienzan a tomar decisiones de la misma manera porque todos están utilizando la misma inteligencia artificial. Si una organización depende únicamente de un modelo genérico, podrían perder su perspectiva única y los conocimientos específicos que provienen de su propia experiencia. Al construir su propio Modelo Mental de Experto, una organización preserva su forma distintiva de pensar. El modelo se convierte en un registro portátil de su sabiduría colectiva, que sobrevive incluso si los expertos que lo crearon dejan la organización. Asegura que el proceso de toma de decisiones sea transparente y responsable, en lugar de una caja negra que produce respuestas que nadie puede explicar.

El estudio no pretende haber resuelto todos los problemas. El método funciona mejor cuando la lógica de decisión sigue el principio de que mejorar una situación nunca empeora el resultado. También requiere que los expertos estén dispuestos a dedicar tiempo a articular sus pensamientos, lo que puede ser un desafío. En algunos casos, los expertos podrían tener dificultades para responder preguntas abstractas sin ver los detalles específicos, y el sistema necesita ser lo suficientemente flexible como para manejar esa incertidumbre. Además, aunque el método ha sido probado en simulaciones y revisado frente a estudios previos, los investigadores reconocen que se necesitan más pruebas en el mundo real para ver cómo se desempeña en entornos clínicos reales o con propuestas de subvenciones reales.

A pesar de estas limitaciones, los hallazgos ofrecen un camino claro hacia adelante para el uso de la inteligencia artificial en campos críticos. La clave es que la máquina no debe ser la que toma las decisiones. En cambio, debe ser la arquitecta del proceso de toma de decisiones, ayudando a construir una estructura que capture el juicio humano con precisión. Al hacerlo, evita la trampa de la alucinación y proporciona una herramienta que es tanto poderosa como confiable. El resultado es un sistema que no reemplaza al experto, sino que amplifica su capacidad para tomar decisiones sólidas, consistentes y explicables, incluso ante situaciones complejas e inciertas.