Reliability by Design: A Shared Schema-Metadata Grounding and Catalogue-Constrained Extraction Architecture for Safe Natural-Language Access to Legacy Enterprise Systems

En la vasta y silenciosa maquinaria de las instituciones modernas, desde universidades hasta hospitales, los datos yacen guardados en enormes archivos digitales. Estos sistemas, conocidos como plataformas de planificación de recursos empresariales, contienen los registros de admisiones, exámenes, subvenciones de investigación y gobernanza. Durante años, las personas que necesitan hacer preguntas sobre estos datos —administradores, oficiales de calidad y coordinadores— no han podido hacerlo directamente. No pueden hablar el lenguaje de la base de datos, un código complejo llamado SQL, por lo que deben depender de un pequeño grupo de especialistas técnicos para traducir sus preguntas en consultas. Esto crea un cuello de botella, ralentizando la toma de decisiones y manteniendo al personal no técnico dependiente de intermediarios. Recientemente, un nuevo tipo de programa informático, llamado modelo de lenguaje de gran tamaño, ha prometido resolver esto permitiendo que cualquiera haga preguntas en lenguaje natural y reciba respuestas al instante. Sin embargo, cuando estos poderosos modelos se conectan directamente a sistemas de negocio críticos y en vivo, se vuelven peligrosos. Sin salvaguardas estrictas, pueden inventar conexiones entre tablas de datos que no existen, suponer el significado de valores codificados o exponer accidentalmente información sensible. El resultado es un sistema que puede parecer útil pero que produce respuestas erróneas o, peor aún, rompe las reglas de seguridad y privacidad.

Un equipo de investigadores de la Universidad Desh Bhagat ha construido una nueva forma de conectar el lenguaje natural con estos sistemas heredados que prioriza la seguridad sobre la potencia bruta del modelo informático. Argumentan que la fiabilidad en este entorno no es una cuestión de hacer la inteligencia artificial más inteligente o más grande, sino de cambiar la arquitectura del propio sistema. En lugar de permitir que el modelo de lenguaje escriba las consultas de la base de datos directamente, crearon una estructura donde el modelo solo tiene permitido elegir de una lista de opciones preaprobadas. Los investigadores probaron este enfoque en un sistema universitario real que contiene aproximadamente 800 tablas de datos, un sistema que carece de los marcadores de seguridad estándar que se encuentran en las bases de datos modernas. Sus hallazgos muestran que, al controlar estrictamente lo que el modelo puede hacer, pueden lograr cero errores en los comandos finales de la base de datos, independientemente de cuán grande o pequeño sea el modelo de lenguaje. El sistema funciona no mediante conjeturas, sino fundamentando cada solicitud en un mapa curado de los datos existentes antes de que comience la conversación.

El núcleo de esta solución es una nueva forma de organizar la estructura oculta del software. En muchos sistemas empresariales antiguos, la base de datos no establece explícitamente cómo se relacionan entre sí las diferentes piezas de información; estas conexiones existen solo dentro del código de la aplicación. Para solucionar esto, los investigadores construyeron un "Grafo de Navegación de Metadatos de Esquema". Imagine esto como un mapa detallado y legible por máquina que traduce las conexiones desordenadas e implícitas del software en una guía clara y estructurada. Este mapa vincula las áreas funcionales de alto nivel del sistema, como "admisiones" o "investigación", con páginas, columnas y las tablas de datos reales. Crucialmente, este mapa también contiene una lista de plantillas de informes aprobadas y el código exacto y preescrito necesario para recuperar datos para cada una. Actúa como un sustituto de los marcadores de seguridad faltantes, asegurando que la computadora sepa exactamente cómo unir diferentes piezas de información sin tener que adivinar.

Cuando un usuario hace una pregunta, el sistema no permite que el modelo de lenguaje escriba un nuevo comando de base de datos desde cero. En su lugar, el modelo actúa como un selector. Escucha la solicitud del usuario y, utilizando el contexto de dónde se encuentra el usuario actualmente en el software, identifica las partes más relevantes del mapa preaprobado. El modelo extrae entonces una especificación estructurada, esencialmente eligiendo de una lista blanca de plantillas de informes conocidas y seguras. Nunca genera el código de la base de datos real. Una vez que el modelo ha realizado su selección, un software separado y de confianza toma el control. Este código determinista ensambla la consulta final utilizando los fragmentos fijos y verificados previamente almacenados en el mapa. Debido a que el código se ensambla a partir de partes conocidas y seguras en lugar de generarse sobre la marcha, es imposible que el sistema produzca un comando que inyecte código malicioso, haga referencia a una columna que no existe o una la de tablas de una manera que devuelva los datos incorrectos.

Los investigadores implementaron esta arquitectura en un sistema de educación superior en vivo que sirve a cinco marcos de acreditación diferentes. Probaron el sistema rigurosamente, incluyendo una prueba de control donde intentaron engañar al modelo para que cometiera errores. Los resultados fueron definitivos: el sistema produjo cero comandos de base de datos inválidos. Esta seguridad se mantuvo constante, ya fuera que utilizaran un modelo de lenguaje pequeño y de código abierto o uno propietario mucho más grande. De hecho, el modelo más pequeño funcionó tan bien como el más grande, demostrando que la seguridad proviene del diseño del sistema, no del tamaño del cerebro detrás de él. En el uso del mundo real, las partes interesadas informaron que el sistema devolvía informes correctos aproximadamente el 85 por ciento de las veces. Las solicitudes restantes fueron rechazadas de forma segura en lugar de ser adivinadas, evitando los errores silenciosos que plagan a otros sistemas.

Este enfoque también resuelve un problema de costo y mantenimiento. Debido a que el sistema depende de una lista curada de lo que los usuarios realmente piden, en lugar de intentar comprender todo el esquema de la base de datos, el esfuerzo requerido para mantenerlo es mucho menor. Los investigadores descubrieron que podían añadir nuevas capacidades de reporte simplemente añadiendo una única entrada a su mapa, sin necesidad de reentrenar la inteligencia artificial o reescribir código complejo. Además, diseñaron el sistema para que tuviera dos capas: una capa reactiva que responde a las preguntas de los usuarios y una capa proactiva que monitorea automáticamente las métricas de cumplimiento. Ambas capas comparten el mismo mapa subyacente, lo que significa que la organización no necesita construir dos sistemas separados para obtener tanto ayuda conversacional como controles de seguridad automatizados.

El estudio concluye que, para los sistemas empresariales críticos, el camino hacia un acceso de lenguaje natural fiable no es construir modelos más grandes que puedan razonar a través de datos complejos, sino construir arquitecturas que restrinjan a los modelos a caminos seguros y verificados. Al desplazar la tarea de generar comandos de base de datos fuera del modelo de lenguaje y hacia un proceso determinista y de confianza, los investigadores han creado un sistema que es tanto seguro como práctico. Este diseño ofrece una forma para que las instituciones desbloqueen el valor de sus datos sin arriesgar la integridad de sus registros, demostrando que, en el mundo de los datos empresariales, la seguridad es una propiedad de la estructura, no de la escala.