Reliability by Design: A Shared Schema-Metadata Grounding and Catalogue-Constrained Extraction Architecture for Safe Natural-Language Access to Legacy Enterprise Systems

Dans la vaste et silencieuse machinerie des institutions modernes, des universités aux hôpitaux, les données reposent enfermées dans de massifs archives numériques. Ces systèmes, connus sous le nom de plateformes de planification des ressources de l'entreprise, détiennent les registres des admissions, des examens, des subventions de recherche et de la gouvernance. Pendant des années, les personnes qui avaient besoin de poser des questions sur ces données — administrateurs, responsables de la qualité et coordonnateurs — ont été incapables de le faire directement. Elles ne peuvent pas parler le langage de la base de données, un code complexe appelé SQL, et doivent donc compter sur un petit groupe de spécialistes techniques pour traduire leurs questions en requêtes. Cela crée un goulot d'étranglement, ralentissant la prise de décision et maintenant le personnel non technique dans une dépendance vis-à-vis d'intermédiaires. Récemment, un nouveau type de programme informatique, appelé modèle de langage étendu, a promis de résoudre ce problème en permettant à n'importe qui de poser des questions en langage clair et de recevoir des réponses instantanément. Cependant, lorsque ces modèles puissants sont connectés directement à des systèmes commerciaux critiques et en direct, ils deviennent dangereux. Sans garde-fous stricts, ils peuvent inventer des connexions entre des tables de données qui n'existent pas, deviner le sens de valeurs codées ou exposer accidentellement des informations sensibles. Le résultat est un système qui peut sembler utile mais qui produit de mauvaises réponses ou, pire encore, enfreint les règles de sécurité et de confidentialité.

Une équipe de chercheurs de l'Université Desh Bhagat a construit une nouvelle façon de connecter le langage naturel à ces systèmes hérités qui privilégie la sécurité plutôt que la puissance brute du modèle informatique. Ils soutiennent que la fiabilité dans ce contexte n'est pas une question de rendre l'intelligence artificielle plus intelligente ou plus grande, mais de changer l'architecture même du système. Au lieu de laisser le modèle de langage écrire directement les requêtes de la base de données, ils ont créé une structure où le modèle n'est autorisé qu'à choisir parmi une liste d'options pré-approuvées. Les chercheurs ont testé cette approche sur un système universitaire réel contenant environ 800 tables de données, un système qui manque des marqueurs de sécurité standards présents dans les bases de données modernes. Leurs conclusions montrent qu'en contrôlant strictement ce que le modèle peut faire, ils peuvent atteindre zéro erreur dans les commandes de base de données finales, quelle que soit la taille du modèle de langage utilisé. Le système ne fonctionne pas par supposition, mais en ancrant chaque requête dans une carte curatée des données existantes avant même le début de la conversation.

Le cœur de cette solution est une nouvelle façon d'organiser la structure cachée du logiciel. Dans de nombreux systèmes d'entreprise plus anciens, la base de données n'indique pas explicitement comment les différentes pièces d'information sont liées entre elles ; ces connexions n'existent qu'à l'intérieur du code de l'application. Pour corriger cela, les chercheurs ont construit un « Graphe de Navigation de Métadonnées de Schéma ». Imaginez cela comme une carte détaillée et lisible par machine qui traduit les connexions implicites et désordonnées du logiciel en un guide clair et structuré. Cette carte relie les domaines fonctionnels de haut niveau du système, comme « l'admission » ou la « recherche », jusqu'aux pages, colonnes et tables de données spécifiques. Crucialement, cette carte contient également une liste de modèles de rapports approuvés et le code exact, pré-écrit, nécessaire pour extraire les données de chacun d'eux. Elle agit comme un substitut aux marqueurs de sécurité manquants, garantissant que l'ordinateur sache exactement comment joindre les différentes pièces d'information sans avoir à deviner.

Lorsqu'un utilisateur pose une question, le système ne laisse pas le modèle de langage écrire une nouvelle commande de base de données à partir de zéro. Au lieu de cela, le modèle agit comme un sélecteur. Il écoute la requête de l'utilisateur et, en utilisant le contexte de l'endroit où l'utilisateur travaille actuellement dans le logiciel, il identifie les parties les plus pertinentes de la carte pré-approuvée. Le modèle extrait ensuite une spécification structurée, choisissant essentiellement parmi une liste blanche de modèles de rapports connus et sûrs. Il ne génère jamais le code de base de données proprement dit. Une fois que le modèle a fait sa sélection, un autre morceau de logiciel, fiable et distinct, prend le relais. Ce code déterministe assemble la requête finale en utilisant les fragments fixes et vérifiés stockés dans la carte. Parce que le code est assemblé à partir de parties connues et sûres plutôt que d'être généré à la volée, il est impossible pour le système de produire une commande qui injecte du code malveillant, référence une colonne inexistante ou joint des tables d'une manière qui renvoie les mauvaises données.

Les chercheurs ont déployé cette architecture sur un système d'enseignement supérieur en direct servant cinq cadres d'accréditation différents. Ils ont testé le système rigoureusement, incluant un test de référence où ils ont tenté de piéger le modèle pour provoquer des erreurs. Les résultats ont été définitifs : le système a produit zéro commande de base de données invalide. Cette sécurité s'est maintenue, qu'ils utilisent un petit modèle de langage open-source ou un modèle propriétaire beaucoup plus grand. En fait, le plus petit modèle a performé aussi bien que le plus grand, prouvant que la sécurité provient de la conception du système, et non de la taille du cerveau qui est derrière. Dans une utilisation réelle, les parties prenantes ont rapporté que le système renvoyait des rapports corrects environ 85 % du temps. Les requêtes restantes étaient sagement refusées plutôt que devinées, évitant ainsi les erreurs silencieuses qui empoisonnent les autres systèmes.

Cette approche résout également un problème de coût et de maintenance. Parce que le système repose sur une liste curatée de ce que les utilisateurs demandent réellement, plutôt que d'essayer de comprendre l'intégralité du schéma de la base de données, l'effort requis pour le maintenir est bien moindre. Les chercheurs ont constaté qu'ils pouvaient ajouter de nouvelles capacités de reporting simplement en ajoutant une seule entrée dans leur carte, sans avoir besoin de réentraîner l'intelligence artificielle ou de réécrire un code complexe. De plus, ils ont conçu le système pour qu'il possède deux couches : une couche réactive qui répond aux questions des utilisateurs et une couche proactive qui surveille automatiquement les mesures de conformité. Les deux couches partagent la même carte sous-jacente, ce qui signifie que l'organisation n'a pas besoin de construire deux systèmes distincts pour obtenir à la fois une aide conversationnelle et des contrôles de sécurité automatisés.

L'étude conclut que pour les systèmes d'entreprise critiques, la voie vers un accès par langage naturel fiable n'est pas de construire des modèles plus grands capables de raisonner à travers des données complexes, mais de construire des architectures qui contraignent les modèles à des chemins sûrs et vérifiés. En déplaçant la tâche de génération des commandes de base de données du modèle de langage vers un processus déterministe et de confiance, les chercheurs ont créé un système qui est à la fois sûr et pratique. Cette conception offre un moyen aux institutions de débloquer la valeur de leurs données sans risquer l'intégrité de leurs registres, prouvant que dans le monde des données d'entreprise, la sécurité est une propriété de la structure, et non de l'échelle.