Reliability by Design: A Shared Schema-Metadata Grounding and Catalogue-Constrained Extraction Architecture for Safe Natural-Language Access to Legacy Enterprise Systems

Na vasta e silenciosa maquinaria das instituições modernas, de universidades a hospitais, os dados permanecem guardados em arquivos digitais massivos. Esses sistemas, conhecidos como plataformas de planejamento de recursos empresariais, detêm os registros de admissões, exames, bolsas de pesquisa e governança. Durante anos, as pessoas que precisam fazer perguntas sobre esses dados — administradores, oficiais de qualidade e coordenadores — foram incapazes de fazê-lo diretamente. Elas não conseguem falar a linguagem do banco de dados, um código complexo chamado SQL, de modo que devem depender de um pequeno grupo de especialistas técnicos para traduzir suas perguntas em consultas. Isso cria um gargalo, retardando a tomada de decisões e mantendo o pessoal não técnico dependente de intermediários. Recentemente, um novo tipo de programa de computador, chamado modelo de linguagem de grande escala, prometeu resolver isso ao permitir que qualquer pessoa faça perguntas em inglês comum e receba respostas instantaneamente. No entanto, quando esses modelos poderosos são conectados diretamente a sistemas de negócios críticos e vivos, eles se tornam perigosos. Sem salvaguardas estritas, eles podem inventar conexões entre tabelas de dados que não existem, supor o significado de valores codificados ou acidentalmente expor informações sensíveis. O resultado é um sistema que pode parecer útil, mas produz respostas erradas ou, pior, quebra as regras de segurança e privacidade.

Uma equipe de pesquisadores da Desh Bhagat University construiu uma nova maneira de conectar a linguagem natural a esses sistemas legados que prioriza a segurança sobre o poder bruto do modelo de computador. Eles argumentam que a confiabilidade neste cenário não é uma questão de tornar a inteligência artificial mais inteligente ou maior, mas de mudar a própria arquitetura do sistema. Em vez de deixar o modelo de linguagem escrever as consultas ao banco de dados diretamente, eles criaram uma estrutura onde o modelo é permitido apenas escolher a partir de uma lista de opções pré-aprovadas. Os pesquisadores testaram essa abordagem em um sistema universitário do mundo real contendo aproximadamente 800 tabelas de dados, um sistema que carece dos marcadores de segurança padrão encontrados em bancos de dados modernos. Suas descobertas mostram que, ao controlar estritamente o que o modelo pode fazer, eles podem alcançar zero erros nos comandos finais do banco de dados, independentemente de quão grande ou pequeno seja o modelo de linguagem. O sistema funciona não por meio de suposições, mas fundamentando cada solicitação em um mapa curado dos dados que existem antes mesmo da conversa começar.

O cerne desta solução é uma nova maneira de organizar a estrutura oculta do software. Em muitos sistemas empresariais mais antigos, o banco de dados não declara explicitamente como diferentes partes da informação se relacionam entre si; essas conexões existem apenas dentro do código da aplicação. Para corrigir isso, os pesquisadores construíram um "Grafo de Navegação de Metadados de Esquema". Imagine isso como um mapa detalhado e legível por máquina que traduz as conexões confusas e implícitas do software em um guia claro e estruturado. Este mapa vincula as áreas funcionais de alto nível do sistema, como "admissão" ou "pesquisa", até páginas, colunas e as tabelas de dados reais. Crucialmente, este mapa também contém uma lista de modelos de relatórios aprovados e o código exato e pré-escrito necessário para recuperar dados para cada um deles. Ele atua como um substituto para os marcadores de segurança ausentes, garantindo que o computador saiba exatamente como unir diferentes partes da informação sem ter que adivinhar.

Quando um usuário faz uma pergunta, o sistema não permite que o modelo de linguagem escreva um novo comando de banco de dados do zero. Em vez disso, o modelo atua como um selecionador. Ele ouve a solicitação do usuário e, usando o contexto de onde o usuário está trabalhando atualmente no software, identifica as partes mais relevantes do mapa pré-aprovado. O modelo então extrai uma especificação estruturada, essencialmente escolhendo de uma lista branca de modelos de relatórios conhecidos e seguros. Ele nunca gera o código de banco de dados propriamente dito. Uma vez que o modelo tenha feito sua seleção, um software separado e confiável assume o controle. Este código determinístico monta a consulta final usando os fragmentos fixos e pré-verificados armazenados no mapa. Como o código é montado a partir de partes conhecidas e seguras, em vez de ser gerado na hora, é impossível para o sistema produzir um comando que injete código malicioso, faça referência a uma coluna que não existe ou junte tabelas de uma forma que retorne os dados errados.

Os pesquisadores implementaram esta arquitetura em um sistema de ensino superior vivo que atende a cinco diferentes estruturas de acreditação. Eles testaram o sistema rigorosamente, incluindo um teste de estresse onde tentaram enganar o modelo para cometer erros. Os resultados foram definitivos: o sistema produziu zero comandos de banco de dados inválidos. Essa segurança manteve-se verdadeira tanto se usassem um modelo de linguagem pequeno e de código aberto quanto um muito maior e proprietário. Na verdade, o modelo menor teve o mesmo desempenho que o maior, provando que a segurança vem do design do sistema, não do tamanho do cérebro por trás dele. No uso do mundo real, as partes interessadas relataram que o sistema retornou relatórios corretos cerca de 85 por cento das vezes. As solicitações restantes foram recusadas com segurança em vez de serem adivinhadas, evitando os erros silenciosos que assolam outros sistemas.

Esta abordagem também resolve um problema de custo e manutenção. Como o sistema depende de uma lista curada do que os usuários realmente pedem, em vez de tentar entender todo o esquema do banco de dados, o esforço necessário para mantê-lo é muito menor. Os pesquisadores descobriram que podiam adicionar novas capacidades de relatório simplesmente adicionando uma única entrada ao seu mapa, sem a necessidade de retreinar a inteligência artificial ou reescrever códigos complexos. Além disso, eles projetaram o sistema para ter duas camadas: uma camada reativa que responde às perguntas dos usuários e uma camada proativa que monitora automaticamente as métricas de conformidade. Ambas as camadas compartilham o mesmo mapa subjacente, o que significa que a organização não precisa construir dois sistemas separados para obter tanto ajuda conversacional quanto verificações de segurança automatizadas.

O estudo conclui que, para sistemas empresariais críticos, o caminho para o acesso por linguagem natural confiável não é construir modelos maiores que possam raciocinar através de dados complexos, mas sim construir arquiteturas que restrinjam os modelos a caminhos seguros e verificados. Ao mover a tarefa de gerar comandos de banco de dados para longe do modelo de linguagem e para um processo determinístico e confiável, os pesquisadores criaram um sistema que é ao mesmo tempo seguro e prático. Este design oferece uma maneira de as instituições desbloquearem o valor de seus dados sem arriscar a integridade de seus registros, provando que, no mundo dos dados empresariais, a segurança é uma propriedade da estrutura, não da escala.