Towards Effective Orchestration of AI x DB Workloads

Este artigo aborda os desafios e propõe uma arquitetura para a orquestração eficiente de cargas de trabalho de IA integradas diretamente a bancos de dados (AIxDB), visando superar as limitações de desempenho, segurança e robustez inerentes aos métodos tradicionais de exportação de dados.

O essencial

Imagine que você tem uma biblioteca gigante (o Banco de Dados) e um gênio muito inteligente (a Inteligência Artificial). O objetivo é fazer o gênio responder perguntas complexas usando os livros da biblioteca.

O Problema Atual: A "Corrida de Carros" Ineficiente

Hoje, a maneira como fazemos isso é como se o gênio fosse um turista que não fala a língua local.

1. Ele pede ao bibliotecário para tirar cópias de todos os livros relevantes.
2. Ele sai da biblioteca, vai para um quarto separado (o ambiente de IA externo) para ler e analisar essas cópias.
3. Depois de analisar, ele volta, entrega o resultado e pede para o bibliotecário guardar as cópias de volta.

Isso é lento, gasta muita energia (transferência de dados), e se o gênio precisar de um livro específico que já estava na mesa, ele tem que sair e voltar de novo. Além disso, se houver 100 gênios tentando fazer isso ao mesmo tempo, a biblioteca fica um caos, e é difícil saber quem leu o quê (segurança).

A Solução Proposta: O "Restaurante Integrado"

Os autores deste paper (da Universidade Nacional de Cingapura e outras) propõem uma ideia nova: trazer o gênio para dentro da cozinha da biblioteca.

Eles criam um novo tipo de sistema chamado NeurEngine, onde a IA e o Banco de Dados são uma única entidade. É como se o gênio fosse um chef de cozinha que trabalha dentro do restaurante, em vez de pedir a comida para fora.

Aqui estão os três pilares dessa nova cozinha, explicados de forma simples:

1. Otimização Conjunta (O Chef e o Garçom Trabalhando Juntos)

• Como é hoje: O garçom (Banco de Dados) traz a mesa, e o chef (IA) cozinha. Eles não conversam. O garçom pode trazer 100 pratos, mas o chef só precisa de 3.
• A nova ideia: O garçom e o chef conversam o tempo todo. Se o chef sabe que vai precisar de tomate, o garçom já traz só o tomate, não a salada inteira.
• Na prática: O sistema decide, em tempo real, qual é a melhor maneira de misturar a busca de dados com a "cozinha" da IA. Se a IA precisa de dados de um jeito específico, o banco de dados já entrega pronto, sem desperdício.

2. Gerenciamento de Cache Unificado (A Estação de Preparo Inteligente)

• Como é hoje: Toda vez que o chef precisa de um ingrediente, ele vai ao armário, pega, usa e joga fora. Se outro chef precisar do mesmo ingrediente 1 segundo depois, ele tem que ir ao armário de novo.
• A nova ideia: Existe uma estação de preparo (Cache) onde os ingredientes mais usados ficam prontos e acessíveis.
• Na prática: Se dez pessoas pedem a mesma receita, o sistema prepara o "molho base" uma única vez e o compartilha com todos. Isso economiza tempo e evita que a cozinha fique lotada de gente procurando a mesma coisa. O sistema também sabe quando um ingrediente estragou (dados mudaram) e o substitui automaticamente.

3. Controle de Acesso e Isolamento (O Chefe de Segurança)

• Como é hoje: Se o gênio entra no quarto separado, ele pode ver coisas que não deveria, ou um gênio pode atrapalhar o trabalho do outro.
• A nova ideia: Como o gênio está dentro da cozinha, o chefe de segurança pode vigiar cada movimento.
• Na prática: O sistema garante que o gênio só pegue os livros que ele tem permissão para ler. Se um gênio estiver tentando ler um segredo, o sistema bloqueia. Além disso, se um gênio estiver cozinhando uma sopa que demora 1 hora, ele não pode deixar a outra pessoa sem fogão por 1 hora. O sistema divide o tempo e os recursos para que todos sejam atendidos de forma justa.

O Resultado: NeurEngine

Os autores criaram um protótipo chamado NeurEngine para testar essa ideia. Eles colocaram vários "gênios" (IA) e "bibliotecários" (Banco de Dados) trabalhando juntos em um mesmo ambiente.

O que eles descobriram?

• Mais rápido: O sistema ficou muito mais rápido porque não perde tempo transportando dados de um lugar para outro.
• Mais eficiente: Usou menos memória de computador (GPU) porque compartilhou o trabalho.
• Mais seguro: É muito mais fácil controlar quem vê o quê quando tudo acontece no mesmo lugar.

Resumo Final

Pense nisso como a diferença entre pedir um Uber (o modelo antigo: você sai, vai até o carro, volta) e ter um carro na garagem (o modelo novo: você sai, entra no carro e vai).

Este paper diz que, para o futuro da Inteligência Artificial, precisamos parar de tratar a IA como um "visitante" que vem de fora e começar a tratá-la como um "morador" nativo do banco de dados. Isso torna tudo mais rápido, mais barato e mais seguro.

Resumo técnico

Resumo Técnico: Orquestração Eficaz de Cargas de Trabalho AI x DB

1. O Problema

A análise impulsionada por IA tornou-se crucial para a tomada de decisões centrada em dados. No entanto, a prática dominante na indústria ainda segue o paradigma ineficiente de "exportar-executar-importar":

1. Os dados são extraídos do banco de dados.
2. São processados em runtimes de IA externos (fora do banco).
3. Os resultados são reimportados.

Esta abordagem gera três problemas principais:

• Alta Sobrecarga: O movimento de dados entre o banco e o runtime externo consome largura de banda e aumenta a latência.
• Fragilidade e Drift de Dados: A desconexão entre o modelo e os dados originais dificulta a adaptação a mudanças nos dados (data drift) e reduz a robustez.
• Superfície de Ataque e Segurança: A separação de sistemas expande a superfície de ataque e dificulta a aplicação de políticas de controle de acesso e isolamento de dados sensíveis durante a inferência.

Além disso, os motores de banco de dados atuais não foram projetados nativamente para orquestrar cargas de trabalho que combinam modelos de execução fundamentalmente divergentes: bancos de dados (otimização declarativa global, controle de concorrência) e runtimes de IA (otimização local de modelos, execução em lote assíncrona).

2. Metodologia e Visão

Os autores propõem uma nova classe de motores de banco de dados com Orquestração Nativa de Banco de Dados (Database-Native Orchestration) para cargas de trabalho AI×DB.

Definição de Carga de Trabalho AI×DB:
É definida como um fluxo de consultas onde operadores relacionais (SQL) e operadores de IA (treinamento, ajuste fino, inferência) são intercalados em um único plano declarativo. Essas cargas possuem três características distintivas:

1. Iterativas: Executadas em loops adaptativos (exploração e refinamento) por agentes de IA, não seguindo um plano estático único.
2. Concorrentes: Chegam em rajadas (bursty) devido a múltiplos agentes explorando caminhos de solução simultaneamente.
3. Compartilháveis: Há grande sobreposição de recuperação de dados, computações intermediárias e artefatos de IA entre iterações e execuções concorrentes.

Três Princípios de Design Propostos:

1. Co-otimização Holística AI×DB: O otimizador deve tratar operadores relacionais e de IA como entidades de primeira classe, otimizando-os conjuntamente para equilibrar trade-offs de custo e qualidade (ex: precisão vs. latência), em vez de otimizá-los separadamente.
2. Gerenciamento Unificado de Cache AI×DB: Criar um cache unificado para intermediários de banco de dados e artefatos de IA (embeddings, estados de modelos, caches KV) para evitar recomputação redundante e reinicialização de recursos.
3. Controle de Acesso e Isolamento de Alta Granularidade: Garantir que a execução de IA respeite políticas de acesso aos dados subjacentes e isole tenants em ambientes multi-tenant, prevenindo vazamento de dados através de inferências.

3. Contribuições Chave

A. Desafios de Design Identificados:

• Otimização Conjunta: Necessidade de regras de reescrita específicas para IA, seleção de implementações físicas (ex: onde colocar o modelo vs. onde estão os dados) e modelagem de custos/qualidade para modelos generativos (que são variáveis e dependem de tokens).
• Execução Auto-adaptativa: Reconciliar o processamento de fluxo síncrono do banco de dados com a execução em lote assíncrona da IA, garantindo semântica consistente (snapshots de dados) e recuperação robusta de falhas.
• Gestão de Cache: Definir abstrações unificadas para artefatos heterogêneos (vetores densos vs. esparsos) e políticas de substituição que considerem a localidade temporal de estados de modelos.
• Governança e Isolamento: Desenvolver técnicas de "slicing" de modelos para garantir que a inferência use apenas dados permitidos e criar níveis de isolamento compostos para diferentes estágios de um fluxo de trabalho de IA.

B. Protótipo: NeurEngine
Os autores implementaram o NeurEngine, um protótipo de prova de conceito baseado em PostgreSQL (NeurDB), que incorpora os princípios acima:

• Interface Declarativa Unificada: Extensões SQL (PREDICT, TRAIN ON) que permitem invocar modelos dentro de consultas analíticas.
• Otimizador Holístico: Realiza reescritas de plano, seleção de implementação física e planejamento consciente de cache, buscando minimizar latência sujeita a limites de qualidade.
• Motor de Execução Auto-dirigido: Executa planos físicos com batching dinâmico, eliminação de subexpressões comuns (CSE) entre consultas concorrentes e reescalonamento dinâmico de tarefas (migração de estados de execução e caches KV entre GPUs).
• Gerenciador de Buffer Compartilhado: Trata dados estruturados e artefatos de IA como objetos de cache de primeira classe, aprendendo políticas de colocação e evicção com base na telemetria em tempo real.

4. Resultados Experimentais

O NeurEngine foi avaliado em um servidor com 8 GPUs NVIDIA RTX 3090, utilizando duas cargas de trabalho reais:

1. Recomendação (Frappe): Previsão de uso de aplicativos.
2. Embeddings de Texto (Quora): Geração de embeddings de sentenças em ambiente multi-tenant.

Principais Achados:

• Escalabilidade: O NeurEngine mostrou escalabilidade quase linear ao aumentar o número de motores de IA de 1 para 16, superando significativamente a linha de base (que sofre com sobrecarga de transferência de dados e falta de co-otimização).
• Throughput em Multi-tenancy: Em cenários com 8 tenants concorrentes, o NeurEngine (com batching baseado em buckets de tamanho) alcançou maior throughput do que abordagens com modelos dedicados por tenant ou modelos compartilhados sem otimização de agendamento.
• Eficiência de Memória: Ao compartilhar um único modelo e gerenciar o cache de forma unificada, o NeurEngine reduziu drasticamente o uso de memória GPU em comparação com a abordagem de "modelo por tarefa", permitindo suportar mais tenants com a mesma hardware.

5. Significância e Impacto

Este trabalho é fundamental porque:

• Muda o Paradigma: Propõe sair da integração fraca (exportar-executar-importar) para uma orquestração nativa e profunda, onde a IA e o banco de dados são co-otimizados.
• Define uma Agenda de Pesquisa: Identifica lacunas críticas em otimização de consultas, gerenciamento de cache para estados de modelos e governança de segurança para IA.
• Demonstra Viabilidade: O protótipo NeurEngine prova que é possível construir um sistema que oferece melhor desempenho, menor latência e maior eficiência de recursos para cargas de trabalho híbridas, mantendo as garantias de transação e segurança dos bancos de dados tradicionais.

Em suma, o artigo estabelece as bases para a próxima geração de bancos de dados orientados a IA, capazes de suportar agentes autônomos e fluxos de trabalho analíticos complexos de forma eficiente e segura.