Towards Effective Orchestration of AI x DB Workloads

Cet article examine les défis de l'intégration directe de l'IA dans les moteurs de bases de données pour optimiser les performances et la sécurité des systèmes de données, tout en présentant une architecture et des résultats préliminaires pour la gestion conjointe des requêtes et des modèles.

L'essentiel

🌟 Le Titre : Vers une Conduite Plus Intelligente des Données et de l'IA

Imaginez que vous avez une bibliothèque géante (c'est votre base de données) et un génie très brillant (c'est votre Intelligence Artificielle). Aujourd'hui, pour résoudre un problème, on fait souvent ceci : on sort les livres de la bibliothèque, on les emmène dans le bureau du génie pour qu'il les lise, puis on rapporte les résultats. C'est lent, ça prend beaucoup de place, et c'est risqué (on peut perdre des livres ou les génies peuvent lire ce qu'ils ne devraient pas).

Ce papier propose une idée révolutionnaire : faire vivre le génie directement dans la bibliothèque.

🚀 Le Problème : Le Paradigme "Export-Exécuter-Importer"

Aujourd'hui, la plupart des entreprises fonctionnent comme un système de livraison inefficace :

1. Export : On sort les données de la base de données.
2. Exécuter : On les envoie à un moteur d'IA externe pour les analyser.
3. Importer : On ramène les résultats dans la base de données.

L'analogie du restaurant :
C'est comme si un client commandait un plat, et que le chef devait sortir de la cuisine, aller acheter les ingrédients au marché, les cuisiner dans sa propre maison, puis revenir les servir. C'est lent, coûteux en énergie, et le client a faim longtemps ! De plus, si le chef change d'avis en cours de route (ce qui arrive souvent avec l'IA), il faut tout recommencer.

💡 La Solution : L'Orchestration "Native" (NeurEngine)

Les auteurs proposent de construire une nouvelle génération de bases de données où l'IA et les données sont nativement intégrées. Ils appellent cela "AI×DB".

Imaginez que le chef (l'IA) travaille dans la cuisine (la base de données). Il a accès aux ingrédients instantanément, il peut changer de recette en cours de route sans quitter son poste, et il peut partager ses outils avec d'autres chefs.

Pour y arriver, ils définissent trois règles d'or :

1. La Danse en Duo (Co-optimisation Holistique)

Au lieu de décider séparément "quels livres chercher" et "comment les analyser", le système décide les deux en même temps.

• L'analogie : C'est comme un couple de danseurs qui s'entraîne ensemble. Au lieu que l'un choisisse la musique et l'autre les pas, ils négocient en temps réel pour faire la meilleure performance possible. Si l'IA a besoin de moins de données, la base de données arrête de chercher des livres inutiles.

2. Le Garde-Magasin Intelligent (Gestion Unifiée du Cache)

L'IA et les bases de données génèrent beaucoup de "déchets" ou de "brouillons" (comme des résumés, des vecteurs, des modèles).

• L'analogie : Imaginez un chef qui prépare une sauce. S'il doit la faire 10 fois pour 10 clients différents, il ne la refait pas 10 fois de zéro. Il la garde dans un garde-manger spécial. Ce papier propose un garde-manger unique qui stocke à la fois les ingrédients (données) et les sauces préparées (résultats d'IA) pour ne jamais les refaire inutilement.

3. Les Portes Sécurisées (Contrôle d'Accès Fin)

Quand l'IA travaille, elle peut parfois "deviner" des informations secrètes qu'elle ne devrait pas voir, même si elle n'a pas lu le document directement.

• L'analogie : C'est comme si un visiteur dans une maison pouvait deviner ce qu'il y a dans le coffre-fort juste en regardant la poussière sur le sol. Le nouveau système met en place des gardes très stricts qui surveillent non seulement qui entre, mais aussi ce que l'IA peut déduire de ses calculs, pour éviter les fuites d'informations.

🛠️ Le Prototype : NeurEngine

Les chercheurs ont construit un prototype appelé NeurEngine pour prouver que c'est possible.

• Comment ça marche ? Ils ont créé un langage spécial (une extension du SQL) qui permet de dire : "Cherche ces données, entraîne ce modèle, et prédis ce résultat" en une seule phrase.
• Le résultat ? Dans leurs tests, ce système est beaucoup plus rapide (presque linéairement plus rapide quand on ajoute des puces graphiques) et consomme beaucoup moins de mémoire que les méthodes actuelles.

🎯 En Résumé

Ce papier dit : "Arrêtons de transporter l'IA vers les données. Mettons l'IA dans la base de données."

C'est comme passer d'un système où l'on doit faire des allers-retours entre la maison et le bureau pour travailler, à un système où l'on a un bureau complet installé dans son salon. C'est plus rapide, plus sécurisé, et surtout, beaucoup plus efficace pour gérer les tâches complexes où l'IA et les données doivent travailler ensemble en temps réel.

L'objectif final est de permettre à des agents intelligents (des robots logiciels) de naviguer dans nos données, de poser des questions, d'apprendre et de prendre des décisions sans ralentir le système ni compromettre la sécurité.

Résumé technique

1. Problématique et Contexte

L'essor rapide des agents IA transforme fondamentalement l'exécution des tâches centrées sur les données. Traditionnellement, le paradigme dominant pour l'analyse assistée par l'IA suit une approche « export-exécuter-importer » : les données sont extraites de la base de données (DB), traitées dans des environnements d'exécution externes (runtimes ML), puis réinjectées.

Ce modèle présente plusieurs limitations critiques :

• Surcharge et Latence : Le transfert de données entre la DB et les runtimes externes génère un surcoût important.
• Robustesse et Drift des données : L'absence de gestion native des données rend le système sensible aux dérives de données (data drift).
• Sécurité et Gouvernance : L'exportation des données élargit la surface d'attaque et complique le contrôle d'accès fin, surtout dans des environnements multi-locataires.
• Optimisation fragmentée : Les moteurs de bases de données actuels ne sont pas conçus pour orchestrer nativement des charges de travail hybrides (AI×DB) qui combinent des modèles d'exécution divergents (traitement déclaratif vs exécution de modèles). Les opérateurs IA sont souvent traités comme des « boîtes noires », empêchant l'optimisation conjointe des coûts, de la qualité et des ressources.

2. Méthodologie et Vision

Les auteurs proposent une nouvelle classe de moteurs de bases de données intégrant une orchestration native de la base de données pour les charges de travail AI×DB.

Définition de la Charge de Travail AI×DB

Une charge de travail AI×DB est définie comme un flux de requêtes où le traitement relationnel est entrelacé avec l'exécution de modèles d'IA (entraînement, fine-tuning, inférence). Ces charges de travail se distinguent par trois caractéristiques clés :

1. Itératif : Exécution sous forme de boucles adaptatives (exploration et raffinement) plutôt que d'un plan statique unique.
2. Concurrent : Arrivées en rafales (bursty) dues à la parallélisation des agents IA explorant différents chemins de solution.
3. Partageable : Forte redondance dans la récupération des données, les calculs intermédiaires et les artefacts IA entre les itérations et les exécutions concurrentes.

Principes de Conception Fondamentaux

Pour répondre à ces défis, trois principes directeurs sont établis :

1. Co-optimisation Holistique AI×DB : Optimisation conjointe des opérateurs relationnels et IA pour maximiser l'efficacité globale, plutôt que de les optimiser séparément.
2. Gestion Unifiée du Cache AI×DB : Traitement des artefacts IA (embeddings, caches de clés-valeurs, états de modèles) comme des objets de premier ordre pour éviter les recalculs et les transferts redondants.
3. Contrôle d'Accès Fin et Isolation : Mise en place de mécanismes de sécurité et d'isolation adaptés aux exécutions IA, empêchant les fuites de données via l'inférence et assurant l'isolation entre locataires.

3. Contributions Clés et Défis de Conception

Le papier identifie et aborde plusieurs défis techniques majeurs :

• Optimisation de Requête Conjoints :

  • Nécessité de règles de réécriture spécifiques à l'IA pour simplifier les plans physiques (ex: propagation de prédicats à travers les pipelines de featurisation).
  • Choix des implémentations physiques (placement des modèles sur GPU/CPU, stratégies de parallélisme) intégrés dans l'espace de recherche de l'optimiseur.
  • Modélisation précise des coûts et de la qualité pour les modèles génératifs (coûts variables selon le nombre de tokens) et discriminatifs.

• Exécution Auto-Adaptative :

  • Réconciliation entre le traitement relationnel orienté flux (synchrones) et l'exécution IA orientée par lots (asynchrones).
  • Gestion dynamique de la mise en lot (batching) pour équilibrer la latence par requête et le débit global, tout en maintenant la cohérence des snapshots de données.

• Gestion du Cache Unifiée :

  • Définition d'une abstraction de cache capable de gérer des objets hétérogènes (tenseurs, embeddings) avec des conditions de validité complexes (liées aux versions de modèles ou aux données).
  • Politiques de remplacement adaptatives (apprentissage) pour gérer la mémoire GPU, la mémoire hôte et le stockage secondaire sous forte concurrence.

• Sécurité et Isolation :

  • Développement de techniques de « slicing » de modèles pour garantir que l'inférence n'utilise que des données autorisées.
  • Audit des fuites potentielles spécifiques à l'IA (inférence d'appartenance, inversion d'embeddings).
  • Conception de niveaux d'isolation composites et de transactions forkables pour supporter les workflows d'agents exploratoires.

4. Prototype : NeurEngine

Les auteurs ont implémenté un prototype nommé NeurEngine pour valider leur approche.

• Architecture : Fonctionne sur une infrastructure CPU/GPU désagrégée partagée.
• Composants :
  • Interface Déclarative Unifiée : Extensions SQL (PREDICT, TRAIN ON) permettant d'interroger les modèles directement.
  • Compilateur et Optimiseur Holistiques : Génère des plans physiques en explorant conjointement les transformations de plans DB/IA et les choix d'implémentation physique, en tenant compte du cache.
  • Moteur d'Exécution Auto-Piloté : Réalise l'exécution des plans physiques avec une mise en lot dynamique, une élimination des sous-expressions communes (CSE) entre requêtes et un réordonnancement dynamique des tâches (migration de requêtes et d'états KV-cache entre GPU pour équilibrer la charge).
  • Gestionnaire de Cache Partagé : Gère unifiée les données structurées et les artefacts de modèles.

5. Résultats Expérimentaux

Les évaluations ont été menées sur un serveur équipé de 8 GPU NVIDIA RTX 3090, comparant NeurEngine à des approches de base (baselines) utilisant le paradigme export-exécuter-importer ou des modèles de mise en lot isolés par locataire.

• Scalabilité : NeurEngine montre une scalabilité quasi-linéaire avec le nombre de moteurs d'IA disponibles, contrairement aux baselines qui souffrent de surcoûts de transfert de données et d'un manque d'optimisation croisée.
• Débit (Throughput) : Dans des scénarios multi-locataires, NeurEngine (avec des politiques de mise en lot par « bucket » basées sur la longueur des séquences) surpasse significativement les approches isolées en évitant la fragmentation et en réduisant le padding inutile.
• Utilisation Mémoire GPU : En partageant un seul modèle entre les locataires (au lieu de charger une réplique par locataire), NeurEngine réduit considérablement l'empreinte mémoire GPU, permettant de servir un plus grand nombre de locataires simultanément.

6. Signification et Impact

Ce travail marque une étape importante vers la convergence des systèmes de gestion de bases de données et des moteurs d'IA.

• Changement de Paradigme : Il propose de passer d'une intégration externe (via UDF ou API) à une orchestration native où l'IA est un citoyen de première classe du moteur de base de données.
• Efficacité et Gouvernance : Il démontre qu'une approche unifiée permet non seulement d'améliorer les performances (latence, débit) et l'utilisation des ressources, mais aussi de renforcer la sécurité et la gouvernance des données dans des environnements complexes.
• Agenda de Recherche : Le papier établit une feuille de route pour la communauté de recherche, appelant à développer des abstractions partagées, des benchmarks et des fondations système pour des moteurs AI×DB efficaces, évolutifs et gouvernables.

En résumé, le papier argue que l'avenir de l'analytique pilotée par l'IA réside dans la conception de moteurs de bases de données capables de gérer nativement la complexité des boucles d'exécution itératives, du partage de ressources et des contraintes de sécurité inhérentes aux charges de travail AI×DB.