Retrieval with Multiple Query Vectors through Anomalous Pattern Detection

Résumé technique : Récupération avec plusieurs vecteurs de requête par détection de motifs anormaux

Formulation du problème
Les systèmes classiques de récupération vectorielle fonctionnent généralement selon un paradigme de requête unique, où un seul vecteur d'incorporation est utilisé pour récupérer les vecteurs les plus similaires d'une base de données en fonction de métriques de proximité (par exemple, similarité cosinus, distance euclidienne). Cependant, les tâches complexes de raisonnement et de récupération impliquent souvent plusieurs vecteurs de requête qui capturent différents aspects de l'intention de l'utilisateur (par exemple, un paragraphe où chaque phrase représente une contrainte ou une caractéristique distincte). Les approches existantes de récupération multi-requêtes agrègent souvent ces vecteurs en une seule incorporation via des heuristiques ou les traitent indépendamment, éliminant ainsi des relations inter-requêtes précieuses. De plus, les métriques standard basées sur la distance peuvent échouer à capturer des relations complexes, non linéaires et dépendantes du contexte inhérentes aux incorporations de haute dimension, en particulier celles provenant de grands modèles de langage (LLM).

Ce travail aborde le défi de la récupération de vecteurs de base de données pertinents étant donné un ensemble de plusieurs vecteurs de requête $Q = \{q_1, q_2, \dots, q_M\}$, sans exiger que le nombre de vecteurs à récupérer soit spécifié à l'avance.

Méthodologie
Les auteurs proposent un cadre de récupération fondé sur la détection de motifs anormaux. L'hypothèse centrale est que l'ensemble des vecteurs de requête partage un « motif anormal » spécifique — un sous-ensemble de dimensions vectorielles où les valeurs dévient conjointement de manière significative de la distribution observée dans la base de données $D$. Les vecteurs de base de données les plus pertinents sont ceux qui présentent ce même motif anormal conjoint.

L'approche étend les algorithmes de balayage profond (McFowland, Speakman et Neill 2013 ; Cintas et al. 2021, 2022) au contexte de la récupération via un processus en deux étapes :

1. Identifier les dimensions anormales : Étant donné l'ensemble de requêtes $Q$, l'algorithme identifie un sous-ensemble de dimensions vectorielles $O^*_S$ qui capturent le mieux les caractéristiques distinctives des requêtes.

   • La méthode suppose que le motif anormal correspond à des valeurs particulièrement faibles (dans la queue inférieure $\alpha$) par rapport à la distribution de la base de données.
   • Elle normalise les dimensions à l'aide de scores z ($z_{ml} = \frac{q_{ml} - \mu_l}{\sigma_l}$), où $\mu_l$ et $\sigma_l$ sont la moyenne et l'écart-type de la dimension $l$ à travers la base de données $D$.
   • Une statistique de balayage non paramétrique (spécifiquement la statistique Berk–Jones) est utilisée comme fonction de notation $F(S)$ pour maximiser le score d'anomalie sur les sous-ensembles de dimensions.

2. Récupérer les vecteurs de base de données : En utilisant les dimensions identifiées $O^*_S$, l'algorithme parcourt la base de données $D$ pour récupérer le sous-ensemble de vecteurs $R^*_S$ qui présentent le même motif anormal conjoint dans ces dimensions spécifiques.

Contrairement aux méthodes traditionnelles, cette approche ne repose pas sur des seuils de distance fixes ou un nombre de récupération pré-spécifié $K$. Au lieu de cela, la taille de l'ensemble récupéré est déterminée dynamiquement par le processus de notation d'anomalie.

Configuration expérimentale et résultats
Les auteurs ont évalué la méthode sur quatre ensembles de données diversifiés :

• Image : MNIST et Fashion-MNIST (aplatis et projetés sur 30 dimensions via UMAP).
• Texte : Persona (incorporations LLM de phrases s'accordant avec des personnalités spécifiques) et Ailuminate (incorporations LLM de invites concernant des catégories de dangers).
• Tableau : Un ensemble de données médicales concernant le cancer du sein (31 caractéristiques numériques).

La méthode a été comparée à deux bases de référence KDTree adaptées :

• KDTree pre : Moyenne tous les vecteurs de requête en un seul vecteur avant la récupération.
• KDTree post : Récupère des vecteurs pour chaque requête indépendamment et fusionne les résultats.

Principales conclusions :

• Impact de la taille de l'ensemble de requêtes : Sur la plupart des ensembles de données, l'augmentation du nombre de vecteurs de requête ($M$) de 1 à 8 a conduit à des améliorations significatives de la précision et du rappel. Les gains ont diminué lorsque $M$ a été augmenté au-delà de 8.
• Performance par ensemble de données :
  • Persona (Texte LLM) : La méthode proposée a atteint une précision et un rappel quasi parfaits (proche de 1,00) pour $M=64$, surpassant nettement les deux variantes KDTree (qui ont atteint ~0,70–0,80).
  • Données tabulaires : La méthode a atteint une précision plus élevée (1,00) que les bases de référence (0,90) mais un rappel plus faible (~0,77 contre ~0,90).
  • Fashion-MNIST : La méthode a montré un rappel plus élevé mais une précision plus faible par rapport aux bases de référence.
  • MNIST : Aucune différence significative n'a été observée entre la méthode proposée et les bases de référence, bien que la performance absolue ait été élevée pour toutes.
• Taille de récupération : La méthode proposée détermine dynamiquement la taille de l'ensemble de récupération. Dans les études d'ablation, lorsque KDTree a été contraint de récupérer un nombre de vecteurs similaire à celui de la méthode proposée, cette dernière a maintenu un léger avantage en précision et en rappel pour les ensembles de données Tabulaires et Persona.

Signification et revendications
L'article présente ce travail comme une étape novatrice vers une récupération multi-requêtes robuste. Les auteurs affirment que la définition de la pertinence par une fonction de notation d'anomalie plutôt que par des mesures basées sur la distance traditionnelles permet de capturer des relations complexes et non linéaires que les métriques fixes ignorent.

L'étude présente modestement ses contributions comme une « première étape » dans cette direction. Les auteurs reconnaissent des limites, notamment l'utilisation de classes d'intérêt fixes par ensemble de données et la dépendance à KDTree comme base de référence plutôt qu'à des méthodes de recherche vectorielle plus sophistiquées (par exemple, recherche de similarité vectorielle optimisée). Ils notent que la méthode a fonctionné le mieux sur les incorporations de texte LLM par rapport aux incorporations d'images réduites en dimension et aux données tabulaires, suggérant la nécessité d'une enquête future sur la généralisabilité à travers différents types de données et architectures d'incorporation. Le travail ne prétend pas résoudre tous les défis de la récupération multi-requêtes, mais démontre que l'exploitation de motifs anormaux dans les ensembles de requêtes peut produire des performances de récupération supérieures dans des contextes spécifiques, en particulier avec les incorporations LLM.