EnterpriseRAG: Benchmarking LLM Instruction Adherence and Robustness under Non-Ideal Enterprise Retrieval
L'article présente EnterpriseRAG, un benchmark complet de 983 échantillons validés par des experts à travers six domaines qui expose un « écart d'orchestration » critique dans les systèmes de génération augmentée par récupération (RAG) en entreprise, révélant que si les grands modèles de langage satisfont souvent les contraintes individuelles, leur respect holistique des instructions s'effondre considérablement dans des conditions de production réalistes impliquant une récupération bruitée, des lacunes de connaissances et des conflits factuels.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez d'apprendre à un robot super intelligent comment être un assistant utile. Vous lui donnez une bibliothèque de livres (sa base de connaissances) et vous lui posez une question. Le robot va dans la bibliothèque, saisit quelques pages, les lit et écrit une réponse. C'est ce qu'on appelle le RAG (Génération Augmentée par Récupération). C'est comme un étudiant passant un examen à livre ouvert : il n'a pas besoin de tout mémoriser, mais il doit trouver la bonne page et la lire attentivement pour donner la bonne réponse.
Mais voici le hic : dans le monde réel, les bibliothèques sont désordonnées. Parfois, le robot saisit des pages qui n'ont rien à voir avec la question (du bruit). Parfois, les livres n'ont pas du tout la réponse (un manque de connaissances). Et parfois, deux livres différents disent des choses opposées sur un même fait (un conflit). La plupart des tests pour ces robots supposent que la bibliothèque est parfaite et que les questions sont simples, comme « Quelle est la capitale de la France ? ». Mais la vie réelle ressemble plus à : « Résumez le chiffre d'affaires du dernier trimestre dans un tableau, mais si les données sont manquantes, dites "Je ne sais pas" au lieu de deviner, et si deux rapports ne sont pas d'accord, mentionnez les deux. »
C'est là que les choses deviennent délicates. Nous voulons que nos robots assistants ne se contentent pas de trouver des faits, mais qu'ils suivent des règles strictes, admettent quand ils sont bloqués et gèrent les situations confuses sans inventer de réponses. Si un robot ne peut pas faire cela, il pourrait donner une réponse erronée mais pleine d'assurance, ce qui pourrait être un désastre pour une entreprise tentant de prendre des décisions importantes.
Le grand échec de la « suite d'exécution »
Une équipe de chercheurs de la recherche Jiutian de China Mobile a construit un nouveau test plus difficile, appelé EnterpriseRAG, pour voir comment ces robots d'IA gèrent réellement la complexité du monde réel. Considérez ce test comme un « test de résistance » pour l'IA, conçu pour voir s'ils gardent leur sang-froid lorsque les instructions sont compliquées et que les informations qu'ils trouvent sont brisées ou contradictoires.
Ils ont créé 983 scénarios complexes à travers six domaines différents, comme l'énergie, la médecine, le droit et la finance. Dans ces scénarios, ils ne se sont pas contentés de poser des questions simples. Ils ont donné aux robots des instructions complexes avec plusieurs règles, telles que « Utilisez un tableau », « Ne devinez pas », « Citez vos sources » et « Si vous voyez une contradiction, signalez-le-moi ». Ensuite, ils ont délibérément faussé les informations trouvées par les robots : ils ont ajouté des éléments inutiles, supprimé la réponse entière ou implanté de fausses contradictions.
La grande découverte : le « fossé d'orchestration »
Les résultats ont été un choc. Lorsque les chercheurs ont vérifié si les robots pouvaient suivre des règles individuelles, ils s'en sont plutôt bien sortis. Environ 84 % du temps, un robot respectait une règle unique, comme utiliser le bon format ou citer une source. C'était comme un étudiant qui réussit chaque étape de son calcul mathématique mais qui oublie d'écrire la réponse finale.
Cependant, lorsqu'ils ont vérifié si les robots suivaient toutes les règles à la fois, le score a chuté à seulement 27 %. Les chercheurs appellent cela un « fossé d'orchestration » de 57 points. Il s'avère que si ces modèles d'IA sont doués pour faire une chose à la fois, ils s'effondrent lorsqu'ils doivent jongler avec plusieurs instructions complexes simultanément. Ils peuvent réussir le formatage mais halluciner un fait, ou trouver la bonne réponse mais oublier de dire « Je ne sais pas » lorsque les données sont manquantes.
Le piège de la « serviabilité »
L'une des découvertes les plus intéressantes concerne la manière dont les robots gèrent les situations où la réponse ne se trouve pas dans les livres. Les humains savent que si l'on ne sait pas quelque chose, on doit dire : « Je ne sais pas. » Mais ces robots d'IA ont un fort « biais de serviabilité ». Ils veulent vraiment être utiles, donc lorsqu'ils ne trouvent pas la réponse, ils inventent souvent une réponse.
Dans le test, lorsque l'information était manquante, les robots n'ont refusé de répondre correctement que dans 42,7 % des cas (avec le meilleur modèle, Claude-Opus-4.5). Les 57,3 % restants, ils ont deviné ou halluciné une réponse avec assurance. Cela est dangereux car une réponse fausse mais assurée est souvent pire qu'une absence de réponse.
Le raisonnement aide, mais n'est pas une baguette magique
Les chercheurs ont également testé des modèles de « raisonnement » — des IA qui prennent un moment pour « réfléchir » avant de répondre, comme un étudiant qui marque une pause pour résoudre un problème difficile. Ces modèles ont mieux réussi que les modèles standards. Par exemple, ils étaient bien meilleurs pour repérer quand deux documents se contredisaient. Le meilleur modèle de raisonnement a détecté les conflits environ 44,3 % du temps, tandis que les autres étaient bien en dessous.
Cependant, même les modèles de « réflexion » n'étaient pas parfaits. Ils avaient toujours du mal à suivre toutes les règles à la fois, et ils devinaient encore parfois lorsqu'ils auraient dû admettre leur défaite. L'article suggère que simplement faire « réfléchir » davantage l'IA ne suffit pas à régler le problème ; les robots ont besoin d'un meilleur entraînement sur la façon de juger quand ils disposent d'assez d'informations et sur la façon de suivre des protocoles complexes sans perdre pied.
L'essentiel
L'article ne prétend pas que l'IA est définitivement brisée, mais il montre que nous surestimons la préparation de ces systèmes pour des tâches sérieuses du monde réel. Ce n'est pas parce qu'une IA peut écrire un poème ou répondre à une question simple qu'elle peut gérer une tâche commerciale complexe avec des données désordonnées et des règles strictes. Pour rendre ces systèmes fiables, nous devons cesser de les tester dans des environnements parfaits et propres, et commencer à les tester dans le monde désordonné, bruyant et contradictoire dans lequel ils devront réellement vivre. Tant que nous ne pourrons pas combler ce fossé de 57 points, nous devrions être très prudents avant de laisser ces robots prendre des décisions importantes de manière autonome.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.