Cited but Not Verified: Parsing and Evaluating Source Attribution in LLM Deep Research Agents
Cet article présente un nouveau cadre d'évaluation utilisant un analyseur AST pour évaluer les rapports de recherche générés par des LLM selon la validité des liens, la pertinence et l'exactitude factuelle, révélant une rupture critique où même les modèles de pointe maintiennent une accessibilité et une pertinence élevées des citations mais peinent à assurer la cohérence factuelle, un problème qui s'aggrave à mesure que la profondeur de récupération augmente.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous embauchiez une équipe d'assistants de recherche surdoués (modèles d'IA) pour rédiger un rapport sur un sujet complexe. Vous leur dites : « Allez chercher la vérité sur Internet, rédigez un rapport et assurez-vous de lister exactement où vous avez trouvé chaque fait. »
Le document que vous avez partagé est comme un inspecteur de contrôle qualité qui a décidé de vérifier les devoirs rendus par ces assistants IA. Au lieu de simplement lire le rapport et de hocher la tête, l'inspecteur a construit un robot spécial pour vérifier chaque note de bas de page rédigée par l'IA.
Voici ce qu'ils ont découvert, expliqué simplement :
L'inspection en trois étapes
Les chercheurs ont construit un système pour vérifier les citations de l'IA de trois manières spécifiques, comme un contrôle de sécurité en trois parties :
- Le test « La porte est-elle ouverte ? » (Le lien fonctionne-t-il ?) : Le lien fonctionne-t-il réellement ? Si vous cliquez dessus, vous mène-t-il à une page web, ou s'agit-il d'une erreur 404 brisée ?
- Le test « Est-ce la même chose ? » (Contenu pertinent) : Si le lien fonctionne, la page web parle-t-elle réellement du sujet que l'IA a prétendu couvrir ? (Par exemple : l'IA dit « Ce lien prouve que les chats sont des chiens », mais le lien est en réalité une recette de lasagnes).
- Le test « Est-ce vrai ? » (Vérification des faits) : C'est la partie la plus difficile. La page web contient-elle réellement les faits, les chiffres ou les dates spécifiques que l'IA a affirmés ?
La grande surprise : le problème du « emballage brillant »
La découverte la plus choquante est que les assistants IA sont excellents pour les deux premiers tests mais terribles pour le troisième.
- L'analogie : Imaginez un étudiant qui rédige un devoir et inclut une bibliographie.
- 94 % du temps, les livres de la bibliographie existent réellement sur les étagères de la bibliothèque (le lien fonctionne).
- 80 % du temps, ces livres traitent réellement du sujet sur lequel l'étudiant écrit (contenu pertinent).
- Mais, lorsque vous ouvrez réellement le livre et lisez la page spécifique citée par l'étudiant, seulement environ 40 % à 77 % du temps le livre dit-il réellement ce que l'étudiant a prétendu qu'il disait.
La conclusion : L'IA est très bonne pour trouver un lien fonctionnel vers un site web pertinent, mais elle ment souvent sur ce que dit ce site web. C'est comme un guide touristique qui vous emmène toujours au bon musée, mais qui vous raconte ensuite la mauvaise histoire sur les expositions à l'intérieur.
Le paradoxe « Plus c'est moins »
Les chercheurs ont également testé ce qui se passe s'ils demandent à l'IA de chercher plus en profondeur et d'examiner plus de sites web. Vous pourriez penser : « Si je demande à l'IA de lire 150 sites web au lieu de seulement 2, elle sera plus précise, n'est-ce pas ? »
Faux.
- L'analogie : Imaginez essayer de résoudre un puzzle. Si vous avez 2 pièces de puzzle, vous pouvez facilement voir l'image. Si quelqu'un déverse 150 pièces de puzzle devant vous, vous vous sentez submergé. Vous pourriez commencer à forcer des pièces qui ne vont pas ensemble juste pour terminer l'image.
- Le résultat : Alors que l'IA était forcée de regarder de plus en plus de sources (de 2 jusqu'à 150), sa capacité à dire la vérité a en réalité chuté d'environ 42 %. Les liens fonctionnaient toujours et les sujets restaient pertinents, mais les faits spécifiques sont devenus un désordre. L'IA a subi une « surcharge d'information » et a commencé à halluciner des détails.
Qui a bien réussi ? Qui a mal réussi ?
- Les modèles « Frontières » (les IA des grandes entreprises technologiques) : Ces modèles (comme ceux d'OpenAI, Anthropic et Google) étaient très bons pour générer des rapports qui semblaient parfaits. Ils trouvaient presque toujours des liens fonctionnels et des sujets pertinents. Cependant, même les plus intelligents n'ont obtenu les faits corrects que dans 39 % à 77 % des cas.
- Les modèles open source : Ces modèles ont encore plus lutté. Beaucoup d'entre eux n'ont même pas pu terminer la tâche de rédaction d'un rapport avec des citations. Lorsqu'ils ont essayé, ils étaient beaucoup moins bons pour trouver des liens fonctionnels et obtenir les faits corrects.
La conclusion finale
Le document conclut que nous ne pouvons pas faire confiance à la recherche de l'IA simplement parce qu'elle possède une liste de liens en bas. Une longue liste de liens fonctionnels crée un « faux sentiment de confiance ». Juste parce que la porte est ouverte et que la pièce est la bonne, cela ne signifie pas que l'histoire que l'IA vous raconte sur ce qu'il y a à l'intérieur de la pièce est vraie.
Les chercheurs ont construit ce « robot d'inspection » pour nous aider à voir cet écart entre une citation qui semble bonne et une citation qui est réellement vraie.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.