💬 NLP

OmniTrace: A Unified Framework for Generation-Time Attribution in Omni-Modal LLMs

OmniTrace est un cadre unifié et léger qui formalise l'attribution comme un problème de traçage en temps de génération pour les modèles de langage omni-modaux, permettant d'identifier de manière transparente et sans réentraînement les sources multimodales soutenant chaque partie d'une réponse générée.

Auteurs originaux : Qianqi Yan, Yichen Guo, Ching-Chen Kuo, Shan Jiang, Hang Yin, Yang Zhao, Xin Eric Wang

Publié 2026-04-16

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Qianqi Yan, Yichen Guo, Ching-Chen Kuo, Shan Jiang, Hang Yin, Yang Zhao, Xin Eric Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🎭 Le Problème : L'Orateur qui Oublie ses Sources

Imaginez un super-héros des médias, appelons-le "Omni". Omni est un génie capable de lire des livres, regarder des films, écouter de la musique et analyser des photos, tout en parlant comme un humain.

Le problème, c'est qu'Omni est très bavard. Il vous raconte une histoire incroyable en mélangeant tout : "Regardez cette photo de chat, ça me rappelle la chanson que j'ai entendue hier, et le texte du livre dit que les chats aiment le fromage."

Mais si vous lui demandez : "Attends, d'où vient cette info sur le fromage ? Est-ce que c'est dans le livre, dans la photo ou dans la chanson ?"
Omni ne sait pas répondre. Il a juste "sorti" la phrase de sa tête. C'est comme si un journaliste écrivait un article sensationnel sans jamais citer ses sources. On ne sait pas si c'est vrai, et on ne peut pas vérifier son travail.

C'est le défi des Modèles de Langage Multimodaux (les IA qui voient, entendent et lisent) : ils sont brillants, mais ils ne savent pas expliquer pourquoi ils disent ce qu'ils disent.

🔍 La Solution : OmniTrace, le Détective de l'Instant

Les auteurs du papier ont créé OmniTrace. Imaginez-le comme un détective privé qui travaille en temps réel, directement dans la tête d'Omni pendant qu'il parle.

Au lieu d'attendre la fin de la phrase pour essayer de deviner d'où vient l'info, OmniTrace observe chaque mot au moment où il est prononcé.

L'Analogie du Chef Cuisinier 🍳

Imaginons que l'IA est un chef cuisinier qui prépare un plat complexe (la réponse) à partir de plusieurs ingrédients (les images, le texte, l'audio, la vidéo).

Sans OmniTrace : Le chef mélange tout dans une grande marmite. Quand il sert le plat, il dit : "Voilà le goût !" Mais vous ne savez pas si le goût vient du poivre, du fromage ou de la tomate. C'est un mélange flou.
Avec OmniTrace : Le chef a un assistant (OmniTrace) qui tient un carnet. À chaque fois que le chef ajoute une pincée de sel (un mot), l'assistant note : "Ce sel vient du pot bleu (l'image)". À chaque fois qu'il ajoute du poivre, l'assistant note : "Ce poivre vient du sac rouge (la vidéo)".

À la fin, l'assistant peut vous dire exactement : "Ce plat est salé grâce à l'image du pot bleu, et épicé grâce à la vidéo du sac rouge."

🚀 Comment ça marche ? (Les 3 Magies)

OmniTrace fait trois choses magiques pour rendre cela possible :

Il travaille en direct (Generation-Time) :
La plupart des anciennes méthodes attendaient que le chef ait fini de cuisiner pour essayer de deviner les ingrédients. OmniTrace, lui, regarde la marmite pendant que le chef cuisine. Il suit chaque mouvement de cuillère. C'est crucial car l'IA change d'idée en cours de route.
Il parle toutes les langues (Omni-Modal) :
L'IA ne parle pas seulement avec des mots. Elle utilise des images, des sons et des vidéos. OmniTrace est comme un traducteur universel. Il peut dire : "Cette phrase sur le soleil vient de la vidéo (00:15-00:20), mais cette phrase sur la chaleur vient du texte du livre." Il relie les mots aux images et aux sons sans se perdre.
Il résume pour vous (Span-Level) :
Si OmniTrace notait chaque mot individuellement, le résultat serait un chaos de milliers de petits points. Au lieu de ça, il regroupe les idées. Il ne vous dit pas "Mot 1 vient de l'image A, Mot 2 vient de l'image A...", mais plutôt : "Toute cette phrase sur le chat vient de l'image A." C'est beaucoup plus facile à lire pour un humain.

🏆 Pourquoi c'est important ?

Jusqu'à présent, les IA étaient comme des oracles : elles donnaient des réponses, mais on ne pouvait pas vérifier si elles étaient honnêtes ou si elles hallucinaient (inventaient des choses).

Avec OmniTrace :

La transparence : Vous pouvez voir exactement quelle partie de la vidéo ou du texte a inspiré la réponse.
La confiance : Si l'IA dit "Le ciel est bleu", et qu'elle pointe vers la photo du ciel, vous avez confiance. Si elle pointe vers une photo de désert, vous savez qu'elle a fait une erreur.
Pas besoin de réapprendre : OmniTrace est un "plug-and-play". Il fonctionne avec n'importe quel chef (modèle IA) sans avoir besoin de le rééduquer. C'est comme ajouter un nouvel ustensile à une cuisine existante.

🎬 En Résumé

OmniTrace est un outil qui donne une conscience aux IA multimodales. Il transforme une boîte noire mystérieuse en un collaborateur transparent qui peut dire : "J'ai dit ça parce que j'ai vu ça, et j'ai ajouté ça parce que j'ai entendu ça."

C'est un pas de géant pour rendre les intelligences artificielles plus fiables, plus honnêtes et plus faciles à comprendre pour nous, les humains.

1. Problématique

Les modèles de langage multimodaux (MLLM) modernes, capables de traiter et de générer du texte, des images, de l'audio et de la vidéo de manière imbriquée (omni-modale), sont de plus en plus déployés. Cependant, une lacune majeure persiste : l'attribution des sources.

Défi actuel : Identifier quelles parties spécifiques des entrées hétérogènes (par exemple, une région d'image, un segment audio, ou une phrase textuelle) soutiennent chaque affirmation générée par le modèle reste un défi ouvert.
Limites des méthodes existantes : Les techniques d'attribution actuelles sont principalement conçues pour des tâches de classification ou des architectures basées sur des encodeurs avec des objectifs fixes (comme un logit de classe). Elles ne s'adaptent pas naturellement aux modèles décodeurs seuls (decoder-only) qui effectuent une génération ouverte et autoregressive.
Complexité spécifique : Dans la génération ouverte, il n'y a pas de texte cible prédéfini. L'attribution doit opérer sur un graphe causal en croissance à chaque étape de décodage, en gérant des tokens de modalités différentes (texte, image, audio, vidéo) partageant une même chronologie. Les signaux au niveau du token (poids d'attention, gradients) sont souvent bruyants, fragmentés et instables au niveau sémantique (phrases ou segments).

2. Méthodologie : OmniTrace

OmniTrace est un cadre léger, agnostique au modèle et fonctionnant au moment de la génération (generation-time). Il formalise l'attribution comme un problème de traçage causal au cours du processus de décodage.

A. Formulation du problème

L'objectif est de mapper chaque token généré $y_t$ vers un ensemble d'unités sources $S$ (segments de texte, régions d'image, intervalles temporels audio/vidéo) qui expliquent son contenu. Contrairement aux méthodes post-hoc, OmniTrace calcule l'attribution dynamiquement à chaque étape de décodage.

B. Algorithme en trois étapes

Le processus suit l'Algorithme 1 décrit dans le papier :

Traçage de la source au niveau du token (Generation-Time Source Tracing) :
- À chaque étape de décodage $t$ , le modèle génère un token $y_t$ .
- Un signal d'attribution au niveau du token $a_t(i)$ est obtenu (basé sur les poids d'attention, les gradients, ou d'autres statistiques internes).
- Ce signal est projeté sur les unités sources prédéfinies $S_j$ en agrégeant la masse d'attribution au sein de chaque unité.
- Le token est associé à la source $S_j$ ayant la masse d'attribution la plus élevée, avec un score de confiance $c_t$ .
Agrégation au niveau des segments (Span-Level Aggregation) :
- Les traces au niveau du token sont souvent trop fragmentées pour être interprétables.
- La séquence générée est segmentée en blocs sémantiquement cohérents (phrases, segments) notés $C_k$ .
- Les traces de tokens et les scores de confiance au sein de chaque bloc sont agrégés pour former une explication de niveau supérieur.
Sélection de sources basée sur la confiance (Confidence-Based Source Selection) :
- Une étape de "curation" filtre les signaux bruyants pour sélectionner un ensemble concis de sources supportant le bloc $C_k$ .
- Cette étape utilise :
  - Pondération POS-aware : Donne plus de poids aux tokens porteurs de sens (noms, verbes) qu'aux mots de fonction.
  - Façonnage de la confiance : Amplifie les liens forts et atténue les liens faibles.
  - Cohérence temporelle : Favorise les sources qui reçoivent un soutien continu sur plusieurs tokens consécutifs.
  - Filtrage par seuil : Élimine les sources avec une masse d'attribution trop faible.

C. Caractéristiques clés

Agnostique au signal : Fonctionne avec n'importe quel signal de token (attention moyenne, attention brute, gradients).
Agnostique au modèle : Ne nécessite pas de réentraînement du modèle de base.
Omni-modal : Gère unifiée la chronologie des tokens textuels, visuels et temporels.

3. Contributions Clés

Formalisation : Définition de l'attribution pour la génération multimodale ouverte comme un problème de traçage au moment de la génération, mettant en lumière les limites des méthodes à objectif fixe.
Cadre OmniTrace : Introduction d'un protocole unifié convertissant les scores d'attribution de tokens en explications de sources au niveau des segments, sans supervision ni réentraînement.
Validation Empirique : Démonstration que l'attribution au niveau des segments, consciente de la génération, produit des explications plus stables et interprétables que les méthodes post-hoc (auto-attribution, similarité d'embeddings) sur plusieurs modèles et tâches.

4. Résultats Expérimentaux

Les évaluations ont été menées sur deux modèles décodeurs seuls (Qwen2.5-Omni-7B et MiniCPM-o-4.5) sur un benchmark de 759 exemples couvrant le raisonnement visuel, audio et vidéo, ainsi que la synthèse.

Performance Supérieure : OmniTrace surpasse systématiquement les baselines post-hoc (auto-attribution, embeddings CLIP/Processor, aléatoire).
- Exemple : Sur les tâches de synthèse audio, OmniTrace atteint un Time-F1 de 83,12 (Qwen) contre 4,43 pour l'auto-attribution.
- Sur les tâches visuelles, les scores F1 pour les images passent de ~40 (baselines) à 76,59 avec OmniTrace.
Robustesse : Les performances restent stables quelle que soit la méthode de scoring sous-jacente (moyenne d'attention, gradients, etc.), prouvant la flexibilité du cadre.
Importance de la segmentation : L'utilisation d'une segmentation ASR (Reconnaissance Automatique de la Parole) de haute qualité est cruciale. Sans segmentation sémantique (tokens bruts), les performances chutent drastiquement, soulignant la nécessité d'unités temporelles cohérentes.
Synergie Multimodale : L'utilisation combinée de l'audio et de la vidéo pour l'attribution donne de meilleurs résultats que l'utilisation d'une seule modalité, confirmant que les preuves sont complémentaires.
Validation Humaine : Un accord de 88,17 % a été observé entre les étiquettes générées par un LLM (Juge) et des experts humains, validant la fiabilité de l'évaluation automatique.
Fidélité (Faithfulness) : Dans les tâches de QCM, OmniTrace montre une cohérence de 93,84 % entre la source attribuée et l'option choisie par le modèle, prouvant qu'il capture le véritable processus décisionnel interne.

5. Signification et Impact

OmniTrace représente une avancée significative pour la transparence et l'interprétabilité des modèles de langage omni-modaux.

Fondation pour la confiance : En fournissant des explications stables et sémantiquement cohérentes, il permet de vérifier si les modèles s'appuient réellement sur les preuves fournies ou s'ils "hallucinent".
Évolutivité : Le cadre étant léger et ne nécessitant pas de réentraînement, il peut être facilement intégré dans les pipelines de production de modèles multimodaux existants.
Insights sur le comportement des modèles : L'analyse révèle des biais, tels qu'une tendance à ancrer la génération dans les premières parties du contexte (biais de position) et une calibration différente selon les modalités, offrant de nouvelles pistes pour l'amélioration des modèles.

En conclusion, OmniTrace transforme l'attribution d'un problème statique et post-hoc en un processus dynamique intégré à la génération, offrant une base scalable pour rendre les systèmes d'IA omni-modaux plus transparents et dignes de confiance.