Résumé Technique : DoctorAgents

Énoncé du Problème

L'apprentissage automatique (ML) clinique se heurte à des obstacles importants lorsqu'il est appliqué à des ensembles de données petits, hétérogènes et temporellement complexes, tels que ceux trouvés dans les registres de maladies rares ou les études monocentriques. Contrairement aux benchmarks tabulaires standards, les dossiers cliniques sont souvent asynchrones, incomplets et échantillonnés de manière irrégulière, reflétant à la fois les processus pathologiques sous-jacents et le processus d'observation clinique. Les systèmes d'AutoML traditionnels, qui reposent sur une recherche par force brute sur des espaces prédéfinis (par exemple, l'optimisation bayésienne, les stratégies évolutionnaires), peinent dans ce domaine. Ils nécessitent souvent des ressources de calcul substantielles, manquent de capacités de raisonnement explicites concernant les propriétés des données (telles que les risques de fuite de données ou la validité temporelle) et ne parviennent pas à fournir des représentations de patients interprétables et spécifiques à la tâche. De plus, les agents AutoML existants basés sur les grands modèles de langage (LLM) opèrent souvent dans un régime d'essais et d'erreurs avec une mémoire persistante limitée, ce qui conduit à une optimisation instable, à des erreurs répétitives et à une utilisation inefficace du calcul lors de l'affinement des pipelines pour de petits ensembles de données cliniques.

Méthodologie : DoctorAgents

Les auteurs proposent DoctorAgents, un cadre d'IA agentique qui reformule l'AutoML pour les petites données cliniques temporelles, passant d'une recherche exhaustive à un affinement piloté par le raisonnement. Le système utilise une architecture multi-agents où des agents spécialisés dotés de LLM collaborent pour construire, valider et optimiser de manière itérative des pipelines de ML de bout en bout.

Architecture de l'Agent Central

Le cadre utilise une équipe d'agents spécialisés, chacun ayant un rôle distinct :

• Consultant ($A_c$) : Agit comme un expert analytique de haut niveau, transformant les métadonnées brutes du jeu de données et les entrées de l'utilisateur en une spécification de tâche structurée avec une connaissance du domaine pour guider la synthèse en aval.
• Générateur ($A_g$) : Traduit la spécification de la tâche en un code de pipeline ML exécutable initial, couvrant le chargement des données, le prétraitement, la sélection du modèle, l'entraînement et l'évaluation.
• Réparateur ($A_r$) : Gère les échecs d'exécution en modifiant de manière minimale le code pour restaurer l'exécutabilité sans altérer l'intention algorithmique originale.
• Journaliste ($A_l$) : Maintient un journal de mémoire structuré à long terme des changements entre les itérations, des résultats de performance et des différences significatives entre les versions de pipelines. Il emploie une stratégie de résumé (SUMMA) pour gérer la longueur du contexte et éviter l'« explosion de notes ».
• Évaluateur ($A_e$) : Évalue la qualité, la correction et les failles potentielles du pipeline (par exemple, le surapprentissage, la fuite de données) en utilisant un feedback en langage naturel basé sur les métriques de performance et les journaux historiques.
• Optimiseur ($A_o$) : Convertit le feedback en langage naturel de l'évaluateur en modifications de code concrètes en utilisant la Descente de Gradient Textuelle (TGD). Cela permet des mises à jour ciblées et localisées du pipeline sans régénérer l'intégralité du code source.

Flux de Travail

Le système opère dans un processus itératif en boucle fermée :

1. Initialisation : Le Consultant analyse les métadonnées pour définir la tâche, et le Générateur synthétise un pipeline initial.
2. Exécution et Vérification : Le pipeline est exécuté. Si l'exécution échoue, le Réparateur corrige le problème.
3. Composition de la Mémoire : Le Journaliste enregistre les changements et les résultats, résumant l'historique à des points de contrôle pour maintenir l'efficacité du contexte.
4. Affinement : L'Évaluateur critique le pipeline, et l'Optimiseur applique la TGD pour mettre à jour le code sur la base de ce feedback.
5. Itération : Ce cycle se répète jusqu'à ce qu'un critiel d'arrêt soit atteint.

Spécialisation par Domaine (DoctorAgents-DS)

Pour répondre aux défis uniques des données cliniques temporelles irrégulières, les auteurs introduisent une variante spécialisée, DoctorAgents-DS. Cette variante décompose l'optimisation en deux sous-tâches dédiées gérées par des agents spécialisés :

• Agents de Prétraitement des Données (DP) : Se concentrent exclusivement sur l'ingénierie des caractéristiques, l'agrégation temporelle et la gestion des données manquantes pour les séries temporelles irrégulières.
• Agents de Développement de Modèles (MD) : Se concentrent sur la sélection de modèles, le réglage des hyperparamètres et les stratégies d'entraînement.
  Cette séparation permet une exploration plus profonde des représentations temporelles spécifiques à la tâche tout en préservant un code explicite et éditable.

Principales Contributions

Le papier revendique les contributions suivantes :

1. AutoML Agentique Pilotée par le Raisonnement : Un cadre spécifiquement conçu pour les petits ensembles de données cliniques temporelles qui combine le raisonnement sur les données, la validation d'exécution, la mémoire persistante et l'affinement itératif.
2. Optimisation Sensible à la Mémoire : Un mécanisme permettant un apprentissage à long terme à travers les itérations pour éviter les échecs répétés et assurer un affinement stable.
3. Conception Spécialisée par Domaine : Une stratégie de décomposition (agents DP et MD) adaptée aux données cliniques temporelles observées de manière irrégulière, permettant des représentations de patients plus riches et spécifiques à la tâche.
4. Composition Automatique de Caractéristiques Cliniques : La capacité de composer automatiquement des variables cliniquement significatives à partir de données temporelles brutes, allant au-delà des modèles de prétraitement fixes.
5. Validation Empirique : Des expériences approfondies démontrant une robustesse, une efficacité et une interprétabilité supérieures aux méthodes existantes.

Résultats Expérimentaux

Les auteurs ont évalué DoctorAgents sur quatre tâches de prédiction clinique temporelle :

• Jeux de données : Trois tâches issues de la base de données publique MIMIC-IV (mortalité en soins intensifs, réadmission en soins intensifs et prédiction de la durée de séjour en soins intensifs) et une tâche issue d'une cohorte interne de Polyarthrite Non Différenciée Précoce (EUPA) (prédiction de la réponse au traitement anti-TNF dans la polyarthrite rhumatoïde).
• Baselines : Les comparaisons incluaient le ML traditionnel (TabPFN), des LLM à usage général (GPT-5, GPT-oss, Llama-8B) et des systèmes AutoML agentiques existants (AutoML-Agent, ERA).
• Performance :
  • DoctorAgents-DS a obtenu la meilleure performance moyenne sur tous les benchmarks, surpassant toutes les baselines en termes d'AUROC et d'AUPRC.
  • Le cadre standard DoctorAgents a également surpassé de manière constante les baselines de l'AutoML et de l'IA agentique établies.
  • Les études d'ablation ont confirmé que les modules Consultant (améliorant l'initialisation) et Mémoire (stabilisant l'affinement) sont critiques pour la performance, le système complet atteignant des scores de validation nettement plus élevés que les variantes dépourvues de ces composants.
• Interprétabilité :
  • Le système a généré des caractéristiques qui étaient plus techniquement valides et sémantiquement cohérentes avec les contextes cliniques par rapport aux baselines.
  • Une évaluation indépendante utilisant GPT-5.4 comme juge a montré que DoctorAgents-DS produisait une proportion significativement plus élevée de caractéristiques « Bien Justifiées » et « Cliniquement Raisonnables » (améliorations moyennes de ~7-8 % par rapport aux baselines).
  • Les caractéristiques générées s'alignaient sur l'intuition clinique (par exemple, capturer l'instabilité physiologique, l'intensité de la surveillance et les trajectoires de traitement) plutôt que de s'appuyer sur des agrégations génériques.

Signification et Revendications

Le papier pose que DoctorAgents représente un changement de paradigme dans l'automatisation du ML clinique. En remplaçant la recherche par force brute par un processus étatisé piloté par le raisonnement, le cadre répond aux contraintes spécifiques des petits ensembles de données cliniques irréguliers. Les auteurs affirment que le système non seulement améliore la performance prédictive, mais produit également des représentations interprétables et spécifiques à la tâche, ancrées dans la sémantique des caractéristiques et la rigueur clinique.

La signification réside dans la capacité du cadre à gérer de manière autonome les complexités des données cliniques temporelles — telles que les observations asynchrones, les schémas de données manquantes et la distinction entre le changement physiologique et les artefacts de surveillance — sans nécessiter la construction manuelle de pipelines par des experts du domaine. Les résultats suggèrent que l'IA agentique, lorsqu'elle est dotée d'une mémoire persistante et d'un raisonnement spécialisé par domaine, peut servir d'outil robuste pour développer des modèles de prédiction clinique fiables, réduisant potentiellement la charge des scientifiques de données et des cliniciens tout en améliorant la qualité et l'interprétabilité des modèles résultants.