Comparison of generalised additive models and neural networks in applications: A systematic review

Résumé technique : Comparaison des modèles additifs généralisés et des réseaux de neurones dans les applications

Énoncé du problème
Les réseaux de neurones (RN) sont devenus dominants dans la modélisation prédictive, particulièrement pour les tâches impliquant la reconnaissance d'images et le traitement du langage naturel, privilégiant souvent la précision prédictive au détriment de l'interprétabilité. À l'inverse, les modèles additifs généralisés (GAM) offrent un cadre statistique flexible et non linéaire qui conserve une interprétabilité grâce à une structure additive. Bien que les deux soient à la pointe de l'état de l'art, il existe un manque de compréhension systématique concernant leur performance relative sur des données tabulaires réelles. Les revues systématiques précédentes se sont largement concentrées sur des domaines spécifiques (par exemple, les transports, la santé cardiaque) ou ont comparé les RN à des modèles linéaires plus simples (par exemple, la régression linéaire ou logistique), omettant de prendre en compte les capacités non linéaires des modèles statistiques modernes comme les GAM. Cet article comble cette lacune en menant une revue systématique et une méta-analyse comparant les GAM et les RN à travers un large éventail de domaines d'application.

Méthodologie
L'étude respecte les directives PRISMA (Preferred Reporting Items for Systematic Reviews and Meta-Analyses).

• Collecte de données : Une recherche dans la base de données Scopus a permis d'extraire 445 documents. Après filtrage selon les critères d'éligibilité (examen par les pairs, anglais, texte intégral, comparaison empirique des GAM et des RN sur le même jeu de données, et disponibilité des mesures de performance), 143 articles ont été sélectionnés. Ces articles contenaient 430 jeux de données distincts.
• Extraction de données : Les attributs ont été extraits tant au niveau de l'article (domaine, revue, année) qu'au niveau du jeu de données (taille de l'échantillon, nombre de prédicteurs, type de problème, architecture du réseau de neurones, complexité et mesures de performance).
• Analyse statistique : Pour répondre à la question de recherche n° 3 (facteurs associés aux différences de performance), les auteurs ont utilisé une modélisation linéaire à effets mixtes. Cette approche a été choisie pour tenir compte de la structure hiérarchique des données, où plusieurs jeux de données sont imbriqués au sein d'un même article, introduisant une dépendance intra-article.
  • Variables de réponse : L'analyse s'est concentrée sur les trois mesures les plus fréquemment rapportées : l'erreur quadratique moyenne (RMSE), le $R^2$ et l'aire sous la courbe (AUC). Pour assurer l'invariance d'échelle entre les divers jeux de données, les auteurs ont calculé les log-rapports des mesures de performance (par exemple, $\log(\text{RMSE}_{\text{GAM}}/\text{RMSE}_{\text{NN}})$), convertissant le $R^2$ et l'AUC en mesures de perte ($1-R^2$, $1-\text{AUC}$) afin de les aligner sur la RMSE.
  • Prédicteurs : Les effets fixes comprenaient l'année de publication, le domaine d'application, la taille de l'échantillon, le nombre de prédicteurs et la complexité du réseau de neurones. Des interactions par paires avec l'année de publication ont été incluses pour évaluer les tendances temporelles. Un intercept aléatoire pour l'« ID de l'article » a été inclus pour capturer l'hétérogénéité spécifique aux articles.
  • Gestion des données manquantes : Étant donné que la taille de l'échantillon, le nombre de prédicteurs et la complexité étaient fréquemment non rapportés, les valeurs manquantes ont été converties en niveaux catégoriels « Inconnu » plutôt que d'être écartées, permettant ainsi d'évaluer si l'absence d'information était corrélée aux résultats.

Résultats clés

• Performance globale : À travers les 430 jeux de données, il n'y a eu aucune preuve constante de supériorité pour les GAM ou pour les réseaux de neurones lorsque l'on considère les mesures les plus courantes (RMSE, $R^2$, AUC). Les intercepts des modèles à effets mixtes n'étaient pas statistiquement différents de zéro, indiquant qu'en moyenne, aucune des deux classes de modèles ne surpasse systématiquement l'autre.
• Complexité des réseaux de neurones : Pour la RMSE, la complexité du réseau de neurones et son interaction avec le temps étaient significatives. En 2011, les réseaux de complexité moyenne et grande performaient moins bien par rapport aux GAM que les réseaux de faible complexité. Cependant, cet effet négatif a diminué avec le temps ; en 2024, la complexité n'était plus associée à un avantage ou un désavantage de performance relatif aux GAM.
• Dimensions du jeu de données (taille de l'échantillon et prédicteurs) : Pour l'AUC, des tailles d'échantillons plus grandes et un nombre plus élevé de prédicteurs étaient historiquement associés à une meilleure performance des réseaux de neurones par rapport aux GAM. Toutefois, l'interaction avec le temps a montré que cet avantage s'est considérablement réduit. Ces dernières années, aucune association statistiquement significative n'existe entre les dimensions du jeu de données et la performance relative des deux modèles.
• Qualité du rapport : Un résultat important est le taux élevé d'informations manquantes dans la littérature. Seuls 21 % des jeux de données rapportaient les trois attributs clés (taille de l'échantillon, prédicteurs et complexité). La complexité non rapportée des réseaux de neurones représentait la majorité des données manquantes (rapportée dans seulement 35 % des jeux de données).
• Corrélation intra-article : Le coefficient de corrélation intraclasse (ICC) était élevé (allant de 0,76 à 0,97), indiquant une variabilité substantielle entre les articles qui ne pouvait être expliquée par les variables observées au niveau du jeu de données. Cela suggère que les détails méthodologiques non rapportés (par exemple, prétraitement, réglage des hyperparamètres) influencent davantage les différences de performance que la classe de modèle elle-même.

Signification et conclusions
L'article soutient que les GAM et les réseaux de neurones doivent être considérés comme des approches complémentaires plutôt que comme des concurrents pour les données tabulaires. L'étude conclut que :

1. Compromis de performance : Le compromis de performance entre les deux méthodes est modeste. Aucune des deux classes de modèles ne détient un avantage constant à travers diverses applications.
2. Interprétabilité : Étant donné les performances comparables, les GAM restent un choix robuste, particulièrement dans la recherche scientifique où l'interprétabilité et la transparence sont primordiales.
3. Normes de rapport : La revue souligne un manque critique de normalisation dans le rapport de la littérature en apprentissage automatique, spécifiquement concernant les caractéristiques des jeux de données et la complexité des modèles. Cette opacité limite la reproductibilité et la capacité de tirer des conclusions définitives sur la supériorité des modèles.
4. Orientations futures : Les auteurs suggèrent que les recherches futures devraient se concentrer sur des protocoles de rapport standardisés (par exemple, les « fiches de modèle » ou model cards) et potentiellement mener des ré-analyses indépendantes des jeux de données de cette revue en utilisant des protocoles cohérents pour isoler les effets des choix de modélisation des incohérences de rapport.

L'article souligne que si les réseaux de neurones excellent dans les domaines complexes non tabulaires, ils n'offrent pas d'avantage de performance décisif sur les GAM pour les données tabulaires, faisant de la distinction entre les deux une question de la valeur accordée à l'interprétabilité par rapport aux gains prédictifs.