Insights into the Relationship Between D- and A-optimal Designs

Cet article démontre que le critère A se factorise en un terme d'échelle inverse-D et un facteur de sphéricité sans dimension dépendant de la dispersion des valeurs propres, révélant ainsi pourquoi des designs équivalents en D peuvent différer significativement en termes de variance des coefficients et de prédiction, tout en proposant une approche de post-sélection basée sur cette relation.

L'essentiel

Voici une explication de ce papier de recherche, traduite en langage simple et illustrée par des analogies du quotidien.

Le Titre : Comprendre la différence entre "Taille" et "Forme" dans les expériences

Imaginez que vous êtes un chef cuisinier qui doit préparer un gâteau parfait pour un concours. Vous avez deux critères pour juger si votre recette est bonne :

1. Le volume du gâteau (est-il assez grand ?).
2. La forme du gâteau (est-il bien rond et équilibré, ou est-il tout plat d'un côté et bosselé de l'autre ?).

Dans le monde des statistiques, les chercheurs utilisent des modèles mathématiques pour concevoir des expériences (comme tester différents ingrédients). Ils ont deux outils principaux pour juger de la qualité de leur plan d'expérience : le critère D et le critère A.

Ce papier nous dit quelque chose d'important : Le critère D ne regarde que le volume, tandis que le critère A regarde à la fois le volume ET la forme.

---

1. Le Problème : Quand deux gâteaux ont la même taille, mais pas le même goût

Souvent, les chercheurs trouvent plusieurs plans d'expérience qui ont exactement le même "volume" (le même critère D). C'est comme si deux gâteaux avaient exactement le même poids et le même volume.

Cependant, si vous les goûtez (c'est-à-dire si vous regardez la précision des résultats), l'un peut être bien meilleur que l'autre. Pourquoi ?

• Le premier gâteau est bien rond et équilibré.
• Le second est déformé : il est très plat d'un côté et très haut de l'autre.

Le papier explique que le critère D est aveugle à cette déformation. Il dit : "Ils ont le même volume, donc ils sont égaux". Mais le critère A dit : "Non, celui-ci est tordu, donc il est moins bon".

2. La Solution : La formule magique "Taille x Forme"

Les auteurs ont découvert une façon de décomposer le critère A (le juge exigeant) en deux parties simples :

A = (Taille du gâteau) × (Facteur de Forme)

• La Taille (le critère D) : C'est la quantité totale d'information que vous avez. Plus c'est grand, mieux c'est.
• La Forme (l'indice de "Sphéricité") : C'est une mesure de l'équilibre.
  • Si votre gâteau est un cercle parfait (ou une sphère), il a une "sphéricité" de 1 (le maximum). C'est l'idéal.
  • Si votre gâteau est un ovale allongé ou une galette aplatie, sa sphéricité est faible.

L'analogie du ballon de baudruche :
Imaginez que vous gonflez un ballon.

• Le critère D vous dit : "Combien d'air avez-vous mis dedans ?" (Le volume).
• Le critère A vous dit : "Est-ce que le ballon est bien rond ?"
• Si vous avez deux ballons avec exactement la même quantité d'air (même D), mais que l'un est parfaitement rond et l'autre est écrasé comme une galette, le ballon écrasé vous donnera des résultats moins fiables dans certaines directions.

Le papier montre mathématiquement que la différence entre deux plans d'expérience qui semblent identiques (même D) vient entièrement de cette "forme" ou "sphéricité".

3. À quoi ça sert dans la vraie vie ?

Les auteurs utilisent cette idée pour résoudre deux problèmes pratiques :

A. Choisir le meilleur plan quand tout semble égal

Dans les exemples du papier, ils montrent des cas où deux plans d'expérience ont exactement le même score D. Si on se contentait de regarder D, on ne saurait pas lequel choisir.
Mais en regardant la sphéricité (la forme), on voit immédiatement que l'un est beaucoup plus équilibré que l'autre. C'est comme choisir entre deux voitures qui ont la même cylindrée (taille du moteur), mais dont l'une a une suspension bien réglée (forme) et l'autre a des pneus plats. On choisit celle qui roule mieux !

B. Améliorer les designs "remplis d'espace"

Parfois, on veut juste remplir un espace uniformément (comme semer des graines dans un champ) sans se soucier d'un modèle mathématique précis. On utilise des algorithmes pour ça (appelés "MaxPro").
Mais si on veut aussi que ces graines servent à faire de bonnes prédictions plus tard, on peut utiliser la sphéricité comme un "filtre de contrôle qualité".

• On génère plein de designs aléatoires.
• On garde ceux qui remplissent bien l'espace.
• Parmi eux, on choisit celui qui a la meilleure "forme" (sphéricité) pour s'assurer que les prédictions seront fiables partout, pas juste dans un coin.

En résumé

Ce papier nous apprend à ne pas nous fier uniquement à la "taille" de nos données (le critère D). Il nous invite à regarder aussi la "forme" de l'information (la sphéricité).

• D = Combien d'informations j'ai ?
• A = Combien d'informations j'ai ET sont-elles réparties équitablement ?

En séparant ces deux concepts, les chercheurs peuvent mieux comprendre pourquoi certains plans d'expérience sont meilleurs que d'autres, même quand les chiffres de base semblent identiques. C'est comme passer d'une simple balance (qui pèse le volume) à un examen visuel complet (qui vérifie la forme et l'équilibre).

Résumé technique

Voici un résumé technique détaillé de l'article « Insights into the Relationship Between D- and A-optimal Designs » (Perspectives sur la relation entre les plans D- et A-optimaux) par Andrew T. Karl et Bradley Jones.

1. Problématique

Dans les expériences de criblage (screening), l'objectif est souvent d'identifier les effets actifs parmi un grand nombre de facteurs potentiels. Deux critères d'optimalité classiques sont utilisés :

• D-optimalité : Maximise le déterminant de la matrice d'information $C = X^\top X$, ce qui correspond à minimiser le volume de l'ellipsoïde de confiance conjoint des paramètres.
• A-optimalité : Minimise la trace de l'inverse de la matrice d'information, $A(X) = \text{tr}(C^{-1})$, ce qui correspond à minimiser la somme des variances des estimateurs des coefficients.

Le problème central : Il est fréquent que plusieurs plans expérimentaux distincts soient des « ex-aequo » (ties) ou des quasi-ex-aequo selon le critère D. Cependant, ces plans peuvent présenter des performances très différentes selon d'autres diagnostics, tels que la variance des coefficients, l'aliasing (confusion entre effets) ou la variance de prédiction (critère G). Les auteurs soulignent que le critère D seul ne suffit pas à discriminer ces plans car il est insensible à la répartition de l'information entre les différentes directions spectrales, tant que le volume global (déterminant) reste constant.

2. Méthodologie et Développement Théorique

Les auteurs proposent une factorisation algébrique du critère A qui le décompose en deux composantes distinctes : une échelle liée au déterminant (D) et un facteur de forme sans dimension (sphéricité).

2.1. Notations et Décomposition

Soit $C = X^\top X$ la matrice d'information de rang plein, avec des valeurs propres $\mu_1, \dots, \mu_p > 0$. Les valeurs propres de la matrice de covariance $C^{-1}$ sont $\lambda_i = \mu_i^{-1}$.

• Le critère D est lié à la moyenne géométrique des $\mu_i$ : $D(X) = (\det C)^{1/p} = GM(\mu)$.
• Le critère A est lié à la moyenne arithmétique des $\lambda_i$ : $A(X) = \sum \lambda_i = p \cdot AM(\lambda)$.

Les auteurs définissent un indice de sphéricité $S(C)$ :
$$S(C) = \frac{GM(\lambda)}{AM(\lambda)} = \frac{HM(\mu)}{GM(\mu)} = \frac{p}{A(X) D(X)}$$
où $0 < S(C) \le 1$. L'égalité$S(C)=1$ est atteinte si et seulement si toutes les valeurs propres de la covariance sont égales (spectre plat).

2.2. La Factorisation Clé

En réarrangeant la définition de $S(C)$, les auteurs obtiennent la relation fondamentale :
$$A(X) = \frac{p}{D(X)} \cdot \frac{1}{S(C)}$$
Cette équation montre que le critère A est le produit de l'inverse de l'échelle D et d'une pénalité de forme pure ($1/S$).

• Interprétation géométrique : Le critère D contrôle la taille globale (le volume) de l'ellipsoïde de confiance. Le critère A, en plus de cette taille, pénalise le déséquilibre spectral (l'allongement de l'ellipsoïde).
• Conséquence : Pour des plans ayant un déterminant identique (ou très proche), les différences dans le critère A sont entièrement dues aux différences dans l'indice de sphéricité $S$. Un $S$ plus élevé indique un spectre de covariance plus équilibré et une meilleure A-optimalité.

2.3. Extension à la classe $\Phi$ de Kiefer

Les auteurs généralisent cette idée à la classe de critères $\Phi_r$ de Kiefer. Ils montrent que tout critère $\Phi_r$ peut s'écrire comme le produit de l'échelle D ($\Phi_0$) et d'un facteur de forme $S_r(C)$. Cela crée un continuum reliant la D-optimalité ($r=0$, insensible à la forme) à l'A-optimalité ($r=-1$) et au critère E ($r=-\infty$).

3. Résultats et Illustrations

L'article valide cette théorie à travers plusieurs exemples concrets :

• Exemple de l'ex-aequo D (Jones et al., 2021) : Dans un exemple de criblage publié, deux plans (l'un A-optimal, l'autre D-optimal) ont exactement le même score D. Cependant, le plan A-optimal possède un indice de sphéricité $S$ plus élevé (0,973 contre 0,945). Cela se traduit par une meilleure efficacité A (94,12 % contre 91,43 %) et une variance de prédiction maximale (critère G) nettement inférieure (57,14 % contre 40,00 %). L'analyse spectrale montre que le plan A-optimal répartit la variance de manière plus uniforme, tandis que le plan D-optimal concentre la variance dans certaines directions.
• Cas des solutions infinies (Stallrich et al., 2023) : Dans un contexte où il existe une infinité de plans D-optimaux (en modifiant deux entrées d'une matrice de conception), l'unique plan A-optimal est celui qui maximise l'indice de sphéricité. Les autres plans D-optimaux, bien qu'ayant le même déterminant, présentent des spectres de covariance déséquilibrés et des performances de prédiction dégradées.
• Application aux plans remplissant l'espace (Space-filling) : Pour les plans générés sans modèle spécifique (ex: FFF - Fast Flexible Filling), les auteurs proposent une procédure de « post-screening » légère. Au lieu d'optimiser uniquement l'écartement des points (MaxPro), on sélectionne parmi les candidats compétitifs celui qui maximise l'indice de sphéricité $S$ pour un modèle de travail donné.
  • Ils définissent un score composite : $\text{Score} = \frac{\text{MaxPro}}{S}$.
  • Une faible corrélation entre MaxPro et $S$ a été observée, indiquant qu'un bon remplissage de l'espace ne garantit pas un bon équilibre spectral pour un modèle donné. L'utilisation de $S$ permet de choisir un plan qui offre une meilleure stabilité de prédiction sans sacrifier la couverture spatiale.

4. Contributions Clés

1. Décomposition Algébrique : La preuve formelle que le critère A se factorise en une échelle D et un facteur de forme (sphéricité), expliquant mathématiquement pourquoi des plans D-équivalents peuvent différer radicalement en A.
2. Indice de Sphéricité ($S$) : Introduction d'une métrique simple, sans dimension et invariante par échelle, qui quantifie l'équilibre spectral d'un plan. Elle est directement calculable à partir des rapports d'efficacité dans des logiciels comme JMP ($S = A_{eff} / D_{eff}$).
3. Interprétation Géométrique : Clarification du rôle de D (volume) vs A (volume + forme/roundness).
4. Stratégie Pratique : Proposition d'une méthode de sélection de plans pour les criblages et les modèles de substitution (surrogates) : utiliser un critère de remplissage (MaxPro) comme filtre principal, puis l'indice de sphéricité comme critère de tie-breaker pour optimiser la précision du modèle.

5. Signification et Impact

Cet article apporte une réponse théorique élégante à un problème pratique récurrent en statistique expérimentale : la limitation du critère D dans les situations de criblage où de nombreux plans sont équivalents.

• Pour la pratique : Il fournit aux praticiens un outil simple pour discriminer entre des plans D-optimaux. Au lieu d'accepter n'importe quel plan D-optimal, ils peuvent choisir celui qui maximise $S$, garantissant ainsi une variance de prédiction plus uniforme et une meilleure robustesse.
• Pour la recherche : La connexion avec la classe $\Phi$ de Kiefer et les profils de sphéricité offre un cadre unifié pour comprendre comment les différents critères d'optimalité pénalisent les directions d'information faibles.
• Outils logiciels : L'article note que cette métrique est déjà disponible implicitement dans JMP sous forme de rapport d'efficacité, rendant son adoption immédiate possible.

En résumé, l'article démontre que l'équilibre spectral (sphéricité) est la composante manquante du critère D, et que son optimisation est cruciale pour obtenir des plans de criblage performants en termes de variance des coefficients et de prédiction.