Résumé Technique : Le Paradoxe de la Mise à l’Échelle dans la Collaboration Humain–IA

Problématique

La découverte des lois d'échelle (Scaling Laws) en intelligence artificielle (Kaplan et al. 2020 ; Hestness et al. 2017) établit que les capacités de l'IA s'améliorent de manière prévisible lorsque la taille du modèle, les données et le calcul augmentent. Cependant, en contexte opérationnel, l'IA fonctionne rarement de manière isolée ; elle opère au sein de systèmes collaboratifs humain–IA où les travailleurs humains doivent allouer un effort pour réviser, valider ou corriger les résultats de l'IA.

Le problème central abordé est de savoir si les gains empiriques issus de la mise à l'échelle de l'IA se traduisent par une amélioration des performances du système conjoint humain–IA. Bien que l'intuition suggère qu'une IA plus performante devrait permettre aux humains de traiter davantage de tâches, des preuves empiriques récentes (ex. : Becker et al. 2025 ; METR) indiquent des résultats de productivité mitigés, voire négatifs. L'article postule que la perception erronée des capacités de l'IA par l'humain est un mécanisme critique, souvent négligé, qui peut briser l'effet de mise à l'échelle, menant à un « paradoxe de la mise à l'échelle » où l'augmentation de l'échelle de l'IA réduit la performance globale du système ainsi que le profit de l'entreprise.

Méthodologie

Les auteurs développent un modèle analytique parcimonieux de la collaboration humain–IA pour étudier l'allocation endogène de l'effort sous les lois de mise à l'échelle.

1. Le flux de travail Humain–IA

Le modèle formalise un processus séquentiel en trois étapes :

1. Configuration (Setup) : Un travailleur humain initie un projet avec un coût temporel fixe $t_0$.
2. Exécution par l'IA : L'IA tente la tâche avec une probabilité de succès $1 - e^{-\alpha s}$, où $s$ est l'échelle de l'IA (mesure logarithmique des ressources) et $\alpha$ est le facteur de mise à l'échelle (alignement tâche-IA).
3. Révision humaine : Le travailleur alloue un temps $t$ pour réviser et corriger le résultat de l'IA. Si l'IA échoue, le travailleur le corrige avec une probabilité $1 - e^{-t}$.

La probabilité de succès conjointe est $p(t; \alpha, s) = 1 - e^{-(\alpha s + t)}$. Le travailleur dispose d'une capacité fixe $C$ et cherche à maximiser le nombre attendu de projets réussis.

2. Mécanisme de perception erronée

Le modèle introduit un paramètre comportemental où le travailleur perçoit le facteur de mise à l'échelle comme étant $\hat{\alpha}$, lequel peut différer du vrai $\alpha$.

• Sur-perception ($\hat{\alpha} > \alpha$) : Les travailleurs surestiment la capacité de l'IA, entraînant une réduction agressive de l'effort.
• Sous-perception ($\hat{\alpha} < \alpha$) : Les travailleurs sous-estiment la capacité de l'IA, entraînant une allocation d'effort excessive.

3. Perspective de l'Entreprise et Désalignement

L'entreprise maximise son profit, défini comme la récompense nette provenant des projets réussis moins le coût de déploiement $c \cdot s$. De manière cruciale, l'entreprise supporte le coût de l'IA tandis que le travailleur ne le fait pas, créant un désalignement structurel entreprise-travailleur concernant les niveaux d'effort optimaux. Le modèle analyse comment la perception erronée exacerbe ce désalignement.

4. Interventions Politiques

L'étude évalue deux leviers opérationnels :

• Internalisation du Coût (IC) : Déplacer une fraction $\rho$ du coût de déploiement de l'IA vers le travailleur pour modifier les incitations à l'effort.
• Alignement de la Perception : Interventions (ex. : formation, rapports transparents) visant à aligner $\hat{\alpha}$ sur $\alpha$.

Principales Contributions

1. Intégration des Lois de Mise à l'Échelle dans la Gestion des Opérations : L'article intègre la loi de mise à l'échelle comme une primitive dans un cadre opérationnel analytique, allant au-delà des études empiriques de ML pour examiner comment la mise à l'échelle affecte l'ensemble du système de production lorsque l'effort humain répond de manière endogène.
2. Identification du Paradoxe de la Mise à l'Échelle : Les auteurs identifient la perception erronée humaine comme un nouveau mécanisme comportemental où la mise à l'échelle échoue. Plus précisément, la sur-perception peut rendre la performance du système conjoint non monotone par rapport à l'échelle $s$, créant une région où une IA plus vaste produit de moins bons résultats.
3. Asymétrie des Risques de Perception : L'article distingue les effets asymétriques de la sur- versus la sous-perception. La sur-perception inverse les bénéfices de la mise à l'échelle et amplifie le désalignement entreprise-travailleur. La sous-perception préserve l'amélioration monotone (bien qu'à un rythme plus lent) et peut, contre-intuitivement, atténuer partiellement le désalignement entreprise-travailleur en induisant les travailleurs à fournir plus d'efforts.
4. Conception de Politiques pour Mitiger les Distorsions : L'étude caractérise comment l'internalisation des coûts et l'alignement de la perception doivent être adaptés selon la direction de la perception erronée et l'économie du déploiement (ex. : niveaux de coûts).

Résultats Clés

1. Collaboration Parfaite ($\hat{\alpha} = \alpha$)

Lorsque les humains perçoivent avec précision la capacité de l'IA, la loi de mise à l'échelle se vérifie. À mesure que l'échelle $s$ augmente :

• L'effort humain par projet ($t^*$) diminue de façon non croissante.
• Le débit des projets augmente.
• La récompense totale du système augmente.
  Le système passe d'un régime « Humain seul » à un régime « Humain dans la boucle » (HIL/Human-in-the-loop), puis finalement à un régime d'« Intelligence Artificielle Générale » (AGI) où l'effort humain au-delà de la configuration initiale est nul.

2. Sur-perception ($\hat{\alpha} > \alpha$)

• Distorsion de l'effort : Les travailleurs réduisent leur effort trop agressivement ($\hat{t} < t^*$).
• Le Paradoxe de la Mise à l'Échelle : Dans le régime HIL, si le degré de sur-perception est suffisamment élevé, la récompense réalisée devient non monotone par rapport à $s$. Initialement, la mise à l'échelle améliore la performance, mais au-delà d'un certain seuil, la réduction de l'effort humain l'emporte sur les gains techniques de l'IA, provoquant une baisse de la récompense totale.
• Impact sur l'Entreprise : Ce paradoxe est amplifié au niveau de l'entreprise. À mesure que la récompense décline, le profit de l'entreprise chute encore plus brutalement car l'entreprise continue de payer le coût de déploiement croissant $c \cdot s$ pour un nombre décroissant de projets réussis. La sur-perception élargit l'écart entre l'effort optimal du travailleur et celui de l'entreprise.

3. Sous-perception ($\hat{\alpha} < \alpha$)

• Distorsion de l'effort : Les travailleurs investissent trop d'effort ($\hat{t} > t^*$).
• Mise à l'échelle Atténuée : La loi de mise à l'échelle se maintient (la récompense augmente avec $s$), mais les gains sont plus lents que dans le cas de la collaboration parfaite parce que les travailleurs allouent de manière inefficace trop de temps par projet, réduisant ainsi le débit.
• Impact sur l'Entreprise : La sous-perception peut partiellement aligner le comportement du travailleur sur les intérêts de l'entreprise. Puisque l'entreprise préfère un effort plus élevé que le travailleur (pour réduire les déploiements d'IA coûteux), l'« excès d'effort » du travailleur sous la sous-perception peut, par inadvertance, réduire le désalignement entreprise-travailleur, améliorant parfois le profit de l'entreprise par rapport à la référence de la collaboration parfaite.

4. Interventions Politiques

• Internalisation du Coût :
  • Faible Coût de l'IA : Transférer les coûts aux travailleurs ($\rho$ élevé) augmente généralement le profit de l'entreprise.
  • Coût Élevé de l'IA : Les entreprises devraient absorber davantage de coûts (faible $\rho$) pour éviter que les travailleurs n'abandonnent les outils d'IA.
  • Sous Perceptions Erronées : En situation de sur-perception, les entreprises peuvent transférer davantage de coûts aux travailleurs (qui sont déjà trop confiants). En situation de sous-perception, les entreprises doivent assumer davantage de coûts pour encourager l'adoption.
• Alignement de la Perception :
  • Sur-perception : L'alignement est sans ambiguïté bénéfique tant pour les travailleurs que pour les entreprises, empêchant le paradoxe de la mise à l'échelle.
  • Sous-perception : L'alignement n'est pas toujours bénéfique pour l'entreprise. Corriger une légère sous-perception peut réduire le profit de l'entreprise en éloignant les travailleurs du niveau d'effort préféré par cette dernière. Un alignement agressif n'est bénéfique que si la sous-perception est sévère.

Signification et Revendications

L'article soutient que la mise à l'échelle de l'IA n'est pas seulement un défi technologique, mais aussi un défi comportemental et opérationnel. Les auteurs affirment que :

1. La Valeur Automatique est un Mythe : Des systèmes d'IA plus vastes ne conduisent pas automatiquement à de meilleurs résultats opérationnels ; la valeur dépend de manière critique de la façon dont l'augmentation des capacités façonne les croyances humaines et les efforts de collaboration.
2. Gestion de l'Interface : Les organisations pourraient bénéficier davantage de la gestion de l'interface humain–IA (via l'alignement de la perception et la conception des incitations) que de simplement investir dans des modèles plus grands et plus coûteux.
3. Risque de Sur-perception : Le « paradoxe de la mise à l'échelle » suggère que les tendances organisationnelles actuelles consistant à mettre à l'échelle l'IA de manière agressive tout en réduisant la supervision humaine — portées par l'optimisme excessif — peuvent mener à une détérioration des performances et à une amplification des pertes de profits.
4. Interventions Asymétriques : Les politiques opérationnelles doivent être asymétriques ; ce qui fonctionne pour la sur-perception (ex. : transfert de coûts, alignement agressif) peut être contre-productif pour la sous-perception.

L'étude conclut que réaliser la valeur de l'IA déployée exige que les entreprises adaptent les croyances humaines et les structures d'incitation aux capacités spécifiques du système d'IA, mettant en garde contre l'idée que le progrès technologique seul garantit la performance organisationnelle.