How Simple Can It Get? From Interpretable Equations to Readable Rules for Financial Decision Making

Imaginez que vous êtes un détective tentant de résoudre un mystère, mais que votre seul indice est une énorme pelote de laine emmêlée contenant chaque pièce de preuve que vous avez jamais recueillie. Dans le monde de l'intelligence artificielle, cette « pelote de laine » est un modèle informatique complexe qui fait des prédictions sur des choses comme la capacité de quelqu'un à rembourser un prêt ou si une transaction est frauduleuse. Bien que ces modèles soient souvent incroyablement doués pour deviner la bonne réponse, ils sont généralement si complexes qu'aucun humain ne peut comprendre comment ils sont parvenus à cette conclusion. Dans le monde de la finance, c'est un problème majeur. Les lois exigent souvent que si une banque refuse votre demande de prêt, elle soit capable d'expliquer pourquoi d'une manière qu'une personne ordinaire puisse suivre. Si l'explication est un fouillis de mathématiques qui ressemble à du code extraterrestre, elle est inutile.

C'est ici qu'intervient l'idée de modèles « interprétables ». Considérez-les comme des modèles construits pour être transparents dès le départ, comme une boîte en verre transparent plutôt qu'une boîte noire. Mais voici le revers de la médaille : même une boîte en verre transparent peut être si remplie d'engrenages et de leviers qu'elle en devient tout de même impossible à lire. Le document que vous allez lire s'attaque à une question très spécifique : si nous avons déjà un modèle qui est techniquement « compréhensible » (parce qu'il s'agit simplement d'une grande équation mathématique), jusqu'à quel point pouvons-nous le simplifier avant qu'il ne perde son sens ? Pouvons-nous couper les parties confuses pour créer une règle simple de type « si-alors », comme une recette, sans ruiner la capacité du modèle à prédire l'avenir ? Les chercheurs voulaient trouver le point d'équilibre où une règle est assez simple pour être lue par un humain, tout en restant assez intelligente pour prendre de bonnes décisions.

---

La grande réduction d'équation

Imaginez que vous avez une recette magique pour prédire si un demandeur de prêt fera défaut (ne remboursera pas son prêt). La recette originale, apprise par un ordinateur, est une équation unique et massive. Elle multiplie ensemble 42 ingrédients différents — comme le « total des intérêts reçus », le « temps écoulé depuis le dernier paiement » et le « revenu annuel » — chacun élevé à une puissance spécifique et étrange. C'est comme un smoothie composé de 42 fruits, où l'ordinateur a décidé exactement quelle quantité de chaque fruit mélanger.

Le problème ? Si vous montrez cette recette de smoothie à 42 ingrédients à un gestionnaire de banque, il restera là, perplexe. Elle est techniquement « lisible » parce qu'il s'agit de mathématiques, mais elle est trop longue pour être réellement utilisée. Les auteurs de ce document se sont demandé : « Et si nous partions de cette recette complexe et que nous essayions de la simplifier, étape par étape, pour voir quelle saveur nous perdons ? »

Ils n'ont pas seulement deviné ; ils ont pris l'équation originale et l'ont systématiquement dépouillée de quatre manières différentes, comme on épluche un oignon :

1. Le Monôme Élagué : Ils ont pris la recette et ont jeté les ingrédients qui n'avaient pas beaucoup d'importance. Si un ingrédient ne changeait le goût que très légèrement, ils le supprimaient entièrement.
2. La Règle Directionnelle : Ils ont gardé les ingrédients mais ont cessé de se soucier de la quantité de chacun. Au lieu de cela, ils ont simplement noté la direction. Par exemple, « Si les intérêts sont élevés, le risque augmente ». Ils ont jeté les chiffres exacts et ont simplement gardé les flèches « haut » ou « bas ».
3. Le Scorecard (Fiche de notation) : Ils ont transformé les ingrédients en simples questions Oui/Non. Au lieu de « Le paiement total est de 450 $ », ils demandaient : « Le paiement total est-il faible ? ». Si oui, vous obtenez 5 points. Si non, vous obtenez 0. Ils ont attribué des points entiers (comme 1, 2 ou 5) en fonction de l'importance.
4. Le Tally (Le décompte) : C'était la version la plus simple. Il s'agissait d'une simple liste de contrôle. « Avez-vous rempli la condition A ? Oui. La condition B ? Oui. » On compte simplement combien de cases on a cochées. Pas de points, pas de poids, juste un simple décompte.

Les résultats surprenants : Qu'est-ce qui se perd ?

L'équipe a testé ces règles simplifiées sur quatre ensembles de données financières réels, incluant les défauts de paiement de prêts et la fraude à la carte de crédit. Voici ce qu'ils ont découvert, et cela pourrait vous surprendre.

1. Couper dans le gras est presque gratuit.
Lorsqu'ils ont supprimé les ingrédients faibles (ceux qui n'avaient qu'un effet infime) pour créer le « Monôme Élagué », le modèle n'a presque perdu aucune précision. En fait, sur un ensemble de données, ils ont réduit le nombre de caractéristiques de 42 à seulement 7, et la capacité du modèle à prédire les défauts a chuté d'un montant minuscule, presque invisible (de 0,886 à 0,885). C'est comme réaliser que votre smoothie a exactement le même goût même si vous jetez le 40ème fruit. Vous pouvez raccourcir la recette sans perdre la saveur.

2. La règle « Haut/Bas » est un raccourci intelligent.
Lorsqu'ils sont passés à la « Règle Directionnelle » (en gardant les ingrédients mais en notant seulement s'ils montent ou descendent), les résultats ont été fascinants. Sur certains ensembles de données, le modèle est resté incroyablement précis. Sur d'autres, le classement des personnes à risque a un peu changé, mais il a toujours très bien accompli sa tâche réelle consistant à dire « oui » ou « non ». Cela suggère que parfois, connaître la direction d'un risque est suffisant, même si l'on ne connaît pas la mathématique exacte derrière celui-ci.

3. Transformer les nombres en « Oui/Non » est risqué.
C'est ici que les choses sont devenues délicates. Lorsqu'ils ont transformé les nombres continus (comme les montants exacts en dollars) en simples conditions « Oui/Non » pour le Scorecard et le Tally, les modèles ont souvent échoué. Sur l'ensemble de données des prêts, la précision a chuté d'un solide 0,885 à un faible 0,329. C'était comme essayer de décrire une peinture complexe en utilisant uniquement des autocollants noirs et blancs ; on perd trop de détails. Le document suggère que pour certains types de données, le chiffre exact importe plus que de savoir simplement si c'est « haut » ou « bas ».

4. Prédire le crash avant qu'il n'arrive.
L'un des aspects les plus intéressants du document est que les auteurs ont trouvé un moyen de prédire la performance de la « Règle Directionnelle » avant même de la construire. En observant l'équation mathématique originale et la façon dont les ingrédients sont liés entre eux, ils pouvaient calculer un score qui leur disait : « Hé, si vous jetez les chiffres et ne gardez que les directions, votre modèle sera encore environ 75 % fidèle à l'original. » C'est comme être capable de deviner le goût d'un gâteau rien qu'en regardant la liste des ingrédients, sans même le cuire.

Ce que les humains pensent réellement

Les chercheurs n'ont pas seulement regardé les mathématiques ; ils ont demandé à de vraies personnes — des experts en finance et des chercheurs en IA — de lire ces règles simplifiées et de dire lesquelles ils préféraient.

Les résultats ont révélé deux mondes différents.

• Les experts en finance et en risque ont adoré la Règle Directionnelle. Ils l'ont préférée 57 % du temps. Ils appréciaient l'idée d'une phrase claire : « Prédisez le défaut quand les intérêts sont élevés et les paiements sont faibles. » Cela leur semblait naturel.
• Les chercheurs en IA et en apprentissage automatique ont préféré les Scorecards et les Tallies (les systèmes basés sur les points). Ils les ont choisis 72 % du temps. Ils aimaient la structure consistant à additionner des points, ce qui leur rappelait les systèmes de notation traditionnels.

Il est intéressant de noter que presque personne n'a aimé l'équation originale à 42 ingrédients. Elle était trop désordonnée pour tout le monde. L'étude suggère que si la simplification d'un modèle le rend plus facile à lire pour un humain, différents métiers préfèrent différents types de simplicité.

L'essentiel à retenir

Ce document nous enseigne que rendre un modèle « simple » ne consiste pas seulement à le rendre plus court. C'est un compromis.

• On peut souvent supprimer les parties faibles d'un modèle sans aucun coût.
• On peut parfois abandonner les chiffres exacts et ne garder que la direction « haut/bas » sans perdre beaucoup de précision.
• Mais si l'on transforme tout en simples cases « Oui/Non », on risque de perdre la capacité de faire de bonnes prédictions, surtout si les données sont complexes.

Plus important encore, les auteurs ont découvert qu'une règle plus simple n'a pas forcément besoin d'être une copie parfaite du modèle complexe original pour être utile. Une règle peut être un peu « infidèle » aux mathématiques originales tout en restant un classificateur très efficace. C'est comme une carte : vous n'avez pas besoin que chaque arbre et chaque rocher y soit dessiné pour atteindre votre destination ; vous avez juste besoin des routes principales.

L'étude conclut que dans le monde réglementé de la finance, nous ne devrions pas simplement supposer qu'un modèle est bon parce qu'il est « interprétable ». Nous devons mesurer précisément ce que nous perdons lorsque nous le rendons lisible. Parfois, la perte est minime ; parfois, elle est énorme. Et la meilleure façon d'expliquer une décision dépend de l'interlocuteur.