Explainable AI for Agricultural Climate-Risk Prediction: A Systematic Review of Progress and Strategic Roadmap

L'approvisionnement alimentaire mondial repose sur un équilibre délicat, constamment mis à l'épreuve par les humeurs changeantes du climat. Les sécheresses peuvent flétrir les champs, les sols salins peuvent empoisonner les racines, et une météo imprévisible peut transformer une récolte prometteuse en perte. Depuis des décennies, les scientifiques se tournent vers l'informatique pour prédire ces dangers, utilisant des algorithmes complexes capables de repérer des modèles dans les données météorologiques et pédologiques bien plus rapidement que n'importe quel humain. Ces systèmes d'intelligence artificielle sont devenus incroyablement doués pour deviner ce qui va se passer ensuite, souvent avec une précision quasi parfaite. Cependant, un problème majeur est apparu : si ces modèles informatiques peuvent prédire l'avenir avec une grande précision, ils ne peuvent pas expliquer comment ils sont parvenus à leurs conclusions. Ils fonctionnent comme une boîte noire, offrant un résultat sans montrer le travail effectué à l'intérieur. Pour les agriculteurs et les experts agricoles qui doivent prendre des décisions de vie ou de mort basées sur ces prédictions, ce manque de transparence crée un mur de méfiance. Si un ordinateur dit qu'un champ va échouer, mais ne peut pas dire pourquoi, l'agriculteur ne sait pas s'il doit croire l'avertissement ou l'ignorer.

Une nouvelle revue systématique, publiée en 2026 par des chercheurs de l'Université Majan, de l'Université Lakehead et de l'Université de l'Ontario Tech, examine de près ce fossé croissant. Les auteurs ont rassemblé et analysé des dizaines d'études récentes qui tentaient de résoudre ce problème de la « boîte noire » en ajoutant une couche d'explicabilité aux prédictions agricoles. Leur objectif était de voir si la technologie avait atteint une maturité suffisante pour être digne de confiance dans le monde réel. La revue couvre une période spécifique allant de 2021 à 2026, une période où l'accent de la recherche s'est déplacé brusquement vers la rendre ces modèles compréhensibles. Les chercheurs ont examiné comment ces nouveaux systèmes gèrent cinq domaines critiques : la prédiction des rendements agricoles, la détection de la salinité des sols, la prévision des sécheresses, l'identification des maladies des plantes et l'évaluation des risques climatiques généraux. Ils ont constaté que, bien que les modèles de prédiction sous-jacents aient atteint des niveaux de précision impressionnants, les méthodes utilisées pour les expliquer sont souvent instables, incomplètes ou déconnectées de la biologie réelle des plantes.

La revue révèle que les modèles de prédiction les plus performants aujourd'hui ne sont plus de simples outils statistiques, mais des réseaux profonds et complexes qui imitent la façon dont le cerveau humain traite l'information. Dans le domaine du rendement des cultures, ces systèmes avancés ont atteint des scores de précision aussi élevés que 0,975, ce qui signifie qu'ils peuvent prévoir la taille des récoltes avec une précision remarquable. De même, pour la détection des maladies des plantes, certains modèles ont atteint une précision de 99,63 %, identifiant correctement les feuilles malades des feuilles saines presque à chaque fois. Ces systèmes s'appuient sur des données telles que la température, l'humidité, la qualité du sol et les images satellites des champs. Cependant, l'étude souligne une tendance troublante : les explications fournies pour ces scores élevés sont souvent une réflexion après coup. La plupart des chercheurs construisent d'abord un modèle de prédiction puissant, puis y attachent un outil distinct pour tenter de l'expliquer plus tard. Cette approche est comparable à la construction d'un moteur de voiture, pour ensuite essayer de dessiner une carte du flux de carburant seulement une fois que la voiture est déjà en marche. La revue a constaté que ces explications « post-hoc » échouent souvent à capturer la véritable logique du modèle, surtout lorsqu'il s'agit de la réalité complexe et interconnectée de la météo et du sol.

L'un des outils les plus courants utilisés pour expliquer ces modèles est une méthode appelée SHAP, qui tente de décomposer une prédiction pour montrer à quel point chaque facteur, comme la pluviométrie ou le pH du sol, a contribué au résultat final. Les chercheurs ont constaté que SHAP est mathématiquement robuste et cohérent, ce qui en fait un choix solide pour comprendre les interactions complexes dans la salinité du sol et le rendement. Cependant, il est également très lent et gourmand en ressources de calcul, nécessitant une puissance considérable pour fonctionner sur de grands ensembles de données. Un autre outil populaire, connu sous le nom de LIME, est plus rapide et plus facile à utiliser, mais la revue l'a jugé dangereusement instable. Parce que LIME crée une approximation locale simplifiée du modèle, de petits changements dans les données peuvent conduire à des explications totalement différentes pour une même situation. Cette incohérence le rend peu fiable pour les agriculteurs qui ont besoin de savoir exactement pourquoi un champ spécifique est à risque. L'étude a également noté que les méthodes plus anciennes, qui observent comment une variable change de manière isolée, échouent souvent en agriculture car les facteurs météorologiques sont profondément liés. Par exemple, vous ne pouvez pas modifier la vitesse du vent sans modifier également la température ou l'humidité, pourtant certains outils d'explication les traitent comme s'ils étaient indépendants, menant à des scénarios confus ou impossibles.

La revue a également mis en lumière une lacune importante dans la gestion de l'incertitude par ces systèmes. Dans le monde réel, aucune prédiction n'est jamais sûre à 100 %, pourtant la plupart des modèles agricoles présentent leurs résultats comme des faits absolus. Un agriculteur pourrait être informé qu'un champ aura un faible rendement, mais le modèle ne précise pas son degré de confiance dans ce chiffre. Les chercheurs soulignent que sans une mesure claire de la confiance, telle qu'une plage de résultats possibles, les agriculteurs pourraient prendre des décisions risquées basées sur une supposition que l'ordinateur traite comme une certitude. Seules quelques études, comme une étude portant sur la salinité du sol, ont commencé à inclure ces intervalles de confiance, montrant la différence entre un avertissement à haut risque et à haute certitude et un avertissement spéculatif. L'absence de cette information dans la plupart des recherches actuelles signifie que la technologie n'est pas encore prête pour une utilisation généralisée à enjeux élevés sur le terrain.

Un autre problème majeur identifié est l'« effet silo », où les chercheurs étudient la sécheresse, les maladies et la salinité comme s'il s'agissait de problèmes distincts. En réalité, ces risques s'alimentent les uns les autres. Une sécheresse peut forcer un agriculteur à utiliser une eau de mauvaise qualité pour l'irrigation, ce qui augmente ensuite la salinité du sol, laquelle rend à son tour les cultures plus sensibles aux maladies. La génération actuelle de modèles d'IA explicables échoue généralement à montrer ces connexions en cascade. Ils peuvent expliquer pourquoi une plante est sèche ou pourquoi le sol est salin, mais ils expliquent rarement comment un problème a conduit à l'autre. Cette fragmentation limite l'utilité de la technologie, car elle ne peut pas fournir une image complète de la santé de l'exploitation. De plus, la revue a noté un fort biais dans la recherche, la plupart des études se concentrant sur les régions du Nord global ou sur des zones spécifiques et bien documentées comme le delta du Nil. Les modèles développés pour ces endroits ne fonctionnent souvent pas bien lorsqu'ils sont appliqués à d'autres cultures, sols ou climats dans d'autres parties du monde, et les explications qu'ils fournissent peuvent ne pas avoir de sens pour les agriculteurs locaux.

Tournée vers l'avenir, les auteurs proposent une feuille de route stratégique pour faire passer le domaine des laboratoires expérimentaux à l'application dans le monde réel. Ils soutiennent que la solution n'est pas seulement d'ajouter un outil d'explication après coup, mais de concevoir les modèles dès le départ avec la transparence à l'esprit. Ce concept, appelé « l'explicabilité par conception » (Explainability-by-Design), signifierait de construire l'IA de manière à ce qu'elle produise naturellement des raisons claires et logiques pour ses prédictions, plutôt que d'essayer de les rétro-concevoir plus tard. Les chercheurs appellent également à une approche unifiée qui respecte la confidentialité des données, permettant à différentes régions de partager des connaissances sans partager de données brutes sensibles. Crucialement, ils insistent sur le fait que toute explication doit être validée par des experts humains, tels que des agronomes et des phytopathologistes, pour s'assurer que les raisons données par l'ordinateur correspondent réellement aux réalités biologiques et physiques de l'exploitation. Si un modèle indique qu'une plante est malade à cause d'un motif lumineux spécifique, un expert humain doit confirmer que ce motif est un véritable signe de maladie et non un simple artefact de la caméra.

Le but ultime de cette recherche est de combler le fossé entre la prédiction de haute technologie et la confiance humaine. La revue conclut que, bien que l'intelligence artificielle ait le pouvoir de sauvegarder la sécurité alimentaire mondiale contre le changement climatique, elle ne pourra le faire que lorsqu'elle deviendra un partenaire que les agriculteurs peuvent comprendre. La technologie doit dépasser le stade de la simple précision pour devenir digne de confiance. Cela signifie fournir non seulement une prédiction, mais aussi une explication claire, confiante et scientifiquement fondée de la raison pour laquelle cette prédiction a été faite. Tant que le domaine n'adoptera pas ces nouvelles normes de conception, de validation et de communication de l'incertitude, ces outils puissants resteront enfermés dans les laboratoires, incapables d'aider les agriculteurs qui en ont le plus besoin. La voie à suivre exige un changement de mentalité, traitant l'explicabilité non pas comme un ajout technique, mais comme le fondement de tout système destiné à guider l'avenir de l'agriculture.