Explainable AI for Agricultural Climate-Risk Prediction: A Systematic Review of Progress and Strategic Roadmap

El suministro mundial de alimentos pende de un delicado equilibrio, constantemente puesto a prueba por los cambios en el estado del clima. Las sequías pueden marchitar los campos, los suelos salinos pueden envenenar las raíces y el clima impredecible puede convertir una cosecha prometedora en una pérdida. Durante décadas, los científicos han recurrido a las computadoras para predecir estos peligros, utilizando algoritmos complejos que pueden detectar patrones en los datos meteorológicos y del suelo mucho más rápido que cualquier ser humano. Estos sistemas de inteligencia artificial se han vuelto increíblemente buenos para adivinar qué sucederá después, a menudo con una precisión casi perfecta. Sin embargo, ha surgido un problema significativo: si bien estos modelos computacionales pueden predecir el futuro con gran precisión, no pueden explicar cómo llegaron a sus conclusiones. Operan como una caja sellada, ofreciendo un resultado sin mostrar el trabajo realizado en su interior. Para los agricultores y expertos agrícolas que deben tomar decisiones de vida o muerte basadas en estas predicciones, esta falta de transparencia crea un muro de desconfianza. Si una computadora dice que un campo fallará, pero no puede decir por qué, el agricultor no puede saber si confiar en la advertencia o ignorarla.

Una nueva revisión sistemática, publicada en 2026 por investigadores de Majan University College, Lakehead University y Ontario Tech University, analiza de cerca este creciente vacío. Los autores recopilaron y analizaron docenas de estudios recientes que intentaron solucionar este problema de la "caja negra" añadiendo una capa de explicabilidad a las predicciones agrícolas. Su objetivo era ver si la tecnología había madurado lo suficiente como para ser confiable en el mundo real. La revisión cubre un periodo de tiempo específico de 2021 a 2026, un periodo en el que el enfoque de la investigación se desplazó drásticamente hacia la comprensión de estos modelos. Los investigadores examinaron cómo estos nuevos sistemas manejan cinco áreas críticas: la predicción del rendimiento de los cultivos, la detección de la salinidad del suelo, el pronóstico de sequías, la identificación de enfermedades de las plantas y la evaluación de riesgos climáticos generales. Encontraron que, si bien los modelos de predicción subyacentes han alcanzado niveles de precisión impresionantes, los métodos utilizados para explicarlos son a menudo inestables, incompletos o desconectados de la biología real de las plantas.

La revisión revela que los modelos de predicción más exitosos de hoy en día ya no son simples herramientas estadísticas, sino redes profundas y complejas que imitan la forma en que el cerebro humano procesa la información. En el ámbito del rendimiento de los cultivos, estos sistemas avanzados han alcanzado puntuaciones de precisión de hasta 0.975, lo que significa que pueden pronosticar los tamaños de las cosechas con una precisión notable. Del mismo modo, para la detección de enfermedades de las plantas, algunos modelos han alcanzado una precisión del 99.63%, identificando correctamente hojas enfermas de las sanas casi siempre. Estos sistemas se basan en datos como la temperatura, la humedad, la calidad del suelo e imágenes satelitales de los campos. Sin embargo, el estudio destaca una tendencia preocupante: las explicaciones proporcionadas para estas altas puntuaciones son a menudo una ocurrencia tardía. La mayoría de los investigadores construyen primero un modelo de predicción potente y luego le adjuntan una herramienta separada para intentar explicarlo después. Este enfoque es como construir el motor de un coche y luego intentar dibujar un mapa de cómo fluye el combustible solo después de que el coche ya está en marcha. La revisión encontró que estas explicaciones "post-hoc" a menudo no logran capturar la verdadera lógica del modelo, especialmente cuando se trata de la realidad desordenada e interconectada del clima y el suelo.

Una de las herramientas más comunes utilizadas para explicar estos modelos es un método llamado SHAP, que intenta desglosar una predicción para mostrar cuánto contribuyó cada factor, como la lluvia o el pH del suelo, al resultado final. Los investigadores encontraron que SHAP es matemáticamente robusto y consistente, lo que lo convierte en una opción sólida para comprender las interacciones complejas en la salinidad del suelo y el rendimiento. Sin embargo, también es muy lento y computacionalmente pesado, requiriendo una potencia significativa para ejecutarse en grandes conjuntos de datos. Otra herramienta popular, conocida como LIME, es más rápida y fácil de usar, pero la revisión la encontró peligrosamente inestable. Debido a que LIME crea una aproximación local simplificada del modelo, pequeños cambios en los datos pueden conducir a explicaciones completamente diferentes para la misma situación. Esta inconsistencia la hace poco fiable para los agricultores que necesitan saber exactamente por qué un campo específico está en riesgo. El estudio también señaló que los métodos más antiguos, que observan cómo cambia una variable de forma aislada, suelen fallar en la agricultura porque los factores climáticos están profundamente vinculados. Por ejemplo, no se puede cambiar la velocidad del viento sin cambiar también la temperatura o la humedad, sin embargo, algunas herramientas de explicación los tratan como si fueran independientes, lo que conduce a escenarios confusos o imposibles.

La revisión también descubrió una brecha significativa en cómo estos sistemas manejan la incertidumbre. En el mundo real, ninguna predicción es jamás 100% segura, sin embargo, la mayoría de los modelos agrícolas presentan sus resultados como hechos absolutos. Un agricultor podría recibir la noticia de que un campo tendrá un bajo rendimiento, pero el modelo no indica qué tan seguro está de ese número. Los investigadores señalan que, sin una medida clara de confianza, como un rango de posibles resultados, los agricultores podrían tomar decisiones arriesgadas basadas en una suposición que la computadora trata como una certeza. Solo unos pocos estudios, como uno centrado en la salinidad del suelo, han comenzado a incluir estos intervalos de confianza, mostrando la diferencia entre una advertencia de alto riesgo y alta certeza y una especulativa. La ausencia de esta información en la mayoría de la investigación actual significa que la tecnología aún no está lista para un uso generalizado de alto riesgo en el campo.

Otro problema importante identificado es el "efecto silo", donde los investigadores estudian la sequía, la enfermedad y la salinidad como si fueran problemas separados. En la realidad, estos riesgos se alimentan entre sí. Una sequía podría obligar a un agricultor a utilizar agua de mala calidad para el riego, lo que a su vez aumenta la salinidad del suelo, lo que a su vez hace que los cultivos sean más susceptibles a las enfermedades. La generación actual de modelos de IA explicable generalmente falla en mostrar estas conexiones en cascada. Pueden explicar por qué una planta está seca o por qué el suelo es salino, pero rara vez explican cómo un problema llevó al otro. Esta fragmentación limita la utilidad de la tecnología, ya que no puede proporcionar una imagen completa de la salud de la granja. Además, la revisión notó un fuerte sesgo en la investigación, con la mayoría de los estudios centrados en regiones del Norte Global o áreas específicas y bien documentadas como el Delta del Nilo. Los modelos desarrollados para estos lugares a menudo no funcionan bien cuando se aplican a diferentes cultivos, suelos o climas en otras partes del mundo, y las explicaciones que proporcionan pueden no tener sentido para los agricultos locales.

Mirando hacia el futuro, los autores proponen una hoja de ruta estratégica para trasladar el campo de los laboratorios experimentales a la aplicación en el mundo real. Argumentan que la solución no es solo añadir una herramienta de explicación a posteriori, sino diseñar los modelos desde el principio con la transparencia en mente. Este concepto, llamado "Explicabilidad por Diseño", significaría construir la IA de modo que produzca de forma natural razones claras y lógicas para sus predicciones, en lugar de intentar hacer ingeniería inversa más tarde. Los investigadores también piden un enfoque unificado que respete la privacidad de los datos, permitiendo que diferentes regiones compartan conocimientos sin compartir datos brutos sensibles. Crucialmente, insisten en que cualquier explicación debe ser validada por expertos humanos, como agrónomos y patólogos vegetales, para asegurar que las razones que da la computadora coinciden realmente con las realidades biológicas y físicas de la granja. Si un modelo dice que una planta está enferma debido a un patrón específico de luz, un experto humano debe confirmar que ese patrón es un signo real de enfermedad y no simplemente un artefacto de la cámara.

El objetivo final de esta investigación es cerrar la brecha entre la predicción de alta tecnología y la confianza humana. La revisión concluye que, si bien la inteligencia artificial tiene el poder de salvaguardar la seguridad alimentaria mundial contra el cambio climático, no puede hacerlo hasta que se convierta en un socio que los agricultores puedan entender. La tecnología debe ir más allá de ser simplemente precisa para ser confiable. Esto significa proporcionar no solo una predicción, sino una explicación clara, segura y científicamente sólida de por qué se realizó esa predicción. Hasta que el campo adopte estos nuevos estándares de diseño, validación y comunicación de la incertidumbre, estas poderosas herramientas permanecerán encerradas en el laboratorio, incapaces de ayudar a los agricultores que más las necesitan. El camino a seguir requiere un cambio de mentalidad, tratando la explicabilidad no como un complemento técnico, sino como la base de cualquier sistema destinado a guiar el futuro de la agricultura.