Accountability Risks of SHAP Based Managerial Recommendations in Explainable Artificial Intelligence
Este estudio demuestra que convertir las puntuaciones de importancia de las características basadas en SHAP en acciones gerenciales directas sin considerar los costos de intervención, la validez causal y los riesgos de pérdida crea peligros significativos de rendición de cuentas, revelando que la explicabilidad por sí sola es insuficiente para una toma de decisiones responsable impulsada por la IA.