Against Retrospective Certainty: Temporal Honesty and the Governance of Institutional Memory

Toda organización, desde una agencia de inteligencia gubernamental hasta una empresa tecnológica, toma decisiones basadas en lo que sabe en el momento. Estas decisiones se toman a menudo en una niebla de incertidumbre, donde el resultado es desconocido y la evidencia es incompleta. Años después, cuando los resultados son claros, las personas analizan esas decisiones y suelen verlas como si hubieran sido más seguras y ciertas de lo que realmente fueron. Esta es una tendencia humana común conocida como sesgo de retrospectiva, donde el cerebro reescribe el pasado para hacer que el futuro parezca inevitable. Sin embargo, en las grandes instituciones, este reescrito no es solo un truco de la mente; también es un problema de papeleo. Cuando los documentos originales, las notas y las dudas se pierden, se sobrescriben o se separan de la conclusión final, la historia de cómo se tomó una decisión se vuelve imposible de verificar. Sin el registro original, una institución puede, accidental o intencionadamente, presentar un juicio pasado como un hecho sólido cuando en realidad era una suposición, una preocupación o una opinión minoritaria.

Un nuevo artículo del investigador Ilias Konstantinidis aborda este problema proponiendo un estándar llamado "honestidad temporal". Este concepto sugiere que las instituciones tienen el deber de mantener intacta la naturaleza desordenada, incierta y evolutiva de su pensamiento pasado. No basta con guardar el informe final; la organización también debe preservar las dudas, los desacuerdos, las suposiciones y la evidencia específica que existía en el momento en que se tomó la decisión. El objetivo es garantizar que, si alguien mira hacia atrás años después, pueda reconstruir exactamente qué sabía y qué sentía la institución en ese momento específico, en lugar de tener que adivinar basándose en una versión pulida y simplificada de la historia. El artículo sostiene que, sin este tipo de registro honesto, resulta imposible hacer que las instituciones rindan cuentas verdaderamente por sus acciones pasadas, porque la evidencia necesaria para contrastar sus afirmaciones ha sido borrada por el tiempo.

Para entender por qué esto es importante, considere cómo funcionan habitualmente las instituciones. Recopilan información, la debaten y, finalmente, emiten un juicio. Con el tiempo, a medida que llega nueva información o cambian los liderazgos, ese juicio se actualiza. En un sistema sin honestidad temporal, la versión antigua del juicio podría simplemente ser eliminada o reemplazada por la nueva. El razonamiento original, los puntos de datos específicos que se utilizaron y las voces que argumentaron en contra de la decisión final desaparecen. Esto crea una brebre entre lo que realmente sucedió y lo que dicen los documentos supervivientes. El artículo llama a esta brecha "certeza retrospectiva", un estado en el que el pasado parece más limpio y unificado de lo que realmente fue. El autor sugiere que, para solucionar esto, las instituciones deben tratar sus estados de conocimiento pasados como registros permanentes que no pueden ser sobrescritos silenciosamente. En lugar de borrar una evaluación antigua, deberían vincularla a la nueva, mostrando claramente qué cambió, qué se añadió y qué se eliminó.

El artículo pone a prueba esta idea analizando dos ejemplos muy distintos del mundo real donde la capacidad de reconstruir el pasado fue crucial. El primer caso involucra las investigaciones sobre las armas de destrucción masiva en Irak. Se lanzaron varias investigaciones oficiales para comprender cómo las agencias de inteligencia llegaron a la conclusión de que Irak poseía tales armas. Los investigadores descubrieron que estas investigaciones tuvieron dificultades porque los registros originales estaban incompletos. En un caso, un comité de revisión pensó que había visto toda la inteligencia pertinente, solo para descubrir más tarde que ocho documentos importantes habían sido omitidos. En otro caso, el comité no pudo encontrar los borradores originales de un informe clave, solo copias que habían sido alteradas. Lo más importante es que las investigaciones encontraron que las opiniones disidentes —donde los expertos habían advertido que la evidencia era débil— no fueron registradas adecuadamente o fueron ocultadas a las personas que necesitaban verlas. Debido a que estos registros faltaban o estaban oscurecidos, los investigadores tuvieron que pasar años intentando reconstruir cómo era la situación original y, aun así, algunos detalles seguían sin aclararse. El artículo utiliza esto para mostrar que cuando la "linaje" de una decisión se rompe, resulta muy difícil saber si la institución cometió un error o si el registro mismo era defectuoso.

El segundo ejemplo observa cómo las empresas de inteligencia artificial documentan su trabajo. A medida que estas empresas lanzan nuevas versiones de sus modelos de IA, publican informes explicando cómo funcionan los modelos. Los investigadores examinaron cómo estos informes cambiaron con el tiempo. Notaron que, si bien las empresas seguían hablando de los mismos tipos de riesgos, como el hecho de que los modelos inventen datos, las pruebas específicas que utilizaban para medir esos riesgos no dejaban de cambiar. Una prueba utilizada en un año podría ser reemplazada por una diferente al año siguiente, sin una nota clara que explicara cómo se relacionaban ambas. Para un observador externo que intenta rastrear si la IA está mejorando o empeorando, esta falta de una conexión clara dificultaba la comparación entre el pasado y el presente. El artículo sostiene que, incluso ante la mirada pública, sin una cadena clara que muestre cómo una evaluación condujo a la siguiente, es imposible saber si un riesgo ha sido realmente abordado o simplemente ignorado porque la herramienta de medición cambió.

El hallazgo central del artículo es que preservar el "estado epistémico" —una forma elegante de decir la imagen completa de lo que se sabía, se dudaba y se decidía en un momento específico— es una parte distinta y necesaria de la buena gobernanza. Es independiente de si la decisión en sí fue correcta o incorrecta. Una institución puede tomar una decisión terrible basada en datos erróneos, pero si el registro de esos datos erróneos y de esa mala decisión se preserva con honestidad, la gente puede aprender de ello. Si ese registro se pierde o se suaviza, la lección también se pierde. El autor propone un conjunto de reglas prácticas para lograr esto. Estas reglas incluyen mantener un historial de versiones para que los cambios sean visibles, asegurar que la incertidumbre y el desacuerdo estén vinculados a la conclusión final en lugar de ser eliminados, y mantener un registro de quién vio qué información y cuándo. El artículo reconoce que cierta información debe permanecer secreta por razones de seguridad o privacidad, pero argumenta que, incluso en esos casos, la estructura del registro —el hecho de que se tomó una decisión, quién la tomó y que se basó en ciertos tipos de evidencia— debe permanecer visible.

Este enfoque no resuelve todos los problemas de los fallos organizativos. No puede obligar a los líderes a escuchar las advertencias ni evitar que tomen malas decisiones. No puede arreglar una cultura donde la gente tiene miedo de hablar. Sin embargo, sí asegura que, cuando las cosas salgan mal, la verdad no quede enterrada bajo capas de historia reescrita. Al exigir que las instituciones mantengan visibles sus yo pasados, completos con todas sus dudas y errores, el artículo ofrece una forma de hacer el futuro más honesto. Sugiere que la mejor manera de aprender del pasado no es recordarlo perfectamente, sino mantener la evidencia original y desordenada disponible para que pueda ser examinada exactamente como era, sin la distorsión de saber cómo terminó la historia.