Against Retrospective Certainty: Temporal Honesty and the Governance of Institutional Memory

Chaque organisation, qu'il s'agisse d'une agence de renseignement gouvernementale ou d'une entreprise technologique, prend des décisions basées sur ce qu'elle sait à l'instant présent. Ces décisions sont souvent prises dans un brouillard d'incertitude, où le résultat est inconnu et les preuves incomplètes. Des années plus tard, lorsque les résultats sont clairs, les gens reviennent sur ces décisions et les considèrent souvent comme ayant été plus assurées et certaines qu'elles ne l'étaient réellement. C'est une tendance humaine courante appelée biais de rétrospection, où le cerveau réécrit le passé pour faire paraître le futur inévitable. Cependant, dans les grandes institutions, cette réécriture n'est pas seulement un tour de l'esprit ; c'est aussi un problème de paperasse. Lorsque les documents originaux, les notes et les doutes sont perdus, écrasés ou séparés de la conclusion finale, l'histoire de la manière dont une décision a été prise devient impossible à vérifier. Sans le registre original, une institution peut accidentellement, ou même intentionnellement, présenter un jugement passé comme un fait solide alors qu'il s'agissait en réalité d'une supposition, d'une inquiétude ou d'une opinion minoritaire.

Un nouvel article du chercheur Ilias Konstantinidis aborde ce problème en proposant un standard appelé « honnêteté temporelle ». Ce concept suggère que les institutions ont le devoir de préserver intact la nature désordonnée, incertaine et évolutive de leur pensée passée. Il ne suffit pas de sauvegarder le rapport final ; l'organisation doit également préserver les doutes, les désaccords, les hypothèses et les preuves spécifiques qui existaient au moment où la décision a été prise. L'objectif est de garantir que, si quelqu'un regarde en arrière des années plus tard, il puisse reconstruire exactement ce que l'institution savait et ressentait à ce moment précis, plutôt que de devoir deviner à partir d'une version polie et simplifiée de l'histoire. L'article soutient que sans ce type de tenue de registres honnête, il devient impossible de tenir véritablement les institutions responsables de leurs actions passées, car les preuves nécessaires pour tester leurs affirmations ont été effacées par le temps.

Pour comprendre pourquoi cela importe, considérons comment les institutions fonctionnent habituellement. Elles rassemblent des informations, les débattent et finissent par rendre un jugement. Avec le temps, à mesure que de nouvelles informations arrivent ou que la direction change, ce jugement est mis à jour. Dans un système sans honnêteté temporelle, l'ancienne version du jugement pourrait simplement être supprimée ou remplacée par la nouvelle. Le raisonnement d'origine, les points de données spécifiques qui ont été utilisés et les voix qui ont plaidé contre la décision finale disparaissent. Cela crée un fossé entre ce qui s'est réellement passé et ce que les documents survivants disent s'être passé. L'article appelle ce fossé « certitude rétrospective », un état où le passé semble plus propre et plus unifié qu'il ne l'était réellement. L'auteur suggère que pour corriger cela, les institutions doivent traiter leurs anciens états de connaissance comme des registres permanents qui ne peuvent pas être silencieusement écrasés. Au lieu de supprimer une ancienne évaluation, elles devraient la lier à la nouvelle, montrant clairement ce qui a changé, ce qui a été ajouté et ce qui a été retiré.

L'article teste cette idée en examinant deux exemples concrets très différents où la capacité de reconstruire le passé était cruciale. Le premier cas concerne les enquêtes sur les armes de destruction massive en Irak. Plusieurs enquêtes officielles ont été lancées pour comprendre comment les agences de renseignement étaient parvenues à la conclusion que l'Irak possédait de telles armes. Les chercheurs ont constaté que ces enquêtes ont eu des difficultés parce que les registres originaux étaient incomplets. Dans un cas, un comité d'examen pensait avoir vu tous les documents de renseignement pertinents, pour découvrir plus tard que huit documents importants avaient été omis. Dans un autre cas, le comité n'a pas pu trouver les versions originales d'un rapport clé, seulement des copies qui avaient été modifiées. Plus important encore, les enquêtes ont révélé que les opinions dissidentes — là où des experts avaient averti que les preuves étaient faibles — n'avaient pas été correctement enregistrées ou avaient été cachées aux personnes qui devaient les voir. Parce que ces registres étaient manquants ou obscurcis, les enquêteurs ont dû passer des années à tenter de reconstituer ce à quoi ressemblait la situation originale et, même ainsi, certains détails restaient obscurs. L'article utilise cela pour montrer que lorsque la « lignée » d'une décision est brisée, il devient très difficile de savoir si l'institution a commis une erreur ou si le registre lui-même était défectueux.

Le second exemple examine la manière dont les entreprises d'intelligence artificielle documentent leur travail. À mesure que ces entreprises publient de nouvelles versions de leurs modèles d'IA, elles publient des rapports expliquant comment les modèles se comportent. Les chercheurs ont examiné comment ces rapports ont évolué au fil du temps. Ils ont remarqué que, bien que les entreprises parlent toujours des mêmes types de risques, comme le fait que les modèles inventent des faits, les tests spécifiques qu'elles utilisent pour mesurer ces risques ne cessent de changer. Un test utilisé une année peut être remplacé par un autre l'année suivante, sans aucune note explicative claire sur la relation entre les deux. Pour un observateur extérieur essayant de suivre si l'IA s'améliore ou se dégrade, ce manque de connexion claire rend difficile la comparaison entre le passé et le présent. L'article soutient que même aux yeux du public, sans une chaîne claire montrant comment une évaluation a mené à la suivante, il est impossible de savoir si un risque a été véritablement traité ou simplement ignoré parce que l'outil de mesure a changé.

La conclusion principale de l'article est que la préservation de l'« état épistémique » — une façon sophistiquée de dire l'image globale de ce qui était connu, douté et décidé à un moment spécifique — est une partie distincte et nécessaire de la bonne gouvernance. Cela est séparé de la question de savoir si la décision elle-même était juste ou erronée. Une institution peut prendre une terrible décision basée sur de mauvaises données, mais si le registre de ces mauvaises données et de cette mauvaise décision est préservé honnêtement, les gens peuvent en tirer des leçons. Si ce registre est perdu ou lissé, la leçon est perdue elle aussi. L'auteur propose un ensemble de règles pratiques pour y parvenir. Ces règles incluent la conservation d'un historique des versions afin que les changements soient visibles, la garantie que l'incertitude et le désaccord soient attachés à la conclusion finale plutôt que d'être supprimés, et le maintien d'un registre de qui a vu quelle information et quand. L'article reconnaît que certaines informations doivent rester secrètes pour des raisons de sécurité ou de confidentialité, mais il soutient que même dans ces cas, la structure du registre — le fait qu'une décision ait été prise, qui l'a prise et qu'elle était basée sur certains types de preuves — doit rester visible.

Cette approche ne résout pas tous les problèmes de défaillance organisationnelle. Elle ne peut pas forcer les dirigeants à écouter les avertissements ni les empêcher de faire de mauvais choix. Elle ne peut pas corriger une culture où les gens ont peur de s'exprimer. Cependant, elle garantit que lorsque les choses tournent mal, la vérité n'est pas enterrée sous des couches d'histoire réécrite. En exigeant que les institutions gardent leurs versions passées visibles, complètes avec tous leurs doutes et leurs erreurs, l'article offre un moyen de rendre l'avenir plus honnête. Il suggère que la meilleure façon d'apprendre du passé n'est pas de s'en souvenir parfaitement, mais de conserver les preuves originales, désordonnées, afin qu'elles puissent être examinées exactement telles qu'elles étaient, sans la distorsion de savoir comment l'histoire s'est terminée.