Against Retrospective Certainty: Temporal Honesty and the Governance of Institutional Memory

Ogni organizzazione, da un'agenzia di intelligence governativa a un'azienda tecnologica, prende decisioni basandosi su ciò che conosce in quel momento. Queste decisioni vengono spesso prese in una nebbia di incertezza, dove l'esito è ignoto e le prove sono incomplete. Anni dopo, quando i risultati sono chiari, le persone guardano indietro a quelle decisioni e spesso le vedono come se fossero state prese con più fiducia e certezza di quanto non lo fossero in realtà. Questa è una comune tendenza umana nota come bias del senno di poi (hindsight bias), in cui il cervello riscrive il passato per far sembrare il futuro inevitabile. Tuttavia, nelle grandi istituzioni, questo riscrittura non è solo un trucco della mente; è anche un problema di documentazione. Quando i documenti originali, gli appunti e i dubbi vengono persi, sovrascritti o separati dalla conclusione finale, la storia di come è stata presa una decisione diventa impossibile da verificare. Senza il record originale, un'istituzione può accidentalmente, o anche intenzionalmente, presentare un giudizio passato come un fatto solido quando in realtà era un'ipotesi, una preoccupazione o un'opinione di una minoranza.

Un nuovo articolo del ricercatore Ilias Konstantinidis affronta questo problema proponendo uno standard chiamato "onestà temporale". Questo concetto suggerisce che le istituzioni abbiano il dovere di preservare intatta la natura disordinata, incerta ed evolutiva del loro pensiero passato. Non basta salvare il rapporto finale; l'organizzazione deve anche preservare i dubbi, i disaccordi, le assunzioni e le prove specifiche che esistevano al momento in cui è stata presa la decisione. L'obiettivo è garantire che, se qualcuno dovesse guardare indietro anni dopo, possa ricostruire esattamente ciò che l'istituzione sapeva e sentiva in quel preciso momento, invece di dover indovinare basandosi su una versione lucida e semplificata della storia. L'articolo sostiene che, senza questo tipo di tenuta dei registri onesta, diventa impossibile ritenere le istituzioni realmente responsabili delle loro azioni passate, perché le prove necessarie per testare le loro affermazenze sono state cancellate dal tempo.

Per capire perché questo sia importante, considerate come lavorano solitamente le istituzioni. Esse raccolgono informazioni, le discutono e infine emettono un giudizio. Con il passare del tempo, man mano che arrivano nuove informazioni o cambiano le leadership, quel giudizio viene aggiornato. In un sistema privo di onestà temporale, la vecchia versione del giudizio potrebbe essere semplicemente eliminata o sostituita da quella nuova. Il ragionamento originale, i punti dati specifici che sono stati utilizzati e le voci che hanno argomentato contro la decisione finale scompaiono. Questo crea un divario tra ciò che è realmente accaduto e ciò che i documenti sopravvissuti dicono sia accaduto. L'articolo chiama questo divario "certezza retrospettiva", uno stato in cui il passato appare più pulito e unificato di quanto non fosse in realtà. L'autore suggerisce che, per risolvere questo problema, le istituzioni debbano trattare i loro stati passati di conoscenza come registri permanenti che non possono essere silenziosamente sovrascritti. Invece di eliminare una vecchia valutazione, dovrebbero collegarla alla nuova, mostrando chiaramente cosa è cambiato, cosa è stato aggiunto e cosa è stato rimosso.

L'articolo testa questa idea esaminando due esempi molto diversi del mondo reale in cui la capacità di ricostruire il passato era cruciale. Il primo caso riguarda le indagini sulle armi di distruzione di massa in Iraq. Diverse inchieste ufficiali sono state avviate per comprendere come le agenzie di intelligence fossero giunte alla conclusione che l'Iraq possedesse tali armi. I ricercatori hanno scoperto che queste inchieste hanno incontrato difficoltà perché i registri originali erano incompleti. In un caso, un comitato di revisione pensava di aver visto tutti i documenti di intelligence rilevanti, solo per scoprire in seguito che otto documenti importanti erano stati tralasciati. In un altro caso, il comitato non riusciva a trovare le bozze originali di un rapporto chiave, ma solo copie che erano state alterate. Cosa più importante, le inchieste hanno rilevato che le opinioni dissenzienti — in cui gli esperti avevano avvertito che le prove erano deboli — non erano state registrate correttamente o erano state nascoste alle persone che avevano bisogno di vederle. Poiché questi registri erano mancanti o oscurati, gli investigatori hanno dovuto trascorrere anni cercando di ricomporre il quadro della situazione originale e, anche allora, alcuni dettagli rimanevano poco chiari. L'articolo usa questo esempio per mostrare che quando la "lineage" (la discendenza o la tracciabilità) di una decisione è interrotta, diventa molto difficile sapere se l'istituzione abbia commesso un errore o se il record stesso fosse difettoso.

Il secondo esempio esamina come le aziende di intelligenza artificiale documentano il proprio lavoro. Mentre queste aziende rilasciano nuove versioni dei loro modelli di IA, pubblicano rapporti che spiegano come i modelli operano. I ricercatori hanno esaminato come questi rapporti siano cambiati nel tempo. Hanno notato che, sebbene le aziende continuassero a parlare degli stessi tipi di rischi, come la tendenza dei modelli a inventare fatti, i test specifici utilizzati per misurare tali rischi continuavano a cambiare. Un test utilizzato in un anno potrebbe essere sostituito da un test diverso l'anno successivo, senza alcuna nota chiara che spiegasse come i due fossero correlati. Per un osservatore esterno che cerca di monitorare se l'IA stia migliorando o peggiorando, questa mancanza di un collegamento chiaro rendeva difficile confrontare il passato con il presente. L'articolo sostiene che, anche agli occhi del pubblico, senza una catena chiara che mostri come una valutazione abbia portato alla successiva, è impossibile sapere se un rischio sia stato realmente affrontato o solo ignorato perché lo strumento di misurazione è cambiato.

Il risultato centrale dell'articolo è che preservare lo "stato epistemico" — un modo sofisticato per dire l'immagine completa di ciò che era noto, dubitato e deciso in un momento specifico — è una parte distinta e necessaria della buona governance. È separata dal fatto che la decisione stessa fosse giusta o sbagliata. Un'istituzione può prendere una decisione terribile basata su dati errati, ma se il record di quei dati errati e di quella decisione errata viene preservato onestamente, le persone possono imparare da essa. Se quel record viene perso o levigato, anche la lezione viene persa. L'autore propone un insieme di regole pratiche per raggiungere questo obiettivo. Queste regole includono il mantenimento di una cronologia delle versioni affinché i cambiamenti siano visibili, l'assicurazione che l'incertezza e il disaccordo siano allegati alla conclusione finale anziché essere rimossi, e la tenuta di un registro di chi ha visto quali informazioni e quando. L'articolo riconosce che alcune informazioni devono rimanere segrete per motivi di sicurezza o privacy, ma sostiene che anche in questi casi, la struttura del record — il fatto che una decisione sia stata presa, chi l'abbia presa e che fosse basata su certi tipi di prove — debba rimanere visibile.

Questo approccio non risolve ogni problema di fallimento organizzativo. Non può costringere i leader ad ascoltare gli avvertimenti o impedire loro di compiere scelte errate. Non può correggere una cultura in cui le persone hanno paura di parlare. Tuttavia, assicura che, quando le cose vanno male, la verità non venga sepolta sotto strati di storia riscritta. Esigendo che le istituzioni mantengano visibili i propri "io passati", completi di tutti i dubbi e gli errori, l'articolo offre un modo per rendere il futuro più onesto. Suggerisce che il modo migliore per imparare dal passato non è ricordarlo perfettamente, ma conservare le prove originali e disordinate affinché possano essere esaminate esattamente come erano, senza la distorsione di sapere come è andata a finire la storia.