Towards a Theory of Pragmatic Information

Nel mondo di come intendiamo l'universo, esiste una distinzione di lunga data tra il dato grezzo di un segnale e il significato effettivo che ne estraiamo. Per decenni, la scienza standard dell'informazione si è concentrata quasi interamente sull'aspetto tecnico: quanto accuratamente un messaggio può essere trasmesso, quanti bit sono necessari per trasmettere una sequenza di simboli e come prevenire gli errori durante tale trasmissione. Questo quadro, noto come teoria dell'informazione, tratta un messaggio come una sequenza di simboli senza chiedere se tali simboli dicano effettivamente qualcosa di nuovo o utile al ricevente. È come misurare il peso di una lettera senza mai aprire la busta per vedere se contiene una nota d'amore, una bolletta o un foglio bianco. Sebbene questo approccio tecnico sia stato incredibilmente efficace per costruire reti di comunicazione, lascia un vuoto per quanto riguarda l'esperienza umana di ricevere informazioni. Spesso diciamo che un messaggio è "informativo" solo se cambia la nostra opinione o ci aiuta a fare una scelta migliore, eppure gli strumenti matematici standard del campo non hanno modo di misurare questo cambiamento.

Questo vuoto è l'oggetto di un nuovo quadro teorico proposto da Edward D. Weinberger, un ricercatore della New York University. Il suo lavoro tenta di colmare il divario tra la trasmissione tecnica dei dati e l'utilità pratica di tali dati per un decisore. L'idea centrale è semplice ma profonda: l'informazione diventa significativa solo quando altera le credenze della persona o della macchina che la riceve, specificamente in un modo che influenzi una decisione. Weinberger chiama questo "informazione pragmatica". Non si tratta della lunghezza del messaggio o della complessità del codice, ma dello spostamento di probabilità che avviene nella mente del ricevente. Se un messaggio arriva e la comprensione del mondo da parte del ricevente rimane esattamente la stessa, allora non è stata acquisita alcuna informazione pragmatica, indipendentemente da quante parole siano state pronunciate. Al contrario, se una singola parola causa al ricevente di rivedere completamente le sue aspettative su un evento futuro, quella parola trasporta una grande quantità di informazione pragmatica.

Per definire questo concetto in modo rigoroso, il saggio introduce un modello in cui un decisore possiede un insieme di credenze iniziali su una situazione, rappresentate come una distribuzione di probabilità. Questa è la visione "a priori" del mondo. Quando arriva un messaggio, queste credenze vengono aggiornate in un nuovo insieme di probabilità, noto come "a posteriori". La quantità di informazione pragmatica viene quindi calcolata misurando la distanza tra questi due insiemi di credenze. Se il messaggio causa un grande spostamento, la distanza è grande e l'informazione è preziosa. Se il messaggio non causa alcuno spostamento, la distanza è zero e l'informazione è inutile. Questo approccio permette alla teoria di tenere conto del fatto che lo stesso messaggio può significare cose diverse per persone diverse. Un messaggio che è completamente ovvio per un esperto potrebbe trasportare zero informazione pragmatica per lui, mentre lo stesso messaggio potrebbe essere una rivelazione per un novizio, trasportando una enorme quantità di informazione pragmatica per quella persona.

Il saggio dimostra che questa definizione regge al vaglio matematico provando che l'informazione pragmatica è direttamente collegata all'efficienza della codifica. In termini più semplici, la quantità di informazione pragmatica che un messaggio fornisce è uguale al numero di bit risparmiati quando un ricevente aggiorna la propria comprensione del mondo. Se un ricevente conosce l'esito di un evento con certezza, può descrivere quell'evento utilizzando il minor numero possibile di bit. Se la sua conoscenza è vaga, ha bisogno di più bit per descrivere le possibilità. Quando un messaggio chiarisce la situazione, riduce il numero di bit necessari per descrivere il mondo. La teoria mostra che la riduzione nel numero di bit richiesti per codificare il mondo, causata dal ricevimento di un messaggio, è esattamente uguale all'informazione pragmatica acquisita. Questo fornisce una giustificazione concreta e misurabile per la definizione, radicando l'astratta idea di "significato" nella realtà fisica della compressione dei dati.

Una delle applicazioni più sorprendenti di questa teoria si trova nel classico problema del "one-armed bandit", ovvero una slot machine con un tasso di pagamento sconosciuto. Immaginate un giocatore che cerca di decidere se continuare a giocare a una macchina. Inizialmente, non ha idea se la macchina paghi spesso o raramente. Mentre gioca, osserva vincite e perdite e, con ogni esito, aggiorna la sua stima della probabilità di pagamento della macchina. Il saggio calcola esattamente quanta nuova informazione ogni nuova giocata fornisce. Il risultato è controintuitivo per alcuni: man mano che il giocatore gioca sempre di più, la quantità di nuova informazione acquisita da ogni giocata aggiuntiva diminuisce. Le prime giocate sono altamente informative perché cambiano drasticamente la credenza del giocatore. Le giocate successive, dopo centinaia di tentativi, aggiungono pochissima nuova conoscenza perché il giocatore ha già una stima molto accurata. La teoria quantifica questo rendimento decrescente, mostrando che il valore dell'informazione non è costante ma dipende interamente da ciò che il ricevente sa già.

Il quadro affronta anche la natura della "disinformazione" e del "rumore". Nella teoria dell'informazione standard, un messaggio falso è spesso trattato allo stesso modo di uno vero se sono ugualmente complessi. Tuttavia, nell'ambito dell'informazione pragmatica, la distinzione è cruciale. Un messaggio che cambia le credenze di un ricevente è comunque considerato capace di trasportare informazione pragmatica, anche se queste nuove credenze sono errate. La teoria separa la quantità di informazione dalla valore di tale informazione. Un messaggio può essere altamente informativo nel senso che cambia una mente, ma se questo cambiamento porta a una cattiva decisione, è "pragmaticamente disinformativo". Il saggio suggerisce che possiamo categorizzare i messaggi in tre gruppi: quelli che sono irrilevanti e non cambiano nulla, quelli che sono utili e portano a decisioni migliori, e quelli che sono disinformativi e portano a decisioni peggiori. Questa distinzione è vitale per comprendere scenari del mondo reale in cui l'informazione falsa può essere altrettanto efficace dell'informazione vera nel cambiare il comportamento.

L'autore estende queste idee al mondo finanziario, offrendo una nuova prospettiva sull'Ipotesi dell'Efficienza del Mercato, un pilastro della teoria economica. La visione tradizionale suggerisce che i prezzi delle attività riflettano tutte le informazioni disponibili, rendendo impossibile battere costantemente il mercato. Il saggio riformula questa idea suggerendo che un mercato è efficiente solo per quei partecipanti che non possono estrarre alcuna utilità pragmatica dai dati disponibili. Se un pezzo di notizia di mercato cambia le credenze di un trader e lo aiuta a fare un'operazione migliore, quell'informazione è pragmaticamente utile per lui. L'ipotesi, quindi, non è che l'informazione sia inutile per tutti, ma che per ogni singolo partecipante, l'informazione disponibile sia o irrilevante o già elaborata. Questo spiega perché alcuni investitori, come quelli con algoritmi avanzati, possano trovare valore in dati che sono inutili per altri. Non è che il mercato sia magicamente efficiente, ma che la capacità computazionale del partecipante medio limita la sua capacità di trasformare i dati grezzi in informazione pragmatica.

Infine, il saggio accenna alle implicazioni biologiche di questa teoria, collegandola all'evoluzione delle specie. Nel contesto dell'evoluzione, il "decisore" è l'interazione tra una popolazione di organismi e il loro ambiente. L'ambiente invia "messaggi" sotto forma di pressioni alla sopravvivenza, e la popolazione aggiorna le sue "credenze" su quali tratti siano vantaggiosi. La teoria suggerisce che il tasso di evoluzione è limitato dalla quantità di informazione pragmatica che la popolazione può estrarre da questi messaggi ambientali. Proprio come un trader umano ha un limite a quanti dati può elaborare, una specie biologica ha un limite a quanta informazione può affidabilmente accumulare prima di commetre errori. Questo porta al concetto di "catastrofe dell'errore", dove il tasso di mutazione è così alto che la specie non può più mantenere l'informazione necessaria per sopravvivere. Il saggio postula che la capacità computazionale del ricevente — che sia un cervello umano, un computer o un genoma biologico — sia il vincolo fondamentale su quanta quantità di significato può essere estratta dal mondo.

In conclusione, questo lavoro fornisce una base matematica rigorosa per l'intuizione che l'informazione è valida solo quanto il cambiamento che produce nel ricevente. Definendo l'informazione pragmatica come lo spostamento di credenza che porta a una decisione, la teoria unifica concetti provenienti dalla statistica, dall'informatica ed dall'economia. Essa va oltre la domanda tecnica di quanta informazione venga inviata per concentrarsi sulla domanda più pratica di quanto tale informazione conti. Le conclusioni suggeriscono che il valore dell'informazione non è una proprietà intrinseca del messaggio stesso, ma una relazione tra il messaggio e la mente che lo riceve. Questa intuizione ha profonde implicazioni su come comprendiamo tutto, dal gioco d'azzardo e il trading azionario fino al processo stesso della vita e dell'evoluzione, ricordandoci che in un mondo di dati infiniti, la vera valuta è la capacità di dare loro un senso.