The Birth, Life, and Death of Internal Organization

Nello studio delle macchine che apprendono, gli scienziati cercano da tempo di capire come questi sistemi cambino man mano che acquisiscono esperienza. Quando un computer impara una nuova abilità, le sue impostazioni interne cambiano e il suo comportamento evolve. Per anni, i ricercatori hanno cercato di tracciare questi cambiamenti osservando quanto i modelli interni della macchina siano simili tra loro, o testando se un semplice strumento possa "leggere" ciò che la macchina sta pensando. L'idea prevalente è stata che se due macchine appaiono simili all'interno, o se possono entrambe essere decodificate per rivelare la stessa informazione, allora devono stare facendo la stessa cosa. Tuttavia, questo approccio presuppone che la posizione fisica di un pensiero o di una regola sia la parte più importante della sua identità. Tratta la struttura interna della macchina come una mappa dove le coordinate di una città contano più della città stessa. Questa prospettiva lascia una domanda critica senza risposta: quando una collezione di parti mutevoli diventa un'entità distinta e organizzata con una vita propria? Ha un inizio, un centro e una fine? E se quell'entità scompare, rimane qualcosa di essa?

Un nuovo studio del ricercatore indipendente Yuxuan Deng affronta queste domande spostando l'attenzione da come la macchina appare a ciò che essa effettivamente fa. Invece di chiedere se due modelli interni siano simili, il ricercatore si è posto una domanda diversa: se dai un colpetto alla macchina in un modo specifico, essa cambia il futuro in un modo specifico e nominato? Lo studio definisce un' "organizzazione" non in base a dove vive all'interno della macchina, ma in base a come controlla il risultato. Se un insieme di cambiamenti interni conduce costantemente a un risultato specifico, quel set viene trattato come una singola organizzazione vivente. Il ricercatore ha poi osservato queste organizzazioni mentre nascevano, crescevano, cambiavano e morivano, testando se potessero essere spostate da una macchina all'altra, proprio come trapiantare un organo.

La ricerca è iniziata con un enorme dataset del mondo reale di raccomandazioni video. Al sistema sono stati forniti milioni di interazioni in cui gli utenti guardavano o cliccavano sui video, ma i ricercatori hanno introdotto un colpo di scena: hanno scambiato casualmente alcuni dei video raccomandati con altri. Questo ha creato un esperimento naturale in cui il sistema doveva imparare a prevedere i risultati basandosi su una realtà mutevole. I ricercatori hanno osservato il sistema mentre apprendeva, cercando il momento in cui un cambiamento interno specifico iniziava a prevedere in modo affidabile un risultato futuro specifico, come un utente che guarda un video per molto tempo. Hanno scoperto che queste organizzazioni non compaiono istantaneamente. Nascono quando il sistema impara a distinguere tra due diversi esiti che precedentemente trattava come uguali. Prima di questo momento, i cambiamenti interni del sistema erano intercambiabili; dopo di esso, un particolare aggiustamento interno è diventato necessario per raggiungere un obiettivo specifico. Questa è stata la nascita di un'organizzazione, definita non dalla sua forma, ma dalla sua capacità unica di guidare il futuro.

Una volta nate, queste organizzazioni hanno mostrato una resilienza notevole. Quando il sistema continuava a ricevere lo stesso tipo di feedback, l'organizzazione persisteva, mantenendo la sua posizione. Ma quando il feedback cambiava, l'organizzazione non svaniva semplicemente; si riorganizzava. Modificava la sua struttura interna per adattarsi alla nuova realtà, a volte addirittura invertendo il proprio comportamento per adattarsi alle nuove regole. L'evidenza più sorprendente è arrivata quando i ricercatori hanno deciso di uccidere un'organizzazione. Hanno rimosso il feedback specifico su cui l'organizzazione faceva affidamento, tagliando di fatto il suo cordone ombelicale. In molti casi, l'organizzazione moriva immediatamente, perdendo la capacità di influenzare l'esito. Tuttavia, le parti fisiche della macchina che un tempo ospitavano questa organizzazione non scomparivano. In alcuni casi, il "vettore" rimaneva attivo e diventava persino più forte, anche se aveva perso il suo scopo originale. Era come se uno strumento rimanesse in una cassetta degli attrezzi molto tempo dopo aver smesso di essere usato per il suo lavoro previsto. Ciò ha dimostrato che l'organizzazione e la materia fisica che la conteneva erano due cose diverse. L'organizzazione poteva morire mentre il vettore sopravviveva, e viceversa, il vettore poteva esistere senza l'organizzazione.

Lo studio ha poi testato se queste organizzazioni potessero essere spostate. I ricercatori hanno preso un'organizzazione funzionante da una macchina e hanno cercato di trapiantarla in un'altra macchina che non l'aveva mai vista prima. Quando le due macchine venivano addestrate sullo stesso tipo di compito e sullo stesso tipo di esito, il trapianto funzionava. La macchina ricevente acquisiva istantaneamente la capacità di produrre lo stesso specifico risultato futuro, anche se le sue parti interne erano completamente diverse dal donatore. Ciò ha dimostto che l'identità dell'organizzazione non era legata a un set specifico di coordinate o a un design specifico della macchina. Era legata alla relazione tra l'azione interna e il risultato esterno. Tuttavia, questa identità aveva un confine rigido. Quando i ricercatori hanno provato a trapiantare un'organizzazione in una macchina addestrata su un tipo di esito completamente diverso — dove le regole del gioco erano fondamentalmente incompatibili — il trapianto falliva. Anche se le parti interne della macchina ricevente apparivano quasi identiche a quelle del donatore, l'organizzazione non riusciva a mettere radici. L'organizzazione non era un oggetto universale; era una creatura del suo specifico contesto.

Infine, i ricercatori hanno esplorato la dinamica del loro ciclo di vita. Hanno scoperto che la nascita di un'organizzazione dipendeva dalla capacità del sistema di reclutare le proprie parti interne per servire uno scopo specifico. Se il sistema non era supportato dal tipo di feedback corretto, l'organizzazione non si formava o si dissolveva. Lo studio ha mostrato che queste transizioni non erano casuali. Seguivano un modello in cui il sistema o reclutava nuove parti per mantenere una distinzione tra gli esiti, o lasciava che quelle distinzioni si fondessero nuovamente. I ricercatori sono stati in grado di prevedere queste transizioni in alcuni casi, ma hanno sottolineato che questa non era una legge universale applicabile a ogni macchina in ogni situazione. Le regole dipendevano dal modo specifico in cui la macchina apprendeva e dalla natura specifica del feedback ricevuto.

Le implicazioni di questo lavoro sono profonde per la nostra comprensione dei sistemi di apprendimento. Suggeriscono che dovremmo smettere di cercare la "sede" di un'abilità o di una regola all'interno di una macchina e iniziare a cercare la relazione funzionale che la definisce. Un'organizzazione non è un oggetto statico seduto in un luogo specifico; è un processo dinamico che esiste solo finché è supportato dalle giuste conseguenze. Può nascere, può cambiare e può morire, lasciando dietro di sé solo l'involucro fisico che un tempo la conteneva. Questa visione cambia il modo in cui pensiamo all'intelligenza artificiale. Significa che l'identità di un comportamento appreso non è fissata nel codice o nei pesi della macchina. È una cosa fragile e viva che dipende interamente dall'ambiente in cui opera. Se l'ambiente cambia, l'organizzazione cambia. Se l'ambiente scompare, l'organizzazione muore, anche se la macchina rimane intatta.

Lo studio non ha sostenuto di aver trovato una teoria universale che spieghi ogni sistema di apprendimento. Non ha suggerito che tutte le macchine si comportino allo stesso modo, o che possiamo ora prevedere perfettamente il ciclo di vita di qualsiasi organizzazione in qualsiasi sistema. Invece, ha fornito un modo chiaro e misurabile per tracciare queste organizzazioni negli specifici sistemi testati. Ha dimostrato che possiamo identificare quando nascono, quando muoiono e quando possono essere spostate. Ha provato che l'identità di un comportamento appreso è relativa alle conseguenze che produce, non alle parti fisiche che lo contengono. Questo è un passo significativo avanti nella comprensione della vita interiore delle macchine che apprendono, passando da una visione statica della struttura a una visione dinamica della funzione. I ricercatori hanno dimostrato che la vita di un'organizzazione è un fenomeno reale e osservabile, uno che può essere studiato, manipolato e compreso, anche se è fugace e dipendente dal suo contesto come una fiamma al vento.