Nel vasto panorama dei dati moderni, molte delle relazioni più importanti non si collocano ordinatamente in righe e colonne come un foglio di calcolo. Esistono invece come intricati intrecci: gli amici che condividi con un collega, le proteine che si legano insieme per formare un farmaco, o le citazioni che collegano un articolo scientifico a un altro. Questi sono grafi, strutture in cui le connessioni tra le cose sono importanti quanto le cose stesse. Per decenni, gli scienziati hanno lottato per insegnare ai computer a comprendere questi intrecci. I metodi tradizionali spesso costringono queste forme complesse e irregolari in rigidi contenitori matematici, richiedendo enormi quantità di potenza di calcolo e una meticolosa supervisione umana per funzionare. Questi approcci possono essere fragili; se i dati sono rumorosi o se appare un nuovo nodo che il sistema non ha mai visto prima, l'intera struttura può vacillare. La sfida è stata trovare un modo per mappare queste reti aggrovigliate in un linguaggio che i computer possano leggere facilmente, senza perdere la forma unica delle relazioni o esaurire la macchina nel processo.

Un team di ricercatori della Portland State University ha proposto una soluzione che assomiglia meno a un algoritmo informatico standard e più al modo in cui il cervello di un mammifero impara. Hanno sviluppato un nuovo sistema chiamato Columnar-Embedder, progettato per tradurre la complessa struttura di un grafo in un codice binario compatto. Invece di fare affidamento sulla pesante e dispendiosa ottimizzazione matematica utilizzata dalla maggior parte dell'intelligenza artificiale moderna, questo sistema imita l'architettura biologica della corteccia cerebrale. Impara osservando i modelli mentre fluiscono attraverso la rete, proprio come il cervello elabora un flusso di input sensoriali. I ricercatori hanno scoperto che, utilizzando un insieme di regole di apprendimento locali ispirate alla biologia, il loro sistema poteva creare rappresentazioni dei nodi del grafo sorprendentemente efficaci. Queste rappresentazioni non sono solo accurate; sono incredibilmente resilienti al rumore e alla corruzione, e possono essere apprese continuamente senza la necessità di etichette o di un insegnante che corregga gli errori.

Il cuore di questo lavoro risiede nel modo in cui il sistema elabora le informazioni. La maggior parte degli attuali metodi per comprendere i grafi si basa su cammini casuali (random walks), dove un viaggiatore virtuale salta da un nodo all'altro, registrando il percorso. Questi percorsi vengono poi inseriti in complesse reti neurali che cercano di indovinare il significato delle connessioni. Questo processo è computazionalmente costoso e spesso richiede che l'intero dataset venga caricato in memoria tutto in una volta. Il Columnar-Embedder prende una strada diversa. Tratta il grafo come un flusso di informazioni, simile a come la corteccia visiva elabora una scena. Il sistema è costruito con strati di neuroni artificiali organizzati in piccole colonne, rispecchiando le minicolonne presenti nel cervello dei mammiferi. Quando un cammino casuale attraversa la rete, attiva neuroni specifici in modo sparso e binario. Ciò significa che per ogni dato, solo una minuscola frazione dei neuroni disponibili — circa l'uno o il quattro per cento — si attiva in un dato momento. Questa scarsità (sparsity) è una caratteristica chiave dei cervelli biologici, che permette loro di memorizzare enormi quantità di informazioni in modo efficiente e di recuperare da danni o rumore.

Per imparare il significato di questi modelli, il sistema utilizza un insieme di regole che sono strettamente locali. In molti sistemi di intelligenza artificiale, l'apprendimento richiede un segnale globale che viaggi all'indietro attraverso la rete per regolare ogni connessione, un processo noto come backpropagation. Questo articolo rifiuta esplicitamente tale approccio. Invece, il Columnar-Embedder utilizza una regola di apprendimento basata sul principio di Bienenstock-Cooper-Munro, che regola la forza delle connessioni tra i neuroni in base alla loro attività immediata e a un segnale statistico derivato dalla frequenza con cui i nodi appaiono insieme nei cammini casuali. Se due nodi appaiono frequentemente vicini tra loro nel grafo, il sistema rafforza la connessione tra i neuroni che li rappresentano. Se appaiono raramente insieme, la connessione si indebolisce. Ciò avviene senza alcuna supervisione esterna o etichette che dicano al sistema quale sia la risposta corretta. Il sistema si limita a osservare il flusso di dati e ad adattare la sua struttura interna per corrispondere alle statistiche del grafo.

I ricercatori hanno testato questa architettura su diversi dataset di grafi standard, inclusi network di citazioni scientifiche e raccomandazioni di prodotti. Hanno confrontato le prestazioni del sistema con metodi all'avanguardia che utilizzano numeri densi e continui per rappresentare i nodi. I risultati hanno mostrato che il Columnar-Embedder è competitivo con questi metodi complessi e pesanti in compiti come la classificazione dei nodi e la previsione di collegamenti mancanti. Ad esempio, su un dataset di articoli scientifici, il sistema ha identificato correttamente la categoria di un articolo basandosi sui suoi vicini con un'accuratezza che eguaglia i migliori strumenti esistenti. Ciò che è forse più sorprendente è il comportamento del sistema sotto pressione. Quando i ricercatori hanno introdotto del rumore nei dati — invertendo i bit del codice o rimuovendo connessioni — il Columnar-Embedder ha mantenuto la sua posizione molto meglio dei metodi tradizionali. Mentre le rappresentazioni dense degradavano rapidamente man mano che i dati venivano corrotti, i codici binari sparsi mantenevano la loro capacità di distinguere tra diversi gruppi di nodi. Ciò suggerisce che la struttura del sistema fornisce una resistenza naturale agli errori, un tratto comune nei sistemi biologici ma raro nell'attuale intelligenza artificiale.

Un altro risultato significativo è la capacità di scalabilità del sistema. I ricercatori hanno applicato la stessa architettura a grafi molto più grandi, inclusa una rete di co-autorship in fisica con quasi 35.000 nodi, senza cambiare alcuno dei parametri o delle impostazioni sottostanti. Il sistema ha mantenuto le sue alte prestazioni e la sua capacità di distinguere tra diverse classi di nodi. Questa scalabilità è fondamentale perché molti grafi del mondo reale, come i social network o Internet stesso, sono massicci e in costante mutamento. Il design del sistema consente di apprendere continuamente da un flusso di dati, adattandosi a nuovi nodi e connessioni man mano che appaiono, senza dover essere riaddestrato da zero. Questa capacità di apprendimento continuo è un risultato diretto dell'ispirazione biologica; proprio come il cervello non dimentica i vecchi ricordi quando ne apprende di nuovi, il Columnar-Embedder non soffre di "oblio catastrofico", un problema comune in cui il nuovo apprendimento sovrascrive la conoscenza precedente nelle reti neurali tradizionali.

L'architettura ottiene questo organizzando i suoi neuroni in una gerarchia. Il primo strato codifica l'input, il secondo strato organizza l'informazione in colonne che competono per rappresentare il dato, e un terzo strato espande la rappresentazione per garantire che anche i nodi che appaiono molto simili ricevano codici unici. Questo processo è guidato da un meccanismo che incoraggia la diversità all'interno delle colonne, assicurando che il sistema non collassi in un unico modello ripetitivo. Il risultato è una rappresentazione che è sia compatta che altamente specifica. I ricercatori hanno scoperto che potevano rappresentare ogni nodo con un codice di soli 28 bit attivi su un totale di 1.800, un livello di efficienza che è ordini di grandezza più compatto rispetto ai vettori densi utilizzati da altri metodi. Questa efficienza si traduce direttamente in minori requisiti di memoria e velocità di elaborazione superiori, rendendo il sistema un candidato promettente per applicazioni in cui le risorse sono limitate o in cui i dati arrivano in un flusso continuo.

In definitiva, questo lavoro dimostra che i principi che regolano l'apprendimento biologico possono essere applicati con successo all'astratto problema della rappresentazione dei grafi. Allontanandosi dall'ottimizzazione globale e pesante del deep learning moderno e abbracciando la natura locale, sparsa e continua dei sistemi biologici, i ricercatori hanno creato uno strumento che è non solo efficace, ma anche robusto ed efficiente. Il sistema non richiede le enormi risorse computazionali o i dataset accuratamente curati che sono spesso necessari per altre tecniche di embedding dei grafi. Al contrario, apprende dalla struttura grezza dei dati stessi, trovando modelli e relazioni attraverso un processo che rispecchia il modo in cui il cervello dà senso al mondo. Le scoperte suggeriscono che esiste una via percorribile per creare un'intelligenza artificiale più adattabile, più efficiente dal punto di vista energetico e più resiliente alla natura disordinata e imprevedibile dei dati del mondo reale.