AquiLLM: An Architecture for Supporting Tacit Knowledge Capture in Research Groups

Immaginate un gruppo di scienziati che lavorano insieme in un laboratorio, come una band che suona in un garage. Hanno il loro spartito (articoli pubblicati) e i loro strumenti (dati), ma la vera magia avviene nei momenti disordinati e non registrati: gli scherzi interni, gli avvertimenti del tipo "non toccare quel pomello" e le scorciatoie ingegnose che inventano al volo. Questo è chiamato conoscenza tacita — ciò che sai perché l'hai fatto, non perché l'hai letto. Di solito, quando un membro della band se ne va, quella conoscenza segreta esce dalla porta con lui.

Per risolvere questo problema, gli scienziati stanno cercando di usare l'Intelligenza Artificiale (IA) per agire come una super-memoria per questi gruppi. Pensate all'IA come a un bibliotecario molto veloce e molto intelligente che può leggere ogni libro in biblioteca istantaneamente. Tuttavia, la maggior parte di questi "bibliotecari" è di proprietà di grandi aziende. Questo crea un problema: se fate una domanda al bibliotecario di un'azienda, potrebbero tenere una copia della vostra domanda per addestrare il loro prossimo bibliotecario, o potrebbero non mostrarvi esattamente come hanno trovato la risposta. Per gli scienziati, che hanno bisogno di poter controllare il proprio lavoro e mantenere privati i propri dati, questo è un no assoluto. Hanno bisogno di un bibliotecario che possano costruire loro stessi, tenere nel proprio seminterrato e di cui possano fidarsi completamente.

È qui che entra in gioco AquiLLM. È un nuovo strumento open-source progettato specificamente per i gruppi di ricerca per catturare quella conoscenza disordinosa e non detta. Il documento descrive come il team abbia aggiornato AquiLLM per renderlo più simile a un assistente di ricerca locale e utile che vive sui computer del gruppo stesso. Invece di inviare dati al cloud, utilizza la Generazione Aumentata dalla Recupero (RAG). Immaginate la RAG come un sistema in cui l'IA non si limita a indovinare le risposte dal proprio cervello; invece, corre prima verso uno scaffale specifico, prende esattamente le pagine di cui ha bisogno e poi le legge ad alta voce per rispondere alla vostra domanda. Questo assicura che l'IA si attenga ai fatti che il gruppo possiede realmente, piuttosto che inventare cose.

Gli autori di questo articolo non si sono limitati a costruire una versione base; hanno dato al sistema un grande restyling basato su ciò di cui i veri scienziati (come gli astrofisici) avevano effettivamente bisogno. Hanno aggiunto funzionalità che permettono al sistema di "vedere" immagini e grafici, non solo di leggere testo, e gli hanno dato una "memoria" che ricorda chi siete e di cosa avete parlato in precedenza, senza confondere i diversi progetti. Hanno anche fatto in modo che il sistema fosse modulare, il che significa che potete sostituire parti come il cervello o gli occhi senza ricostruire l'intero robot.

Il documento suggerisce che questi aggiornamenti rendono il sistema molto più efficace nel gestire la natura complessa, visiva e collaborativa della vera scienza. Tuttavia, gli autori sottolineano con cautela che, sebbene il sistema funzioni bene per trovare fatti nei documenti, incontra ancora qualche difficoltà quando gli viene chiesto di confrontare informazioni tra molte diverse fonti o quando la "memoria" diventa troppo piena. Non hanno ancora dimostrato che sia perfetto; hanno solo mostrato che è un passo promettente verso un'IA che rispetta la privacy e aiuta i team a mantenere al sicuro la propria saggezza collettiva.

Il Grande Aggiornamento: Da un Robot Goffo a un Intelligente Partner di Laboratorio

Quindi, cosa ha fatto esattamente il team a AquiLLM? Pensate al sistema originale come a un robot utile ma leggermente goffo. Poteva parlare, ma era lento, non riusciva a vedere le immagini e a volte dimenticava cosa gli avevate detto cinque minuti prima. La nuova versione è come dare a quel robot un trapianto di cervello, nuovi occhi e un taccuino personale.

1. Il "Cervello Locale" e la "Biblioteca Locale"
Il cambiamento più grande è che tutto avviene direttamente sui computer del gruppo. Il team ha sostituito la necessità di costosi servizi commerciali esterni con modelli a pesi aperti (open-weight models). Immaginate invece di chiamare un consulente famoso ed costoso per risolvere un problema, di avere un brillante tutor locale che vive in casa vostra. Questo tutor (il modello di IA) è gratuito da usare e voi possedete tutti gli appunti che prende. Il team ha scelto specificamente modelli come Qwen3.6-27B per la chat e Qwen3-VL per vedere le immagini. Hanno anche sostituito gli strumenti di ricerca esterni con strumenti locali, il che significa che anche la parte "motore di ricerca" dell'IA vive nel seminterrato del gruppo, non in un cloud aziendale. Questo mantiene i dati sensibili, come la ricerca non pubblicata o le note private, completamente fuori da internet.

2. Dare all'IA gli "Occhi" (Capacità Multimodali)
La scienza non riguarda solo le parole; riguarda grafici, foto di stelle e diagrammi. Il vecchio sistema faceva fatica con questi elementi. Il nuovo AquiLLM può ora "vedere". Utilizza un modello multimodale che può guardare l'immagine di un grafico, capire cosa significano le linee e parlarne proprio come farebbe un essere umano. È come passare da un robot che può solo leggere un menu a uno che può guardare il cibo nel piatto e dirvi che sapore ha. Questo è enorme per i ricercatori che devono discutere le figure dei loro articoli senza dover descrivere ogni singolo pixel in testo.

3. La "Memoria Personale" vs. Il "Taccuino Condiviso"
Una delle nuove funzionalità più interessanti è uno strato di memoria. Immaginate di avere una conversazione con un amico. Non volete spiegare tutta la vostra storia ogni volta che dite "ciao". Il nuovo sistema ha due tipi di memoria:

• Fatti Stabili: Questo è come una carta d'identità permanente. Ricorda il vostro nome, il vostro argomento di ricerca preferito e il vostro tono.
• Memoria Episodica: Questa è come un diario delle vostre chat recenti. Se ieri avete chiesto di un particolare ammasso stellare, l'IA lo ricorda oggi.
  Fondamentalmente, questa memoria è privata per l'utente e per il progetto. Non è mescolata con i dati di qualcun altro. Il documento nota che questa memoria è opzionale e deve essere attivata, perché memorizzare troppo può diventare disordinato. Se la memoria fallisce, il sistema torna semplicemente ai documenti, quindi non interrompe l'intera conversazione.

4. "Abilità" e "Pacchetti di Abilità"
Questo è un modo intelligente per insegnare all'IA come lavora un team specifico. Immaginate un nuovo tirocinante che si unisce a un laboratorio. Deve conoscere le regole specifiche: "Disegna sempre i dati in blu" oppure "Controlla questa lista prima di eseguire l'esperimento". Nel nuovo sistema, queste regole sono raggruppate in Abilità (Skills). Quando un ricercatore avvia una chat su un progetto specifico, l'IA carica automaticamente il "Pacchetto di Abilità" per quel progetto. È come se l'IA indossasse un cappello diverso a seconda del team con cui sta parlando. Un team di spettroscopia riceve un set di istruzioni, e un team di fotometria ne riceve un altro, tutto senza che l'IA si confonda.

5. Il "Bibliotecario Intelligente" (Context Packing)
L'IA ha un limite su quanto può leggere in una volta sola (la sua "finestra di contesto"). Se le date un'intera biblioteca, potrebbe sentirsi sopraffatta. Il team ha aggiunto un sistema di impacchettamento del contesto consapevole della salienza (salience-aware context packing). Pensate a questo come a un bibliotecario super efficiente che sa esattamente quali pagine di un libro sono più importanti per la domanda che state facendo. Invece di tagliare semplicemente la fine del libro in modo casuale, il sistema classifica le informazioni: "Questa frase è critica", "Questa immagine è rilevante", "Questo vecchio messaggio di chat può essere riassunto". Utilizza uno strumento chiamato LLMLingua-2 per restringere il testo senza perderne il significato, permettendo all'IA di inserire più informazioni importanti nel proprio cervello senza andare in crash.

Il Controllo della Realtà: Cosa è Ancora Difficile?

Gli autori sono molto onesti riguardo a ciò che questo sistema non può ancora fare. Non pretendono che sia una bacchetta magica.

• È un Sistema Ibrido: Il sistema è ancora un mix di codice vecchio e nuovo. Alcune parti funzionano perfettamente sui computer locali, mentre altre sono ancora configurate per il cloud. Questo può causare alcuni glitch strani, come il sistema che si comporta diversamente a seconda della "modalità" in cui si trova.
• Ritardo della Memoria: Poiché gli aggiornamenti della memoria avvengono in background (per mantenere la chat veloce), c'è un piccolo ritardo. Se fate una domanda subito dopo aver detto qualcosa di nuovo all'IA, potrebbe non aver ancora "ascoltato".
• Il Test del "Tacito": Il team ha testato il sistema su documenti formali come articoli di astronomia, e ha fatto un buon lavoro. Ma ammettono di non aver testato ancora appieno le cose più disordinate, come i messaggi di Slack, i verbali delle riunioni o i commenti al codice. Suggeriscono che catturare questo tipo di conoscenza informale, "tacita", sia la prossima grande sfida.
• Velocità vs. Intelligenza: Il sistema è veloce, ma a volte deve scegliere tra velocità e precisione. Se il computer esaurisce la memoria (VRAM), deve rallentare o scartare alcune informazioni.

Conclusione

AquiLLM è un passo significativo avanti per la ricerca scientifica. Si allontana dall'idea che l'IA debba essere una scatola nera di proprietà di una corporazione e la riporta nelle mani dei ricercatori. Rendendo il sistema locale, multimodale e consapevole della memoria, rispetta la privacy e il flusso di lavoro della scienza. Il documento suggerisce che, sebbene non sia perfetto, è un prototipo potente per mantenere intatto il cervello collettivo di un gruppo di ricerca, anche quando i membri vanno e vengono. Non è un problema risolto, ma è un passo molto promettente verso il futuro della scienza collaborativa.