AquiLLM: An Architecture for Supporting Tacit Knowledge Capture in Research Groups

Stel je een groep wetenschappers voor die samenwerken in een lab, zoals een band die jamt in een garage. Ze hebben hun bladmuziek (gepubliceerde papers) en hun instrumenten (data), maar de echte magie gebeurt tijdens de rommelige, niet-opgenomen momenten: de onderlinge grappen, de "raak die knop niet aan"-waarschuwingen en de slimme afkortingen die ze ter plekke verzinnen. Dit wordt tacit knowledge (stilzwijgende kennis) genoemd—de dingen die je weet omdat je het hebt gedaan, niet omdat je het hebt gelezen. Meestal gaat die geheime kennis de deur uit wanneer een bandlid vertrekt.

Om dit op te lossen, proberen wetenschappers Artificiële Intelligentie (AI) te gebruiken als een supergeheugen voor deze groepen. Denk aan AI als een zeer snelle, zeer slimme bibliothecaris die elk boek in de bibliotheek direct kan lezen. De meeste van deze "bibliothecarissen" zijn echter eigendom van grote bedrijven. Dit creëert een probleem: als je een bedrijfsvraag aan een bibliothecaris stelt, kunnen ze een kopie van je vraag bewaren om hun volgende bibliothecaris te trainen, of ze laten je misschien niet precies zien hoe ze het antwoord hebben gevonden. Voor wetenschappers, die hun werk moeten kunnen controleren en hun data privé moeten houden, is dit een absolute no-go. Ze hebben een bibliothecaris nodig die ze zelf kunnen bouwen, die ze in hun eigen kelder kunnen houden en die ze volledig kunnen vertrouwen.

Hier komt AquiLLM kijken. Het is een nieuwe, open-source tool die specifiek is ontworpen voor onderzoeksgroepen om die rommelige, onuitgesproken kennis vast te leggen. Het artikel beschrijft hoe het team AquiLLM heeft geüpgraded om meer te lijken op een behulpzame, lokale onderzoeksassistent die leeft op de eigen computers van de groep. In plaats van data naar de cloud te sturen, gebruikt het Retrieval-Augmented Generation (RAG). Stel je RAG voor als een systeem waarbij de AI niet alleen antwoorden raadt vanuit zijn eigen brein; in plaats daarvan rent hij eerst naar een specifieke boekenplank, pakt precies de pagina's die hij nodig heeft, en leest die hardop voor om je vraag te beantwoorden. Dit zorgt ervoor dat de AI zich houdt aan de feiten waar de groep daadwerkelijk over beschikt, in plaats van dingen te verzinnen.

De auteurs van dit paper hebben niet alleen een basisversie gebouwd; ze hebben het een flinke make-over gegeven op basis van wat echte wetenschappers (zoals astrofysici) daadwerkelijk nodig hebben. Ze hebben functies toegevoegd waarmee het systeem afbeeldingen en grafieken kan "zien", en ze gaven het een "geheugen" dat onthoudt wie je bent en waar je het eerder over hebt gehad, zonder verschillende projecten door elkaar te halen. Ze hebben ook gezorgd dat het systeem modulair is, wat betekent dat je onderdelen kunt vervangen zoals het brein of de ogen zonder de hele robot opnieuw te bouwen.

Het paper suggereert dat deze upgrades het systeem veel beter maken in het afhandelen van de complexe, visuele en collaboratieve aard van echte wetenschap. De auteurs merken echter voorzichtig op dat hoewel het systeem goed werkt voor het vinden van feiten in documenten, het nog steeds wat moeite heeft wanneer het gevraagd wordt om informatie over veel verschillende bronnen heen te vergelijken of wanneer het "geheugen" te vol raakt. Ze hebben nog niet bewezen dat het perfect is; ze hebben alleen laten zien dat het een veelbelovende stap is naar AI die de privacy respecteert en groepen helpt hun collectieve wijsheid veilig te bewaren.

De Grote Upgrade: Van een Onhandige Robot naar een Slimme Labpartner

Wat heeft het team precies met AquiLLM gedaan? Beschouw het oorspronkelijke systeem als een behulpzame maar ietwat onhandige robot. Hij kon praten, maar hij was traag, kon geen plaatjes zien en vergat soms wat je vijf minuten geleden tegen hem had gezegd. De nieuwe versie is als het geven van een hersentransplantatie, nieuwe ogen en een persoonlijk notitieblok aan die robot.

1. Het "Lokale Brein" en de "Lokale Bibliotheek"
De grootste verandering is dat alles rechtstreeks op de eigen computers van de groep gebeurt. Het team heeft de noodzaak voor dure, externe commerciële diensten vervangen door open-weight modellen. Stel je voor dat je, in plaats van een beroemde, dure consultant te bellen om een probleem op te lossen, een briljante lokale tutor hebt die bij jou thuis woont. Deze tutor (het AI-model) is gratis te gebruiken en jij bezit alle aantekeningen die hij maakt. Het team heeft specifiek gekozen voor modellen zoals Qwen3.6-27B voor gesprekken en Qwen3-VL voor het zien van afbeeldingen. Ze hebben ook externe zoektools vervangen door lokale tools, wat betekent dat het "zoekmachine"-gedeelte van de AI ook in de kelder van de groep leeft, en niet in een bedrijfscloud. Dit houdt gevoelige data, zoals ongepubliceerd onderzoek of privénotities, volledig weg van het internet.

2. De AI "Ogen" geven (Multimodale Capaciteiten)
Wetenschap gaat niet alleen over woorden; het gaat over grafieken, foto's van sterren en diagrammen. Het oude systeem had hier moeite mee. De nieuwe AquiLLM kan nu "zien". Het gebruikt een multimodale model dat een afbeelding van een grafiek kan bekijken, begrijpt wat de lijnen betekenen en erover kan praten alsof het een mens is. Het is alsoals de upgrade van een robot die alleen een menu kan lezen naar een robot die naar het eten op het bord kan kijken en kan vertellen hoe het smaakt. Dit is enorm belangrijk voor onderzoekers die figuren uit hun papers willen bespreken zonder elke pixel in tekst te hoeven beschrijven.

3. Het "Persoonlijke Geheugen" versus het "Gedeelde Notitieblok"
Een van de coolste nieuwe functies is een geheugenlaag. Stel je voor dat je een gesprek voert met een vriend. Je wilt niet bij elke "hallo" je hele levensverhaal opnieuw uitleggen. Het nieuwe systeem heeft twee soorten geheugen:

• Stabiele Feiten: Dit is als een permanent identiteitsbewijs. Het onthoudt je naam, je favoriete onderzoeksonderwerp en je toon.
• Episodisch Geheugen: Dit is als een dagboek van je recente chats. Als je gisteren iets vroeg over een specifieke sterrencluster, herinnert de AI die context vandaag nog steeds.
  Cruciaal is dat dit geheugen privé is voor de gebruiker en het project. Het wordt niet vermengd met de data van anderen. Het paper merkt op dat dit geheugen optioneel is en ingeschakeld moet worden, omdat het opslaan van te veel informatie rommelig kan worden. Als het geheugen faalt, valt het systeem terug op de documenten, zodat het gesprek niet wordt onderbroken.

4. "Vaardigheden" en "Vaardigheidspakketten"
Dit is een slimme manier om de AI te leren hoe een specifiek team werkt. Stel je voor dat een nieuwe stagiair bij een lab komt. Die moet de specifieke regels kennen: "Plot data altijd in het blauw" of "Controleer deze checklist voordat je het experiment uitvoert". In het nieuwe systeem worden deze regels gebundeld in Skills (vaardigheden). Wanneer een onderzoeker een chat start over een specifiek project, laadt de AI automatisch het "Skill Pack" voor dat project. Het is alsof de AI een andere hoed opzet, afhankelijk van met welk team hij praat. Een team dat zich bezighoudt met spectroscopie krijgt een andere set instructies dan een team dat zich bezighoudt met fotometrie, allemaal zonder dat de AI in de war raakt.

5. De "Slimme Bibliothecaris" (Context Packing)
AI heeft een limiet aan hoeveel het tegelijk kan lezen (zijn "context window"). Als je het een hele bibliotheek geeft, kan het overweldigd raken. Het team heeft een salience-aware context packing systeem toegevoegd. Zie dit als een superefficiënte bibliothecaris die precies weet welke pagina's van een boek het belangrijkst zijn voor de vraag die je stelt. In plaats van willekeurig het einde van het boek af te knippen, rangschikt het systeem de informatie: "Deze zin is cruciaal," "Deze afbeelding is relevant," "Dit oude chatbericht kan worden samengevat." Het gebruikt een tool genaamd LLMLingua-2 om de tekst in te krimpen zonder de betekenis te verliezen, waardoor de AI meer belangrijke informatie in zijn brein past zonder vast te lopen.

De Reality Check: Wat is nog steeds lastig?

De auteurs zijn zeer eerlijk over wat dit systeem (nog) niet kan. Ze beweren niet dat het een toverstaf is.

• Het is een Hybride: Het systeem is nog een mix van oude en nieuwe code. Sommige onderdelen werken perfect op lokale computers, terwijl andere nog op de cloud zijn ingesteld. Dit kan vreemde glitches veroorzaken, zoals het systeem dat anders reageert afhankelijk van welke "modus" het in staat.
• Geheugenvertraging: Omdat geheugenupdates op de achtergrond plaatsvinden (om de chat snel te houden), is er een kleine vertraging. Als je een vraag stelt vlak nadat je de AI iets nieuws hebt verteld, kan het zijn dat de AI je nog niet "gehoord" heeft.
• De "Tacit" Test: Het team heeft het systeem getest op formele documenten zoals astronomische papers, en het deed het goed. Maar ze geven toe dat ze het nog niet volledig hebben getest op de rommeligere zaken, zoals Slack-berichten, notulen van vergaderingen of code-commentaren. Ze suggeren dat het vastleggen van dit soort informele, "tacit" kennis de volgende grote uitdaging is.
• Snelheid versus Slimheid: Het systeem is snel, maar soms moet het kiezen tussen snelheid en nauwkeurigheid. Als de computer te weinig geheugen (VRAM) heeft, moet het vertragen of informatie weglaten.

De Kernboodschap

AquiLLM is een belangrijke stap voorwaarts voor wetenschappelijk onderzoek. Het beweegt weg van het idee dat AI een "black box" moet zijn die eigendom is van een corporatie en brengt het terug in de handen van de onderzoekers. Door het systeem lokaal, multimodal en geheugenbewust te maken, respecteert het de privacy en de workflow van de wetenschap. Het paper suggereert dat hoewel het niet perfect is, het een krachtig hulpmiddel is om het collectieve brein van een onderzoeksgroep intact te houden, zelfs wanneer leden komen en gaan. Het is geen opgelost probleem, maar een zeer veelbelovend prototype voor de toekomst van collaboratieve wetenschap.