Stel je een persoonlijke assistent voor die je niet alleen kent door de taken die je hem geeft, maar door het ritme van je leven. Decennialang was de droom van kunstmatige intelligentie het bouwen van een machine die menselijke doelen, gewoonten en verplichtingen goed genoeg begrijpt om namens ons te handelen. Maar er is een fundamenteel probleem: een computer kan niet in de geest van een persoon kijken of weten wat diegene werkelijk waardeert, tenzij die persoon het de computer vertelt. De kwaliteit van elke persoonlijke AI wordt beperkt door wat zij kan observeren. Als het systeem alleen een lijst met to-do-items ziet, zal het slecht plannen. Als het een continue stroom van gezondheidsgegevens, agenda-afspraken en spraaknotities ziet, kan het misschien beter plannen, maar alleen als het ook de toestemming krijgt om deze te zien. De centrale vraag voor onderzoekers is niet langer alleen hoe we slimmere software kunnen maken, maar hoe we een relatie kunnen opbouwen waarin de gebruiker bereid is voldoende informatie te delen om de software nuttig te maken, zonder zich blootgesteld of gecontroleerd te voelen.

Dit is het terrein dat een team van onderzoekers van de University of Alberta en MacEwan University verkent in een paper die werd gepresenteerd op de KDD 2026-conferentie. Zij stellen een nieuwe manier van denken over persoonlijke AI voor, genaamd "coöperatieve observatie". De kern van het idee is simpel maar diepgaand: de informatiestroom tussen een persoon en zijn AI zou geen eenrichtingsverkeer moeten zijn waarbij de machine data extraheert, noch een statische opzet waarbij de gebruiker alles aan het begin opgeeft. In plaats daarvan moet het een feedbackloop zijn. Het systeem probeert te helpen op basis van wat het weet; de gebruiker beoordeelt of die hulp daadwerkelijk nuttig was; en op basis van die beoordeling beslist de gebruiker of hij de volgende keer meer, minder of iets anders wil laten zien. In dit kader is vertrouwen geen gegeven; het wordt verdiend door nuttige acties, en het recht om te controleren wat wordt geobserveerd is het fundament van de relatie.

Om dit idee te testen, bouwden de onderzoekers een prototype-systeem genaamd Organizm. In tegen tegenstelling tot veel commerciële assistenten die op servers van bedrijven leven en data verzamelen voor advertenties of engagement-metrieken, is Organizm ontworpen om volledig eigendom te zijn van de gebruiker. Het draait op de eigen bestanden van de gebruiker en houdt alle herinneringen, logs en plannen bij in een persoonlijke digitale map die de gebruiker op elk moment kan inspecteren, bewerken of verwijderen. Het systeem is gestructureerd als een klein team van gespecialiseerde agenten. Eén agent kan bijvoorbeeld directe notities afhandelen, een andere kan naar langetermijndoelen kijken, en een derde kan dagelijkse schema's beheren. Deze agenten proberen niet allemaal tegelijkertijd alle bestanden te lezen. In plaats daarvan werken ze in lagen, waarbij ze beginnen met brede samenvattingen en pas in specifieke details duiken wanneer een taak daarom vraagt. Dit ontwerp bootst de manier na waarop een menselijk brein informatie beheert, door zich te concentreren op wat relevant is voor het huidige moment, terwijl een bredere context beschikbaar blijft voor reflectie.

De onderzoekers testten dit systeem in een real-world setting, waarbij ze het gebruik door één enkel individu gedurende zes maanden volgden, van januari tot juni 2026. Dit was geen gecontroleerd laboratoriumexperiment met tientallen deelnemers, maar een diepe duik in hoe de relatie tussen één persoon en zijn AI evolueerde over een bepaalde tijd. Aan het begin interageerde de gebruiker met het systeem voornamelijk via handmatige rapportages, door taken en doelen in te typen. Naarmate de weken verstreken, begon de gebruiker meer te vertrouwen op het systeem door het te koppelen aan meer informatiebronnen. Eerst koppelde hij zijn agenda, zodat de AI geplande evenementen kon zien. Later voegde hij een gedeeld register voor deadlines toe en zelfs een kanaal voor het bijhouden van financiën. Het systeem dwong deze verbindingen niet af; de gebruder voegde ze vrijwillig toe omdat de eerdere interacties bewezen nuttig waren.

Wat de onderzoekers vonden, was een duidelijk patroon van samenwerking. Wanneer het systeem een plan bood dat de gebruiker hielp bij het beheren van zijn tijd of het signaleren van een conflict, was de gebruiker eerder geneigd om nieuwe informatie te delen of de fouten van het systeem te corrigeren. Bijvoorbeeld, toen het systeem aanvankelijk een terugkerende uitgave in een budgetplan miste, corrigeerde de gebruiker dit, en het systeem leerde van deze fout om het in de toekomst te voorkomen. Wanneer het systeem een dagelijks schema voorstelde dat te ambitieus was, zette de gebruiker weerwoord, en het systeem paste zijn planningsstijl aan om realistischer te zijn. Deze cyclus van actie, evaluatie en aanpassing is wat de auteurs de coöperatieve feedbackloop noemen. De bereidheid van de gebruiker om het observatiekanaal uit te breiden — het toestaan dat het systeem meer van zijn leven ziet — was direct gekoppeld aan het vermogen van het systeem om echte waarde te bieden zonder te overschrijden.

De studie benadrukte ook het belang van hoe informatie wordt afgehandeld. Omdat het systeem gebouwd is op bestanden die eigendom zijn van de gebruiker, kon de gebruiker precies zien wat de AI zich herinnerde en hoe deze die herinnering gebruikte. Deze transparantie was cruciaal. Wanneer het systeem een fout maakte, kon de gebruiker dit herleiden naar een specifiek bestand of een verkeerd geïnterpreteerde notitie. Dit niveau van controleerbaarheid bouwde het vertrouwen op dat nodig was om de gebruiker te laten delen van gevoelige gegevens, zoals financiële gegevens of gezondheidsgerelateerde doelen. De onderzoekers merkten op dat als het systeem een "black box" was geweest waarbij de gebruiker de interne werking niet kon zien, de gebruiker waarschijnlijk de datakanalen niet op dezelfde manier zou hebben uitgebreid. Het vermogen om de toegang in te trekken of specifieke herinneringen te verwijderen, gaf de gebruiker een gevoel van controle dat hen comfortabel maakte met de groeiende kennis van het systeem.

De onderzoekers zijn echter voorzichtig met de bewering dat dit een opgelost probleem is. De zes maanden durende studie betrof slechts één persoon, en hoewel de resultaten bemoedigend zijn, kunnen ze niet bewijzen dat deze aanpak voor iedereen zal werken. De gebruiker in de studie was een auteur van het paper, wat betekent dat deze persoon zeer gemotiveerd en technisch vaardig was, wat hen mogelijk meer bereid maakte om met het systeem te werken dan de gemiddelde persoon. De onderzoekers erkennen dat schaarse of inconsistente feedback van andere gebruikers het moeilijker kan maken voor het systeem om te leren wat het vervolgens moet observeren. Ze wijzen er ook op dat naarmaden de observatiekanalen rijker worden — potentieel inclusief continue audio, video of zelfs neurale signalen in de toekomst — de risico's voor privacy en autonomie zullen toenemen. Het systeem kan dingen afleiden over de gezondheid of mentale staat van een persoon die die persoon nooit de bedoeling had te delen, en de gevolgen van dergelijke afleidingen kunnen aanzienlijk zijn.

Het paper suggereert dat de toekomst van persoonlijke AI afhangt van het vinden van de juiste balans. Het spreek zich uit tegen het idee dat meer data altijd beter is. Een systeem dat alles vastlegt maar niet vertrouwd of gecontroleerd kan worden, zal waarschijnlijk door gebruikers worden afgewezen. In plaats daarvan ligt de weg vooruit in systemen die vanaf het begin ontworpen zijn om coöperatief te zijn. Dit betekent dat de software gebouwd moet worden om de controle van de gebruiker over wat wordt geobserveerd te respecteren, om zijn redenering duidelijk uit te leggen en om zijn gedrag aan te passen op basis van de feedback van de gebruiker. Het doel is niet om een machine te creëren die alles over een persoon weet, maar om een partner te creëren die net genoeg weet om behulpzaam te zijn, en die het recht verdient om meer te weten door consistente, nuttige actie.

De onderzoekers stellen verschillende manieren voor om dit idee verder te testen. Ze suggereren studies waarbij de hoeveelheid informatie die het systeem kan zien bewust wordt gevarieerd om te zien hoe dit de kwaliteit van de assistentie beïnvloedt. Ze willen ook volgen hoe de deelgewoonten van gebruikers in de loop van de tijd veranderen als reactie op de prestaties van het systeem. Een ander belangrijk gebied is hoe het begrip van de gebruiker door het systeem de eigen zelfverstand van de gebruiker verandert. Helpt het hebben van een duidelijk verslag van eerdere acties en doelen mensen om betere beslissingen te nemen? Het paper laat deze vragen open en nodigt uit tot verder onderzoek om te bepalen of coöperatieve observatie echt de standaard kan worden voor persoonlijke intelligentie.

Uiteindelijk is het werk gepresenteerd in dit paper een oproep tot een ander soort relatie tussen mensen en machines. Het beweegt weg van het idee van AI als een instrument dat data extraheert en naar het idee van AI als een partner die toegang verdient door bruikbaarheid. Het prototype, Organizm, toonde aan dat wanneer een gebruiker zich in controle voelt en echte waarde ziet, hij bereid is het systeem in zijn leven toe te laten. Maar deze relatie is fragiel; het hangt af van het vermogen van het systeem om transparant te blijven, privacy te respecteren en de doelen van de gebruiker boven die van zichzelf te stellen. Naarmate de technologie vordert en apparaten steeds meer in staat zijn om ons leven in realtime vast te leggen, bieden de principes van coöperatieve observatie een routekaart om ervoor te zorgen dat deze krachtige instrumenten de mensen dienen die ze bezitten, in plaats van andersom. Het succes van persoonlijke AI zal misschien niet afhangen van hoe slim de machine wordt, maar van hoe goed hij leert samenwerken met de mens die hij bedoeld is te dienen.