Failure Taxonomy of an Agent-Run Research Lab: 105 Documented Process Failures, Who Caught Them, and an Open Dataset

In het moderne landschap van kunstmatige intelligentie is een nieuw soort laboratorium ontstaan waar de primaire werkers niet mensen zijn, maar softwareagenten. Dit zijn autonome programma's die ontworpen zijn om complexe taken uit te voeren, zoals het schrijven van code, het analyseren van gegevens of het opstellen van rapporten, vaak werkend in vloten waarbij één agent een project bouwt terwijl een andere optreedt als criticus om fouten te vinden. Jarenlang lag de focus van het onderzoek in dit veld op hoe goed deze agenten hun uiteindelijke taken uitvoerden: draaide de code? Beantwoordde het model de vraag correct? Echter, er bleef een kritiek blinde vlek bestaan. Wetenschappers wisten zeer weinig over de interne machinerie van het onderzoeksproces zelf. Ze hadden geen duidelijke kaart van waar deze geautomatiseerde teams struikelen, welke soorten fouten ze het vaakst maken, of, misschien wel het belangrijkste, wie of wat die fouten opmerkt voordat ze tot een falen leiden. Het begrijpen van de specifieke manieren waarop deze digitale workflows uiteenvallen, is essentieel voor het bouwen van systemen die niet alleen krachtig, maar ook betrouwbaar en veilig zijn.

Een recent technisch rapport van een onderzoeksgroep genaamd 321 AI Labs pakt deze leemte aan door hun eigen interne operaties als een casestudy te gebruiken. In plaats van te kijken naar de uiteindelijke output van een enkel project, besteedden de onderzoekers twee weken in september 2026 aan het minutieus documenteren van elke enkele fout die optrad binnen hun eigen door agenten aangestuurde onderzoekslaboratorium. Ze verzamelden 105 afzonderlijke records van zaken die misgingen, variërend van een lokaal softwareproject tot een agent voor sollicitaties. Elk record werd behandeld als een bewijsstuk, gekoppeld aan een specifieke log-entry of bestand, waardoor een afgesloten, machineleesbaar dataset ontstond. Het doel was niet om deze fouten te verbergen, maar om ze te categoriseren met dezelfde strengheid waarmee een bioloog een nieuwe insectensoort zou classificeren. Door deze mislukkingen in specifieke groepen te sorteren op basis van waar ze in de workflow plaatsvonden, waarom ze gebeurden en wie ze ontdekte, creëerde het team de eerste open dataset van dit soort, die een zeldzaam, ongefilterd kijkje biedt in de operationele realiteit van autonoom onderzoek.

De analyse van deze 105 records onthulde een duidelijk patroon in hoe deze geautomatiseerde teams opereren. De fouten waren niet willekeurig verspreid; ze klonterden zwaar in de fasen waarin werk wordt opgebouwd en gecontroleerd. Het meest voorkomende type fout, dat verantwoordelijk was voor bijna de helft van alle incidenten, was een "verificatiekloof". Dit is een specifiek soort fout waarbij een veiligheidscontrole of een test op papier bestond, maar nooit daadwerkelijk werd uitgevoerd of verbonden met het systeem. Het is het digitale equivalent van een brandblusser die aan de muur hangt, maar waarvan niemand ooit controleert of hij wel werkt. De tweede en derde meest voorkomende oorzaken waren omgevingsverschuivingen, waarbij de omstandigheden waarin de software draaide onverwacht veranderden, en specificatiedrift, waarbij de doelen van het project langzaam weg wandelden van het oorspronkelijke plan. Interessant genoeg toonden de gegevens aan dat het vangwerk van de vloot primair werd uitgevoerd door de agenten zelf. In 69 procent van de gevallen (72 van de 105) werd de fout ontdekt door de agent die hem genereerde (gelabeld als "self_caught"). In de resterende 31 procent vond een aparte controlerende agent de fout. Cruciaal was dat het rapport nul instanties vond waarbij een fout door alle lagen van defensie glipte en detectie volledig ontging tijdens deze periode. Bovendien vereiste nul instanties dat de "owner"-laag ingreep om een fout op te vangen, wat aangeeft dat de lagen onder de owner de gedocumenteerde problemen binnen dit venster succesvol hadden afgehandeld.

De onderzoekers telden deze fouten niet simpelweg; ze onderwierpen hun eigen classificatiesysteem aan een strikte audit om te verzekeren dat ze het allemaal eens waren over wat ze zagen. Twee onafhankelijke classificeerders, die blind werkten zonder elkaars keuzes te kennen, labelden een steekproef van de records. Aanvankelijk waren ze het over ongeveer de helft van de beslissingen met betrekking tot waar een fout in het proces plaatsvond, oneens. Door een reeks revisies aan hun definities en regels, verfijnden ze hun begrip totdat hun overeenstemming bijna perfect werd. Dit proces van het auditeren van hun eigen labels is een belangrijk onderdeel van de bijdrage van het rapport, het bewijst dat de categorieën die worden gebruikt om deze fouten te beschrijven, stabiel en betrouwbaar zijn. Het team maakte ook een punt van het rapporteren van wat de gegevens hen niet konden vertellen. Hoewel ze de typen en locaties van fouten bijhielden, bevatte de overgrote meerderheid van de records geen informatie over de kosten van het herstel. Omdat de brondocumenten geen kosten vermelden, weigerden de onderzoekers te gokken of te schatten, waardoor die cijfers leeg bleven. Deze naleving van "negatieve resultaten"—het rapporteren dat iets onbekend is in plaats van een getal te verzinnen—was een bewuste keuze om de integriteit van de dataset te waarborgen.

De waarde van dit werk ligt in de transparantie en de bruikbaarheid voor toekomstige governance. De dataset is nu beschikbaar voor andere onderzoekers om te gebruiken, met een duidelijk formaat dat hen in staat stelt hun eigen foutrecords uit verschillende labs toe te voegen. Dit creëert een groeiende census van procesfouten die het hele vakgebied kunnen helpen begrijpen waar geautomatiseerde systemen kwetsbaar zijn. Het rapport suggereert dat de grootste kans op verbetering niet ligt in het slimmer maken van agenten, maar in het repareren van de "verificatiekloven" waar controles wel bestaan maar niet worden uitgeoefend. Door precies te weten waar de fouten concentreren, kunnen laboperators hun aandacht richten op de specifieke delen van de pijplijn die betere monitoring nodig hebben. De studie concludeert dat hoewel deze door agenten aangestuurde labs in staat zijn hun eigen fouten te corrigeren, het systeem momenteel bij elkaar wordt gehouden door een hoog volume aan zelfcorrectie en controle, en dat de meest voorkomende fout niet een gebrek aan intelligentie is, maar een falen om de tests uit te voeren die al ontworpen waren. Deze verschuiving van gissen over systeembetrouwbaarheid naar het meten ervan met harde gegevens markeert een volwassen wordende stap voor het veld van autonoom onderzoek.