BioSecBench-Surveillance: A Verifiable Benchmark for AI Agents in Pathogen Genomic Surveillance
Het artikel introduceert BioSecBench-Surveillance, een verifieerbare benchmark die aantoont dat zelfs de meest geavanceerde AI-agenten momenteel moeite hebben om betrouwbaar correcte genomische analysepipelines voor pathogen surveillances af te leiden, waarbij ze slechts rond de 50% nauwkeurigheid behalen over diverse taken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je de wereld van de publieke gezondheidszorg voor als een enorme, risicovolle detectie-instantie. Hun taak is om onzichtbare schurken op te sporen—virussen, bacteriën en andere pathogenen—voordat ze een wereldwijd feestje kunnen kraken, zoals een pandemie. Om dit te doen, gebruiken wetenschappers een superkrachtige microscoop genaamd "genomische surveillance". In plaats van alleen naar een kiem onder een lens te kijken, lezen ze de volledits instructiehandleiding (het DNA of RNA) om precies te begrijpen wat het is, waar het vandaan komt en hoe gevaarlijk het kan zijn.
Lama een tijdlang was het moeilijke deel simpelweg het verkrijgen van genoeg van deze instructiehandleidingen. Maar nu zijn machines zo goed geworden in het lezen ervan dat we verdrinken in data. De echte flessenhals is verschoven: het gaat niet langer om het vinden van de aanwijzingen; het gaat om het oplossen van het mysterie. Dit is waar AI-agenten in beeld komen. Denk aan deze agenten als superintelligente, onvermoeibare junior-detectives. Ze kunnen miljoenen pagina's in seconden lezen. Maar hier komt de grote vraag: kunnen deze AI-detectives de zaak daadwerkelijk oplossen, of raken ze gewoon verdwaald in de bibliotheek? Kunnen ze naar een rommelige stapel genetische aanwijzingen kijken en besluiten: "Oké, ik moet deze specifieke tool gebruiken met deze specifieke instellingen om het antwoord te vinden", net zoals een menselijke expert dat zou doen?
Dit artikel, BioSecBench-Surveillance, is als een gigantisch, rigoureus eindexamen voor deze AI-detectives. De onderzoekers hebben een "verifieerbare benchmark" gecreëerd—een gestandaardiseerde test met 100 verschillende scenario's—waarbij een AI-agent wordt voorzien van ruwe genetische data en een specifieke surveillance-context (zoals "dit is afvalwater uit een stad" of "dit is een monster uit een ziekenhuis"). De AI moet vanaf nul de juiste analyse-pipeline uitzoeken: welke databases gecontroleerd moeten worden, welke filters toegepast moeten worden en welke drempelwaarden ingesteld moeten worden, zonder dat het antwoord wordt gegeven.
De resultaten van dit examen waren een beetje een realiteitscheck. Van de 16 verschillende combinaties van AI-modellen en softwaretools die werden getest, hadden de allerbeste slechts ongeveer 50,2% van de vragen goed beantwoord. Dat betekent dat zelfs de slimste AI-agenten de helft van de tijd faalden. De beste presteerders waren een model genaamd Opus 4.8 gekoppeld aan een tool genaamd PI, en een andere genaamd GPT-5.5 met Codex, die beiden een score van 50,2% behaalden. Deze werden op de voet gevolgd door Opus 4.7 met 49,6% en Sonnet 4.6 met 48,6%. De zwakste configuraties, zoals sommige versies van Grok, slaagden er slechts in om ongeveer 14% tot 16% van de taken correct uit te voeren.
Het artikel stelde vast dat de AI-agenten meestal niet faalden omdat ze niet wisten welke tools ze moesten gebruiken. Sterker nog, ze kozen bijna altijd de juiste "detective-tools" (zoals de juiste software voor het lezen van DNA). Hun fouten kwamen voor in de kleine lettertjes: ze kozen de verkeerde referentieboeken, stelden de verkeerde gevoeligheidsdrempels in of zaten fout in de wiskunde bij het normaliseren van de data. Het is als een detective die weet dat hij een vingerafdrukscanner nodig heeft, maar de gevoeligheid zo hoog instelt dat hij de afdruk mist, of zo laag dat hij een veeg aanziet voor een match.
De moeilijkheidsgraad van de test varieerde enorm afhankelijk van het type zaak. De makkelijkste taken voor de AI waren bronopsporing (uitzoeken waar een monster vandaan komt) en taxonomische classificatie (het benoemen van het organisme), waarbij ze ongeveer 50% en 46% respectievelijk goed hadden. Echter, de AI worstelde enorm met anomaliedetectie (het opsporen van vreemde, onverwachte signalen), waarbij ze slechts 20% goed scoorden. Ze hadden ook moeite met karakterisering van genetische manipulatie (detecteren of een virus kunstmatig is aangepast), wat slechts 35% scoorde. Interessant genoeg maakte het type monster (zoals afvalwater versus klinische monsters) minder uit dan de technologie die werd gebruikt om het DNA te lezen. Data van "long-read sequencing" was veel moeilijker voor de AI om te verwerken (26% slagingspercentage) vergeleken met "short-read data" (41%).
De onderzoekers merkten ook op dat sommige AI-modellen te verlegen waren. Ongeveer 27% tot 31% van de tijd weigerden bepaalde modellen de vraag te beantwoorden door te zeggen dat ze het niet konden, terwijl andere modellen bijna nooit weigerden. Dit "weigering-percentage" varieerde sterk afhankelijk van welke software-"harness" het model gebruikte.
Uiteindelijk concludeert het artikel dat hoewel AI-agenten beter worden, ze nog niet betrouwbaar genoeg zijn om als enige besluitvormers in de pathogene surveillance te worden vertrouwd. Ze kunnen de analyse wel uitvoeren, maar ze maken vaak de verkeerde oordeelsvorming over hoe deze uit te voeren. De auteurs suggereren dat totdat AI in staat is om deze genuanceerde keuzes betrouwbaar te maken—zoals precies weten welke referentie men moet vertrouwen of welke drempelwaarde men moet instellen—we de AI niet volledig kunnen vertrouwen om de volgende uitbraak te stoppen. Voor nu is de menselijke expert nog steeds degene die het laatste woord heeft over de zaak.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.