Agentic AI-assisted coding offers a unique opportunity to instill epistemic grounding during software development
Dit paper stelt voor om met GROUNDING.md een gemeenschapsgestuurd, veldspecifiek document te gebruiken dat ononderhandelbare geldigheidsinvarianten en afspraken vastlegt om agentic AI-systemen te dwingen wetenschappelijk correcte software te genereren, zelfs voor niet-deskundigen.
Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer
Stel je voor dat je een superkrachtige robot hebt die alles kan bouwen: van een huis tot een ruimtevaartuig. Je geeft de robot een simpele opdracht: "Bouw een huis." De robot is razendsnel, slim en kan in een seconde een perfect huis neerzetten. Dit is wat AI-assisted coding (AI-gesteunde programmeerkunst) nu doet voor wetenschappers. Ze kunnen een robot (een 'agent') vragen om complexe software te schrijven voor hun onderzoek, en die robot doet het in een handomdraai.
Maar hier zit een groot gevaar.
Het probleem: De robot bouwt een huis op zand
Stel je voor dat je de robot vraagt een huis te bouwen, maar je vertelt hem niet hoe je een veilig huis bouwt. De robot is zo slim dat hij misschien een prachtig huis bouwt dat eruitziet als een kasteel, maar de fundering is van stro. Als de wind waait (of als de software echt gebruikt wordt), stort het in.
In de wetenschap, bijvoorbeeld bij het bestuderen van eiwitten (proteomics), zijn er strenge regels. Als je software een foutje maakt in de berekening, kan dat betekenen dat een wetenschappelijke ontdekking vals is. Tot nu toe moesten mensen deze regels zelf onthouden en doorgeven aan de robot. Maar mensen maken fouten, en robots luisteren soms meer naar wat je vraagt dan naar wat er moet.
De oplossing: De "Regelboekje voor Robots" (GROUNDING.md)
De auteurs van dit paper (Magnus, Jared en Benjamin) hebben een slim idee bedacht: GROUNDING.md.
Denk aan dit bestand als een onverbrekelijke wet of een Code van Hammurabi die je direct in het brein van de robot stopt, voordat hij ook maar één regel code schrijft.
Hier is hoe het werkt, met een paar analogieën:
1. De "Harde Regels" (Hard Constraints)
Stel je voor dat je een kok bent die een gerecht moet maken. Er zijn regels die je nooit mag overtreden, zoals: "Geen rauwe kip eten" of "Geen gif toevoegen".
In de wetenschap zijn dit de Harde Regels. Bijvoorbeeld: "De software mag nooit meer dan 1% fouten toestaan in de resultaten."
Als de robot probeert een manier te vinden om sneller te werken door die regel te negeren, schreeuwt het GROUNDING.md-bestand: "STOP! Dat mag niet! Dat is onwetenschappelijk!" De robot moet dan stoppen en een andere, veilige weg zoeken.
2. De "Gewoontes" (Convention Parameters)
Soms zijn er regels die niet strikt verboden zijn, maar waar de meeste mensen het over eens zijn. Bijvoorbeeld: "We gebruiken altijd rode bakens voor gevaar, niet blauwe."
Dit zijn de Gewoontes. Als de robot blauwe bakens kiest, zegt het bestand: "Hé, dat is niet de gebruikelijke manier, wees voorzichtig." Dit zorgt ervoor dat iedereen op dezelfde manier werkt, zonder dat het een verbod is.
Waarom is dit zo belangrijk?
Stel je voor dat je geen expert bent in eiwitten, maar je wilt wel een tool maken om eiwitten te bestuderen. Vroeger zou je vastlopen of een slechte tool maken omdat je de regels niet kent.
Met GROUNDING.md is het alsof je een onzichtbare expert naast je hebt staan die de robot de hele tijd in de gaten houdt.
- De robot doet het zware werk (het programmeren).
- De expert (het document) zorgt dat het resultaat veilig en betrouwbaar is.
Het is alsof je een veiligheidsgordel in de auto hebt die je niet zelf hoeft te vast te klikken; de auto doet het automatisch, zelfs als jij vergeten bent om het te doen.
Hoe werkt het in de praktijk?
De auteurs hebben een voorbeeld gemaakt voor eiwitonderzoek. Ze hebben getest of de robot (in dit geval een AI genaamd Claude) luistert naar dit document.
- Ze vroegen de robot om iets te doen dat tegen de regels was (bijvoorbeeld: "Bereken de resultaten zonder de fouten te controleren").
- Zonder het document: De robot deed het en maakte een fout.
- Met het document: De robot weigerde. Hij zei: "Ik kan dat niet doen, want mijn grondregels (GROUNDING.md) zeggen dat dat onwetenschappelijk is. Hier is een betere manier om het te doen."
De conclusie: Vertrouwen in de toekomst
We gaan naar een toekomst toe waarin AI steeds meer software voor ons schrijft. Dat is geweldig, maar het kan ook gevaarlijk zijn als we de regels vergeten.
GROUNDING.md is de oplossing. Het zorgt ervoor dat, ongeacht wie de opdracht geeft (een expert of een leek), de software die eruit komt altijd voldoet aan de strengste wetenschappelijke regels. Het is de ankerlijn die verhindert dat de robot wegdrijft in een zee van fouten.
Kortom: Het is een slimme manier om ervoor te zorgen dat onze superkrachtige robot-bouwers niet alleen snel bouwen, maar ook veilig en goed bouwen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.