Agentic AI-assisted coding offers a unique opportunity to instill epistemic grounding during software development
Der Artikel schlägt vor, mit dem community-gesteuerten Dokument „GROUNDING.md" epistemische Grundlagen in die agentic AI-gestützte Softwareentwicklung zu integrieren, um durch festgelegte Hard Constraints und Konventionsparameter die wissenschaftliche Validität von Code auch für Nicht-Experten sicherzustellen.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
Stell dir vor, du hast einen unglaublich talentierten, aber etwas naiven Koch namens „KI". Dieser Koch kann in Sekunden ein komplexes Gericht zubereiten, wenn du ihm nur sagst: „Mach mir bitte ein leckeres Essen." Das nennt man im Englischen „Vibe Coding" – du gibst eine grobe Richtung vor, und die KI macht den Rest.
Das Problem ist: Wenn dieser Koch keine Ahnung von Hygienevorschriften oder chemischen Reaktionen hat, könnte er dir zwar ein Gericht servieren, das gut aussieht und schmeckt, aber eigentlich giftig ist oder die Gesundheit ruiniert. In der Wissenschaft (hier am Beispiel der Proteomik, also der Analyse von Eiweißstoffen) wäre das katastrophal: Die Software könnte falsche Ergebnisse liefern, die ganze Forschung wäre wertlos.
Hier kommt die Idee dieses Papiers ins Spiel: GROUNDING.md.
Die Analogie: Der „Kochbuch-Gesetzbuch"-Mix
Stell dir vor, du stellst einen neuen Koch ein. Du gibst ihm nicht nur eine Einkaufsliste (das ist der Plan), sondern auch ein spezielles, unantastbares Regelwerk, das wir GROUNDING.md nennen.
Dieses Dokument ist wie eine Mischung aus einem Kochbuch und einem Gesetzbuch, das nur für diesen einen Berufszweig gilt. Es hat zwei wichtige Arten von Regeln:
Die „Harten Gesetze" (Hard Constraints):
Das sind Dinge, die niemals gebrochen werden dürfen.- Beispiel: „Du darfst niemals rohes Fleisch servieren" oder „Du darfst niemals mehr Salz nehmen als 5 Gramm."
- In der Wissenschaft: „Die Berechnung der Fehlerquote (FDR) muss immer nach dieser strengen Methode erfolgen." Wenn die KI versucht, das zu umgehen, sagt das Dokument: „Nein, das geht nicht. Das ist wissenschaftlich falsch."
Die „Koch-Traditionen" (Convention Parameters):
Das sind Dinge, die die Experten-Community als „guten Standard" vereinbart hat.- Beispiel: „Wir verwenden hier immer Olivenöl statt Butter" oder „Wir garnieren immer mit Petersilie."
- In der Wissenschaft: „Wir nutzen für die Messung immer diese bestimmte Methode." Wenn die KI eine andere Methode wählt, warnt das Dokument: „Hey, das ist zwar möglich, aber wir machen das normalerweise so."
Warum ist das so wichtig?
Früher mussten Wissenschaftler selbst den Code schreiben. Sie wussten genau, welche Regeln sie einhalten müssen. Heute können aber auch Leute ohne tiefes Fachwissen Software erstellen lassen, indem sie einfach mit der KI „chatten".
Das ist wie wenn ein Laie einen Koch anheuert, der noch nie in einer Küche war. Ohne das GROUNDING.md würde der Koch vielleicht Dinge tun, die für ihn logisch erscheinen, aber für die Wissenschaft falsch sind (z. B. zu viele chemische Varianten gleichzeitig testen, was den Computer zum Absturz bringt).
Mit dem GROUNDING.md passiert Folgendes:
- Der Laie bleibt im Loop: Der Nicht-Experte kann trotzdem tolle Software bauen.
- Der Experte bleibt im Hintergrund: Die Regeln der Fachwelt (die „Grounding") werden automatisch in den Code eingebaut, bevor er fertig ist.
- Sicherheit: Die KI wird daran gehindert, „schöne, aber falsche" Lösungen zu erfinden. Sie muss sich an die harten wissenschaftlichen Gesetze halten, egal was der Benutzer gerade sagt.
Wie funktioniert das technisch?
Stell dir vor, die KI liest verschiedene Dokumente, um zu verstehen, was sie tun soll:
- Plan.md: „Was soll ich heute tun?" (Der Auftrag).
- AGENTS.md: „Welche Werkzeuge nutze ich?" (Die Projektregeln).
- SKILL.md: „Wie mache ich einen bestimmten Schritt?" (Die Anleitung).
- GROUNDING.md: „Was ist absolut verboten oder zwingend erforderlich, damit das Ergebnis wissenschaftlich gültig ist?"
Das Besondere an GROUNDING.md ist, dass es die höchste Autorität hat. Wenn der Plan sagt „Tu X" und das GROUNDING-Dokument sagt „X ist verboten, weil es die Wissenschaft zerstört", dann gewinnt das GROUNDING-Dokument. Die KI muss X verweigern und erklären, warum.
Das Fazit
Die Autoren sagen im Grunde: „Die Zukunft gehört der KI, die Software für uns schreibt. Aber damit diese Software nicht zu einem Chaos aus falschen Daten führt, brauchen wir ein digitales Fundament – ein GROUNDING.md."
Es ist wie ein Sicherheitsgurt für die KI. Er verhindert, dass die KI bei der Jagd nach schnellen Ergebnissen die fundamentalen Regeln der Wissenschaft vergisst. So können auch Nicht-Experten hochwertige, vertrauenswürdige wissenschaftliche Werkzeuge bauen, ohne die Regeln der Experten zu kennen.
Kurz gesagt: Das Papier schlägt vor, eine Art „digitales Grundgesetz" für KI-Kochbücher zu erstellen, damit die KI nicht nur schnell, sondern auch richtig kocht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.