Structure for Reading, Prose for Writing: Asymmetric Structural Conditioning in Multi-Agent Document Authoring

In de wereld van geautomatiseerd schrijven bestaat een hardnekkig geloof dat structuur de ultieme sleutel tot helderheid is. Computers worden al lang geleerd om documenten nauwkeuriger te lezen wanneer die documenten zijn georganiseerd met duidelijke tags en labels, in plaats van als een muur van platte tekst. Dit principe is een standaardregel geworden in het vakgebied van kunstmatige intelligentie: als je wilt dat een machine een specifieke feit vindt of een specifieke instructie opvolgt, helpt het de machine bij het navigeren door de gegevens als je een gestructureerde kaart van de informatie geeft. Gevolgelijk zijn veel ingenieurs ervan uitgegaan dat deze structurele voordelen ook gelden wanneer de machine schrijft. De logica leek sluitend: als structuur een computer helpt lezen, zou het een computer ook moeten helpen schrijven.

Een nieuwe studie daagt deze aanname echter uit door te kijken naar een zeer specifieke, risicovolle taak: het schrijven van formele reacties op overheidsaanbestedingen. Dit zijn complexe documenten waarbij een bedrijf honderden vragen van een klant moet beantwoorden, vaak terwijl het zich aan strikte formateringsregels houdt en de exacte bewoordingen van de klant gebruikt. De onderzoekers bouwden een systeem van meerdere kunstmatige intelligentie-agenten om dit werk af te handelen, waarbij de taken van het lezen van de vereisten, het verzamelen van feiten en het opstellen van de antwoorden van elkaar werden gescheiden. Ze testten dit systeem tegen echte door mensen geschreven biedingen die door dezelfde organisatie waren ingediend. Wat zij ontdekten was een verrassende splitsing in hoe de machine leert. Terwijl structuur de machine een betere lezer maakt, maakt het de machine een slechtere schrijver. De studie suggereert dat de beste manier om een AI te sturen niet is om het een rigide sjabloon te laten volgen, maar om het gestructureerde gegevens te laten lezen en vervolgens in natuurlijke taal te laten schrijven, waarbij het eigen interne controles toepast om de kwaliteit te waarborgen.

De onderzoekers begonnen met het inzetten van hun multi-agent systeem om reacties op echte aanbestedingsverzoeken op te stellen. Het systeem was ontworpen om voorzichtig en precies te zijn. Het probeerde niet te gissen naar antwoorden; in plaats daarvan brak het het werk op in kleine stappen. Eerst las het de documenten van de klant en zette deze om in een gestructureerd formaat dat de relaties tussen vragen en instructies behield. Vervolgens verzamelde het informatie uit een bibliotheek van eerdere documenten en bedrijfsgegevens. Ten slotte stelde het de antwoorden op. Om te zien hoe goed het presteerde, vergeleken de onderzoekers de concepten van de machine met een echte bieding die de organisatie met de hand had geschreven voor een andere aanbesteding. In deze vergelijking had de machine geen voorbeeld om van te kopiëren; het moest volledig vertrouwen op zijn eigen redenering en de verstrekte documenten.

Een onafhankelijke beoordelaar, een andere kunstmatige intelligentie die getraind was om de kwaliteit van het schrijven te beoordelen in plaats van alleen hoe sterk het leek op het origineel, beoordeelde de resultaten. De antwoorden van de machine werden in veertig van de vijfentwintig secties als minstens zo goed beoordeeld als de door mensen geschreven varianten. In vier secties werd de machine zelfs beter beoordeeld. De machine miste geen enkele sectie volledig. Het enige grote probleem was een enkele ononderbouwde bewering, waarbij de machine een beveiligingsfunctie afleidde die de tekst niet expliciet vermeldde. Dit resultaat was indrukwekkend, vooral omdat het geen state-of-the-art model was en geen voorafgaande voorbeelden had om van te leren.

Maar de onderzoekers stopten niet bij de oppervlakkige score. Ze gingen dieper in op de vijftien secties waar de machine slechter presteerde dan de menselijke schrijver. Ze wilden weten of de machine faalde omdat het slecht schreef, of simpelweg omdat het niet over de juiste informatie beschikte. Ze ontdekten dat in bijna zeventig procent van deze gevallen de "fout" eigenlijk een gebrek aan data was. De menselijke schrijver kende bepaalde details vanuit ervaring of privégesprekken die het systeem van de machine nooit had gekregen. Wanneer de onderzoekers de score aanpasten om deze ontbrekende feiten te negeren, sprong de prestatie van de machine naar bijna negentig procent. Dit onthulde een cruciaal inzicht: het gat tussen de machine en de mens ging niet zozeer over schrijfvaardigheid, maar over toegang tot informatie. De machine was een competente schrijver die vaak werd gehinderd door onvolledige briefings.

De studie richtte zich vervolgens op een meer gecontroleerd experiment om de rol van structuur te testen. Het team nam de instructies die de machine ontving en presenteerde deze op twee verschillende manieren. In de ene versie waren de instructies geschreven als gewone tekst, zoals een standaard memo. In de andere versie werden de instructies omgezet in een genest, gestructureerd formaat, vergelijkbaar met een digitaal bestand met tags. Ze verwachtten dat de gestructureerde versie de machine zou helpen de taak beter te begrijpen, net zoals dat hielp bij het lezen. In plaats daarvan gebeurde het tegenovergestelde. Wanneer de instructies gestructureerd waren, daalde de kwaliteit van de antwoorden aanzienlijk. De machine produceerde minder correcte antwoorden en herhaalde de instructies vaker in zijn eigen tekst, een teken dat hij in de war was.

De onderzoekers realiseerden zich dat structuur verandert waar de machine op let. Wanneer de instructies gewone tekst waren, richtte de machine zich op de betekenis van het verzoek. Wanneer de instructies gestructureerd waren met tags, richtte de machine zich op de tags zelf. De machine begon de naam van de klant of de titel van het document als het belangrijkste deel van de zin te behandelen, wat ertoe leidde dat het zijn antwoorden begon met ongemakkelijke formuleringen zoals "De klant vereist..." in plaats van de vraag direct te beantwoorden. Dit toonde aan dat hoewel structuur een machine helpt om informatie te lokaliseren, het een machine kan afleiden wanneer deze nieuwe inhoud moet genereren.

Het team onderzocht ook hoe de machine omgaat met regels over wat niet te doen. Ze ontdekten dat simpelweg tegen de machine zeggen "gebruik dit woord niet" het probleem vaak erger maakte. De machine zou zich fixeren op het verboden woord en het toch per ongeluk bevatten, of het op een manier gebruiken die de regels overtrad. Echter, wanneer ze de machine een test lieten uitvoeren op zijn eigen zinnen — door de machine te vragen te controleren of een zin te veel op de oorspronkelijke vraag leek en deze indien nodig te herschrijven — verdwenen de fouten. De machine leerde zichzelf te controleren zonder precies te worden verteld wat hij moest vermijden.

Ten slotte merkten de onderzoekers een subtiele maar gevaarlijke fout op in de manier waarop het systeem met zijn eigen aantekeningen omging. De machine voegde soms een klein teken toe aan een document om een specifieke plek aan te duiden. Dit teken veranderde de lengte van de tekst lichtelijk. Omdat de machine de tekst verwerkte in blokken van vaste grootte, verschoof dit kleine verschil in lengte de grenzen van de blokken. Als gevolg hiervan keek de machine naar een andere set woorden dan bedoeld, wat leidde tot een totaal ander aantal geëxtracteerde vragen. Een verschil van slechts twee tekens in de tekst zorgde ervoor dat het systeem zeventien vragen minder extraheerde. Dit toonde aan dat zelfs minuscule, willekeurige veranderingen in hoe de machine zijn werk annoteert, konden escaleren tot grote fouten, simpelweg omdat het systeem te rigide was in hoe het de informatie in stukken hakte.

Het algemene beeld dat naar voren komt, is er een van zorgvuldige balans. De studie beweert niet dat kunstmatige intelligentie het probleem van het schrijven van formele documenten heeft opgelost, noch suggereert het dat machines klaar zijn om menselijke schrijvers volledig te vervangen. In plaats daarvan biedt het een nauwkeurige kaart van waar de technologie werkt en waar zij worstelt. De machine is een krachtig hulpmiddel voor het lezen en organiseren van informatie, vooral wanneer die informatie gestructureerd is. Maar als het gaat om schrijven, kan het dwingen in een rigide structuur de machine in de war brengen. De meest effectieve aanpak is om de machine gestructureerde gegevens te laten lezen, maar hem in natuurlijke taal te laten schrijven, waarbij hij zelfcontrole gebruikt om op koers te blijven. Dit onderscheid tussen lezen en schrijven is niet alleen een technisch detail; het is een fundamentele regel voor het bouwen van systemen die vertrouwd kunnen worden met belangrijke taken. De onderzoekers ontdekten dat de beste resultaten niet voortkomen uit het laten volgen van een perfect sjabloon door de machine, maar uit het geven van de juiste informatie en het laten toepassen van het eigen oordeel op het definitieve concept.