Domain Agnostic Text Redaction from Natural Language Rules using Instruction Tuning

In de moderne wereld bestaat een enorme hoeveelheid persoonlijke en bedrijfsgegevens in de vorm van eenvoudige tekst, van medische dossiers en juridische contracten tot financiële rapporten. Nu deze gegevens steeds meer gedigitaliseerd worden, ontstaat er een cruciale uitdaging: hoe deel of analyseer je deze documenten zonder gevoelige geheimen bloot te leggen. Wetten zoals de Algemene Verordening Gegevensbescherming en de Health Insurance Portability and Accountability Act eisen dat specifieke details, zoals namen, adressen of privé medische aandoeningen, verborgen worden voordat een document een beveiligde omgeving verlaat. Traditioneel heeft deze taak van "sanitatie" vertrouwd op rigide computerprogramma's die zoeken naar voorspelbare patronen, zoals een telefoonnummer of een burgerservicenummer. Hoewel deze tools effectief zijn voor dergelijke standaardformaten, schieten ze vaak tekort wanneer gevoelige informatie verschijnt in complexe, ongestructureerde zinnen, zoals een specifieke clausule in een contract of een genuanceerde medische diagnose. Bovendien, wanneer deze geautomatiseerde tools wel een beslissing nemen om tekst te verbergen, leggen ze zelden uit waarom, waardoor menselijke auditors moeten gissen naar de achterliggende logica van de redactie.

Om dit op te lossen, heeft een team onderzoekers bij Mphasis Limited een nieuwe aanpak ontwikkeld die tekstredactie niet behandelt als een eenvoudige zoek-en-vervangtaak, maar als een redelijkheidsprobleem. In plaats van regels voor elk mogelijk type gevoelige gegevens hard te coderen, hebben zij een systeem gecreëerd waarbij een mens in natuurlijk Engels kan beschrijven wat er verborgen moet worden. Een gebruiker kan bijvoorbeeld simpelweg stellen: "Verberg elke vermelding van specifieke cliëntkosten in dit financieel rapport," of "Verwijder alle details met betrekking tot de locatie van het perceel in dit juridisch akkoord." Het systeem gebruikt vervolgens een groot taalmodel om deze instructies in natuurlijke taal te vertalen naar een reeks logische regels. Deze regels worden gebruikt om een kleiner, efficiënter taalmodel te trainen dat een document kan lezen, de context kan begrijpen en precies kan beslissen welke woorden of zinnen overeenkomen met de definitie van gevoelig die de gebruiker heeft gegeven. Cruciaal is dat dit systeem niet alleen de tekst zwart maakt; het genereert voor elk stukje informatie dat het verwijdert een geschreven uitleg, waarbij de specifieke regel wordt geciteerd die de actie heeft getriggerd.

De onderzoekers testten deze methode op een verscheidenheid aan documenttypen, waaronder financiële openbaarmakingen, details over cliëntbetrokkenheid en medische dossiers. Ze ontdekten dat het systeem accuraat gevoelige inhoud kon identificeren en redigeren die traditionele tools zouden missen, zoals complexe juridische termen of specifieke bedrijfsstrategieën, terwijl niet-gevoelige informatie ongemoeid bleef. Om te waarborgen dat het systeem werkelijk veilig was, onderwierpen ze de geredigeerde documenten aan een strenge test waarbij een krachtige kunstmatige intelligentie probeerde de verborgen informatie te raden op basis van de omliggende tekst. Het systeem bleek zeer veerkrachtig; de AI was niet in staat de geredigeerde details te reconstrueren, wat erop wijst dat de gevoelige informatie effectief werd verwijderd en niet slechts werd onduidelijk gemaakt. In hun testen identificeerde en redigeerde het model succesvol meer dan 95 procent van de gevoelige instanties die het werd gevraagd te vinden.

Een belangrijke innovatie in dit werk is het gebruik van synthetische gegevens om het systeem te trainen. In plaats van het model te voeden met echte, privé documenten, gebruikten de onderzoekers een groot taalmodel om duizenden nepdocumenten te genereren die realistische scenario's nabootsten. Deze synthetische documenten bevatten zowel gevoelige als niet-gevoelige inhoud, samen met de juiste redacties en verklaringen. Dit stelde het kleinere model in staat om te leren hoe het over privacyregels moet redeneren zonder ooit de echte privégegevens van een persoon te hebben gezien tijdens de training. Het resultaat is een hulpmiddel dat zowel flexibel als transparant is. Het kan zich aanpassen aan nieuwe soorten documenten en nieuwe definities van gevoeligheid on the fly, simpelweg door te luisteren naar de instructies van een mens. Door een heldere, natuurlijke taal rechtvaardiging te bieden voor elke redactie, overbrugt het systeem de kloof tussen geautomatiseerde efficiëntie en menselijke verantwoording, en biedt het een manier om de privacy te beschermen die even begrijpelijk als effectief is.