Domain Agnostic Text Redaction from Natural Language Rules using Instruction Tuning

In der modernen Welt existieren riesige Mengen an persönlichen und unternehmensbezogenen Informationen in Form von einfachem Text, von Krankenakten und Rechtsverträgen bis hin zu Finanzberichten. Da diese Daten zunehmend digitalisiert werden, entsteht eine kritische Herausforderung: Wie lassen sich diese Dokumente teilen oder analysieren, ohne sensible Geheimnisse preiszugeben? Gesetze wie die Datenschutz-Grundverordnung (DSGVO) und der Health Insurance Portability and Accountability Act (HIPAA) verlangen, dass spezifische Details wie Namen, Adressen oder private medizinische Zustände verborgen werden, bevor ein Dokument eine sichere Umgebung verlässt. Traditionell stützte sich diese Aufgabe der „Sanitisierung“ auf starre Computerprogramme, die nach vorhersehbaren Mustern suchen, wie etwa einer Telefonnummer oder einer Sozialversicherungsnummer. Während diese Werkzeuge für solche Standardformate effektiv sind, versagen sie oft, wenn sensible Informationen in komplexen, unstrukturierten Sätzen erscheinen, wie etwa in einer spezifischen Klausel in einem Vertrag oder einer nuancierten medizinischen Diagnose. Zudem erklären diese automatisierten Werkzeuge selten, warum sie sich dazu entschieden haben, Text zu verbergen, was menschliche Prüfer dazu zwingt, die Logik hinter der Schwärzung zu erraten.

Um dies zu lösen, hat ein Forscherteam bei Mphasis Limited einen neuen Ansatz entwickelt, der die Textredaktion nicht als einfache Suchen-und-Ersetzen-Aufgabe, sondern als ein Problem des logischen Schlussfolgerns behandelt. Anstatt Regeln für jeden möglichen Typ sensibler Daten fest zu programmieren, haben sie ein System geschaffen, bei dem ein Mensch auf Englisch beschreiben kann, was verborgen werden soll. Beispielsweise könnte ein Benutzer einfach angeben: „Verberge jede Erwähnung spezifischer Kundengebühren in diesem Finanzbericht“ oder „Entferne alle Details bezüglich des Standorts des Grundstücks in dieser Rechtsvereinbarung“. Das System verwendet dann ein großes Sprachmodell, um diese Anweisungen in natürlicher Sprache in einen Satz logischer Regeln zu übersetzen. Diese Regeln werden verwendet, um ein kleineres, effizienteres Sprachmodell zu trainieren, das ein Dokument lesen, den Kontext verstehen und genau entscheiden kann, welche Wörter oder Phrasen der Definition des Benutzers als sensibel entsprechen. Entscheidend ist, dass dieses System den Text nicht einfach nur schwärzt; es generiert für jedes einzelne Stück der entfernten Information eine schriftliche Erklärung und führt die spezifische Regel an, die die Aktion ausgelöst hat.

Die Forscher testeten diese Methode an einer Vielzahl von Dokumenttypen, darunter Offenlegungen von Finanzdaten, Kundendetails und medizinische Unterlagen. Sie fanden heraus, dass das System in der Lage war, sensible Inhalte präzise zu identifizieren und zu redigieren, die herkömmliche Werkzeuge übersehen würden – wie etwa komplexe juristische Begriffe oder spezifische Geschäftsstrategien – während nicht-sensible Informationen unberührt blieben. Um sicherzustellen, dass das System wirklich sicher ist, unterzogen sie die redigierten Dokumente einem strengen Test, bei dem eine leistungsstarke künstliche Intelligenz versuchte, die verborgenen Informationen basierend auf dem umgebenden Text zu erraten. Das System erwies sich als äußerst widerstandsfähig; die KI war nicht in der Lage, die redigierten Details zu rekonstruieren, was darauf hindeutete, dass die sensiblen Informationen effektiv entfernt und nicht nur verschleiert wurden. In ihren Tests identifizierte und redigierte das Modell erfolgreich über 95 Prozent der sensiblen Instanzen, nach denen es gesucht wurde.

Eine zentrale Innovation dieser Arbeit ist die Verwendung von synthetischen Daten, um das System zu trainen. Anstatt dem Modell echte, private Dokumente zuzuführen, nutzten die Forscher ein großes Sprachmodell, um tausende von gefälschten Dokumenten zu generieren, die reale Szenarien imitierten. Diese synthetischen Dokumente enthielten sowohl sensible als auch nicht-sensitive Inhalte sowie die korrekten Redaktionen und Erklärungen. Dies ermöglichte es dem kleineren Modell, zu lernen, wie man über Datenschutzregeln schlussfolgert, ohne jemals echte private Daten einer Person während seines Trainings gesehen zu haben. Das Ergebnis ist ein Werkzeug, das sowohl flexibel als auch transparent ist. Es kann sich durch die bloße Aufnahme der Anweisungen eines Menschen an neue Dokumententypen und neue Definitionen von Sensibilität anpassen. Indem es für jede Redaktion eine klare Begründung in natürlicher Sprache liefert, schließt das System die Lücke zwischen automatisierter Effizienz und menschlicher Rechenschaftspflicht und bietet einen Weg zum Schutz der Privatsphäre, der ebenso verständlich wie effektiv ist.