Share No More Than the Request Requires: Federated Disclosure for Perspective-Aware AI
Dieses Paper stellt Provenance Preserving Chronicles (PPC) vor, ein föderiertes Protokoll, das es Nutzern ermöglicht, ihre Datensouveränität zu wahren, indem es deren persönliche Informationen in temporale Wissensgraphen transformiert und ein Prinzip der „erforderlichen Mindestoffenlegung“ durchsetzt, um nur streng autorisierten, mit Provenienz verknüpften Kontext mit Dritten zu teilen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich Ihr digitales Leben als ein riesiges, stetig wachsendes Sammelalbum vor. Jedes Foto, das Sie machen, jede Nachricht, die Sie senden, und jeder Arztbesuch, den Sie haben, wird in dieses Buch eingeklebt. Im Moment verhalten sich die meisten großen Technologieunternehmen der Welt so, als gehöre ihnen das Sammelalbum. Sie bewahren es in einem riesigen, verschlossenen Tresor auf, und wenn Sie einem Freund ein Bild Ihrer Katze zeigen wollen, müssen Sie das ganze Buch übergeben – oder zumindest zulassen, dass er einen Blick in das gesamte Buch wirft. Das ist riskant, denn wenn der Tresor gehackt wird oder das Unternehmen beschließt, Ihre Geheimnisse zu verkaufen, ist Ihr gesamtes Leben offengelegt.
Um dies zu beheben, bauen Wissenschaftler eine neue Art von digitaler Identität, bei der Sie das Sammelalbum halten. In dieser neuen Welt ist Ihre Datensammlung kein riesiger Klumpen; sie wird in winzige, organisierte Schnappschüsse namens „Situation Graphs“ zerlegt. Betrachten Sie diese als einzelne Seiten in Ihrem Sammelalbum, die jeweils einen bestimmten Moment in der Zeit mit Etiketten wie „im Park“, „Pizza essend“ oder „müde fühlend“ erfassen. Wenn man all diese Seiten in der richtigen Reihenfolge übereinanderstapelt, bilden sie eine „Chronicle“ – eine vollständige, zeitreisende Geschichte darüber, wer Sie sind. Die große Frage, die diese Arbeit behandelt, laet sich: Wie lässt man jemanden eine spezifische Frage über Ihre Geschichte stellen (wie zum Beispiel „Welche Medikamente nehmen Sie gerade?“), ohne versehentlich das gesamte Sammelalbum inklusive Ihrer Tagebucheinträge über Ihren Schwarm oder Ihrer Bankauszüge zu übergeben?
Die Autoren dieser Arbeit, Sourena Khanzadeh und sein Team, schlagen eine clevere Lösung namens Provenance Preserving Chronicles (PPC) vor. Sie schlagen ein System vor, das wie ein superintelligenter, strenger Bibliothekar arbeitet, der Ihnen nur die exakte Seite gibt, die Sie benötigen, und nichts weiter.
So funktioniert ihr „Bibliothekar“, unter Verwendung einer spielerischen Analogie:
Stellen Sie sich vor, Sie sind ein Arzt, der herausfinden möchte, ob ein neues Herzmedikament eines Patienten mit einem alten Allergiemedikament kollidieren könnte. Sie müssen nicht die gesamte Lebensgeschichte des Patienten kennen. Sie müssen nicht wissen, was er vor drei Jahren zum Frühstück hatte oder dass er einmal ein trauriges Gedicht über ein gebrochenes Herz geschrieben hat. Sie benötigen nur die spezifischen Seiten über seine aktuellen Medikamente und Allergien.
Auf dem alten Weg müsste der Patient Ihnen vielleicht eine PDF seines gesamten Krankengeschichtsverlaufs per E-Mail senden. Im PPC-System bleibt die „Chronicle“ des Patienten sicher auf seinem eigenen Gerät (seinem „souveränen“ Zuhause) verschlossen. Wenn Sie, der Agent des Arztes, eine Anfrage senden, fragen Sie nicht nach „allem“. Sie fragen nach einem spezifischen „Evidence Subgraph“.
Stellen Sie sich die Chronicle wie einen riesigen, verhedderten Wollknäuel vor, bei dem jeder Knoten ein Stück Daten ist. Das PPC-System ist ein Roboter, der in der Lage ist, augenblicklich nur den roten Faden (die Medikamente) und den blauen Faden (die Allergien) zu entwirren, die mit Ihrer Frage verbunden sind. Es schneidet den grünen Faden (die Poesie) und den gelben Faden (die Bankunterlagen) weg, noch bevor er das Haus des Patienten verlässt.
Die Arbeit führt einen zweistufigen Tanz ein, um sicherzustellen, dass dies sicher geschieht:
- Zuerst der Text: Der Bibliothekar (das System) sendet Ihnen eine Zusammenfassung in reinem Text, wie zum Beispiel: „Der Patient nimmt Warfarin und ist allergisch gegen Penicillin.“ Entscheidend ist, dass dieser Text mit einem „Beleg“ oder einem Verweis versehen ist, der besagt: „Ich habe dies von der Seite des Besuchs im Juni 2024 erhalten.“
- Danach das Artefakt: Wenn Sie wirklich das eigentliche Foto der Medikamentenflasche oder die Audioaufnahme der Notiz des Arztes benötigen, müssen Sie dies explizit anfordern. Der Patient muss dann ein zweites Mal ausdrücklich ein „Ja, ich genehmige diese spezifische Datei“ geben, bevor diese freigegeben wird. Dies verhindert, dass das System versehentlich einen ganzen Ordner voller Dateien ausspuckt, nur weil Sie eine einzige Frage gestellt haben.
Das Forschungsteam hat diese Idee in zwei sehr unterschiedlichen Welten getestet: der Medizin und dem Recht.
- Im medizinischen Szenario zeigten sie, wie ein Kardiologe die Liste der Herzmedikamente eines Patienten erhalten kann, ohne versehentlich dessen psychiatrische Therapienotizen zu sehen. Das System filterte die „psychiatrischen“ Seiten erfolgreich heraus, da die Anfrage des Arztes nur etwas über „Wechselwirkungen von Medikamenten“ betraf und nicht über die psychische Gesundheit.
- Im rechtlichen Szenario zeigten sie, wie ein Anwalt nach E-Mails zu einem bestimmten Vertrag fragen kann, ohne die vertraulichen Notizen zwischen dem Unternehmen und seinen eigenen Anwälten zu erhalten. Das System wusste, wie es die „privilegierten“ Seiten verbergen musste, selbst wenn sie an denselben E-Mail-Verlauf angehängt waren.
Die Arbeit ist jedoch vorsichtig darauf bedacht, nicht zu versprechen, dass dies ein Zauberstab ist, der alle Probleme löst. Die Autoren geben zu, dass das System zwar großartig darin ist, den kleinsten Satz an Fakten zu finden, der nötig ist, um eine Frage zu beantworten, aber manchmal ist „kleinster“ nicht immer gleichbedeutend mit „hilfreichster“. Wenn ein Arzt beispielsweise nach einem Medikament fragt, könnte das System den Grund, warum das Medikament verschrieben wurde (wie etwa ein Herzrhythmusproblem), entfernen, weil die Frage nicht explizit nach der Diagnose fragte. Die Arbeit legt nahe, dass das System zwar mathematisch effizient darin ist, Geheimnisse zu verbergen, aber manchmal zu viel Kontext verbergen könnte, den ein menschlicher Experte tatsächlich benötigt, um eine gute Entscheidung zu treffen.
Das Team warnt zudem, dass dies keine „Blockchain“-Lösung im traditionellen Sinne ist. Sie argumentieren, dass das Ablegen dieser Daten auf einem riesigen, geteilten öffentlichen Ledger (wie Bitcoin) der falsche Ansatz ist, da dies jeden dazu zwingt, die Daten aller anderen zu kopieren. Stattdessen schlagen sie einen „föderierten“ Ansatz vor, bei dem die Daten auf dem eigenen Gerät bleiben und nur die winzigen, genehmigten Ausschnitte durch das Netzwerk reisen.
Kurz gesagt, diese Arbeit schlägt einen neuen Weg vor, wie wir unser digitales Leben teilen können: Teile nicht mehr, als die Anfrage erfordert. Es ist wie ein Gespräch, bei dem man nur auf die spezifische Frage antwortet, anstatt seine ganze Lebensgeschichte zu erzählen, nur weil jemand fragt: „Wie geht es dir?“ Die Autoren haben einen Bauplan für dieses System erstellt und gezeigt, dass es in der Theorie und in simulierten Szenarien funktioniert, merken aber an, dass die wahre Herausforderung darin besteht, genau zu definieren, was „genug“ Information ist, damit wir sicher bleiben, ohne den Kontext zu verlieren, den wir brauchen, um hilfreich zu sein.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.