PriDyG: Privacy-preserving Dynamic Graph Inference with LLM-GNN Collaboration
PrivDyG ist ein Framework zur datenschutzwahrenden Inferenz dynamischer Graphen, das GNN-basiertes strukturelles Lernen mit LLM-basierter semantischer Argumentation kombiniert, um eine differenzielle Privatsphäre auf Kantebene mit kumulativen Kosten in konstanter Größenordnung zu erreichen und dabei bestehende Baselines in der Nützlichkeit signifikant zu übertreffen, während gleichzeitig die Akkumulation von Datenschutzverlusten gemindert wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als eine riesige, sich ständig verändernde Karte von Verbindungen vor. Einige Linien auf dieser Karte sind Freundschaften, andere sind Finanztransaktionen und einige sind geheime medizinische Konsultationen. Diese Karte wird als „Graph“ bezeichnet, und Computer nutzen sie, um Vorhersagen zu treffen, wie zum Beispiel zu erraten, mit wem Sie vielleicht befreundet sein möchten oder welches Produkt Sie als Nächstes kaufen werden. Aber hier ist der Haken: Wenn man einen Computer bittet, diese Karte zu genau zu untersuchen, könnte er versehentlich diese geheimen Linien offenlegen und private Beziehungen preisgeben. Um dies zu verhindern, nutzen Wissenschaftler einen mathematischen Schutzschild namens „Differential Privacy“. Stellen Sie es sich wie das Hinzufügen von ein wenig statischem Rauschen zu einem Radiosignal vor; es macht das Signal gerade so verrauscht, dass niemand ein spezifisches Geheimnis hören kann, aber immer noch klar genug, um die allgemeine Musik zu verstehen.
Das Problem wird komplizierter, wenn sich die Karte ständig verändert. In der realen Welt entstehen jede Sekunde neue Freundschaften und neue Transaktionen finden statt. Wenn ein Computer versucht, seine Vorhersagen jedes Mal zu aktualisieren, wenn eine neue Linie gezeichnet wird, muss er die gesamte Karte immer und immer wieder untersuchen. Jedes Mal, wenn er hinsieht, wird der Privatsphäre-Schutz etwas schwächer und das Rauschen etwas lauter, bis die Vorhersagen zu unbrauchbarem Müll werden. Diese Arbeit widmet sich der großen Frage: Wie können wir unsere Vorhersagen auf einer sich verändernden Karte aktualisieren, ohne die Privatsphäre aufzubrauchen oder in Rauschen zu ertrinken?
Die Autoren dieser Arbeit, Yuyang Xia, Ruixuan Liu und Li Xiong, schlagen ein kluges neues System namens PriDyG vor. Anstatt zu versuchen, den Computer jedes Mal die gesamte chaotische Karte neu scannen zu lassen, wenn eine einzige neue Linie erscheint, haben sie ein zweiteiliges Team aufgebaut. Ein Teil ist ein „struktureller Detektiv“ (ein Graph Neural Network), der sich die Verbindungen ansieht, und der andere ist ein „semantischer Leser“ (ein Large Language Model), der die Textbeschreibungen der beteiligten Personen oder Artikel liest.
So funktioniert ihr Zaubertrick. Der „strukturelle Detektiv“ ist derjenige, der den Privatsphäre-Schutz benötigt, da er die geheimen Verbindungen betrachtet. Normalerweise muss dieser Detektiv bei jeder Änderung der Karte die gesamte Struktur neu untersuchen, was das Privatsphäre-Budget aufzehrt und so viel Rauschen hinzufügt, dass er verwirrt wird. PriDyG ändert das Spiel durch ein „Puffer“-System. Anstatt die ganze Karte neu zu lesen, betrachtet das System nur die neuen Linien, die seit der letzten Prüfung eingetroffen sind. Es berechnet die Differenz und fügt sie dem alten Ergebnis hinzu, so wie man ein Punktestand aktualisiert, indem man einfach die neuen Punkte addiert, anstatt das ganze Spiel neu auszuzählen. Das bedeutet, dass die Kosten für die Privatsphäre gleich bleiben, egal wie oft sich die Karte aktualisiert.
Dieser „Differenz“-Ansatz ist jedoch nicht perfekt; er übersieht einige sehr komplexe, weit entfernte Verbindungen, die ein vollständiger Neuscann erfassen würde. Genau hier kommt das zweite Teammitglied, der „semantische Leser“, ins Spiel. Dieser Leser betrachtet nur die öffentlichen Textbeschreibungen (wie eine Biografie einer Person oder eine Produktbeschreibung) und ignoriert die geheimen Verbindungen vollständig. Da er die privaten Daten nicht berührt, benötigt er überhaupt kein Privatsphäre-Budget! Er fungt als Sicherheitsnetz. Wenn der strukturelle Detektiv aufgrund des Rauschens zu vage oder unsicher wird, stützt sich das System stärker auf die Meinung des semantischen Lesers.
Die Arbeit zeigt, dass dieses Teamwork unglaublich gut funktioniert. In Tests auf vier verschiedenen Datensätzen (darunter soziale Netzwerke und Produktkataloge) gelang es PriDyG, seine Vorhersagen selbst dann präzise zu halten, wenn sich der Graph tausendfach änderte. Es bewies, dass man durch die Kombination einer privatsphäre-schützenden strukturellen Aktualisierung mit einem privatsphäre-freien Textleser eine hohe Genauigkeit beibehalten kann, ohne dass die Kosten für die Privatsphäre außer Kontrolle geraten. Die Autoren fanden heraus, dass diese Methode weitaus besser ist als ältere Wege, die Privatsphäre zu sparen, welche meist dazu führten, dass der Computer nach einigen Aktualisierungen so verrauscht war, dass er keine nützlichen Vorhersagen mehr treffen konnte. Sie demonstrierten, dass ihr Ansatz die Gesamtkosten für die Privatsphäre konstant hält, unabhängig davon, wie viele Aktualisierungen stattfinden, während er gleichzeitig Ergebnisse liefert, die mit Systemen konkurrenzfähig sind, die gar keinen Privatsphäre-Schutz verwenden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.