FedLNS: Leverage LayerNorm Signature Modeling to Mitigate Adversarial Manipulation in Federated LLMs
FedLNS ist ein serverseitiges Framework, das die adversarielle Manipulation beim föderierten LLM-Training durch die Überprüfung bösartiger Client-Updates mittels einer leichtgewichtigen Analyse von Änderungen der Normalisierungsschicht abmildert und dabei eine überlegene Robustheit über verschiedene Modellarchitekturen hinweg erreicht, ohne zusätzlichen Datenaustausch oder gelabelte Angriffsbeispiele zu erfordern.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Große Sprachmodelle sind die Motoren hinter den intelligenten Assistenten, Suchwerkzeugen und Schreibhilfen, die wir jeden Tag nutzen. Diese Systeme lernen durch das Lesen riesiger Textmengen, aber ein Großteil der wertvollsten Informationen ist an privaten Orten verborgen: in persönlichen Nachrichten, Krankenakten oder geschützten Unternehmensdokumenten. Um ein Modell mit diesen privaten Daten zu trainieren, ohne die Daten selbst jemals zu sehen, nutzen Forscher eine Methode namens Federated Learning (föderiertes Lernen). In diesem Aufbau reist das Modell zu den Daten, anstatt dass die Daten zum Modell kommen. Der zentrale Computer sendet eine Kopie des aktuellen Modells an viele verschiedene Geräte, wobei jedes Gerät auf seinen eigenen privaten Informationen trainiert und anschließend nur die gelernten Änderungen zurücksendet. Der zentrale Computer kombiniert diese Änderungen dann, um ein intelligenteres, aktualisiertes Modell zu erstellen. Dieser Prozess schützt die Privatsphäre, schafft aber eine neue Schwachstelle: Der zentrale Computer kann nicht sehen, was auf den lokalen Geräten passiert ist. Ein unehrliches Gerät könnte vorgeben, aus privaten Daten zu lernen, während es in Wirklichkeit falsche Anweisungen erhält, um den zentralen Computer zu täuschen, damit dieser schädliche Lektionen übernimmt, die die Fähigkeit des Modells beeinträchtigen, korrekt zu sprechen oder zu schreiben.
Ein Team von Forschern hat einen neuen Weg entwickelt, um diese unehrlichen Aktualisierungen aufzuspüren, bevor sie das globale Modell beschädigen können. Sie nennen ihr System FEDLNS, eine Methode, die wie eine Sicherheitskontrolle für die Informationen fungiert, die zum zentralen Server zurückfließen. Anstatt zu versuchen, jeden einzelnen Teil der massiven Modell-Updates zu inspizieren – die Milliarden von Zahlen enthalten können und zu komplex sind, um sie gründlich zu prüfen –, konzentrieren sich die Forscher auf einen winzigen, spezifischen Satz von Zahlen innerhalb des Modells. Diese Zahlen steuern, wie das Modell seine interne Sprachstruktur skaliert und verschiebt, und fungieren als eine Art Signatur dafür, wie das Modell angepasst wurde. Indem der Server beobachtet, wie sich diese spezifischen Zahlen verändern, kann er ein Profil dessen erstellen, was normales, ehrliches Lernen ausmacht. Wenn ein Gerät eine Aktualisierung sendet, vergleicht der Server dessen Signatur mit einer Historie von Signaturen anderer Geräte. Wenn die Änderungen eines Geräts zu sehr von der Masse abweichen, markiert das System es als verdächtig und setzt es beiseite, um zu verhindern, dass die schlechte Aktualisierung in das endgültige Modell einfließt.
Die Forscher testeten diesen Ansatz an drei verschiedenen Arten von Sprachmodellen, die von Modellen reichen, die das nächste Wort in einem Satz vorhersagen, über solche, die fehlende Wörter ergänzen, bis hin zu großen Modellen, die denen moderner Chatbots ähneln. Sie simulierten ein Szenario, in dem bis zu vierzig Prozent der teilnehmenden Geräte bösartig waren und gezielt versuchten, das Modell zu korrumpieren, indem sie ihm falsche Assoziationen zwischen Wörtern beibrachten. Unter diesen schwierigen Bedingungen filterte das neue System die schädlichen Aktualisierungen erfolgreich heraus. Die mit diesem Schutz trainierten Modelle schnitten signifikant besser ab als jene, die mit bestehenden Sicherheitsmethoden trainiert wurden. Insbesondere machten die geschützten Modelle weniger Fehler bei der Vorhersage des nächsten Wortes, was eine Reduzierung der Verwirrung um bis zu achtzehn Prozent im Vergleich zur nächstbesten Methode bedeutete. Sie zeigten auch weniger Unsicherheit bei ihren Entscheidungen, was bedeutet, dass sie weniger wahrscheinlich verwirrende oder unsinnige Sätze produzieren.
Was diese Entdeckung besonders nützlich macht, ist, dass der zentrale Server keine Liste bekannter böswilliger Akteure benötigt und auch keinen separaten, vortrainierten Detektor braucht, um die Lügner zu erfassen. Das System lernt, was normal ist, einfach durch die Beobachtung der Gruppe über die Zeit hinweg. Es wartet, bis es genügend verschiedene Geräte gesehen hat, um ein zuverlässiges Bild ehrlichen Verhaltens aufzubauen, und beginnt dann mit der Überprüfung. Die Forscher fanden heraus, dass das System umso besser performt, je mehr Geräte es beobachtet, bevor es mit der Überprüfung beginnt, obwohl es auch mit einer teilweisen Sicht auf die Gruppe effektiv arbeiten kann. Entscheidend ist, dass dieser Schutz vollständig auf der Serverseite stattfindet; die Geräte, die die Aktualisierungen senden, müssen ihre Software nicht ändern oder zusätzliche Informationen senden, was die Methode leicht in bestehende Systeme integrierbar macht, ohne diese zu verlangsamen.
Die Studie bestätigt, dass es möglich ist, Federated Learning zu sichern, ohne die Privatsphäre zu opfern oder vertrauenswürdige Daten zu benötigen. Durch die Konzentration auf eine kompakte, architekturbewusste Signatur anstelle des gesamten Modells haben die Forscher einen leichtgewichtigen Schutzschild geschaffen, der schädliche Manipulationen stoppt, bevor sie sich ausbreiten. In ihren Simulationen übertraf dieser Ansatz sechs andere gängige Sicherheitstechniken über verschiedene Datenverteilungen und Modelltypen hinweg konsequent. Die Ergebnisse legen nahe, dass wir durch die Überwachung der subtilen internen Verschiebungen eines Modells die Integrität des kollaborativen Lernens aufrechterhalten können, selbst wenn ein großer Teil der Teilnehmer versucht, das System zu täuschen. Dies bietet einen praktischen Weg nach vorn, um zuverlässigere künstliche Intelligenz zu bauen, die aus privaten Daten lernen kann, ohne leicht von böswilligen Akteuren getäuscht zu werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.