🤖 machine learning

Proof of Reasoning for Privacy Enhanced Federated Blockchain Learning at the Edge

Dieses Paper führt Proof of Reasoning (PoR) ein, einen neuartigen Konsensmechanismus für datenschutzverbessertes föderiertes Lernen auf der Blockchain, der Masked Autoencoder nutzt, um Daten zu verschleiern und nur Downstream-Klassifikatoren am Edge trainiert, wodurch Netzwerke gegen Angriffe absichert, die Rechenkomplexität reduziert und eine verifizierbare Aggregation in groß angelegten IoT-Umgebungen ermöglicht.

Ursprüngliche Autoren: James Calo, Benny Lo

Veröffentlicht 2026-01-27

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: James Calo, Benny Lo

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine Gruppe von Krankenhäusern vor, die gemeinsam versuchen, einen superintelligenten KI-Arzt zu bauen. Jedes von ihnen besitzt seine eigenen privaten Patientendaten (Fotos von Röntgenaufnahmen, Scans usw.), aber sie können die eigentlichen Fotos nicht teilen, da strenge Datenschutzgesetze gelten. Sie benötigen einen Weg, um voneinander zu lernen, ohne die Rohdaten des jeweils anderen zu sehen.

Dieses Paper schlägt ein neues System namens Proof of Reasoning (PoR) vor, um dies zu lösen. Stellen Sie sich dies als ein sicheres, dezentrales „Klassenzimmer“ vor, in dem Schüler (Krankenhäuser) gemeinsam lernen, ohne zu betrügen oder Geheimnisse preiszugeben.

So funktioniert es, unterteilt in einfache Schritte:

1. Der „blind gefühlte“ Übersetzer (Der Masked Autoencoder)

Normalerweise muss man das ganze Bild zeigen, um eine KI zu trainieren. Aber hier verwendet jedes Krankenhaus ein spezielles Werkzeug namens Masked Autoencoder (MAE).

Die Analogie: Stellen Sie sich vor, Sie haben das Puzzle einer Röntgenaufnahme eines Patienten. Anstatt das gesamte Puzzle an die Gruppe zu senden, nehmen Sie eine Schere und schneiden 90 % der Teile heraus, sodass nur noch ein paar verstreute Fragmente übrig bleiben. Dann verschlüsseln Sie diese wenigen verbleibenden Teile in einem Code.
Das Ergebnis: Das Krankenhaus sendet diesen „verschlüsselten, zu 90 % fehlenden“ Code an die Blockchain. Selbst wenn ein Hacker diesen Code stiehlt, kann er das Puzzle nicht wieder zusammensetzen, um die ursprüngliche Röntgenaufnahme zu sehen. Es ist, als würde man versuchen, die Handlung eines Films zu erraten, indem man nur drei zufällige Einzelbilder sieht.

2. Der „Spezialisten“-Schüler (Der Downstream Classifier)

Sobald die Daten verschlüsselt sind, trainiert das Krankenhaus eine kleine, leichtgewichtige KI (den „Spezialisten“) nur anhand dieser wenigen verschlüsselten Fragmente.

Die Analogie: Denken Sie daran, dass das Krankenhaus wie ein Schüler ist, der lernen muss, eine Krankheit anhand nur eines winzigen, verschwommenen und verschlüsselten Hinweises zu identifizieren. Sie werden sehr gut darin, das Muster der Krankheit aus diesem Hinweis zu erkennen, ohne jemals das vollständige, klare Bild gesehen zu haben.
Der Vorteil: Dies hält die schwere Rechenarbeit auf den lokalen Maschinen der Krankenhäuser (dem „Edge“) und verhindert, dass massive Daten an eine zentrale Cloud gesendet werden.

3. Der „Arbeitsnachweis“ (Die Blockchain-Transaktion)

Nach dem Training sendet das Krankenhaus nicht sein Modell oder seine Daten. Stattdessen sendet es eine winzige Quittung an ein öffentliches Register (die Blockchain).

Die Quittung enthält:
1. Das „Gehirn“ des Spezialisten (die Modellgewichte).
2. Den verschlüsselten Hinweis, den sie verwendet haben.
3. Was der Spezialist über die Krankheit vermutet hat.
4. Die tatsächliche richtige Antwort (die nur das Krankenhaus kennt, aber sie beweisen, dass sie richtig ist).
Die Magie: Da die Blockchain öffentlich ist, kann jeder sehen, dass das Krankenhaus die Antwort basierend auf dem verschlüsselten Hinweis richtig gelöst hat. Aber da der Hinweis verschlüsselt ist, kann niemand die ursprüngliche Röntgenaufnahme durch Rückentwicklung (Reverse-Engineering) rekonstruieren.

4. Die „Benotung durch den Lehrer“ (Konsens und Aggregation)

Hier kommt der Proof of Reasoning ins Spiel. In alten Systemen wurden einfach alle Antworten gemittelt, wobei man darauf vertraute, dass alle ehrlich waren. In diesem neuen System fungiert die Blockchain wie ein strenger Lehrer.

Der Prozess: Das System testet jeden „Spezialisten“ eines Krankenhauses gegen die verschlüsselten Hinweise aller anderen Krankenhäuser.
Das Ranking: Es vergibt Punkte basierend darauf, wie gut jeder Spezialist abschneidet. Wenn ein Krankenhaus versucht zu betrügen (ein schlechtes Modell zu senden) oder wenn seine Daten zu eigenartig sind (böswillig oder qualitativ minderwertig), erhält es eine niedrige Punktzahl.
Die Abschlussnote: Das System kombiniert die Modelle, gewichtet aber die „guten“ Schüler stärker als die „schlechten“. Dies verhindert, dass böswillige Akteure das Endergebnis der Gruppe ruinieren.

Warum ist das besser als das, was wir jetzt haben?

Privatsphäre: Im Gegensatz zu anderen Methoden, die versuchen, Daten mit komplexer Mathematik zu verbergen (was alles verlangsamt), entfernt diese Methode den Großteil der Daten physisch (durch die 90 % Maskierung), bevor sie das Krankenhaus überhaupt verlässt.
Sicherheit: Es verhindert „Model Inversion Attacks“. Selbst wenn jemand versucht, die KI zurückzuentwickeln, um die ursprünglichen Patientenfotos zu sehen, erhält er nur ein verschlüsseltes Chaos.
Effizienz: Es ist schnell. Die schwere Arbeit wird auf lokalen Geräten erledigt, und die Blockchain muss nur kleine, leichtgewichtige Quittungen prüfen.

Das Fazit

Das Paper zeigt, dass dieses System auf Standard-Testdatensätzen (wie Cifar-10) und medizinischen Bilddatensätzen (wie ChestMnist und PneumoniaMnist) gut funktioniert. Es beweist, dass man eine leistungsstarke, kollaborative KI für das Gesundheitswesen aufbauen kann, die die Privatsphäre der Patienten respektiert, sich gegen Betrüger verteidigt und keinen massiven zentralen Server benötigt, um die Arbeit zu erledigen. Es ist ein Weg für Krankenhäuser zu sagen: „Wir kennen die Antwort, und wir können sie beweisen, ohne euch unsere geheimen Notizen zu zeigen.“

Technisches Resümee: Proof of Reasoning für privatsphäre-optimiertes föderiertes Blockchain-Lernen am Edge

Problemstellung
Die Arbeit befasst sich mit den kritischen Herausforderungen beim Einsatz von Federated Learning (FL) in IoT-Umgebungen, insbesondere im Gesundheitswesen. Während Deep Learning erhebliches Potenzial bietet, ist das Training direkt auf Edge-Geräten oft rechnerisch zu aufwendig. Darüber hinaus stehen bestehende FL-Ansätze vor einem Dilemma: Die zentralisierte Aggregation erfordert Vertrauen in einen Server, während dezentrales, Blockchain-basiertes FL zwar Transparenz schafft, dies jedoch die Datensphäre gefährdet. Bestehende Blockchain-Konsensmechanismen (z. B. Proof of Work, Proof of Stake) sind nicht für FL konzipiert; sie versagen bei der Validierung der Qualität von Modellbeiträgen, ohne die Rohdaten oder Modellgewichte durch Inversionsangriffe zu exponieren. Zudem bleibt es schwierig, zwischen bösartigen Modellen und nicht konformen Modellen (aufgrund von Non-IID-Datenverteilungen) zu unterscheiden, und aktuelle Verfahren zur Wahrung der Privatsphäre, wie Homomorphe Verschlüsselung oder Differential Privacy, verursachen oft hohe Rechenkosten oder reduzieren die Modellgenauigkeit.

Methodik: Proof of Reasoning (PoR)
Die Autoren schlagen Proof of Reasoning (PoR) vor, einen neuartigen Konsensmechanismus, der speziell für das Federated Learning auf der Blockchain konzipiert ist. PoR integriert einen dreistufigen Prozess, der darauf ausgelegt ist, die Privatsphäre zu wahren und gleichzeitig eine verifizierbare Aggregation zu ermöglichen:

Privatsphäre-schützende Datenkodierung mittels Masked Autoencoders (MAE):
- Im Gegensatz zu Standard-MAEs, bei denen der Input während der Inferenz unmaskiert ist, nutzt PoR einen trainierten Encoder-Transformer, der einen hohen Prozentsatz der Input-Patches (z. $\text{z. B. } 75\text{--}90\,\%$ ) während der nachgelagerten Klassifikationsphase weiterhin maskiert.
- Das System verwendet einen leichtgewichtigen Encoder (der am Edge bereitgestellt wird) und einen größeren Decoder (der nur während des Pre-Trainings verwendet wird).
- Der Encoder generiert eine Feature-Map aus den unmaskierten Patches. Diese kodierten Daten sind so verschleiert, dass sie resistent gegen menschliche Rekonstruktion und Model-Inversion-Angriffe sind, da der Decoder nicht geteilt wird und die Input-Patches unzureichend sind, um das Originalbild zu rekonstruieren.
Training des Downstream-Classifiers am Edge:
- Ein leichtgewichtiger Downstream-Classifier wird am Edge auf Basis der kodierten Feature-Maps trainiert.
- Teilnehmer können lokal trainieren, verteilte IoT-"Mist"-Netzwerke nutzen oder das Training an externe Institutionen auslagern, unter der Bedingung, dass sie nur die kodierten Daten und Modellgewichte teilen, nicht aber die Rohdaten.
- Um Datenknappheit und Varianz in föderierten Settings zu bewältigen, setzen die Autoren Transfer Learning ein (Pre-Training auf ImageNet oder domänenspezifischen Datensätzen wie ChestMnist) und führen eine Residual-Bottleneck-Schicht zur Classifier-Architektur hinzu.
Blockchain-Integration und Konsens:
- Teilnehmer laden eine Encoder-Decoder-Interface (EDI)-Transaktion in die Blockchain hoch. Diese Transaktion enthält:
  - Die Gewichte des Downstream-Classifiers ( $\omega_i$ ).
  - Einen kodierten Datenpunkt ( $\kappa_i$ ).
  - Den Output des Classifiers auf diesem Datenpunkt ( $\hat{y}_i$ ).
  - Das Ground-Truth-Label ( $y_i$ ).
- Entscheidend ist, dass die Transaktion nicht den Roh-Input ( $x_i$ ) oder die Encoder-Gewichte ( $\lambda_i$ ) enthält, wodurch die Einwegnatur der Kodierung die Inversion verhindert.
- PoR-Validierung: Der Konsensmechanismus verifiziert, dass der Output jedes Netzwerks auf dem kodierten Datenpunkt innerhalb einer spezifizierten Toleranz ( $\epsilon$ ) liegt.
- Ranking und Aggregation: Eine Scoring-Funktion ( $S_\pi$ ) bewertet die Leistung jedes Classifiers über alle hochgeladenen kodierten Datenpunkte hinweg. Eine Reduktionsfunktion ( $R_\pi$ ) aggregiert diese Scores, um die Teilnehmer zu ranken. Das globale Modell wird basierend auf diesen Rankings aktualisiert, was komplexe Aggregationsrichtlinien ermöglicht, die Beiträge nach verifizierter Leistung statt nach unverifizierbaren Stichprobenzahlen gewichten.

Zentrale Beiträge

Neuartiger Konsensmechanismus: Einführung von PoR, das generische Konsensverfahren (PoW/PoS) durch einen Mechanismus ersetzt, der Modellbeiträge basierend auf der tatsächlichen Leistung auf kodierten Daten validiert, wodurch die Auswirkungen bösartiger Modelle gemildert werden, ohne nicht konforme, aber nützliche Modelle auszuschließen.
Robuste Privatsphäre via MAE: Demonstration, dass Masked Autoencoders hohe Maskierungsraten (bis zu $90\,\%$ ) bei nachgelagerten Aufgaben aufrechterhalten können, ohne einen katastrophalen Genauigkeitsverlust zu verursachen, was die Nutzung kodierter Daten zur Validierung ermöglicht und gleichzeitig Model-Inversion verhindert.
Verifizierbare Aggregation: Das Framework ermöglicht durch die Bereitstellung transparenter, verifizierbarer Leistungsmetriken (via EDI-Transaktionen) anstelle der Abhängigkeit von selbst gemeldeten Statistiken anspruchsvollere Aggregationsmethoden.
Edge-optimierte Architektur: Ein Systemdesign, das die rechnerische Komplexität am Edge minimiert, indem es das lokale Training auf den leichtgewichtigen Classifier beschränkt, während der rechenintensive Encoder vorab trainiert und geteilt wird.

Experimentelle Ergebnisse
Die Autoren evaluierten das Framework mit den Datensätzen Cifar-10, Cifar-100, ImageNet, ChestMnist und PneumoniaMnist:

Maskierungseffizienz: Experimente auf Cifar-10 zeigten, dass höhere Maskierungsanteile (z. B. $90\,\%$ ) die Genauigkeit der nachgelagerten Klassifikation verbesserten, obwohl die Rekonstruktionsgenauigkeit sank, was darauf hindeutet, dass der Encoder effektive Repräsentationen für die Klassifikation lernte. Random Masking schnitt besser ab als korrelationsbasierte Maskierung.
Transfer Learning: Das Pre-Training von MAEs auf ImageNet und das Einfrieren der Gewichte (außer dem Encoder-Transformer) verbesserte die föderierte Performance auf Cifar-10 signifikant im Vergleich zum Training von Grund auf.
Medizinische Bildgebung: Beim PneumoniaMnist-Datensatz (Binäre Klassifikation) übertraf der föderierte PoR-Ansatz die nicht-föderierten Baselines um mindestens $2{,}56\,\%$ . Das System erreichte eine hohe Präzision (bis zu $98{,}97\,\%$ ) und Sensitivität (bis zu $97{,}95\,\%$ ) mit geringen Epochenzahlen zwischen den Aggregationsrunden.
Skalierbarkeit: Das System demonstrierte eine geringe Latenz und ein handhabbares Speicherwachstum, geeignet für groß angelegte IoT-Netzwerke.

Bedeutung und Behauptungen
Das Paper behauptet, dass PoR eine ausgewogene Lösung für privatsphäre-sensibles, dezentrales KI-Lernen im Gesundheitswesen bietet. Durch die Entkopplung der Validierung der Modellqualität von der Preisgabe von Rohdaten ermöglicht PoR eine sichere Zusammenarbeit zwischen Institutionen mit unterschiedlichen Zielen (z. B. private vs. öffentliche Krankenhäuser). Die Autoren führen aus, dass dieser Ansatz:

Die Robustheit föderierter Netzwerke gegenüber bösartigen Angriffen und Poisoning erhöht.
Die rechnerische Komplexität am Edge reduziert, indem er das lokale Training auf leichte Classifier beschränkt.
Eine verifizierbare Alternative zum Standard-Federated Averaging (FedAvg) bietet, welches auf unverifizierbaren Metadaten beruht.
Sich an evolvierende Regularien und Netzwerkbedingungen anpasst und kontinuierliches Lernen in dynamischen IoT-Umgebungen unterstützt.

Die Autoren kommen zu dem Schluss, dass, obwohl die vollständige Föderierung des Encoders in Multi-Channel-Szenarien Privatsphäre-Trade-offs mit sich bringt, die Aggregation von Encoder-Gewichten vor dem Federated Learning einen praktikablen Kompromiss darstellt. Sie schlagen vor, zukünftige Arbeiten in der Single-Channel-Bildverarbeitung und dem domänenspezifischen Pre-Training durchzuführen, um die Privatsphäre und Performance weiter zu optimieren.