Influence of Parallelism in Vector-Multiplication Units on Correlation Power Analysis

Problemstellung
Der zunehmende Einsatz von neuronalen Netzen (NNs) auf ressourcenbeschränkten Edge-Geräten führt zu erheblichen Sicherheitsrisiken hinsichtlich der Vertraulichkeit der Modelle. Hardware-Beschleuniger werden häufig eingesetzt, um die Inferenzleistung durch Parallelverarbeitung zu steigener, sie verändern jedoch auch die physikalischen Leckagecharakteristika, die bei Seitenkanalanalysen (Side-Channel Analysis, SCA) ausgenutzt werden. Speziell die Korrelations-Leistungsanalyse (Correlation Power Analysis, CPA), die traditionell auf sequentielle oder nicht hochgradig parallelisierte Implementierungen abzielt, steht vor neuen Herausforderungen, wenn sie auf Vektor-Multiplikationseinheiten angewendet wird, in denen mehrere Neuronen gleichzeitig dieselbe Eingabe verarbeiten. Bestehende Forschungsergebnisse deuten darauf hin, dass der globale Stromverbrauch oder elektromagnetische (EM) Emissionen für die Extraktion von Parametern in hochparallelen Beschleunigern unzureichend sein können, doch eine formale Analyse darüber, wie der Grad der Parallelität den Erfolgsgrad einer CPA quantitativ verschlechtert, fehlte bislang. Das zentrale Problem, das hier adressiert wird, ist die Bestimmung des Schwellenwerts der Parallelität, ab dem eine globale leistungsbasierte CPA zur Extraktion von Neuronen-Gewichten in vollvernetzten Schichten (fully-connected layers) unpraktikabel wird.

Methodik
Die Autoren verwenden einen kombinierten theoretischen und experimentellen Ansatz, um den Einfluss der Parallelität auf den CPA-Erfolg zu modellieren:

1. Theoretische Modellierung:

   • Leistungsmodell: Die Studie modelliert den gesamten Stromverbrauch ($P_{total}$) einer Vektor-Multiplikationseinheit, die aus einem Array von Processing Elements (PEs) besteht. Es wird ein idealisiertes Szenario angenommen, in dem konstante und Rauschkomponenten minimiert werden, wobei der Fokus auf den datenabhängigen ($P_{data}$) und operationsabhängigen ($P_{op}$) Komponenten liegt.
   • Statistische Abhängigkeit: Im Gegensatz zu kryptografischen Algorithmen, bei denen parallele Komponenten oft unabhängige Daten verarbeiten, stellt die Studie fest, dass bei der NN-Vektormultiplikation alle PEs gleichzeitig denselben Eingabewert verarbeiten, jedoch mit unterschiedlichen Gewichten. Dies erzeugt eine statistische Abhängigkeit zwischen dem Stromverbrauch verschiedener PEs.
   • Korrelationsanalyse: Die Autoren leiten Gleichungen ab, die den Korrelationskoeffizienten ($\rho$) zwischen einer korrekten Gewichtshypothese und dem gesamten Stromverbrauch als Funktion der Anzahl der parallelen PEs ($n_{PE}$) beschreiben. Sie nutzen Hamming-Weight (HW) und Hamming-Distance (HD) Modelle, um die Leistungsprofile für Zwischenergebnisse zu simulieren.
   • Signal-Rausch-Verhältnis (SNR): Die Studie analysiert die Beziehung zwischen SNR und dem Erfolg der CPA und etabliert eine Grenze, an der die Korrelation der korrekten Hypothese unter die der inkorrekten Hypothesen fällt.

2. Experimentelle Validierung:

   • Hardware-Implementierung: Eine Vektor-Multiplikationseinheit wurde auf einem Xilinx Artix-7 FPGA (NewAE Technology CW305 Board) implementiert. Das Design ermöglicht die dynamische Anpassung der Anzahl der parallelen PEs (von 1 bis zu 64).
   • Parameter: Das System verwendet 8-Bit quantisierte Gewichte und Eingaben sowie 32-Bit-Register für Zwischenergebnisse. Der FPGA arbeitet mit 1 MHz, um eine Überlappung des Stromverbrauchs über die Taktzyklen hinweg zu verhindern.
   • Messung: Der Stromverbrauch wurde über einen Shunt-Widerstand gemessen, verstärkt und mit 625 MHz abgetastet. Der Angriff zielt auf die Extraktion der Gewichte ab, die von einem spezifischen PE verarbeitet werden, während andere PEs parallel mit unterschiedlichen Gewichten arbeiten.
   • Angriffsstrategie: Die Autoren testen CPA an verschiedenen Zeitpunkten ($\tau$) innerhalb der MAC-Operation (Multiply-and-Accumulate) Sequenz, wobei sie gezielt die erste Multiplikation ($\tau=0$) und nachfolgende Registerwechsel ($\tau=1, \tau=7$) untersuchen.

Kernbeiträge

1. Theoretische Verhaltensbeschreibung: Die Arbeit liefert eine theoretische Beschreibung, wie die parallele Datenverarbeitung in Vektor-Multiplikationseinheiten den Stromverbrauch beeinflusst, wobei insbesondere die durch gemeinsame Eingaben eingeführte statistische Abhängigkeit hervorgehoben wird.
2. Quantifizierung des Parallelitätseinflusses: Die Autoren leiten Gleichungen ab (speziell Gl. 7 und deren Varianten), die die exponentielle Abnahme des Korrelationskoeffizienten für die korrekte Gewichtshypothese mit zunehmender Anzahl der parallelen PEs beschreiben.
3. Machbarkeitsgrenze: Die Studie etabliert eine praktische Grenze für die CPA-Machbarkeit. Sie identifiziert, dass die globale leistungsbasierte CPA für die getestete Implementierung unpraktikabel wird, wenn 8 oder mehr PEs parallel arbeiten, während theoretische Modelle unter idealisierten Bedingungen einen etwas höheren Schwellenwert (etwa 15 PEs) nahelegen.
4. Validierung der Gleichungen: Die abgeleiteten Gleichungen zur Korrelationsabnahme werden gegen praktische FPGA-Messungen validiert und zeigen eine enge Annäherung zwischen simulierten und gemessenen Daten.

Ergebnisse

• Korrelationsabfall: Mit zunehmender Anzahl der parallelen PEs sinkt der Korrelationskoeffizient für die korrekte Hypothese exponentiell. Die Studie liefert spezifische Interpolationsfunktionen für verschiedene Zeitpunkte ($\tau=0, 3, 7$).
• Machbarkeitsschwellenwert:
  • Theoretisch: Die Korrelation der korrekten Hypothese bleibt bis zu etwa 15 parallelen PEs von inkorrekten Hypothesen unterscheidbar. Darüber hinaus fällt das SNR unter den notwendigen Schwellenwert (durchschnittlich ca. 0,045, im Worst Case 0,1).
  • Experimentell: Praktische Messungen auf dem FPGA zeigen, dass der Angriff bereits bei nur 8 parallelen PEs unpraktikabel wird. An diesem Punkt sinkt das SNR unter ~0,02, und inkorrekte Hypothesen beginnen, höhere Korrelationskoeffizienten als die korrekte aufzuweisen.
• Zeitpunkt-Sensitivität: Das Anvisieren späterer MAC-Operationen (z. B. $\tau=7$) bietet eine etwas höhere Robustheit als das Anvisieren der ersten Multiplikation ($\tau=0$), da die Zwischenergebnisse diskreter werden. Selbst mit späteren Zeitpunkten scheitert der Angriff in der experimentellen Anordnung jedoch jenseits von 8 parallelen PEs.
• Eingangsverteilung: Die Studie bestätigt, dass die statistische Verteilung der Gewichte (gleichverteilt vs. normalverteilt) den Erfolg der CPA nicht signifikant beeinflusst, da der Angriff auf der statistischen Abhängigkeit der Eingabe basiert und nicht auf den spezifischen Gewichtswerten.

Bedeutung und Ansprüche
Die Arbeit beansprucht, die erste detaillierte Analyse darüber zu liefern, wie parallele Vektormultiplikationen in KI-Beschleunigern den Erfolg korrelationsbasierter Seitenkanalangriffe beeinflussen. Ihre primäre Bedeutung liegt in der Definition der Grenzen der globalen Leistungsanalyse für die NN-Extraktion:

• Sie zeigt auf, dass die globale Leistungsaufnahme unzureichend ist, um Gewichte aus Vektor-Multiplikationseinheiten mit hoher Parallelität (speziell $\ge 8$ PEs in der getesteten Konfiguration) zu extrahieren.
• Sie stellt fest, dass für solche hochparallelen Beschleuniger lokalisierte EM-Messungen erforderlich sind, um die Leckage einzelner PEs zu isolieren (speziell Sonden, die eine Auflösung von nicht mehr als 4–15 PEs ermöglichen können, abhängig von der spezifischen SNR und Parallelität).
• Die abgeleiteten Gleichungen ermöglichen es Designern und Angreifern, die Machbarkeit von CPA-Angriffen basierend auf dem Grad der Parallelität in einer spezifischen Hardwareimplementierung abzuschätzen, ohne für jede Konfiguration erschöpfende physische Messungen durchführen zu müssen.

Die Autoren bleiben bescheiden und weisen darauf hin, dass ihre Ergebnisse auf spezifischen quantisierten Implementierungen und idealisierten Rauschannahmen basieren, die beobachteten Trends jedoch für ähnliche Vektor-Multiplikations-Architekturen gelten dürften. Sie stellen explizit klar, dass die Architektur selbst als extrahierbar angenommen wird und ihr Beitrag sich strikt auf die Schwierigkeit der Parameter- (Gewichts-) Extraktion mittels Leistungsanalyse in parallelen Umgebungen konzentriert.