Matrix Perturbation Theory in the Tangent Space of Isospectral Matrices

Titel: Matrixperturbatietheorie in de raakruimte van isospectrale matrices

1. Probleemstelling

De kern van matrixperturbatietheorie is het begrijpen van hoe de eigenwaarden en eigenvectoren van een matrix $A \in \mathbb{C}^{n \times n}$ veranderen wanneer een perturbatiematrix $E$ wordt toegevoegd ($A \to A+E$).

• Bestaande literatuur: Veel bestaande theorieën (zoals die van Weyl en Bauer-Fike) geven bounds die alleen afhankelijk zijn van de norm van de perturbatie ($\|E\|$). Deze zijn vaak te conservatief omdat ze geen gebruik maken van de structurele eigenschappen van $E$.
• Specifieke context: Er is reeds werk gedaan over gestructureerde perturbaties, zoals bij Hermitische matrices met een blokdiaagonale structuur waar $E$ blokbuiten-diagonaal is (Li & Li, 2005). In dat geval zijn eigenwaarde-perturbaties van de tweede orde ($O(\|E\|^2)$) in plaats van de eerste orde.
• Het nieuwe probleem: Dit paper onderzoekt een bredere gestructureerde setting waarbij de perturbatie $E$ de vorm heeft van een commutator:
  $$E = AB - BA = [A, B]$$
  voor een zekere matrix $B$. Deze vorm komt voort uit de theorie van isospectrale flows (zoals de Lax-vergelijking), waarbij de evolutie van een matrix langs een manifold van matrices met dezelfde eigenwaarden plaatsvindt. De vraag is hoe deze specifieke structuur van $E$ (die ligt in de raakruimte van de isospectrale manifold) de stabiliteit van eigenwaarden en eigenvectoren beïnvloedt.

2. Methodologie

De auteurs gebruiken een combinatie van asymptotische expansies en niet-asymptotische analyse binnen de context van Lie-groepen en manifolds.

• Raakruimte Karakterisatie: De auteurs tonen aan dat een perturbatie $E$ in de raakruimte van de isospectrale manifold ligt dan en slechts dan als $E = AB - BA$. Voor een diagonaliseerbare matrix $A$ met eigenwaarden $\lambda_i$ en linkse/rechte eigenvectoren $y_i, x_i$, betekent dit dat $y_i^* E x_i = 0$ voor alle $i$.
• Reductie tot Diagonaal: Zonder verlies van algemeenheid wordt het probleem gereduceerd tot het geval waarbij $A$ een diagonaalmatrix $D$ is. In dit geval is de voorwaarde dat $E$ een commutator is equivalent aan het hebben van een nul-diagonaal ($\text{diag}(E) = 0$).
• Constructie van $B$: Voor een diagonaalmatrix $D$ met verschillende eigenwaarden kan de matrix $B$ expliciet worden geconstrueerd uit $E$. De niet-diagonale elementen van $B$ worden gegeven door:
  $$B_{ij} = \frac{E_{ij}}{\lambda_i - \lambda_j} \quad (i \neq j)$$
  De diagonale elementen van $B$ zijn vrij (ze corresponderen met de schaalvrijheid van eigenvectoren) en worden vaak op 0 gesteld voor eenvoud.
• Asymptotische Expansie: De auteurs ontwikkelen Taylor-reeksen voor de verstoord eigenwaarden $\lambda_i(t)$ en eigenvectoren $x_i(t)$ rondom $t=0$ (waar $A(t) = A + tE$). Ze gebruiken de eigenschap dat de eigenvectormatrix $X(t)$ goed wordt benaderd door $I - tB$.
• Niet-Asymptotische Bounds: Naast asymptotische reeksen worden strikte ongelijkheden afgeleid die gelden voor eindige perturbaties, afhankelijk van de spectrale kloof $\eta_i = \min_{j \neq i} |\lambda_i - \lambda_j|$ en de norm van $E$.

3. Belangrijkste Bijdragen en Resultaten

A. Eigenwaarde Perturbatie (Tweede Orde)
Een van de belangrijkste bevindingen is dat voor perturbaties in de raakruimte ($E = [A, B]$), de verandering in eigenwaarden van tweede orde is in $\|E\|$, zelfs als de eigenwaarden niet gescheiden zijn in blokken (mits ze simpel zijn).

• De asymptotische expansie voor de $i$-de eigenwaarde is:
  $$\lambda_i(A+E) = \lambda_i(A) + y_i^* B E x_i + O(\|E\|^3)$$
  (Merk op dat de eerste-orde term $y_i^* E x_i$ nul is omdat $E$ in de raakruimte ligt).
• De auteurs bewijzen een niet-asymptotische bound die bevestigt dat $|\lambda_i(A+E) - \lambda_i(A)| \leq C \frac{\|E\|^2}{\eta_i}$. Dit generaliseert het resultaat van Li en Li (2005) van blokbuiten-diagonale perturbaties naar de bredere commutator-structuur.

B. Eigenvector Perturbatie en de Rol van $B$
De analyse toont aan dat de matrix $B$ direct de eerste-orde verandering in de eigenvectoren bepaalt.

• De asymptotische expansie voor de rechter eigenvector is:
  $$x_i(A+E) = x_i - B x_i + O(\|E\|^2)$$
• Dit is een krachtig resultaat: de verandering in de eigenvector wordt direct uitgedrukt in termen van $B$, zonder dat men expliciet naar andere eigenwaarden of eigenvectoren hoeft te kijken (deze informatie is "gecodeerd" in $B$).
• De auteurs leveren hoge-orde bounds voor de residuen van de eigenvectoren, waarbij ze laten zien dat het gebruik van de expliciete structuur van $B$ leidt tot veel strakkere bounds dan de klassieke bounds die alleen $\|E\|$ gebruiken.

C. Veralgemening naar Blokdiaagonale Matrices
Het paper behandelt het geval waar $A$ blokdiaagonaal is ($A = \text{diag}(A_1, A_2)$) en $E$ blokbuiten-diagonaal is.

• Zelfs als $A_1$ meervoudige eigenwaarden heeft, kan de perturbatie van de bijbehorende eigensubruimte worden geanalyseerd.
• De auteurs tonen aan dat de eigensubruimte wordt benaderd door een ruimte die wordt gegenereerd door de matrix $B$. Voor Hermitische matrices worden sterkere bounds afgeleid die de spectrale kloof tussen de blokken gebruiken.

D. Singuliere Waarden (SVD)
De theorie wordt uitgebreid naar de Singular Value Decomposition (SVD).

• De raakruimte van de manifold van matrices met dezelfde singuliere waarden wordt gekarakteriseerd door perturbaties van de vorm $E = S_1 A + A S_2$, waarbij $S_1$ en $S_2$ schuif-Hermitisch zijn.
• Analoge resultaten worden verkregen voor de perturbatie van singuliere waarden en singuliere vectoren.

E. Jordan-blokken
Voor niet-diagonaliseerbare matrices (Jordan-blokken) wordt geanalyseerd hoe de commutator-structuur de gevoeligheid van de eigenwaarden beïnvloedt.

• Voor een nilpotent Jordan-blok $J$ met een perturbatie $E = [J, B]$ (waarbij de som van de elementen op elke subdiagonaal 0 is), wordt aangetoond dat de eigenwaarde-perturbatie orde $O(\varepsilon^{2/n})$ heeft. Dit is significant minder gevoelig dan de generieke orde $O(\varepsilon^{1/n})$ die optreedt bij willekeurige perturbaties.

4. Significantie en Conclusie

Dit paper biedt een fundamentele uitbreiding van de matrixperturbatietheorie door de connectie te leggen tussen gestructureerde perturbaties (commutatoren) en de geometrie van isospectrale manifolds.

• Generalisatie: Het generaliseert bekende resultaten over blokbuiten-diagonale perturbaties naar een veel bredere klasse van perturbaties die voorkomen in dynamische systemen en optimalisatie op manifolds.
• Efficiëntie: Door de matrix $B$ expliciet te gebruiken, kunnen nauwkeurigere en strakkere bounds worden afgeleid voor zowel eigenwaarden als eigenvectoren. Dit is cruciaal voor numerieke algoritmen zoals het QR-algoritme en Riemanniaanse optimalisatie.
• Stabiliteit: De resultaten bevestigen dat perturbaties die de eigenwaarden behouden (tot op hogere orde) inherent stabiel zijn voor eigenwaarden (tweede orde) en dat de matrix $B$ de sleutel is tot het begrijpen van de rotatie van eigenvectoren.
• Toepassingen: De theorie is direct toepasbaar in kwantummechanica (Heisenberg-vergelijkingen), numerieke lineaire algebra (isospectrale stromen) en de analyse van gevoelige systemen zoals Jordan-blokken.

Kortom, het paper demonstreert dat het uitdrukken van perturbaties in termen van de commutator $[A, B]$ niet alleen wiskundig elegant is, maar ook leidt tot superieure analytische en numerieke inzichten in de stabiliteit van spectraal quantities.