Long Range Frequency Tuning for QML

Dit paper toont aan dat gradient-based optimalisatie van trainbare frequenties in quantum machine learning beperkt is in bereik, en stelt daarom een effectievere grid-gebaseerde initialisatie met ternaire codering voor die de trainbaarheid en prestaties aanzienlijk verbetert.

De kern

De Muziek van de Quantumcomputer: Waarom "Stemmen" Moeilijk is

Stel je voor dat een Quantumcomputer een gigantische, supergeavanceerde orkestzaal is. De taak van deze zaal is om een heel specifiek geluid (een complex patroon of data) na te bootsen. Om dit te doen, gebruiken de quantumwetenschappers een techniek genaamd QML (Quantum Machine Learning).

In deze zaal zijn er muzikanten (de qubits) die noten spelen. De "frequentie" van een noot bepaalt hoe hoog of laag het geluid is. Om een complex liedje te spelen, heb je een mix van verschillende frequenties nodig.

Het Probleem: De "Stemknop" die niet ver genoeg draait

In de theorie hebben onderzoekers een slimme manier bedacht om deze frequenties te leren. In plaats van vast te houden aan vooraf bepaalde noten, laten ze de computer de "stemknop" van de muzikanten zelf instellen tijdens het oefenen. Dit noemen ze Trainable-Frequency (leerbare frequentie).

• De theorie: Het idee is prachtig. Als je een liedje nodig hebt met een heel hoge noot (bijvoorbeeld frequentie 100), draai je gewoon de stemknop van 1 naar 100. Je hebt dan maar één muzikant nodig. Dit is extreem efficiënt.
• De realiteit: De auteurs van dit paper ontdekten dat dit in de praktijk niet werkt zoals gehoopt.

De Analogie van de Verre Berg:
Stel je voor dat je een muzikant vraagt om van een lage noot (frequentie 1) naar een heel hoge noot (frequentie 100) te springen.
In de quantumwereld werkt de "optimalisatie" (het leren) als een hiker die een berg op moet. Maar deze hiker heeft een heel klein stapje.

• Als de hiker probeert van 1 naar 100 te lopen, kan hij maar een paar meter stappen (ongeveer ±1 of ±2 eenheden) voordat hij vastloopt in een modderpoel of de weg kwijtraakt.
• De "gradiënt" (de aanwijzing van de computer om verder te gaan) verdwijnt zodra je te ver van je startpunt bent. De computer weet niet meer welke kant op, dus hij stopt met bewegen.

Het Resultaat: Als je een doel hebt dat ver weg ligt (bijv. frequentie 11), en je begint bij 1, zal de computer nooit aankomen. Hij blijft steken bij 1 of 2. Het liedje klinkt dan volledig verkeerd.

De Oplossing: Het "Dichte Net" van de Drie-voet

Om dit probleem op te lossen, bedachten de onderzoekers een nieuwe strategie: Grid-based Initialization met Ternary Encoding.

Laten we de analogie aanpassen:
In plaats van één muzikant te vragen om van 1 naar 100 te springen, bouwen we een trap of een dicht net van steunpunten.

1. Het Dichte Net: In plaats van alleen frequentie 1 te hebben, zetten we muzikanten op elke mogelijke stap: 1, 3, 9, 27, 81, enzovoort (dit is de "ternary" of drievoudige methode).
2. De Locatie: Als je doel frequentie 11 is, zit je nu niet meer ver weg bij 1. Je zit tussen 9 en 27.
3. De Stap: Omdat je doel (11) nu dichtbij je startpunt (9) ligt, kan de "hiker" het laatste stukje makkelijk en veilig afleggen. De computer kan de frequentie van 9 naar 11 "finetunen".

Waarom is dit slim?

• Vaste frequenties (oude methode): Je zou een hele lange ladder nodig hebben met duizenden treden om van 1 naar 100 te komen. Dat is veel materiaal (veel "gates" of schakelaars).
• Leren frequenties (theoretisch ideaal): Je hebt maar één ladder nodig, maar je kunt er niet overheen klimmen als de top te hoog is.
• De nieuwe methode (Ternary Grid): Je bouwt een ladder met heel weinig treden (exponentieel minder dan de oude methode), maar je plaatst ze zo slim dat je doel altijd binnen één of twee stappen bereikbaar is.

Wat hebben ze bewezen?

De onderzoekers hebben dit getest met twee soorten "liedjes":

1. Kunstmatige test: Een liedje met zeer hoge, ver weggelegen noten.
   • Oude methode: Faalde volledig (score 0,18). De computer kon de noten niet bereiken.
   • Nieuwe methode: Speelde het liedje perfect (score 0,99).
2. Echte data (Vluchtpassagiers): Een dataset met echte reisdata, die een mix van lage en hoge frequenties heeft.
   • Oude methode: deed het redelijk (score 0,78), maar miste de hoge toppen.
   • Nieuwe methode: deed het uitstekend (score 0,96), een verbetering van bijna 23%.

Conclusie in één zin

Quantumcomputers zijn geweldig in het leren van patronen, maar ze kunnen niet zomaar "springen" naar verre frequenties; de onderzoekers hebben daarom een slimme manier bedacht om de startpunten zo dicht bij het doel te leggen dat de computer het laatste stukje veilig en snel kan afleggen, zonder dat er duizenden extra schakelaars nodig zijn.

Technische samenvatting

Titel: Langeafstands-frequentieafstemming voor Quantum Machine Learning (QML)

Auteurs: Michael Poppel, Jonas Stein, Sebastian Wölckert, Markus Baumann, Claudia Linnhoff-Popien.

---

1. Het Probleem

Quantum Machine Learning (QML) modellen die gebruikmaken van hoekcodering (angle encoding) vertegenwoordigen van nature afgeknotte Fourier-reeksen. Dit biedt universele benaderingscapaciteiten, maar de efficiëntie hangt af van hoe frequenties worden gecodeerd:

• Vaste frequentie-codering: Vereist een circuitdiepte die schaalt als $O(\omega_{max}(\omega_{max} + \epsilon^{-2}))$, wat inefficiënt is voor hoge frequenties.
• Trainbare frequentie (Trainable-Frequency - TF): Theorie suggereert dat door de frequentieprefactoren (de vermenigvuldigingsfactoren van de input) trainbaar te maken, het aantal benodigde poorten kan worden gereduceerd tot het aantal frequenties in het doelspectrum. Dit zou theoretisch de optimale efficiëntie bieden.

De Kernuitdaging:
Het paper identificeert een kritieke kloof tussen theorie en praktijk. De theoretische efficiëntie van TF-modellen rust op de aanname dat gradient-based optimalisatie prefactoren kan sturen naar willekeurige doelwaarden. De auteurs tonen aan dat dit in de praktijk niet het geval is.

• Beperkte bereikbaarheid: Prefactoren bewegen tijdens training slechts een zeer beperkte afstand (ongeveer $\pm 1$ eenheid) vanaf hun initialisatiepunt bij standaard leersnelheden.
• Optimalisatiefalen: Als de doel-frequenties buiten dit bereik liggen, faalt de optimalisatie vaak, zelfs met voldoende trainingsduur. De gradiënten worden verwaarloosbaar klein als de initiële prefactor te ver van de doelwaarde verwijderd is.

---

2. Methodologie

De auteurs gebruiken een systematische experimentele en theoretische aanpak om dit probleem op te lossen:

A. Analyse van Bereikbaarheid

• Ze reproduceerden een bestaand experiment (Jaderberg et al., 2024) waarbij doel-frequenties met 10 eenheden werden verschoven (van $\{1, 1.2, 3\}$ naar $\{11, 11.2, 13\}$).
• Observatie: Zelfs met agressieve leersnelheden (tot 0.1) konden de prefactoren de doelwaarden niet bereiken. De optimalisatie bleef "vastzitten" in een lokaal minimum rond de initialisatie.
• Gradiëntanalyse: Het bleek dat gradiënten sterk afnemen naarmate de afstand tot de doel-frequentie toeneemt, wat een fundamenteel lokaal optimalisatielandschap creëert.

B. Oplossing: Grid-Initialisatie met Ternaire Codering

Om dit bereikbaarheidsprobleem te overwinnen, stellen de auteurs een nieuwe strategie voor:

1. Ternaire Codering: In plaats van lineaire (unaire) prefactoren, gebruiken ze exponentieel gespatieerde prefactoren ($3^0, 3^1, 3^2, \dots$).
2. Dichtheid: Ternaire codering genereert een dicht geheelgetal-frequentiespectrum. Voor $k$ coderingspoorten ontstaat een spectrum met $3^k$ unieke frequenties.
3. Grid-Initialisatie: De prefactoren worden geinitialiseerd op een dichte rooster (grid) van gehele getallen. Hierdoor liggen alle mogelijke doel-frequenties binnen het bereik van $\pm 1$ eenheid van een bestaande grid-frequentie.
4. Lokale Fine-tuning: Omdat de doelwaarde nu dicht bij een initieel punt ligt, kan de optimizer de prefactor lokaal aanpassen om de exacte frequentie te bereiken, zonder dat langeafstandsverplaatsing nodig is.

C. Theoretische Vergelijking

• Unaire Trainbare: $O(k_{opt})$ poorten, maar faalt bij verre frequenties.
• Unaire Vaste: $O(k_{opt}^2)$ poorten (inefficiënt).
• Ternaire Trainbare (Aangeboden): $O(\log_3 \omega_{max})$ poorten. Dit is exponentieel efficiënter dan vaste methoden en biedt betrouwbare convergentie, hoewel het iets meer parameters vereist dan het theoretische minimum voor zeer schaarse spectra.

---

3. Belangrijkste Bijdragen

1. Empirisch Bewijs van Beperkte Bereikbaarheid: Het paper demonstreert dat TF-modellen niet in staat zijn om prefactoren over grote afstanden te bewegen, wat de theoretische belofte van minimale poortvereisten in de praktijk ongeldig maakt voor willekeurige frequenties.
2. Formalisatie van Parametervereisten: Er wordt een gedetailleerde analyse gemaakt van de schaling van coderingspoorten en ansatz-parameters voor verschillende architecturen (unair vast, ternair vast, en trainbaar).
3. Nieuwe Initialisatiestrategie: Introductie van een grid-based initialisatie met ternaire codering die de bereikbaarheidsbeperking oplost door de doel-frequenties binnen het lokaal bereikbare optimalisatievenster te plaatsen.
4. Exponentiële Verbetering: Het bewijzen dat ternaire codering een exponentiële reductie in het aantal poorten biedt ten opzichte van vaste methoden, terwijl het toch betrouwbare convergentie garandeert.

---

4. Resultaten

De methode werd getest op synthetische data en een real-world dataset:

• Synthetische Doelfuncties (Gedesignerd om bereikbaarheid te testen):

  • Doel: Frequenties $\{11, 11.2, 13\}$ (ver weg van de standaard initialisatie bij 1).
  • Resultaat: De standaard trainbare-frequentie baseline (unair) behaalde een mediaan $R^2$ van slechts 0.1841.
  • Ternaire Grid: Bereikte een mediaan $R^2$ van 0.9969.
  • Dit toont aan dat de ternaire methode het probleem van "verre" frequenties volledig oplost.

• Real-world Dataset (Flight Passengers):

  • Deze dataset bevat een bredere frequentieverdeling, inclusief lagere frequenties die makkelijker te bereiken zijn.
  • Resultaat: Ternaire grid-initialisatie behaalde een mediaan $R^2$ van 0.9671.
  • Dit is een verbetering van 22,8% ten opzichte van de trainbare-unair baseline (mediaan $R^2$ = 0.7876).
  • De prestaties naderen die van een klassiek feedforward netwerk ($R^2$ = 0.9828).

---

5. Betekenis en Conclusie

Dit paper is significant voor het veld van QML omdat het een fundamentele beperking in de huidige theorie van trainbare frequentie-modellen blootlegt en een praktische oplossing biedt.

• Theorie vs. Praktijk: Het weerlegt de aanname dat gradient-based optimalisatie vrijelijk prefactoren kan sturen naar elke waarde. Het landschap is te lokaal voor langeafstandsverplaatsing.
• Implementatie op NISQ-hardware: De voorgestelde ternaire grid-methode maakt het mogelijk om QML-modellen in te zetten op huidige hardware (NISQ) met beperkte circuitdiepte, zonder dat de optimalisatie faalt door bereikbaarheidsproblemen.
• Efficiëntie: Het biedt een "middle ground": het behoudt de exponentiële efficiëntie van ternaire codering (veel minder poorten dan vaste methoden) maar voegt de flexibiliteit toe van trainbare parameters, mits correct geinitialiseerd.

Kortom, door de initialisatiestrategie te veranderen van "willekeurig/eenheid" naar "dicht ternair rooster", wordt de betrouwbaarheid van QML-modellen voor frequentiegevoelige taken drastisch verbeterd, waardoor deze modellen praktischer toepasbaar worden voor complexe, hoogdimensionale problemen.