Quantum Feature Selection with Higher-Order Binary Optimization on Trapped-Ion Hardware

Dieser Beitrag stellt ein Quanten-Feature-Selektions-Framework vor, das auf einer Formulierung als höherordnige unbeschränkte binäre Optimierung (HUBO) mit multivariaten Abhängigkeiten basiert und erfolgreich auf der IonQ Forte-Falle-Ionen-Hardware implementiert wurde, um eine wettbewerbsfähige Klassifikationsleistung sowie die Machbarkeit höherordniger Quantenoptimierung für die Vorverarbeitung im maschinellen Lernen zu demonstrieren.

Das Wesentliche

Stellen Sie sich vor, Sie versuchen, ein riesiges Puzzle zu lösen, aber Sie haben 32 verschiedene Teile (Merkmale) zur Auswahl, und Sie benötigen nur einige wenige davon, um das Gesamtbild klar zu erkennen. Das Problem ist, dass einige Teile für sich allein wichtig erscheinen, einige nur in Kombination mit anderen wichtig wirken und einige lediglich Duplikate voneinander sind.

Dieser Artikel beschreibt eine neue Methode, einen Quantencomputer zu nutzen, um die perfekte Auswahl an Puzzlestücken zu finden. Anstatt die Teile nur einzeln oder paarweise zu betrachten (wie bei herkömmlichen Methoden), untersucht diese neue Methode, wie Gruppen von drei Teilen zusammenwirken.

Hier ist die Aufschlüsselung ihres Ansatzes unter Verwendung einfacher Analogien:

1. Das Problem: Zu viele Auswahlmöglichkeiten

In der Datenwissenschaft ist die „Merkmalsauswahl" (Feature Selection) der Prozess, die nützlichsten Informationen aus einer riesigen Liste auszuwählen.

• Der alte Weg (QUBO): Stellen Sie sich vor, Sie versuchen, die besten Teammitglieder auszuwählen, indem Sie nur fragen: „Wie gut ist Person A?" und „Wie gut kommen Person A und Person B miteinander aus?" Dies übersieht die Tatsache, dass manchmal eine spezifische Gruppe von drei Personen eine magische Chemie erzeugt, die man nicht erkennen kann, wenn man sie einzeln oder paarweise betrachtet.
• Der neue Weg (HUBO): Die Autoren entwickelten eine Methode, die fragt: „Wie gut funktioniert dieses spezifische Trio von Personen zusammen?" Sie nennen dies Higher-Order Unconstrained Binary Optimization (HUBO) (Optimierung höherer Ordnung ohne Nebenbedingungen). Es ist wie ein superintelligenter Manager, der komplexe Gruppendynamiken sofort versteht, nicht nur einzelne Fähigkeiten.

2. Das Rezept: Das „Energie"-Modell

Um das beste Team zu finden, erstellten die Forscher ein mathematisches „Rezept", das Hamiltonian genannt wird (denken Sie daran als eine Wertetabelle).

• Relevanz (Ein-Körper): Wenn ein Informationsteil für sich allein sehr nützlich ist, gibt die Wertetabelle einen „Bonus" (senkt die Energie).
• Redundanz (Zwei-Körper): Wenn zwei Informationsteile exakt dasselbe aussagen, bestraft die Wertetabelle die Auswahl beider (erhöht die Energie).
• Komplexe Gruppen (Drei-Körper): Dies ist das Geheimnis. Wenn drei Informationsteile nur in Kombination eine kraftvolle Erkenntnis erzeugen, belohnt die Wertetabelle dieses spezifische Trio.
• Die „Kein kostenloses Mittagessen"-Regel: Um zu verhindern, dass der Computer einfach jedes einzelne Teil auswählt (was die faule, einfache Lösung wäre), fügten sie eine Strafe hinzu. Es ist wie ein strenger Trainer, der sagt: „Sie können nicht das ganze Team auswählen; Sie müssen das beste kleine Squad auswählen."

3. Die Maschine: Das Quanten-Fitnessstudio

Sie testeten dieses Rezept auf einem echten Quantencomputer von IonQ, der gefangene Ionen (geladene Atome) als seine „Bits" verwendet.

• Das Training: Sie verwendeten eine Technik namens Digitized Counterdiabatic Quantum Optimization (DCQO) (Digitalisierte Gegenadiabatische Quantenoptimierung). Stellen Sie sich vor, Sie versuchen, den tiefsten Punkt in einem nebligen Tal zu finden. Ein normaler Spaziergang könnte Sie in einer kleinen Senke stecken lassen. Diese Technik ist wie ein geführter Ausflug, der dem Computer hilft, schnell und reibungslos zum absolut tiefsten Punkt (der besten Lösung) zu „gleiten", ohne im Nebel stecken zu bleiben.
• Das Ergebnis: Der Computer führte dieses „Training" durch und lieferte eine Liste von Wahrscheinlichkeiten für jedes Merkmal, die angab, wie oft dieses Merkmal in den besten Lösungen vorkam.

4. Die Probefahrt: Zwei reale Szenarien

Sie testeten ihre Methode an zwei verschiedenen Datensätzen, um zu sehen, ob sie tatsächlich funktionierte:

• Szenario A: Der Gallenstein-Datensatz (Medizin)

  • Die Aufgabe: Vorhersagen, ob ein Patient Gallensteine hat, basierend auf 32 Gesundheitsparametern (wie Cholesterin, Alter, Gewicht).
  • Das Ergebnis: Die Quantenmethode wählte 19 Schlüsselparameter aus. Sie schnitt besser ab als Standard-Computermethoden (wie PCA oder die Auswahl der Top-19 durch einfache Rangfolge). Sie fand eine kleinere, sauberere Liste von Symptomen, die die Krankheit genauso gut oder sogar besser vorhersagte als die Verwendung aller Daten.
  • Die Prüfung: Sie verglichen die Ergebnisse des echten Quantencomputers mit einer perfekten, rauschfreien Simulation. Sie stimmten sehr gut überein und bewiesen, dass die echte Hardware wie erwartet funktioniert.

• Szenario B: Der Spambase-Datensatz (E-Mail)

  • Die Aufgabe: Unterscheiden, ob eine E-Mail Spam ist oder nicht, basierend auf 32 Wort-/Zeichenhäufigkeiten.
  • Das Ergebnis: Die Quantenmethode reduzierte die Liste auf 23 Schlüsselindikatoren. Wiederum schnitt sie besser ab als die Standardmethoden. Sie schaffte es, das „Rauschen" (redundante Wörter) herauszufiltern und gleichzeitig das „Signal" (Wörter, die tatsächlich auf Spam hinweisen) zu bewahren.

5. Das Fazit

Der Artikel behauptet, dass:

1. Es funktioniert: Der Quantencomputer fand erfolgreich hochwertige Teilmengen von Daten.
2. Es ist besser als der alte Weg: Durch das Betrachten von „Drei-Wege"-Beziehungen (höhere Ordnung) fand es bessere Kombinationen als Methoden, die nur Individuen oder Paare betrachten.
3. Es ist effizient: Es reduzierte die Menge an Daten, die für genaue Vorhersagen benötigt wird, ohne die Genauigkeit zu verlieren.
4. Die Hardware ist bereit: Die Ergebnisse des echten IonQ-Maschinen waren den perfekten Simulationen sehr ähnlich, was darauf hindeutet, dass heutige Quantencomputer bereits in der Lage sind, diese komplexen „Gruppendynamik"-Probleme zu bewältigen.

Kurz gesagt bauten die Autoren einen Quanten-„Späher", der besser darin ist, die wertvollsten Teammitglieder in einer Gruppe zu erkennen, weil er versteht, wie Menschen in Dreiergruppen interagieren, nicht nur in Paaren. Sie bewiesen, dass es mit echter Hardware und echten Daten funktioniert.

Technische Zusammenfassung

1. Problemstellung

Die Merkmalsauswahl (Feature Selection, FS) ist entscheidend für die Verbesserung der Modellinterpretierbarkeit, die Reduzierung von Überanpassung und die Steigerung der Recheneffizienz bei hochdimensionalen Datensätzen. Klassische FS-Methoden stoßen jedoch auf erhebliche Grenzen:

• Wrapper-Methoden sind rechenintensiv und skalieren schlecht.
• Filter-Methoden (z. B. gegenseitige Information) ignorieren oft Merkmalsinteraktionen.
• Embedded-Methoden sind empfindlich gegenüber Hyperparametern und neigen häufig zu einer Verzerrung hin zu linearen oder hierarchischen Abhängigkeiten.
• Quantenlimitierungen: Bestehende Quantenansätze formulieren FS typischerweise als Quadratisches Ungezwungenes Binäres Optimierungsproblem (QUBO). QUBO ist auf Wechselwirkungen erster und zweiter Ordnung beschränkt, wodurch höhere Abhängigkeiten (multivariate Beziehungen) vernachlässigt, approximiert oder über kostspielige Quadratizierungs-Overheads eingeführt werden müssen.

Kernherausforderung: Wie können komplexe, statistische Abhängigkeiten höherer Ordnung zwischen Merkmalen in einem Quanten-Optimierungsrahmen explizit erfasst werden, ohne das Problem auf eine quadratische Form zu reduzieren, und wie lässt sich dies auf aktueller Noisy Intermediate-Scale Quantum (NISQ)-Hardware ausführen?

2. Methodik

Die Autoren schlagen ein neuartiges Framework vor, das auf Higher-Order Unconstrained Binary Optimization (HUBO) basiert und auf IonQ Forte-Fallen-Ionen-Hardware ausgeführt wird.

A. HUBO-Formulierung

Anstelle eines quadratischen Hamilton-Operators wird das Problem in einem Hamilton-Operator kodiert, der Wechselwirkungsterme erster, zweiter und dritter Ordnung enthält:
$$H(Z) = \sum_i h_i Z_i + \sum_{i<j} J_{ij} Z_i Z_j + \sum_{i<j<k} K_{ijk} Z_i Z_j Z_k + C$$

• Variablen: $Z_i \in \{-1, +1\}$ (Ising-Konvention), wobei $-1$ die Merkmalsauswahl anzeigt.
• Koeffizienten: Abgeleitet aus der Gegenseitigen Information (Mutual Information, MI):
  • $h_i$: Kodiert die individuelle Relevanz eines Merkmals für das Ziel.
  • $J_{ij}$: Kodiert paarweise Redundanz (bestraft korrelierte Merkmale).
  • $K_{ijk}$: Kodiert Abhängigkeiten höherer Ordnung (erfasst Informationen, die nur in Gruppen von drei Merkmalen vorhanden sind).
• Strukturierte Strafterme: Um triviale Lösungen zu verhindern (z. B. die Auswahl aller Merkmale), wird ein linearer Strafterm $H_\lambda$ hinzugefügt, der Merkmale mit vernachlässigbarer Relevanz unterhalb eines Schwellenwerts $\tau$ unterdrückt.

B. Optimierungsalgorithmus: Digitized Counterdiabatic Quantum Optimization (DCQO)

Die Autoren nutzen DCQO, um den Grundzustand des HUBO-Hamilton-Operators zu finden:

• Mechanismus: Ein gate-basierter Ansatz, inspiriert von „Shortcuts to Adiabaticity". Er interpoliert zwischen einem Treiber-Hamilton-Operator und dem Ziel-HUBO-Hamilton-Operator und fügt approximative counterdiabatische Terme hinzu, um diabatische Übergänge während der Evolution endlicher Zeit zu unterdrücken.
• Ausführung: Implementiert auf IonQ Forte (Yb+-Ionen) mit All-to-All-Konnektivität, was die für HUBO erforderlichen langreichweitigen Wechselwirkungen ohne komplexe Einbettung nativ unterstützt.

C. Nachbearbeitung und Auswahl

1. Sampling: Das System wird gemessen, um Bitstring-Proben zu generieren.
2. Filterung: Proben werden nach Energie sortiert; nur der energieärmste Anteil ($\rho$, z. B. die besten 25 %) wird behalten, um Rauschen zu filtern.
3. Bewertung: Die Merkmalswichtigkeit ($I_i$) wird als empirische Häufigkeit berechnet, mit der ein Merkmal innerhalb der energiearmen Teilmenge ausgewählt wird ($x_i=1$).
4. Schwellenwertbildung: Merkmale werden ausgewählt, wenn $I_i \geq \delta$.

3. Hauptbeiträge

1. HUBO für die Merkmalsauswahl: Die erste explizite Formulierung der Merkmalsauswahl als HUBO-Problem, das Wechselwirkungen dritter Ordnung direkt erfasst und den Informationsverlust vermeidet, der in QUBO-Reduktionen inhärent ist.
2. Hardware-Implementierung: Erfolgreiche Ausführung eines Optimierungsproblems höherer Ordnung auf IonQ Forte-Fallen-Ionen-Hardware, was die Durchführbarkeit zeigt, tiefe Quantenschaltungen für die Vorverarbeitung im maschinellen Lernen auszuführen.
3. Modellunabhängigkeit: Die Methode stützt sich rein auf statistische Abhängigkeiten (Gegenseitige Information), die aus den Daten abgeleitet werden, und erfordert während der Auswahlsphase kein Modelltraining.
4. Benchmarking: Umfassender Vergleich gegenüber rauschfreien Quantensimulationen und klassischen Baselines (SelectKBest und PCA) auf realen Datensätzen.

4. Experimentelle Ergebnisse

Das Framework wurde an zwei Datensätzen getestet: Gallstone (biomedizinisch, 38 Merkmale) und Spambase (textbasiert, 57 Merkmale). Beide wurden vorab auf 32 Merkmale reduziert, um Hardwarebeschränkungen zu erfüllen.

A. Gallstone-Datensatz

• Hardware vs. Simulation: Starke qualitative Übereinstimmung zwischen IonQ Forte und der rauschfreien Simulation hinsichtlich der Wahrscheinlichkeiten der Merkmalsinklusion.
• Leistung: Der quanten-selektierte Teilsatz (19 Merkmale) erreichte 0,88 ROC-AUC und übertraf:
  • Alle Merkmale (0,86)
  • PCA (0,79)
  • SelectKBest (0,84)
• Erkenntnis: Die Einbeziehung von Termen höherer Ordnung ermöglichte es dem Modell, einen kompakteren und informativeren Teilsatz zu identifizieren als univariate Methoden.

B. Spambase-Datensatz

• Leistung: Der quanten-selektierte Teilsatz (23 Merkmale) erreichte 0,9836 ROC-AUC und übertraf:
  • Alle Merkmale (0,9817)
  • PCA (0,9615)
  • SelectKBest (0,9805)
• Effizienz: Die Methode reduzierte die Dimensionalität um ca. 28 %, während sie die Klassifizierungsgenauigkeit im Vergleich zur Verwendung aller Merkmale leicht verbesserte.

5. Bedeutung und Fazit

• Über das Quadratische hinaus: Die Studie beweist, dass die explizite Modellierung statistischer Strukturen höherer Ordnung (durch Terme dritter Ordnung) bessere Merkmals subsets liefert als Standard-Quadratansätze (QUBO), insbesondere bei Datensätzen mit komplexen multivariaten Abhängigkeiten.
• Hardware-Geeignetheit: Fallen-Ionen-Prozessoren sind aufgrund ihrer All-to-All-Konnektivität einzigartig für HUBO-Probleme geeignet, was den Bedarf an Qubit-Mapping- oder Einbettungs-Overheads, die bei supraleitenden Architekturen üblich sind, eliminiert.
• Skalierbarkeit: Die Ergebnisse deuten darauf hin, dass diese Methode mit der Skalierung der Quantenhardware (mehr Qubits, höhere Fidelität) hochdimensionale Merkmalsauswahlprobleme bewältigen kann, die für klassische kombinatorische Methoden rechnerisch unlösbar sind.
• Zukünftige Arbeiten: Die Autoren schlagen die Integration von Bias-Field DCQO (BF-DCQO) vor, um Bias-Felder iterativ zu aktualisieren und so den Optimierungsraum für größere Datensätze weiter zu verbessern.

Zusammenfassend demonstriert dieses Paper einen praktischen, modellagnostischen Quanten-Workflow, der höhere Ordnungsoptimierung auf Fallen-Ionen-Hardware nutzt, um klassische Dimensionsreduktionstechniken sowohl in der Merkmalskompaktheit als auch in der Vorhersageleistung zu übertreffen.