HIVE-COTE 2.0: a new meta ensemble for time series classification

Stellen Sie sich vor, Sie versuchen, eine bestimmte Vogelart allein anhand ihres Gesangs zu identifizieren. Manche Vögel haben einen ausgeprägten Rhythmus, andere eine einzigartige Tonhöhe, und wieder andere ein Muster, das sich alle paar Sekunden wiederholt. Wenn Sie nur auf den Rhythmus hören, könnten Sie die Tonhöhe übersehen. Wenn Sie nur auf die Tonhöhe hören, könnten Sie das Muster übersehen. Um das beste Ergebnis zu erzielen, benötigen Sie ein Team von Experten, die jeweils auf etwas anderes achten, sowie einen intelligenten Manager, der entscheidet, wem man am meisten vertrauen sollte.

Genau darum geht es in der Arbeit HIVE-COTE 2.0. Sie stellt ein neues „Super-Team" für die Zeitreihenklassifizierung vor. Einfach ausgedrückt ist die Zeitreihenklassifizierung die Aufgabe, eine Linie von Daten, die sich über die Zeit verändert (wie ein Herzmonitor, Aktienkurse oder Erdbebensensoren), zu betrachten und zu entscheiden, zu welcher Kategorie sie gehört.

Hier ist die Aufschlüsselung, wie dieses neue System funktioniert, unter Verwendung alltäglicher Analogien:

Das Problem: Ein Werkzeug reicht nicht aus

Seit Jahren versuchen Wissenschaftler, den perfekten „Vogelgesang-Detektor" (oder Zeitreihenklassifikator) zu bauen. Manche Tools sind hervorragend darin, sich wiederholende Muster zu erkennen (wie ein Wörterbuch von Wörtern). Andere sind gut darin, spezifische Formen in den Daten zu finden (wie ein Formendetektor). Wieder andere sind großartig darin, kurze Zeitabschnitte (Intervalle) zu betrachten.

Der vorherige Champion, HIVE-COTE 1.0, war ein „Meta-Ensemble". Stellen Sie sich dies als ein Komitee vor, bei dem verschiedene Experten (Algorithmen) über die Antwort abstimmen. Es war sehr genau, aber auch sehr langsam und nutzte manchmal veraltete Werkzeuge.

Die Lösung: HIVE-COTE 2.0 (Das neue Super-Komitee)

Die Autoren haben HIVE-COTE 2.0 (HC2) entwickelt. Sie haben das alte Komitee nicht nur angepasst; sie haben drei der alten Experten entlassen und vier brandneue, hochspezialisierte eingestellt. Außerdem haben sie den Manager, der die Stimmen zählt, aufgerüstet.

Hier sind die vier neuen „Experten" im Team:

1. Das Temporale Wörterbuch-Ensemble (TDE):

   • Die Analogie: Stellen Sie sich vor, Sie übersetzen ein Lied in eine Liste von Wörtern. „Dum-dum-ka" wird zu „Wort A, Wort B". TDE betrachtet die Zeitreihe und verwandelt sie in einen „Sack voller Wörter". Es zählt nicht nur, wie oft ein Wort vorkommt; es betrachtet, wann sie erscheinen und wie sie sich gruppieren. Es ist wie ein Linguist, der die Grammatik der Daten versteht, nicht nur den Wortschatz.
   • Das Upgrade: Die neue Version ist viel besser darin, Daten mit mehreren „Kanälen" (wie eine Stereoaufnahme mit linkem und rechtem Lautsprecher) zu verarbeiten, ohne den Speicher zu sprengen.

2. Der Vielfältige Repräsentations-Kanonical-Interval-Wald (DrCIF):

   • Die Analogie: Stellen Sie sich vor, Sie schneiden einen langen Film in Tausende von winzigen Clips. DrCIF wählt zufällige Clips aus, betrachtet sie aus verschiedenen Winkeln (das Originalvideo, die Geschwindigkeit der Aktion und die Tonfrequenz) und fragt: „Sagt uns dieser spezifische 5-Sekunden-Clip, welcher Film dies ist?" Es baut einen Wald von Entscheidungsbäumen auf, der auf diesen winzigen, zufälligen Zeitscheiben basiert.
   • Das Upgrade: Es kombiniert die besten Merkmale zweier älterer Methoden zu einem super-effizienten Werkzeug, das die Daten gleichzeitig auf drei verschiedene Arten betrachtet.

3. Das Arsenal (Ein ROCKET-Ensemble):

   • Die Analogie: Die „ROCKET"-Methode ist wie das Abfeuern Tausender zufälliger Netze in die Daten, um zu sehen, was gefangen wird. Sie ist unglaublich schnell. Das ursprüngliche ROCKET war jedoch schlecht darin, zu sagen: „Ich bin zu 80 % sicher" versus „Ich bin zu 90 % sicher". Es schrie einfach nur „Ja" oder „Nein".
   • Das Upgrade: Das „Arsenal" ist ein Trupp kleinerer ROCKETs, die zusammenarbeiten. Anstatt eines großen Netzes verwenden sie viele kleine Netze und stimmen über die Antwort ab. Dies ermöglicht ihnen, eine zuverlässige Wahrscheinlichkeitsschätzung abzugeben (z. B. „Wir sind zu 95 % sicher, dass dies ein Erdbeben ist"), was für das Hauptkomitee entscheidend ist, um eine gute Entscheidung zu treffen.

4. Der Shapelet-Transform-Klassifikator (STC):

   • Die Analogie: Dieser Experte sucht nach spezifischen, erkennbaren „Formen" oder „Teilgesängen", die in den Daten auftreten. Wenn eine bestimmte gezackte Spitze immer vor einem Anfall auftritt, findet STC diese Spitze.
   • Das Upgrade: Die Autoren haben diese Suche intelligenter gemacht. Anstatt jede mögliche Form zu überprüfen (was ewig dauert), sucht sie zufällig nach den besten innerhalb eines festgelegten Zeitlimits, wodurch verhindert wird, dass sie stecken bleibt oder „überanpasst" (die Trainingsdaten zu perfekt auswendig lernt).

Der Manager: CAWPE

Sobald diese vier Experten die Daten analysiert haben, senden sie jeweils eine Wahrscheinlichkeitsschätzung an den Manager (genannt CAWPE).

• Funktionsweise: Der Manager nimmt nicht einfach einen Durchschnitt. Er betrachtet, wie gut jeder Experte während des Trainings abgeschnitten hat. Wenn der „Wörterbuch-Experte" normalerweise zu 90 % richtig lag, hört der Manager ihm genauer zu als dem „Intervall-Experten", der nur zu 60 % richtig lag.
• Das Ergebnis: Dieses gewichtete Abstimmungssystem stellt sicher, dass die zuverlässigsten Experten das größte Gewicht bei der endgültigen Entscheidung haben.

Die Ergebnisse: Wer hat das Rennen gewonnen?

Die Autoren haben dieses neue Team gegen die aktuellen „State-of-the-Art"-Champions (einschließlich Deep-Learning-Modelle und anderer schneller Algorithmen) auf 112 verschiedenen Datensätzen getestet (wie Herzschläge, Stromverbrauch und Insektenlaute).

• Genauigkeit: HIVE-COTE 2.0 war der klare Gewinner. Es war signifikant genauer als alle anderen Top-Konkurrenten. Im Durchschnitt lag es öfter richtig als alle anderen.
• Multivariate Daten: Es gewann auch, wenn die Daten mehrere Dimensionen hatten (wie ein Video mit Farbkanälen oder ein Sensor mit X-, Y- und Z-Achsen), bei denen frühere Methoden Schwierigkeiten hatten.
• Der Kompromiss (Geschwindigkeit vs. Genauigkeit):
  • Die Arbeit gibt zu, dass HIVE-COTE 2.0 langsamer ist als die schnellste Methode (ROCKET). Wenn Sie eine Antwort in einer Sekunde benötigen, ist ROCKET besser.
  • Wenn Sie jedoch die genaueste mögliche Antwort benötigen und etwas länger warten können, ist HIVE-COTE 2.0 die beste Wahl.
  • Um dabei zu helfen, verfügt das System über eine „Zeitvertrag"-Funktion. Sie können ihm sagen: „Sie haben eine Stunde Zeit zu arbeiten." Es wird so viele Experten wie möglich in dieser Stunde aufbauen und Ihnen die beste Antwort geben, die es innerhalb dieses Limits finden kann.

Zusammenfassung

HIVE-COTE 2.0 ist ein „Komitee der Besten" zur Analyse zeitbasierter Daten. Durch die Kombination von vier verschiedenen Expertentypen (einer, der Wortmuster betrachtet, einer, der Zeit schneidet, einer, der zufällige Netze verwendet, und einer, der Formen findet) und durch die Gewichtung ihrer Stimmen durch einen intelligenten Manager erreicht es eine höhere Genauigkeit als jede einzelne Methode oder jedes vorherige Team. Obwohl es länger dauert als die schnellsten Algorithmen, bietet es das derzeit höchste Maß an Präzision für diese Art von Problem.