Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, die Welt zu verstehen. Sie geben ihm eine Kamera und ein Gehirn, und er beginnt Vorhersagen zu treffen: „Das ist eine Katze“ oder „Diese Maschine wird gleich kaputtgehen“. Aber manchmal liegt der Roboter falsch, oder noch schlimmer, er hat recht, aber aus den falschen Gründen. Vielleicht denkt er, ein Bild eines Wolfes sei echt, weil im Hintergrund Schnee liegt, und nicht, weil er tatsächlich einen Wolf sieht. Dies ist ein großes Problem in der Welt der Künstlichen Intelligenz (KI), besonders wenn der Einsatz hoch ist, wie in Krankenhäusern oder Fabriken. Wir müssen wissen, warum der Roboter eine Entscheidung getroffen hat, nicht nur, was er entschieden hat.

Um dies zu lösen, verwenden Wissenschaftler etwas, das man „Explainable AI“ (Erklärbare KI) nennt. Eines der coolsten Werkzeuge in diesem Werkzeugkasten ist das „Kontrafaktische“. Denken Sie bei einem Kontrafaktischen an eine „Was wäre wenn“-Geschichte. Anstatt nur zu sagen: „Ich habe vorhergesagt, dass du gehst“, sagt ein Kontrafaktisches: „Ich habe vorhergesagt, dass du gehst, aber wenn du deine Schritte verlangsamt hättest, hätte ich vorhergesagt, dass du sitzt.“ Es ist wie ein Rezept, um die Zukunft zu verändern. Wenn man jedoch mit Zeitreihen arbeitet – Daten, die sich über die Zeit verändern, wie etwa ein Herzmonitor oder ein Aktienchart – ist das Erstellen solcher „Was wäre wenn“-Geschichten schwierig. Wenn man einfach nur einen einzelnen Punkt in den Daten verändert, ist das so, als würde man ein einzelnes Wort in einem Satz ändern und hoffen, dass die ganze Geschichte noch Sinn ergibt. Oft tut sie es nicht. Die Geschichte wird zu Kauderwelsch, und die Erklärung des Roboters wird nutzlos.

Hier kommt eine neue Methode namens ConceptCF ins Spiel. Die Forscher hinter dieser Arbeit, Annemarie Jutte und ihr Team, erkannten, dass wir, anstatt einzelne Punkte in einer Zeitreihe zu manipulieren, die „großen Ideen“ oder „Konzepten“ ändern sollten, die aus den Daten bestehen. Stellen Sie sich ein Lied vor. Sie könnten versuchen, das Lied zu verändern, indem Sie jeden einzelnen Ton nacheinander manipulieren, was chaotisch und verwirrend ist. Oder Sie könnten die „Lautstärke“ (wie laut es ist) oder das „Tempo“ (wie schnell es ist) ändern. Das sind die Konzepte. ConceptCF ist ein kluges System, das eine Zeitreihe nimmt, sie in diese verständlichen Konzepte zerlegt (wie zum Beispiel wie groß die Wellen sind oder wie oft sie sich wiederholen) und dann fragt: „Was wäre, wenn wir die Lautstärke oder das Tempo ändern würden?“ Es nutzt einen digitalen Evolutionsprozess, ähnlich einem Videospiel, in dem die besten Lösungen überleben und besser werden, um die kleinsten, logischsten Änderungen zu finden, die eine Vorhersage umschlagen lassen. Das Ergebnis ist eine Erklärung, die ein Mensch tatsächlich verstehen kann, wie zum Beispiel: „Der Roboter dachte, du würdest gehen, weil deine Schritte zu groß waren; wenn du kleinere Schritte gemacht hättest, hätte er gewusst, dass du sitzt.“

Die Arbeit führt ConceptCF als eine Methode zur Generierung dieser „Was wäre wenn“-Erklärungen speziell für Zeitreihendaten ein. Der Kern der Idee besteht darin, nicht mehr auf die Rohdatenpunkte (die einzelnen Momente in der Zeit) zu schauen, sondern auf Konzepte – hochgradig interpretierbare Muster, die Menschen leicht erfassen können, wie etwa die allgemeine „Skala“ (Amplitude) eines Signals oder die „Frequenz“ (wie oft es sich wiederholt). Die Autoren argumentieren, dass bestehende Methoden oft die Bedeutung der Daten verfälschen, indem sie Punkte isoliert verändern, was zu seltsamen, unmöglichen Szenarien führen kann. ConceptCF vermeidet dies, indem es nur die zugrunde liegenden Konzepte modifiziert.

Um dies zu erreichen, nutzt das Team drei verschiedene Wege, um die Zeitreihe in Konzepte zu zerlegen:

1. Fourier-basiert: Dies betrachtet das Signal als eine Mischung aus verschiedenen Frequenzen, vergleichbar mit dem Trennen eines Akkords in seine einzelnen Noten.
2. Wavelet-basiert: Dies zerlegt das Signal in Stücke unterschiedlicher Größe und erfasst so sowohl große Trends als auch kleine Details.
3. Menschzentriert: Dies ist speziell für Menschen konzipiert, die keine Experten in Mathematik sind, und zerlegt das Signal in Dinge wie „Trend“ (geht es nach oben oder unten?), „Bias“ (ist es nach oben oder unten verschoben?) und „Skala“ (wie groß ist es?).

Sobald die Daten in diese Konzepte zerlegt sind, nutzt die Methode einen genetischen Algorithmus, um das perfekte Kontrafaktische zu finden. Denken Sie an dies wie an ein digitales Zuchtprogramm. Der Computer startet mit einer „Population“ möglicher Änderungen. Er testet sie, um zu sehen, welche die Vorhersage erfolgreich ändern (Validität), während sie gleichzeitig so nah wie möglich an den Originaldaten bleiben (Proximität) und so wenig Dinge wie möglich verändern (Sparsamkeit/Sparsity). Die „fittesten“ Lösungen überleben und vermischen sich, um in der nächsten Generation noch bessere Lösungen zu schaffen. Das Ziel ist es, die minimale Änderung der Konzepte zu finden, die die Vorhersage umschlägt. Wenn ein Modell beispielsweise „Gehen“ vorhersagt, könnte ConceptCF feststellen, dass eine Erhöhung der „Wellenlänge“ und der „Skala“ der Bewegung dazu führen würde, dass das Modell „Sitzen“ vorhersagt.

Die Forscher testeten ConceptCF gegen fünf andere Top-Methoden unter Verwendung von Echtzeit-Datensätzen, darunter Bewegungsdaten von gehenden Menschen und Herzfrequenzdaten. Sie bewerteten, wie gut die neue Methode basierend auf fünf Kriterien funktionierte:

• Validität: Hat sie die Vorhersage tatsächlich geändert?
• Konfidenz: War sich das Modell über die neue Vorhersage sicher?
• Proximität: War das neue Szenario nah am Original?
• Sparsamkeit (Sparsity): Wurden nur wenige Dinge geändert oder wurde alles durcheinandergebracht?
• Plausibilität: Sah das neue Szenario wie etwas aus, das in der realen Welt tatsächlich passieren könnte?

Die Ergebnisse zeigten, dass ConceptCF sehr wettbewerbsfähig performte. Tatsächlich lag es oft an der Spitze, insbesondere bei der Sparsamkeit. Das bedeutet, dass es die Entscheidung der KI erklären konnte, indem es nur sehr wenige Konzepte änderte, was die Erklärung viel klarer und für einen Menschen leichter verständlich machte. Während andere Methoden manchmal Schwierigkeiten hatten, die Daten realistisch aussehen zu lassen, oder zu viele Punkte veränderten, fand ConceptCF konsistent den „Sweet Spot“: die kleinste, logischste Änderung, um das Ergebnis umzukehren. Die Autoren fanden heraus, dass die Art und Weise, wie sie die Konzepte aufbrachen (Fourier vs. Wavelet vs. Menschzentriert), die Ergebnisse nicht drastisch veränderte, was darauf hindeutet, dass die Methode flexibel ist und an unterschiedliche Bedürfnisse angepasst werden kann.

Die Arbeit schließt mit dem Schluss, dass ConceptCF ein leistungsstarkes neues Werkzeug zum Verständnis von Zeitreihen-KI ist. Indem es sich auf menschlich interpretierbare Konzepte statt auf Rohdatenpunkte konzentriert, schlägt es die Brücke zwischen komplexen Modellen des maschinellen Lernens und menschlichem Denken. Die Autoren schlagen vor, dass die ultimative Prüfung – ob Menschen die Erklärungen tatsächlich besser verstehen – in der Zukunft durch Studien mit echten Menschen erfolgen sollte, um zu sehen, ob diese konzeptbasierten Erklärungen die KI wirklich transparenter und vertrauenswürdiger machen. Für den Moment ist ConceptCF ein vielversprechender Schritt, um KI-Entscheidungen weniger wie eine Black Box und mehr wie ein Gespräch zu gestalten, das wir alle verstehen können.