XTrust-Chain: An Explainable Intrusion Detection System with Trust-Based Automation and Immutable Decision Records

In der digitalen Welt stehen Netzwerke ständig unter Beschuss. Sicherheitsteams verlassen sich auf automatisierte Systeme, die den Datenfluss überwachen und nach den subtilen Signaturen von Hackern und Malware Ausschau halten. Jahrelang wurden diese Systeme fast ausschließlich nach einer einzigen Kennzahl beurteilt: wie oft sie die richtige Antwort geben. Wenn ein System eine Genauigkeit von 99 Prozent behauptet, klingt das perfekt. Doch in der hochriskanten Realität eines Sicherheitsoperationszentrums verbirgt diese einzelne Zahl eine gefährliche Wahrheit. Sie sagt einem Analysten nicht, welche spezifischen Alarme ignoriert werden können und welche sofortige menschliche Aufmerksamkeit erfordern. Sie bietet keine Garantie dafür, dass die Aufzeichnung einer automatisierten Aktion später heimlich geändert werden kann. Wenn eine Maschine einen Fehler macht, bleibt der menschliche Operator im Unklaren darüber, ob er dem Alarm vertrauen oder ihn verwerfen soll, was oft zu Ermüdung und übersehenen Bedrohungen führt.

Um dies zu lösen, entwickeln Forscher Systeme, die mehr tun als nur den Datenverkehr zu klassifizieren; sie entwerfen Systeme, die wissen, wann sie sich unsicher sind. Dieser neue Ansatz kombiniert drei Ideen. Erstens nutzt er einen „Vertrauenswert“ (Trust Score), um zu entscheiden, ob die Entscheidung einer Maschine zuverlässig genug ist, um ohne die Aufsicht eines Menschen zu handeln. Zweitens liefert er einen klaren, verständlichen Grund dafür, warum eine Entscheidung getroffen wurde, damit ein Mensch die Logik überprüfen kann. Drittens sperrt er jede einzelne Entscheidung in ein permanentes, unveränderliches digitales Register, wodurch eine unbestreitbare Aufzeichnung dessen entsteht, was geschah und wann. Das Ziel ist nicht nur, mehr böse Akteure zu fangen, sondern ein System zu schaffen, in dem der Operator genau weiß, welche Alarme vertrauenswürdig sind und welche überprüft werden müssen.

Amjad Aldweesh, ein Forscher an der Shaqra University in Saudi-Arabien, hat ein solches System entwickelt, das er XTrust-Chain nennt. Anstatt sich auf einen einzelnen Black-Box-Algorithmus zu verlassen, der ein Urteil ausspuckt, agiert dieses System wie ein Expertengremium, das zusammenarbeitet. Es führt drei verschiedene Arten von Entscheidungsmodellen parallel aus. Wenn ein Stück Netzwerkverkehr eintrifft, analysieren alle drei Modelle diesen. Das System prüft dann, ob sie übereinstimmen. Wenn alle drei zum selben Schluss kommen und dabei eine hohe Konfidenz aufweisen, markiert das System die Entscheidung als vertrauenswürdig. Wenn sie sich uneinig sind oder unsicher wirken, kennzeichnet das System den Fall für eine Überprüfung durch einen menschlichen Experten. Dieser Prozess ist nicht bloß eine Vermutung; es ist ein berechnetes Maß an Gewissheit, das daraus abgeleitet wird, wie sicher die Modelle sind, wie nah die konkurrierenden Antworten beieinander liegen und wie sehr die Modelle untereinander übereinstimmen.

Die Forscher testeten dieses Framework an drei verschiedenen Sätzen realer Netzwerkdaten, die von Standard-Unternehmensverkehr bis hin zu komplexen industriellen Umgebungen reichten. Sie fanden heraus, dass das System bemerkenswert gut darin ist, die sicheren Entscheidungen von den riskanten zu trennen. Bei einem Datensatz war das System in der Lage, fast 70 Prozent aller Verkehrsentscheidungen automatisch zu handhaben und gleichzeitig die Fehlerrate in dieser automatisierten Gruppe von fast 2 Prozent auf nahezu Null zu senken. Bei einem schwierigeren Datensatz, bei dem die Verkehrsmuster schwerer zu unterscheiden waren, gelang es dem System dennoch, die Fehlerrate für die von ihm selbst getroffenen Entscheidungen um die Hälfte zu reduzieren – von 24,5 Prozent auf 9,7 Prozent – während es immer noch etwa 70 Prozent der Arbeit automatisierte. Die wichtigste Erkenntnis ist, dass das System nicht einfach alles automatisiert; es weiß, wann es aufhören und um Hilfe bitten muss. Es identifizierte erfolgreich die spezifischen Arten von Angriffen, die die Modelle verwirrten, und leitete diese an Menschen weiter, während es die eindeutigen Fälle sofort passieren ließ.

Ein entscheidender Teil dieser Arbeit war die Sicherstellung, dass die Erklärungen des Systems ehrlich waren. Die Forscher nutzten eine Methode, um hervorzuheben, welche Teile der Daten die Entscheidung beeinflussten – im Grunde fragten sie den Computer, er solle auf die Beweise zeigen. Sie entdeckten, dass der Computer zwar zuverlässig die Merkmale identifizieren konnte, die er verwendete, diese Erklärungen jedoch nicht immer stabil waren. Wenn die Daten leicht verändert wurden, konnte sich die Argumentation des Computers dramatisch verschieben. Diese Erkenntnis führte das Team zu einer entscheidenden Designwahl: Sie entschieden sich dagegen, diese schwankenden Erklärungen für die automatisierten Entscheidungen zu verwenden. Stattdessen verließen sie sich auf die stabileren Konfidenzwerte und die Übereinstimmung der Modelle, um zu entscheiden, ob sie handeln oder verweisen sollen. Dies stellt sicher, dass die automatisierten Aktionen auf festem Boden stehen, selbst wenn die detaillierte Begründung zu fragil ist, um für Hochrisiko-Automatisierungen vertrauenswürdig zu sein.

Um die Integrität des gesamten Prozesses zu schützen, zeichnet das System jede einzelne Entscheidung in einem sicheren, verteilten Ledger auf. Stellen Sie sich dieses Ledger wie ein öffentliches, unveränderliches Notizbuch vor, in dem jeder Eintrag mit einem einzigartigen digitalen Fingerabdruck versiegelt ist. Wenn das System eine Entscheidung trifft, erstellt es eine permanente Aufzeichnung dessen, was es sah, was es entschied und wie sicher es sich war. Diese Aufzeichnung wird an zwei Orten gespeichert: Die vollständigen Details werden in einer Standarddatenbank für eine einfache Überprüfung aufbewahrt, aber ein winziger, 32-Byte-Fingerabdruck dieser Aufzeichnung wird in die Blockchain geschrieben. Dieser Fingerabdruck ist so klein und schnell zu berechnen, dass er fast keine Verzögerung verursacht und nur etwa sechzehn Mikrosekunden benötigt. Dennoch bietet er eine kraftvolle Garantie: Wenn jemand versucht, eine vergangene Entscheidung zu manipulieren, wird der Fingerabdruck nicht mehr übereinstimmen und die Manipulation wird sofort erkannt. Dies schafft eine Kette der Zuständigkeit (Chain of Custody) für jede automatisierte Aktion und stellt sicher, dass die Aufzeichnung dessen, was das System getan hat, nicht im Nachhinein umgeschrieben werden kann.

Die Forscher unternahmen auch den ungewöhnlichen Schritt, den Code von drei anderen populären Sicherheitssystemen auf exakt denselben Daten erneut laufen zu lassen, um zu sehen, wie sie im Vergleich abschneiden. Sie fanden heraus, dass einige Systeme, die zuvor nahezu perfekte Werte behaupteten, auf Abkürzungen zurückgriffen, wie etwa dem Blick auf spezifische Adressnummern, die einzigartig für die Testdaten waren, anstatt das tatsächliche Verhalten eines Angriffs zu erlernen. Als diese Abkürzungen entfernt wurden, verloren diese Systeme den Großteil ihrer Effektivität. Im Gegensatz dazu behielt das XTrust-Chain-System seine Leistung bei, weil es darauf ausgelegt war, das Verhalten des Verkehrs selbst zu betrachten und nicht die an ihn angehefteten Labels. Dieses rigorose Testen bestätigte, dass die Fähigkeit des neuen Systems, schlechte Entscheidungen herauszufiltern, real war und nicht nur ein Artefakt der Datenaufbereitung.

Letztendlich zeigt die Studie, dass Automatisierung in der Sicherheit kein Glücksspiel sein muss. Durch die Kombination mehrerer Modelle, die Messung ihrer Gewissheit und das Sperren ihrer Entscheidungen in einer unveränderlichen Aufzeichnung ist es möglich, ein System zu bauen, das seine eigenen Grenzen kennt. Das System behauptet nicht, perfekt zu sein; stattdessen behauptet es, ehrlich darüber zu sein, wann es recht hat und wann nicht. Es ermöglicht Sicherheitsteams, den Großteil ihrer Arbeit mit hoher Zuversicht zu automatisieren, während die menschliche Aufmerksamkeit für die Fälle reserviert bleibt, die sie wirklich benötigen. Dieser Ansatz transformiert die Rolle des Sicherheitsanalysten von einer Person, die in Alarmen ertrinkt, zu einem Supervisor, der der Maschine bei Routineaufgaben vertraut und nur dann einschreitet, wenn die Maschine signalisiert, dass sie Unterstützung benötigt. Das Ergebnis ist ein effizienterer, transparenterer und zuverlässigerer Weg, digitale Netzwerke zu schützen.