Realistic Counterfactual Explanations via Denial Constraints
Dieses Paper schlägt einen neuartigen Ansatz zur Generierung realistischer kontrafaktischer Erklärungen in der erklärbaren KI vor, indem es Negationsbeschränkungen aus relationalen Datenbanken integriert, um sicherzustellen, dass die generierten Instanzen den Datengültigkeitsregeln entsprechen, wodurch die praktische Anwendbarkeit bei minimaler Beeinträchtigung der Distanz- und Diversitätsmetriken verbessert wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der Welt der künstlichen Intelligenz treffen Maschinen oft Entscheidungen, die unser Leben beeinflussen, von der Genehmigung von Krediten bis hin zur Diagnose von Krankheiten. Wenn diese Systeme „Nein“ sagen, ist es hilfreich zu wissen, warum. Eine beliebte Art, eine Entscheidung zu erklären, besteht darin, sich eine leicht veränderte Version der Situation vorzustellen, die zu einem „Ja“ geführt hätte. Wenn ein Kreditantrag abgelehnt wird, könnte eine hilfreiche Erklärung darauf hindeuten, dass ein etwas höheres Einkommen oder eine etwas höhere Kreditwürdigkeit das Ergebnis geändert hätte. Diese vorgestellten Alternativen werden als Kontrafaktualitäten bezeichnet. Sie wirken wie ein Scheinwerfer, der genau zeigt, welche Merkmale einer Person oder eines Objekts für das Urteil der Maschine am wichtigsten waren. Damit diese Erklärungen jedoch wirklich nützlich sind, müssen sie in der realen Welt Sinn ergeben. Eine Erklärung, die suggeriert, dass eine winzige Wohnung in einer überfüllten Stadt plötzlich zehn Schlafzimmer haben könnte, ist mathematisch möglich, aber physisch unmöglich. Wenn die vorgeschlagenen Änderungen unrealistisch sind, scheitert die Erklärung daran, der Person zu helfen, ihre Situation zu verstehen oder zu korrigieren.
Forscher der Tel Aviv University, eBay und der Hebräischen Universität von Jerusalem haben sich mit diesem Problem unrealistischer Vorschläge befasst. Sie fanden heraus, dass die fortschrittlichsten Werkzeuge, die derzeit zur Generierung dieser Erklärungen verwendet werden, oft Ergebnisse liefern, die gegen grundlegende Regeln der Realität verstoßen. Beispielsweise könnte ein Werkzeug vorschlagen, dass ein Haus in einem bestimmten Viertel eine bestimmte Anzahl an Badezimmern hat, die in diesem Gebiet schlichtweg nicht existieren, oder dass das Alter und das Bildungsniveau einer Person im Widerspruch zu bekannten Fakten darüber stehen, wie Menschen leben. Um dies zu beheben, kombinierten die Forscher die Methoden zur Erklärung von KI mit Techniken aus der Datenbankverwaltung – dem Bereich, der sicherstellt, dass Daten in Computern konsistent und korrekt bleiben. Sie führten ein System ein, das jede vorgeschlagene Änderung gegen einen Satz logischer Regeln prüft, die aus realen Daten abgeleitet wurden. Diese Regeln, bekannt als Denial Constraints (Verweigerungsbeschränkungen), fungieren wie ein Filter, der sicherstellt, dass jedes neu vorgeschlagene Szenario innerhalb der Grenzen dessen bleibt, was tatsächlich möglich ist.
Die Forscher testeten ihren neuen Ansatz auf vier verschiedenen Datensätzen, darunter Informationen über Immobilien in New York, Steuerunterlagen und demografische Daten. Sie verglichen ihre Methode mit dem führenden bestehenden Werkzeug, das dafür bekannt ist, vielfältige und nahegelegene Erklärungen zu finden, aber ignoriert, ob diese Erklärungen realistisch sind. Die Ergebnisse waren drastisch. Im Datensatz für Immobilien verstießen fast alle vom Standardwerkzeug generierten Erklärungen gegen mindestens eine Regel der Realität. In einigen Fällen war jeder einzelne Vorschlag, den es machte, unmöglich. Im Gegensatz dazu lieferte das neue System Erklärungen, die null Regeln verletzten. Jedes angebotene Szenario war konsistent mit den Daten, die es gesehen hatte. Dies geschah nicht um einen hohen Preis. Die neuen Erklärungen waren nur geringfügig weiter von der ursprünglichen Situation entfernt als die unrealistischen, und sie blieben ebenso vielfältig und boten eine breite Palette verschiedener Gründe für die Entscheidung. Tatsächlich lieferte die neue Methode auf einigen Datensätzen sogar bessere Erklärungen, weil das Standardwerkzeug gezwungen war, in unmögliches Terrain abzuwandern, um eine Lösung zu finden.
Eine große Herausforderung bei dieser Arbeit war die Geschwindigkeit. Die Prüfung jeder möglichen Änderung gegen Tausende von Regeln kann unglaublich langsam sein, bis hin zu dem Punkt, an dem eine einzige Prüfung Stunden dauern kann. Das Team entwickelte eine Reihe cleverer Abkürzungen, um den Prozess für die praktische Anwendung schnell genug zu machen. Anstatt jede Regel jedes Mal gegen jeden Datenpunkt zu prüfen, lernte ihr System zu identifizieren, welche Regeln für die spezifische Situation tatsächlich relevant waren. Sie bauten auch eine Möglichkeit auf, frühere Prüfungen zu speichern, damit sie die Arbeit nicht wiederholen mussten. Diese Optimierungen machten das System bis zu dreiundsechzigmal schneller als einen direkten, nicht optimierten Ansatz. Diese Geschwindigkeit ist entscheidend, da sie bedeutet, dass das System in Echtzeit-Anwendungen eingesetzt werden kann, ohne dass man eine Stunde lang warten muss, während ein Computer Zahlen berechnet.
Die Studie untersuchte auch andere Methoden, die versuchen, Erklärungen realistisch zu gestalten, wie etwa jene, die komplexe Modelle verwenden, um zu erraten, wie Daten aussehen könnten, oder jene, die nur Beispiele aus einer bereits existierenden Liste auswählen. Die Fors 아닌 Forscher fanden heraus, dass selbst diese hochentwickelten Methoden oft versäumten, die harten Regeln der Daten zu respektieren. Ein Modell könnte eine Kombination von Merkmalen vorschlagen, die statistisch wahrscheinlich aussieht, aber dennoch eine spezifische logische Regel verletzt, wie etwa eine Steuerbefreiung, die für einen bestimmten Bundesstaat nicht gilt. Der neue Ansatz ist einzigartig, weil er garantiert, dass die Erklärung keine Regeln bricht. Dies erreicht er, indem er die Regeln als absolute Gesetze und nicht als weiche Vorschläge behandelt. Wenn ein Vorschlag eine Regel verletzt, passt das System ihn an, bis er passt, und stellt so sicher, dass die endgültige Erklärung nicht nur eine Vermutung, sondern ein faktisch gültiges Szenario ist.
Diese Arbeit verdeutlicht eine kritische Lücke in der Art und Weise, wie wir der künstlichen Intelligenz derzeit vertrauen und sie verstehen. Sie zeigt, dass es nicht ausreicht, nah an den Originaldaten zu sein; eine Erklärung muss auch in der Realität der Welt verwurzelt sein, die sie beschreibt. Indem sie sicherstellen, dass Kontrafaktualitäten realistisch sind, haben die Forscher diese Erklärungen für die Menschen, die sie benötigen, vertrauenswürdiger und nützlicher gemacht. Ob es ein Hausbesitzer ist, der sich fragt, warum sein Immobilienwert niedrig ist, oder ein Arbeitssuchender, der verstehen möchte, warum er abgelehnt wurde – zu wissen, dass der vorgeschlagene Weg zu einem anderen Ergebnis tatsächlich möglich ist, macht den Unterschied zwischen einem verwirrenden mathematischen Trick und einer klaren, handlungsorientierten Erkenntnis aus. Der Erfolg des Teams, die Balance zwischen Realismus, Vielfalt und Geschwindigkeit zu halten, deutet darauf hin, dass die Zukunft der erklärbaren KI nicht nur darin liegt, die nächste Antwort zu finden, sondern die wahre.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.