Expanding Data-Agnostic Pivotal Instances Selection Models with Proximity Trees and Ensemble Learning
Dieses Paper schlägt ein datenagnostisches, durch Design interpretierbares prädiktives Modell vor, das unter Verwendung von Proximity-Bäumen und vortrainierten Netzwerken hierarchisch repräsentative Pivot-Instanzen (einschließlich Paaren und Ensembles) auswählt, um eine wettbewerbsfähige Leistung über diverse Datenmodalitäten hinweg zu erzielen und gleichzeitig eine hohe Interpretierbarkeit aufrechterhalten zu können.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, eine Katze zu erkennen. Sie könnten versuchen, ein riesiges Regelwerk zu schreiben: „Wenn es spitze Ohren, einen Schwanz und Schnurrhaare hat, ist es eine Katze.“ Aber was passiert, wenn der Roboter eine haarlose Katze sieht oder eine Katze, die in einer seltsamen Position schläft? Die Regeln versagen. Dies ist das Problem vieler moderner „Black Box“-KI-Systeme: Sie sind unglaublich gut darin, zu raten, aber sie können nicht erklären, warum sie eine Vermutung angestellt haben. Sie berechnen Zahlen einfach auf eine Weise, die für Menschen nicht nachvollziehbar ist.
Auf der anderen Seite lernen Menschen durch Beispiele. Wir merken uns nicht ein Regelwerk für jedes Tier; wir erinnern uns an spezifische Instanzen. „Dieses flauschige Ding mit dem langen Schwanz ist eine Katze“, oder „Dieses große, gestreifte Tier ist ein Tiger.“ Wir vergleichen neue Dinge mit diesen mentalen Schnappschüssen. Dies wird als „fallbasiertes Schließen“ (Case-Based Reasoning) bezeichnet. Die große Frage in der Welt der Künstlichen Intelligenz lautet: Können wir eine Maschine bauen, die wie wir denkt? Können wir ein Modell erschaffen, das nicht nur eine Antwort gibt, sondern auf ein paar spezifische Beispiele zeigt und sagt: „Ich denke, das ist eine Katze, weil es genau so aussieht wie dieses Bild, das ich schon einmal gesehen habe“? Wenn wir das schaffen, erhalten wir eine KI, die nicht nur intelligent, sondern auch transparent und vertrauenswürdig ist, die es uns ermöglicht, unter die Motorhaube zu schauen, um ihre Logik zu verstehen.
Genau das wollten die Forscher hinter dem „PivotTree“-Paper erreichen. Sie bauten eine neue Art von KI-Modell, das wie ein Entscheidungsbaum fungiert, aber anstatt Daten basierend auf abstrakten Regeln wie „wenn der Pixel rot ist“ aufzuspalten, teilt es Daten basierend auf der Ähnlichkeit zu realen Beispielen auf. Denken Sie an es als ein Spiel von „Wer bin ich?“ (20 Fragen), bei dem die Fragen nicht über Merkmale, sondern über Vergleiche laufen. „Ist dieses neue Bild eher wie dieser spezifische Hund oder wie jene spezifische Katze?“
Das Team unter der Leitung von Alessio Cascione und Kollegen führte eine Methode namens PivotTree ein. Stellen Sie sich einen Baum vor, bei dem jeder Verzweigungspunkt keine Regel ist, sondern ein „Pivot“ – ein sorgfältig ausgewähltes Beispiel aus den Trainingsdaten. Wenn ein neuer Datensatz (wie ein Foto oder ein Satz) eingeht, fragt das Modell: „Welchem Pivot ähnelt dieser am meisten?“ Es leitet den Datensatz den Baum hinunter, indem es ihn bei jedem Schritt mit verschiedenen Beispielen vergleicht, bis es zu einer endgültigen Antwort gelangt. Das Coole daran ist, dass das Modell nicht nur ein Beispiel wählt, sondern ein Paar wählen und fragen kann: „Ist es näher an Pivot A oder an Pivot B?“ Dies erzeugt eine Hierarchie von Vergleichen, die für einen Menschen leicht nachvollziehbar ist.
Die Forscher beschränkten sich nicht nur auf eine Art des Vergleichs. Sie entwickelten verschiedene „Varianten“ des PivotTree. Einige nutzen einen einzelnen Pivot, um eine Linie zu ziehen (wie „wenn es mehr wie dies als jener Schwellenwert aussieht, gehe nach links“). Andere nutzen zwei Pivots, um eine „näher an“-Entscheidung zu treffen (wie „ist es näher am Hund oder an der Katze?“). Sie kombinierten diese Bäume sogar zu einem „Wald“ (einem Random Pivot Forest), um die Vorhersagen noch stärker zu machen, ähnlich wie eine Gruppe von Experten, die über eine Entscheidung abstimmt.
Um zu testen, ob ihre Idee tatsächlich funktionierte, nutzten sie nicht nur einfache Tabellen. Sie warfen ihr Modell einer massiven Herausforderung entgegen: 45 verschiedene Datensätze. Diese enthielten Standardtabellen mit Zahlen, aber auch schwierige Inhalte wie Bilder (Fotos von Katzen, Hunden und Autos), Text (Rezensionen und Artikel) und Zeitreihen-Daten (wie Herzschläge oder Handbewegungen). Sie verglichen ihren PivotTree mit anderen berühmten KI-Modellen, einschließlich der „Black Box“-Schwergewichte und anderer interpretierbarer Methoden.
Die Ergebnisse waren vielversprechend. Die PivotTree-Modelle konnten genauso präzise sein wie die leistungsfähigsten, komplexesten KI-Modelle da draußen, hatten aber einen großen Vorteil: Sie waren viel leichter zu verstehen. In vielen Fällen, insbesondere bei Bildern und Texten, erreichten die PivotTree-Modelle eine Leistung, die auf Augenhöhe mit oder leicht hinter den Top-Wettbewerbern (wie Boosting-Modellen) lag, aber sie übertrafen oft die Leistung von Standard-Random-Forests bei der Verwendung deutlich weniger Beispiele (Pivots). Beispielsweise konnte das Modell auf einem Datensatz von oralen Läsionen (medizinische Bilder von Mundgeschwüren) Diagnosen stellen, indem es ein neues Bild mit nur einer Handvoll repräsentativer Beispiele verglich, und seine Argumentation dadurch erklärte, dass es genau zeigte, gegen welche Beispiele es verglichen wurde.
Das Paper legt nahe, dass dieser Ansatz eine „datenagnostische“ Superkraft ist, was bedeutet, dass er mit fast allen Arten von Daten funktioniert, solange man die Ähnlichkeit zwischen zwei Dingen messen kann. Während die Modelle manchmal etwas länger für das Training benötigten als die einfachsten regelbasierten Systeme, boten sie einen optimalen Mittelweg: hohe Leistung ohne das Mysteriöse. Die Autoren kommen zu dem Schluss, dass wir, indem wir der KI erlauben, durch Beispiele statt durch abstrakte Regeln zu schlussfolgern, Systeme bauen können, die nicht nur leistungsstark, sondern auch freundlich genug sind, damit Menschen ihnen vertrauen und sie verstehen können. Es ist ein Schritt hin zu einer KI, die nicht nur die Antwort kennt, sondern Ihnen auch die Beweise dafür zeigen kann.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.