"Cause" is Mechanistic Narrative within Scientific Domains: An Ordinary Language Philosophical Critique of "Causal Machine Learning"
Dieses Papier kritisiert die Prämisse des „kausalen maschinellen Lernens“, indem es die Alltagssprache der Philosophie anwendet, um zu argumentieren, dass wahre Kausalität fundamental mechanistisch ist, wobei behauptet wird, dass definitive kausale Ansprüche nur in Bereichen mit vollständigen mechanistischen Modellen (wie der Physik) gültig sind und in komplexen Systemen (wie der Biologie und den Sozialwissenschaften) eine aggregierte Evidenz über verschiedene Disziplinen hinweg erfordern, wodurch zu größerer Vorsicht vor der Überschätzung kausaler Gewissheit in der wissenschaftlichen Forschung aufgedrungen wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Detektivspiel: Warum „Ursache“ nicht nur eine Sache ist
Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel zu lösen. In der Welt der Wissenschaft und des Computers gibt es gerade einen riesigen Trend namens „Kausales Maschinelles Lernen“. Es ist, als würde man einem superintelligenten Computer eine Lupe geben und ihn bitten, den wirklichen Grund dafür zu finden, warum Dinge geschehen, anstatt nur zu bemerken, dass zwei Dinge oft gleichzeitig auftreten. Nur weil der Eisverkauf und die Haiangriffe im Juli beide ansteigen, bedeutet das nicht, dass Eisessen Haiangriffe verursacht; beide werden durch die Sommerhitze verursacht. Das Finden dieses „wirklichen Grundes“ ist der heilige Gral der Wissenschaft, denn es hilft uns, Probleme zu lösen, Krankheiten zu heilen und bessere Technologien zu bauen.
Aber hier ist der knifflige Teil: Was bedeutet „Ursache“ eigentlich? In einem Physiklabor ist eine „Ursache“ wie eine Billardkugel, die eine andere trifft; es ist ein präziser, mathematischer Stoß. In einem Krankenhaus kann eine „Ursache“ eine komplexe Kette von Ereignissen sein, die Ihre Gene, Ihre Ernährung und Ihre Umgebung umfasst. In einer Stadt könnte eine „Ursache“ eine Geschichte darüber sein, wie ein neues Gesetz das Verhalten der Menschen verändert hat. Die Arbeit, die wir uns gleich ansehen werden, stellt eine große Frage: Können wir dieselben Computerwerkzeuge verwenden, um Ursachen in all diesen verschiedenen Welten zu finden? Die Autoren, ein Team von Forschern, argumenten, dass die Antwort ein lautes „Nein“ ist. Sie schlagen vor, dass der Versuch, eine einzige Computerkonstruktion zu erzwingen, um alles zu erklären, so ist, als würde man versuchen, einen Hammer zu benutzen, um eine Uhr zu reparieren, ein Bild zu malen und einen Kuchen zu backen – alles gleichzeitig. Für den Hammer mag es funktionieren, aber es wird die Uhr zerbrechen und den Kuchen ruinieren.
Die große Idee der Arbeit: Einheitsgröße passt nicht für alle
Diese Arbeit ist eine philosophische Detektivgeschichte, die das Wort „Ursache“ untersucht. Die Autoren verwenden eine Methode namens „Gewöhnliche Sprachphilosophie“, was im Gruwesen bedeutet: „Lassen Sie uns nachsehen, wie echte Menschen Wörter im echten Leben tatsächlich verwenden.“ Sie argumentieren, dass sich die Bedeutung des Wortes „Ursache“ ändert, je nachdem, mit welchem „Stamm“ von Wissenschaftlern man spricht.
Der Physik-Stamm: Die perfekte Maschine
In der Physik und den Ingenieurwissenschaften ist die Welt wie eine riesige, perfekt gebaute Uhr. Wenn man die Zahnräder kennt (die Gleichungen) und eines anstößt (die Ursache), kann man genau berechnen, wohin die anderen Zahnräder wandern werden (die Wirkung). Hier ist „Ursche“ eine mathematische Kraft. Wenn man einen Stein fallen lässt, zieht die Schwerkraft ihn nach unten. Die Mathematik beschreibt die ganze Geschichte perfekt. In dieser Welt können Computermodelle, die nach Mustern in Daten suchen, tatsächlich die „Ursache“ finden, weil das System geschlossen ist und die Regeln bekannt sind.
Der Biologie-Stamm: Der wilde Dschungel
Springen wir nun zur Biologie und Medizin. Die Welt hier ist eher wie ein wilder Dschungel. Es ist ein „offenes System“, was bedeutet, dass Dinge ständig mit der Außenwelt interagieren, auf eine Weise, die wir nicht vollständig messen können. Ein menschlicher Körper ist so komplex, dass man keine einzige mathematische Gleichung schreiben kann, die jede Zelle, jedes Chemikalien und jeden Gedanken erklärt. Die Autoren sagen, dass man in der Biologie nicht einfach auf eine Grafik schauen und sagen kann: „A verursachte B“. Stattdessen muss man ein „Narrativ“ aufbauen. Man muss statistische Hinweise (wie Daten aus einer klinischen Studie) mit einer Geschichte darüber kombinieren, wie es funktioniert (wie zum Beispiel, wie ein Medikament die Arterien verstopft). Man braucht Belege aus vielen verschiedenen Blickwinkeln, um sicher zu sein.
Der Sozialwissenschaften-Stamm: Die Geschichtenerzähler
Schließlich gibt es die Sozialwissenschaften (wie Psychologie, Ökonomie und Soziologie). Hier wird es wirklich kompliziert. Menschen sind chaotisch, unvorhersehbar und voller Geschichten. Die Autoren argumentieren, dass „Ursache“ in diesen Feldern oft eine Geschichte ist, die uns hilft, uns selbst zu verstehen. Zum Beispiel könnte ein Therapeut einem Patienten helfen, indem er eine Geschichte darüber erzählt, wie seine Vergangenheit seine Gegenwart geformt hat. Diese Geschichte ist keine mathematische Gleichung, aber sie ist in einer Weise „wahr“, die dem Menschen hilft, sich besser zu fühlen und anders zu handeln. Die Autoren weisen darauf hin, dass die Sozialwissenschaften derzeit damit kämpfen, weil sie versuchen, wie die Physik zu agieren, indem sie strenge Mathematik verwenden, um Dinge zu beweisen, die eigentlich über menschliche Bedeutung und Interpretation gehen.
Das Problem mit dem „Kausalen Maschinellen Lernen“
Die Arbeit wirft einen kritischen Blick auf den neuen Trend des „Kausalen Maschinellen Lernens“. Dies sind Computerprogramme, die versuchen, eine Karte (einen Graphen) zu zeichnen, die zeigt, wie Variablen miteinander verbunden sind. Sie nutzen Regeln wie: „Wenn A vor B geschieht und sie miteinander verknüpft sind, dann verursacht A B“.
Die Autoren sagen, dass dieser Ansatz gefährlich ist, weil er davon ausgeht, dass die Welt eine geschlossene, perfekte Maschine ist (wie die Physik), während sie oft ein chaotisches, offenes System ist (wie die Biologie oder die Gesellschaft). Sie weisen darauf hin, dass diese Computermodelle in der realen Welt oft scheitern, weil sie nicht alle verborgenen Faktoren berücksichtigen können (wie Ihre Stimmung, Ihre Geschichte oder das Wetter), die das Ergebnis beeinflussen.
Die Arbeit argumentiert explizit gegen die Vorstellung, dass ein Computer einen Datensatz betrachten und definitiv sagen kann: „Dies ist die Ursache“. Sie sagen, dass diese Modelle nur raten, sofern der Computer nicht in einem geschlossenen Physiklabor arbeitet, in dem die Regeln bekannt sind. Sie sind „übermäßig selbstbewusst“. Die Autoren warnen davor, dass wir, wenn wir diesen Computerkarten zu sehr vertrauen, schlechte Entscheidungen in der Medizin oder Politik treffen könnten, weil der Computer die chaotischen, menschlichen Teile der Geschichte übersehen hat.
Die Lösung: Ein Team von Detektiven
Was ist also die Antwort? Die Autoren schlagen vor, dass wir bescheidener sein müssen. Anstatt sich auf ein einziges Computermodell zu verlassen, um uns die Wahrheit zu sagen, müssen wir Beweise von überall sammeln.
Stellen Sie sich vor, Sie versuchen herauszufinden, warum ein Wald stirbt.
- Der Physiker betrachtet die chemischen Gleichungen des Bodens.
- Der Biologe betrachtet die Insekten und die Bäume.
- Der Soziologe beobachtet, wie die Menschen vor Ort das Land nutzen.
- Der Geschichtenerzähler hört den Ältesten zu, was der Wald für sie bedeutete.
Die Arbeit legt nahe, dass eine „Ursache“ nur dann real ist, wenn all diese verschiedenen Perspektiven übereinstimmen. Dies wird als „Überwiegen der Beweise“ bezeichnet. Es geht nicht um einen perfekten mathematischen Beweis, sondern um einen Chor aus verschiedenen Stimmen, die dieselbe Geschichte erzählen.
Für die Zukunft schlagen die Autoren vor, dass wir aufhören sollten, zu versuchen, Computer als die ultimativen Richter über Ursache und Wirkung zu erzwingen. Stattdessen sollten wir Computer als Werkzeuge nutzen, um uns zu helfen, Muster zu erkennen, aber wir müssen diese Muster immer gegen reale Geschichten und Expertenwissen prüfen. Sie schlagen eine neue Denkweise vor, die „Hermeneutik“ genannt wird – die Kunst der Interpretation. Das bedeutet zu verstehen, dass die „Wahrheit“ manchmal kein Zahlenwert ist, sondern eine Geschichte, die für Menschen Sinn ergibt.
Das Fazit
Die zentrale Erkenntnis dieser Arbeit ist, dass „Ursache“ nicht eine einzige Sache ist. Sie verändert ihre Gestalt, je nachdem, ob man einen fallenden Stein, ein schlagendes Herz oder einen menschlichen Geist untersucht. Die Autoren legen nahe, dass die aktuelle Begeisterung für „Causal AI“ eine kleine Falle ist. Sie versucht, ein einfaches, starres Werkzeug zu benutzen, um komplexe, chaotische Probleme zu lösen.
Sie sagen nicht, dass wir Computer aufhören sollten zu benutzen. Stattdessen sagen sie, dass wir sie mit Vorsicht einsetzen sollten. Wir müssen die Unterschiede zwischen den Wissenschaften respektieren. In der Physik ist die Mathematik der König. In der Biologie brauchen wir eine Mischung aus Mathematik und Mechanismus. In den Sozialwissenschaften brauchen wir Mathematik, Geschichten und menschliches Verständnis, die alle zusammenarbeiten.
Die Arbeit schließt mit einem Aufruf zur „epistemischen Tugend“, was eine schicke Art ist zu sagen: „intellektuelle Ehrlichkeit“. Sie fordert Wissenschaftler und KI-Entwickler auf, zuzugeben, wenn sie etwas nicht mit Sicherheit wissen. Anstatt zu rufen: „Wir haben die Ursache gefunden!“, sollten sie sagen: „Hier ist ein Muster, das eine Möglichkeit suggeriert, aber lassen Sie uns die ganze Geschichte betrachten, bevor wir entscheiden.“ Es ist eine Erinnerung daran, dass in einer komplexen Welt unser mächtigstes Werkzeug nicht ein Supercomputer ist, sondern die Fähigkeit, verschiedenen Arten von Geschichten zuzuhören und sie zu einer Wahrheit zusammenzuweben, die Sinn ergibt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.