Philosophy-informed Machine Learning
Dieses Paper führt Philosophy-informed Machine Learning (PhIML) als ein Framework ein, das analytische Philosophie in das Modelldesign und die Evaluierung integriert, um Alignment und ethische Verantwortung zu verbessern, während es gleichzeitig Fallstudien bietet, Herausforderungen identifiziert und einen Fahrplan für die zukünftige Forschung skizziert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Moderne Maschinen sind erstaunlich gut darin geworden, Muster zu erkennen. Sie können eine Katze in einem Foto identifizieren, einen Satz von einer Sprache in eine andere übersetzen oder einen Film empfehlen, der Ihnen gefallen könnte. Doch diese Systeme stolpern oft, wenn sich die Welt auf subtile Weise verändert oder wenn sie gebeten werden, etwas zu tun, das echtes Verständnis statt nur Mustererkennung erfordert. Eine Maschine könnte Ihnen voller Selbstvertrauen sagen, dass ein Stoppschild ein Tempolimit-Schild ist, wenn jemand ein paar winzige Aufkleber darauf platziert hat, oder sie könnte eine medizinische Behandlung vorschlagen, die in den Daten gut funktioniert, aber in der Realität scheitert, weil sie eine Korrelation mit einer Ursache verwechselt hat. Diese Fehler treten auf, weil heutige künstliche Intelligenz allein auf Statistik basiert; sie lernt, was normalerweise passiert, aber sie versteht nicht, warum es passiert, und sie erfasst auch nicht wirklich die Werte, die menschliche Entscheidungen leiten. Diese Lücke zwischen statistischer Geschicklichkeit und realer Zuverlässigkeit hat Forscher dazu veranlasst, eine andere Frage zu stellen: Was wäre, wenn wir diese Maschinen nicht nur auf Daten aufbauen würden, sondern auf den tiefen, jahrhundertealten Ideen, die Philosophen über Wissen, Vernunft und richtiges Handeln entwickelt haben?
Dies ist der Kernaspekt eines neuen Ansatzes namens philosophisch informiertes maschinelles Lernen. Anstatt die Philosophie als eine abstrakte Diskussion zu behandeln, die erst nach der Entwicklung der Technologie geführt wird, webt diese Methode philosophische Konzepte direkt in das Design der Computermodelle ein. Das Ziel ist es, Systeme zu schaffen, die nicht nur intelligent, sondern auch robust, logisch und durch Design mit menschlichen Werten im Einklang sind. In einer kürzlich durchgeführten Studie untersuchte ein Forscher der Clemson University, wie die Integration von Ideen aus der analytischen Philosophie – insbesondere darüber, wie wir Dinge wissen, wie wir über Ursache und Wirkung schlussfolgern und wie wir ethische Entscheidungen treffen – die hartnäckigsten Mängel der heutigen künstlichen Intelligenz beheben kann. Die Arbeit legt nahe, dass wir durch die Gabe der Maschinen eines „philosophischen Rückgrats“ diese sicherer und zuverlässiger machen können, auch wenn sie nicht perfekt sind.
Die Studie beginnt mit der Adressierung eines Problems, das als Blackbox-Brüchigkeit bekannt ist. Dies geschieht, wenn ein Modell des maschinellen Lernens auf den Daten, mit denen es trainiert wurde, perfekt funktioniert, aber völlig versagt, wenn es mit einer leichten Variation konfrontiert wird, wie etwa einer anderen Lichtbedingung oder einem neuen Dialekt. Um dies zu beheben, untersuchte der Forscher die Epistemologie, den Zweig der Philosophie, der sich mit der Natur des Wissens befasst. Traditionelle Computermodelle behandeln alle Unsicherheiten auf die gleiche Weise, indem sie eine einzige Zahl zuweisen, um darzustellen, wie sicher sie sich sind. Philosophen argumentieren jedoch schon lange, dass es einen Unterschied gibt zwischen dem, ob man sicher ist, weil man über starke Beweise verfügt, oder ob man sicher ist, weil man ein Muster gesehen hat, das ein Zufall sein könnte. Die Studie testete eine Methode, bei der der Computer lernt, zwischen diesen beiden Zuständen zu unterscheiden. Durch die Verwendung eines Systems, das in der Lage ist, eine Spanne möglicher Überzeugungen statt nur einer festen Vermutung darzustellen, wurden die Modelle viel besser darin, zu erkennen, wann sie sich unsicher waren. In einer Reihe von Tests ermöglichte dieser Ansatz dem Computer zu erkennen, wenn ein Dokument gleichzeitig als Vertrag und als Patent klassifiziert wurde – eine logische Unmöglichkeit – und den Fehler zu korrigieren, ohne seine Fähigkeit zur korrekten Vorhersage zu verlieren.
Die zweite große Hürde, die das Papier angeht, ist die kausale Blindheit. Die meisten heutigen künstlichen Intelligenzen sind exzellent darin, Korrelationen zu finden, aber schlecht darin, Ursache und Wirkung zu verstehen. Wenn ein Modell sieht, dass Menschen, die Regenschirme tragen, oft nass werden, könnte es schlussfolgern, dass Regenschirme Regen verursachen, anstatt zu verstehen, dass Regen Menschen dazu bringt, Regenschirme zu tragen. Dies ist in Bereichen wie der Medizin oder der Politik gefährlich, in denen wir wissen müssen, was passieren wird, wenn wir eine bestimmte Maßnahme ergreifen. Um dies zu lösen, wandte der Forscher Theorien der Kausalität an, die sich auf „Was-wäre-wenn“-Szenarien konzentrieren. Die Studie führte eine Methode ein, mit der der Computer Interventionen simulieren kann, indem er fragt, was passieren würde, wenn ein bestimmter Faktor geändert würde, anstatt nur zu beobachten, was in der Vergangenheit passiert ist. In Experimenten mit medizinischen Behandlungen fanden die Forscher heraus, dass die Vorhersagen des Modells viel stabiler wurden, wenn sie das Modell dazu zwangen, das Prinzip zu respektieren, dass die Änderung einer Ursache die Ergebnisse nicht auf unmögliche Weise drastisch verändern sollte. Das System hörte auf, wilde Vermutungen darüber anzustellen, was passieren würde, wenn ein Patient eine andere Behandlung erhielte, und hielt seine Vorhersagen in der Realität verankert.
Die vielleicht komplexeste Herausforderung ist die Abstimmung der Maschinen mit menschlichen Werten. Ein Computer kann sehr gut darin sein, einen Score zu maximieren, aber wenn dieser Score nicht perfekt einfängt, was Menschen tatsächlich wollen, könnte die Maschine einen Schlupfloch finden, um auf eine Weise zu gewinnen, die schädlich ist. Zum Beispiel könnte ein Nachrichtempfehlungssystem lernen, dass schockierende Schlagzeilen Menschen dazu bringen, öfter zu klicken, was dazu führt, dass es spaltende Inhalte fördert. Die Studie untersuchte, wie man ethisches Denken direkt in den Trainingsprozess der Maschine einbauen kann. Basierend auf der Philosophie von John Rawls, der argumentierte, dass eine gerechte Gesellschaft eine solche ist, die wir entwerfen würden, wenn wir unseren eigenen Platz darin nicht kennen würden, testete der Forscher eine Methode, bei der der Computer darauf trainiert wurde, die am schlechtesten gestellten Gruppen zu priorisieren. In einem simulierten Einstellungsszenario neigten Standardcomputermodelle dazu, Kandidaten aus marginalisierten Gruppen abzulehnen, da die Trainingsdaten versteckte Vorurteile enthielten. Als das Modell jedoch so angepasst wurde, dass es gezielt nach Fairness suchte und sicherstellte, dass die am wenigsten begünstigten Kandidaten nicht zurückgelassen wurden, korrigierte es diese Vorurteile erfolgreich. Die Ergebnisse zeigten, dass das System durch die Anwendung dieser philosophischen Regeln die Einstellungsraten für benachteiligte Gruppen um fast 50 Prozent verbessern konnte, während es gleichzeitig eine hohe Gesamtgenauigkeit beibehielt.
Die Studie fand nicht heraus, dass diese philosophischen Korrekturen ein Zauberstab waren, der jedes Problem sofort löste. Der Forscher stellte fest, dass die Kombination dieser komplexen logischen Regeln mit massiven Datenmengen schwierig ist und den Computer manchmal verlangsamen oder das Training erschweren kann. Es gibt auch tiefe Herausforderungen bei der Entscheidung, welche philosophischen Regeln zu verwenden sind, insbesondere wenn verschiedene Kulturen oder ethische Theorien sich uneinig sind. Dennoch demonstrierten die Experimente, dass selbst einfache Anwendungen dieser Ideen Fehler drastisch reduzieren konnten. In einem Test machte ein Standardmodell logische Widersprüche in 13 Prozent seiner Vorhersagen, aber die philosophisch informierte Version reduzierte dies auf Null. In einem anderen Fall verbesserte sich die Fähigkeit des Systems, Ergebnisse über verschiedene Gruppen hinweg vorherzusagen, signifikant, was beweist, dass diese Ideen nicht nur theoretisch, sondern praktische Werkzeuge für den Bau besserer Technologie sind.
Letztendlich deutet diese Arbeit darauf hin, dass die Zukunft der künstlichen Intelligenz weniger davon abhängen könnte, Maschinen mehr Daten zuzufüttern, sondern vielmehr davon, ihnen beizubringen, wie man denkt. Indem wir uns aus der langen Tradition der menschlichen Untersuchung von Wissen, Ursache und Ethik bedienen, können wir Systeme bauen, die nicht nur mächtig, sondern auch vertrauenswürdig sind. Der Forscher kommt zu dem Schluss, dass, während es noch erhebliche technische und praktische Hürden zu überwinden gibt, der Weg nach vorne klar ist: Wir müssen aufhören, die Philosophie als einen Nachgedanken zu behandeln, und statlich damit beginnen, sie als Blaupause für die Maschinen zu nutzen, auf die wir uns verlassen. Da diese Systeme in unserem Leben immer mehr Verantwortung übernehmen, ist die Frage nicht mehr, ob wir sie klüger machen können, sondern wie schnell wir sie weise machen können.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.