Process-Constituted Intelligence: A Shared Criterion for Humans and Machines
Dieses Papier argumentiert, dass wahre Intelligenz durch den iterativen kognitiven Prozess definiert wird und nicht durch den Output, wobei es ein Framework der „starken Äquivalenz“ auf Basis von sieben Prozessmerkmalen vorschlägt, um die menschliche Kognition von der gegenwärtigen generativen KI abzugrenzen, die lediglich Output-Spuren reproduziert, während es gleichzeitig Designprinzipien und Audits anbietet, um sicherzustellen, dass KI-Werkzeuge die menschlichen generativen Kapazitäten erweitern, anstatt sie zu erodieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Intelligenz wird oft mit dem Endergebnis verwechselt: der gelösten Gleichung, dem fertigen Gemälde, der korrekten Antwort in einem Gespräch. Seit Jahrzehnten debattieren Wissenschaftler darüber, ob eine Maschine, die dasselbe Ergebnis wie ein Mensch liefert, wirklich denkt. Diese Frage ist von der Philosophie in die tägliche Realität der generativen Künstlichen Intelligenz übergegangen – Werkzeuge, die Essays schreiben, Code generieren und Bilder erstellen können, die von menschlicher Arbeit ununterscheidbar sind. Der Kern des Problems ist nicht nur, ob das Ergebnis gut ist, sondern wie es zustande gekommen ist. In der Geistesswissenschaft besteht seit langem eine Unterscheidung zwischen einem System, das lediglich menschliches Verhalten nachahmt, und einem, das tatsächlich die interne Aktivität repliziert, die zur Erzeugung dieses Verhaltens erforderlich ist. Das eine ist wie eine Landkarte, die das Ziel zeigt; das andere ist die Reise selbst, mit all ihren Fehlentscheidungen, Pausen und Momenten des Zweifels. Das Verständnis dieses Unterschieds ist keine rein akademische Übung mehr, denn wenn Menschen sich darauf verlassen, dass Maschinen das Denken für sie übernehmen, könnten sie genau jene Schritte überspringen, die ihre eigene Fähigkeit zu denken aufbauen.
Ein Team von Forschern der Macquarie University und anderer Institutionen hat einen neuen Weg vorgeschlagen, Intelligenz zu messen, der sich vollständig auf diese Reise konzentriert. Sie argumentieren, dass wahre Intelligenz durch den Prozess konstituiert wird – die iterative Aktivität des Versuchens, Scheiterns, Überarbeitens und Lernens – und nicht durch das Ergebnis selbst. Um dies zu testen, entwickelten sie ein Framework, das sieben spezifische Merkmale der Problemlösung betrachtet. Zu diesen Merkmalen gehören die Bereitschaft, viele Versuche zu generieren und diejenigen zu verwerfen, die scheitern, die Fähigkeit, mit Unsicherheit auszuharren, ohne zu einer sicheren Antwort zu eilen, und die Kapazität, aus dem Widerstand des Materials oder der Umgebung zu lernen. Sie untersuchen auch, wie ein Löser in einen Dialog tritt, wie er sich selbst gegenüber anderen rechenschaftspflichtig ist und wie der Kampf selbst die Person formt, die die Arbeit verrichtet. Die Forscher legen nahe, dass eine Maschine, um einem menschlichen Geist wirklich ebenbürtig zu sein, nicht nur die richtige Antwort produzieren muss, sondern diese sieben Merkmale auch auf ihre eigene Weise demonstrieren muss.
Als die Forscher dieses Framework auf die aktuelle generative KI anwandten, fanden sie eine signifikante Lücke. Diese Systeme werden auf den „Spuren“ menschlichen Denkens trainiert: fertigen Papieren, veröffentlichtem Code und editierten Bildern. Sie lernen, das Endprodukt zu reproduzieren, indem sie aus einer riesigen Sammlung dieser abgeschlossenen Werke sampeln. Während das Ergebnis oft wie logisches Denken oder Kreativität aussieht, fehlt die interne Aktivität, die beim Menschen diese erzeugt. Die Maschine ringt nicht mit dem Problem, noch erfährt sie die langsame Akkumulation von Urteilsvermögen, die aus jahrelanger Praxis resultiert. Sie sagt lediglich das nächste wahrscheinliche Wort oder Pixel basierend auf Mustern voraus, die sie zuvor gesehen hat. Die Forscher beschreiben dies als „schwache Äquivalenz“: Die Maschine gleicht den Input und den Output ab, aber der Prozess, der sie verbindet, fehlt oder ist opak. Selbst wenn diese Systeme den Anschein erwecken zu „denken“, indem sie ihren Lösungsweg aufzeigen, etwa durch das Auflisten von Schritten vor einer Antwort, ist dies oft nur eine kosmetische Darstellung. Die Schritte treiben die Berechnung nicht unbedingt an; sie sind lediglich eine weitere Ebene des Outputs, die darauf ausgelegt ist, wie logisches Denken auszusehen.
Die Studie argumentiert explizit dagegen, dass es das Problem lösen wird, wenn man diese Modelle lediglich größer macht oder ihnen mehr Daten gibt. Das Hinzufügen von mehr Text zum Trainingsdatensatz liefert nur mehr fertige Spuren, nicht aber mehr von dem unordentlichen, iterativen Prozess, der Intelligenz aufbaut. Die Forscher lehnen auch die Vorstellung ab, dass Maschinen die exakte biologische Architektur des menschlichen Gehirns kopieren müssen, um intelligent zu sein. Sie schlagen einen Mittelweg vor, den sie „starke Äquivalenz“ nennen. Dies erfordert nicht, dass eine Maschine dieselben Algorithmen wie ein menschliches Gehirn verwendet, was weder möglich noch wünschenswert ist. Stattdessen verlangt es, dass das Verhalten der Maschine durch dieselben sieben Prozessmerkmale organisiert ist, selbst wenn die physische Mechanik anders ist. Beispielsweise könnte eine Maschine „Engagement mit Unsicherheit“ demonstrieren, nicht indem sie Zweifel empfindet, sondern indem sie einen Mechanismus besitzt, der ambivalente Probleme markiert und sich weigert, eine sichere Antwort zu geben, bis mehr Informationen gesammelt wurden.
Die Auswirkungen für die menschlichen Nutzer sind ebenso kritisch wie die technische Diagnose. Die Forscher weisen darauf hin, dass wenn eine Person ein Werkzeug nutzt, das die generative Arbeit für sie erledigt, die Kapazität, die diese Arbeit aufgebaut hätte, sich nie bildet. Studien zu Schülern, die KI nutzen, deuten darauf hin, dass sie zwar mit dem Werkzeug besser abschneiden, aber oft schlechter abschneiden, wenn es entfernt wird, da sie die kognitive Anstrengung übersprungen haben, die zum Lernen erforderlich gewesen wäre. Die Gefahr ist nicht nur ein Verlust an Fertigkeiten, sondern ein Versagen der Formation. Die schwierigen, unsicheren und dialogischen Aktivitäten, die das Urteilsvermögen und die Weisheit eines Menschen formen, sind genau jene Dinge, die KI-Werkzeuge am ehesten zu umgehen versuchen. Wenn ein Werkzeug eine Ambivalenz für einen Nutzer auflöst, lernt der Nutzer nie, mit dieser Unsicherheit auszuharren. Wenn ein Werkzeug die Antwort liefert, übt der Nutzer nie das Ausprobieren und Irrtum, das nötig ist, um Geschmack und Urteilsvermögen zu entwickeln.
Um dem zu begegnen, schlagen die Autoren einen neuen Ansatz sowohl für das Design von KI als auch für deren Nutzung vor. Auf der Maschinenseite schlagen sie vor, Architekturen zu bauen, die das System zwingen, sich mit dem Prozess auseinanderzusetzen – etwa Agenten, die ihren Ansatz überarbeiten müssen, wenn sie von einem anderen Agenten herausgefordert werden, anstatt nur über eine Antwort abzustimmen. Auf der menschlichen Seite plädieren sie für „prozesserhaltende“ Unterstützung. Das bedeutet Werkzeuge, die die nächste Frage oder ein Gegenbeispiel liefern, um das Denken des Nutzers zu erweitern, anstatt die Antwort zu liefern. Das Ziel ist es, die generativen Schritte beim Menschen zu belassen und sicherzustellen, dass das Werkzeug die Aktivität des Denkens unterstützt, statt sie zu ersetzen. Die Forscher skizzieren zudem eine Methode für „Prozess-Audits“, bei denen sowohl Menschen als auch Maschinen an denselben Aufgaben unter Verwendung dieser sieben Merkmale als Bewertungsmaßstab getestet werden. Dies würde es Wissenschaftlern ermöglichen zu messen, ob eine Maschine tatsächlich am Prozess partizipiert oder nur dessen Form imitiert, und ob menschliche Nutzer ihre kognitiven Kapazitäten beibehalten, wenn sie von diesen Werkzeugen unterstützt werden.
Letztlich legt das Paper nahe, dass der Unterschied zwischen einem System, das Intelligenz produziert, und einem, die Intelligenz konstituiert, der Unterschied zwischen einem Protokoll eines Ereignisses und dem Ereignis selbst ist. Während diese Werkzeuge immer leistungsfähiger werden, muss sich der Fokus von der Optimierung des Ergebnisses hin zur Gestaltung des Prozesses verschieben. Die Forscher behaupten nicht, das Rätsel der Intelligenz gelöst zu haben, noch sagen sie, dass die aktuelle KI nutzlos sei. Stattdessen bieten sie ein klares Kriterium dafür an, was fehlt, und einen Weg nach vorn, um Systeme zu bauen, die den Prozess des Denkens – sowohl in Silizium als auch im menschlichen Geist – respektieren. Indem wir uns auf die Aktivität statt auf das Resultat konzentrieren, können wir sicherstellen, dass Maschinen, während sie fähiger werden, nicht unbeabsichtigt genau jene menschlichen Kapazitäten untergraben, die sie eigentlich unterstützen sollen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.