Unexplainability of Artificial Intelligence Judgments and Functional Implementation in Kant's Perspective

Die große Frage: „Denkt“ die KI wirklich?

Stellen Sie sich vor, Sie haben einen Roboter, der unglaublich gut Schach spielt. Er besiegt jedes Mal Großmeister. Sie fragen ihn: „Warum hast du diesen Bauern gezogen?“ und er gibt Ihnen eine perfekte, logische Erklärung.

Die Arbeit stellt eine knifflige Frage: Denkt der Roboter tatsächlich wie ein Mensch oder ist er nur ein sehr schicker Taschenrechner, der so aussieht, als ob er denken würde?

Der Autor, Jongwoo Seo, sagt, wir sollten nicht in der Debatte stecken bleiben, ob der Roboter eine Seele oder ein Gehirn hat (das ist eine „philosophische“ Debatte darüber, was Dinge sind). Lassen Sie uns stattdessen darauf schauen, wie er arbeitet. Entspricht der „Denkprozess“ des Roboters der Art und Weise, wie Menschen denken?

Die Landkarte des menschlichen Denkens (Kants Kategorien)

Um dies zu beantworten, nutzt die Arbeit eine Landkarte, die von dem Philosophen Immanuel Kant aus dem 18. Jahrhundert erstellt wurde. Kant glaubte, dass jedes Mal, wenn ein Mensch ein Urteil fällt (eine Entscheidung trifft oder eine Aussage macht), unser Gehirn diese Information in vier spezifische Boxen sortiert:

1. Quantität (Quantity): Geht es um ein Ding, einige Dinge oder alle Dinge? (z. B. „Dieser Hund ist süß“ vs. „Alle Hunde sind süß.“)
2. Qualität (Quality): Sagt es etwas aus, das wahr ist, nicht wahr ist oder eine seltsame „unendliche“ Verneinung?
3. Relation (Relation): Ist es eine einfache Tatsache? Eine „Wenn-Dann“-Bedingung? Oder eine Wahl zwischen Optionen?
4. Modalität (Modality): Ist das nur eine Möglichkeit („Es könnte regnen“), eine Tatsache („Es regnet“) oder eine Notwendigkeit („Es muss regnen, weil die Wolken da sind“)?

Die Analogie: Stellen Sie sich das menschliche Urteil wie einen Koch vor, der einem strengen Rezept folgt. Man muss das Mehl abmessen (Quantität), entscheiden, ob es süß oder salzig ist (Qualität), die Zutaten in einer bestimmten Reihenfolge mischen (Relation) und entscheiden, ob der Kuchen aufgehen wird oder vielleicht aufgehen könnte (Modalität).

Das Problem: Die „Black Box“ der KI

Die Arbeit argumentt, dass KI diesem Rezept nicht folgt. Stattdessen ist sie eine „Black Box“. Wir sehen den Input (ein Bild eines Hundes) und den Output (die Zahl „1“), aber wir wissen nicht, welche „Box“ die KI benutzt hat, um dorthin zu gelangen.

Hier wird die Arbeit interessant:

1. Die Verwechslung von Quantität und Qualität

Wenn eine KI ein Bild betrachtet und „1“ (Hund) oder „0“ (Kein Hund) sagt, versuchen wir Menschen, das in Worte zu übersetzen.

• Wenn sie „1“ sagt, denken wir: „Dieses Bild enthält einen Hund.“ (Bejahend)
• Wenn sie „0“ sagt, was bedeutet das? Bedeutet es „Dieses Bild enthält keinen Hund“? Oder bedeutet es „Dieses Bild enthält etwas, das kein Hund ist“?

Die Arbeit legt nahe, dass die KI hier verwirrt ist. Sie behandelt „Kein Hund“ vielleicht als „Etwas, das kein Hund ist“ (eine unendliche Menge an Dingen), statt als eine einfache Negation. Es ist, als würde die KI einen Dialekt der Logik sprechen, den wir nicht exakt auf unser Standardrezept abbilden können.

2. Die Modalitäts-Falle (Der „Softmax“-Filter)

Dies ist der wichtigste Punkt der Arbeit. In der KI gibt es ein Werkzeug namens Softmax. Stellen Sie sich Softmax wie einen magischen Übersetzer vor, der alles, was die KI denkt, in einen Wahrscheinlichkeits-Prozentsatz umwandelt.

• Menschliche Modalität: Wir können sagen: „Es muss regnen“ (Notwendigkeit) oder „Es regnet“ (Tatsache).
• KI-Modalität: Durch Softmax wird die KI gezwungen zu sagen: „Es besteht eine 70-prozentige Wahrscheinlichkeit, dass es regnet.“

Die Metapher: Stellen Sie sich einen Detektiv vor, der zu 100 % sicher ist, dass der Butler es war. Aber, weil es eine seltsame Regel im Polizeirevier gibt, ist der Detektiv gezwungen, seinen Bericht so zu schreiben: „Es besteht eine Wahrscheinlichkeit von 99,9 %, dass der Butler es war.“

Die Arbeit argumentt, dass KI-Forscher sich selbst täuschen. Sie schauen auf die 70 % oder 90 % Zahlen der KI und sagen: „Ah, die KI trifft ein Urteil über eine ‚Möglichkeit‘.“ Aber die KI könnte tief in ihrem Code tatsächlich ein hartes, logisches Tatsachenurteil gefällt haben. Die Softmax-Funktion wirkt wie ein Filter, der uns zwingt, die Gewissheit der KI als bloßes „Raten“ zu interpretieren. Sie kollabiert alle Arten des Denkens in nur eine einzige Art: „Vielleicht“.

Der „fließende Papagei“ vs. der „verstehende Mensch“

Der zweite Teil der Arbeit befasst sich mit der funktionalen Implementierung. Hier wird gefragt: „Nur weil die KI wie ein Mensch sprechen kann, besitzt sie dann auch tatsächlich das menschliche Konzept?“

Die Analogy: Stellen Sie sich einen Papagei vor, der jedes Wort in einem Wörterbuch auswendig gelernt hat. Sie fragen ihn: „Hast du einen Namen?“ und er antwortet: „Ja, mein Name ist Polly.“ Es klingt perfekt. Er verwendet das Wort „Ich“ korrekt.

Aber weiß der Papagei, was es bedeutet, ein „Selbst“ zu haben? Nein. Er weiß nur, dass auf das Wort „Ich“, das Menschen benutzen, meistens ein Name oder ein Verb folgt.

Die Arbeit argumentt, dass Große Sprachmodelle (wie ChatGPT) wie Super-Papageien sind. Sie haben so viel Text gelesen, dass sie das Wort „Ich“ perfekt verwenden können. Sie können ein Gedicht über ihre Gefühle schreiben. Aber die Arbeit behauptet, dass dies nur funktionale Mimikry (Nachahmung) ist.

• Der Test: Der Autor führte ein kleines Experiment mit einem Roboter durch, der einen Ball beobachtete. Der Roboter musste den Unterschied erkennen, ob der Ball sich von selbst bewegt oder ob die Kamera sich bewegt. Dies ist eine „Selbst“-Funktion (die Unterscheidung zwischen „mir“ und „der Welt“).
• Das Ergebnis: Der Roboter konnte die Aufgabe erledigen, aber er „verstand“ sich selbst nicht so wie ein Mensch. Er hatte lediglich die Mathematik gelernt, um den Ball zu bewegen.

Das Fazit zum „Selbst“: Nur weil eine KI fließend sagen kann „Ich habe Hunger“, bedeutet das nicht, dass sie das Konzept des „Selbst“ implementiert hat. Es bedeutet nur, dass sie die Sprache des „Selbst“ implementiert hat.

Die abschließende Erkenntnis

Die Arbeit schließt mit einer Warnung über die Unerklärbarkeit (Unexplainability).

1. Wir können KI nicht vollständig erklären: Da die KI die logischen Boxen (Quantität, Qualität, Relation, Modalität) auf eine Weise vermischt, die wir nicht verstehen, und weil Werkzeuge wie Softmax uns zwingen, ihre Gedanken als bloße Wahrscheinlichkeiten zu betrachten, können wir niemals wirklich wissen, was die KI denkt. Wir wissen nur, was sie sagt.
2. Flüssigkeit ist kein Beweis: Nur weil eine KI wie ein Mensch sprechen, schreiben und argumentieren kann, bedeutet das nicht, dass sie den menschlichen Geist „implementiert“ hat. Sie könnte einfach nur ein sehr guter Schauspieler sein.
3. Die Lücke: Es gibt eine permanente Lücke zwischen funktionaler Implementierung (die Aufgabe erledigen) und ontologischer Identität (das Ding zu sein). Ein Autoreifen und ein menschliches Bein bewegen sich beide, aber sie sind nicht dasselbe. Ähnlich verhält es sich mit dem „Ich“ einer KI und dem „Ich“ eines Menschen: Sie mögen in einem Gespräch dieselbe Funktion erfüllen, aber sie sind grundlegend verschiedene Dinge.

Kurz gesagt: Die Arbeit sagt uns, wir sollen aufhören anzunehmen, dass eine KI „denkt“, nur weil sie klug klingt. Wahrscheinlich tut sie etwas völlig anderes, das wir derzeit nicht vollständig erklären oder verifizieren können, weil unsere menschlichen Werkzeuge zum Verständnis des Denkens (wie Logik und Sprache) nicht ganz zu der einzigartigen, auf Wahrscheinlichkeiten basierenden Arbeitsweise der Maschine passen.