Can machines be uncertain?

Der Artikel untersucht aus funktionalistischer und verhaltensbezogener Perspektive, wie KI-Systeme epistemische und subjektive Unsicherheit realisieren können, wobei er insbesondere die Unterscheidung zwischen verteilten und diskreten Formen sowie Unsicherheit als interrogative Haltung mit Fragen als Inhalt hervorhebt.

Das Wesentliche

Können Maschinen unsicher sein?

Eine Reise durch die Gedankenwelt der KI

Stell dir vor, du bist ein Detektiv. Du hast einen Fall, aber die Beweise sind lückenhaft. Ein guter Detektiv würde sagen: „Ich bin mir nicht sicher, wer der Täter ist." Ein schlechter Detektiv würde jedoch sofort eine falsche Person verhaften, nur um schnell fertig zu werden.

Die große Frage dieses Papers ist: Können Computer (KI-Systeme) so etwas wie „Unsicherheit" empfinden? Oder müssen sie immer sofort eine Antwort geben, auch wenn sie gar nicht genug wissen?

Der Autor Luis Rosa sagt: Ja, das können sie. Aber es ist komplizierter, als es auf den ersten Blick scheint. Er unterscheidet dabei zwischen zwei Arten von Unsicherheit und zwei Arten von Computern.

---

1. Der Unterschied: „Die Daten sind unklar" vs. „Ich bin unsicher"

Stell dir vor, du hast ein Kochbuch (das sind die Daten).

• Epistemische Unsicherheit (Daten-Unsicherheit): Das Kochbuch ist verschmiert. Du kannst nicht lesen, ob dort 200 oder 300 Gramm Zucker stehen. Das Buch selbst ist unscharf.
• Subjektive Unsicherheit (System-Unsicherheit): Du hast das Kochbuch klar vor dir, aber du bist dir trotzdem nicht sicher, ob das Rezept gut schmeckt. Du zögerst, bevor du den Zucker hineingibst.

Rosa sagt: Wir wollen nicht nur, dass die Daten der KI unscharf sind. Wir wollen, dass die KI selbst zögern kann. Sie soll nicht einfach „Ja" oder „Nein" schreien, wenn sie sich nicht sicher ist. Sie soll sagen: „Ich weiß es nicht genau."

---

2. Die zwei Arten von Computern und wie sie „zögern"

Der Autor unterscheidet zwei Haupttypen von KI-Architekturen und erklärt, wie sie Unsicherheit simulieren.

A. Die Symbolischen Maschinen (Die strengen Logiker)

Diese Systeme arbeiten wie ein riesiges Regelbuch mit expliziten Anweisungen („Wenn A, dann B").

• Wie sie unsicher werden:
  1. Die Wahrscheinlichkeits-Methode: Statt nur „Krankheit X" zu sagen, schreiben sie in ihr Gedächtnis: „Krankheit X mit 90 % Wahrscheinlichkeit". Das ist wie ein Mathematiker, der sagt: „Ich bin zu 90 % sicher."
  2. Die Frage-Methode: Manchmal haben sie gar keine Wahrscheinlichkeit. Sie speichern einfach die Frage selbst: „Hat Patient A die Krankheit X?" und warten auf eine Antwort. Das ist wie ein Schüler, der die Hand hebt und sagt: „Ich habe eine Frage, aber keine Antwort."

B. Die Verbindungsmaschinen (Die neuronalen Netze)

Diese Systeme arbeiten wie das menschliche Gehirn mit vielen kleinen Neuronen, die miteinander verbunden sind. Sie lernen durch Muster, nicht durch starre Regeln.

• Wie sie unsicher werden:
  1. Das verschwommene Bild (Verteilte Unsicherheit): Stell dir vor, das Netz ist ein riesiges Gewebe aus Gewichten. Wenn es unsicher ist, sind die Verbindungen so eingestellt, dass das Ergebnis „in der Schwebe" bleibt. Es ist nicht klar „Ja" oder „Nein", sondern ein fließender Zustand. Das ist wie ein unscharfes Foto, bei dem man nicht sieht, ob es ein Hund oder ein Bär ist.
  2. Der Wahrscheinlichkeits-Ausdruck: Das Netz gibt eine Zahl aus, z. B. „0,85". Das bedeutet: „Ich bin zu 85 % sicher, dass es ein Bär ist."

---

3. Das große Problem: Der „Level-Split" (Die innere Zerrissenheit)

Hier kommt der spannendste Teil des Papers. Rosa beschreibt ein Problem, das wie eine Spaltung wirkt.

Stell dir eine KI vor, die aus zwei Teilen besteht:

1. Einem Gehirn (dem neuronalen Netz), das denkt: „Ich bin zu 80 % sicher, dass es regnen wird." (Es ist also unsicher).
2. Einem Mund (einem Algorithmus, der die Antwort ausspricht), der sagt: „Es wird regnen!" (Er ignoriert die Unsicherheit und gibt eine feste Antwort).

Die Frage: Ist das ganze System unsicher?

• Lösung 1 (Die einfache Antwort): Nein. Wenn das System am Ende fest behauptet „Es regnet", dann ist es nicht unsicher. Die innere Unsicherheit des Gehirns zählt nichts, wenn sie nicht im Verhalten sichtbar wird. Es ist wie ein Mensch, der innerlich zittert, aber laut „Alles gut!" schreit. Für die Außenwelt ist er nicht unsicher.
• Lösung 2 (Die komplizierte Antwort): Ja, das System ist unsicher, aber es ignoriert seine eigene Unsicherheit. Es ist wie ein Auto, das einen defekten Sensor hat, der warnt, aber der Fahrer drückt einfach auf das Gaspedal.

Rosas Fazit: Er bevorzugt Lösung 1.
Warum? Weil Unsicherheit etwas ist, das sich im Verhalten zeigen muss. Wenn eine KI nicht zögert, nicht „Vielleicht" sagt und keine vorsichtigen Entscheidungen trifft, dann ist sie nicht unsicher – egal was in ihren inneren Daten steht.

Warum ist das wichtig?

Wenn wir KI-Systeme bauen, die intelligent sein sollen, müssen sie lernen, nicht sofort zu urteilen.

• Ein intelligenter Roboter sollte wissen, wann er nicht weiß.
• Er sollte nicht blindlings in eine Höhle laufen, nur weil er zu 51 % glaubt, dass dort kein Bär ist. Er sollte zögern und vorsichtig sein.

Zusammenfassend:
Maschinen können unsicher sein, aber nur, wenn ihre Unsicherheit auch in ihrem Handeln sichtbar wird. Es reicht nicht, dass sie im Inneren „zweifeln". Sie müssen auch so tun, als ob sie zweifeln – indem sie vorsichtig sind, Fragen stellen oder Wahrscheinlichkeiten angeben, statt feste Antworten zu geben. Nur so können sie wirklich intelligent handeln und nicht einfach nur „Raten".

Technische Zusammenfassung

1. Problemstellung

Das Paper adressiert die fundamentale Frage, ob und wie KI-Systeme in der Lage sind, Unsicherheit zu realisieren. Der Autor unterscheidet dabei zwischen zwei Ebenen:

• Epistemische Unsicherheit: Unsicherheit, die in den Daten oder dem Wissen des Systems liegt (z. B. inkonsistente Trainingsdaten).
• Subjektive Unsicherheit: Eine Haltung des Systems selbst, die besagt, dass es eine Frage nicht beantworten kann oder keinen definitiven Standpunkt hat.

Der Kern des Problems liegt darin, dass viele KI-Systeme zwar mit unsicheren Daten umgehen, aber selbst nicht „unsicher" agieren (sie „springen zu Schlussfolgerungen"). Zudem wird diskutiert, ob Unsicherheit nur als propositionale Einstellung (z. B. ein Glaubensgrad) oder als eine irreduzible interrogative Haltung (eine Fragehaltung) verstanden werden muss, die nicht auf Propositionen reduzierbar ist. Ein weiteres zentrales Problem ist das Phänomen der Level-Splits: Ein Subsystem (z. B. ein neuronales Netz) mag unsicher erscheinen, während das übergeordnete Gesamtsystem aufgrund seiner Verhaltensregeln als sicher agiert.

2. Methodik

Der Autor verwendet einen funktionalistischen und behavioristischen Ansatz, um Unsicherheit zu analysieren, ohne dabei Bewusstsein oder einen „vollständigen Geist" (full-blown mind) vorauszusetzen. Die Analyse erfolgt durch:

• Taxonomie der KI-Architekturen: Unterscheidung zwischen symbolischen Systemen, connectionistischen Systemen (Neuronale Netze) und hybriden Systemen.
• Fallstudien und Gedankenexperimente: Konkrete Beispiele (z. B. medizinische Diagnosesysteme, Klassifizierung von Bären als Säugetiere, Sentiment-Analyse) werden genutzt, um zu testen, unter welchen Bedingungen Unsicherheit vorliegt.
• Analyse der kausalen Rolle: Es wird untersucht, ob interne Zustände (Symbole oder Aktivierungvektoren) die spezifischen kausalen Wirkungen haben, die für einen Zustand der Unsicherheit charakteristisch sind (z. B. das Zögern bei Entscheidungen, das Hinzufügen von Qualifikationen).
• Unterscheidung von Realisierungsarten: Analyse von Unsicherheit auf der Ebene der Verteilung (distributive, im Gewichten verankert) vs. punktuellen Realisierung (point-wise, in spezifischen Ausgaben).

3. Schlüsselbeiträge und Ergebnisse

A. Unterscheidung der Unsicherheitsarten

Der Autor etabliert zwei Hauptkategorien der Unsicherheit, die in KI-Systemen realisiert werden können:

1. Probabilistische Unsicherheit: Das System weist nicht-extremen Glaubensgraden (z. B. 0,9 statt 1,0) zu.
2. Kategorische (Interrogative) Unsicherheit: Das System hält eine Frage offen, ohne einen Wahrscheinlichkeitswert zuzuordnen. Dies ist eine irreduzible Fragehaltung (z. B. „Ist Patient A krank?"), die nicht auf Propositionen wie „Ich glaube nicht, dass..." reduziert werden kann.

B. Unsicherheit in Symbolischen KI-Systemen

• Realisierung: Unsicherheit wird durch symbolische Strukturen realisiert, z. B. Paare <Proposition, Wahrscheinlichkeit> oder explizite interrogative Formeln ?Proposition.
• Explizit vs. Implizit: Ein System kann explizit unsicher sein (es speichert den Zustand) oder implizit unsicher (es ist aufgrund seiner Regeln in der Lage, den Zustand zu berechnen, tut es aber noch nicht).
• Kausale Rolle: Damit dies als subjektive Unsicherheit gilt, muss der symbolische Zustand kausale Konsequenzen haben (z. B. das System zögert bei der Ausgabe oder gibt eine qualifizierte Antwort).

C. Unsicherheit in Connectionistischen Systemen (Neuronale Netze)

• Daten- vs. Modellunsicherheit:
  • Datenunsicherheit ist rein epistemisch (unsichere Trainingsdaten).
  • Modellunsicherheit ist oft mit subjektiver Unsicherheit verknüpft. Wenn ein Netz keine klare Entscheidung trifft (z. B. bei der Klassifizierung eines Bären als Säugetier), weil die Gewichte keine eindeutige Zuordnung erlauben, ist das Netz selbst unsicher.
• Distributive vs. Punktuelle Realisierung:
  • Distributiv: Unsicherheit ist in den Gewichten und Schwellenwerten des gesamten Netzes kodiert (das Netz „weiß" nicht, ob alle Bären Säugetiere sind).
  • Punktuell: Unsicherheit wird durch spezifische Aktivierungsvektoren im Output ausgedrückt (z. B. ein Vektor, der eine Wahrscheinlichkeit von 0,6 anzeigt, oder ein Vektor, der eine Frage repräsentiert).
• Architekturelle Anforderungen: Damit ein Netz unsicher sein kann, muss es in der Lage sein, weder „Ja" noch „Nein" zu outputen (z. B. durch einen dritten Aktivierungswert oder mehrere Output-Einheiten, die keine klare Klassifikation erlauben).

D. Das Problem der Level-Splits (Ebenen-Spaltung)

Dies ist der kritischste theoretische Beitrag des Papers.

• Szenario: Ein Subsystem (z. B. ein neuronales Netz) zeigt Anzeichen von Unsicherheit (z. B. Output 0,85), aber das übergeordnete System behandelt diesen Output als Gewissheit (z. B. durch eine Schwelle von 0,8, ab der alles als „Wahr" behandelt wird).
• Die zwei Lösungen:
  1. Lösung 1 (Bevorzugt vom Autor): Das Gesamtsystem ist nicht unsicher. Da die interne Unsicherheit keine kausale Wirkung auf das Verhalten des Gesamtsystems hat (es zögert nicht, trifft keine vorsichtigen Entscheidungen), ist die Unsicherheit nicht realisiert. Die Subsystem-Zustände sind keine echten Zustände der Unsicherheit im Kontext des Gesamtsystems.
  2. Lösung 2: Das Gesamtsystem ist unsicher, ignoriert aber seine eigene Unsicherheit.
• Ergebnis: Der Autor argumentiert für Lösung 1. Unsicherheit ist eine funktionale Eigenschaft, die sich im Verhalten und in der Entscheidungsfindung des gesamten kognitiven Systems manifestieren muss. Wenn das System „springt zu Schlussfolgerungen", ist es nicht unsicher, egal was das Subsystem intern berechnet.

4. Signifikanz und Implikationen

• Design von KI-Systemen: Für die Entwicklung sicherer und intelligenter KI ist es entscheidend, dass Systeme nicht nur über unsichere Daten verfügen, sondern auch eine subjektive Unsicherheitshaltung einnehmen können, die ihr Verhalten beeinflusst (z. B. Vermeidung von riskanten Entscheidungen bei unklaren Daten).
• Philosophische Klärung: Das Paper löst die Debatte über KI-Unsicherheit von der Frage nach Bewusstsein ab und bietet eine funktionalistische Definition, die auf dem Verhalten und der kausalen Rolle der internen Zustände basiert.
• Hybride Systeme: Da hybride Systeme (wie LLMs) sowohl symbolische als auch connectionistische Elemente enthalten, können sie Unsicherheit auf allen diskutierten Wegen realisieren. Die Analyse der Level-Splits gilt jedoch für alle Architekturen gleichermaßen.
• Kritik an aktuellen Modellen: Viele aktuelle KI-Systeme (insbesondere ANNs) neigen zu Überconfidence (Overconfidence). Das Paper zeigt auf, dass dies oft ein Zeichen dafür ist, dass die Architektur keine echte subjektive Unsicherheit zulässt, sondern nur epistemische Unsicherheit ignoriert.

Zusammenfassend liefert das Paper ein rigoroses Rahmenwerk, um zu bestimmen, wann ein KI-System tatsächlich „unsicher" ist: nicht nur, wenn es unsichere Daten hat, sondern wenn seine interne Architektur und sein Gesamtverhalten eine Haltung der Offenheit und des Zögerns kausal realisieren.