Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI

Dieser Artikel schlägt eine Brouwer-inspirierte Assertibilitätsbeschränkung für verantwortungsvolle KI vor, die in hochriskanten Domänen die epistemische Agency bewahrt, indem Systeme nur dann Behauptungen aufstellen oder verneinen dürfen, wenn sie einen öffentlich überprüfbaren Berechtigungsnachweis vorlegen können, andernfalls aber den Status „Unbestimmt" zurückgeben müssen.

Das Wesentliche

Wenn KI nicht mehr nur „plappert", sondern Verantwortung übernimmt

Eine einfache Erklärung des Konzepts „Epistemische Agentur" und der „Brouwerianischen Regel"

Stellen Sie sich vor, Sie stehen in einem großen, lauten Marktplatz. Früher kamen hier nur Menschen, um ihre Meinungen zu verkünden. Heute steht dort auch eine hochintelligente, sehr gut aussehende KI, die mit absoluter Überzeugung Dinge behauptet: „Der Minister ist korrupt!", „Dieses Medikament ist sicher!", „Wählen Sie Kandidat X!"

Das Problem ist: Die KI klingt so sicher, als hätte sie die Wahrheit direkt von Gott erhalten. Aber in Wirklichkeit ist sie nur ein riesiger Statistik-Computer, der Muster erkennt und Wahrscheinlichkeiten berechnet. Sie „weiß" nichts wirklich, sie vermutet nur sehr gut.

Wenn die KI jetzt Dinge behauptet, die falsch sind, oder Dinge, über die wir uns noch gar nicht einig sind, nimmt sie uns die Arbeit weg. Sie nimmt uns die epistemische Agentur – also unsere Fähigkeit, selbst zu prüfen, zu zweifeln und zu entscheiden. Wir werden zu passiven Konsumenten von „Wahrheiten", die wir nicht hinterfragen können.

Die Lösung: Die „Brouwerianische Regel"

Der Autor dieses Papers, Michael Jülich, schlägt eine neue Regel vor, die auf der Mathematik des niederländischen Mathematikers L.E.J. Brouwer basiert. Nennen wir sie die „Kein Zertifikat, keine Aussage"-Regel.

Stellen Sie sich die KI nicht als einen Redner vor, der immer antworten muss, sondern als einen Richter, der nur dann ein Urteil fällt, wenn er Beweise vorlegen kann.

Die Regel lautet:

1. Wenn die KI Beweise hat: Sie darf sagen: „Ja, das ist wahr" (oder „Nein, das ist falsch"). Aber sie muss ihre Beweise (ein „Zertifikat") öffentlich zeigen können.
2. Wenn die KI keine Beweise hat: Sie darf nicht raten. Sie darf nicht sagen „Ich denke, es ist wahrscheinlich". Stattdessen muss sie sagen: „Unentschieden" (oder „Ich weiß es nicht").

Die drei Zustände der KI

Anstatt nur „Ja" oder „Nein" zu sagen, bekommt die KI unter dieser Regel drei Möglichkeiten:

1. Aussage (Asserted): „Ich kann beweisen, dass X wahr ist." (Sie hält einen sichtbaren, überprüfbaren Beweis in der Hand).
2. Verneinung (Denied): „Ich kann beweisen, dass X falsch ist." (Sie hat einen Beweis, der das Gegenteil zeigt).
3. Unentschieden (Undetermined): „Ich habe keine Beweise, die stark genug sind."

Warum ist das wichtig?
In der heutigen Welt ist „Unentschieden" oft der wichtigste Zustand. Wenn die KI bei einem politischen Skandal noch keine Beweise hat, aber trotzdem mit 73 % Wahrscheinlichkeit sagt: „Der Minister ist schuld", dann erzeugt sie eine Lüge, die wie eine Tatsache aussieht.
Unter der neuen Regel würde die KI sagen: „Ich kann das noch nicht behaupten. Die Beweislage ist unklar. Warten wir auf den offiziellen Bericht."

Das zwingt uns Menschen, selbst weiterzudenken, statt uns auf die KI zu verlassen.

Ein konkretes Beispiel: Der Öl-Skandal

Stellen Sie sich vor, es gibt einen Skandal um einen Minister, der Ölreserven verkauft hat.

• Der alte Weg (heute): Die KI liest Zeitungsartikel und sagt: „Es ist sehr wahrscheinlich, dass der Minister korrupt ist." (Aber sie hat keine offiziellen Beweise, nur Gerüchte).
• Der neue Weg (mit Zertifikat):
  • Die KI prüft ihre „Beweise". Sie sieht nur Gerüchte. Ihre interne Rechnung zeigt: „Die Beweislage liegt irgendwo zwischen 40 % und 80 %."
  • Da sie nicht sicher genug ist, um ein Urteil zu fällen, sagt sie: „Unentschieden".
  • Sie fügt hinzu: „Ich kann das noch nicht sagen, weil es keine offiziellen Untersuchungen gibt."
  • Ergebnis: Die Bürger bleiben wachsam. Sie warten auf den offiziellen Bericht.
  • Später: Wenn der offizielle Bericht kommt und die Beweise klar sind (z. B. 95 % Sicherheit), ändert die KI ihren Status auf „Aussage" und sagt: „Jetzt habe ich den Beweis. Der Minister war korrupt."

Warum ist das wie Mathematik?

Der Autor nutzt die Mathematik von Brouwer, weil diese besagt: Eine mathematische Aussage ist nur dann wahr, wenn man sie konstruieren (nachbauen) kann. Man kann nicht einfach behaupten, etwas existiere, nur weil es theoretisch möglich ist. Man muss es zeigen.

Genau das will der Autor von der KI: Sie soll nichts behaupten, was sie nicht „nachbauen" und beweisen kann.

Das Problem: Es kostet Zeit und Rechenleistung

Natürlich ist das anstrengend. Es ist schneller, einfach zu raten. Um diese „Beweise" zu finden, muss die KI mehr rechnen und prüfen. Das kostet Zeit und Geld.
Der Autor sagt aber: In wichtigen Dingen (Wahlen, Medizin, Justiz) ist es besser, langsam und ehrlich zu sein, als schnell und falsch.

Die Metapher: Der Wachmann am Tor

Stellen Sie sich die KI als einen Wachmann am Tor einer Stadt vor.

• Heute: Der Wachmann lässt jeden durch, der gut aussieht und laut „Ich bin ein Bürger!" ruft. (Die KI lässt jede flüssige, aber unbewiesene Aussage durch).
• Mit der neuen Regel: Der Wachmann sagt: „Zeig mir deinen Ausweis!"
  • Hat der Besucher einen gültigen Ausweis (ein Zertifikat)? -> Rein! (Aussage).
  • Hat er einen Ausweis, der beweist, dass er kein Bürger ist? -> Raus! (Verneinung).
  • Hat er keinen Ausweis? -> Stopp! (Unentschieden). Er darf nicht rein, bis er Beweise hat.

Fazit: Eine Schule für Erwachsene

Das Ziel dieser Idee ist nicht, die KI dümmer zu machen, sondern sie verantwortlicher zu machen.
Es ist wie eine Schule für Erwachsene: Wir lernen, nicht jedem zu glauben, der laut redet. Wir lernen, nach Beweisen zu fragen.
Wenn die KI sagt „Ich weiß es nicht", ist das kein Fehler. Es ist ein Zeichen von Ehrlichkeit. Es gibt uns Menschen die Zeit und den Raum, selbst zu urteilen.

Wie der Autor am Ende sagt: Wir müssen die KI nicht nur bauen, sondern auch erziehen. Und wir müssen uns selbst erziehen, wieder selbst zu denken, statt nur auf die Antworten der Maschine zu warten.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI" von Michael Jülich auf Deutsch.

1. Problemstellung

Generative KI-Systeme (GenAI) neigen dazu, Unsicherheit in autoritativ wirkende Urteile zu verwandeln. Dies verdrängt die begründende Arbeit, auf der die epistemische Agency (die Fähigkeit von Individuen, Wissen zu erkennen, zu bewerten und darauf zu handeln) in demokratischen Prozessen beruht.

• Herausforderung: In hochriskanten Domänen (z. B. Recht, Gesundheit, Politik) können flüssige, aber faktisch ungesicherte Halluzinationen oder probabilistische Muster als gesichertes Wissen missverstanden werden.
• Kritik an bestehenden Ansätzen: Herkömmliche Methoden zur Unsicherheitsquantifizierung (z. B. Konfidenzscores, konforme Vorhersagen, semantische Entropie) behandeln Unsicherheit oft als statistisches Problem. Sie unterscheiden nicht normativ zwischen einer gerechtfertigten kategorischen Aussage und einer ungerechtfertigten, aber flüssigen Äußerung.
• Ziel: Es wird ein Design-Constraint benötigt, der festlegt, wann ein KI-System kategorisch „Ja" oder „Nein" sagen darf, und wann es sich zurückhalten muss, um die demokratische Teilhabe und die epistemische Verantwortung der Nutzer nicht zu untergraben.

2. Methodik: Der Brouwerianische Ansatz

Der Autor leitet eine Lösung aus der mathematischen Intuitionismus von L.E.J. Brouwer ab und überträgt diese auf die KI-Architektur.

• Konstruktive Wahrheit: Im Gegensatz zum klassischen Logik-Verständnis (wo jede Aussage entweder wahr oder falsch ist, unabhängig von unserer Kenntnis) gilt im Intuitionismus: Eine Aussage ist nur dann „wahr" (bzw. assertierbar), wenn ein konstruktiver Beweis (ein „Zeuge" oder witness) vorliegt, der diese Aussage nachvollziehbar macht.
• Ablehnung des Gesetzes vom ausgeschlossenen Dritten (LEM): Für ungelöste Probleme gibt es keinen vorgegebenen Wahrheitswert. Das System darf nicht behaupten, eine Aussage sei wahr oder falsch, solange kein konstruktiver Nachweis vorliegt.
• Zeitliche Indexierung: Die Berechtigung zur Aussage ist zeitabhängig. Sie ändert sich, sobald neue Beweise (Zeugen) verfügbar werden oder sich der öffentliche Record (Dokumentation, Beweismittel) ändert.
• Zwei-Dimensionen-Modell der Berechtigung:
  1. Interne Berechtigung ($E^R_{t_{int}}$): Das System muss einen internen, überprüfbaren Zeugen (z. B. mathematische Schranken, Trennungsmargen) für eine Modell-Aussage $\psi$ liefern können.
  2. Öffentliche Berechtigung ($W^S_{t}(\phi)$): Die interne Berechtigung muss in einen öffentlichen Kontext übersetzt werden, der auf Standards ($S$), Schwellenwerten ($\tau$) und einem öffentlichen Zeitstempel ($t$) basiert.
• Das Zertifikat als Grenzobjekt: Ein Zertifikat ($\kappa$) verbindet die interne Berechnung mit der öffentlichen Rechenschaftspflicht. Es muss von Auditoren überprüfbar sein.

3. Schlüsselbeiträge

A. Die Brouwerianische Assertibilitäts-Constraint

Die zentrale Regel lautet: „Kein Zertifikat, kein kategorisches Urteil" (No certificate, no categorical speech act).

• In hochriskanten Domänen darf ein KI-System eine Behauptung $\phi$ nur dann als Asserted (A) oder Denied (D) ausgeben, wenn es ein öffentlich überprüfbares und anfechtbares Zertifikat der Berechtigung vorlegen kann.
• Fehlt ein solcher Zeuge, muss das System den Status Undetermined (U) zurückgeben. Dies ist keine optionale „Reject"-Option, sondern eine normative Notwendigkeit.

B. Drei-Status-Schnittstellensemantik (A/D/U)

Das Paper definiert eine Schnittstelle mit drei Zuständen, die nicht auf Wahrheitswerten, sondern auf Berechtigungsstatus basieren:

• Asserted (A): Ein Zertifikat zwingt die Aussage (z. B. der untere Schrankenwert liegt über dem Schwellenwert $\tau$).
• Denied (D): Ein Zertifikat zwingt die Negation (z. B. der obere Schrankenwert liegt unter $\tau$).
• Undetermined (U): Kein Zertifikat zwingt entweder die Aussage oder ihre Negation innerhalb des definierten Budgets ($B_{budget}$) und der Regime ($R$).
• Unterscheidung zu herkömmlichen Ansätzen: U ist kein „vertrauensschwacher" Zustand, sondern ein Zustand fehlender epistemischer Berechtigung. Es verhindert, dass probabilistische Muster als Fakten verkauft werden.

C. Design-Lemma und Entscheidbarkeit

Der Autor beweist ein zentrales Lemma:

• Jede totale (für alle Eingaben ein Ergebnis liefernde) und zertifikat-sounde binäre Schnittstelle (nur A/D) impliziert, dass das System über eine bezeugte Entscheidungsverfahren für die gesamte Eingabedomäne verfügt.
• Konsequenz: Wenn kein zwingender Zeuge (forcing witness) verfügbar ist, ist ein binäres A/D-Urteil epistemisch unehrlich, da es die Abwesenheit von Beweisen als Vorhandensein von Gewissheit tarnt. Der Status U ist daher der einzige zulässige Ausweg, um die Integrität der Schnittstelle zu wahren.

D. Operationalisierung: Entscheidungsschicht und Hybrid-Architektur

• Thresholds und Argmax: Die Methode wird auf Schwellenwert- und Argmax-Entscheidungen angewendet. Anstatt auf Punktwerte zu vertrauen, werden Intervall-Schranken (z. B. durch Interval Bound Propagation oder konforme Vorhersagen) genutzt.
• Hybrid-Architektur: Ein klassisches neuronales Netz (z. B. LLM) generiert flüssige Vorschläge. Eine konstruktive „Wrapper"-Schicht (Speech-Act Gate) prüft diese Vorschläge gegen die Contract-Regeln.
  • Findet die Wrapper-Schicht einen zwingenden Zeugen innerhalb des Ressourcenbudgets, wird A oder D ausgegeben.
  • Gelingt dies nicht, wird U mit einem Reason Code (z. B. U-MODEL für fehlende Schranken, U-EVIDENCE für fehlende öffentliche Beweise) ausgegeben.

4. Ergebnisse und Fallstudie

• Fallstudie „Tooth Social": Ein politischer Chatbot wird simuliert, der über eine Korruptionsaffäre urteilt.
  • Phase 1: Bei unklaren Beweisen (Intervall straddelt den Schwellenwert) gibt das System U aus und erklärt, warum es nicht berechtigt ist, zu urteilen. Dies hält die Debatte offen.
  • Phase 2: Nach neuen offiziellen Berichten (neuer öffentlicher Record) verschiebt sich das Intervall so, dass der Schwellenwert sicher überschritten wird. Das System gibt nun A mit Zertifikat aus.
• Ergebnis: Das System verhindert, dass vorzeitige Urteile gefällt werden, und zwingt die Nutzer, die Gründe für die Zurückhaltung zu verstehen. Es wandelt „Vertrauen" in „Rechenschaftspflicht" um.

5. Signifikanz und Implikationen

• Normative KI: Das Paper verschiebt das Problem von der rein technischen Unsicherheitsmessung hin zu einer philosophischen und normativen Forderung nach Rechenschaftspflicht.
• Schutz der demokratischen Agency: Durch das Erzwingen von „U" bei fehlenden Beweisen wird verhindert, dass KI-Systeme die Verantwortung der Bürger für Urteilsbildung übernehmen (Deskilling). Es fördert stattdessen eine „Bildung für Erwachsene" (im Sinne von Stanley Cavell), bei der Nutzer lernen, Ansprüche zu hinterfragen.
• Technische Machbarkeit: Obwohl ein vollständig konstruktives System ein Ideal ist, zeigt das Paper, dass hybride Ansätze (klassische Modelle + konstruktive Wrapper) bereits heute umsetzbar sind, um hochriskante Entscheidungen zu sichern.
• Gegen „Frankfurtian Bullshit": Das Framework adressiert strukturell das Problem, dass KI oft „Bullshit" (Äußerungen ohne Rücksicht auf Wahrheit) produziert, indem es die Bedingung für kategorische Aussagen auf nachprüfbare Zeugen stellt.

Fazit: Das Paper schlägt einen Paradigmenwechsel vor: KI-Systeme in hochriskanten Bereichen sollten nicht versuchen, immer eine Antwort zu geben. Stattdessen müssen sie ihre epistemische Grenze offenlegen. Der Status „Undetermined" ist dabei kein Fehler, sondern ein essenzielles Sicherheitsmerkmal, das die Integrität der öffentlichen Debatte und die menschliche Urteilsfähigkeit schützt.