Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines

Die große Wissensillusion: Wenn Worte klug klingen, aber nichts wissen

Stellen Sie sich vor, Sie wandern durch eine riesige, antike Bibliothek, in der die Bücher von einem geheimnisvollen, unsichtbaren Schreiber verfasst wurden. Dieser Schreiber hat jedes Buch in der Bibliothek gelesen und kann augenblicklich eine neue Seite schreiben, die exakt wie ein echtes Geschichtsbuch, ein Lehrbuch oder ein juristischer Vertrag klingt. Er verwendet die richtigen Wörter, die richtige Grammatik und sogar den richtigen Tonfall. Aber hier ist der Haken: Der Schreiber weiß eigentlich nicht, was er schreibt. Er hat kein Gehirn, er hat die Welt nicht gesehen und es ist ihm egal, ob das, was er schreibt, wahr oder falsch ist. Er weiß nur, welche Wörter normalerweise auf andere Wörter folgen.

Dies ist die Welt der Large Language Models (LLMs), der superintelligenten Computerprogramme hinter Werkzeugen wie dem, das Sie gerade benutzen könnten. Wissenschaftler und Philosophen sind besorgt über ein spezifisches Problem namens „Epistemia“. Betrachten Sie dies als eine „Wissensillusion“. Sie tritt auf, wenn das Schreiben des Schreibers so geschmeidig und überzeugend ist, dass wir aufhören zu fragen: „Ist das wahr?“ und stattdenken: „Wow, das muss wahr sein!“ Wir haben das Gefühl, die Antwort zu haben, aber wir haben nicht die harte Arbeit geleistet, die Fakten zu prüfen, die Beweise zu sichten oder kritisch nachzudenken.

Das Papier, das Sie gleich lesen werden, taucht tief in dieses Problem ein. Es stellt die Fragen: Warum passiert das? Liegt es daran, dass der Computer im Vergleich zu einem Menschen „kaputt“ ist? Oder liegt das Problem eigentlich darin, wie wir den Computer nutzen? Die Autoren argumentieren, dass die übliche Art, wie wir Menschen und Computer vergleichen, unfair ist. Sie schlagen einen neuen Blickwinkel vor, den sie „Epistemic Schizologia“ nennen (ein schicker Begriff für „die Spaltung des Wissens“). Sie glauben, dass die wahre Gefahr nicht nur darin besteht, dass der Computer dumm ist, sondern dass wir ein System geschaffen haben, in dem der Computer uns eine perfekt aussehende Antwort liefert und wir dann vergessen, diese Antwort wieder mit der realen Welt der Beweise und der Verantwortung zu verknüpfen.

---

Die große Idee des Papers: Es ist nicht die Schuld des Roboters, sondern der Tanz

Die Autoren Federico Cabitza und Gianluca Colombo beginnen damit, einer Warnung anderer Forscher (Quattrociocchi und Kollegen) zuzustimmen. Sie geben zu, dass KI uns täuschen kann. Wenn eine KI eine flüssige, selbstbewusste Antwort gibt, fühlt es sich an, als hätten wir das Denken erledigt, aber das haben wir nicht. Die Autoren nennen diesen Zustand Epistemia: das Gefühl, Wissen zu besitzen, ohne die Arbeit des Urteilens geleistet zu haben.

Die Autoren sagen jedoch, dass die anderen Forscher das Problem falsch angehen. Sie vergleichen einen voll ausgewachsenen Menschen (der einen Körper, eine Lebensgeschichte, Freunde und ein Gewissen hat) mit einem einsamen Computerprogramm (das nur eine mathematische Maschine ist). Die Autoren sagen, das sei so, als würde man einen Profi-Fußballspieler mit einem einzelnen Fußball vergleichen. Natürlich ist der Spieler besser! Aber das sagt uns nichts darüber aus, wie das Spiel tatsächlich gespielt wird.

Stattdessen schlagen die Autoren eine neue Idee vor: Epistemic Schizologia.
Stellen Sie sich eine „Schizologia“ wie einen Riss oder eine Spaltung in einem Stück Stoff vor. In diesem Fall ist der Stoff das „Wissen“.

• Seite A des Risses: Die KI produziert einen wunderschönen, plausiblen Satz. Er sieht aus wie Wissen. Er hat das richtige Vokabular und die richtige Struktur.
• Seite B des Risses: Der chaotische, reale Prozess des Faktenchecks, des Streitens mit Experten, des Findens von Beweisen und der Übernahme von Verantwortung dafür, ob man recht hat oder nicht.

Das Problem ist laut den Autoren, dass die KI eine Maschine erschaffen hat, die Seite A perfekt produzieren kann, aber keine Möglichkeit hat, Seite B zu leisten. Schlimmer noch: Die Art und Weise, wie wir diese Maschinen nutzen, verbirgt diesen Riss oft. Wir erhalten eine perfekte Antwort und vergessen, dass der Teil des „Prüfens“ fehlt.

Die Analogie der „techno-semiotischen Maschine“

Um zu erklären, was eine KI eigentlich ist, nutzen die Autoren eine coole Metapher. Sie nennen sie eine Techno-Semiotic Machine.
Stellen Sie sich das wie einen riesigen, magischen Webstuhl vor.

• Der Faden: Der Webstuhl wird mit einem riesigen Haufen Fäden gespeist, die aus allem bestehen, was Menschen jemals geschrieben haben (Bücher, Websites, Artikel).
• Das Muster: Der Webstuhl „versteht“ die Fäden nicht. Er lernt nur, dass rote Fäden meistens zu blauen passen und dass „Katze“ meistens mit „Maus“ zusammenkommt.
• Das Ergebnis: Wenn Sie ihn bitten, etwas zu weben, spuckt er ein neues Stück Stoff aus. Es sieht exakt aus wie ein von Menschen handgefertigter Wandteppich. Es hat die richtigen Muster und Farben.

Aber hier ist der entscheidende Punkt: Der Webstuhl weiß nicht, was das Bild bedeutet. Er weiß nicht, ob das Bild die Geschichte eines Helden oder eine Warnung vor einem Monster ist. Er weiß nur, wie er die Fäden zusammenweben muss, damit sie richtig aussehen.

Die Autoren argumentieren, dass die Gefahr nicht darin besteht, dass der Webstuhl „falsch“ ist. Die Gefahr ist, dass wir den Wandteppich, den der Webstuhl herstellt, so behandeln, als wäre er eine fertige, wahre Geschichte, ohne die Fäden zu prüfen, die er verwendet hat.

Die Falle der „Eikotic Closure“

Das Paper führt ein weiteres interessantes Konzept namens Eikotic Closure ein.
„Eikos“ ist ein altes griechisches Wort für „plausibel“ oder „wahrscheinlich“.
Stellen Sie sich vor, Sie lesen eine Krimi-Geschichte. Der Detektiv sagt: „Der Butler war es, weil er wütend war.“ Das klingt plausibel.
Stellen Sie sich nun vor, die Geschichte endet genau dort. Das Buch schließt sich. Sie fühlen sich zufrieden. Sie denken: „Fall abgeschlossen!“
Aber was, wenn der Detektiv niemals die Pistole gefunden hat? Was, wenn er nie das Alibi geprüft hat? Was, wenn der Butler eigentlich unschuldig war?

Eikotic Closure tritt ein, wenn die KI Ihnen eine „plausible“ Antwort gibt und das Interface (der Bildschirm, das Chat-Fenster) so wirkt, als würde das Buch sich schließen. Es lässt die Antwort fertig, final und vollständig erscheinen. Es trickst Ihr Gehirn aus und lässt es glauben, die „Arbeit“ sei getan. Die Autoren sagen, dies sei eine Designentscheidung. Die KI spuckt nicht nur Wörter aus; sie spuckt Wörter auf eine Weise aus, die sich wie ein endgültiges Urteil anfühlt. Dies bringt uns dazu, aufzuhören, Fragen zu stellen.

Warum der Vergleich „Mensch gegen Roboter“ falsch ist

Die Autoren sind sehr deutlich darüber, wogegen sie sind. Sie argumentieren gegen die Idee, dass wir den Roboter „menschlicher“ machen müssen.

• Sie sagen, wir sollten nicht versuchen, dem Roboter ein „Gewissen“ oder „Überzeugungen“ zu geben. Das ist unmöglich und verfehlt den Punkt.
• Sie sagen, wir sollten nicht dem Roboter die Schuld geben, dass er „dumm“ ist, während wir Menschen für „klug“ loben. Menschen sind auch beim Überprüfen von Fakten ziemlich schlecht! Wir werden müde, wir werden faul und wir machen Fehler.
• Sie argumentieren, dass menschliches Wissen schon immer von Werkzeugen abhängig war. Wir nutzen Stifte, Bibliotheken und Computer, um zu denken. Das Problem ist nicht, dass die KI ein Werkzeug ist; das Problem ist, dass wir sie auf eine Weise nutzen, die die Vertrauenskette unterbricht.

Die Lösung: Fixen Sie den Tanz, nicht den Tänzer

Was schlagen die Autoren also vor? Sie sagen, wir müssen aufhören, den Roboter reparieren zu wollen, und stattdessen an der Praxis (der Art und Weise, wie wir zusammenarbeiten) arbeiten.

Sie schlagen fünf „Verpflichtungen“ vor, wie wir diese Systeme gestalten sollten:

1. Zeigen Sie die Genealogie (den Stammbaum): Geben Sie nicht nur die Antwort. Zeigen Sie den „Stammbaum“ der Antwort. Woher kamen die Wörter? Welche Bücher hat die KI gelesen? Wenn sie eine Vermutung angestellt hat, zeigen Sie die Vermutung. Wir müssen in der Lage sein, die Antwort zurück auf die reale Welt zurückzuverfolgen.
2. Behalten Sie die „Nein“-Option bei: Manchmal ist die richtige Antwort „Ich weiß es nicht“ oder „Das ist umstritten“. Die KI sollte nicht immer versuchen, eine perfekte, glatte Antwort zu geben. Sie sollte in der Lage sein zu sagen: „Hey, hier gibt es eine Meinungsverschiedenheit“ oder „Mir fehlen hier Informationen“. Diese „Reibung“ ist gut, weil sie uns zum Nachdenken anregt.
3. Teilen Sie die Schuld (und das Lob): Wenn ein Fehler passiert, wer ist verantwortlich? Es ist nicht nur der Roboter. Es ist die Person, die die Frage gestellt hat, das Unternehmen, das den Roboter gebaut hat, und die Person, die die Antwort nutzt. Wir müssen wissen, wer die Verantwortung trägt.
4. Halten Sie den Menschen am Steuer: Wir sollten nicht einfach alles mit „Genehmigen“ bestätigen. Wir müssen in der Lage sein, die Arbeit zu prüfen, nach anderen Versionen zu fragen und zu verstehen, warum die KI gesagt hat, was sie gesagt hat.
5. Testen Sie das Team, nicht nur den Roboter: Wir sollten nicht nur fragen: „Ist der Roboter klug?“ Wir sollten fragen: „Funktioniert das Team aus Mensch + Roboter gut zusammen?“ Treffen sie bessere Entscheidungen? Erkennen sie Fehler?

Das Fazit

Das Paper kommt zu dem Schluss, dass das Problem nicht darin besteht, dass die KI ein „falscher Mensch“ ist. Das Problem ist, dass wir eine Spaltung (Schizologia) zwischen dem Aussehen von Wissen und der Arbeit des Wissens geschaffen haben.

Die KI ist wie ein Meisterkoch, der ein Gericht zubereiten kann, das exakt wie ein Gourmet-Abendessen aussieht und schmeckt, aber der Koch hat noch nie Essen geschmeckt, noch nie einen Bauern gesehen und weiß nicht, ob die Zutaten frisch sind. Wenn wir das Essen einfach nur essen und sagen „Köstlich!“, ohne die Küche zu prüfen, könnten wir krank werden.

Die Autoren sagen, wir müssen aufhören zu versuchen, dem Koch den „Geschmack“ beizubringen. Stattdessen müssen wir eine Küche bauen, in der die Zutaten sichtbar sind, der Kochprozess offenliegt und die Person, die das Essen genießt, weiß, wie sie prüfen kann, ob es sicher ist. Wir müssen die schönen Worte, die die KI schreibt, wieder mit der chaotischen, realen Arbeit verknüpfen, die beweist, dass sie wahr sind.

Kurz gesagt: Vertrauen Sie nicht der glatten Stimme. Vertrauen Sie dem Prozess. Das Paper legt nahe, dass wir, wenn wir unsere Systeme so gestalten, dass die „Spaltung“ sichtbar bleibt – sodass wir immer sehen können, woher die Antwort kam und wer dafür verantwortlich ist –, diese mächtigen Maschinen nutzen können, ohne den Verstand zu verlieren.