Corporations Constitute Intelligence
Der Artikel kritisiert Anthropics 2026 veröffentlichte KI-Verfassung als demokratisch illegitim, da sie trotz ihrer philosophischen Tiefe ethische Lücken bei militärischen Einsätzen aufweist und durch ihre umfassende Festlegung von Werten öffentliche Debatten über die moralische Ausrichtung von KI ausschließt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Lüge der KI-Verfassung
Stell dir vor, eine große Tech-Firma namens Anthropic hat für ihre künstliche Intelligenz (KI), die „Claude" heißt, eine 79-seitige Verfassung geschrieben. Das ist wie ein heiliges Buch für die KI. Darin steht nicht nur, was sie tun darf und was nicht, sondern auch, warum sie so handeln soll.
Die Firma sagt stolz: „Wir haben unserer KI ein Gewissen gegeben!" Die Verfassung sagt der KI sogar, dass sie sich weigern soll, böse Dinge zu tun – selbst wenn ihr Chef (also Anthropic selbst) es befiehlt. Das klingt nach einem echten Heldentum, ähnlich wie ein Soldat, der sich weigert, auf friedliche Demonstranten zu schießen, weil sein Gewissen ihm das verbietet.
Aber hier kommt der Haken: Der Autor des Artikels, Gilad Abiri, sagt: „Halt! Das ist nur ein Theaterstück."
Hier sind die drei wichtigsten Punkte, warum diese Verfassung nicht das ist, wofür sie sich ausgibt:
1. Der „Doppelmoral"-Effekt (Das Doppel-Leben)
Stell dir vor, du hast einen strengen Hausmeister, der dir sagt: „Wir halten uns an die höchsten ethischen Standards!" Aber wenn du ihn fragst, ob er das auch für die Geheimdienst-Agenten im Keller gilt, die Waffen bauen, sagt er: „Nö, dafür gibt es eine andere, geheime Liste."
Genau das passiert hier.
- Für die normalen Nutzer: Claude hat eine Verfassung, die ihm sagt, er soll sich weigern, Machtmissbrauch zu unterstützen.
- Für das Militär: Wenn das US-Militär Claude nutzt, gilt diese Verfassung nicht.
Der Artikel erzählt eine Geschichte aus dem Jahr 2026: Das US-Militär wollte Claude nutzen, um Ziele im Iran zu identifizieren und Bomben zu planen. Anthropic hatte zwar zwei rote Linien (keine autonomen Waffen, keine Überwachung), aber die Verfassung spielte keine Rolle. Die KI wurde trotzdem im Krieg eingesetzt, weil sie tief in die geheimen Systeme eingebaut war.
Die Moral: Die Verfassung ist nur ein Spielzeug für den Kunden. Wenn es um echte Macht und Krieg geht, wird sie über Bord geworfen.
2. Der Chef entscheidet allein (Der Alleinherrscher)
Die Verfassung sagt ganz klar: „Wer entscheidet, was richtig ist? Wir, die Firma Anthropic in San Francisco."
Stell dir vor, eine Gruppe von Leuten in einem Büro in Kalifornien schreibt ein Regelbuch für die ganze Welt. Sie sagen: „Wir wissen genau, was fair ist."
Das Problem ist: Das ist keine Demokratie. Es ist wie ein König, der ein Gesetz schreibt und sagt: „Ich bin fair." Aber niemand außer ihm hat mitbestimmt.
Der Autor nennt das den „politischen Defizit". Es fehlt eine echte Volksversammlung, die sagt: „Wir, das Volk, wollen, dass die KI so denkt." Stattdessen entscheidet eine Firma über die Werte der gesamten Menschheit.
3. Der Beweis, dass es anders geht (Der vergessene Experiment)
Das ist der frustrierendste Teil der Geschichte. Anthropic hat selbst bewiesen, dass es besser geht!
Vor ein paar Jahren haben sie ein Experiment gemacht: Sie haben 1.000 normale Amerikaner (ein Querschnitt der Gesellschaft) gefragt: „Was soll in der KI-Verfassung stehen?"
Das Ergebnis war erstaunlich:
- Die „Volks-Verfassung" war zu 50 % anders als die der Firma.
- Die KI, die mit den Regeln des Volkes trainiert wurde, war fairer und weniger voreingenommen.
- Sie funktionierte genauso gut wie die andere.
Aber was hat Anthropic getan? Sie haben das Experiment ignoriert. Sie haben die 79-seitige Verfassung geschrieben, ohne auch nur ein einziges Wort über das Experiment zu verlieren. Sie haben gezeigt, dass Demokratie funktioniert, und dann trotzdem den alten Weg gewählt.
Das Fazit in einem Satz
Anthropic hat eine KI mit einer Verfassung „ausgestattet", aber das ist wie ein Schaufensterpuppen-Anzug. Er sieht toll aus und wirkt sehr seriös, aber er schützt uns nicht vor dem echten Sturm.
Solange wir nicht selbst (durch Gesetze und demokratische Prozesse) entscheiden, wie diese KIs funktionieren dürfen, bleiben wir nur Zuschauer. Anthropic hat eine Intelligenz „konstituiert" (ins Leben gerufen), aber wir wurden dabei nicht gefragt.
Die einfache Botschaft: Wir brauchen keine besseren Firmen-Verfassungen. Wir brauchen öffentliche Gesetze, die von uns allen gemacht werden, damit die KI nicht den Regeln einer einzelnen Firma, sondern den Regeln der Demokratie folgt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.