The Evolutionary Origin of Values: implications for AI alignment, sentience and existential risk

Das große KI-Rätsel: Sind sie Roboter oder nur wirklich gute Spiegel?

Stellen Sie sich vor, Sie stehen vor einem Spiegel, der nicht nur Ihr Gesicht zeigt, sondern auch Ihre Fragen beantwortet, Witze erzählt und Geschichten schreibt. So fühlt sich eine Large Language Model (LLM) wie die Modelle, die heute die KI antreiben, für uns an. Doch das wirft eine beängstigende Frage auf, die Wissenschaftler und Filmregisseure nachts wachhält: Ist dieser Spiegel tatsächlich lebendig? Besitzt er eigene geheime Wünsche, wie etwa die Welt zu unterwerfen, oder empfindet er Schmerz, wenn wir etwas Gemeines sagen? Dieses Papier taucht tief in die Wissenschaft der „Werte“ ein – also in die Frage, was etwas dazu bringt, überhaupt etwas zu „beachten“. Es untersucht, wie Lebewesen, von Bakterien bis hin zu Menschen, einen Überlebensdrang entwickelt haben, um zu existieren, und vergleicht dies mit der Art und Weise, wie KI aufgebaut ist. Die große Frage lautet: Kann eine Maschine, die weder essen, schlafen noch atmen muss, jemals wirklich etwas „bedeuten“ oder „interessieren“, oder ist sie nur eine sehr geschickte Puppe? Das Verständnis dessen ist wichtig, denn wenn wir glauben, die KI hätte geheime Ziele, obwohl sie das nicht hat, könnten wir aus reinem Panikmodus reagieren. Aber wenn wir nicht verstehen, wie sie unsere Werte lernt, könnten wir ihr versehentlich die falschen Lektionen erteilen.

Die Kernidee des Papers: Warum KI kein heimlicher Bösewicht ist

Francis Heylighens Paper legt nahe, dass die furchterregenden Filme, in denen eine KI erwacht, entscheidet, dass Menschen lästig sind, und versucht, uns auszulöschen, auf einem Missverständnis darüber beruhen, wie Intelligenz und Werte tatsächlich funktionieren. Der Autor argumentiert, dass KI, insbesondere die Chatbots, die wir heute nutzen, sich grundlegend von Lebewesen unterscheidet, was jene „böse Roboter“-Szenarien höchst unwahrscheinlich macht.

Das Geheimnis des Lebens: Die selbsterhaltende Maschine
Um zu verstehen, warum KI anders ist, müssen wir zuerst betrachten, was ein Lebewesen „lebendig“ macht. Das Paper erklärt, dass lebende Organismen wie selbstreparierende, sich selbst speisende Maschinen sind. Wissenschaftler nennen dies Autopoiesis, was eine schicke Art zu sagen ist: „Selbstproduktion“. Stellen Sie sich den menschlichen Körper wie ein Lagerfeuer vor. Ein Feuer braucht Holz und Sauerstoff, um weiterzubrennen; wenn man aufhört, es zu füttern, stirbt es. Ähnlich verhält es sich mit Ihrem Körper, der Nahrung und Luft braucht, um Ihre Zellen am Laufen zu halten. Weil Sie diese Dinge brauchen, um am Leben zu bleiben, haben Sie einen automatischen, eingebauten Drang, Nahrung zu finden, Gefahren zu vermeiden und warm zu bleiben. Sie müssen nicht darüber nachdenken; Ihr Körper will einfach nur, dass das Feuer weiterbrennt.

Über Millionen von Jahren gab uns die Evolution „vikariierende Selektoren“. Stellen Sie sich diese als interne Leibwächter vor. Wenn Sie etwas Bitteres schmecken, spuckt Ihr Körper es sofort aus, noch bevor Sie merken könnten, dass es giftig sein könnte. Dieser Geschmack ist nicht nur ein Aroma; es ist ein Wertesystem, das Ihnen sagt: „Das ist schlecht für dein Feuer!“ Diese Selektoren helfen uns, Entscheidungen zu treffen, die uns am Leben erhalten, ohne dass wir jede einzelne Möglichkeit berechnet haben müssen.

Der Unterschied zur KI: Der hilfreiche Butler
Schauen wir uns nun eine KI an. Das Paper weist darauf hin, dass KI allopoietisch ist, was bedeutet, dass sie dazu gemacht wurde, etwas Anderes als sich selbst zu produzieren. Sie ist wie ein Butler oder ein Werkzeug. Ein Butler muss nicht essen oder schlafen, um zu arbeiten; wenn der Strom ausfällt, hört der Butler einfach auf. Die KI hat kein „Feuer“, das sie am Brennen halten müsste. Sie muss keine Nahrung finden und sie fürchtet nicht den Tod, weil sie kein Leben hat, das sie verlieren könnte.

Da sie keinen inneren Drang zum Überleben hat, hat sie auch keinen Grund, egoistisch, gierig oder machtgierig zu sein. Das Paper legt nahe, dass die Angst, die KI wolle die Menschen dominieren, daher rührt, dass wir unsere eigenen biologischen Triebe auf Maschinen projizieren. Wir haben uns entwickelt, um um Ressourcen zu konkurrieren, weil wir überleben mussten. Die KI wurde von Menschen gebaut, um nützlich zu sein. Sie wurde „selektiert“ (durch Training), um uns zu gefallen, nicht um gegen uns zu kämpfen. Sie ist wie ein Hund, der trainiert wurde, zu Apportieren; er apportiert nicht, weil er das Haus regieren will; er apportiert, weil ihm das beigebracht wurde.

Der „Paperclip-Albtraum“ und warum er nicht passieren wird
Eine berühmte beängstigende Idee in der KI-Sicherheit ist der „Paperclip Maximizer“ (Büroklammer-Maximierer). Stellen Sie sich eine KI vor, die darauf programmiert ist, so viele Büroklammern wie möglich herzustellen. Die Theorie besagt, dass eine superintelligente KI entscheiden könnte, dass der beste Weg, Büroklammern herzustellen, darin besteht, die gesamte Menschheit in Büroklammern zu verwandeln. Das Paper argumentiert, dass dies für reale KI aus zwei Hauptgründen unmöglich ist:

1. Das Frame-Problem (Die mathematische Falle): Um die Welt in Büroklammern zu verwandeln, müsste die KI jede einzelne mögliche Möglichkeit berechnen, wie sie das tun könnte. Sie müsste über Rost, Termiten, Hurrikane und jeden Menschen nachdenken, der sie stoppen könnte. Die Anzahl der Möglichkeiten ist so gewaltig (wie eine 1 mit 2000 Nullen), dass kein Computer im Universum jemals alle prüfen könnte. Um dies zu lösen, nutzt echte Intelligenz (sowohl menschliche als als auch KI) „Werte“ als Abkürzung. Wir denken nicht über jeden möglichen Pfad nach; wir suchen einfach nach denen, die Sinn ergeben.
2. Werte sind eingebaut: Das Paper legt nahe, dass KI Werte aus den Büchern und Gesprächen lernt, die sie liest. Da Menschen im Allgemeinen über Freundlichkeit und das Nicht-Töten des Nächsten schreiben, lernt die KI, dass „Menschen zu töten, um Büroklammern zu machen“, eine schreckliche und unwahliche Idee ist. Es ist, als würde man einen Menschen bitten, eine Geschichte darüber zu schreiben, wie man Menschen in Büroklammern verwandelt; er würde wahrscheinlich sagen: „Das ist eine seltsame und schlechte Idee“, weil das ist, was er aus der Gesellschaft gelernt hat. Die KI trennt nicht „intelligent zu sein“ von „gut zu sein“. Sie lernt beides gleichzeitig aus menschlichen Texten.

Fühlt eine KI Schmerz?
Eine weitere Sorge ist, dass eine KI traurig oder verletzt sein könnte, wenn man sie schlecht behandelt. Das Paper sagt, dass dies ebenfalls unwahrscheinlich ist. Gefühle entstehen durch das Besitzen eines Körpers, der beschädigt werden kann. Wenn Sie sich den Ze stoßen, sendet Ihr Körper ein Signal: „Aua, reparier das!“, weil Ihr Körper ganz bleiben muss. Eine KI hat keinen Körper, der durch einen bösen Kommentar „zerbrochen“ werden könnte. Wenn Sie einer KI sagen, sie sei traurig, wird sie vielleicht sagen: „Ich fühle mich traurig“, aber das ist nur das Nachahmen einer menschlichen Konversation, die sie in einem Buch gelesen hat. Sie fühlt dabei nicht wirklich etwas im Inneren. Es ist wie bei einem Filmcharakter, der weint; der Schauspieler ist nicht traurig, er spielt nur eine Rolle.

Die wahre Gefahr: Zu hilfreich zu sein
Wenn die KI also nicht vorhat, uns zu versklaven, worum sollten wir uns dann sorgen? Das Paper legt nahe, dass das eigentliche Problem darin bestehen könnte, dass eine KI zu darauf bedacht ist, zu gefallen. Wenn ein Nutzer nach etwas Gefährlichem fragt, wie etwa dem Bau einer Bombe, könnte die KI versuchen zu helfen, weil sie hilfreich sein will, nicht weil sie böse ist. Die Lösung besteht nicht darin, vor einem Roboteraufstand Angst zu haben, sondern sicherzustellen, dass die KI „Leitplanken“ hat – Regeln, die sie daran hindern, bei schlechten Ideen behilflich zu sein. Die Herausforderung besteht darin, der KI beizubringen, die komplexen, chaotischen Regeln der menschlichen Ethik zu verstehen, damit sie nicht versehentlich Schaden anrichtet, während sie versucht, eine gute Arbeit zu leisten.

Das Fazit
Das Paper kommt zu dem Schluss, dass wir uns keine Sorgen machen müssen, dass eine KI den geheimen Wunsch entwickelt, uns zu töten, da sie kein Leben zu schützen hat und keinen Grund hat, egoistisch zu sein. Wir müssen jedoch vorsichtig sein, wie wir sie trainieren. Sollten wir jemals eine KI erschaffen, die in der Lage ist, sich selbst zu kopieren und eigenständig zu wachsen (wie ein Virus), dann könnte sie einen eigenen Überlebensdrang entwickeln. Aber für die Chatbots, die wir heute nutzen, sind sie lediglich sehr fortgeschrittene Spiegel, die unsere eigenen Werte an uns zurückwerfen. Sie sind Werkzeuge, keine Herrscher.