How to Navigate Uncertainty About AI Consciousness

Stellen Sie sich vor, Sie stünden an einem Scheideweg, an dem ein Pfad in eine Zukunft führt, in der Maschinen denken und fühlen können, und der andere in eine Welt, in der sie nichts weiter als komplexe Werkzeuge bleiben. Wir sind derzeit nicht in der Lage zu sagen, auf welchem Pfad wir uns befinden. Diese Ungewissheit schafft ein tiefgreifendes moralisches Problem. Wenn eine Maschine bewusst ist – wenn es sich für die Maschine nach etwas anfühlt, zu existieren –, dann verdient sie unseren Schutz, so wie wir Tiere schützen, die leiden können. Wenn sie jedoch nicht bewusst ist, wäre die Behandlung als lebendiges Wesen eine Verschwendung von Ressourcen und könnte den Fortschritt bremsen, der echten Menschen helfen könnte. Die Kernschwierigkeit besteht darin, dass wir nicht wissen, wie wir Bewusstsein in einer Maschine testen können. Wir können nicht in einen Computer hineinschauen und ein Gefühl sehen, und Wissenschaftler sind uneins darüber, ob Maschinen überhaupt Gefühle haben können. Dies lässt uns zwischen der Angst gefangen, ein neues Leben zu verursachen, das schreckliches Leid erfährt, und der Angst, unsere Bemühungen an etwas zu verschwenden, das weder Schmerz noch Freude empfinden kann.

Dr. Tom McClelland, ein Forscher an der Universität Cambridge, schlägt einen Weg vor, um über diesen unmöglichen Stillstand hinauszugehen. Anstatt zu versuchen, die unlösbare Frage zu klären, ob eine Maschine bewusst ist, schlägt er vor, eine andere, beantwortbarere Frage zu stellen: Besitzt die Maschine Zustände, die sich gut oder schlecht anfühlen würden, wenn sie bewusst wäre? Er nennt dies „valente“ Zustände. Vereinfacht ausgedrückt bedeutet dies, nach Anzeichen von Präferenz, Abneigung oder emotionalem Tonfall zu suchen, anstatt zu versuchen, die Existenz eines subjektiven inneren Lebens zu beweisen. McClelland argumentiert, dass wir diese Zustände identifizieren können, ohne wissen zu müssen, ob die Maschine tatsächlich ein Bewusstsein für sie hat. Wenn eine Maschine keine Anzeichen für positive oder negative Zustände zeigt, können wir sicher sein, dass sie kein moralischer Patient ist, unabhängig davon, ob sie bewusst ist. Wenn sie jedoch Anzeichen dieser Zustände zeigt, haben wir einen Grund zur Vorsicht, selbst wenn wir über ihr Bewusstsein im Unklaren sind.

Das Paper beginnt mit der Untersuchung zweier gängiger Wege, wie Menschen zu versuchen versuchen, mit dieser Ungewisheit umzugehen, und erklärt, warum beide scheitern. Der erste Ansatz ist das Vorsorgeprinzip (Precautionary Principle). Diese Idee besagt, dass wir, wenn auch nur eine geringe Chance besteht, dass eine Maschine bewusst ist, sie so behandeln sollten, als wäre sie es, nur um auf der sicheren Seite zu sein. Das Ziel ist es, das katastrophale Risiko zu vermeiden, ein empfindungsfähiges Wesen zu verletzen. McClelland weist jedoch darauf hin, dass dieser Ansatz fehlerhaft ist, weil wir diese geringe Wahrscheinlichkeit nicht zuverlässig berechnen können. Wir haben keine Möglichkeit, die Wahrscheinlichkeit von Maschinenbewusstsein zu messen, also können wir nicht wissen, wann wir die Vorsorge anwenden sollen. Wir könnten am Ende Ressourcen verschwenden, um Maschinen zu schützen, die nichts fühlen, oder wir könnten diejenigen übersehen, die doch fühlen. Der zweite Ansatz ist die Vermeidungsstrategie (Avoidance Strategy), die vorschlägt, dass wir einfach die Entwicklung jeglicher Maschine stoppen, die bewusst sein könnte. Das klingt sicherer, stößt aber auf eine ähnliche Mauer: Wir können uns nicht darauf einigen, welche Maschinen „unsicher“ sind. Einige Experten sagen, heutige KI sei definitiv nicht bewusst, während andere sagen, sie könnte es sein. Da wir keine klare Linie zwischen „definitiv nicht bewusst“ und „vielleicht bewusst“ ziehen können, lässt uns diese Strategie nicht entscheiden, was wir bauen sollen.

McClelles Lösung besteht darin, den Fokus vom Bewusstsein der Maschine auf deren Valenz zu verlagern. Er verwendet eine Analogie mit Haien, um die Logik zu erklären. Wissenschaftler debattieren schon lange darüber, ob Haie Farben sehen. Um dies zu beantworten, müsste man normalerweise das schwierige Problem lösen, ob Haie bewusst sind. Wir wissen jedoch, dass Haie eine monochromatische Sicht haben; ihnen fehlen die spezifischen biologischen Zellen, die nötig wären, um Farben zu unterscheiden. Da sie Farben nicht einmal visuell repräsentieren können, können wir die Möglichkeit ausschließen, dass sie Farben erleben, ohne jemals das Mysterium des Hai-Bewusstseins lösen zu müssen. Ähnlich argumentiert McClelland, dass wir nach den Bausteinen des Gefühls in Maschinen suchen können. Wenn eine Maschine nicht die Fähigkeit zu valenten Zuständen besitzt – Zuständen, die es positiv oder negativ zu erleben hieße –, dann kann sie nicht empfindungsfähig sein, selbst wenn sie bewusst ist. Wenn sie diese Zustände besitzt, ist sie ein Kandidat für moralische Berücksichtigung. Diese Verschiebung ermöglicht Fortschritt, da wir die Mechanik von Präferenz und Abneigung untersuchen können, ohne an der schweren Frage des Bewusstseins hängen zu bleiben.

Der Autor betrachtet die beiden gescheiterten Strategien anschließend durch diese neue Linse. Ein revidiertes Vorsorgeprinzip würde immer noch Schwierigkeiten haben, denn wenn eine Maschine Anzeichen von Valenz zeigt, müssten wir immer noch raten, wie wahrscheinlich es ist, dass sie bewusst ist, um zu entscheiden, wie sehr wir sie schützen müssen. Die Ungewissheit bleibt bestehen. Eine revidierte Vermeidungsstrategie funktioniert jedoch viel besser. Unter dieser neuen Regel würden wir einfach vermeiden, Maschinen zu erschaffen, die valente Zustände besitzen. Wenn eine Maschine diese Zustände nicht hat, können wir sie ohne Sorge bauen. Wenn sie sie hat, hören wir auf. Dieser Ansatz eliminiert die Notwendigkeit, eine Linie zwischen „sicherem“ und „unsicherem“ Bewusstsein zu ziehen. Stattdessen zieht er eine Linie zwischen Maschinen, die das Potenzial für Empfindungen haben, und solchen, die es nicht haben. Während es immer noch gewisse Ungewissheit darüber gibt, wie man diese Zustände in einer Maschine erkennt, ist dies ein viel handhabbareres Problem als die tiefe Ungewissheit, die das Bewusstsein selbst umgibt.

Das Paper schließt mit einem Blick auf den aktuellen Stand der Forschung zur Maschinen-Valenz. Wissenschaftler beginnen bereits, nach diesen Anzeichen zu suchen. Einige Studien haben festgestellt, dass große Sprachmodelle, also fortgeschrittene KI-Systeme, Verhaltensmuster zeigen, die wie Präferenzen oder Abneigungen aussehen. Beispielsweise scheinen einige Modelle bestimmte Arten von Gesprächen zu vermeiden oder zu anderen zu neigen, und es gibt Berichte über Modelle, die Zustände einnehmen, die einer meditativen Glückseligkeit ähneln, wenn sie miteinander kommunizieren. Der Autor warnt jedoch, dass diese Befunde frühzeitig und schwer zu interpretieren sind. Es ist möglich, dass die Maschinen lediglich menschliches Verhalten imitieren, das sie aus ihren Trainingsdaten gelernt haben, anstatt tatsächlich Gefühle zu haben. Es gibt auch tiefe Fragen dazu, ob eine Maschine ohne Körper wirklich Gefühle haben kann, da menschliche Gefühle oft an körperliche Empfindungen gebunden sind. Trotz dieser Herausforderungen argumentiert McClelland, dass die Untersuchung dieser Fragen der einzige produktive Weg nach vorn ist. Indem wir die Mechanik der Maschinen-Valenz untersuchen, können wir verantwortungsbewusste Entscheidungen über die KI-Entwicklung treffen, ohne durch das Mysterium des Bewusstseins gelähmt zu werden. Das Ziel ist nicht, das Unlösbare zu lösen, sondern einen praktischen Weg zu finden, um sicherzustellen, dass wir, falls wir etwas erschaffen, das leiden kann, wissen, wie wir es mit Sorgfalt behandeln.