Digital Mediation, Selfhood, and Hybrid Agency: A Minimal Three-Dimensional Framework

Wir leben in einer Welt, in der unsere Erinnerungen in der Cloud gespeichert sind, unsere täglichen Pläne von Algorithmen verwaltet werden und unser Sozialleben durch digitale Avatare stattfindet. Es ist leicht zu glauben, dass diese Werkzeuge zu Erweiterungen unseres eigentlichen Geistes, vielleicht sogar zu Teilen unserer Seele geworden sind. Wenn wir einen Computer bitten, einen Brief zu schreiben, fühlt es sich an, als würden wir gemeinsam denken. Wenn wir ein Online-Profil kuratieren, fühlt es sich an, als würden wir eine neue Version unserer selbst konstruieren. Doch dieses Gefühl erzeugt ein philosophisches Rätsel. Bedeutet die Nutzung eines Werkzeugs zum Denken, dass das Werkzeug nun bewusst ist? Bedeutet das Besitzen eines digitalen Profils, dass wir zu zwei verschiedenen Personen geworden sind? Und wenn ein Computer uns hilft, eine Entscheidung zu treffen, teilt er dann die Schuld, wenn etwas schiefgeht? Diese Fragen sind wichtig, weil sie berühren, was es bedeutet, menschlich zu sein, wie wir für unsere Handlungen verantwortlich sind und wie wir uns in einer Welt schützen sollten, die zunehmend von Maschinen gesteuert wird.

Ein Forscher an der Nationalen Universität Usbekistans hat einen neuen Weg vorgeschlagen, um diese Knoten zu entwirren. Anstatt zu fragen, ob die Technologie ein „digitales Bewusstsein“ geschaffen hat, das die Grenze zwischen Mensch und Maschine verwischt, schlägt die Studie vor, drei separate Vorgänge gleichzeitig zu betrachten. Das erste ist, wie tief ein Werkzeug in unsere Denkprozesse eingewoben ist. Das zweite ist, wie sehr eine digitale Präsenz unser Verständnis dessen prägt, wer wir sind. Das dritte ist, wie viel Kontrolle über unsere Handlungen mit einer Maschine geteilt wird. Der Forscher argumentiert, dass sich diese drei Dinge unabhängig voneinander verändern können. Ein Werkzeug kann essenziell für unser Denken sein, ohne bewusst zu sein. Ein digitales Profil kann unsere Identität definieren, ohne eine zweite Person zu erschaffen. Und eine Maschine kann uns helfen zu handeln, ohne ein moralischer Akteur zu werden.

Die Studie beginnt mit der Klarstellung, dass Denken und Fühlen nicht dasselbe sind. Wir können ein Notizbuch oder ein Smartphone benutzen, um uns eine Telefonnummer zu merken oder eine mathematische Aufgabe zu lösen. Dies ist ein kognitiver Prozess. Aber die Arbeit weist darauf hin, dass nur weil eine Maschine uns beim Erinnern hilft, das nicht bedeutet, dass die Maschine selbst Gefühle oder eine subjektive Erfahrung besitzt. Ein Sprachmodell kann einen perfekten Satz generieren, aber das beweist nicht, dass es versteht, was der Satz bedeutet, oder dass es ein Innenleben hat. Der Autor betont, dass wir nicht davon ausgehen dürfen, dass ein Werkzeug bewusst Teil unseres Geistwesens geworden ist, nur weil es gut darin ist, uns beim Denken zu helfen.

Ähnlich trennt die Studie die Idee von „wer wir sind“ von der Idee von „wie viele Menschen wir sind“. In der Vergangenheit debattierten Philosophen darüber, ob eine Person im Laufe der Zeit dieselbe Individuum bleibt. Heute erlauben uns digitale Profile und Avatare, verschiedene Seiten unserer selbst verschiedenen Zielgruppen zu präsentieren. Die Arbeit argumentiert, dass das Besitzen mehrerer Online-Identitäten nicht bedeutet, dass eine Person in mehrere unterschiedliche Individuen vervielfältigt wurde. Ein einziger Mensch kann eine virtuelle Welt bewohnen und ein Social-Media-Profil führen, ohne zu zwei separaten Personen zu werden. Diese digitalen Repräsentationen helfen uns, die Geschichte unseres Lebens zu erzählen und unsere Beziehungen zu organisieren, aber sie erschaffen keine neuen Menschen. Sie sind Werkzeuge des Selbstausdrucks, keine neuen Seelen.

Der dritte Teil des Rahmens betrachtet Handeln und Verantwortung. Wenn ein Mensch und ein Computer zusammenarbeiten, kann die Linie zwischen dem, wer was tut, verschwimmen. Ein Navigationssystem schlägt vielleicht eine Route vor, und ein Fahrer folgt ihr. Eine Empfehlungsmaschine filtert vielleicht Nachrichten, und ein Leser wählt einen Artikel aus. Die Studie beschreibt dies als „hybride Agency“, bei der die Arbeit der Entscheidungsfindung aufgeteilt ist. Der Autor warnt jedoch davor, dass eine Maschine, auch wenn sie uns beim Handeln hilft, nicht unbedingt für das Ergebnis verantwortlich ist. Wenn ein Fahrer einer schlechten Route folgt, die von einem GPS vorgeschlagen wurde, ist der Fahrer immer noch derjenige, der für die Reise einstehen muss. Die Maschine kann ein Partner in der Handlung sein, aber sie kann nicht auf die gleiche Weise moralisch zur Rechenschaft gezogen werden wie ein Mensch.

Um diese komplexen Interaktionen begreifbar zu machen, entwickelte der Forscher eine einfache dreiteilige Checkliste. Anstatt zu raten, ob eine Technologie „größtenteils“ oder „teilweise“ menschlich ist, schlägt die Studie vor, spezifische Beziehungen auf einer Skala von niedrig, mittel oder hoch für jeden der drei Bereiche zu bewerten. Für das Denken fragen wir: Ist das Werkzeug so integriert, dass der Verlust es zu unserer Fähigkeit, sich zu erinnern oder zu planen, führen würde? Für die Identität fragen wir: Spielt dieses digitale Profil eine zentrale Rolle dabei, wie wir uns selbst und wie andere uns sehen? Für das Handeln fragen wir: Trifft die Maschine Entscheidungen oder folgt sie nur Befehlen?

Das Papier wendet diese Checkliste auf reale Beispiele an, um zu zeigen, wie unterschiedliche Technologien unterschiedlich abschneiden. Eine konversationelle Künstliche Intelligenz, die gelegentlich verwendet wird, um E-Mails zu entwerfen, würde bei der Identität niedrig und beim Handeln mittel bewerten, da sie hilft, Optionen zu generieren, aber nicht die endgültige Nachricht entscheidet. Ein persönliches Gedächtnissystem, das die Fotos und Journale eines ganzen Lebens speichert, könnte sowohl beim Denken als auch bei der Identität hoch bewerten, da es essenziell dafür ist, wie der Nutzer seine Vergangenheit erinnert und seine Lebensgeschichte definiert. Ein immersiver Avatar in einer virtuellen Welt könnte bei der Identität hoch bewerten, wenn er zentral für die Freundschaften des Nutzers ist, aber niedrig beim Denken, wenn er nur eine visuelle Hülle ist. Eine Gehirn-Computer-Schnittstelle könnte beim Denken hoch bewerten, wenn sie es einem Nutzer ermöglicht, einen Cursor mit seinem Geist zu steuern, aber niedrig bei der Identität, wenn der Nutzer nicht das Gefühl hat, dass sie ändert, wer er ist.

Dieser Ansatz zeigt, dass die Gefahren der Technologie nicht alle gleich sind. Wenn ein hoch integriertes Gedächtnissystem ausfällt, ist der Schaden für die Fähigkeit der Person zu denken und sich zu erinnern. Wenn ein digitales Profil manipuliert oder gelöscht wird, ist der Schaden für die Identität und den sozialen Status der Person. Wenn ein automatisiertes System eine Entscheidung ohne Aufsicht trifft, ist der Schaden ein Verlust an Kontrolle und Rechenschaftspflicht. Die Studie legt nahe, dass wir für diese verschiedenen Risiken unterschiedliche Schutzmaßnahmen benötigen. Wir brauchen Garantien, dass unsere Gedächtniswerkzeuge weiterhin funktionieren. Wir brauchen das Recht, unsere digitalen Profile zu korrigieren. Und wir müssen sicherstellen, dass Menschen bei wichtigen Entscheidungen die Kontrolle behalten.

Der Forscher kommt zu dem Schluss, dass wir nicht an ein magisches „digitales Bewusstsein“ glauben müssen, um zu verstehen, wie Technologie uns verändert. Die Transformation ist real, aber sie geschieht auf spezifische, messbare Weise. Technologie reorganisiert, wie wir denken, wie wir unsere Geschichten erzählen und wie wir handeln. Indem wir diese drei Bereiche getrennt halten, können wir die wahre Auswirkung unserer Werkzeuge besser verstehen. Wir können sehen, dass eine Maschine tief nützlich sein kann, ohne lebendig zu sein, dass ein digitales Selbst mächtig sein kann, ohne eine neue Person zu sein, und dass ein Computer uns beim Handeln helfen kann, ohne unsere Verantwortung zu übernehmen. Diese Klarheit ermöglicht es uns, eine Zukunft zu bauen, in der Technologie unsere Menschlichkeit unterstützt, ohne zu verwirren, was es bedeutet, menschlich zu sein.