Stellen Sie sich die stille, interne Arbeit vor, eine Zukunft für sich selbst zu entwerfen. Es ist nicht bloß ein Tagtraum; es ist der mentale Prozess des Sammelns von Werkzeugen, Geschichten und Bildern, die wir benötigen, um uns vorstellen zu können, wer wir werden könnten. Wir erfinden diese Möglichkeiten nicht im luftleeren Raum. Stattdessen leihen wir sie uns aus der Welt um uns herum: aus den Büchern, die wir lesen, den Filmen, die wir sehen, den Werbungen, die wir wahrnehmen, und den Gesprächen, die wir führen. Diese geteilten kulturellen Materialien dienen als eine Art mentales Gerüst, das uns hilft, Ideen darüber zu konstruieren, was möglich, was erstrebenswert und was überhaupt wertvoll ist, nachzustreben. Wenn diese Materialien reichhaltig und vielfältig sind, hat unsere Vorstellungskraft Raum zum Wachsen. Wenn sie eng oder verzerrt sind, schrumpft unsere Vision der Zukunft. Dies ist der Bereich dessen, was Forscher als „aspirative Affordanzen“ (aspirational affordances) bezeichnen – ein Begriff, der schlicht beschreibt, wie die uns zur Verfügung stehenden Ressourcen unsere Fähigkeit prägen, nach neuen Zielen zu greifen.

Betrachten Sie nun, wie künstliche Intelligenz die Art und Weise, wie diese Ressourcen erstellt und geteilt werden, rasant verändert. KI-Systeme sind nicht mehr nur Werkzeuge zur Sortierung von Daten; sie werden zu den Autoren unserer Geschichten, den Kuratoren unserer Bilder und den Wegweisern für unser persönliches Wachstum. Sie schreiben Karriereberatungen, generieren Bilder der Zukunft und bieten Gesellschaft an. Während diese Systeme unser Leben durchdringen, stellt sich eine kritische Frage: Was passiert mit unserer Fähigkeit, sich eine andere Zukunft vorzustellen, wenn genau die Werkzeuge, die wir zum Träumen nutzen, von wenigen mächtigen Algorithmen kontrolliert werden? Dies ist das zentrale Anliegen eines neuen Papers von Sina Fazelpour und Meica Magnani von der Northeastern University. Sie argumentieren, dass wir über die üblichen Sorgen über KI – etwa ob sie Menschen fair behandelt oder Ressourcen korrekt verteilt – hinausblicken müssen und stattdessen untersuchen sollten, wie sie im Stillen das glauben begrenzen könnte, was wir für uns selbst und unsere Gesellschaft für möglich halten.

Die Autorinnen führen ein spezifisches Konzept ein, um dieses Phänomen zu erklären: aspirative Affordanzen. Betrachten Sie dies als die mentalen „Griffe“ oder „Haltepunkte“, die die Kultur bereitstellt, damit wir an eine neue Idee dessen, wer wir sein könnten, herantreten können. Genau wie eine physische Treppe jemandem mit der Fähigkeit zu klettern das Klettern ermöglicht (affordance), bietet eine kulturelle Geschichte oder ein Bild eine bestimmte Art von Aspiration für jemanden, der sie verstehen kann. Diese Affordanzen sind nicht deterministisch; sie zwingen uns nicht dazu, auf eine bestimmte Weise zu handeln. Sie sorgen jedoch dafür, dass einige Pfade offensichtlich und erreichbar erscheinen, während andere sich unbedeutend oder unmöglich anfühlen. Die Forscherinnen legen nahe, dass KI-Systeme, wenn sie diese Geschichten und Bilder generieren, nicht einfach nur mehr Inhalte in den Mix einbringen; sie verändern grundlegend die Landschaft dessen, was wir uns vorstellen können.

Das Paper skizziert drei unterschiedliche Gründe, warum der Einfluss der KI auf unsere Aspirationen anders und gefährlicher ist als der traditioneller Medien. Erstens sind KI-Interaktionen oft privat, personalisiert und konversationell. Im Gegensatz zu einem Film oder einem Buch, das öffentlich geteilt wird, könnte ein KI-Chatbot als Lebenscoach oder Therapeut agieren und maßgeschneiderte Ratschläge in einem Eins-zu-eins-Setting anbieten. Diese Intimität kann dazu führen, dass sich die Vorschläge objektiver anfühlen und schwerer infrage zu stellen sind. Zweitens ist der Einfluss ökologisch, was bedeutet, dass er die gesamte Umgebung verändert, in der Ideen entstehen. KI wird nun verwendet, um Drehbücher zu schreiben, Werbeanzeigen zu gestalten und Städte zu planen. Das bedeutet, dass der gesamte Pool an Ideen, aus dem Menschen schöpfen, durch Algorithmen gefiltert und umgestaltet wird, noch bevor er uns erreicht. Drittens ist diese Macht hochkonzentriert. Eine kleine Anzahl von Unternehmen kontrolliert die wichtigsten KI-Systeme, die diese kulturellen Ressourcen generieren. Wenn nur wenige Stimmen die Geschichten der Zukunft diktieren, verengt sich das Spektrum der Möglichkeiten, und alternative Visionen riskieren, ausgelöscht zu werden.

Um diese Risiken begreifbar zu machen, führen die Autorinnen eine neue Kategorie von Schaden ein: den „aspirativen Schaden“ (aspirational harm). Dieser unterscheidet sich von den bekannteren Schäden der KI, wie etwa dem repräsentativen Schaden (wo eine Gruppe stereotyp oder beleidigend dargestellt wird) oder dem zuteilungsspezifischen Schaden (allocative harm, bei dem Ressourcen unfair verteilt werden). Aspirativer Schaden entsteht, wenn KI-Systeme die verfügbaren interpretativen Ressourcen so verzerren oder schmälern, dass die Fähigkeit einer Person untergraben wird, praktische Möglichkeiten für ihr Leben zu imaginieren. Es geht nicht unbedingt darum, beleidigt oder eines Arbeitsplatzes beraubt zu werden; es geht darum, keinen Weg nach vorne sehen zu können. Selbst wenn ein KI-System eine Gruppe respektvoll darstellt, kann es dennoch aspirativen Schaden anrichten, wenn es sie nur in einem engen Satz von Rollen zeigt und damit effektiv die Tür zu anderen Arten des Seins schließt.

Die Forscherinnen illustrieren dies mit drei konkreten Beispielen. Im ersten Fall betrachten sie die Karriereberatung. Ein KI-System könnte versuchen, Frauen beim Einstieg in Wissenschaft und Technologie zu unterstützen, indem es Bilder erfolgreicher Wissenschaftlerinnen zeigt. Wenn das System jedoch nur einen einzigen, starren Archetyp des Erfolgs präsentiert – etwa einen, der extreme Resilienz in feindseligen Umgebungen erfordert – könnte es unbeabsichtigt andere valide Arten des Wissenschaftsseins auslöschen. Es ersetzt eine vielfältige Palette an Möglichkeiten durch ein einziges, enges Skript und schränkt so die Vorstellungskraft junger Frauen ein, die vielleicht einen anderen Weg in ihrer Karriere verfolgt haben wollten.

Im zweiten Beispiel untersuchen die Autorinnen, wie KI die Zukunft visualisiert. Sie testeten dies, indem sie eine bildgenerierende KI baten, ein Bild iranischer Schulmädchen im Jahr 2040 zu erstellen. Der reale Kontext beinhaltete eine Bewegung für politische Freiheit und die Abschaffung obligatorischer Kleidungsvorschriften. Die KI generierte jedoch Bilder, die sich vollständig auf technologische Fortschritte konzentrierten, wie holografische Tablets und umweltfreundliche Architektur, während der soziale und politische Status quo völlig intakt blieb. Die Mädchen trugen weiterhin Hijabs, und die politischen Einschränkungen blieben bestehen. Die KI hatte die Macht, sich eine Zukunft vorzustellen, aber sie fiel auf eine Version zurück, in der sich die Technologie änderte, die Menschenrechte jedoch nicht. Dies löschte effektiv die Aspirationen der Protestierenden aus und machte ihre Vision einer freien Zukunft unsichtbar und damit für diejenigen, die die Bilder sehen, weniger plausibel.

Das dritte Beispiel betrifft die Frage, wie KI unser Verständnis dessen formt, was sozial möglich ist. Wenn KI-Systeme verwendet werden, um Nachrichten zusammenzufassen oder Fragen zu beantworten, können sie Nutzer subtil in Richtung dominanter Standpunkte lenken und alternative Narrative unterdrücken. Wenn eine KI konsistent die aktuelle soziale Ordnung als das einzig logische oder unvermeidliche Ergebnis darstellt, kann dies Menschen davon abhalten, sich vorzustellen, dass Dinge auch anders sein könnten. Dies ist nicht nur eine Frage der Voreingenommenheit (Bias); es ist eine Frage der Verengung des mentalen Raums, der für sozialen Wandel zur Verfügung steht. Indem sie den Status quo als die einzige Realität erscheinen lässt, können diese Systeme die Hoffnung untergraben, die für Transformation notwendig ist.

Das Paper kommt zu dem Schluss, dass diese Schäden real sind und dringende Aufmerksamkeit erfordern. Die Autorinnen schlagen nicht vor, dass die KI ein Monster ist, das unsere Träume stiehlt, noch behaupten sie, dass der Schaden unvermeidlich sei. Stattdessen argumentieren sie, dass wir die einzigartige Macht dieser Systeme erkennen müssen, die sehr Ressourcen zu formen, die wir nutzen, um über unsere Zukunft nachzudenken. Die Gefahr liegt im leisen, kumulativen Effekt von Millionen von personalisierten Interaktionen und algorithmischen Entscheidungen, die langsam den Horizont dessen, was wir für möglich halten, verengen. Durch die Identifizierung des „aspirativen Schadens“ als eine eigenständige Kategorie hoffen die Forscherinnen, ein neues Gespräch darüber anzustoßen, wie man KI-Systeme so gestaltet, dass sie unsere Vorstellungskraft erweitern, statt sie einzuschränken. Das Ziel ist es, sicherzustellen, dass diese Technologien, während sie immer stärker in unser Leben integriert werden, weiterhin als Werkzeuge des Widerstands und der Transformation dienen und uns helfen, eine Zukunft zu entwerfen und aufzubauen, die wahrhaft offen für alle ist.