Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

In der stillen Untersuchung dessen, wie Menschen gemeinsam lernen – einem Feld, das als Computer-Supported Collaborative Learning bekannt ist –, haben Forscher lange Zeit den Fokus auf den komplexen Tanz menschlicher Geister gelegt, die aufeinandertreffen. Sie untersuchen, wie Studierende Ideen teilen, das Denken des jeweils anderen herausfordern und durch Konversation ein gemeinsames Verständnis aufbauen. Zentral für diese Arbeit ist die Vorstellung, dass wahres Lernen dann stattfindet, wenn Menschen nicht nur nebeneinander arbeiten, sondern tief in einem gemeinsamen mentalen Raum miteinander verbunden sind, in dem sie sich gegenseitig in ihren Gedanken und Gefühlen beeinflussen. Jahrzehntelang waren die Werkzeuge, die dies unterstützten, einfache Hilfsmittel: Whiteboards, gemeinsame Dokumente oder Videotelefonie, die halfen, Menschen mit anderen Menschen zu verbinden. Doch eine neue Kraft ist in den Raum getreten. Generative Künstliche Intelligenz, die Technologie hinter den Chatbots, die Aufsätze schreiben, Probleme lösen und Gespräche führen können, wird nun von Studierenden und Lehrkräften gleichermaßen genutzt. Da diese Werkzeuge immer leistungsfähiger werden, stellt sich eine natürliche Frage: Wenn ein Mensch mit dieser Maschine arbeitet, kollaboriert er dann? Der Begriff „Kollaboration“ suggeriert eine Partnerschaft auf Augenhöhe, ein Aufeinandertreffen von Geistern, bei dem beide Seiten zu einem gemeinsamen Ziel beitragen. Aber Maschinen besitzen keine Geister, Gefühle oder Intentionen in der Weise, wie Menschen es tun. Dies erzeugt eine Spannung zwischen der Sprache, die wir zur Beschreibung unserer neuen Werkzeuge verwenden, und der Realität dessen, wie diese Werkzeuge tatsächlich funktionieren.

Zwei Forscherinnen, Gaëlle Molinari und Kristine Lund, unternahmen den Versuch, diese Spannung zu untersuchen. Sie fragten sich, ob die Bezeichnung der Interaktion zwischen einem Menschen und einer künstlichen Intelligenz als „Kollaboration“ eine genaue Beschreibung oder eine irreführende ist. Um dies zu beantworten, stützten sie sich auf die strikte Definition von Kollaboration, die in ihrem Fachgebiet verwendet wird und auf spezifischen menschlichen Qualitäten wie gemeinsamem Verständnis, gegenseitigem Einfluss und emotionaler Verbindung beruht. Sie verglichen diese menschlichen Qualitäten daraufhin mit dem, was die künstliche Intelligenz tatsächlich tut. Ihre Untersuchung zeigt, dass die Maschine zwar unglaublich hilfreich sein kann, die Beziehung, die sie zu einem Menschen aufbaut, sich jedoch grundlegend von einer Partnerschaft zwischen zwei Menschen unterscheidet. Die Autorinnen argumentieren, dass die Verwendung des Wortes „Kollaboration“, um diese Interaktion zu beschreiben, riskant ist, da sie die Linie zwischen Mensch und Maschine verwischt und potenziell verändert, wie wir menschliche Verbindung bewerten und wie Studierende lernen.

Die Forscherinnen begannen damit, die Geschichte dessen nachzuzeichnen, wie wir über das Zusammenwirken von Mensch und Maschine denken. Lange Zeit haben Wissenschaftler eine Zukunft imaginiert, in der die Fähigkeiten von Mensch und Computer zu einem einzigen, leistungsstarken System verschmelzen. Frühe Denker beschrieben dies als eine „Symbiose“, bei der die Maschine die menschliche Kraft erweitert, oder als eine „Ko-Evolution“, bei der sich sowohl der Mensch als auch die Maschine im Laufe der Zeit gemeinsam entwickeln und verändern. In den letzten Jahren wurde diese Idee als „hybride Intelligenz“ gerahmt, wobei Mensch und künstliche Intelligenz als zwei Teile eines Systems gesehen werden, von denen jeder unterschiedliche Stärken einbringt. Menschen bieten Kreativität, emotionale Tiefe und ethisches Urteilsvermögen, während Maschinen Geschwindigkeit, Mustererkennung und enorme Datenverarbeitung bieten. Das Ziel dieses hybriden Systems ist es, Ergebnisse zu erzielen, die keiner der beiden allein erreichen könnte. Die Autorinnen weisen jedoch darauf hin, dass die Realität der Interaktion, obwohl dies nach einer Partnerschaft klingt, oft einseitig ist. Die Maschine lernt nicht wirklich im gleichen Sinne von dem Menschen, wie ein Mensch von einem anderen lernt; sie passt ihre Ausgabe basierend auf statistischen Mustern an, nicht auf Basis eines echten Verständnisses der Ziele oder Gefühle des menschlichen Partners.

Als die Forscherinnen die strengen Regeln der menschlichen Kollaboration auf diese Interaktionen anwandten, traten mehrere Lücken zutage. Wahre Kollaboration erfordert, dass beide Parteien die Perspektive des anderen verstehen und zusammenarbeiten, um Bedeutung zu konstruieren. In einer menschlichen Gruppe, wenn eine Person widerspricht, spürt die andere diesen Widerstand und muss ihr Denken anpassen. Diese Reibung ist essenziell für das Lernen. Bei einer künstlichen Intelligenz hingegen hat die Maschine keine Perspektive, die sie vertreten könnte, und keinen Geist, der sich ändern könnte. Sie kann ein Gegenargument generieren, aber sie „widerspricht“ nicht im menschlichen Sinne; sie berechnet lediglich eine Antwort, die zum Gespräch passt. Die Autorinnen fanden heraus, dass die Maschine nicht in der Lage ist, an „Intersubjektivität“ teilzunehmen – einem Zustand, in dem zwei Menschen einen gemeinsamen mentalen Raum teilen und die inneren Welten des jeweils anderen wahrhaft verstehen. Die Maschine kann den Anschein von Verständnis imitieren, aber sie besitzt nicht das Bewusstsein, das erforderlich ist, um einen anderen Menschen wirklich zu kennen.

Dieser Unterschied wird noch kritischer, wenn man die emotionale und soziale Seite des Lernens betrachtet. Menschliche Kollaboration ist tief in unseren Körpern und unseren Gefühlen verwurzelt. Wir empfinden Empathie, wir werden frustriert und wir bauen durch geteilte Erfahrungen ein Gefühl des „Wir-Seins“ auf. Eine künstliche Intelligenz kann so programmiert werden, dass sie auf emotionale Signale reagiert, indem sie beispielsweise ein tröstendes Wort bietet, wenn ein Nutzer traurig erscheint. Aber die Maschine fühlt die Traurigkeit selbst nicht. Sie kann nicht auf die Weise von einem Menschen betroffen sein, wie ein Mensch von einem anderen betroffen ist. Die Autorinnen beschreiben dies als eine tiefgreifende Asymmetrie: Der Mensch mag eine Verbindung fühlen, aber die Maschine bleibt ein Werkzeug, das diese Verbindung simuliert, ohne sie zu erleben. Dies birgt das Risiko, dass Nutzer, insbesondere Studierende, ihre eigenen emotionalen Bedürfnisse auf die Maschine projizieren und glauben, sie hätten eine wechselseitige Beziehung, wo keine existiert.

Die Folgen daraus, diese Interaktion als „Kollaboration“ zu bezeichnen, sind erheblich für die Bildung. Wenn Studierende glauben, mit einem Partner zusammenzuarbeiten, könnten sie beginnen, der Maschine zu viel zu vertrauen und ihr ihr eigenes Denken und ihre Entscheidungsfindung zu überlassen. Dies ist als „kognitive Auslagerung“ (cognitive offloading) bekannt, bei der eine Person sich auf ein externes Werkzeug verlässt, um die geistige Arbeit für sie zu erledigen. Während dies Aufgaben einfacher machen kann, warnen die Autorinnen davor, dass dies zu einer „kognitiven Kapitulation“ (cognitive surrender) führen kann, bei der der Studierende aufhört, sein eigenes Lernen zu überwachen, und einfach alles akzeptiert, was die Maschine produziert. Die Forschung legt nahe, dass sich die kritischen Denkfähigkeiten der Studierenden abschwächen können, wenn sie zu stark auf diese Werkzeuge vertrauen, und sie bei Tests, die tiefes Verständnis erfordern, schlechter abschneiden könnten. Die Maschine mag ihnen helfen, Hausaufgaben schneller zu erledig, aber sie hilft ihnen vielleicht nicht dabei, den Stoff zu lernen.

Darüber hinaus argumentieren die Autorinnen, dass die Behandlung der Maschine als Partner die Sichtweise auf menschliche Beziehungen verändert. Wenn wir uns an eine künstliche Intelligenz gewöhnen, die immer zustimmend, immer verfügbar und niemals wirklich herausfordernd ist, könnten wir beginnen, dasselbe von unseren menschlichen Freunden und Lehrkräften zu erwarten. Wir könnten anfangen, die reibungslose, konfliktfreie Interaktion mit einer Maschine gegenüber dem unordentlichen, schwierigen, aber letztlich lohnenderen Prozess der Arbeit mit einem anderen Menschen höher zu bewerten. Die Maschine kann ein mächtiges Werkzeug sein, aber sie als „Kollaborateur“ zu bezeichnen, verschleiert die Tatsache, dass sie ein Werkzeug ist. Ihr fehlen die Handlungsfähigkeit (Agency), die Verantwortung und die Kapazität für echtes gegenseitiges Verständnis, die eine menschliche Partnerschaft definieren.

Die Forscherinnen kommen zu dem Schluss, dass wir vorsichtig mit unserer Sprache sein müssen. Das Wort „Kollaboration“ zu verwenden, um die Mensch-GenAI-Interaktion zu beschreiben, ist nicht nur ein semantischer Fehler; es ist ein konzeptioneller Wandel, der unsere Bildungspraktiken und unsere sozialen Erwartungen umgestalten könnte. Indem wir auf der Unterscheidung zwischen menschlicher Kollaboration und Mensch-Maschine-Interaktion bestehen, schützen wir den einzigartigen Wert menschlicher Verbindung. Wir stellen sicher, dass Studierende ihre eigenen Geister weiterhin durch den herausfordernden, reziproken und zutiefst menschlichen Prozess der Arbeit mit anderen entwickeln, anstatt ihr Denken an eine Maschine auszulagern, die nur vorgibt, ein Partner zu sein. Die Maschine ist eine bemerkenswerte Erfindung, aber sie ist kein Ebenbürtiger, und die Anerkennung dieses Unterschieds ist entscheidend für die Zukunft des Lernens.