What Influences Readers' and Writers' Perceived Necessity of AI Disclosure?

Diese Studie untersucht anhand einer Vignettenstudie mit 727 Teilnehmenden die Faktoren, die die wahrgenommene Notwendigkeit einer KI-Offenlegung beim Schreiben beeinflussen, und zeigt, dass Leser mehr Transparenz fordern als Schreiber und dass Urteile maßgeblich durch die Ersetzbarkeit der KI, ihre Direktheit und die Intentionalität des Schreibers geprägt werden, während die Schreibanstrengung keinen signifikanten Einfluss hat.

Das Wesentliche

Die große Frage: Wer muss etwas über die KI wissen?

Stellen Sie sich vor, Sie backen einen Kuchen. Manchmal backen Sie ihn komplett von Grund auf neu. Manchmal verwenden Sie eine fertige Mischung, oder vielleicht bitten Sie einen Freund, die Glasur aufzutragen.

Stellen Sie sich nun vor, eine neue Regel wird diskutiert: „Müssen Sie den Leuten sagen, wenn Sie Hilfe (oder eine Maschine) beim Backen Ihres Kuchens in Anspruch genommen haben?"

Dieses Papier stellt eine sehr spezifische Frage: Wann halten es Menschen (die Leser) und die Bäcker (die Autoren) für notwendig, zuzugeben, dass eine KI verwendet wurde?

Die Forscher stellten fest, dass Leser und Autoren diese Situation oft durch sehr unterschiedliche Brillen betrachten, und die Antwort hängt stark davon ab, wie die KI eingesetzt wurde.

---

Die drei Hauptzutaten der Studie

Um dies herauszufinden, stellten die Forscher ein „Degustationsmenü" aus 727 verschiedenen Szenarien (sogenannten Vignetten) zusammen. Sie mischten und kombinierten drei Hauptzutaten, um zu sehen, wie sie die Meinungen der Menschen verändern:

1. Die Perspektive (Wer spricht?): Sind Sie der Leser (der den Kuchen isst) oder der Autor (der ihn backt)?
2. Der Zweck (Wofür ist der Kuchen?): Geht es um ein ernsthaftes Vorstellungsgespräch (Bewertung), um einen Schulunterricht (Lernen) oder nur um eine lustige Geschichte für einen Blog (Unterhaltung)?
3. Das Verfahren (Wie wurde der Kuchen gebacken?): Dies ist der komplexeste Teil. Sie untersuchten vier spezifische Arten, wie die KI beteiligt war:
   • Ersetzbarkeit: Hätte der Autor diesen Kuchen ohne die KI backen können? (Wenn die Antwort „Nein" lautet, war die KI unverzichtbar).
   • Aufwand: Hat der Autor noch hart gearbeitet, oder hat die KI fast alles erledigt?
   • Intentionalität: Hat der Autor der KI ein strenges Rezept gegeben und das Steuer übernommen, oder hat er nur gesagt „Mach mir einen Kuchen!" und die KI das Ruder übernehmen lassen?
   • Direktheit: Hat der Autor die Ausgabe der KI direkt auf den Teller kopiert, oder hat er sie nur als Referenz verwendet?

---

Die überraschenden Ergebnisse

Hier ist das, was die Studie fand, in einfacher Sprache übersetzt:

1. Die „Selbstbedienungs"-Lücke

Das Ergebnis: Leser sagen viel häufiger: „Ja, Sie müssen es uns sagen!", als Autoren.
Die Analogie: Stellen Sie sich einen Magier vor. Das Publikum (die Leser) möchte wissen, ob ein Trick echt ist oder ob eine Maschine die Arbeit erledigt. Aber der Magier (der Autor) denkt vielleicht: „Ich habe die Show trotzdem aufgeführt; die Maschine war nur ein Requisit." Die Studie legt nahe, dass Autoren oft weniger Bedarf an einer Offenlegung empfinden, weil sie sich auch dann noch als „Eigentümer" der Arbeit fühlen, wenn sie eine KI verwendet haben.

2. Der „Zweck"-Mythos

Das Ergebnis: Überraschenderweise spielte es kaum eine Rolle, warum der Text geschrieben wurde.
Die Analogie: Man könnte denken, dass Menschen mehr Ehrlichkeit erwarten, wenn der Text für eine ernsthafte Bewerbung (Bewertung) bestimmt ist, als für einen lustigen Blogbeitrag (Unterhaltung). Aber die Studie ergab, dass das Bedürfnis der Menschen, etwas über die KI-Nutzung zu erfahren, in etwa gleich war, egal ob es für die Schule, die Arbeit oder zum Spaß war. Die „Wetteinsatzhöhe" änderte nichts am Bedarf an Offenlegung.

3. Das „Wie" ist am wichtigsten (Prozessfaktoren)

Die Studie ergab, dass sich alles ändert, wie die KI eingesetzt wurde. Eine Offenlegung wurde als notwendiger angesehen, wenn:

• Die KI unersetzlich war: Wenn der Autor es ohne die KI nicht allein geschafft hätte, empfanden die Menschen es als entscheidend, dies zuzugeben.
• Die KI das Steuer übernahm (geringe Intentionalität): Wenn der Autor nur „Schreib eine Geschichte" tippte und die KI den Plot entschied, fühlten die Leser ein starkes Bedürfnis, es zu wissen.
• Die KI-Ausgabe direkt verwendet wurde: Wenn der Autor den Text der KI mit sehr wenigen Änderungen einfach kopierte, wurde eine Offenlegung als notwendig angesehen.

Die Wendung beim Aufwand:
Die Forscher glaubten, dass die Menschen eine Offenlegung fordern würden, wenn ein Autor sehr wenig Aufwand betreibt (die KI 90 % der Arbeit erledigen lässt). Sie lagen falsch. Die Menge an Aufwand, die der Autor investierte, änderte nicht wesentlich, ob die Menschen eine Offenlegung für notwendig hielten. Es ging nicht darum, wie müde der Autor war, sondern darum, wie viel die KI tatsächlich getan hat.

4. Das „Lenkungs"-Paradoxon

Das Ergebnis: Dies ist der verwirrendste Teil.

• Leser denken: „Wenn Sie die KI das Auto fahren lassen (geringe Intentionalität), müssen Sie es uns sagen!"
• Autoren denken: „Wenn ich die KI das Auto fahren lasse, fühle ich weniger Bedarf, es jemandem zu sagen."
• Die Analogie: Es ist wie ein Fahrer, der sagt: „Ich habe nicht wirklich gefahren; das Navi hat gefahren." Der Fahrer fühlt sich weniger verantwortlich, aber die Passagiere (die Leser) haben das Gefühl, sie müssen wissen, dass das Auto auf Autopilot war.

---

Was bedeutet das für die Zukunft?

Das Papier schlägt vor, dass wir uns nicht darauf verlassen können, dass Autoren „das Richtige tun", da Autoren und Leser die Dinge unterschiedlich sehen.

Die Lösung: Wir brauchen bessere Werkzeuge.
Anstatt Autoren nur zu bitten, „die KI-Nutzung offenzulegen", sollten Plattformen ihnen helfen zu erklären, wie sie sie verwendet haben.

• Nicht nur sagen: „Ich habe eine KI verwendet."
• Sondern sagen: „Ich habe eine KI verwendet, um den Entwurf zu erstellen, aber ich habe die Sätze selbst geschrieben," oder „Ich habe die KI den ganzen Entwurf schreiben lassen und ihn nur redigiert."

Das Papier schlägt vor, Werkzeuge zu entwickeln, die diese Erklärungen automatisch für Autoren entwerfen, damit es ihnen leichter fällt, transparent zu sein, und zwar auf eine Weise, die dem entspricht, worum es den Lesern tatsächlich geht (z. B. ob die KI die schwere Arbeit erledigt hat oder nur bei ein paar Worten geholfen hat).

Zusammenfassung

• Leser wollen mehr über die KI-Nutzung wissen als Autoren.
• Warum der Text geschrieben wurde (Schule vs. Spaß) ändert nichts am Bedarf an Offenlegung.
• Wie die KI eingesetzt wurde, ist am wichtigsten: Wenn die KI die schwere Arbeit erledigt hat, die Führung übernommen hat oder direkt kopiert wurde, empfinden die Menschen eine Offenlegung als notwendig.
• Aufwand ist nicht so wichtig, wie wir dachten.
• Autoren empfinden oft weniger Bedarf an einer Offenlegung, wenn sie die KI die Führung übernehmen lassen, obwohl Leser das Gegenteil empfinden.

Technische Zusammenfassung

1. Problemstellung

Die rasche Integration Künstlicher Intelligenz (KI) in Schreibprozesse hat eine „Schaffenslücke" (creatorship gap) geschaffen, bei der KI-generierter oder KI-unterstützter Text oft nicht von menschlichem Schreiben zu unterscheiden ist. Diese Ambiguität stellt die Fähigkeit der Leser in Frage, Inhalte zu kontextualisieren, Vertrauenswürdigkeit zu bewerten und Verantwortlichkeit zu beurteilen. Während bestehende Vorschriften oft eine Offenlegung vorschreiben, besteht eine Diskrepanz zwischen Top-down-Richtlinien und den „grassroots"-Wahrnehmungen der eigentlichen Stakeholder: Leser (Inhaltskonsumenten) und Schreiber (Inhaltsersteller).

Das Kernforschungsproblem besteht darin, die spezifischen Faktoren zu verstehen, die die wahrgenommene Notwendigkeit einer KI-Offenlegung beeinflussen. Insbesondere untersuchen die Autoren, wie die Perspektive (Leser vs. Schreiber), der Zweck des Textes (Bewertung, Lernen, Unterhaltung) und prozedurale Faktoren (wie KI verwendet wurde) diese Wahrnehmungen prägen.

2. Methodik

Die Studie verwendet ein Vignetten-Experiment (ein survey-basiertes experimentelles Design mit hypothetischen Szenarien), um Variablen systematisch zu manipulieren und Wahrnehmungen zu messen.

• Teilnehmer: $N = 727$ Teilnehmer, rekrutiert über Prolific (US-basiert, englischsprachig, KI-kompetent).
• Design: Ein Resolution-IV-fraktionierter Faktorialplan wurde verwendet, um die kombinatorische Komplexität der Variablen zu bewältigen.
• Unabhängige Variablen:
  1. Perspektive: Zwei Stufen (Leser vs. Schreiber).
  2. Zweck: Drei Stufen (Bewertung, Lernen, Unterhaltung), jeweils operationalisiert mit zwei spezifischen Szenarien (z. B. Bewerbung vs. Anschreiben für Bewertung).
  3. Prozedurale Faktoren: Vier Dimensionen, jeweils mit Hoch/Niedrig-Stufen:
     • Ersetzbarkeit: Kann der Schreiber ähnliche Arbeit ohne KI leisten?
     • Anstrengung: Wie viel Zeit/Aufwand hat der Schreiber investiert?
     • Intentionalität: Hat der Schreiber die KI gesteuert (Hoch) oder die KI geführt (Niedrig)?
     • Direktheit: Wurde KI-Ausgabe direkt übernommen (Hoch) oder nur als Referenz genutzt (Niedrig)?
• Ablauf: Teilnehmer erhielten eine einzelne Vignette, die ein Schreibszenario mit spezifischen Kombinationen der oben genannten Faktoren beschrieb. Sie wurden um eine binäre Frage gebeten: „Ist in dieser Situation eine KI-Offenlegung notwendig?" (Ja/Nein). Zudem lieferten sie offene Begründungen.
• Analyse:
  • Quantitativ: Logistische Regressionsmodellierung zur Vorhersage des binären Ergebnisses (Notwendigkeit: Ja/Nein), einschließlich Haupteffekte, Interaktionstermen (Perspektive $\times$ Prozedurale Faktoren) und Kovariaten (Schreib-Selbstwirksamkeit, KI-Literacy, interne Urteile).
  • Qualitativ: Reflexive thematische Analyse offener Antworten zur Ergänzung der quantitativen Befunde.

3. Hauptbeiträge

1. Bottom-Up-Perspektive: Verschiebung des Fokus von regulatorischen Mandaten hin zur „wahrgenommenen Notwendigkeit" der direkten Stakeholder (Leser und Schreiber), wodurch eine Lücke in der FAccT-Transparenzforschung geschlossen wird.
2. Synthese prozeduraler Faktoren: Zusammenführung vorheriger Rahmenwerke (z. B. CCC-Rahmenwerk, CoCo-Matrix) in vier distincte, operationalisierbare prozedurale Faktoren (Ersetzbarkeit, Anstrengung, Intentionalität, Direktheit), die spezifisch für KI-unterstütztes Schreiben sind.
3. Identifizierung einer Perspektivlücke: Empirischer Nachweis einer signifikanten Divergenz zwischen der Wahrnehmung der Offenlegungsnotwendigkeit durch Leser und Schreiber, insbesondere hinsichtlich der Rolle der Intentionalität.
4. Design-Richtlinien: Vorschlag konkreter Design-Interventionen für KI-Offenlegungstools, einschließlich „Scaffolding" (automatisierte, granulare Offenlegungsvorlagen) und Verhaltensnudges basierend auf spezifischen Nutzungsmustern.

4. Hauptergebnisse

Die logistische Regression und die qualitative Analyse ergaben folgende Befunde:

• Perspektiveffekt (FQ1):

  • Leser empfinden eine Offenlegung als signifikant notwendiger als Schreiber (Schreiber haben etwa 80 % geringere Odds, eine Offenlegung als notwendig zu erachten).
  • Interpretation: Schreiber leiden möglicherweise unter einem selbstdienlichen Bias oder betrachten KI als „umgebende" Infrastruktur, was ihr Gefühl der Verpflichtung zur Offenlegung verringert.

• Zweckeffekt (FQ2):

  • Der Zweck des Textes (Bewertung, Lernen, Unterhaltung) hatte keinen statistisch signifikanten Haupteffekt auf die wahrgenommene Notwendigkeit einer Offenlegung.
  • Hinweis: Obwohl qualitative Daten einige kontextspezifische Nuancen nahelegten, zeigte das quantitative Modell, dass wie KI verwendet wurde, wichtiger war als warum der Text geschrieben wurde.

• Prozedurale Faktoren (FQ3):

  • Ersetzbarkeit: Eine Offenlegung wird als notwendiger angesehen, wenn der KI-Beitrag unersetzlich ist (Niedrige Ersetzbarkeit).
  • Anstrengung: Überraschenderweise hatte die vom Schreiber investierte Anstrengung keinen signifikanten Effekt auf die wahrgenommene Notwendigkeit. Dies widerspricht dem „Anstrengungs-Heuristik"-Ansatz (die Idee, dass weniger Anstrengung weniger Eigentumsanspruch impliziert).
  • Intentionalität: Eine Offenlegung wird als notwendiger angesehen, wenn der Schreiber die KI nicht absichtlich steuert (Niedrige Intentionalität).
  • Direktheit: Eine Offenlegung wird als notwendiger angesehen, wenn KI-Inhalte direkt übernommen werden mit minimalen Änderungen (Hohe Direktheit).

• Interaktionseffekte (FQ4):

  • Intentionalität $\times$ Perspektive: Diese Interaktion war signifikant und kontraintuitiv.
    • Leser: Empfinden eine Offenlegung als notwendiger, wenn die Intentionalität Niedrig ist (KI führt).
    • Schreiber: Empfinden eine Offenlegung als weniger notwendig, wenn die Intentionalität Niedrig ist.
  • Dies deutet darauf hin, dass Schreiber sich weniger Verantwortung (und somit weniger Bedarf zur Offenlegung) zuschreiben, wenn sie die KI führen lassen, während Leser dieses Fehlen menschlicher Kontrolle als kritisch für das Vertrauen erachten und daher eine Offenlegung fordern.

• Kovariaten:

  • Höhere Schreib-Selbstwirksamkeit und KI-Literacy korrelierten mit einer geringeren wahrgenommenen Notwendigkeit einer Offenlegung.
  • Stärkere interne Urteile zur Offenlegung (Wertschätzung von Transparenz) korrelierten mit einer höheren wahrgenommenen Notwendigkeit.

5. Bedeutung und Implikationen

Die Studie liefert eine datengestützte Grundlage für die Gestaltung besserer KI-Offenlegungsmechanismen:

• Über binäre Labels hinaus: Aktuelle „KI-generiert"-Tags sind unzureichend. Die Offenlegung sollte granular sein und den Ersetzbarkeitsgrad, die Intentionalität und die Direktheit der KI-Nutzung detaillieren, da dies die Faktoren sind, die Leser tatsächlich interessieren.
• Scaffolding-Offenlegung: Plattformen sollten Tools anbieten, die automatisch Offenlegungsentwürfe basierend auf Interaktionsprotokollen generieren (z. B. „Sie haben KI verwendet, um 80 % des Textes mit minimalem Bearbeiten zu generieren"). Entscheidend ist, dass diese Tools die Anstrengung herabstufen (da sie für die Teilnehmer irrelevant war) und die Intentionalität hervorheben (da dies ein Hauptunterscheidungspunkt zwischen Lesern und Schreibern ist).
• Verhaltensnudges: Um das Verhalten der Schreiber mit den Erwartungen der Leser in Einklang zu bringen, sollten Systeme gezielte Nudges einsetzen, wenn Niedrige Intentionalität erkannt wird (d. h. wenn der Schreiber die KI führen lässt), und sie daran erinnern, dass dieses spezifische Szenario von Lesern stark für Transparenz bewertet wird.
• Politikreform: Vorschriften sollten sich von starren „Alles-oder-Nichts"-Regeln hin zu kontextbewussten Leitlinien bewegen, die die im Studie identifizierten nuancierten prozeduralen Faktoren widerspiegeln.

Zusammenfassend argumentiert das Papier, dass eine effektive KI-Transparenz über einfache Erkennung oder obligatorische Kennzeichnung hinausgehen muss und ein System erfordert, das die Natur der Mensch-KI-Zusammenarbeit versteht und die Wahrnehmungslücke zwischen denen, die den Inhalt erstellen, und denen, die ihn konsumieren, überbrückt.