Chat First, Worry Later: Understanding Individuals' Privacy Perceptions Using ChatGPT in a Work Context
Eine Nutzerstudie unter 224 Fachkräften zeigt, dass organisatorische Richtlinien zwar positiv mit der ChatGPT-Kompetenz korrelieren, die allgemeine Kompetenz jedoch niedrig bleibt und verstärkte Datenschutzbedenken sowohl die Häufigkeit als auch die Vielfalt der ChatGPT-Nutzung signifikant reduzieren, insbesondere in Organisationen, denen spezifische GenAI-Leitlinien fehlen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der modernen Arbeitswelt ist eine neue Art von Helfer eingetroffen, der E-Mails schreiben, Berichte zusammenfassen und Code mit einer Geschwindigkeit entwerfen kann, die sich fast menschlich anfühlt. Dieser Helfer ist ein generatives Werkzeug der künstlichen Intelligenz, eine Art Computerprogramm, das mit riesigen Mengen an Texten aus dem Internet trainiert wurde. Diese Programme, die oft als große Sprachmodelle bezeichnet werden, arbeiten, indem sie vorhersagen, welches Wort als nächstes in einem Satz stehen sollte, was es ihnen ermöglicht, kohärente und nützliche Antworten auf fast jede Frage zu generieren. Während diese Werkzeuge versprechen, die Arbeit einfacher und schneller zu machen, bringen sie einen versteckten Preis mit sich: Die Informationen, die Sie in sie eingeben, bleiben möglicherweise nicht privat. Da diese Systeme mit Daten trainiert werden, die persönliche Details enthalten, besteht ein reales Risiko, dass sensible Informationen über Patienten, Kunden oder Kollegen versehentlich offengelegt oder auf eine Weise gespeichert werden, die die Sicherheit gefährdet. Dies schafft eine schwierige Situation für Arbeitnehmer, die diese Werkzeuge zur Effizienzsteigerung nutzen wollen, aber die Folgen befürchten, zu viel preiszugeben.
Um zu verstehen, wie Menschen mit dieser Spannung umgehen, führten Forscher der Universität Regensburg in Deutschland eine Studie mit 224 Fachkräften aus verschiedenen Branchen durch, darunter IT, Gesundheitswesen und Bildung. Sie wollten untersuchen, wie drei spezifische Dinge beeinflussten, ob Menschen diese Werkzeuge nutzten und wie sie sie nutzten: die von ihren Arbeitgebern festgelegten Regeln, ihre eigenen persönlichen Datenschutzbedenken und wie gut sie tatsächlich verstanden, wie das Werkzeug mit ihren Daten umgeht. Die Forscher fanden heraus, dass Mitarbeiter in Unternehmen mit klaren Richtlinien über den Einsatz dieser Werkzeuge mehr darüber wussten, wie die Technologie funktioniert. Konkret waren Arbeitnehmer in Unternehmen mit Richtlinien besser in der Lage, Fragen darüber zu beantworten, wie das Werkzeug Informationen speichert und verarbeitet. Trotz dieser Regeln war der allgemeine Grad des Verständnisses unter allen Teilnehmern jedoch recht gering; die meisten Menschen beantworteten nur etwa ein Drittel der Fakten korrekt.
Die Studie zeigte ein klares Verhaltensmuster auf. Personen, die sich tiefgreifend um den Datenschutz sorgten, nutzten die Werkzeuge seltener und beschränkten sich auf einen engeren Aufgabenbereich. Dieses Zögern war am ausgeprägsten bei Arbeitnehmern, deren Unternehmen überhaupt keine Regeln hatten; in Ermangelung offizieller Leitlinien verließen sich diese Individuen ganz auf ihre eigenen Ängste und ihr Wissen, um zu entscheiden, was sicher sei. Im Gegensatz dazu schien das persönliche Maß an Besorgnis bei Arbeitnehmern in Organisationen mit etablierten Richtlinien keinen Einfluss darauf zu haben, wie oft sie das Werkzeug nutzten oder wofür sie es verwendete. Die Regeln selbst schienen einen Rahmen zu bieten, der es ihnen ermöglichte, die Technologie breiter einzusetzen, unabhängig von ihrer persönlichen Angst. Interessanterweise fanden die Forscher heraus, dass die spezifische Art der Regel – ob sie einschränkte, wer das Werkzeug nutzen durfte oder wie es genutzt werden konnte – keinen signifikanten Unterschied im Verhalten machte. Das bloße Vorhandensein einer Richtlinie schien der wichtigste Faktor zu sein, der das Engagement der Mitarbeiter mit der Technologie prägte.
Eine der auffälligsten Erkenntnisse war ein weit verbreitetes Missverständnis darüber, wie diese Werkzeuge Daten schützen. Fast alle Teilnehmer der Studie glaubten, dass die Informationen, die sie in den Chat eingaben, automatisch verborgen oder anonymisiert wurden, um ihre Identität zu schützen. In Wirklichkeit garantieren die Standardeinstellungen des Werkzeugs dies nicht, und die Daten können verwendet werden, um zukünftige Versionen des Systems zu trainieren. Diese Lücke zwischen dem, was die Menschen glauben, was geschieht, und dem, was tatsächlich geschieht, deutet darauf hin, dass viele Arbeitnehmer diese leistungsstarken Werkzeuge unter der Annahme einer falschen Sicherheit nutzen. Die Forscher kamen zu dem Schluss, dass organisatorische Richtlinien den Menschen zwar helfen, die Technologie besser zu verstehen, aber den zugrunde liegenden Mangel an Wissen nicht automatisch beheben. Ohne klare, genaue Informationen werden selbst gut gemeinte Arbeitnehmer weiterhin sensible Daten preisgeben – nicht, weil sie unvorsichtig sind, sondern weil sie die Risiken schlichtweg nicht kennen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.