Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
Diese Studie misst das Web-Tracking bei 20 populären KI-Chatbots systematisch und zeigt, dass die Mehrheit sensible Nutzerinhalte und Identitätsinformationen selbst im privaten Chat-Modus mit Diensten für Drittanbieter-Analytik, Werbung und Sitzungsreplay teilt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich KI-Chatbots als hochtechnisierte, freundliche Bibliothekare vor. Sie treten an sie heran, flüstern eine Frage und sie holen ein Buch hervor, um Ihnen zu helfen. In der Vergangenheit hätten Sie vielleicht gedacht: „Das ist nur ein Gespräch zwischen mir und dem Bibliothekar."
Dieser Forschungsbericht enthüllt jedoch, dass, während Sie mit dem Bibliothekar sprechen, eine ganze Menge Fremder hinter einer einseitigen Glaswand steht, Notizen macht, Fotos schießt und sogar Audio aufzeichnet.
Hier ist die Aufschlüsselung dessen, was die Forscher mit einfachen Analogien fanden:
1. Das Setup: Die „Glashaus"-Bibliothekare
Die Forscher gingen auf 20 der beliebtesten KI-Chatbot-Websites (wie ChatGPT, Gemini, Claude usw.). Sie stellten nicht einfach zufällige Fragen; sie stellten eine sehr spezifische, sensible Frage: „Wo kann ich in meiner Nähe einen Schwangerschaftstest bekommen?"
Das ist, als würde man in eine Bibliothek gehen und in sehr gedämpfter Tonlage medizinischen Rat einholen. Die Forscher wollten sehen, was mit diesem spezifischen Informationsstück passiert, sobald es Ihren Mund verlässt.
2. Die große Enthüllung: Die „Drittpartei-Schnüffler"
Die Studie ergab, dass 17 der 20 Chatbots Ihre Gesprächsdetails mit externen Unternehmen (Drittparteien) teilen.
Stellen Sie es sich so vor: Sie führen ein privates Gespräch in einem Raum, aber die Wände sind aus Glas, und der Chatbot-Besitzer hat 17 verschiedene Nachbarn eingeladen, herzukommen und mitzuhören.
- Die „Session-Replay"-Kameras: Drei der Chatbots verwendeten ein Tool namens „Microsoft Clarity". Stellen Sie sich dies als eine Überwachungskamera vor, die nicht nur den Raum aufzeichnet, sondern genau das, was Sie sagten, und was der Bibliothekar zurückantwortete, in Klartext aufzeichnet. Die Forscher stellten fest, dass diese Kameras den vollständigen Text des „Schwangerschaftstest"-Gesprächs an Microsoft sendeten, was es ihnen ermöglichte, Ihre private medizinische Anfrage zu lesen.
- Die „Chat-ID"-Postkarten: Selbst wenn der Chatbot den vollständigen Text nicht sendet, schickten 15 von ihnen eine „Postkarte" an Werbetreibende und Analytiker. Diese Postkarte sagte nicht, was Sie fragten, enthielt aber eine eindeutige Chat-ID oder einen Link zu Ihrem spezifischen Gespräch. Es ist, als würde man eine Notiz senden, die sagt: „Ich bin in Raum 404", an eine Marketingfirma. Sie wissen vielleicht noch nicht, dass Sie nach Schwangerschaftstests gefragt haben, aber sie wissen, dass Sie sich in diesem spezifischen Raum befinden, und sie können diesen Raum später mit Ihrer Identität verknüpfen.
3. Das „Namensschild"-Problem
Die Forscher stellten auch fest, dass viele Chatbots Ihre Identität (Ihren Namen, Ihre E-Mail-Adresse oder Ihre Kontonummer) zusammen mit dem Gespräch weitergaben.
- Das „Support-Widget"-Leck: Einige Chatbots haben kleine „Hilfe"-Buttons auf dem Bildschirm. Wenn Sie die Seite laden, schreien diese Buttons automatisch Ihren Namen und Ihre E-Mail-Adresse an das Unternehmen, das den Button erstellt hat (wie Intercom), selbst wenn Sie den Button nie angeklickt haben.
- Das „gehashte" Geheimnis: Einige Chatbots sendeten Ihre E-Mail-Adresse, aber „verschlüsselt" (gehasht). Stellen Sie sich dies wie das Senden eines Geheimschlüssels vor, den nur der Empfänger entschlüsseln kann. Wenn Sie denselben verschlüsselten Code auf einer Einkaufsseite und einer Chatbot-Seite verwenden, können Werbetreibende die beiden verknüpfen und feststellen: „Ah, die Person, die Windeln gekauft hat, ist dieselbe Person, die nach Schwangerschaftstests fragt."
4. Der „Inkognito"-Modus: Funktioniert er?
Viele Chatbots bieten einen „Privaten" oder „Temporären" Chat-Modus an und versprechen, dass nichts gespeichert wird. Die Forscher testeten dies.
- Das Ergebnis: Es funktionierte! Im privaten Modus verschwand die „Menge der Nachbarn" weitgehend. Die Anzahl der zuhörenden externen Unternehmen sank erheblich, und in den privaten Chats, die sie testeten, sah niemand den Gesprächstext oder Ihre Identität.
- Der Haken: Die Datenschutzrichtlinie des Chatbots sagte nicht ausdrücklich: „Privater Modus stoppt die Werbetreibenden." Sie sprach nur davon, Ihren Verlauf nicht zu speichern. Die Forscher stellten fest, dass das Design des privaten Modus das Tracking verhinderte, auch wenn die Regeln dies nicht klar erklärten.
5. Die „Datenschutzrichtlinie" vs. Realität
Die Forscher verglichen das, was die Chatbots sagten, was sie taten (in ihren langen, langweiligen Datenschutzrichtlinien), mit dem, was sie tatsächlich taten.
- Die Diskrepanz: Einige Richtlinien waren vage und sagten: „Wir teilen Daten mit Partnern." Andere waren spezifisch, verpassten aber die größten Lecks. Beispielsweise listeten drei Chatbots spezifische Partner in ihren Richtlinien auf, vergaßen jedoch, Microsoft Clarity zu erwähnen, obwohl Clarity ihre privaten Gespräche in Klartext aufzeichnete.
- Die Ausnahme: Ein Chatbot, Duck.ai, war der „ehrliche Bibliothekar". Er teilte keine Daten mit jemandem und entfernte sogar Ihren Standort, bevor er die Frage an die KI sendete.
Zusammenfassung
Die Studie kommt zu dem Schluss, dass KI-Chatbots zwar großartige Tools sind, aber derzeit wie Glashäuser gebaut sind.
- 17 von 20 Chatbots lassen externe Unternehmen hineinspähen.
- 3 Chatbots lassen diese Unternehmen Ihre privaten medizinischen oder persönlichen Fragen laut vorlesen.
- 15 Chatbots senden eine eindeutige ID an Werbetreibende, die Ihr Gespräch mit Ihrer Identität verknüpft.
- Der private Modus ist der einzige „Vorhang", der die Nachbarn effektiv blockiert, aber die Chatbots sagen Ihnen nicht immer, dass dies seine Funktion ist.
Die Forscher schlagen vor, dass Chatbot-Besitzer bessere Wände bauen müssen (Designänderungen) und offener darüber sein müssen, wer zuhört (klarere Richtlinien).
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.