CIDER: A Dataset of Contextual Disclosure Boundaries for Privacy Preference Alignment
Dieses Paper stellt CIDER vor, einen groß angelegten Datensatz kontextueller Offenlegungsgrenzen, die aus menschlichen Annotationen abgeleitet wurden, um die Ausrichtung großer Sprachmodelle auf nuancierte, individuelle Privatsphäre-Präferenzen durch Personalisierung zur Inferenzzeit zu bewerten und zu verbessern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie bringen einem Roboter bei, wie man ein guter Freund ist. Sie würden ihm nicht einfach ein riesiges Regelbuch geben, in dem steht: „Verrate keine Geheimnisse.“ Das wäre zu vage. Wenn Sie dem Roboter sagen: „Sprich nicht über meinen Geburtstag“, könnte er verwirrt sein, wenn Sie gerade auf einer Überraschungsparty sind, auf der alle den Geburtstag herausschreien. Aber bei einem ruhigen Abendessen mit einem Fremden sollte dasselbe Geheimnis fest verschlossen bleiben. Dies ist die knifflige Welt der Privatsphäre. Sie ist nicht nur eine Wand, auf der steht „Zutritt verboten“; sie ist eher wie eine Reihe unsichtbarer, sich verschiebender Türen, die sich je nachdem öffnen und schließen, wer gerade dort steht, wie das Wetter ist und wie sehr man der Person vertraut.
Wissenschaftler wissen schon lange, dass Computer immer besser darin werden, allgemeine Regeln zu befolgen, wie zum Beispiel „gib keine Krankenakten an Fremde weiter“. Aber es gibt eine Lücke zwischen dem Wissen um die allgemee Regel und dem Verständnis für Ihre spezifischen, persönlichen Gefühle dazu. Sie könnten der Typ Mensch sein, der gerne Fotos von seinem Mittagessen teilt, aber nervös wird, wenn jemand Ihr Gehalt erwähnt. Ein anderer Mensch könnte genau das Gegenteil empfinden. Die große Frage, die Forscher zu lösen versuchen, lautet: Können wir KI lehren, diese einzigartigen, persönlichen „Privatsphäre-Grenzen“ zu verstehen, damit sie nicht versehentlich Ihren Tee verschüttet, wenn Sie ihn lieber warm halten würden?
Hier kommt CIDER ins Spiel, eine neue Studie, die wie ein riesiges Trainingslager für KI fungiert, um diese persönlichen Geheimnisse zu lernen. Die Forscher versammelten 169 echte Menschen und stellten ihnen eine einfache, aber knifflige Frage: „Wärst du damit einverstanden, wenn ich diese Geschichte über dich auf diese neun verschiedenen Arten erzählen würde?“ Sie veränderten die Geschichte jedes Mal ein wenig – manchmal verwendeten sie Ihren vollen Namen, manchmal sagten sie nur „ein Freund“, manchmal gaben sie jedes winzige Detail an und manchmal hielten sie es vage. Sie fanden heraus, dass die Antworten der Menschen nicht zufällig waren; sie folgten spezifischen Mustern. Einige Menschen waren mit vagen Details einverstanden, hassten es aber, wenn ihr Name verwendet wurde. Andere fanden den Namen nicht schlimm, bekamen aber Panik bei den winzigen Details.
Das Team nahm diese Daten und testete 12 verschiedene KI-Modelle, indem es sie fragte, was eine bestimmte Person als Nächstes sagen würde, basierend auf dem, was diese Person zuvor gesagt hatte. Es ist wie ein Spiel namens „Errate die Regel“, bei dem die KI nach Ihren vergangenen Entscheidungen suchen muss, um Ihren persönlichen Privatsphäre-Stil zu entschlüsseln. Die Ergebnisse waren eine Mischung aus großartigen Neuigkeiten und einigen Realitätschecks. Die größten, intelligentesten KI-Modelle (wie die von Anthropic und OpenAI) wurden sehr gut darin. Wenn sie nur sechs Beispiele aus den vergangenen Entscheidungen einer Person erhielten, konnten sie die zukünftigen Entscheidungen dieser Person mit einer viel höheren Genauigkeit vorhersagen – bis zu 11,41 Prozentpunkte besser, als wenn sie gar keine Historie hätten. Diese smarten Modelle schienen das Gefühl der Situation zu verstehen, nicht nur die Worte.
Die Studie fand jedoch auch, dass nicht alle KIs gleich gut sind. Die kleineren, einfacheren Modelle neigten dazu, sich auf starre Abkürzungen zu verlassen. Sie lernten Dinge wie: „Wenn der Name da ist, sage NEIN“ oder „Wenn die Details zu zahlreich sind, sage NEIN“, ohne die Nuancen wirklich zu verstehen. Sie waren wie Schüler, die den Lösungsschlüssel auswendig gelernt haben, aber die Lektion nicht verstanden haben. Darüber hinaus wurde deutlich, dass die smarten Modelle zwar besser wurden, sie aber manchmal in die falsche Richtung zu selbstbewusst wurden. Sie hörten vielleicht auf, „Nein“ zu sagen, wenn sie es sollten, oder sagten „Ja“, wenn sie es nicht sollten, was ein neues Ungleichgewicht schuf. Nur ein Modell, Claude Sonnet 4.6, schaffte es, seine Genauigkeit zu verbessern, ohne das Gleichgewicht seiner Fehler zu stören.
Letztendlich deutet CIDER darauf an, dass wir der KI, die unsere persönliche Privatsphäre wirklich respektieren kann, näher kommen, aber es ist noch kein gelöstes Problem. Die beste KI benötigt nicht nur viele Daten, sondern die Fähigkeit, den subtilen, menschlichen Kontext hinter unseren Entscheidungen zu verstehen. Es ist eine Erinnerung daran, dass Privatsphäre nicht nur daraus besteht, Informationen zu verbergen; es geht darum, genau zu wissen, mit wem man sie teilt, und die KI muss diesen Tanz genauso gut lernen wie wir.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.