(Un)fair devices: Moving beyond AI accuracy in personal sensing

Diese Literaturarbeit zeigt auf, wie versteckte Verzerrungen in KI-Modellen personaler Geräte zu unfairen Ergebnissen führen können, und fordert einen Paradigmenwechsel von rein leistungsorientierten hin zu menschenzentrierten Bewertungsansätzen, um durch Leitlinien für die Entwicklung bias-freier Systeme Gesundheit und Lebensqualität zu verbessern.

Das Wesentliche

📱 Wenn dein Smartwatch unfair ist: Warum „hervorragende Technik" nicht immer „gerechte Technik" bedeutet

Stell dir vor, du hast einen digitalen Leibwächter am Handgelenk. Eine Smartwatch, einen Ring oder ein Fitness-Armband. Dieser Wächter kennt deinen Schlaf, zählt deine Schritte und überwacht deinen Herzschlag. Er verspricht dir, dass er dich gesund hält und vor Gefahren warnt.

Aber was, wenn dieser Wächter blinde Flecken hat? Was, wenn er dich versteht, aber deinen Nachbarn, der eine andere Hautfarbe hat, eine andere Statur oder ein anderes Alter, völlig falsch einschätzt?

Genau darum geht es in diesem wissenschaftlichen Papier. Die Autoren sagen: „Es reicht nicht mehr, nur auf die Genauigkeit zu schauen. Wir müssen auch auf die Fairness achten."

Hier ist die Geschichte, warum das so wichtig ist, erklärt mit ein paar einfachen Bildern:

1. Der „weiße" Trainingslehrer 🏃‍♂️🏃‍♀️

Stell dir vor, du möchtest einen Sporttrainer einstellen, der allen Menschen beibringt, wie man rennt. Aber dieser Trainer hat nur mit jungen, sportlichen Männern aus reichen Vorstädten trainiert.

• Das Problem: Wenn jetzt eine ältere Frau oder jemand mit einem anderen Körperbau zu ihm kommt, weiß der Trainer nicht, wie er reagieren soll. Er denkt vielleicht, die Frau renne langsamer, weil sie faul ist, dabei ist es nur, weil er nie mit Frauen wie ihr trainiert hat.
• In der Realität: Genau das passiert bei unseren Geräten. Viele KI-Modelle wurden mit Daten trainiert, die fast nur von weißen, jungen, gebildeten Männern stammen (die sogenannten „WEIRD"-Daten). Wenn eine Smartwatch den Herzschlag misst, funktioniert sie bei dunklerer Haut oft schlechter, weil sie im Training kaum solche Hauttöne gesehen hat. Das ist wie ein Spiegel, der nur bestimmte Gesichter klar abbildet.

2. Die unsichtbaren Verzerrungen 🕵️‍♂️

Bei einem Foto ist es leicht zu sehen: „Oh, hier fehlen Frauen." Aber bei Sensordaten ist es wie Rauch in einem Raum. Du siehst ihn nicht sofort, aber er ist da.

• Beispiel: Ein Gerät misst den Sauerstoffgehalt im Blut. Bei Menschen mit dunklerer Haut zeigt es oft zu hohe Werte an. Das Gerät ist technisch „genau" (es misst das Licht korrekt), aber die Ergebnis-Interpretation ist für diese Gruppe unfair.
• Beispiel: Ein Gerät erkennt, ob du schläfst oder wach bist. Aber bei Menschen, die sehr groß oder sehr klein sind, oder bei Kindern, funktioniert es schlechter, weil die Sensoren nicht für deren Körpergröße kalibriert wurden.

3. Die Statistik-Lüge 📉

Die Autoren haben sich angeschaut, was in der Forschung passiert. Sie haben fast 1.000 wissenschaftliche Arbeiten über Wearables (tragbare Geräte) geprüft.

• Das Schock-Ergebnis: Nur 9 % dieser Arbeiten haben überhaupt erwähnt, ob ihre Geräte für alle Gruppen fair funktionieren.
• Die Analogie: Stell dir vor, ein Autohersteller testet seine Bremsen nur bei sonnigem Wetter auf trockener Straße. Er sagt: „Unsere Bremsen sind 99 % effektiv!" Aber er vergisst zu erwähnen, dass sie bei Schnee oder Regen versagen. Die Forscher sagen: Wir müssen endlich auch testen, wie die Bremsen bei Regen (also bei verschiedenen Menschen) funktionieren.

4. Was tun wir jetzt? Der Bauplan für faire Geräte 🛠️

Die Autoren schlagen vor, dass wir die Art und Weise ändern, wie wir diese Geräte bauen. Sie nennen es „Fairness by Design" (Fairness durch Design). Das bedeutet: Wir bauen die Fairness von Anfang an mit ein, nicht als Nachbesserung am Ende.

Stell dir das wie den Bau eines Hauses vor:

• Früher: Man baute das Haus schnell und billig. Erst wenn die Bewohner einzogen, merkte man, dass die Treppe für Rollstuhlfahrer zu steil war.
• Jetzt (Der neue Weg): Man plant die Rampe schon in den ersten Bauplänen mit ein. Man fragt: „Wer wird hier wohnen? Sind alle Größen und Bedürfnisse berücksichtigt?"

Die 14 goldenen Regeln für faire Geräte (vereinfacht):

1. Vielfalt beim Training: Sammle Daten von allen möglichen Menschen (verschiedene Hautfarben, Körpergrößen, Altersgruppen), nicht nur von den Leuten, die dir am nächsten wohnen.
2. Ehrliche Berichte: Sag offen, wer an deinen Tests teilgenommen hat. Wenn du nur Studenten getestet hast, sag es!
3. Achte auf die Details: Manchmal sind es kleine Dinge wie die Form des Handgelenks oder die Haartracht, die das Signal stören. Diese müssen berücksichtigt werden.
4. Überprüfe ständig: Ein Gerät ist nicht „fertig", wenn es verkauft wird. Es muss weiter überwacht werden, denn Menschen ändern sich (Alter, Gewicht) und die Technik altert.

Fazit: Warum das uns alle angeht ❤️

Wir vertrauen unseren Geräten mehr denn je. Sie entscheiden vielleicht, ob wir eine medizinische Behandlung bekommen oder ob ein Alarm ausgelöst wird.
Wenn diese Geräte unfair sind, werden bestimmte Gruppen benachteiligt – vielleicht ohne dass es jemand merkt.

Die Botschaft der Autoren ist klar: Ein Gerät darf nicht nur „smart" sein, es muss auch „gerecht" sein. Nur dann können wir uns wirklich darauf verlassen, dass sie uns alle gleichermaßen schützen und unterstützen.

Kurz gesagt: Wir brauchen keine perfekten Maschinen, die nur für die „Durchschnitts-Person" funktionieren. Wir brauchen Maschinen, die für jeden funktionieren.

Technische Zusammenfassung

Titel: (Un)faire Geräte: Über die reine KI-Genauigkeit in der persönlichen Sensorik hinausgehen

Autoren: Sofia Yfantidou, Marios Constantinides, Dimitris Spathis, Athena Vakali, Daniele Quercia, Fahim Kawsar.
Veröffentlichung: J. ACM (2026), basierend auf einer Literaturreview.

---

1. Problemstellung

Persönliche Geräte (Wearables, Smartwatches, Smart Rings) sind allgegenwärtig und sammeln kontinuierlich physiologische und verhaltensbezogene Daten. Diese Datenströme treiben fortschrittliche KI-Anwendungen an, die zunehmend auf Schätzungen von Machine-Learning-(ML-)Modellen statt auf direkte Sensormessungen angewiesen sind.

Das zentrale Problem ist, dass diese Modelle und die zugrundeliegenden Daten systematischen Verzerrungen (Bias) unterliegen, die zu unfairen Ergebnissen führen können. Während die Forschung traditionell auf Leistungsmetriken (Genauigkeit, Präzision) fokussiert ist, wird die Fairness oft vernachlässigt.

• Folgen von Bias: Diskriminierung bestimmter demografischer Gruppen (z. B. aufgrund von Rasse, Geschlecht, Alter, BMI).
• Beispiele:
  • Rassismus: Pulsoximeter und optische Herzfrequenzsensoren zeigen bei dunkelhäutigen Personen signifikant höhere Fehlerquoten.
  • Sexismus: Akustische Diagnoseverfahren und Sprachverarbeitung funktionieren bei Frauen oft schlechter aufgrund physiologischer Unterschiede (z. B. höhere Stimmlage, kleinere Brustkorfmessungen).
  • Altersdiskriminierung: Beschleunigungsmesser und Gyroskope sind bei älteren Nutzern weniger genau aufgrund veränderter Gangmuster.
• Unterschied zu traditionellem ML: Daten persönlicher Geräte sind oft longitudinal (zeitlich fortlaufend), sequenziell (Sensorströme) und dynamisch (Data Drift), was die Entdeckung von Bias erschwerter macht als bei statischen, tabellarischen Benchmark-Datensätzen.

2. Methodik

Die Autoren führten eine systematische Literaturreview durch, um den aktuellen Stand der Fairness-Forschung im Bereich mobiler, tragbarer und ubiquitärer Computing-Systeme zu bewerten.

• Datenquelle: Fokus auf die Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies (IMWUT) sowie weitere relevante Konferenzen (MobiCom, MobiSys, SenSys) und IEEE-Journale.
• Zeitraum: 2018 bis 2025.
• Suchstrategie: Eine umfassende Query in der ACM Digital Library, die Begriffe aus den Bereichen „Mobile/Wearable Computing", „Machine Learning" und „Fairness/Bias" kombinierte.
• Filterkriterien (Inklusion/Exklusion):
  • Inklusion: Quantitative Bewertung empirischer Beiträge in mobilen/tragbaren Technologien; explizite quantitative Bewertung von Bias oder Leistungsunterschieden in Bezug auf sensible Attribute (Alter, Geschlecht, Rasse, etc.).
  • Exklusion: Arbeiten ohne quantitative Bewertung, Arbeiten ohne ubiquitären Bezug (reine NLP/CV ohne Sensorik), Arbeiten, die Bias nur im mathematischen Sinne (Bias-Variance-Trade-off) behandeln.
• Ergebnis der Selektion: Von 957 gescreenten Papers wurden nur 89 (ca. 9%) in die finale Synthese aufgenommen. Dies verdeutlicht die massive Lücke in der Forschung.

3. Wichtige Ergebnisse und Befunde

A. Mangelnde Fairness-Bewertung

• Nur ein winziger Bruchteil der Forschung (ca. 9% der IMWUT-Publikationen) untersucht Fairness.
• In vielen Fällen werden sensible Attribute (wie Rasse oder sozioökonomischer Status) gar nicht berichtet oder fehlen in den Datensätzen.
• WEIRD-Bias: Die Stichproben sind stark westlich, gebildet, industrialisiert, reich und demokratisch (WEIRD) geprägt. Etwa 60% der Studien nutzen US-Stichproben, und nur 10% erwähnen die Rasse der Teilnehmer (davon 89% weiß).

B. Quellen von Bias in persönlichen Geräten

Bias entsteht durch:

1. Ungleiche Repräsentation: Trainingsdaten decken nicht die gesamte demografische Bandbreite ab (z. B. Unterrepräsentation von Frauen, älteren Menschen oder Menschen mit hohem BMI).
2. Physiologische Unterschiede: Sensoren reagieren unterschiedlich auf Hautfarbe, Körpergröße, Knochenstruktur oder Gewebe.
3. Hardware- und Umgebungsvariabilität: Geräteplatzierung, Tragekomfort (z. B. bei kleineren Handgelenken) und Umgebungsrauschen beeinflussen die Signalqualität unterschiedlich stark bei verschiedenen Gruppen.
4. Daten-Drift: Da Daten kontinuierlich gesammelt werden, können sich Muster über die Zeit ändern, was zu einer Verschlechterung der Modellleistung für bestimmte Gruppen führt.

C. Aktuelle Minderungsstrategien (und deren Defizite

Die Studie identifiziert Ansätze zur Bias-Minderung, die jedoch selten angewendet werden:

• Pre-processing: Datenbalancierung, gezielte Rekrutierung diverser Gruppen, Daten-Splitting nach sensiblen Attributen.
• In-processing: Multi-Task-Learning, Einbeziehung sensibler Attribute in die Modellparameter, adversarielles Debiasing.
• Post-processing: Kalibrierung der Ausgaben basierend auf demografischen Merkmalen (z. B. Hautfarbe-Korrektur bei Pulsoximetern).
• Kritik: 3 von 4 untersuchten Papers, die Bias feststellten, wandten keine Minderungsmechanismen an. Der Fokus liegt oft noch auf dem Proof-of-Concept und der reinen Genauigkeit.

4. Hauptbeiträge und Leitlinien ("Fairness by Design")

Als Antwort auf diese Lücke schlagen die Autoren einen Paradigmenwechsel vor: weg von rein leistungsorientierten Bewertungen hin zu einem menschzentrierten Ansatz ("Fairness by Design"). Sie stellen 14 technische Empfehlungen vor, die den gesamten ML-Lebenszyklus abdecken:

1. Datenerfassung & Annotation:

   • Identifizierung relevanter Bias-Typen (Qualität, Zuteilung, Löschung).
   • Sicherstellung diverser Stichprobengrößen (Berücksichtigung von Kontextfaktoren wie Lebensstil).
   • Einbeziehung diverser Annotatoren und Schulung zu impliziten Vorurteilen.
   • Transparente Berichterstattung geschützter Attribute (unter Beachtung des Datenschutzes).

2. Datenerkundung & Manipulation:

   • Validierung von Daten über Gruppen hinweg (Erkennung von Ausreißern).
   • Untersuchung von Messfehlern durch Hardware-Variationen.
   • Kritische Prüfung von Pre-Processing-Methoden (z. B. Fensterung, Sampling-Rate), die Bias verstärken können.

3. Modellentwicklung & Evaluation:

   • Nutzung von Fairness-Toolkits (z. B. FairLearn, AIF360), angepasst an Zeitreihendaten.
   • Berücksichtigung indirekter Fairness (z. B. bei Federated Learning: Ausschluss von Geräten mit schlechter Konnektivität).
   • Evaluation mit verschiedenen Fairness-Metriken für intersektionale Gruppen.
   • Generierung synthetischer Daten für unterrepräsentierte Gruppen (wenn reale Daten fehlen).

4. Bereitstellung & Nutzung:

   • Echtzeit-Monitoring der Modellleistung (Erkennung von Data-Drift).
   • Nachträgliche Neubewertung des Modells mit gesammelten Daten (Unsupervised Domain Adaptation).
   • Transparenz bei Modellversionierung, um zu verhindern, dass Updates bestimmte Gruppen benachteiligen.

5. Signifikanz und Ausblick

Dieses Paper ist ein Meilenstein für die Community des Ubiquitous Computing, da es erstmals systematisch die Diskrepanz zwischen der hohen Leistungsfähigkeit persönlicher Geräte und deren mangelnder Fairness aufzeigt.

• Gesellschaftliche Relevanz: Da persönliche Geräte zunehmend in hochriskanten Bereichen wie der Gesundheitsdiagnostik (z. B. Vorhofflimmern-Erkennung, COVID-19-Diagnose) eingesetzt werden, können unbehandelte Verzerrungen zu gesundheitlichen Ungleichheiten und Diskriminierung führen.
• Regulatorischer Kontext: Die Arbeit liefert eine wichtige Grundlage für die Umsetzung zukünftiger Regulierungen wie des EU-AI-Gesetzes, das Risikobewertungen und Fairness für KI-Systeme vorschreibt.
• Fazit: Die Autoren betonen, dass es technisch möglich ist, Geräte zu bauen, die sowohl genau als auch fair sind. Dies erfordert jedoch einen bewussten Shift von der reinen Optimierung der Genauigkeit hin zu einer ganzheitlichen, ethischen und inklusiven Systemgestaltung.