The role of team diversity in AI systems development

Diese Studie zeigt anhand von Interviews mit vier KI-Teams, dass Teamdiversität durch die Einbringung unterschiedlicher Perspektiven, Empathie und inklusiver Entscheidungsprozesse eine entscheidende Rolle bei der Identifizierung und Vermeidung von Bias in der KI-Entwicklung spielt.

Das Wesentliche

Stellen Sie sich vor, Sie bauen ein riesiges, intelligentes Haus, das für die ganze Welt gedacht ist – ein Haus, das Entscheidungen trifft, wie etwa: „Wer bekommt einen Kredit?", „Wer wird eingestellt?" oder „Wer darf in das Gebäude?". Dieses Haus ist eine Künstliche Intelligenz (KI).

Das Problem ist: Oft bauen die Architekten und Handwerker dieses Hauses nur eine sehr kleine Gruppe von Menschen. Wenn alle Architekten aus derselben Gegend kommen, dieselbe Schulbildung haben und sich ähnlich sehen, bauen sie ein Haus, das nur für sie funktioniert. Ein Rollstuhl passt vielleicht nicht durch die Tür, oder ein bestimmtes Geräusch wird als Gefahr missverstanden, weil es ihnen fremd ist. Das Haus wird dann unfair für andere.

Diese Studie von Ronnie de Souza Santos und seinem Team fragt sich: Was passiert, wenn wir das Bauteam bunt mischen?

Hier ist die einfache Erklärung der Forschungsergebnisse, erklärt mit ein paar bildhaften Vergleichen:

1. Das Problem: Der „Blindfleck" im Team

Stellen Sie sich vor, Sie haben eine Gruppe von Leuten, die alle nur mit einem Auge sehen. Wenn sie versuchen, ein Bild zu malen, fehlt ihnen die Perspektive des anderen Auges. In der KI-Welt nennt man das Bias (Voreingenommenheit). Wenn das Trainings-Team nur eine bestimmte Gruppe repräsentiert, lernt die KI nur deren Welt. Das Ergebnis? Die KI diskriminiert unbewusst andere Gruppen (z. B. erkennt sie dunklere Hauttöne schlechter oder benachteiligt Frauen bei Bewerbungen).

2. Die Lösung: Das „Schwarm-Team"

Die Forscher haben 25 Software-Profis aus vier verschiedenen KI-Projekten interviewt. Sie stellten fest: Ein bunt gemischtes Team ist wie ein Schwarm von Vögeln, der aus verschiedenen Richtungen kommt. Jeder sieht etwas anderes.

Das Team entdeckte sechs magische Fähigkeiten, die ein diverses Team einem KI-Projekt verleiht:

A. Der „Augenöffner" (Vielfältige Perspektiven)

Ein Team mit unterschiedlichen Hintergründen sieht Löcher im Plan, die andere übersehen.

• Die Analogie: Stellen Sie sich vor, Sie planen eine Party. Wenn nur Männer planen, vergessen sie vielleicht, dass einige Gäste vegetarisch essen wollen oder dass eine Rampe für Rollstuhlfahrer fehlt. Ein diverser Team sagt sofort: „Moment mal, wir brauchen auch eine Rampe und vegetarische Optionen!"
• In der KI: Ein gehörloses Teammitglied hat zum Beispiel erkannt, dass die Gestaltung der Benutzeroberfläche für Gehörlose völlig unbrauchbar war, bevor das Programm überhaupt fertig war.

B. Der „Herzenswächter" (Empathie)

Vielfalt bringt Empathie ins Spiel. Das ist die Fähigkeit, sich in jemanden hineinzuversetzen, der anders ist als man selbst.

• Die Analogie: Wenn Sie nur für sich selbst kochen, kochen Sie vielleicht nur scharf, weil Sie es mögen. Wenn Sie aber für eine ganze Familie mit Kindern, Senioren und Leuten mit Magenproblemen kochen, müssen Sie aufpassen, dass das Essen für alle passt. Ein diverses Team „schmeckt" die KI so, dass sie niemanden verletzt.
• In der KI: Entwickler, die selbst Diskriminierung erlebt haben, können besser einschätzen, wie schmerzhaft ein fehlerhafter Algorithmus für andere sein könnte.

C. Der „System-Check" (Bekämpfung von Diskriminierung)

Ein buntes Team erkennt nicht nur offensichtliche Fehler, sondern auch die unsichtbaren, tief im System verankerten Vorurteile.

• Die Analogie: Ein alter, verstaubter Spiegel (die Daten) zeigt vielleicht verzerrte Bilder. Ein Team, das nur aus einer Gruppe besteht, denkt, der Spiegel sei normal. Ein diverser Team sagt: „Halt! Der Spiegel zeigt mich nicht richtig! Wir müssen den Spiegel polieren oder einen neuen kaufen."
• In der KI: Sie erkennen, dass historische Daten (z. B. alte Gehaltslisten) diskriminierend waren, und weigern sich, diese Fehler einfach zu kopieren.

D. Der „Friedensrichter" (Inklusive Entscheidungen)

Entscheidungen werden nicht mehr im stillen Kämmerlein getroffen, sondern im großen Kreis.

• Die Analogie: Statt dass der Chef allein entscheidet, was auf dem Menü steht, fragt er alle Gäste: „Was möchtet ihr essen?" So wird sichergestellt, dass niemand ausgeschlossen wird.
• In der KI: Bevor ein Algorithmus festgelegt wird, fragen diverse Teams: „Wer könnte hier benachteiligt werden?" und passen die Regeln entsprechend an.

E. Der „Super-Team" (Lösen komplexer Probleme)

Manche Probleme sind so kompliziert, dass man sie nicht mit einem einzigen Werkzeug lösen kann.

• Die Analogie: Um ein riesiges, verwickeltes Knäuel aufzulösen, braucht man nicht nur einen starken Arm, sondern viele Hände mit unterschiedlichen Fähigkeiten. Der eine sieht den Knoten, der andere hat die richtigen Fingerfertigkeiten, der dritte kennt die Geschichte des Fadens.
• In der KI: Um faire KI zu bauen, braucht man Programmierer, Soziologen, Psychologen und Leute mit Lebenserfahrung. Zusammen finden sie Lösungen, die ein homogenes Team nie hätte sehen können.

F. Der „Sicherheitsnetz" (Vielfalt als Schutz)

Vielfalt wirkt wie ein Sicherheitsnetz, das Fehler auffängt, bevor sie passieren.

• Die Analogie: Wenn Sie nur einen Wächter haben, der schläft, ist das Haus offen für Diebe. Wenn Sie aber ein Team von Wächtern haben, die alle wach sind und sich gegenseitig beobachten, ist das Haus sicher.
• In der KI: In einem diversen Team muss nicht eine einzelne Person die „Fairness" kontrollieren. Jeder ist wachsam. Wenn einer einen Vorurteil sieht, sagt er es sofort. Das System wird robuster.

Das Fazit für uns alle

Die Studie sagt uns: Fairness ist nicht nur eine technische Einstellung, die man im Computerprogramm einprogrammiert. Es ist eine Frage davon, wer am Computer sitzt.

Wenn wir KI-Teams bunt mischen – mit Menschen unterschiedlichen Geschlechts, verschiedener Herkunft, unterschiedlicher Fähigkeiten und Hintergründe – dann bauen wir keine besseren Computer. Wir bauen bessere Werkzeuge für die ganze Menschheit.

Es ist wie beim Kochen: Ein Gericht schmeckt viel besser, wenn man Zutaten aus der ganzen Welt verwendet, statt nur eine einzige Sorte. Ein KI-System ist dann nur dann wirklich „intelligent", wenn es die ganze Welt versteht und für alle fair ist. Und das schaffen wir nur, wenn wir alle an den Tisch lassen.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „The Role of Team Diversity in AI Systems Development" auf Deutsch:

1. Problemstellung

Die zunehmende Integration von KI-Technologien hat Bedenken hinsichtlich Fairness und Bias (Verzerrung) verschärft. KI-Systeme neigen dazu, gesellschaftliche Ungleichheiten durch fehlerhafte Daten und Designentscheidungen zu perpetuieren. Während die Software-Engineering-Forschung traditionell auf technische Lösungen (z. B. Verbesserung von Datensätzen und Modellen) fokussiert ist, bleiben die sozialen Dynamiken, die KI-Ergebnisse prägen, weitgehend unerforscht.
Das zentrale Problem ist, dass Bias oft aus systemischen Fehlern im Entwicklungsprozess resultiert, die auf kognitive Verzerrungen der Entwickler, historische Datenverzerrungen oder mangelnde Repräsentativität zurückzuführen sind. Bisher fehlt es an empirischen Erkenntnissen darüber, wie die Zusammensetzung von Entwicklungsteams (Team-Diversität) konkret zur Identifizierung und Minderung dieser Verzerrungen beiträgt.

2. Methodik

Die Studie verwendet Grounded Theory (GT) als induktive Forschungsmethode, um soziale und technische Phänomene zu untersuchen.

• Kontext: Die Forschung basierte auf vier KI-Projekten innerhalb eines großen Softwareunternehmens mit Standorten in Brasilien und Portugal, das mit globalen Kunden zusammenarbeitet. Die Projekte deckten Bereiche wie Bildung, Energie, Barrierefreiheit (Gebärdensprache) und Gesichtserkennung ab.
• Datenerhebung: Es wurden 25 halbstrukturierte Interviews mit Software-Professionals (Data Scientists, Designer, Tester, Entwickler, Manager) durchgeführt. Die Teilnehmer wurden über Convenience-, Schneeball- und theoretisches Sampling rekrutiert.
• Analyse: Die Daten wurden mittels Grounded Theory analysiert (Line-by-Line-Coding, Focused Coding, Theoretical Coding). Der Prozess umfasste drei iterative Runden, bis theoretische Sättigung erreicht war (keine neuen Konzepte mehr auftauchten).
• Validierung: Zur Sicherung der Glaubwürdigkeit wurden Member-Checks (Rückmeldung an Teilnehmer) und Peer-Debriefing-Sitzungen durchgeführt. Die Studie befolgte ethische Richtlinien, einschließlich Anonymisierung und informierter Einwilligung.

3. Schlüsselbeiträge

Das Paper leistet vier wesentliche Beiträge zur Forschung und Praxis:

1. Identifikation von Rollen der Diversität: Es werden sechs spezifische Rollen definiert, die Team-Diversität im KI-Entwicklungsprozess spielt.
2. Erweiterung des Verständnisses sozialer Implikationen: Es wird aufgezeigt, wie diverse Teams besser in der Lage sind, die breiteren gesellschaftlichen Auswirkungen von KI-Systemen zu berücksichtigen.
3. Sicherung gegen algorithmische Verzerrungen: Es wird nachgewiesen, dass Diversität als Schutzmechanismus fungiert, indem sie Annahmen hinterfragt und versteckte Probleme in Daten und Modellen aufdeckt.
4. Brücke zwischen technischen und gesellschaftlichen Zielen: Die Studie zeigt, wie diverse Teams helfen, KI-Entwicklung mit Zielen wie Fairness, Gerechtigkeit und Inklusion in Einklang zu bringen.

4. Ergebnisse (Die sechs Rollen der Team-Diversität)

Die Analyse ergab sechs übergeordnete Kategorien, die beschreiben, wie Diversität Bias identifiziert und mindert:

1. Diversifizierung von Perspektiven zur Bias-Identifikation:
   Unterschiedliche Hintergründe ermöglichen es, Vorurteile (z. B. rassistisch, geschlechtsspezifisch) früher zu erkennen. Vielfältige Teams hinterfragen vereinfachte Annahmen, erkennen „Blind Spots" in den Daten und stellen sicher, dass nicht nur die dominante Nutzergruppe berücksichtigt wird.
2. Einbringen von Empathie in die KI-Entwicklung:
   Diversität fördert die Fähigkeit, die Erfahrungen und Herausforderungen unterrepräsentierter Gruppen zu verstehen. Dies führt zu einer stärkeren Reflexion darüber, wie Systeme diese Gruppen beeinflussen, und verhindert, dass sich Entwickler nur auf technische Metriken konzentrieren.
3. Bekämpfung systemischer Diskriminierung:
   Teams mit Mitgliedern aus verschiedenen ethnischen, geschlechtlichen und sozioökonomischen Gruppen sind eher in der Lage, subtile Formen der Diskriminierung zu erkennen, die in Modelltraining und -evaluation eingebettet sind, anstatt sie als statistische Anomalien abzutun.
4. Förderung inklusiver und fairer Entscheidungsfindung:
   Diversität verändert den Entscheidungsprozess im gesamten Entwicklungszyklus. Sie führt zu einer kontinuierlichen Diskussion über Prioritäten und Werte, sodass Datenstrategien und Evaluationskriterien bewusst diversifiziert werden.
5. Nutzung diverser Expertise zur Bewältigung komplexer Bias:
   Komplexe Bias-Probleme erfordern oft interdisziplinäre Ansätze. Diverse Teams kombinieren technische Expertise mit lebensweltlicher Erfahrung, um robustere Lösungen zu entwickeln, die über standardisierte Ansätze hinausgehen.
6. Diversität als Schutzschild gegen Bias:
   Strukturelle Diversität verteilt die Verantwortung für Fairness auf das gesamte Team, anstatt sie auf einzelne Rollen oder isolierte Prüfungen zu beschränken. Sie wirkt als „Puffer", der sicherstellt, dass voreingenommene Annahmen nicht in die Systemlogik einfließen.

5. Bedeutung und Implikationen

• Für die Forschung: Die Studie verschiebt den Fokus von rein technischen Lösungen hin zu soziotechnischen Ansätzen. Sie unterstreicht, dass Fairness nicht nur ein technisches, sondern ein organisatorisches und menschliches Problem ist.
• Für die Praxis: Softwareunternehmen sollten Diversität nicht nur als ethische Notwendigkeit, sondern als strategischen Vorteil betrachten. Konkrete Empfehlungen umfassen:
  • Bewusste Zusammenstellung diverser Teams über alle Rollen hinweg.
  • Schaffung strukturierter Räume für Empathie und Erfahrungsaustausch.
  • Etablierung partizipativer Entscheidungsprozesse und Fairness-Checkpoints.
  • Integration multi-perspektivischer Testpraktiken.
• Für die Gesellschaft: Die Ergebnisse zeigen, dass die Gestaltung fairer KI-Systeme direkt von der Zusammensetzung der Entwicklungsteams abhängt. Diversität trägt dazu bei, Diskriminierung zu reduzieren und das öffentliche Vertrauen in KI-Technologien zu stärken.

Fazit: Das Paper belegt empirisch, dass Team-Diversität ein kritischer Faktor für die Entwicklung fairer KI-Systeme ist. Sie fungiert als aktiver Mechanismus, der Bias nicht nur erkennt, sondern durch vielfältige Perspektiven und Empathie strukturell verhindert.