Wenn Algorithmen diskriminieren:
Fairness im digitalen Marktplatz
Algorithmen prägen unseren Alltag
Ob im sozialen Feed, bei Produktempfehlungen oder im Bewerbungsprozess – Algorithmen treffen täglich millionenfach Entscheidungen. Unternehmen nutzen sie, um Bewerbungen zu filtern, das Risiko eines Kreditantrags zu bewerten oder Marketingbudgets effizient zu verteilen. Häufig funktioniert das zuverlässig und vereinfacht komplexe Prozesse. Doch wenn die Entscheidungsgrundlage verzerrt ist, entsteht ein Problem: digitale Ungerechtigkeit.
Digitale Plattformen werden zunehmend von Algorithmen gesteuert – sie bestimmen, welche Produkte wir sehen, welche Bewerbungen weitergeleitet werden und wer einen Kredit bekommt. Weil diese Systeme aus historischen Daten lernen, verstärken sie bestehende Vorurteile und geben vor allem denjenigen einen Vorteil, die bisher schon erfolgreich waren . Nur durch den Einsatz vielfältiger, repräsentativer Daten, regelmäßige Audits und menschliche Kontrolle können wir gerechte digitale Marktplätze schaffen und Diskriminierung vermeiden .
Warum Algorithmen nicht neutral sind
Algorithmen lernen aus Daten. Wenn diese Daten gesellschaftliche Ungleichheiten widerspiegeln, übertragen sie diese unreflektiert in ihre Entscheidungen. Forschende betonen, dass algorithmische Verzerrungen nicht nur technische Fehler sind, sondern systemische Ungerechtigkeiten aus den Trainingsdaten verstärken können . Schlecht ausgewählte oder voreingenommene Daten führen dazu, dass Software existierende soziale und institutionelle Vorurteile bewahrt und sogar reproduziert .
Beispiele aus der Praxis
Bewerbungen: Eine Studie des MIT zeigt, dass herkömmliche Recruiting‑Algorithmen Bewerbende bevorzugen, die historisch erfolgreich waren – und dadurch
Minderheiten und Frauen benachteiligen . Algorithmen, die nicht auf Diversität achten, geben etablierten Gruppen einen Vorteil und halten Vielfalt draußen.
Gesichtserkennung: Eine Untersuchung des MIT Media Lab und der Stanford University fand heraus, dass handelsübliche Gesichtsanalysesysteme bei der Erkennung des Geschlechts dunkler Haut viel höhere Fehlerquoten aufweisen als bei hellhäutigen Männern . Solche Systeme identifizieren dunkelhäutige Frauen bis zu 34 % falsch – mit fatalen Folgen, wenn sie in der Strafverfolgung oder Zugangskontrollen eingesetzt werden.
Diese Beispiele verdeutlichen, dass algorithmische Entscheidungen reale Konsequenzen haben: falsche Ablehnungen im Recruiting, schlechtere Kreditkonditionen, ungerechte Polizeipräsenz und – in digitalen Marktplätzen – benachteiligte Händler oder Kund*innen.
Was Marktplatzbetreiber tun können
Als Betreiber digitaler Plattformen tragen wir Verantwortung. Um sicherzustellen, dass Algorithmen fair bleiben, sind folgende Maßnahmen zentral:
Vielfältige Datenbasis: Die Trainingsdaten müssen repräsentativ sein und die Vielfalt der Zielgruppe abbilden. Nur so lassen sich Verzerrungen minimieren.
Regelmäßige Prüfungen: Algorithmen sollten kontinuierlich auf ihre Ergebnisse hin überprüft und angepasst werden. Das Feld „Fairness, Accountability und Transparency“ (FAT) bietet hierfür Methoden und Frameworks .
Transparenz schaffen: Es muss nachvollziehbar sein, wie ein Algorithmus zu seinem Ergebnis kommt. Nur dann können Betroffene Entscheidungen hinterfragen.
Menschliche Kontrolle behalten: In sensiblen Bereichen wie Kreditvergabe, Recruiting oder Ranking im Marktplatz dürfen Algorithmen nicht allein entscheiden. Fachleute sollten Ergebnisse prüfen und korrigieren können.
Fazit
Algorithmen können unser Leben erleichtern und Prozesse optimieren, sind jedoch nicht per se objektiv. Sie spiegeln die Welt, aus der sie lernen – mit all ihren Vorurteilen und Ungleichheiten. Deshalb sollten digitale Innovationen nicht nur effizient, sondern vor allem auch gerecht sein. Wenn wir als Anbieter von digitalen Marktplätzen Verantwortung übernehmen, können wir die Chancen der Technologie nutzen, ohne Menschen zu benachteiligen.
