Digitale Diskriminierung

Kann Technik diskriminieren oder ist es ein Algorithmus, der nach bestimmten Kriterien Menschen ausmustert? Sie denken: Technik ist neutral. Ein Code ist objektiv. Maschinen entscheiden gerecht – Bullshit! Diskriminierung hat viele Gesichter. Vom rassistischen Seifenspender über Jobsuche-Algorithmen mit einem Faible für Diskriminierung bis hin zur dezenten Arm-Reich-Schere bei der Bewerbungssoftware – es gibt eine ganze Palette von Beispielen für Coding-Fails, die in Diskriminierung resultieren. 

Was können wir daraus lernen?

Wenn die Aussage „Code is Law“ stimmt, sollten wir uns dringend einmal darüber unterhalten, wie gerecht eigentlich die Entscheidungen sind, die bereits heute softwarebasiert getroffen werden. Das beschränkt sich nicht nur auf offensichtliche Fragen, wie etwa nach welchen „objektiven“ Kriterien eine Software Richtern Empfehlungen für ein Strafmaß geben sollte. 

Unser ganzes Leben ist durchtränkt von Code – und darin verstecken sich viele kleine und große Annahmen darüber, wie die Welt ist und wie sie zu sein hat. Fehlende Sensibilität für die Lebensrealität anderer Menschen und auch mangelnde Diversität in der IT-Branche tragen dazu bei, dass bestimmte Perspektiven leider häufig übersehen werden.

Das resultuert dann im Worst-Case-Szenario in intellektuellen “Höchstleistungen”, wie einem rassistischen Seifenspender oder einer frauenfeindlichen Software zur Analyse von Bewerbungen. Und manchmal, da kosten solche Fehler sogar Menschenleben. Zeit, sich einmal über diese neue Form der versteckten Diskriminierung zu unterhalten. Und darüber zu sprechen.

Also denken Sie dran: Was in Stellenausschreibungen nicht steht (w/m/d) - (bevorzugter Wohnort) - (Kreditwürdigkeit), erledigt die Technik ganz leicht für den Arbeitgeber.
Heißt: Sie sortiert für ihn Kandidat:innen frühzeitig raus. Kleiner Tipp: Bleiben Sie neutral bei Angabe ihrer Daten. So erhöhen Sie Ihre Chance, im Bewerber-Wettrennen nicht bereits vor dem Sichten Ihrer Daten aussortiert zu werden.  

Und wenn Sie glauben, ein Scheiss müssen Sie. Denken Sie immer dran:
Einige Leute sind gleicher als andere Leute. Also uns gehn echt nix deren Verdauungsprobleme an! Auch nicht wenn die sich Barbara, Mario oder Hubert oder sonstwie nennen mögen.