Diskriminierende Algorithmen können zum Problem bei der Jobsuche werden

Paderborn. Computer sind immer objektiv und Algorithmen spielen im Alltag ohnehin nur eine kleine Rolle? Nein, sagt Tobias Matzner, Professor für Algorithmen, Medien und Gesellschaft an der Universität Paderborn. Im Interview erklärt er, warum Algorithmen sehr wohl diskriminieren können und warum das zum Beispiel in Bewerbungsverfahren ein Problem werden könnte. Wie funktionieren Algorithmen? Tobias Matzner: Darauf gibt es nicht nur eine Antwort. Im Prinzip fragt man sich, wie man eine Aufgabe mit Informationstechnologie lösen kann. Das kann so etwas einfaches sein wie Zahlen sortieren oder so etwas kompliziertes, wie die beste Bewerberin oder den besten Bewerber zu finden.Das Klischeebeispiel eines Algorithmus ist, dass ich Schritt für Schritt vorgebe, was zu tun ist. Das ist aber längst nicht mehr das, was heutzutage die Mehrheit der Algorithmen ausmacht. Eine andere Möglichkeit ist die, die wir meistens als Künstliche Intelligenz bezeichnen. Hier werden statt der Vorgehensweise Beispielfälle spezifiziert. Wenn es beispielsweise um Gesichtserkennung geht, geben wir Bilder an, auf denen eine bestimmte Person zu sehen ist, und Bilder, auf denen sie nicht zu sehen ist.Aus diesen Beispieldaten wird ein Modell trainiert, das versucht, etwas Verallgemeinerbares in den Daten zu finden. Das ist dann ein datengetriebener Algorithmus. Wo werden Algorithmen eingesetzt? Speziell ist die Rede von Algorithmen mit dem großen Erfolg der datengetriebenen Algorithmen aufgekommen. Zum Beispiel bei Google oder Instagram sortieren sie die Inhalte der Feeds. Ein anderes wichtiges Beispiel ist Erkennungs- und Überwachungstechnologie. Das fängt ganz klein an, beim Smartphone, das ich mit meinem Fingerabdruck oder Gesicht entsperren kann und geht bis zur automatisierten Grenzkontrolle. Dann gibt es Algorithmen, die versuchen, Bewerbungen zu sortieren oder Versicherungen zu sagen, wie riskant eine Neukundin oder ein Neukunde ist. Und man findet Algorithmen da, wo wir mit Computern sprechen können, bei Siri oder Alexa oder anderen digitalen Assistenzsystemen mit Spracherkennung. Viele Menschen denken, Computer sind objektiver als Menschen. Das kann man so nicht sagen. Sie machen nur andere Fehler als Menschen. Tatsächlich passieren gewisse Probleme, die auf menschliche Unfähigkeit oder Subjektivität zurückzuführen sind, mit Computern nicht. Wenn jemand zum Beispiel Vorurteile hat. Aber Algorithmen haben eigene Formen der Ungerechtigkeit. Für datengetriebene Algorithmen braucht man Daten. Und diese Beispieldaten entnehmen wir aus unserer Welt und die ist nicht neutral.Zum Beispiel hat sich bei Amazon schnell herausgestellt, dass ein Algorithmus, der Bewerbungen beurteilen sollte, Frauen benachteiligt hat. Amazon ist ein großes, weltweit führendes Tech-Unternehmen und es gibt viel mehr Männer in technischen Berufen als Frauen. Wenn man auf diesen Daten einen Algorithmus trainiert, dann errechnet der eine viel höhere Wahrscheinlichkeit, dass ein männlicher Bewerber gut sein wird für das Unternehmen.Das ist eine eigene Form von Diskriminierung. Oder es gab einen dieser Seifenspender wo man nur die Hand darunter halten muss und es wird Seife ausgegeben. Der hat bei dunkler Haut nicht funktioniert. Ein Mensch würde schauen, ob da eine Hand ist oder nicht. Der Algorithmus prüft nur, ob es unter dem Sensor hell oder nicht hell ist. Ist das dann ein Fehler des Algorithmus? Diese Formen algorithmischer Diskriminierungen sind keine Fehlfunktionen, das ist ganz wichtig. Die entstehen, weil der Algorithmus sozusagen die Welt ganz anders wahrnimmt. Das sind quasi die Nachteile, mit denen wir uns die Vorteile der Algorithmen wie etwa Effizienz einkaufen. Das heißt nicht, dass wir sie nicht einsetzen sollten. Aber das muss dann begleitet werden von Möglichkeiten, auf die Probleme, die unausweichlich auftreten werden, zu reagieren.Es muss eine Stelle geben, bei der sich Betroffene beschweren und nachfragen können, was schiefgelaufen ist. Und es muss sichergestellt werden, dass es jemanden gibt, der fähig ist, genau das für alle Betroffenen verständlich zu erklären. Das heißt auch, dass die eingesetzte Technik erklärbar werden muss. Auch wenn es sich nicht ganz vermeiden lässt, kann man dieser Diskriminierung durch Algorithmen vorbeugen? Das kann man teilweise. So etwas wie beim Seifenspender wäre ganz klar vermeidbar gewesen, wenn jemand überlegt hätte, dass es ganz unterschiedliche Hautfarben gibt. Wenn man mit datengetriebenen Algorithmen arbeitet, ist es schon schwieriger. Da müsste man ja neutrale Daten finden. Und die gibt es nicht. Deswegen wäre es die Aufgabe, Daten zu finden, die das abbilden, was wir gerne hätten. Eine Frauenquote könnte man zum Beispiel einem Algorithmus einprogrammieren. Wir können keinen Algorithmus bauen, der neutral ist. Aber einen, der eine Politik umsetzt, die uns eher gefällt. Das ist das Beste, was wir erreichen können. Aber diese Hoffnung, dass wir durch die Technik quasi um diese politischen Fragen herumkämen ist falsch. Gab es diese Hoffnung auch bei dem Versuch, Algorithmen in Bewerbungsverfahren einzusetzen oder ging es eher um Arbeitserleichterung? Technik ist billiger als Menschen, das ist ganz oft einer der Hauptfaktoren, wenn es um den Einsatz von Technik geht. Es gibt aber auch diese Hoffnung. Und in einer ganz eingegrenzten Form stimmt das ja schon. Wie ich gesagt habe, tauchen gewisse Formen der Diskriminierung bei Algorithmen weniger auf als bei Menschen. Damit handeln wir uns aber neue ein.Ich glaube, man hat nur den ersten Teil gesehen und sieht jetzt erst durch den großflächigen Einsatz von Algorithmen den zweiten Teil. Ein zweiter wichtiger Unterschied zwischen Menschen und Algorithmen ist die Zentralität. Bildlich gesprochen: Wenn ein rassistischer Mensch in der Personalabteilung sitzt, dann werden die Menschen, die bei diesem Personaler ihr Vorstellungsgespräch haben, rassistisch diskriminiert.Wenn ein Algorithmus dieses Problem hat, betrifft es aber alle Menschen in allen Betrieben, die diese Software einsetzen. Das heißt, Diskriminierung hat hier ganz andere Auswirkungen. Man könnte Informationen wie Geschlecht aus Bewerbungsdaten entfernen. Hautfarbe steht ohnehin nicht drin. Ein Algorithmus erkennt diese Merkmale trotzdem. Eigenschaften wie das Geschlecht sind statistisch mit ganz vielen anderen Eigenschaften verbunden. Und künstliche Intelligenz beruht genau darauf, solche Muster in einer großen Menge an Daten zu erkennen. In Auszeichnungen, Studiengängen, Vorbeschäftigungen. Für uns Menschen ist das sehr unübersichtlich, aber ein Algorithmus kann das gut.Das Ziel ist also, ein Muster für gute und schlechte Kandidaten zu finden. Die Daten dafür enthalten aber eben auch Merkmale, die sehr häufig bei Frauen auftreten und Daten, die eher bei Männern auftreten. Es ist beeindruckend, wie wenig und teilweise banale Informationen ein Algorithmus braucht, um zum Beispiel das Geschlecht oder die Hautfarbe zu bestimmen.Wie relevant ist es für unseren Alltag, wenn Algorithmen diskriminieren? Es ist sehr relevant und es wird noch relevanter werden, je mehr man sie einsetzt. Im Moment werden Algorithmen oft da eingesetzt, wo man die Probleme schon sieht, aber sie noch irgendwie akzeptabel findet. Wenn man zum Beispiel “rich kid” auf Google sucht, werden nur weiße Menschen und bei “poor kid” nur nicht-weiße Menschen angezeigt.Solche Verzerrungen gibt es schon und die tun Menschen weh. Aber sie tun vielen Menschen, gerade solchen, die in unserer westlichen Gesellschaft die Mehrheit sind und Einfluss haben, nicht genug weh als dass man das schon als großes Problem sehen würde. Je mehr aber härtere Entscheidungen betroffen sind, also wer den Job, die Versicherung oder den Kredit kriegt zum Beispiel, desto stärker wird das thematisiert und als relevantes Problem wahrgenommen.Aber diese Sachen haben eben gewisse strukturelle Ähnlichkeit mit Eigenschaften, die Bürokratie schon vorher hatte. Man stellt einen Antrag oder schickt eine Bewerbung ab, dann passiert irgendetwas und man bekommt eine Antwort. Früher haben das, was da passiert, Menschen gemacht, Sachbearbeiterinnen oder Sachbearbeiter, jetzt machen das Algorithmen. Aus der Außenperspektive hat sich noch gar nicht so viel verändert.

Meistgelesen