Entscheidet der Algorithmus?

Algorithmen werden oft dazu eingesetzt, Menschen Entscheidungen abzunehmen. Sie prüfen zum Beispiel im Bewerbungsprozess die eingegangenen Unterlagen und treffen eine Vorauswahl. Der Algorithmus ist darauf programmiert, nur festgelegte Merkmale und Schlüsselwörter zu berücksichtigen, die für die ausgeschriebene Stelle relevant sind.

Wenn Soft Skills keine Rolle spielen

Soft Skills wie Teamfähigkeit oder Motivation berücksichtigen Bewerbungsroboter dabei nicht. Deswegen fällt manch eine Bewerbung durch das Raster, die bei einem menschlichen Personalverantwortlichen Interesse geweckt hätte.

Ob sowas ethisch vertretbar ist, fragt Andreas Gödde in seinem Podcast auf Podtail.com . Dazu unterhält er sich mit dem Mitbegründer und Geschäftsführer von AlgorithmWatch, Matthias Spielkamp. Gemeinsam versuchen sie, eine Antwort auf die Frage zu finden, inwieweit Algorithmen tatsächlich zur Entscheidungsfindung eingesetzt werden können.

Wie unterschiedlich Menschen und Maschinen im Bewerbungsprozess eine Auswahl treffen, hat das Campus Magazin des BR getestet.

Spielkamp geht davon aus, dass Entscheidungen in Zukunft häufiger auf Algorithmen beruhen. Das birgt aus seiner Sicht aber gleichzeitig die Gefahr von Diskriminierung und Ungleichbehandlung. Als Beispiel führt er das Bewerbungsverfahren von Amazon an: In der Vergangenheit seien überwiegend Männer mit ihren Bewerbungen erfolgreich gewesen. Das Programm habe daraus geschlossen, dass das Unternehmen männliche Bewerber bevorzuge. Auf den Tischen der menschlichen Entscheider landeten deswegen kaum Unterlagen von Frauen.

Datenbasis als ausschlaggebender Faktor

Der Algorithmus-Experte erklärt sich das mit der Programmierung und den eingepflegten Daten, die Grundlage für den Rechenvorgang sind. Da Menschen die Datenbasis liefern, seien sie in den Prozess einer maschinengetriebenen Entscheidung involviert. Ist diese ethisch nicht vertretbar, sei die Verantwortung bei Mensch und Maschine zu suchen. Wer in den Podcast hört, bekommt daneben Antworten auf Fragen wie: Was bringen Ethikrichtlinien? Braucht KI ein Gütesiegel? Und warum gibt es in der Öffentlichkeit überhaupt immer wieder Diskussionen zum Einsatz von KI?

Mehr Input

  • Bewerbungsroboter bei Amazon
    Heise.de
  • Gemeinnnützige Organisation, die algorithmische Entscheidungsfindungen betrachtet und einordnet
    AlgorithmWatch.org

Service für alle, die jetzt zuhause arbeiten

Das aktuelle Heft als PDF zum Download

Green IT - Rechenzentren und die Digitalisierung Energiegemeinschaft - Bürger tauschen Strom über Blockchain
Smarte Pflege - Was leisten digitale Helfer?
Ja, ich will den Datareport lesen
Titelblatt des Datareport 1 / 2020. Als Motiv ist ein grünes Sparschwein zu sehen, das eine Brille auf hat. Der Ringelschwanz sieht aus wie eine wachsende Pflanze. Vor dem Schwein befinden sich mehrere Stapel Münzen. Der Titel lautet
close-link