Entscheidet der Algorithmus?

Lesedauer 1 Minute

Algorithmen werden oft dazu eingesetzt, Menschen Entscheidungen abzunehmen. Sie prüfen zum Beispiel im Bewerbungsprozess die eingegangenen Unterlagen und treffen eine Vorauswahl. Der Algorithmus ist darauf programmiert, nur festgelegte Merkmale und Schlüsselwörter zu berücksichtigen, die für die ausgeschriebene Stelle relevant sind.

Wenn Soft Skills keine Rolle spielen

Soft Skills wie Teamfähigkeit oder Motivation berücksichtigen Bewerbungsroboter dabei nicht. Deswegen fällt manch eine Bewerbung durch das Raster, die bei einem menschlichen Personalverantwortlichen Interesse geweckt hätte.

Ob sowas ethisch vertretbar ist, fragt Andreas Gödde in seinem Podcast auf Podtail.com . Dazu unterhält er sich mit dem Mitbegründer und Geschäftsführer von AlgorithmWatch, Matthias Spielkamp. Gemeinsam versuchen sie, eine Antwort auf die Frage zu finden, inwieweit Algorithmen tatsächlich zur Entscheidungsfindung eingesetzt werden können.

Wie unterschiedlich Menschen und Maschinen im Bewerbungsprozess eine Auswahl treffen, hat das Campus Magazin des BR getestet.

YouTube

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren

Video laden

Spielkamp geht davon aus, dass Entscheidungen in Zukunft häufiger auf Algorithmen beruhen. Das birgt aus seiner Sicht aber gleichzeitig die Gefahr von Diskriminierung und Ungleichbehandlung. Als Beispiel führt er das Bewerbungsverfahren von Amazon an: In der Vergangenheit seien überwiegend Männer mit ihren Bewerbungen erfolgreich gewesen. Das Programm habe daraus geschlossen, dass das Unternehmen männliche Bewerber bevorzuge. Auf den Tischen der menschlichen Entscheider landeten deswegen kaum Unterlagen von Frauen.

Datenbasis als ausschlaggebender Faktor

Der Algorithmus-Experte erklärt sich das mit der Programmierung und den eingepflegten Daten, die Grundlage für den Rechenvorgang sind. Da Menschen die Datenbasis liefern, seien sie in den Prozess einer maschinengetriebenen Entscheidung involviert. Ist diese ethisch nicht vertretbar, sei die Verantwortung bei Mensch und Maschine zu suchen. Wer in den Podcast hört, bekommt daneben Antworten auf Fragen wie: Was bringen Ethikrichtlinien? Braucht KI ein Gütesiegel? Und warum gibt es in der Öffentlichkeit überhaupt immer wieder Diskussionen zum Einsatz von KI?

(Text: Lisa-Shirin Raja)

Mehr Input

  • Bewerbungsroboter bei Amazon
    Heise.de
  • Gemeinnnützige Organisation, die algorithmische Entscheidungsfindungen betrachtet und einordnet
    AlgorithmWatch.org

Service für alle, die jetzt zuhause arbeiten

Das aktuelle Heft als PDF zum Download

  • Stark und flexibel: Erfolgreiche Organisationen
  • Hightech: Prothesen mit Gedanken steuern
  • IT-Sicherheit: Von den Anfängen bis heute
Ja, ich will den Datareport lesen
close-link