logo-small-small-high-res.png

Marian Stiehler

Student

Informatik
Philosophie Psychologie Kunstwissenschaft

Algorithmen und Verantwortung

Algorithmen und Verantwortung

In Deutschland wird, wie überall auf der Welt, das Risiko, dass ein Kreditnehmer einen Kredit nicht zurückzahlt, auf der Basis eines Algorithmus bestimmt.

Yilun Wang und Michal Kosinski von der Stanford School of Business haben neuronale Netze trainiert, um an Hand eines bzw. fünf Fotos einer Person herauszufinden, ob sie schwul oder lesbisch ist. In ihrem Versuch mit über 35.000 Bildern erreichten sie eine Treffsicherheit von  81 % bei den Männern und 71 % bei den Frauen mit je einem Bild bzw. 91 % und 83 % bei fünf Bildern.

In den Vereinigten Staaten verwendet die Justiz mancher Bundesstaaten, zum Beispiel Wisconsin, Algorithmen, die vorhersagen sollen, wie hoch das Risiko eines Straftäters ist, rückfällig zu werden. Richter können diese sogenannten Risk Scores etwa bei ihrer Entscheidung, eine Strafe zur Bewährung auszusetzen, berücksichtigen.


Algorithmen sind überall. Unter Namen wie künstliche Intelligenz, AI oder neuronale Netze erobern sie derzeit eine Industrie nach der nächsten. Sie erkennen Krebs auf Röntgenbildern, beurteilen das Versicherungsrisiko von Menschen und geben Empfehlungen, die oft zu Entscheidungen werden.

Diese Entwicklung hat zwei große Probleme:

  1. Moderne Algorithmen sind so komplex, dass ein einzelner Mensch sie nicht mehr nachvollziehen kann. Sie werden damit zur Black Box.
  2. Entscheidungen einem Algorithmus zu überlassen, wirft ethische Fragen auf. So führen die Risk Scores in den Vereinigten Staaten etwa nachweislich dazu, dass die Rückfallwahrscheinlichkeit von Kriminellen ethnischer Minderheiten höher eingeschätzt wird als bei Weißen.

Eine Lösung dieser Probleme ist denkbar schwierig. Zwei Ansätze dazu kann es geben:

  1. Der einzelne Programmierer und der einzelne Manager muss Verantwortung übernehmen. Dazu ist eine ethische Grundbildung , ein Über-den-Tellerrand-hinaus-Blicken förderlich, das in Ausbildung, Studium und im Arbeitsalltag von Informatikern viel zu selten stattfindet. Unternehmen könnten Philosophen einladen und Workshops veranstalten. Sie sollten sich die Frage stellen, warum sie tun, was sie tun, und wie sie es tun. Sie sollten sich ihrer Werte vergewissern.
  2. Der Staat kann regulierend eingreifen. Eine Art »Algorithmen-TÜV« wird langfristig unvermeidbar sein.

Zum Weiterlesen

Bildquelle: CC0-Lizenz, freiwillige Quellenangabe: https://www.pexels.com/photo/black-chain-147635/

Requiem für den Home Button

Requiem für den Home Button