Schwarze Straftäter in den USA Vom Algorithmus diskriminiert?

Fragebögen und Algorithmen teilen Straftäter in Risikoklassen ein - das ist eine gängige Praxis in vielen US-Staaten. Wird ein hohes Rückfallrisiko ermittelt, drohen härtere Strafen. Jetzt gibt es Kritik.

Gefängnis in North Carolina
Getty Images

Gefängnis in North Carolina


In einer großen Zahl von US-Bundesstaaten werden Straftäter von Algorithmen beurteilt. Die Programme greifen auf vorliegende und nach der Verhaftung erhobene Daten zurück, maßgeblich auch auf Angaben, die die Täter selbst machen. Am Ende werfen die Algorithmen einen "Risiko-Score" aus - der soll die Wahrscheinlichkeit beziffern, dass der Betroffene erneut straffällig wird.

Mindestens einer dieser Algorithmen, das will das stiftungsfinanzierte Journalismusprojekt "Pro Publica" mit einer aufwendigen Studie nachgewiesen haben, diskriminiert aufgrund der Hautfarbe: Er "stuft schwarze Angeklagte mit besonders hoher Wahrscheinlichkeit als zukünftige Kriminelle ein", während "weiße Angeklagte häufiger fälschlich mit einem geringen Risiko eingestuft wurden als schwarze".

"Pro Publica" verschaffte sich, um die Software der Firma Northpointe zu prüfen, einen Datensatz aus Florida: Er enthält die Risikowerte von über 7000 Personen, die in den Jahren 2013 und 2014 im dortigen Broward County verhaftet worden waren. Dann prüften die Journalisten, wer von den eingestuften Personen im Verlauf der darauffolgenden zwei Jahre erneut straffällig geworden war.

Der Punktwert an sich sei schon "bemerkenswert wenig verlässlich, wenn es um die Vorhersage von Gewaltverbrechen geht", so "Pro Publica": Nur 20 Prozent der Personen, bei denen der Algorithmus Gewalttaten prophezeit hatte, begingen tatsächlich Gewaltverbrechen.

Beziehe man alle Straftaten und Ordnungswidrigkeiten mit ein, sei die Prognose des Programms "etwas verlässlicher als ein Münzwurf": "Von jenen, denen eine hohe Wahrscheinlichkeit erneuter Straftaten attestiert wurde, wurden in den folgenden zwei Jahren 61 Prozent erneut wegen Verbrechen verhaftet."

Deutliche Verzerrung

Vor allem aber wurden die Betroffenen deutlich häufiger fälschlich als Risikofälle eingestuft, wenn sie schwarz waren. Während 23,5 Prozent der Weißen, die als Hochrisikofälle klassifiziert worden waren, nicht erneut straffällig wurden, wurden fast 45 Prozent der Schwarzen auf diese Weise falsch eingestuft. Geringes prognostiziertes Rückfallrisiko gepaart mit tatsächlicher erneuter Straffälligkeit wies das umgekehrte Muster auf: 47,7 Prozent der Weißen, aber nur 28 Prozent der Schwarzen Niedrigrisikofälle wurden erneut straffällig.

Northpointe ist nur einer von mehreren Herstellern, die entsprechende Einstufungssoftware anbieten. Die Firma bestreitet die Richtigkeit der "Pro Publica"-Ergebnisse: "Northpointe stimmt nicht mit den Resultaten ihrer Analyse und den auf Basis dieser Analyse erhobenen Behauptungen überein", zitiert "Pro Publica" das Unternehmen.

"Wurde Ihr Vater jemals verhaftet?"

Die Daten, auf deren Basis die Einschätzungen vorgenommen werden, stammen häufig von den Delinquenten selbst: Northpointe etwa stattet Polizeireviere mit einem 137 Fragen umfassenden Bogen aus, mit deren Hilfe Verhaftete befragt werden sollen. Darunter sind Fragen wie: "Wurde Ihr Vater (oder eine Vaterfigur, die Sie hauptsächlich großzog) ihres Wissens jemals verhaftet?" Oder: "Wie oft sind Sie in den vergangenen zwölf Monaten umgezogen?" Andere Informationen müssen aus Polizei- und Gerichtsakten in den Bogen übertragen werden, etwa Vorstrafen.

In neun US-Staaten werden die Punktzahlen, die derartige Einstufungswerkzeuge auswerfen, Richtern sogar vor der Urteilsverkündung vorgelegt. In vielen weiteren Staaten werden sie ebenfalls eingesetzt, etwa im Zusammenhang mit der Festlegung von Kautionssummen oder mit vorzeitiger Entlassung aus dem Gefängnis.

Der damalige US-Justizminister Eric Holder hatte diese Praxis schon 2014 kritisiert: "Das Strafmaß muss auf den Fakten, dem Gesetz, den tatsächlich begangenen Verbrechen, den Umständen jedes einzelnen Falles und den bisherigen Straftaten des Angeklagten basieren", so Eric Holder damals, und nicht "auf unveränderlichen Faktoren, die eine Person nicht kontrollieren kann oder auf der Wahrscheinlichkeit einer künftigen Straftat, die noch gar nicht stattgefunden hat."

Die Vorhersagesoftware ist in vielen US-Staaten populär, weil sie oft hilft, Kosten zu sparen: Sie soll es Richtern erleichtern, Straftäter zu Bewährungsstrafen zu verurteilen, weil ihr Rückfallrisiko als niedrig eingestuft wird.

Durch den Einsatz entsprechender Software habe sich die Zahl der in Haft Sitzenden im Staat North Carolina zwischen 2011 und 2014 um 3000 verringert, berichtet "Pro Publica" unter Berufung auf staatliche Zahlen. Unter anderem durch die Einführung von Risikobewertungen habe allein North Carolina 84 Millionen Dollar eingespart.

In Deutschland sind derartige Systeme nicht im Einsatz.

cis

Mehr zum Thema


Forum - Diskussion über diesen Artikel
insgesamt 15 Beiträge
Alle Kommentare öffnen
Seite 1
K:F 24.05.2016
1. Tom Cruse lässt grüßen
Minorety Report ist da doch nicht so weit entfernt. Das Banken Scoring betreiben,haben wir schon verstanden. Jetzt aber nach bestimmten Merkmalen zu verurteilen, ist der Knaller. Da müssten doch 80 % der Reichen in den Bau.
Califorum 24.05.2016
2. Münzwurf
Zitat: Beziehe man alle Straftaten und Ordnungswidrigkeiten mit ein, sei die Prognose des Programms "etwas verlässlicher als ein Münzwurf": "Von jenen, denen eine hohe Wahrscheinlichkeit erneuter Straftaten attestiert wurde, wurden in den folgenden zwei Jahren 61 Prozent erneut wegen Verbrechen verhaftet." Wenn von denjenigen, denen eine hohe Wahrscheinlichkeit erneuter Straftaten attestiert wurden, nach zwei Jahren 61% erneut wegen Verbrechen verhaftet wurden, hat das Programm eine ganz ausgezeichnete Vorhersage gemacht. Das wäre auch bei 50% noch der Fall - oder ist 50% etwa der zu erwartende Normalfall?
mrsa 24.05.2016
3.
Zitat von CaliforumZitat: Beziehe man alle Straftaten und Ordnungswidrigkeiten mit ein, sei die Prognose des Programms "etwas verlässlicher als ein Münzwurf": "Von jenen, denen eine hohe Wahrscheinlichkeit erneuter Straftaten attestiert wurde, wurden in den folgenden zwei Jahren 61 Prozent erneut wegen Verbrechen verhaftet." Wenn von denjenigen, denen eine hohe Wahrscheinlichkeit erneuter Straftaten attestiert wurden, nach zwei Jahren 61% erneut wegen Verbrechen verhaftet wurden, hat das Programm eine ganz ausgezeichnete Vorhersage gemacht. Das wäre auch bei 50% noch der Fall - oder ist 50% etwa der zu erwartende Normalfall?
Zumindest bei 50% ist der Vergleich zum Münzwurf schon plausibel: von 100 Vorhersagen treffen 50 zu, 50 nicht, die Münze könnte es auch nicht schlechter (oder besser). Gut, das Programm sagt 61 mal richtig vorraus, 39 mal nicht, so richtig doll ist das aber irgendwie auch nicht. Wenn davon abhängt, ab jemand in den Bau einwandert oder auch nicht, würde ich eine höhere Treffsicherheit erwarten. Außerdem sollte das Urteil m.E. aufgrund der Tat, den Begleitumständen und der Einsicht/Reue des Täters erfolgen und nicht aufgrund dubioser Computerprogramme.
alternativloser_user 24.05.2016
4.
Zitat von CaliforumZitat: Beziehe man alle Straftaten und Ordnungswidrigkeiten mit ein, sei die Prognose des Programms "etwas verlässlicher als ein Münzwurf": "Von jenen, denen eine hohe Wahrscheinlichkeit erneuter Straftaten attestiert wurde, wurden in den folgenden zwei Jahren 61 Prozent erneut wegen Verbrechen verhaftet." Wenn von denjenigen, denen eine hohe Wahrscheinlichkeit erneuter Straftaten attestiert wurden, nach zwei Jahren 61% erneut wegen Verbrechen verhaftet wurden, hat das Programm eine ganz ausgezeichnete Vorhersage gemacht. Das wäre auch bei 50% noch der Fall - oder ist 50% etwa der zu erwartende Normalfall?
Nein, 50% ist der Münzwurf ...
Freiheit für Europa 24.05.2016
5. Unterschied: nicht erwischt vs. nicht straffällig geworden
Das Problem lässt sich sicher nicht mit dieser Software richtig einschätzen - das kann derzeit niemand und nichts. Dennoch ist - rein statistisch - die Hautfarbe wohl doch ein korrelierendes Merkmal (wenn auch keine Kausalität). Es gibt halt Ghettos auf der Welt, da sind die Mieten billig, da will auch kein Weißer wohnen (OK ich hatte schon fast zugesagt, als Weißer in einer WG im Gebiet der höchsten Mordrate einzumieten, dann hatte die Uni mir doch für einen Monat eine Studentenunterkunft gewährt...). Aber es gibt auch schlechte Weißen-Ghettos, da wird man abends begrüßt: man könnte es noch lebend rausschaffen, wenn man gleich weiterfährt...
Alle Kommentare öffnen
Seite 1
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2016
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.