Schwarze Straftäter in den USA Vom Algorithmus diskriminiert?

Fragebögen und Algorithmen teilen Straftäter in Risikoklassen ein - das ist eine gängige Praxis in vielen US-Staaten. Wird ein hohes Rückfallrisiko ermittelt, drohen härtere Strafen. Jetzt gibt es Kritik.
Gefängnis in North Carolina

Gefängnis in North Carolina

Foto: Sara D. Davis/ Getty Images

In einer großen Zahl von US-Bundesstaaten werden Straftäter von Algorithmen beurteilt. Die Programme greifen auf vorliegende und nach der Verhaftung erhobene Daten zurück, maßgeblich auch auf Angaben, die die Täter selbst machen. Am Ende werfen die Algorithmen einen "Risiko-Score" aus - der soll die Wahrscheinlichkeit beziffern, dass der Betroffene erneut straffällig wird.

Mindestens einer dieser Algorithmen, das will das stiftungsfinanzierte Journalismusprojekt "Pro Publica" mit einer aufwendigen Studie nachgewiesen haben , diskriminiert aufgrund der Hautfarbe: Er "stuft schwarze Angeklagte mit besonders hoher Wahrscheinlichkeit als zukünftige Kriminelle ein", während "weiße Angeklagte häufiger fälschlich mit einem geringen Risiko eingestuft wurden als schwarze".

"Pro Publica" verschaffte sich, um die Software der Firma Northpointe zu prüfen, einen Datensatz aus Florida: Er enthält die Risikowerte von über 7000 Personen, die in den Jahren 2013 und 2014 im dortigen Broward County verhaftet worden waren. Dann prüften die Journalisten, wer von den eingestuften Personen im Verlauf der darauffolgenden zwei Jahre erneut straffällig geworden war.

Der Punktwert an sich sei schon "bemerkenswert wenig verlässlich, wenn es um die Vorhersage von Gewaltverbrechen geht", so "Pro Publica": Nur 20 Prozent der Personen, bei denen der Algorithmus Gewalttaten prophezeit hatte, begingen tatsächlich Gewaltverbrechen.

Beziehe man alle Straftaten und Ordnungswidrigkeiten mit ein, sei die Prognose des Programms "etwas verlässlicher als ein Münzwurf": "Von jenen, denen eine hohe Wahrscheinlichkeit erneuter Straftaten attestiert wurde, wurden in den folgenden zwei Jahren 61 Prozent erneut wegen Verbrechen verhaftet."

Deutliche Verzerrung

Vor allem aber wurden die Betroffenen deutlich häufiger fälschlich als Risikofälle eingestuft, wenn sie schwarz waren. Während 23,5 Prozent der Weißen, die als Hochrisikofälle klassifiziert worden waren, nicht erneut straffällig wurden, wurden fast 45 Prozent der Schwarzen auf diese Weise falsch eingestuft. Geringes prognostiziertes Rückfallrisiko gepaart mit tatsächlicher erneuter Straffälligkeit wies das umgekehrte Muster auf: 47,7 Prozent der Weißen, aber nur 28 Prozent der Schwarzen Niedrigrisikofälle wurden erneut straffällig.

Northpointe ist nur einer von mehreren Herstellern, die entsprechende Einstufungssoftware anbieten. Die Firma bestreitet die Richtigkeit der "Pro Publica"-Ergebnisse: "Northpointe stimmt nicht mit den Resultaten ihrer Analyse und den auf Basis dieser Analyse erhobenen Behauptungen überein", zitiert "Pro Publica" das Unternehmen.

"Wurde Ihr Vater jemals verhaftet?"

Die Daten, auf deren Basis die Einschätzungen vorgenommen werden, stammen häufig von den Delinquenten selbst: Northpointe etwa stattet Polizeireviere mit einem 137 Fragen umfassenden Bogen  aus, mit deren Hilfe Verhaftete befragt werden sollen. Darunter sind Fragen wie: "Wurde Ihr Vater (oder eine Vaterfigur, die Sie hauptsächlich großzog) ihres Wissens jemals verhaftet?" Oder: "Wie oft sind Sie in den vergangenen zwölf Monaten umgezogen?" Andere Informationen müssen aus Polizei- und Gerichtsakten in den Bogen übertragen werden, etwa Vorstrafen.

In neun US-Staaten werden die Punktzahlen, die derartige Einstufungswerkzeuge auswerfen, Richtern sogar vor der Urteilsverkündung vorgelegt. In vielen weiteren Staaten werden sie ebenfalls eingesetzt, etwa im Zusammenhang mit der Festlegung von Kautionssummen oder mit vorzeitiger Entlassung aus dem Gefängnis.

Der damalige US-Justizminister Eric Holder hatte diese Praxis schon 2014  kritisiert: "Das Strafmaß muss auf den Fakten, dem Gesetz, den tatsächlich begangenen Verbrechen, den Umständen jedes einzelnen Falles und den bisherigen Straftaten des Angeklagten basieren", so Eric Holder damals, und nicht "auf unveränderlichen Faktoren, die eine Person nicht kontrollieren kann oder auf der Wahrscheinlichkeit einer künftigen Straftat, die noch gar nicht stattgefunden hat."

Die Vorhersagesoftware ist in vielen US-Staaten populär, weil sie oft hilft, Kosten zu sparen: Sie soll es Richtern erleichtern, Straftäter zu Bewährungsstrafen zu verurteilen, weil ihr Rückfallrisiko als niedrig eingestuft wird.

Durch den Einsatz entsprechender Software habe sich die Zahl der in Haft Sitzenden im Staat North Carolina zwischen 2011 und 2014 um 3000 verringert, berichtet "Pro Publica" unter Berufung auf staatliche Zahlen. Unter anderem durch die Einführung von Risikobewertungen habe allein North Carolina 84 Millionen Dollar eingespart.

In Deutschland sind derartige Systeme nicht im Einsatz.

cis