Vorverurteilung durch Algorithmen Liebe Leserin, lieber Leser,


mit dem Justiziellen Terrorregister entsteht gerade eine europaweite Datenbank zu Terroristen und Terrorverdächtigen, die Ermittlern die Fahndung erleichtern soll. Und weltweit experimentieren Sicherheitskräfte mit Scoring-Systemen, die Terrorverdächtige kategorisieren und die Wahrscheinlichkeit berechnen, mit der sie künftig tatsächlich zuschlagen.

Es sind nur zwei von zahlreichen neuen Instrumenten, mit denen weltweit Länder Terrorismus bekämpfen wollen. Die Tools gegen den Terror sind allerdings umstritten - und die Folgen bei Irrtümern können drastisch sein.

In Deutschland setzen die Sicherheitsbehörden etwa auf die Risikobewertungs-Software Radar-iTE, um die akute Gefahr einzuschätzen, die von islamistischen Terrorverdächtigen ausgeht - ob sich das Tool auch auf den rechtsextremistischen Bereich übertragen lässt, wird derzeit geprüft.

Risikoberechnung: Software soll vor potenziellen Terroristen warnen
David Ebener / DPA

Risikoberechnung: Software soll vor potenziellen Terroristen warnen

"Radar-iTE ist ein Element einer verbesserten und bundesweit standardisierten Gefährderbewertung und Maßnahmenpriorisierung", heißt es auf Anfrage sperrig vom Bundeskriminalamt (BKA). Derzeit seien "etwa 670 Personen in Bearbeitung mit dem Risikobewertungsinstrument" - wobei nicht alle dieser Personen "formell als Gefährder und/oder Relevante Person eingestuft" seien. Über Ergebnisse und Schlussfolgerungen könne das BKA aber "aus polizeitaktischen bzw. polizeistrategischen Gründen keine Auskunft erteilen".

Ein abstraktes Risiko - mit Folgen

Bei ihrem Vortrag "Ein Jahr neue Polizeigesetze - und was nun?" bei der Netzpolitik-Konferenz am Freitag hat Netzpolitik.org-Autorin Marie Bröckling davor gewarnt, dass mit der "Gefährder"-Debatte in Deutschland eine neue Kategorie von Personen geschaffen worden sei, denen ein "abstraktes Risiko" zugerechnet werde - sie würden verurteilt, bevor sie eine Straftat begangen hätten.

Welche Folgen solche Zuschreibungen haben können, zeigt sich in den USA: Vor Kurzem hat ein Bundesrichter in den USA entschieden, dass die auch als "Terror Watchlist" bekannte Terrorist-Screening-Datenbank (TSDB) gegen die Verfassungsrechte von US-Bürgern verstößt - ein zentrales Werkzeug von FBI und Heimatschutzministerium mit mehr als einer Million Einträgen. In der Urteilsbegründung heißt es, "das Risiko einer irrtümlichen Entziehung der Reise- und Reputationsfreiheit" sei hoch. Gegen als "bekannte und mutmaßliche Terroristen" eingestufte Personen wurden jahrelang Einreisesperren verhängt, sie wurden speziell überwacht und waren zum Teil stundenlangen Befragungen ausgesetzt.

Wenn Daten zu Terrorverdächtigen über Behörden sowie Landesgrenzen hinweg übermittelt werden, wird ihr Entstehungskontext zunehmend verschleiert. Mit dem Terrorist Screening Center (TSC) des FBI tauscht etwa auch das Bundeskriminalamt im Rahmen eines Pilotprojekts Daten zu "Personen mit Terrorismusbezug" aus.

Sie mögen Netzwelt-Themen? Dann abonnieren Sie Beiträge wie diesen hier. Der Newsletter Startmenü ist kostenlos und landet jeden Montagnachmittag in Ihrem Postfach.

Seltsame Digitalwelt: Privatsphäre auf Tinder

Dating-Apps wie Tinder oder OkCupid geben ein Stimmungsbild ab, wie ernst es viele Nutzer mit Privatsphäre und Datenschutz nehmen. Antwort: eher nicht so ernst. Ich bin immer wieder entsetzt, wie viele Nutzer und Nutzerinnen bei solchen Apps ihren echten Namen, Beruf und andere Indizien angeben, mit denen sie sich leicht ergoogeln lassen. Am besten noch mit umfangreicher Bildergalerie und verlinktem Instagram-Profil - dabei ist das Risiko, von unliebsamen Möchtegern-Lovern auch auf anderen Kanälen gestalkt zu werden, besonders für Frauen ziemlich hoch.


App der Woche: "Bastack Ball"
getestet von Tobias Kirchner

Woordy Entertainment

"Bastack Ball" ist ein typisches Spiel fürs Smartphone: Eine simple Idee trifft auf eine immer größer werdende Herausforderung. Ein Basketball muss im richtigen Moment zum Springen gebracht werden, während immer wieder von rechts Plattformen ins Bild kommen. Der Ball soll natürlich auf diesen landen, und so entsteht ein langsam größer werdender Turm. Das ist eigentlich auch schon alles. Was am Anfang noch leicht ist, wird im Spielverlauf schwieriger. Die Jagd nach der perfekten Kombi sorgt für Motivation und schnellen Spielspaß.

Gratis, von Woordy Entertainment, ohne In-App-Käufe: iOS, Android


Fremdlink: Drei Tipps aus anderen Medien

  • "The Atlas of Surveillance" (Englisch, 20 Leseminuten): In Städten entlang der US-Grenze zu Mexiko wird mit Drohnen, Bodycams und Kfz-Scannern aufgerüstet. Die Bürgerrechtsorganisation Electronic Frontier Foundation (EFF) und Journalismus-Studenten der University of Nevada haben einen Atlas erstellt, der die umfassende Überwachung sichtbar macht - die Daten lassen sich auch herunterladen.
  • "So werden Frauen belästigt, die auf Facebook ein Zimmer suchen" (vier Leseminuten): Der Wohnungsmarkt ist so angespannt, dass Studentinnen sich in Facebook-Gruppen als Mitbewohnerinnen anpreisen wie bei einem Kontaktanzeigen-Wettbewerb, berichtet "Vice". Doch statt Wohnungsangeboten erhalten viele Anfragen für Dates, Beleidigungen und sexuelle Belästigung.

  • "Robot priests can bless you, advise you, and even perform your funeral" (Englisch, sechs Leseminuten)
    Von Robo-Priestern über Bots mit Heiligenschein bis hin zu digitalen Helfern im buddhistischen Tempel: "Vox" gibt einen spannenden Überblick, wo und in welcher Form Roboter und künstliche Intelligenz bereits Einzug in Kirchen, Tempel und Glauben Einzug gehalten haben - und wie künstliche Intelligenz selbst zum Gegenstand von quasireligiöser Verehrung wird.

Ich wünsche Ihnen eine schöne Woche!

Sonja Peteranderl

Verlagsangebot

rawpixel on Unsplash

SPIEGEL AKADEMIE

Hochschulkurs mit Zertifikat - Cyber Security
Sichern Sie das Internet der Dinge vor Cyberattacken! Erfahren Sie hier mehr.

Mehr zum Thema
Newsletter
Startmenü - der Netzwelt-Newsletter


insgesamt 12 Beiträge
Alle Kommentare öffnen
Seite 1
quark2@mailinator.com 16.09.2019
1.
Tja, die Komplettvermessung der Menschen nimmt immer krassere Formen an. Was regt man sich vornerum (mMn. zurecht) über das "Scoring" der Chinesen auf, nur um bei uns ähnliche Dinge etwas langsamer hintenrum einzuführen. Und immer unter dem Schirm des Terrorschutzes. Stellt mal jemand die Frage, warum wir unsere Flughäfen zu Festungen ausbauen mußten, oder warum jede Banktransaktion, jede Mail, jeder Seitenbesuch im Web analysiert wird ? Warum ging das vor 30 Jahren noch komplett ohne das alles ? Die Menschen sind die gleichen, wenn nicht sogar "softer". Kann es sein, daß es an der zunehmenden Ungerechtigkeit in der Gesellschaft liegt ? Kann es sein, daß bestimmten Ländern bzw. Völkern einfach kein Platz an der Sonne eingeräumt wird und sich deren Sehnsucht nach Souveränität und Prosperität Bahn bricht ? Aus meiner Sicht kann man Glück nicht durch Überwachung und Kontrolle herbeiführen oder sichern, sondern nur, indem man die Ursachen für die extremistischen Aktionen versteht und abschafft - auch gerade zum eigenen Schaden, indem man eben auch mal zugibt, bestimmte Dinge 100 Jahre lang falsch gemacht zu haben und die Folgen endlich heilt.
TheQuant 16.09.2019
2. Eine Frage der Ethik - Verhinderung von Straftaten vs. Datenschutz
Zum einen müssen die Strafverfolgungsbehörden natürlich die Grundrechte, Datenschutz, etc. - teilweise im Rahmen der Güterabwegung mit richterlichem Beschluß beachten. Zum anderen können Algorithmen sehr transparent sein, z.B. kommen bei Scoring-Verfahren einfach eine Reihe von Risikofaktoren zusammen. Bei intelligenteren Algorithmen wird häufig der Kontext beachtet. Z.B. wird der Kauf von Dünger, der zu Herstellung von Sprengstoff verwendet werden kann, bei einem Bauern nicht als Risiko eingestuft. In der Regel kann man die Gründe für ein Gefahrenpotential sehr gut extrahieren und dann manuell bewerten. Die Gretchenfrage ist: Wo setzt man die Schwelle für eine intensive Überwachung einer Person an? Für mich wäre hier eine Gesetzgebung sinnvoll. 1. Überwachung von sozialen Netzen (die Äußerungen sind sowieso öffentlich): Identifizierung von Straftaten wie Beleidigungen, Volksverhetzung, Anstiftung oder Aufforderung zu Straftaten. 2. Intensivüberwachung von auffälligen Personen nach Maßgabe der Gesetze.
herkurius 16.09.2019
3. Strenge Auflagen ohne Verurteilung
Weil ein Denunziant, Eltern eines Mitschülers, nach dem Parkland-Massaker einen Schüler, Asperger-Autist, verdächtigte, wegen seiner Vorliebe für einen schwarzen Trenchcoat ein Terrorist zu sein, muss er sich jetzt jeden Tag bei einem Terrorismusbeauftragten seiner Schule melden, darf jederzeit ohne Verdacht durchsucht werden und sein Name wurde öffentlich bekannt. Als guter Schüler wurde er trotz zusätzlichem Abendunterricht zum Drop-Out. https://www.oregonlive.com/news/erry-2018/06/75f0f464cb3367/targeted_a_family_and_the_ques.html
Seraphan 16.09.2019
4. Interessant
Interessant daran ist, dass diese Gläsernheit in Büchern und Filmen vorausgesagt wurde, bevor es das Internet überhaupt gab.
flyingsquirrel 17.09.2019
5. Artikel schon zuende?
Ich war über das plötzliche Ende des Artikels verwundert. Ich dachte man geht noch auf K.I. ein, die mit Daten trainiert wird und so quasi Vorurteile entwickelt.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2019
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.