Forum: Netzwelt
Lücke im Recht: Vom Algorithmus diskriminiert
AP/ Montgomery County Sheriffs office

Je mehr Daten durchs Netz fließen, desto mehr Entscheidungen werden nicht mehr von Menschen, sondern von Algorithmen gefällt. Das zeigt eine Lücke im Recht: Algorithmen können diskriminieren - ungestraft.

Seite 1 von 4
derBob 16.03.2016, 09:36
1. Widersprüchlich

Die Schlüsse und Forderungen in diesem Artikel sind widersprüchlich.

Zum einen postuliert der Autor:

"Dass Algorithmen objektiv entscheiden, ist dabei eine Mär. Weil sie von Menschen programmiert werden, spiegeln Algorithmen die Vorurteile ihres Programmierers. Code ist Werturteil"

Dies !kann! natürlich ohne Frage zutreffen.

Weiter unten wählt der Autor jedoch das völlig gegensätzliche Beispiel der Suchvervollständigung zu "Israel". Nur ist m.E. in diesem Fall der Algorithmus tatsächlich objektiv, da hier rein numerisch die Häufigkeit ausschlaggebend ist.

Hier fordert der Autor implizit sogar, dass der Code ein Werturteil fällt und damit subjektiv über die weiteren Schritte entscheidet.

Beitrag melden Antworten / Zitieren
MoorGraf 16.03.2016, 09:36
2. straffreie Diskriminierung

im Prinzip müssten nur die Firmen, die mit den Algorithmen arbeiten, für die Folgen haftbar gemacht werden. Das könnte zum Beispiel bei einer Kreditbeurteilung bedeuten, dass eine Firma nach der digitalen Prüfung (und ggf. Ablehnung) eine zusätzliche Instanz mit einer persönlichen Prüfung nachgeschaltet wird, also ein abgelehnter Kunde dann eine Nachprüfung beantragen kann.

Und bei beiden Verfahren müsste dem Kunden immer auch der Klageweg offen stehen, so dass die Firma ggf. vor Gericht belegen muss, dass zumindest bei Ausnutzung eines großzügigen Ermessensspielraums nicht nur eine reine Diskriminierung als Begründung für die Ablehnung übrig bleibt.

Beitrag melden Antworten / Zitieren
sixtymirror 16.03.2016, 09:43
3. Absurditäten

Eingegeben: »Putin ist«. Ergebnis: »Putin ist tot«, »Putin ist der beste«. Ist dieser Wahnsinn algorithmisch lösbar? Vielleicht eher pädagogisch, ich meine dass der »User« die Fähigkeit besitzen muss, die Suchergebnisse zu bewerten und zu sortieren. Am Anfang des Prozesses steht ein Mensch, dann kommt der Algorithmus ins Spiel, und am Ende wieder ein Mensch. Leider ist die Sache aber nicht immer durchschaubar.

Beitrag melden Antworten / Zitieren
Bernd S 16.03.2016, 09:47
4. Echte Schieflage

Ja, das ist wirklich so: In einer Stellenanzeige muss man peinlichst darauf achten, alles geschlechtsneutral zu formulieren und natürlich auch niemanden aufgrund seines Alters zu diskriminieren. Kaum eine Firma traut sich noch, bei Absagen nach einer Bewerbung überhaupt Feedback zu geben - aus Angst, bei einem nicht durch die Rechtsabteilung kontrolliertem Absagegrund gibt es gleich eine Klage wegen Verstoßes gegen das AGG.

Auf der anderen Seite bekommen aber ganze Stadtteile aufgrund der Adressen schlechtere Kreditbedingungen. Und fragt man nach, dann war das eben der "Ratingalgorithmus" der aus "verschiedensten Einflussfaktoren" einen "Indexwert" errechnet. Das geht offenbar.

Beitrag melden Antworten / Zitieren
andreasclevert 16.03.2016, 09:53
5. vielleicht bin ich nicht..

..auf der Höhe der Zeit, aber in dieser Tragweite war mir digitale Diskriminierung kein Begriff. Danke für die sachliche Aufklärung und weiter so!
Ich hoffe, kein Code schlägt vor, dass Diskussionsteilnahmen in Kombination mit anderen Variablen automatisiert eine Beobachtung durch den Verfassungsschutz vorschlagen ;-)

Beitrag melden Antworten / Zitieren
Leser161 16.03.2016, 09:56
6. Top!

So einen Artikel hätte ich eigentlich vom Lobo erwartet. Der Autor hat vollkommen recht. Scoring Algorithmen sind eine Fortsetzung von Diskrimierung mit anderen Mitteln.

Sie nehmen oberflächliche Informationen (Wohnort) und urteilen damit über Menschen. Das ist genauso als wenn ein Flüchtling nicht beim Bäcker bedient wird.

Diese Beurteilung hat teilweise harte Auswirkungen (kein Konto, kein Telefonvertrag, schlechterer Tarif etc.) ohne das Einspruch möglich wäre. Dieses widerspricht unserem Rechtsstaat.

Weiter so lieber Autor.

Beitrag melden Antworten / Zitieren
sprechweise 16.03.2016, 10:12
7. Recht ist ein Euphemismus

Tatsächlich ist "Recht" ein Euphemismus für Macht.
Es geht Juristen nicht um Gerechtigkeit trotz Richtereid, der in der Praxis als Meineid geleistet wird.

Jedes erlebte Juristenurteil strotzt vor Fehlern, Willkür und Ungerechtigtigkeit.

Faktisch sind gepflegte und weiterentwickelte Algorithmen gerechter als es Juristen je sein werden. Der Juristenalgorithmus "Prozessordnung" ist so offensichtlich Unrecht. Nur wer viel Geld hat hat überhaupt eine Chance Gerechtigkeit vor Gericht zu erzielen. Ohne Geld machen weder Richter noch Anwälte mit. Auch das ist Korruption.

Der Qualitätsanspruch der Juristen an sich ist jämmerlich unterentwickelt. Man braucht ja nur mal das Grundgesetz zu lesen, dass sich ständig widerspricht.

"Alle Menschen sind vor dem Gesetz gleich, es sei denn es handelt sich um Männer und Frauen".

Beitrag melden Antworten / Zitieren
Claus S.Schoenleber 16.03.2016, 10:13
8. Entscheidungen

Obschon die Grundaussage des Artikels durchaus richtig ist, werden zwei gleichlautende, aber höchst unterschiedliche Begriffe vermischt. Einem Algorithmus (das ist ein logischer und automatischer Entscheider oder Filter) geht bereits eine andere, durch Menschen getroffene Entscheidung voraus. Das bedeutet, dass Algorithmen mitnichten per se neutral oder diskriminierungsfrei sind, im Gegenteil. Beispiele sind Rasterfahndungsmethoden oder Kreditwürdigkeits-Scores von Banken. Das sind willkürliche Diskriminierungs-Algorithmen. Die geforderte Kontrolle muss daher weit vor der Entscheidung für einen bestimmten Algorithmus ansetzen. Algorithmen selbst entscheiden nichts, das haben diejenigen, die sich für einen bestimmten Algorithmus entscheiden, bereits weit vorher getan. Und hier hat der Persönlichkeitsschutz anzusetzen, der mit dem Datenschutz realisiert werden soll.

Beitrag melden Antworten / Zitieren
baumpick 16.03.2016, 10:17
9.

@andreasclevert
"Ich hoffe, kein Code schlägt vor, dass Diskussionsteilnahmen in Kombination mit anderen Variablen automatisiert eine Beobachtung durch den Verfassungsschutz vorschlagen"

Wenn der Verfassungsschutz das nicht bereits machen sollte, kann man den Laden auch gleich zumachen. Darüber sollte man sich bei jeder Äußerung im Netz, bei jedem Einkauf im Netz, etc. klar sein - leider -.

Beitrag melden Antworten / Zitieren
Seite 1 von 4