Technik-Aberglaube Warum es falsch ist, Computer zu vermenschlichen

Computer und Algorithmen sind besser und schlauer als Menschen? Zwei Künstlerinnen halten solche Ansichten für falsch. Sie warnen vor falschen Vorurteilen gegenüber Menschen und Maschinen.

Filmszene aus "I, Robot"
20th Century Fox

Filmszene aus "I, Robot"

Aus Leipzig berichtet


Wenn wir über Technik sprechen, vergessen wir meist die Menschen, die sie entwickeln und benutzen: Das ist eine zentrale These von Marloes de Valk. Begriffe wie "künstliche Intelligenz" halte sie für irreführend, erzählt die Künstlerin und Autorin auf dem Chaos Communication Congress in Leipzig.

Als Beispiel nennt de Valk die Berichterstattung über ein vom Computer generiertes Gemälde im Stil des Malers Rembrandt. 18 Monate lang haben Forscher die Software auf Rembrandt-Gemälde trainiert, bis ein neues Gemälde im Stil des alten Meisters entstanden war. Gefeiert wurde das Ergebnis als kreative Leistung der künstlichen Intelligenz.

De Valk hält dagegen. Nicht Algorithmen hätten das Gemälde erzeugt, sondern Menschen, die Algorithmen als Werkzeug benutzen - ähnlich wie Maler etwa Pinsel und Farbe als Werkzeug verwenden. "Niemand im 17. Jahrhundert hätte davon geträumt zu behaupten, Pinsel und Farbe hätten ein Gemälde erschaffen", betont de Valk in einem Essay auf ihrer Website.

Gemälde im Stil von Rembrandt
The Next Rembrandt/ Youtube

Gemälde im Stil von Rembrandt

Menschlich und übermenschlich zugleich

Geschichten wie die vom neuen Rembrandt-Gemälde lassen Computer als denkende, kreative, lernende und verstehende Wesen erscheinen, kurzum: als menschenähnlich, erläutert de Valk im Gespräch am Rande des Kongresses. Computer würden zudem als überlegen gelten, weil sie objektiver sind und ihre Software auf Rechnungen und Zahlen basiert.

De Valk sieht in der Überhöhung der Technik eine Art neuen Aberglauben, der nahelegt: Je besser die Computer und je größer die untersuchten Datensätze, desto eher lassen sich menschliche Probleme lösen. In de Valks Augen ist das ein Fehler.

Marloes de Valk
media.ccc.de

Marloes de Valk

Auch die Berliner Künstlerin Najda Buttendorf alias Nadja Alien hält wenig von ständiger Optimierung durch Technik. Wenn es um Technik geht, sei oft die Rede von schneller, besser, weiter - der Mensch erscheine im Vergleich zur Technik imperfekt. "Ich finde aber Veränderung interessanter als Verbesserung", sagt Buttendorf.

Die Künstlerin sieht Technik nicht als Mittel, um Menschen aufzurüsten, sondern um neue Perspektiven zu gewinnen. Mit spielerischen Körpererweiterungen wie etwa magnetischen Fingernägeln will Buttendorf alternative Möglichkeiten zeigen, wie Technik das Leben verändert, jenseits der Leistungslogik. Einen ausführlichen Artikel zur Arbeit von Nadja Buttendorf lesen Sie hier.

Fotostrecke

11  Bilder
Der 34C3 in Bildern: Willkommen im Hacker-Wunderland

Die Akteure nicht vergessen

Marloes de Valk findet es wichtig, an die menschlichen Akteure hinter der Technik zu denken. "Es ist paradox, einer Sache menschliche Qualitäten zuzuschreiben, und sie zugleich für objektiver als Menschen zu halten." Obwohl Computer mehr Daten verarbeiten können als ein Mensch, werde die Software noch immer gezielt von Menschen geschrieben und verwendet. Software könne menschliche Vorurteile enthalten und falsche Zusammenhänge nahelegen.

"Wir geben nicht etwa Algorithmen die Kontrolle, sondern denen, die sie besitzen und entwickeln", betont de Valk. Oft würden sich Menschen vor Technik fürchten - etwa vor Big Data oder Social Bots, die Nutzer auf sozialen Netzwerken mit Propaganda beeinflussen sollen.

Stattdessen müsste der Fokus auf den Unternehmen liegen, die diese Dinge einsetzen. Das seien zum Beispiel die Konzerne hinter sozialen Netzwerken, die mit Werbung Geld verdienen und die Propaganda-Kampagnen, etwa im US-Wahlkampf, geduldet haben.

Nutzer sollten sich beschweren und von Entwicklern Verantwortung einfordern, wenn Software etwa Menschen diskriminiert oder ausschließt, fordert de Valk. "Wenn wir über Technik schreiben, sollten wir das so tun, dass die Handlungsmacht der Menschen dahinter deutlich wird."



insgesamt 41 Beiträge
Alle Kommentare öffnen
Seite 1
ahloui 30.12.2017
1. Zustimmung!
Frau Dr Ball hat uneingeschränkt Recht. Gefährlich ist nicht die Technik selbst, sondern einerseits die Menschen, die sie entwickeln und die Menschen, die sie dann benutzen. Gefährdet sind dagegen diejenigen, die ihrer hörig sind.
Antidarwinist 30.12.2017
2.
"De Valk sieht in der Überhöhung der Technik eine Art neuen Aberglauben, der nahelegt: Je besser die Computer und je größer die untersuchten Datensätze, desto eher lassen sich menschliche Probleme lösen. In de Valks Augen ist das ein Fehler." Stichwort Klimasimulation. " werde die Software noch immer gezielt von Menschen geschrieben" Gilt für neuronale Netzwerke wie in AlphaGo Zero nicht mehr. Da schreibt sich das Programm selber.
Ringmodulation 30.12.2017
3. Wichtige Anliegen schlecht kommuniziert
Ich denke, hinter dem "falschen" Rembrandt steht keine Vorstellung von einem elektronischen Übermenschen, sondern eine an sich simple, aber beeindruckende Demonstration der Einsatzmöglichkeiten von neuronalen Netzen, wenn es darum geht herauszufinden, was für uns Menschen einen typischen Rembrandt ausmacht. Zu bewerten, ob der Computer die für uns entscheidenden strukturellen Merkmale gut ausgewählt hat, obliegt selbstverständlich immer noch uns Menschen. Daran wird sich wohl auch in absehbarer Zeit nichts ändern. Dem Einwand von Nadja Buttendorf wird der Vertreter rechnergestützter Optimierung vermutlich trocken entgegnen, dass überhaupt nichts dagegen spricht, den oder die Parameter, die für Buttendorf "Veränderung" ausmachen, als zu maximierende Zielgröße einzustellen. Dann verfolgt der Optimierungsalgorithmus eben maximale Veränderung als Ziel. Ich fürchte nur, in den meisten Fällen wird das Ergebnis Buttendorf nicht gefallen, weil die Veränderung zu umfassend ausfällt. Die wirkliche Kunst -- und ja, das ist Kunst -- besteht darin, die Grenzen sauber zu modellieren, innerhalb derer die Veränderung vonstatten gehen soll.
fahrgast07 30.12.2017
4. Endlich sagts jemand!
Das Gerede von "Künstlicher Intelligenz" erinnert an des Kaisers neue Kleider. Computer sind so inzelligent wie Glühbirnen: sie kennen nur "Strom fließt" oder "fließt nicht". Moderne Supercomputer bestehen eben aus einer phantastilliarde Glühbirnen - das ändert aber nichts am Prinzip. Computer können also ganz toll rechnen, nachahmen, interpolieren. Aber erfinden und kreieren können sie nicht. Bewusstsein haben sie sowieso nicht. Kein Wissenschaftler, kein Philosoph kann überhaupt erklären, was Ich-Bewusstsein überhaupt ist (und Kunst entsteht aus dem Bewusstsein). Wenn uns also jemand erklärt, er könne was programmieren, was niemand versteht, dann präsentiert er uns einen nackten Kaiser.
Daniel Meier 30.12.2017
5. Sie hat nichts verstanden
Diese Frau hat den grundlegenden Unterschied zwischen Algorithmen und Neuronalen Netzen nicht verstanden . Der Rest des Artikels besteht aus hohlen und weichen Phrasen, ohne sich festlegen zu müssen. Ganz im Stil derjenigen, die es schaffen sich medienwirksam zu vermarkten ohne anzuecken. Den Autor scheint das ebenfalls nicht zu stören. Traurig, und alles andere als philosophisch. Übrigens, mal ein kleines Beispiel aus der Menschen-Welt: Wer hat denn schon mal an die Eltern von Donald Trump gedacht, als sie über Donald Trump geredet haben? Wer A sagt, muss auch B sagen.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.