Technik-Aberglaube Warum es falsch ist, Computer zu vermenschlichen
Filmszene aus "I, Robot"
Foto: 20th Century FoxWenn wir über Technik sprechen, vergessen wir meist die Menschen, die sie entwickeln und benutzen: Das ist eine zentrale These von Marloes de Valk. Begriffe wie "künstliche Intelligenz" halte sie für irreführend, erzählt die Künstlerin und Autorin auf dem Chaos Communication Congress in Leipzig .
Als Beispiel nennt de Valk die Berichterstattung über ein vom Computer generiertes Gemälde im Stil des Malers Rembrandt . 18 Monate lang haben Forscher die Software auf Rembrandt-Gemälde trainiert, bis ein neues Gemälde im Stil des alten Meisters entstanden war. Gefeiert wurde das Ergebnis als kreative Leistung der künstlichen Intelligenz.
De Valk hält dagegen. Nicht Algorithmen hätten das Gemälde erzeugt, sondern Menschen, die Algorithmen als Werkzeug benutzen - ähnlich wie Maler etwa Pinsel und Farbe als Werkzeug verwenden. "Niemand im 17. Jahrhundert hätte davon geträumt zu behaupten, Pinsel und Farbe hätten ein Gemälde erschaffen", betont de Valk in einem Essay auf ihrer Website .
Gemälde im Stil von Rembrandt
Foto: The Next Rembrandt/ YoutubeMenschlich und übermenschlich zugleich
Geschichten wie die vom neuen Rembrandt-Gemälde lassen Computer als denkende, kreative, lernende und verstehende Wesen erscheinen, kurzum: als menschenähnlich, erläutert de Valk im Gespräch am Rande des Kongresses. Computer würden zudem als überlegen gelten, weil sie objektiver sind und ihre Software auf Rechnungen und Zahlen basiert.
De Valk sieht in der Überhöhung der Technik eine Art neuen Aberglauben, der nahelegt: Je besser die Computer und je größer die untersuchten Datensätze, desto eher lassen sich menschliche Probleme lösen. In de Valks Augen ist das ein Fehler.
Marloes de Valk
Foto: media.ccc.deAuch die Berliner Künstlerin Najda Buttendorf alias Nadja Alien hält wenig von ständiger Optimierung durch Technik. Wenn es um Technik geht, sei oft die Rede von schneller, besser, weiter - der Mensch erscheine im Vergleich zur Technik imperfekt. "Ich finde aber Veränderung interessanter als Verbesserung", sagt Buttendorf.
Die Künstlerin sieht Technik nicht als Mittel, um Menschen aufzurüsten, sondern um neue Perspektiven zu gewinnen. Mit spielerischen Körpererweiterungen wie etwa magnetischen Fingernägeln will Buttendorf alternative Möglichkeiten zeigen, wie Technik das Leben verändert, jenseits der Leistungslogik. Einen ausführlichen Artikel zur Arbeit von Nadja Buttendorf lesen Sie hier.
Der 34C3 in Bildern: Willkommen im Hacker-Wunderland
Die Akteure nicht vergessen
Marloes de Valk findet es wichtig, an die menschlichen Akteure hinter der Technik zu denken. "Es ist paradox, einer Sache menschliche Qualitäten zuzuschreiben, und sie zugleich für objektiver als Menschen zu halten." Obwohl Computer mehr Daten verarbeiten können als ein Mensch, werde die Software noch immer gezielt von Menschen geschrieben und verwendet. Software könne menschliche Vorurteile enthalten und falsche Zusammenhänge nahelegen.
"Wir geben nicht etwa Algorithmen die Kontrolle, sondern denen, die sie besitzen und entwickeln", betont de Valk. Oft würden sich Menschen vor Technik fürchten - etwa vor Big Data oder Social Bots, die Nutzer auf sozialen Netzwerken mit Propaganda beeinflussen sollen.
Stattdessen müsste der Fokus auf den Unternehmen liegen, die diese Dinge einsetzen. Das seien zum Beispiel die Konzerne hinter sozialen Netzwerken, die mit Werbung Geld verdienen und die Propaganda-Kampagnen, etwa im US-Wahlkampf, geduldet haben.
Nutzer sollten sich beschweren und von Entwicklern Verantwortung einfordern, wenn Software etwa Menschen diskriminiert oder ausschließt, fordert de Valk. "Wenn wir über Technik schreiben, sollten wir das so tun, dass die Handlungsmacht der Menschen dahinter deutlich wird."
