Technik-Aberglaube Warum es falsch ist, Computer zu vermenschlichen

Filmszene aus "I, Robot"
Foto: 20th Century Fox
Gemälde im Stil von Rembrandt
Foto: The Next Rembrandt/ Youtube
Marloes de Valk
Foto: media.ccc.de
Filmszene aus "I, Robot"
Foto: 20th Century FoxWenn wir über Technik sprechen, vergessen wir meist die Menschen, die sie entwickeln und benutzen: Das ist eine zentrale These von Marloes de Valk. Begriffe wie "künstliche Intelligenz" halte sie für irreführend, erzählt die Künstlerin und Autorin auf dem Chaos Communication Congress in Leipzig.
Als Beispiel nennt de Valk die Berichterstattung über ein vom Computer generiertes Gemälde im Stil des Malers Rembrandt. 18 Monate lang haben Forscher die Software auf Rembrandt-Gemälde trainiert, bis ein neues Gemälde im Stil des alten Meisters entstanden war. Gefeiert wurde das Ergebnis als kreative Leistung der künstlichen Intelligenz.
De Valk hält dagegen. Nicht Algorithmen hätten das Gemälde erzeugt, sondern Menschen, die Algorithmen als Werkzeug benutzen - ähnlich wie Maler etwa Pinsel und Farbe als Werkzeug verwenden. "Niemand im 17. Jahrhundert hätte davon geträumt zu behaupten, Pinsel und Farbe hätten ein Gemälde erschaffen", betont de Valk in einem Essay auf ihrer Website.
Gemälde im Stil von Rembrandt
Foto: The Next Rembrandt/ YoutubeMenschlich und übermenschlich zugleich
Geschichten wie die vom neuen Rembrandt-Gemälde lassen Computer als denkende, kreative, lernende und verstehende Wesen erscheinen, kurzum: als menschenähnlich, erläutert de Valk im Gespräch am Rande des Kongresses. Computer würden zudem als überlegen gelten, weil sie objektiver sind und ihre Software auf Rechnungen und Zahlen basiert.
De Valk sieht in der Überhöhung der Technik eine Art neuen Aberglauben, der nahelegt: Je besser die Computer und je größer die untersuchten Datensätze, desto eher lassen sich menschliche Probleme lösen. In de Valks Augen ist das ein Fehler.
Marloes de Valk
Foto: media.ccc.deAuch die Berliner Künstlerin Najda Buttendorf alias Nadja Alien hält wenig von ständiger Optimierung durch Technik. Wenn es um Technik geht, sei oft die Rede von schneller, besser, weiter - der Mensch erscheine im Vergleich zur Technik imperfekt. "Ich finde aber Veränderung interessanter als Verbesserung", sagt Buttendorf.
Die Künstlerin sieht Technik nicht als Mittel, um Menschen aufzurüsten, sondern um neue Perspektiven zu gewinnen. Mit spielerischen Körpererweiterungen wie etwa magnetischen Fingernägeln will Buttendorf alternative Möglichkeiten zeigen, wie Technik das Leben verändert, jenseits der Leistungslogik. Einen ausführlichen Artikel zur Arbeit von Nadja Buttendorf lesen Sie hier.
Die Akteure nicht vergessen
Marloes de Valk findet es wichtig, an die menschlichen Akteure hinter der Technik zu denken. "Es ist paradox, einer Sache menschliche Qualitäten zuzuschreiben, und sie zugleich für objektiver als Menschen zu halten." Obwohl Computer mehr Daten verarbeiten können als ein Mensch, werde die Software noch immer gezielt von Menschen geschrieben und verwendet. Software könne menschliche Vorurteile enthalten und falsche Zusammenhänge nahelegen.
"Wir geben nicht etwa Algorithmen die Kontrolle, sondern denen, die sie besitzen und entwickeln", betont de Valk. Oft würden sich Menschen vor Technik fürchten - etwa vor Big Data oder Social Bots, die Nutzer auf sozialen Netzwerken mit Propaganda beeinflussen sollen.
Stattdessen müsste der Fokus auf den Unternehmen liegen, die diese Dinge einsetzen. Das seien zum Beispiel die Konzerne hinter sozialen Netzwerken, die mit Werbung Geld verdienen und die Propaganda-Kampagnen, etwa im US-Wahlkampf, geduldet haben.
Nutzer sollten sich beschweren und von Entwicklern Verantwortung einfordern, wenn Software etwa Menschen diskriminiert oder ausschließt, fordert de Valk. "Wenn wir über Technik schreiben, sollten wir das so tun, dass die Handlungsmacht der Menschen dahinter deutlich wird."
SPIEGEL+-Zugang wird gerade auf einem anderen Gerät genutzt
SPIEGEL+ kann nur auf einem Gerät zur selben Zeit genutzt werden.
Klicken Sie auf den Button, spielen wir den Hinweis auf dem anderen Gerät aus und Sie können SPIEGEL+ weiter nutzen.
Wo der Hasenmann am 3D-Drucker steht: In Leipzig läuft noch bis zum Samstag der Hackerkongress 34C3. Rund 15.000 Teilnehmer aus aller Welt sind dabei, darunter auch viele Blogger und Aktivisten. Das Leipziger Messegelände ist während des Kongresses voll mit moderner und alter Technik.
Der 34C3 heißt so, weil er das 34. Jahrestreffen des Chaos Computer Clubs (CCC) ist. Ein bekanntes Ausstellungsstück des sogenannten Chaos Communication Congress' ist diese Rakete. Medienkünstler Tim Pritlove, der den Kongress am Mittwoch eröffnete, sagte, sie symbolisiere einen Aufbruch, stehe aber auch für die Verbundenheit des CCC mit Technik und Zukunft.
Auf dem 34C3 gibt es zahlreiche Vorträge anzuhören, in denen zum Beispiel Erkenntnisse zu Sicherheitsproblemen vorgestellt werden. Für viele Besucher ist der Kongress aber auch Treffpunkt zum gemeinsamen Hacken - und Feiern. Als "temporäre autonome Zone", bezeichnete Tim Pritlove die Kongresstage.
Die Veranstaltung steht aber auch in der Kritik: Aktivisten werfen den Veranstaltern vor, nicht genug für die Sicherheit von Frauen und Minderheiten auf dem Kongress zu tun und fordern die Durchsetzung strengerer Regeln.
Zuletzt hatte das CCC-Jahrestreffen mehrfach in Hamburg stattgefunden, davor lange in Berlin. Wie auf den vorherigen Kongressen gibt es nun auch in Leipzig jede Menge Installationen und interaktive Ausstellungsstücke, darunter diese begehbare Tastatur.
Dem Thema Überwachung - und oft auch Sicherheitsbehörden und Geheimdiensten allgemein - stehen die meisten Teilnehmer des 34C3 skeptisch gegenüber. Traditionell setzen sich daher viele Vorträge sehr kritisch mit staatlicher Spionage auseinander.
Willkommen am "Modularkarussell": Technik gibt es auf dem 34C3 allerorts anzuschauen und anzufassen. Will man jemanden, der gerade ein Gerät bedient, fotografieren, sollte man aber immer um dessen Erlaubnis fragen. Anders als auf manch anderen Tech-Events ist es auf dem Hackerkongress verpönt, einfach so Foto- oder Videoaufnahmen zu machen. Privatsphäre wird auf dem 34C3 groß geschrieben.
Wurde es in den vergangenen Jahren im Hamburger Kongresszentrum CCH mitunter doch recht eng, präsentiert sich das Leipziger Messegelände weitläufig: Das hilft es, wenn man als Besucher auch mal einige Meter rollend zurücklegen kann.
Die Hacker des CCC sind nicht nur für ihre Computer-Kenntnisse bekannt: Auf ihren Kongressen stößt man als Besucher immer wieder auch auf allerlei andere Hacks, auf Bastelideen, die den Alltag leichter oder zumindest lustiger oder spannender machen.
Die CCC-Jahreskonferenz ist eine international beachtete Veranstaltung: Obwohl viele Besucher Deutsche sind, ist das Vortragsprogramm in weiten Teilen auf Englisch. Die meisten Vorträge lassen sich übrigens auch per Livestream von zu Hause aus anschauen, später stehen sie dann auch als Aufzeichnung im Netz.
Zwischen moderner Technik steht auf dem 34C3 immer wieder auch scheinbar aus der Zeit gefallene. So begegnen einem auf dem Kongress zum Beispiel alte Computer oder alte Spielkonsolen. Zum Teil gibt es rund um solche Geräte bis heute Bastel-Communitys, die sie mit immer neuen Ideen am Leben halten.
Typisch für das CCC-Publikum sind Laptop-Rückseiten voller Aufkleber: Das hier zu sehende Display ist sogar noch recht zurückhaltend beklebt. Was einem unter Hackern auch immer wieder auffällt: Viele der IT-Experten haben als Vorsichtsmaßnahme ihre Webcams abgeklebt. "Der Kongress ist Utopie", sagte Tim Pritlove bei seiner Eröffnungsrede. "Es ist wichtig, dass wir auch weiterhin unserer Zeit 30 Jahre voraus sind."
Melden Sie sich an und diskutieren Sie mit
Anmelden