Forum: Wissenschaft
Künstliche Intelligenz: Saurier auf Surfbrettern
plos.org; Twitter @picdescbot

Die Einstellung zu Tech-Konzernen und ihren mächtigen Werkzeugen hat sich gewandelt. Eine zentrale Frage ist: Wie soll Software die Welt verbessern, wenn sie sich an der unfairen Gegenwart orientiert?

Seite 1 von 3
auweia 18.03.2018, 16:12
1. Tja....

warum sollte ich als weißer, heterosexueller Programmierer / Auftraggeber von KI-Verfahren, der von seiner bisherigen Arbeit, gut leben kann, etwas an den Produkten ändern wollen?
Wer zahlt mir die Ethik?

Beitrag melden Antworten / Zitieren
mwroer 18.03.2018, 16:31
2.

Ich denke das viel Unverständnis für die Fehler aus der falschen Bezeichnung dieser Systeme in der Presse kommt. Es sind bestenfalls 'semi-autonom lernende Systeme' und sie haben nichts mit 'Künstlicher Intelligenz' zu tun.

Wenn ich mir angucke welchen Produkten das Label 'smart' aufgedrückt wird, dann wird mir schlecht. Offenbar reicht ein Sensor und 2 'if-then-else' Anweisungen schon um 'smart' zu sein.

So wird, beim Verbraucher, eine Erwartenshaltung geschaffen die diese Geräte in keinster Weise erfüllen können. Andererseits versuchen die Hersteller die Erfüllung dieser Erwartenshaltung mittels Software vorzutäuschen - und produzieren dabei jede Menge Mist.

Wenn Grundlagenforschung zugunsten des schnellen Umsatzes und für Marketingzwecke geopfert wird, sind letztlich sowohl Entwickler als auch Konsumenten enttäuscht und die wirklichen Entwicklungen werden zugunsten von Gadgets für das breite Publikum vernachlässigt.

Vor allem der letzte Satz ist brandgefährlich:

"Mit anderen Worten: Es sieht ganz danach aus, als könne man die Welt nicht mit lernender Software besser machen, wenn man nicht gleichzeitig die Welt besser macht, in und von der diese Software lernt."

Das klingt bedenkenswert nach 'Und wenn unsere Produkte nicht mit der Realität arbeiten können, dann ändern wir eben die Realität. Am Beispiel von Farbigen und Gorillas ist dann die beste Lösung alle Gorillas zu erschießen - denn ein Ethikkurs für Programmierer wird nichts daran ändern dass unscharfe und schlecht ausgeleuchtete Bilder, von einem abgespeckten 0815 Algorithmus, falsch zugeordnet werden.

Die besser Lösung wäre den Algorithmus gründlich zu analysieren und eben nur in der vollen Form laufen zu lassen, nicht in der ressourcenschonenden, bzw. von vorneherein Quellen abzulehnen. Wenn man bestimmte Bilder von Oliver Kahn durch diese Art 'Unterhaltungs-Software' laufen lässt dann kommt oft genug auch 'Neanderthaler' raus.

Findet Euch damit ab: Was Ihr von diesen Gadgets erwartet ist im Moment nicht machbar.

Beitrag melden Antworten / Zitieren
thorbenmeyer 18.03.2018, 16:42
3. Logische Begründung

Dass Frauen in den Spitzenpositionen von Konzernen unterrepräsentiert sind, wird sich so lange nicht ändern, wie sie trotz im Mittel besserer Abschlüsse weitaus seltener Technologiefächer studieren als Männer. De facto sollen Algorithmen die Welt nicht so darstellen, wie sie ist, sondern wie einige Interessengruppen sie gerne hätten oder wie es im Text steht "Die Frage sei, so Daphne Koller, "wie wir Datensätze schaffen, die die Gesellschaft widerspiegeln, wie wir [wer mit "wir" gemeint ist, wird nicht näher ausgeführt] sie gerne hätten, nicht die, die wir haben"."

Beitrag melden Antworten / Zitieren
curiosus_ 18.03.2018, 17:03
4. Tja, das Problem...

Die Frage sei, so Daphne Koller, "wie wir Datensätze schaffen, die die Gesellschaft widerspiegeln, wie wir sie gerne hätten, nicht die, die wir haben"

...dabei dürfte des Öfteren sein, dass "die Gesellschaft die wir haben" eine ist die sich als evolutionär überlebensfähig erwiesen hat. Und eine "Gesellschaft wie wir sie gerne hätten" zwei große Knackpunkte aufweist:

1. Ist sie Theorie und wie jede solche hat sie den Realitätstest noch vor sich. Inklusive dem Flop-Risiko. Und, der noch größere Knackpunkt:

2. Wer legt fest was "wir gerne hätten"? Das sieht nach einem stark undemokratischen Prozess aus, ausgeführt von "Eliten".

Was ist demokratischer als den aktuellen Status quo, zumindest was Meinungen betrifft, abzubilden? Insofern ist das völlig richtig:

"Es sieht ganz danach aus, als könne man die Welt nicht mit lernender Software besser machen, wenn man nicht gleichzeitig die Welt besser macht, in und von der diese Software lernt."

Alles andere ist undemokratische Diktatur.

Beitrag melden Antworten / Zitieren
quark2@mailinator.com 18.03.2018, 17:23
5.

Mir ist etwas unklar, warum sich Artikel und Diskussion um eine solche Kleinigkeit drehen wie die Bilderauswahl zum Thema CEO. In Wirklichkeit befinden sich aus meiner Sicht die technologischen Fortschritte gerade dabei, die grundsätzlichen Mechanismen menschlichen Zusammenlebens aus den Angeln zu heben. Was ich damit meine ist, daß Google zuletzt eine künstliche Intelligenz geschaffen hat, die in der Lage war, das Schachspiel innerhalb extrem kurzer Zeit selbständig soweit zu lernen, daß sie alles besiegt hat, was es bisher gab - Mensch und Maschine. Natürlich kann man das dann auch mit den Finanzmärkten, Militärstrategie und internationalem Handel bzw. der Diplomatie machen. Interessant ist, daß diese künstliche Intelligenz nicht mehr menschlich gespielt hat (ähnlich wie auch beim kürzlichen Sieg gegen die besten Go-Spieler). Spontan fällt mir auf, daß Trump sich ganz anders verhält, als bisherige Präsidenten. Der Punkt ist, daß allein auf diesem recht kleinen Feld der künstlichen Intelligenz in Kombination mit dem Datenreichtum des Internets eine Komplexität entsteht, die sich menschlichem Durchdringen verweigert. Sie nicht anzuwenden, führt zum Untergang, als hätte man ein Reiterheer gegen eine Panzerarmee. Wir reden hier nicht über linguistische Feinheiten der Geschlechtergerechtigkeit, sondern um Dinge wie Rechtsstaatlichkeit, strategisches Gleichgewicht, etc. Die Vernunft würde es erfordern, diese Technologien so argwönisch zu kontrollieren wie Kernwaffen, aber die Ökonomie und Machtpolitik schreit nach ihrem Einsatz. Und wir haben das nicht nur bei der künstlichen Intelligenz, sondern auch auf anderen Gebieten (Gentechnik, psychologische Techniken, etc.). Aus meiner persönlichen Sicht ist unser politisches System aus dem 17. Jhd. nicht stark genug, um diese Technologien ausreichend zu kontrollieren. Das ist ähnlich wie bei der Kernkraft, welche im Vergleich trivial erscheint, aber dennoch nicht zu 100% beherrscht wird. Wir brauchen bessere Kontrolle, aber ich sehe nicht, woher diese kommen sollte.

Beitrag melden Antworten / Zitieren
Phi-Kappa 18.03.2018, 17:39
6. Techniker

Zitat vom Anfang des Artikels: "Es ist klar, dass Technologen sich sehr schnell in ethische Fragen werden einarbeiten müssen, wenn sie weiterhin die breite öffentliche Unterstützung bekommen möchten, die sie gegenwärtig genießen."

Bitte liebe Spiegel-Leute, jeder Mensch weiß, was ein Techniker ist, währenddessen der "Technologe" doch irgendwie unpassend klingt. Muss man unbedingt Amerikanismen unbesehen ins Deutsche übernehmen, obwohl es bereits etablierte Wörter gibt? - Danke für die Aufmerksamkeit!

Beitrag melden Antworten / Zitieren
mwroer 18.03.2018, 18:24
7.

Zitat von Phi-Kappa
Zitat vom Anfang des Artikels: "Es ist klar, dass Technologen sich sehr schnell in ethische Fragen werden einarbeiten müssen, wenn sie weiterhin die breite öffentliche Unterstützung bekommen möchten, die sie gegenwärtig genießen." Bitte liebe Spiegel-Leute, jeder Mensch weiß, was ein Techniker ist, währenddessen der "Technologe" doch irgendwie unpassend klingt. Muss man unbedingt Amerikanismen unbesehen ins Deutsche übernehmen, obwohl es bereits etablierte Wörter gibt? - Danke für die Aufmerksamkeit!
Technologen sind keine Techniker dachte ich? Vorweg - ich bin Niederländer, daher ist Deutsch nicht meine Muttersprache und ich bin auch nicht besonders gut in den Detailfragen.

Aber als Technologe' habe ich immer so eine Art Prozessingenieur im Kopf der bestimmte Techniken entwickelt. Der Techniker baut das Zeug dann, wartet es und sorgt dafür dass es - trotz Planungsfehlern beim Technologen - nicht explodiert.

Wenn ich damit total falsch liege - einfach ignorieren. Danke!

Beitrag melden Antworten / Zitieren
irgendeinleser 18.03.2018, 20:10
8.

Zitat von mwroer
Technologen sind keine Techniker dachte ich? Vorweg - ich bin Niederländer, daher ist Deutsch nicht meine Muttersprache und ich bin auch nicht besonders gut in den Detailfragen.
Keine Sorge, sie haben Recht! Bei Technologie statt Technik kommt die Betonung der Wissenschaftlichkeit hinzu. Entsprechend nennen Hochschulen ihre Abschlüsse meist Technologie (wie Lebensmitteltechnologe) um sich von den Lehrberufen abzusetzen.

@Phi-Kappa: Nebenbei ist das kein moderner Amerikanismus, sondern eher ein "Graecismus", der mindestens seit Mitte des 18 Jhd. in Deutschen verwendet wurde.

Beitrag melden Antworten / Zitieren
hauseru 19.03.2018, 00:44
9. Wer drämgt auf den Markt?

Das Problem sind nicht die technischen Innovatoren. Nicht dass diese keine Verantwortung hätten, aber was unsere Welt kaputt macht, ist die unendliche Gier der Ökonomen und Politiker, die unfähig und nicht Willens sind, Markt- und Geldflussmodelle zu entwickeln und umzusetzen, die nachhaltig sind im besten Sinne des Wortes, die nämlich ermöglichen, dass die Erde nicht bald die Krankheit Mensch ausrotten wird.

Beitrag melden Antworten / Zitieren
Seite 1 von 3