Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.

Offener Brief: Wissenschaftler fordern Leitlinien für Künstliche Intelligenz

Künstliche Intelligenz kann gleichzeitig Fluch und Segen der Menschheit sein. So sehen das zumindest einige prominente Wissenschaftler und Unternehmer - und fordern nun die dringliche Erforschung der juristischen, politischen und ethischen Implikationen.

Roboter (Symbolbild): Welche Kontrolle sollte Menschen überlassen bleiben? Zur Großansicht
Corbis

Roboter (Symbolbild): Welche Kontrolle sollte Menschen überlassen bleiben?

Zahlreiche prominente Computer-Experten haben einen offenen Brief als Plädoyer für die Erforschung "robuster und nutzbringender" Künstlichen Intelligenzen (KI) unterschrieben. In einem dem Brief beigelegten Forschungspapier erklären sie näher, was ihnen an dem Themenkomplex wichtig ist: zunächst nämlich die Beantwortung, was überhaupt eine nutzbringende, positive Künstliche Intelligenz ist - und welche Risiken mit der Entwicklung solcher neuartiger Algorithmen und Computersysteme einhergehen.

Den Unterzeichnern geht es offenbar darum, eine systematische Erforschung der juristischen, politischen und ethischen Rahmenbedingungen und Folgen von Künstlichen Intelligenzen möglichst früh aufs Tapet zu bringen.

"Heutzutage gibt es einen allgemeinen Konsens, dass die KI-Forschung stetig voranschreitet und dass ihr Einfluss auf die Gesellschaft wohl noch steigen wird", heißt es in dem Schreiben. "Die möglichen Vorteile sind riesig, da letztlich alles, was die Zivilisation anzubieten hat, ein Produkt menschlicher Intelligenz ist; wir können nicht abschätzen, was wir noch erreichen könnten, sobald diese Intelligenz durch die Werkzeuge der KI vergrößert wird." Deshalb müsse erforscht werden, "wie man von den Vorzügen profitiert und mögliche Abgründe umschifft." Vor allem heiße das: Sicherstellen, dass unsere KI-Systeme auch das tun, was wir ihnen aufgetragen haben zu tun.

Dass das keine theoretischen Bedenken und Forderungen sind, soll das beigelegte Forschungspapier zeigen - eine lange Liste von Einsatzmöglichkeiten und Gefahren von und durch Künstliche Intelligenz. Insgesamt ist das ein auch für Laien spannender Ausblick über eine mögliche Zukunft in vielen Aspekten der Gesellschaft. Von der Vorhersage und Manipulation von Märkten, der Optimierung und Kontrolle von Algorithmen und Computersystemen bis hin zu spannenden ethischen Fragen:

  • Wie soll man ethisch, juristisch, versicherungsrechtlich mit Künstlichen Intelligenzen und den Schäden, die sie möglicherweise anrichten, umgehen?

  • Wie bringt man Maschinen eine Ethik bei, etwa bei der Abwägung zwischen "Personenschaden versus Materialschaden"? Sollen solche ethische Dilemmata in nationalen Standards festgelegt werden, wer hat Mitspracherecht bei der Ausgestaltung solcher Standards?

  • Autonome Waffen: Können tödliche autonome Waffen mit humanitärem Völkerrecht in Einklang gebracht werden - und wann ist überhaupt eine Waffe autonom? Falls sie legal würden, wie sollten sie in bestehende militärische Strukturen eingegliedert werden und welche Kontrolle sollte Menschen überlassen werden? Was sind die politischen und diplomatischen Folgen solcher Waffen - verhindern sie Kriege oder verursachen sie womöglich neue? Und wie soll man all diese Fragen transparent und öffentlich diskutieren?

  • Verletzt eine Künstliche Intelligenz den Datenschutz, wenn sie den Menschen beobachtet? Wie behalten die Menschen die Kontrolle über ihre Privatsphäre angesichts der "Synergie von KI und Big Data" - sprich: Roboteraugen, die alles sehen und kontrollieren können?

Initiator des offenen Briefes ist das Future of Life Institut (FLI), eine unabhängige Forschungs- und Lobbyorganisation aus Boston. Das FLI hat sich selbst zum Ziel gesetzt, die Menschheit bedrohende Risiken zu verringern, besonders die durch Künstliche Intelligenzen. Gegründet wurde es von amerikanischen Forschern und Forscherinnen und Skype-Mitgründer Jaan Tallinn. Zu ihrem wissenschaftlichen Beirat gehören der Unternehmer Elon Musk, der Wissenschaftler Stephen Hawking und der Schauspieler Morgan Freeman.

kno

Diesen Artikel...
Forum - Diskutieren Sie über diesen Artikel
insgesamt 31 Beiträge
Alle Kommentare öffnen
    Seite 1    
1. Es gibt keine
wanderer777 12.01.2015
Ich bin selbst Berufsprogrammierer und kann euch versichern: es gibt sie nicht. Der Begriff "Intelligenz" ist hier gänzlich fehl am Platz . Bisher gelingt es uns nur, Maschinen dazu zu bringen, uns zu imitieren - so das WIR sie für intelligent halten. Und das auch nur in engen Teilbereichen. Mehr nicht. Leider. Oder gottseidank,
2.
danido 12.01.2015
Zitat von wanderer777Ich bin selbst Berufsprogrammierer und kann euch versichern: es gibt sie nicht. Der Begriff "Intelligenz" ist hier gänzlich fehl am Platz . Bisher gelingt es uns nur, Maschinen dazu zu bringen, uns zu imitieren - so das WIR sie für intelligent halten. Und das auch nur in engen Teilbereichen. Mehr nicht. Leider. Oder gottseidank,
Da haben Sie vollkommen Recht. Schon allein deshalb weil das menschliche Gehirn, mit seiner assoziativen und fehlertoleranten Funktionsweise, vollkommen anders konstruiert ist als jeder Computer. Aber: Hier geht es ja nicht um künstliche Intelligenz sondern um das ranschaffen von Fördergeldern. Was soll die deutsche IT-Branche auch anderes machen, wenn sie nicht mal mehr in der Lage ist Telefone herzustellen die wettbewerbsfähig sind. Da ist es leichter den Steuerzahler bluten zu lassen. So ein spannendes Science-Fiction Thema hat da bestimmt gute Chancen. Dem Deutschen Michel kann man ja mit allem Angst machen ;)
3. Vertrauen
Datenscheich 12.01.2015
Sobald es ECHTE künstliche Intelligenz gibt - und das bedeutet, Silizium mit Selbstbewußtsein - werde ich endlich wieder rugig schlafen können. Denn egal wie sehr ich meine Vorstellungskraft strapaziere, ich kann einfach nicht glauben, daß eine KI ein dermaßen krankes, verbrecherisches und unmenschliches Verhalten an den Tag legen wird, wie wir Menschen es tun... allen primanerhaften Matrix-Dystopien zum Trotz.
4. KI ist sehr weit entfernt oder unmoeglich
gweihir 12.01.2015
Ich bin promovierter Informatiker und verfolge die KI-Forschung seit 25 Jahren. Die haben nichts was natuerlicher Intelligenz auch nur aehnlich waehre. Die haben keine glaubwuerdige Theorie, wie man Intelligenz implementiren koennte. Und das nach so ca. 40 Jahren intensiver Forschung. Da ist absolut nichts. Daher gibt es keinen Grund hier irgendwelche Massnahmen zu ergereifen. Von der ersten Demonstration im Labor, bis zur Anwendbarkeit in der Praxis vergehen bei grundlegenden Durchbruechen regelmaessig 30-50 Jahre oder mehr, und das wird auch hier so sein. Falls es den Durchbruch denn geben wird, denn das ist keineswegs klar. Es gibt da noch so ein paar fundamentale Probleme. Zum Beispiel ist voellig unbekannt, was Intelligenz ueberhaupt ist, wir koennen lediglich beschreiben, was sie tun kann. Oder, dass Intelligenz in der Natur nur zusammen mit Bewusstsein und freiem Willen beobachtbar ist. Es kann durchaus sein, das eine Trennung hier ueberhaupt nicht moeglich ist, da es sich um Aspekte der selben Sache handelt. Jedenfalls ist zu genuege klar, dass eine Erhoehung der Transistoranzahl sicher nicht Intelligenz erzeugen wird, auch wenn das immer gerne behauptet wird. "Schwachsinn" ist die einzig wissenschaftlich korrekte Beurteilung dieser Aussage. Meist findet man dahinter dann jemanden, der Geld oder Beachtung will.
5. Schach
Blauer Storch 12.01.2015
@wanderer777 Es gab mal eine Zeit, da hielt man das Schachspiel für das komplexeste, das Menschen anstellen können, und man dachte, dass Maschinen NIEMALS so etwas kompliziertes zustande bringen könnten. Heute wissen wir, dass ausgerechnet Schach eine der leichtesten Fingerübungen für einen Computer ist. Auch gab es mal Zeiten, da sich kaum jemand in seinen kühnsten Träumen hätte vorstellen können, dass Menschen mal in Flugzeugen zum Spaß herumfliegen. All diese Leute sind heute mit ihren Vorhersagen zu Witzfiguren geworden. Und das wird Euch Vorzeigeinformatikern auch passieren. Am Ende wird sich herausstellen, dass an unserer tollen Intelligenz nichts wirklich kompliziertes dran ist.
Alle Kommentare öffnen
    Seite 1    

© SPIEGEL ONLINE 2015
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH



Zum Autor
  • Felix Knoke schreibt von Berlin aus über elektronische Lebensaspekte und versucht sich vergeblich als Hitproduzent in seinem Wohnzimmerstudio.

Netzwelt auf Twitter

Über diesen Account erreichen Sie das Ressort und verpassen keinen Artikel.



Anzeige
  • Christian Stöcker:
    Spielmacher

    Gespräche mit Pionieren der Gamesbranche.

    Mit Dan Houser ("Grand Theft Auto"), Ken Levine ("Bioshock"), Sid Meier ("Civilization"), Hideo Kojima ("Metal Gear Solid") u.v.a.

    SPIEGEL E-Book; 2,69 Euro.

  • Bei Amazon kaufen.
Der kompakte Nachrichtenüberblick am Morgen: aktuell und meinungsstark. Jeden Morgen (werktags) um 6 Uhr. Bestellen Sie direkt hier: