Forum: Netzwelt
Offener Brief: Wissenschaftler fordern Leitlinien für Künstliche Intelligenz
Corbis

Künstliche Intelligenz kann gleichzeitig Fluch und Segen der Menschheit sein. So sehen das zumindest einige prominente Wissenschaftler und Unternehmer - und fordern nun die dringliche Erforschung der juristischen, politischen und ethischen Implikationen.

Seite 2 von 4
querulant_99 13.01.2015, 16:05
10.

Zitat von hmoik
Ja wenn ich das hier lese, zeugt sich mal wieder, warum die IT Branche in D nix gebacken kriegt (und untersteht Euch mir mit SAP zu kommen! Nennt mir 3 weitere weltweit führende deutsche IT Unternehmen! ). Ich lebe im Silicon Valley und habe ein paar Leute aus der Google Gruppe für das autonome Auto kennengelernt. Alle technischen Details sind gelöst. Aber eine sehr grundlegende ethische Frage bleibt: der Bordcomputer stellt fest, dass ein Unfall unvermeidlich ist - links eine 80jährige Oma, rechts ein 4jähriges Kind. Was soll der Computer entscheiden?
Ein Jurist würde antworten: Es kommt darauf an...

mit Ethik kann ein Computer überhaupt nichts anfangen. Das Problem wird viel profaner gelöst, etwa so (vereinfacht dargestellt):

KI besteht aus einem Computerprogramm, welches die Funktionen von Gehirnzellen simuliert. Viele solche künstlichen Gehirnzellen werden miteinander vernetzt und bilden dann ein Mini-Gehirn.

Dieses "Gehirn" ist zunächst ist zunächst reichlich dumm, wenn der Programmierer mit seiner Arbeit fertig ist. Es muss dann erst beginnen zu lernen, wie man Auto fährt.
Dazu sitzt der Computer als Beifahrer neben seinem Fahrlehrer und registriert ganz genau wie dieser in bestimmten Situationen reagiert. Nachdem dem Computer eine Unmenge an Situationen vorgeführt wurden, darf er erstmals selber fahren. Dabei wird er einen ganz ähnlichen Fahrstil hinlegen wie sein Fahrlerer.
Wenn ein baugleicher Computer von einen anderen Fahrlehrer trainiert wurde, wird er in manchen Situationen anders reagieren als sein "Kollege".

Zurück zu der Oma und dem Kind:
Ach wenn diese konkrete Konfliktsituation nie eingeübt wurde, kann der KI-Computer nicht einfach sagen (wie ein herkömmlich programmierter Computer) "ich weiß nicht, was ich jetzt tun soll" und sich dann einfach verabschieden, sondern er muss sich für eine der beiden Möglichkeit entscheiden.

Das läuft dann so ab: Während des Trainings wurden automatisch Bewertungsfaktoren ermittelt und intern hinterlegt. Diese werden in diesem konkreten Fall dann stur abgearbeitet und am Ende gibts auf jeden Fall ein Ergebnis: nach links auswichen oder nach rechts ausweichen. Wer im Weg steht, hat eben Pech gehabt...

Beitrag melden Antworten / Zitieren
flexier 13.01.2015, 16:36
11. An all die ITler hier (bin auch einer)...

KI BI

Zum einen ist Künstliche Intelligenz nicht unbedingt mit Biologischer Intelligenz gleichzusetzen.

Zum Anderen ist Bewusstsein abhängig von der Komplexität des Intelligenz-Rechners (Gehirn). Nicht nur der Mensch hat Bewusstsein, viele (alle) höher entwickelten Tiere haben ebenfalls Bewusstsein.

Man kann daraus schliessen das der Grad des Bewusstseins von der Komplexität des Rechners abhängig ist. Man könnte auch sagen, ab einem gewissen Grad der Komplexität ist Bewusstsein unausweichlich.

Und damit kommen wir zu dem was ich eigentlich sagen will:

Im letzten Jahrzehnt wurden extreme Fortschritte im Verständnis der Funktionsweise unseres Gehirns, sowie im technologischen Bereich gemacht, sowohl was Rechenleistung, als auch was die Komplexität und Leistungsfähigkeit der Software anbelangt...

http://www.ted.com/talks/jeremy_howard_the_wonderful_and_terrifying_implica tions_of_computers_that_can_learn

(das ist nur ein Beispiel)

Wer glaubt das KI nicht kommt, wird sehr bald eines besseren belehrt werden. Ich gebe der Sache max. 30 Jahre. Mit ein wenig Glück werde ich das noch erleben.

Beitrag melden Antworten / Zitieren
flexier 13.01.2015, 16:44
12. Also Ihr Verständnis von KI ...

Zitat von querulant_99
Das läuft dann so ab: Während des Trainings wurden automatisch Bewertungsfaktoren ermittelt und intern hinterlegt. Diese werden in diesem konkreten Fall dann stur abgearbeitet und am Ende gibts auf jeden Fall ein Ergebnis: nach links auswichen oder nach rechts ausweichen. Wer im Weg steht, hat eben Pech gehabt...
...und deren Programmierung sind ungefähr 30 Jahre alt. So habe ich bei einer KI Firma namens Brainware GmbH in den 80ern programmiert. Seitdem ist ungefähr genauso viel passiert in der KI wie im Bereich TV und Telefonie.

Beitrag melden Antworten / Zitieren
danido 13.01.2015, 17:46
13.

Zitat von flexier
KI BI Zum einen ist Künstliche Intelligenz nicht unbedingt mit Biologischer Intelligenz gleichzusetzen. Zum Anderen ist Bewusstsein abhängig von der Komplexität des Intelligenz-Rechners (Gehirn). Nicht nur der Mensch hat Bewusstsein, viele (alle) höher entwickelten Tiere haben ebenfalls Bewusstsein. Man kann daraus schliessen das der Grad des Bewusstseins von der Komplexität des Rechners abhängig ist. Man könnte auch sagen, ab einem gewissen Grad der Komplexität ist Bewusstsein unausweichlich. Und damit kommen wir zu dem was ich eigentlich sagen will: Im letzten Jahrzehnt wurden extreme Fortschritte im Verständnis der Funktionsweise unseres Gehirns, sowie im technologischen Bereich gemacht, sowohl was Rechenleistung, als auch was die Komplexität und Leistungsfähigkeit der Software anbelangt... http://www.ted.com/talks/jeremy_howard_the_wonderful_and_terrifying_implica tions_of_computers_that_can_learn (das ist nur ein Beispiel) Wer glaubt das KI nicht kommt, wird sehr bald eines besseren belehrt werden. Ich gebe der Sache max. 30 Jahre. Mit ein wenig Glück werde ich das noch erleben.
Ein Computer schafft es noch nicht mal eine Zahl zu nennen die er rein zufällig wählt, geht nämlich nicht weil er sie immer von irgendwas ableitet das er bereits kennt (z.B. von der internen Systemzeit) und selbst diese Methode muss man ihm erst beibringen damit er sie, auf Befehl des Menschen, anwendet. Eine binäre, elektrische Schaltung kennt nur 0 und 1 bzw. ja und nein, und wie viele Nullen und Einsen irgendein Chip pro Sekunde berechnen kann ändert an der grundsätzlichen Funktionsweise nix.
Wer nur die binären Befehle ja und nein kennt kann nicht kreativ sein, kann nix neues schaffen sondern nur ja und nein ausführen wie und wann es ihm befohlen wird.

Beitrag melden Antworten / Zitieren
danido 13.01.2015, 18:57
14.

Zitat von hmoik
Ja wenn ich das hier lese, zeugt sich mal wieder, warum die IT Branche in D nix gebacken kriegt (und untersteht Euch mir mit SAP zu kommen! Nennt mir 3 weitere weltweit führende deutsche IT Unternehmen! ). Ich lebe im Silicon Valley und habe ein paar Leute aus der Google Gruppe für das autonome Auto kennengelernt. Alle technischen Details sind gelöst. Aber eine sehr grundlegende ethische Frage bleibt: der Bordcomputer stellt fest, dass ein Unfall unvermeidlich ist - links eine 80jährige Oma, rechts ein 4jähriges Kind. Was soll der Computer entscheiden? Es wird also höchste Zeit, sich über KI und Ethik Gedanken zu machen. Im Valley passiert das schon. Aber in D hält man das für überflüssig. Haben wir Deutschen ja schließlich nicht erfunden, kann also sowieso nix Gescheites sein! Oh man oh man... gutes Nächtle!
Dann grüßen Sie mal schön von mir die Google-Leute, waren nämlich bestimmt die Selben die mir mal erzählt haben, dass spätestens in 2 Jahren alle mit einer Google-Glass Brille rumlaufen. Ich brauch nur aus dem Fenster gucken dann seh ich, dass die Prognose falsch war.

Ach ja, übrigens: Selbstfahrende Autos gibts in Europa schon seit ein paar Jahren, nämlich in Frachthäfen (z.B. Hamburg), wo die Dinger fahrerlos rumfahren und Standardcontainer hin und her schleppen. Da gehören diese Dinger (Automated Guided Vehicles (AGV)) nämlich auch hin. Also, wenn´s Probleme gibt in Silicon-Valley dann einfach in Europa anrufen ;)

Beitrag melden Antworten / Zitieren
brucewillisdoesit 13.01.2015, 18:59
15.

Zitat von danido
Eine binäre, elektrische Schaltung kennt nur 0 und 1 bzw. ja und nein, und wie viele Nullen und Einsen irgendein Chip pro Sekunde berechnen kann ändert an der grundsätzlichen Funktionsweise nix. Wer nur die binären Befehle ja und nein kennt kann nicht kreativ sein, kann nix neues schaffen sondern nur ja und nein ausführen wie und wann es ihm befohlen wird.
Mit Verlaub, aber Ihr Gehirn kennt nur Zustände, bei denen das präsynaptische Neuron genügend Transmitterpartikel in den synaptischen Spalt ergießt, um im postsynaptischen Neuron eine elektrische Erregung auszulösen (nennen wir ihn phantasievoll 1), und solche Zustände, bei denen dieses nicht der Fall ist, und die Eregungsschwelle des postsnaptischen Neurons nicht ereicht bzw überschritten wird (nennen wir ihn 0).
Das Gehirn hat nun zwar einige weitere interessante Eigenschaften, z.B. Neuroplastizität, positive und negative Stimulierung der Erregbar des Neurons durch interaktion mit der Umgebung über die Dendriten etc, ändert aber nichts daran, das sie entweder den Zustan 0 oder 1 an jeder Synapse haben. Inwiefern Sie nun meinen, dieser Zustand ließe sich durch die Zustände 0 und 1 und Software in einem Rechner grundsätzlich nicht modellieren ist für mich nicht nachvollziehbar.
Was fehlt denn ? Etwa eine gottgegebene Seele ? Gibt es zwar im biogenen Organismus auch nicht, sie könnten aber einen einmalig erzeugten, charakteristischen Unique Identifier mittels einer Funktion auf Basis von Zeit, Ort einer Randomfunktion und weiteren externen Inputs generieren und unveränderlich speichern.

Beitrag melden Antworten / Zitieren
der_joerg 13.01.2015, 19:56
16. Ist doch gar nicht möglich!

Zitat von hmoik
Ja wenn ich das hier lese, zeugt sich mal wieder, warum die IT Branche in D nix gebacken kriegt (und untersteht Euch mir mit SAP zu kommen! Nennt mir 3 weitere weltweit führende deutsche IT Unternehmen! ). Ich lebe im Silicon Valley und habe ein paar Leute aus der Google Gruppe für das autonome Auto kennengelernt. Alle technischen Details sind gelöst. Aber eine sehr grundlegende ethische Frage bleibt: der Bordcomputer stellt fest, dass ein Unfall unvermeidlich ist - links eine 80jährige Oma, rechts ein 4jähriges Kind. Was soll der Computer entscheiden? Es wird also höchste Zeit, sich über KI und Ethik Gedanken zu machen. Im Valley passiert das schon. Aber in D hält man das für überflüssig. Haben wir Deutschen ja schließlich nicht erfunden, kann also sowieso nix Gescheites sein! Oh man oh man... gutes Nächtle!
Sollte das Googleauto nicht so sicher sein, dass niemand gefährdet wird? Ich würde jetzt nicht damit werben, dass "nur" die Oma abgeschossen wird.
Ethik gibt es schon, muss nur der KI beigebracht werden.
Ich empfehle da Asimov.

Beitrag melden Antworten / Zitieren
der_joerg 13.01.2015, 19:59
17. Zufall?

Zitat von brucewillisdoesit
...sie könnten aber einen einmalig erzeugten, charakteristischen Unique Identifier mittels einer Funktion auf Basis von Zeit, Ort einer Randomfunktion und weiteren externen Inputs generieren und unveränderlich speichern.
Das ist bei Ihnen eine zufällige Zahl?

Beitrag melden Antworten / Zitieren
der_joerg 13.01.2015, 20:08
18. Um was es wirklich geht...

Um was es wirklich geht...
Wenn sich erstmal "namhafte" Wissenschaftler mit dem Thema KI und Ethik beschäftigen, ist für den gemeinen Nutzer z.B. des Googleautos klar, dass nicht er oder ein schlechter Programmierer das Auto gegen den Baum gesetzt hat sondern eine KI. Da zweifelt dann auch kein Richter oder Geschworener mehr an der Entscheidung der KI. Für die KI wars alternativlos - wie gottgegeben. Produkthaftung ade. Google ist fein raus.
Und jeder Idiot wird jeder Kaffeemaschine und jeder Mikrowelle eine KI verpassen und aus der Haftung stehlen wollen.
Nein liebe Freunde, wenn Ihr der Oma weniger Punkte gebt als dem Kind, dann steht auch dazu und versteckt Euch nicht hinter der KI!

Beitrag melden Antworten / Zitieren
flexier 13.01.2015, 20:27
19. Bin mir nicht sicher ob ich Sie korrekt verstehe.

Zitat von danido
Ein Computer schafft es noch nicht mal eine Zahl zu nennen die er rein zufällig wählt, geht nämlich nicht weil er sie immer von irgendwas ableitet das er bereits kennt (z.B. von der internen Systemzeit) und selbst diese Methode muss man ihm erst beibringen damit er sie, auf Befehl des Menschen, anwendet. Eine binäre, elektrische Schaltung kennt nur 0 und 1 bzw. ja und nein, und wie viele Nullen und Einsen irgendein Chip pro Sekunde berechnen kann ändert an der grundsätzlichen Funktionsweise nix. Wer nur die binären Befehle ja und nein kennt kann nicht kreativ sein, kann nix neues schaffen sondern nur ja und nein ausführen wie und wann es ihm befohlen wird.
Ich versuch trotzdem mal zu antworten...

"Ein Computer schafft es noch nicht mal eine Zahl zu nennen die er rein zufällig wählt, geht nämlich nicht weil er sie immer von irgendwas ableitet das er bereits kennt (z.B. von der internen Systemzeit) und selbst diese Methode muss man ihm erst beibringen damit er sie, auf Befehl des Menschen, anwendet."

Der Mensch kann das auch nicht ohne Referenzsystem (Uhr) und Bildung (wie diese zu benutzen ist). Das beste was man dem höher entwickelten Lebensformen zugestehen kann ist ein Zeitgefühl (allerdings basiert das auch auf ein Referenzsystem, u.a. durch Tag und Nachtzeiten)

"Eine binäre, elektrische Schaltung kennt nur 0 und 1 bzw. ja und nein, und wie viele Nullen und Einsen irgendein Chip pro Sekunde berechnen kann ändert an der grundsätzlichen Funktionsweise nix."

Mir ergibt sich keine Logik aus dieser Aussage. Falls Sie sich aber darauf beziehen das alle im normalen Gebrauch befindlichen Computer binär funktionieren, während das menschliche Gehirn vermutlich eine Art Quanten-Computer ist, auch daran wird recht erfolgreich gearbeitet. Und Quanten-Computer kennen nicht nur 0 und 1, sondern auch alle Zustände (Wertmöglichkeiten oder Probabilities) dazwischen. Sie können mit einem Quanten-Computer im Prinzip unendlich viele Berechnungen (wirklich) parallel ausführen. Zwar sind wir da noch nicht ganz angekommen, aber wenn wir uns die letzten 50 Jahre Entwicklung anschauen bin ich da recht zuversichtlich.

"Wer nur die binären Befehle ja und nein kennt kann nicht kreativ sein, kann nix neues schaffen sondern nur ja und nein ausführen wie und wann es ihm befohlen wird."

Das stimmt so nicht. Ich verweise auf meinen vorherigen Beitrag (TED Link).

Beitrag melden Antworten / Zitieren
Seite 2 von 4