Forum: Wissenschaft
Zuckerberg vs. Musk: Wir sind zu dumm für künstliche Intelligenz
DPA

Zwei Milliardäre werden giftig: Es geht um die Frage, ob künstliche Intelligenz die Menschheit bedroht. Der Streit zwischen Mark Zuckerberg und Elon Musk ist sehr unterhaltsam - geht aber am Thema vorbei.

Seite 16 von 16
Bernd.Brincken 02.08.2017, 09:15
150. Interaktion

Zitat von kfp
["Wie wird dann die Bedrohung bzw. der Schaden ausgeübt, wenn nicht durch Interaktion?"] Wohl eher nicht durch kleine Intrigen ... Sondern z.B. durch Lahmlegen von Infrastruktur, Abschießen von Waffen o.ä.
Der Super-KI bleibt also nichts anderes, als die Komplexität der menschen-geprägten Welt durch Terror zu beantworten.
Nicht dass im Zentrum von Raqqa dann ein Rechenzentrum gefunden wird?

Beitrag melden Antworten / Zitieren
Bernd.Brincken 02.08.2017, 09:20
151. Selbstmodifizierend

Zitat von hansgustor
Mit Selbstmodifizierendem Code habe ich die generelle Idee gemeint, nicht irgendwelche expliziten Techniken aus den 80ern. Das Problem bei den Neuronalen Netzen ist, dass man sie aufwändig trainieren muss. D.h. die Maschine ändert nicht willkürlich ihr Ziel, sondern nur so wie es der "Programmierer" vorgibt. Hier fehlt noch ein Durchbruch...
Gut gesagt; der Durchbruch wird auch 'Bewußtsein' genannt.

Beitrag melden Antworten / Zitieren
RuebenNase 02.08.2017, 15:52
152.

Zitat von querulant_99
In Bezug auf Kunstfälschung möchte ich Ihnen widersprechen. Kunstliebhaber zahlen doch nur Unsummen für ein Werk, wenn sie wissen, dass sie einen echten Rubens, Picasso, Kandinsky oder einen anderen berühmten Maler an der Wand hängen haben. Ein Bild eines Fälschers, das dieselben Bildmerkmale, wie Linienführung, Farbkomposition, Schattierung o.ä. aufweist, also insgesamt einen genauso gelungenen Eindruck hinterlässt, kostet nur deshalb weit weniger, nur weil es kein Original ist. Natürlich kann sich auch ein künstlicher Maler weiterentwickeln, wenn man ihm durch geeignete Motive inspiriert, deren Bildelemente er dann dann in die neuen Bilder einfließen lasst, so dass bislang unbekannte aber sehr gefällige Kompositionen entstehen. Auch die berühmten Künstler haben ja nicht bei Null angefangen, sondern sie hatten auch ihre Vorbilder, die sie dann nur weiterentwickelten
Die Meister sind eben deswegen die Meister, weil sie ihre Kunst -- und dazu gehören nun einmal Kreativität und Inspiration -- besonders gut beherrscht haben. Warum Kunstliebhaber hohe Preise für deren Kunst bezahlen, ist für meine Argumentation unerheblich. Und ein Fälscher, der ein Kunstwerk eines alten Meisters so gut fälschen kann, daß es sogar Experten nicht durch bloße Inaugenscheinname vom Original unterscheiden können, ist eben kein kein kreativer, inspirierter Meister, sondern nur ein stumpfsinniger Kopierer -- und genauso ist das mit der AI eben auch, bisher jedenfalls.

Beitrag melden Antworten / Zitieren
kfp 02.08.2017, 22:31
153.

Zitat von Bernd.Brincken
Der Super-KI bleibt also nichts anderes, als die Komplexität der menschen-geprägten Welt durch Terror zu beantworten. Nicht dass im Zentrum von Raqqa dann ein Rechenzentrum gefunden wird?
Es ging doch gerade darum, ob die Super-KI bedrohlich werden kann, ohne die Komplexität der menschlichen Interaktion zu durchschauen... Und das kann sie selbstverständlich...

Beitrag melden Antworten / Zitieren
kfp 02.08.2017, 22:44
154.

Zitat von brucewillisdoesit
Mathematik ist also nicht wertfrei ? ich kann mir irgendwie keinen Teil vorstellen, bei dem menschliche / humane Werte eine Rolle dafür spielen, welches Ergebnis herauskommt. Natürlich kann es bei jedem System Kriterien zur Bewertung des Ergebnisses geben, aber diese können und sollten immer wertfrei, d.h. objektiv sein. Wenn ich z.B. eine Lösung eines (noch brute force berechenbaren) Travelling Salesman Problems habe, dann läßt sich diese ganz objektiv beurteilen, vollkommen ohne irgendwelche menschlichen Werte. Wer glaubt alles durch die emotionale Brille sehen zu müssen, d.h. permanent seine ratio durch emotionale Bewertungen beeinträchtigt hat sowieso ein ernstes Problem.
Genau hier läuft es doch schief: In der Realität finden Sie kein "brute force berechenbares" Travelling Salesman-Problem, die ist nunmal beliebig komplex. Und in dem Moment kann die Mathematik und andere Wissenschaften kleinere oder größere Teilprobleme durchschauen, aber darüber hinaus liegen Dinge im Auge des Betrachters bzw. im Filtern/Priorisieren... Spiele, die nicht vollständig bis zum letzten Zug durchrechenbar sind, können auch von einer KI nur durch Heuristiken, also z.B. Wegfiltern von mutmaßlich nutzlosen Zugmustern oder erfahrungsgetriebene Bewertung von bestimmten Konstellationen angegangen werden. Und schon ist die Objektivität hin, und es kommen mehr oder wenige gute Ideen und/oder der Erfahrungsschatz des Programmierers ins Spiel, oder bei selbstlernenden Systemen eben eigene Erfahrungen, die aber durchaus stark schwanken können, je nachdem, wie repräsentativ und umfangreich die Lernbeispiele waren (bzw. mehr oder weniger gezielt vom Entwickler ausgewählt wurden)?

Beitrag melden Antworten / Zitieren
Bernd.Brincken 17.08.2017, 13:42
155. Strom

Zitat von kfp
["Wie wird dann die Bedrohung bzw. der Schaden ausgeübt, wenn nicht durch Interaktion?" ...] Es ging doch gerade darum, ob die Super-KI bedrohlich werden kann, ohne die Komplexität der menschlichen Interaktion zu durchschauen... Und das kann sie selbstverständlich...
Das spricht dann dagegen, der KI auch nur den Strom zu bezahlen; das müssten ja erst einmal Menschen tun :)
Also wie sollte eine KI überhaupt in einen solchen Macht-Status hinein wachsen können, wo sie so unberechenbar agiert und ggf. Terror ausübt?

Beitrag melden Antworten / Zitieren
querulant_99 19.08.2017, 07:44
156.

Zitat von Bernd.Brincken
Das spricht dann dagegen, der KI auch nur den Strom zu bezahlen; das müssten ja erst einmal Menschen tun :) Also wie sollte eine KI überhaupt in einen solchen Macht-Status hinein wachsen können, wo sie so unberechenbar agiert und ggf. Terror ausübt?
Selbstverständlich zahlen die Menschen den Strom, auch wenn etwa das Internet klammheimlich eine Eigendynamik in Sachen Intelligenz entwickelt. Wer sollte da den Stecker ziehen, genauer gesagt Millionen von Steckern?
Wenn man heute durch die Stadt geht, fragt man sich manchmal, wo will denn das Smartphone mit dem Mann / der Frau hin? ;-)

Beitrag melden Antworten / Zitieren
Bernd.Brincken 23.08.2017, 12:10
157. Klammheimliche Intelligenz

Zitat von querulant_99
...das Internet klammheimlich eine Eigendynamik in Sachen Intelligenz entwickelt.
Ok, langsam entfaltet sich die große Vision.
Das Internet - genauer TCP/IP - ist aber nur ein Protokoll für den Austausch von Daten-Paketen.
Intelligenz müsste sich schon auf Programme stützen, die irgendwie auf Rechnern gestartet werden. Wer macht das? Soll das über Email-Trojaner stattfinden?
Und wie entsteht die erste Version der KI-Software, von der aus dann das (selbstorganisierte) Wachstum weitergeht? Soll das durch Zufall und evolutionäre Selektion entstehen?

Beitrag melden Antworten / Zitieren
Seite 16 von 16