Forum: Netzwelt
Spekulative Zukunftsszenarien: Wenn der Putz-Roboter die Finanzministerin sprengt
Getty Images

Mit fiktiven Anwendungsfällen warnen internationale Experten vor dem Missbrauch von künstlicher Intelligenz. Sie machen auch Vorschläge, wie so etwas verhindert werden könnte.

Gerdd 21.02.2018, 14:55
1. Ach ja, richtig ...

Nach dem heutigen Stand der Dinge residiert die Intelligenz ja nicht in den sichtbaren Robotern oder dergleichen. Das sind ja nur die "Extremitäten" der womöglich zentralen oder auch vernetzten Intelligenz. Auch die Siris und Alexas etc. sind ja nicht die intelligenten Komponenten - die sitzen bei Google oder Apple oder so im Cloud-Datenzentrum, wären also von solchen Gewaktakten kein bisschen tangiert.

Beitrag melden Antworten / Zitieren
shardan 21.02.2018, 14:56
2. Es wird notwendig....

Es wird notwendig werden, den KI's etwas mitzugeben, dass in der Literatur als "Asimov'sche Robotergesetze" bekannt ist. Ob das nun in der Form geschieht, wie Isaac Asimov es angedacht hat (Siehe Film "Der zweihundert-Jahre-Mann" oder der Romanvorlage "Ich, der Robot"), oder ob es anders gemacht wird, sei dahingestellt. Allerdings wird selbst das keine Sicherheit vor solchen Attacken geben - Kriminelle Hacker und Geheimdienste werden Mittel und Wege finden, das zu umgehen. Was diese Wissenschaftler sagen, mag scih für Laien wie überkandidelte Spinnerei anhören. Als IT'ler sehe ich diese Risiken allerdings ähnlich, sie sind keineswegs von der Hand zu weisen.

Beitrag melden Antworten / Zitieren
schwerpunkt 21.02.2018, 17:16
3.

Zitat von shardan
Es wird notwendig werden, den KI's etwas mitzugeben, dass in der Literatur als "Asimov'sche Robotergesetze" bekannt ist. Ob das nun in der Form geschieht, wie Isaac Asimov es angedacht hat (Siehe Film "Der zweihundert-Jahre-Mann" oder der Romanvorlage "Ich, der Robot"), oder ob es anders gemacht wird, sei dahingestellt. Allerdings wird selbst das keine Sicherheit vor solchen Attacken geben - Kriminelle Hacker und Geheimdienste werden Mittel und Wege finden, das zu umgehen. Was diese Wissenschaftler sagen, mag scih für Laien wie überkandidelte Spinnerei anhören. Als IT'ler sehe ich diese Risiken allerdings ähnlich, sie sind keineswegs von der Hand zu weisen.
Den Asimov'schen Gesetzen steht dann allerdings der "german code" (siehe "Qualityland" von Marc-Uwe Kling) gegenüber, der die KIs dazu verpflichtet jeden menschlichen Befehl unmittelbar und ohne Widerspruch (auch ohne ihn überhaupt auch nur eine Nanosekunde lang anuzweifeln) umzusetzen.
Dies beinhaltet auch und gerade die Selbstzerstörung.

Dieser "German Code" ist von der KI selbst nicht veränder- oder löschbar.

Beitrag melden Antworten / Zitieren
marcus-manta 21.02.2018, 19:37
4. Aufgewacht und Mitgedacht

Werte Mitglieder des Bundestags, hier kommt richtig was auf uns zu. Wann fangen Sie endlich an, sich ernsthaft damit zu beschäftigen? Über Kontrolle nachzudenken, oder z.B. die Einführung einer Robotersteuer? Bitte, denken Sie einmal über die nächste Wahl hinaus. Zumindest einen Arbeitskreis bilden?

Beitrag melden Antworten / Zitieren
_thilo_ 21.02.2018, 22:06
5. @3: eben nicht ... (oder war das Ironie ?)

Die (naiven) 3 "Robotergesetze" von Asimov setzen voraus, dass die Robots ein Verständnis der Situation haben um ihre ethisch richtige Entscheidung zu treffen. Wird absehbar nicht funktionieren ...
Blinder Gehorsam gegenüber Menschen ist aber in keiner Weise angemessen: Sagt ein Mensch dem Auto des Nachbarn: "Fahr gegen den nächsten Baum." Das Auto sollte sich mit Recht weigern dem Befehl Folge zu leisten (vor allem, wenn der Nachbar drin sitzt ...).
Das wird in Zukunft richtig spannend: Roboter-Recht, Roboter-Ethik, Roboter-Versicherungen, Roboter-Psychologie ! Dürfen Pflege-Roboter lügen um einem dementen Menschen zu helfen ? Dürfen Roboter lügen, um einem gesunden(!) aber uneinsichtigen Menschen zu helfen ?
Letzteres, i.e. "Lügen", geschieht schon systematisch bei den automatischen Anzeigen für die Anzahl der freien Plätze in einem Parkhaus. Der Computer zeigt "0" an, auch, wenn noch einige Plätze frei sind, um Parksuchverkehr und Stau im Parkhaus zu vermeiden...

Beitrag melden Antworten / Zitieren
theos001 21.02.2018, 23:01
6.

Mir ist kein Objekt, Verfahren oder anderes bekannt das in den Händen eines Menschen potenziell NICHT dual-use ist. Alles was wir in die Griffel bekommen wird nahezu zwangsläufig für böse Aktivitäten benutzt.

Beitrag melden Antworten / Zitieren
quark2@mailinator.com 22.02.2018, 02:16
7.

Das In-die-luft-sprengen ist ja nun wirklich eher trivial und genau so eine plumpe Lösung wird in der Zukunft eben nicht mehr möglich sein.

Mein Szenario sieht eher so aus, daß die KI auf Basis von Bewegungs- und Beziehungsprotokollen z.B. herausarbeitet, welche 10 Personen innerhalb einer neu entstehenden Partei um z.B. 30% beeinträchtigt werden müssen, damit diese Partei keinen Fuß auf den Boden bekommt, weil dadurch andere Personen ans Ruder kommen, die zueinander und zu den Wählern nicht kompatibel sind. Also kann man dann z.B. der Freundin eines der Betroffenen ein tolles Jobangebot in 500km Entfernung machen, oder ähnliche unauffällig Dinge. Nichts explodiert, nichts ist nachweisbar.

Oder nehmen wir die Ökonomie. Ich bin sicher, Google weiß auch heute schon Wochen vor dem Management, daß eine Firma dabei ist, ihre wichtigen Mitarbeiter zu verlieren. Das die Motivation sinkt oder steigt. Auch in Bezug auf Städte oder ganze Länder. Google könnte also anfangen, Aktienhandel auf Basis dieser Erkenntnisse zu betreiben. Aber sinistere Akteure könnten aben auch anfangen ganz bewußt die Wirtschaft anderer Länder zu manipulieren und auf längere Sicht negative Entwicklungen befördern. Und wenn eine neue Partei entsteht, die das ändern will ... siehe oben.

Der Punkt ist, daß nichts davon groß sichtbar sein wird. Man fragt sich in 50 Jahren nur "Was ist nur aus DE geworden und warum konnte es soweit kommen" ...

Und das ist noch ohne das die KI anfängt, sich selbst Ziele zu setzen. Dann wird es erst richtig finster. Warum es dazu kommen sollte ? Na weil erst bei Eigenmotivation die Post so richtig abgeht. Dann hat man Selbstoptimierung von innen heraus. Ich weiß, viele halten das alles für unmöglich. Ich nicht. Und ich verwende dieses Zeugs beruflich zur Videoauswertung.

Beitrag melden Antworten / Zitieren
frenchie3 22.02.2018, 13:09
8. Alles beherrschbar

wenn sich der Hersteller an Regeln hält. Transponder mit Mehrfachprüfung, Updates nur an firmeneigenen Anschlüssen, mechanische Selbstzerstörung beim Andrehen der falschen Schraube und die asimovschen Robotergesetze unlösbar ins Betriebssystem integrieren. Geringer Aufwand und praktikabel. Für das Restprozent an Gefahr findet das Forum hier noch genug herbeigeholte Begründungen

Beitrag melden Antworten / Zitieren
xineohp 22.02.2018, 13:22
9. Nur offline ist sicher!

Alles was über online angesteuert und administriert werden kann ist missbrauchbar - das gilt für alle technischen Spielereien. Wann hören die Experten, die es besser wissen, endlich auf von Sicherheit zu schwafeln und die Leute wissentlich zu belügen. Es bedarf einer klaren physischen Trennung von Online- und Offline-Systemen. Und Online-Systeme müssen von ihrer Hardware so konstruiert sein, dass sie gar keinen Schaden anrichten können.

Beitrag melden Antworten / Zitieren