"Tatort"-Faktencheck Ist künstliche Intelligenz wirklich so schlau?

Der aktuelle Stuttgarter "Tatort" spielt in der nahen Zukunft: Eine Software manipuliert Daten und entwickelt ein Eigenleben losgelöst vom Entwickler. Geht das?
Szene aus dem Tatort "HAL": Das Gesichtserkennungsprogramm von Bluesky

Szene aus dem Tatort "HAL": Das Gesichtserkennungsprogramm von Bluesky

Foto: SWR

David Bogmann (Ken Duken) dreht durch. Im Serverraum seiner Firma schießt der Entwickler mit einem Gewehr um sich. Er glaubt, die mächtige Software Bluesky, die er erschaffen hat, habe sich verselbstständigt: Sie überwacht Bogmann auf Schritt und Tritt, sie manipuliert Daten und schiebt dem Entwickler sogar einen Mord unter.

Die Polizei, die Mitarbeiter der eigenen Firma - alle halten ihn für einen Irren. Um eine zweite Person zu schützen, die sich offenbar in dem Serverraum befindet, erschießt die Polizei Bogmann - und muss feststellen, dass es keine weitere Mitarbeiterin im Raum gibt. Bluesky hatte tatsächlich die Live-Video-Übertragung manipuliert.

Ist es heute schon möglich, Live-Videos zu manipulieren?

Nicht auf die vom "Tatort" nahegelegte Art und Weise. Hier zeigte eine Wärmebildkamera eine Person und identifizierte diese auch gleich mit Namen, Geschlecht und Alter. Dazu sind herkömmliche Wärmebildkameras nicht in der Lage. Es ist lediglich möglich, in Echtzeit zu identifizieren, dass sich jemand vor der Linse befindet, nicht aber wer. Dazu brauchte man weitere Daten.

Militärdrohnen beispielsweise arbeiten auch mit Thermografiegeräten, um im Kampf gegen Terrorismus menschliche Ziele zu erfassen. Geschossen wird allerdings erst, wenn weitere Daten daraufhin deuten, dass es sich bei dem Ziel um einen Terroristen handeln könnte. Zum Beispiel, weil die geortete Person das Mobiltelefon einer Zielperson benutzt. Genau deshalb stehen diese Einsätze aber auch immer wieder in der Kritik: Das Ziel lässt sich allein mit dem Wärmebild nicht eindeutig identifizieren.

Was aber heute schon funktioniert: Man kann in einem Video in Echtzeit Mimik von einem Gesicht auf ein anderes transferieren. Das ermöglicht eine Software, die Forscher der Universität Stanford entwickelt haben. Lächelt beispielsweise die manipulierende Person, wird dieses Lächeln auch auf die Person im Video übertragen. Auch lassen sich Objekte aus Live-Videos entfernen: Diminished Reality  nennen die Forscher der TU Ilmenau dieses Verfahren. Bei beiden Anwendungen verschwimmt die Realität. Marktreife haben die Forschungsprojekte aber noch nicht.

Kann man auch ein abgeschaltetes Smartphone abhören?

Im Film verstecken der Entwickler und die Firmenchefin von Bluesky ihre ausgeschalteten Telefone in Metalldosen, wenn sie geheime Gespräche führen wollen. Es wird behauptet, die Smartphones wären sonst - selbst ausgeschaltet - abzuhören.

Da ist tatsächlich etwas dran. Hacker haben einen Android-Trojaner  entwickelt, der dem Besitzer vorspielt, das Telefon wäre ausgeschaltet. Tatsächlich läuft das Telefon im Hintergrund weiter, nur der Bildschirm ist nicht mehr aktiv: Die Umgebung kann über das Mikrofon abgehört werden. Wer auf Nummer sicher gehen und nicht überwacht werden will, sollte das Telefon am besten gar nicht in der Nähe haben. Akku entfernen und Abschirmen sind die einzige Möglichkeit, sich zu schützen.

Kann eine Software wirklich ein Eigenleben entwickeln?

Im aktuellen "Tatort" manipuliert die Software Bluesky eigenhändig Daten: Sie fälscht Videosequenzen, sperrt ihren Entwickler aus der Firma aus. Ganz ohne Anweisung. Bluesky ist ein intelligentes System, das dazulernt und eigene Schlüsse für sein Handeln ableitet - und dabei schlauer ist als die Menschen.

Tatsächlich sind heute Computerprogramme bereits in der Lage, sich selbst Dinge beizubringen und sogar ihren eigenen Code zu verändern. Eine wichtige Rolle spielen dabei künstliche neuronale Netze: Mit ihnen versuchen Forscher, das menschliche Gehirn digital nachzubauen.

Diese Netzwerke sind heute schon im Einsatz, beispielsweise bei der Gesichtserkennung oder auch bei Spielen. Eine lernfähige Google-Software schlug bereits zum zweiten Mal den weltbesten Spieler des anspruchsvollen asiatischen Brettspiels Go.

Dass eine Software wie Bluesky aber einen eigenen Willen entwickelt und infolge dessen außer Kontrolle gerät, ist nach derzeitigem Stand nicht möglich. Der renommierte theoretische Physiker Stephen Hawking warnte allerdings in einem Interview mit dem "Independent"  vor den Folgen der Entwicklung der Künstlichen Intelligenz. "Kein physikalisches Gesetz würde Partikel daran hindern, sich so zu organisieren, dass diese fortschrittlichere Berechnungen leisten könnten als menschliche Gehirne." Der "Tatort" könnte dahingehend Realität werden.

Fotostrecke

Fotostrecke: Alle "Tatort"-Teams im Überblick

Foto: Christian Koch / SWR