Eugenias Freund ist gestorben. Als Chatbot lebt er weiter

Dieser Beitrag wurde am 10.11.2016 auf bento.de veröffentlicht.

Roman Mazurenkos Tod kam früh und schnell. Bei einem Spaziergang in Moskau wurde er von einer heranrasenden Limousine aus dem Leben gerissen. Sein Körper wurde begraben. Doch für viele seiner Freunde lebt Roman weiter, zumindest ein bisschen.

Romans Weiter-Existieren ist das Werk seiner besten Freundin: Eugenia Kuyda. Zuerst sei sie im Schock gefangen gewesen, erzählte die 29-Jährige dem Online-Portal "The Verge" . Zu vieles habe sie ihrem Freund noch sagen wollen.

Dann sei langsam eine Idee in ihr gereift:

Sie wollte einen Chatbot erschaffen, dem sie all das Ungesagte mitteilen kann – und der Bot sollte als Roman antworten.

Hier ist ein Bild von Roman, das Eugenia auf Facebook hochgeladen hat:

Eugenia kommt aus Russland, lebt aber – so wie es auch Roman tat – inzwischen in den USA. Sie ist Chefin eines Start-ups, das sich mit künstlicher Intelligenz beschäftigt. Erfolgreich geworden ist das Unternehmen durch Chatbots, die Restaurantbestellungen online annehmen und Bewertungen abgeben. Dieselbe Software sollte Roman jetzt wieder zum Leben erwecken, zumindest online, zumindest in einem Chat. (Venture Beat )

Eugenia fragte Romans Freunde und Familie um Erlaubnis. Mit ihrer Einstimmung und Mitarbeit fütterte sie den Bot mit tausenden Nachrichten aus Messenger-Diensten und sozialen Medien, zu Lebzeiten handgetippt von Roman. Sprachstil, Smileys, Satzbausteine, Vorlieben, Abneigungen, Fotos – gefüllt mit der Vergangenheit sollte der Bot in der Gegenwart wie Roman reagieren.

Hier ist Eugenia auf einem Bild zu sehen, das sie auf Facebook hochgeladen hat:

Es ist sehr schwer, Bots wirklich menschlich agieren zu lassen. Es gibt den Turing-Test, den man beispielsweise aus Science-Fiction-Filmen wie "Blade Runner" und "Ex Machina" kennt: Ein Interviewer stellt zwei Gegenübern Fragen. Einer davon ist ein Mensch, einer eine Maschine. Wenn der menschliche Interviewer den Computer aufgrund seiner Antworten für einen Menschen hält, hat die künstliche Intelligenz (KI) den Test bestanden.

Würde die künstliche Intelligenz überzeugen können?

Wie schwer das ist, zeigt die Zeitspanne bis zum ersten Erfolg: Den Turing-Test gibt es seit 1950, erstmals bestand ihn eine russische Software namens "Eugene Goostman" im Jahr 2014. (SPIEGEL ONLINE)

Der Roman-Bot aber hatte höhere Hürden zu nehmen.

Er sollte ja nicht irgendwie menschlich reagieren. Er sollte Roman sein. Und testen sollten ihn jene, die Roman am nächsten standen. Würde die KI sie überzeugen können? Und wenn ja – würde das nicht Romans Andenken verletzen? Ihn reproduzierbar statt einzigartig machen? Irgendwie gruselig sein? Schmerzen?

Hier ist Roman auf einem Bild zu sehen, das auf seiner Remebering-Facebookseite gepostet wurde.

Die Angehörigen reagierten laut "The Verge" sehr unterschiedlich auf den personalisierten Chatbot: Eine Handvoll Freunde verweigerten von vornherein, das Programm zu benutzen. Zu verstörend sei die Vorstellung. Auch Romans Vater, der mit dem Bot kommunizierte, übte Kritik. Zwar verfüge das Programm über Romans Sprache, aber es sei hart, diese Antworten zu lesen. "Manchmal antwortet es falsch."

Sie konnten sprechen, wenn sie sich alleine fühlten

Eugenia

Andere waren verblüfft über die Ähnlichkeit zu Romans humorvollen, oft speziellen Nachrichten. Hunderte Menschen suchten laut Eugenia das Gespräch im Chat. Einige gaben ihr die Erlaubnis, ihre Unterhaltungen mit dem Bot anonymisiert zu lesen.

Viele seien nach dem Tod offener, ehrlicher geworden, sagt Eugenia. Und es habe immerhin einen Ort gegeben, an dem Romans Freunde ihre Herzen ausschütten konnten. "Sie konnten sprechen, wenn sie sich alleine fühlten. Und sie kommen immer noch.“ Für Eugenia ist deswegen inzwischen weniger entscheidend, dass der Roman-Bot antworten kann – sondern dass er zuhört.

Roman und Eugenia 2011 bei einer Party, das Foto hat Eugenia bei Facebook hochgeladen:

Eugenias Experiment wirft viele Fragen auf. Da ist zuerst der Wille des Verstorbenen: Wollte Roman ein Bot sein? Für die Ewigkeit eingefroren auf dem Entwicklungsstand eines 30-Jährigen? Wollte er die Inhalte Tausender intimer Gespräche, in der Zweisamkeit von Telegram-Chats geführt, veröffentlichen? Dürfen andere für ihn entscheiden?

Da ist aber auch die Frage nach dem Nutzen für die Nutzer: Hilft es den Angehörigen, mit einem künstlichen Roman zu sprechen, obwohl der echte lange tot ist? Oder kann es ganz im Gegenteil schaden?

Experten sehen Eugenias Erfindung eher kritisch.

Birgit Wagner ist Professorin für Klinische Psychologie und Psychotherapie an der Medical School Berlin und auf die Themen Trauern und Digitalität spezialisiert.

Die Hinwendung zu einer künstlichen Intelligenz sieht sie als "Vermeidungsverhalten". "Die Realisierung, dass der Verstorbene wirklich nicht mehr da ist, ist zentraler Bestandteil des Trauerns", sagt Wagner zu bento. Das künstliche Am-Leben-Halten könne den gesamten Trauerprozess verhindern.

Es ist eben doch sehr schwer, einen Menschen in all seinen Facetten glaubwürdig zu imitieren

Birgit Wagner

Erst durch diesen Prozess aber könnten Angehörige nach einer Zeit den Weg zurück in ihren Alltag schaffen. "Diese Menschen wollen nicht loslassen, sie können es vielleicht nicht. Anstatt einen Bot zu bauen, müsste man ihnen die Frage stellen: Warum ist ihnen das nicht möglich?"

Auch wenn es, wie in Romans Fall, einen jungen Menschen plötzlich treffe und noch vieles ungesagt sei, rät Wagner explizit von solchen Ersatzhandlungen ab. Gerade bei plötzlichen Todesfällen sei es ein großes Problem und eine noch größere Leistung, den Tod des geliebten Menschen zu begreifen. Eine Maschine könne menschlichen Kontakt hier nicht ersetzen.

An eine große Zukunft für Trauer-Bots glaubt die Psychologin nicht. "Dafür wird es wahrscheinlich zu viele Menschen irritieren. Es ist eben doch sehr schwer, einen Menschen in all seinen Facetten glaubwürdig zu imitieren."

Was ist Identität? Hier sind unsere Geschichten:

Die Idee des ewigen Lebens, auf Code und Draht gebaut, lockt derzeit viele Unternehmen.

Das US-Start-up Humai zum Beispiel will 2017 eine App rausbringen, die so viele Daten über ihren Nutzer sammelt, wie möglich. Sollte dieser sterben, will Humai sein Gehirn einfrieren und mithilfe der gesammelten Daten auf einen künstlichen Körper übertragen – wenn die Technik denn ausgereift genug ist. In 30 Jahren, schätzt Humai, könne es zur ersten Wieder-Auferstehung kommen.

Und auch Eugenia Kuyda arbeitet weiter an der App, die Roman wieder zu ihr brachte. "Replica" sammelt jetzt Informationen direkt von seinen Benutzern. Keine Umwege über Freunde mehr – in einem Privatchat teilen User direkt die intimsten Gedanken und wichtigsten Erfahrungen mit Replica. "Du sprichst zu der App und sie wird zu dir", sagt Eugenia.

Aber wollen Menschen das wirklich?

Für Eugenia bestätigt das ein Replica-Test mit 1000 Teilnehmern, wie sie der Nachrichtenagentur Bloomberg  erzählte. Im Schnitt schickten Nutzer 46 Nachrichten an das Programm, das lernen sollte, sie zu sein. 46 Nachrichten pro Tag.