Foto:

SPIEGEL

Patrick Beuth

Texte generieren mit GPT-3 Die eloquenteste KI der Welt

Patrick Beuth
Ein Netzwelt-Newsletter von Patrick Beuth
Ein Netzwelt-Newsletter von Patrick Beuth

Liebe Leserin, lieber Leser,

ich schwör's: Diesen Artikel habe ich ganz allein geschrieben. Ich wollte das nur direkt klarstellen, denn in nächster Zeit werden Sie im Internet möglicherweise häufiger Texte lesen, die aus der digitalen Feder eines Textgenerators stammen, der auf dem Machine-Learning-Modell GPT-3 basiert. Was wiederum übersetzt heißt: Eine sogenannte künstliche Intelligenz (KI) kann jetzt Texte ausspucken, die Sie und ich für das Werk eines Menschen halten würden.

GPT-3 ist eine Entwicklung des von Elon Musk und Microsoft finanzierten und für seine Intransparenz kritisierten  Unternehmens Open AI und außerdem Nachfolger von GPT-2, das schon meinen Kollegen Matthias Kremp beeindrucken konnte.

Noch spricht er selbst über KI, statt KI für ihn sprechen zu lassen: Elon Musk

Noch spricht er selbst über KI, statt KI für ihn sprechen zu lassen: Elon Musk

Foto:

ALY SONG/ REUTERS

Ende Mai hatten die Open-AI-Forscher ihr Paper zu GPT-3  veröffentlicht. Es beschreibt, vereinfacht gesagt, ein auf 175 Milliarden Parameter aufgemotztes Sprachverarbeitungsmodell, dem man einzelne Wörter, Sätze oder ganze Absätze vorgeben kann, die es dann selbst um weiteren Text ergänzt, den es im jeweiligen Kontext für wahrscheinlich hält.

Trainiert wurde es mit Millionen von Texten aus dem Internet, die bis Oktober 2019 veröffentlicht wurden. Von Sars-CoV-2 hat GPT-3 dementsprechend noch nie etwas gehört und auch sonst ist es für journalistische Texte eher nicht geeignet. Aber vielleicht für Drehbuchautorinnen und -autoren, wie es in diesem Blogpost heißt , weil GPT-3 "ein großartiger Weg" sei, "um mögliche Verläufe einer Szene zu erkunden".

Mittlerweile haben einige Menschen Zugang zur Open-AI-Schnittstelle bekommen und konnten das Modell ausprobieren. Am vergangenen Wochenende war meine Twitter-Timeline voll mit ihren Experimenten, viele davon mit erstaunlichen Ergebnissen:

  • Diesen Artikel  über GPT-3-generierte Beiträge für ein Bitcoin-Forum sollten Sie unbedingt bis zum Ende lesen.

  • GPT-3 produziert Rollenspiele nach Art von "Dungeons & Dragons" .

  • Die Software verfasst Tweets  wie "Meine neue KI kann erkennen, ob du ein Serienmörder bist, indem sie auf dein LinkedIn-Profil schaut". Oder auch  "Innovation im Rock'n'Roll bedeutete oft, dass man eine Popmelodie nahm und sie laut nachspielte". So etwas geht auf Twitter durchaus als gelungenes Bonmot durch.

  • Da ist außerdem das (bis auf den ersten Satz) vollständig computergenerierte Märchen  von der Katze mit den Flügeln und dem Kater namens Fuchs.

  • GPT-3 kann aber auch für ganz andere Dinge genutzt werden, etwa einen Code-Generator , dem man nur mitteilt, was für einen Programmiercode man braucht, und schon spuckt er ihn aus.

Das Katzenmärchen ist zugegebenermaßen reichlich seltsam, aber haben Sie schon mal einen Roman von Jeff VanderMeer  gelesen? So groß ist der Unterschied nicht. Die veröffentlichten englischen Texte von GPT-3 aber sind, ganz ernsthaft, durchaus überzeugend.

Und doch fehlt es nicht an Hinweisen, dass es sich letztlich nur um einen sehr großen Haufen Statistik handelt , mitunter um einen Antisemitismus-Generator  und ganz allgemein um eine imposante technische Sackgasse . Was die Autoren des GPT-3-Papers auch selbst einräumen: Es sei denkbar, dass man bereits an die Grenzen dieser speziellen Technik stoße, heißt es im Abschnitt "Limitations". Der Pfad zur sogenannten starken künstlichen Intelligenz, die selbstständig "denkt", führt woanders entlang.

Falls Sie sich fragen, wie wir KI-generierte Texte künftig erkennen könnten: mit KI natürlich. Grover  und GLTR  heißen zwei entsprechende Ansätze.

Seltsame Digitalwelt: versackt

Foto: Patrick Beuth/ DER SPIEGEL

Die Corona-Pandemie erfordert drastische Maßnahmen. Ich habe mir also ein Schlagzeug gekauft. Nicht, dass ich Schlagzeug spielen könnte. Aber so zu tun, ist ungeheuer befriedigend. Und ein E-Drum-Set, wie es jetzt in meiner Wohnung steht, schont auch die Nerven der Nachbarn. Allerdings bin ich auf der Suche nach einem passenden Set so richtig bei YouTube versackt. "Ganz einfache" erste Grooves, eine Asiatin, die in High Heels bekannte Metalsongs durchprügelt , Tausende Anleitungen, wie man Sticks richtig hält und Drum-Cover-Versionen zu ungefähr jedem jemals veröffentlichten Song - es nahm kein Ende. In der Summe habe ich bisher deutlich mehr Zeit mit Schlagzeugvideos verbracht als mit meinem Schlagzeug.

Fremdlinks: drei Tipps aus anderen Medien

  • "Warum es sich jetzt lohnt, Linux auszuprobieren"  (drei Leseminuten)
    Einer der ältesten Nerd-Witze überhaupt lautet "[jeweils aktuelle Jahreszahl] ist das Jahr des Linux-Desktops!". In der "Süddeutschen Zeitung" steht, warum es 2020 werden könnte. Dieses Mal aber wirklich, ganz bestimmt!

  • "Boom Time for Death Planning"  (Englisch, acht Leseminuten)
    Die "New York Times" wirft einen Blick auf die wegen der Corona-Pandemie boomenden Todesfall-Start-ups. Man lernt etwas über Deathfluencer, Grabstein-Generatoren und den richtigen Tonfall für Kunden, die in jungen Jahren über das Lebensende nachdenken.

  • "Atlas of Surveillance"  (Englisch, beliebige Lesezeit)
    Diese US-Karte der Electronic Frontier Foundation zeigt, wo Strafverfolger zum Beispiel Drohnen, automatische Kennzeichenleser, Gesichtserkennung und andere Überwachungstechnologien einsetzen.

Kommen Sie gut durch die Woche.

Ihr Patrick Beuth