Die zerstörerischste Form von Plagiat

Was die KI- Paranoia bewirken kann

Kultur & Kontroverse ist ein Newsletter, der sich mit den Konflikten beschäftigt, die unsere Gegenwart entzweien. Man kann ihn am besten unterstützen, indem man ihn hier abonniert, teilt und and Freunde und Kolleg:innen weiterempfiehlt.

KI-Kopien führen zu KI-Verdacht gegen Original

Die letzte Ausgabe von “Kultur & Kontroverse” hat für eine gewisse Irritation gesorgt. Das lag vor allem daran, dass ich den Begriff “Paranoia” verwendet habe, der eine Rezeptionstendenz beschreibt, die ich seit einiger Zeit beobachte: Der KI-Verdacht sickert immer mehr in den Alltag unseres Lesens, Sehens, Hörens ein und trifft natürlich auch Artefakte, die ohne KI erstellt wurden. Im März gab es bereits einen Artikel im “New York Magazine”, der den Titel trug “The People Falsely Accused of Using AI”. Was ich allerdings nicht gemeint habe, war, dass dieser Verdacht deshalb unbegründet sein sollte, also “paranoid” in dem Sinne, dass er irrational oder lächerlich ist - im Gegenteil. Ich würde sogar behaupten, die Paranoia ist (wie die KI-Angst) in der Verbreitungsstrategie großer KI-Firmen eingepreist: It’s not a bug, it’s a feature. Ich möchte das an einem Beispiel illustrieren (danke für den Hinweis Berit Glanz)

In einem viralen Post auf Instagram berichtete der Künstler Matty Burnham, der vor allem liebeswürdige Illustrationen von Dörfern zeichnet, ihm würde in letzter Zeit immer wieder der Vorwurf gemacht, er arbeite mit KI. Zahlreiche Kommentare hätten sich in den letzten Monaten auf seinem Instagram-Account angesammelt, und das, obwohl er auch regelmäßig Videos postet, die seinen kreativen Prozess dokumentieren. Das liege daran, dass Scammer KI-Versionen von jedem Bild erstellten, das er zeichne, und damit in den Sozialen Medien unzählige Follower sammelten, die Bilder auch auf einschlägigen Plattformen verkauften. Es gäbe Hunderte davon, sein gesamtes Portfolio sei kopiert worden.

Paranoia führt bei mir im Übrigen auch dazu, dass mein zweiter oder dritter Gedanke zu diesem Post war, dass er vielleicht inszeniert sein könnte, um die Solidarität abzugreifen, auf die Künstler:innen sich gerade verlassen können, wenn ihr Werk von KI bedroht ist. Auch das habe ich schon gesehen: Dass jemand möglichst laut Alarm schlägt, um die Aufmerksamkeit und das Mitleid zu bekommen, das mit einer möglichst empörenden Geschichte über die Schrecken von KI verbunden ist. Das scheint hier aber nicht der Fall zu sein. Burnham wurde tatsächlich beklaut.

Das Problem ist in diesem Fall sogar noch schlimmer. Viele Menschen können nicht mehr zwischen Original und Nachahmung unterscheiden. Burnham schreibt: “Facebook is now so saturated with these AI images, that many people cannot differentiate them from the original art they are derived from. And Google can’t tell the difference either…“ Und damit wird diese Form von Plagiat zu einer gravierenden Bedrohung für den Künstler, die über den reinen Diebstahl weit hinausgeht. Denn nicht nur wird sein Stil gestohlen, seine Arbeit enteignet – es wird auch ein grundsätzlicher Zweifel an der ästhetischen Wahrnehmung genährt, der es irgendwann unmöglich macht, zwischen dem handgemachten Bild und der KI-Aneignung zu unterscheiden. Und so erreicht der Verdacht, der durch die hundertfache Kopie geschürt wurde, dann am Ende den Künstler selbst – als aggressive Kommentare unter seinen eigenen Bildern.

Der Fall erinnert an die tausendfache Enteignung der Studio-Ghibli-Ästhetik durch ChatGPT-Nutzer:innen aus dem letzten Jahr. In einem Essay über Werkherrschaft und KI hatte ich damals geschrieben, dass diese Vergemeinschaftung einer Ästhetik den Wert dieser Ästhetik, der ja durch eine gewisse Verknappung erzeugt wird, unmittelbar bedroht. Denn eine Ästhetik kann durch Überproduktion ausgeleiert werden. Zudem droht den Künstler:innen ein katastrophaler Kontrollverlust, wenn ihr Stil – wie im Fall der Ghiblifizierung – etwa auf einmal schnell und ohne großen Aufwand von Rechtsradikalen genutzt werden kann. Der Fall der kopierten Illustrationen zeigt allerdings noch eine weitere Möglichkeit der Enteignung. Da der Künstler weit weniger berühmt ist als etwa Hayao Miyazaki, und die Bilder sich recht ähnlich sehen (es handelt sich um Dekorationskunst), lässt sich nicht unmittelbar erkennen, was von ihm stammt und was nicht. Ich jedenfalls muss zugeben, ich hätte es in diesem Beispiel und in den anderen, die Burnham zeigt, nicht erkannt.

KI-Paranoia bedeutet, dass unser an sich schon fragiles ästhetisches Urteilsvermögen langsam vollständig erodiert wird. So werden grundsätzliche Zweifel an der Authentizität jedes Kunstwerks geschürt, das nach der Verbreitung generativer KI veröffentlicht wurde. Das birgt die Gefahr, dass zunächst alles, was auch nur ansatzweise den KI-Verdacht erweckt, diesem Verdacht auch verfällt. Ein grundsätzliches Misstrauen droht den Alltag der Rezeption zu vergiften. Das wiederum könnte irgendwann zu Zynismus und Indifferenz führen, zu einer hilflosen Form der Ununterscheidbarkeit, die den KI-Firmen in die Hände spielt. Wie man darauf konkret reagieren könnte, weiß ich selbst nicht. Ich finde es allerdings wichtig, den Diskurs weiterhin genau zu beobachten und das heißt auch, die Paranoia (oder vielleicht besser das Misstrauen, den Vertrauensverlust?) zu analysieren, die zur Verbreitungsstrategie der Technik gehört.

Die guten Dinge

In einer neuen Folge von Decoder Ring geht es um einen Tanz, den es nur in Australien gibt, und Critics at Large beschäftigen sich mit unserem kulturellen Verhältnis zu Tieren.

Ein neues Videoessay von Patrick (H) Willems stellt sich die Frage, woher die unglaublich teuren Nicht-Filme mit Starbesetzung kommen, die man seit Jahren überall auf Streamingdiensten findet. Dafür hat er sich die unglaubliche Mühe gemacht, all diese Filme zu schauen.

Das neue Stand-up-Programm von Patton Oswalt findet man vollständig auf Youtube, genau das richtige für einen trüben Abend.

Und neue Musik.

In eigener Sache

Ich war zu Gast im Podcast “Haken Dran” von Gavin Karlmeier, und es hat großen Spaß gemacht. Man kann die Folge hier oder überall, wo es Podcasts gibt, hören.

Für das “Handbuch Literaturvermittlung” habe ich den Artikel zu “Literaturkritik (Internet)” geschrieben, der hier bereits online veröffentlicht wurde. Wer Interesse, aber keinen Zugang hat, kann mir gerne schreiben, dann schicke ich ein PDF.

In dieser schönen Sendung im SWR habe ich neben anderen spannenden Gästen darüber gesprochen, wie Geschmack entsteht und warum er konfliktbeladen sein kann.