Kennzeichnungspflicht für KI-generierte Inhalte

Aktuelle Rechtslage

Zunächst ein paar Worte zum aktuell geltenden Recht. Momentan gibt es keine konkrete Pflicht, KI-generierte Werke zu kennzeichnen. Allerdings können sich indirekte Pflichten aus anderen Rechtsgebieten oder AGBs ergeben.

Wie an anderer Stelle bereits erörtert, erhalten KI-Erzeugnisse keinen Urheberschutz. Das liegt daran, dass die Texte bzw. Bilder nicht von einem Menschen geschaffen werden, sondern von einer Maschine. So fehlt ihnen die »persönliche geistige Schöpfung«, die das Urheberrecht voraussetzt. Der Umstand, dass der Prompt selbst, also die Anweisung an die KI zur Erzeugung eines Textes oder Bildes, von einem Menschen stammt und Ausdruck eines schöpferisch-geistigen Prozesses sein mag, gilt nach der aktuellen Debatte als nicht ausreichend, einen  solchen Schutz an dem von der KI erzeugten Ergebnis zu erzeugen. Die Relevanz für die Praxis: Alle veröffentlichten KI-generierten Texte und Bilder, aber auch Software, Designs, oder gar sonst im Grunde durch Patente schutzfähige Vorrichtungen oder Prozesse, können beliebig von anderen genutzt, angewandt, kopiert und selbst veröffentlicht werden.

Eine indirekte Notwendigkeit, diese KI-Erzeugnisse als solche zu kennzeichnen, kann sich aber aus § 5 UWG ergeben. Dies ist der Fall, wenn der Verzicht einer Kennzeichnung als KI-generiert dazu führt, dass irrig Urheberschaft des Veröffentlichenden angenommen wird. In bestimmten Fällen könnte dies eine abmahnbare Irrführung im Sinne des Gesetzes gegen den unlauteren Wettbewerb darstellen.

Ein weiterer Aspekt, den Sie bei nicht-gekennzeichneten KI-Element beachten müssen: Sie sind für die Inhalte, die sie – beispielsweiße im Internet – veröffentlichen, selbst verantwortlich. Schleicht sich bei der KI ein inhaltlicher Fehler ein, haften im Zweifelsfall Sie.

Freiwillige Selbstverpflichtung von Tech-Konzernen

Eine generelle Pflicht zur Kennzeichnung KI-generierter Inhalte besteht aktuell nicht. Allerdings gibt es eine freiwillige Selbstverpflichtung relevanter Tech-Konzerne wie Amazon, Meta, Google, Adobe, IBM, und weiteren, auf KI-generierten Content hinzuweisen. Meta arbeitet beispielsweiße an einer automatisierten Erkennung von KI-Erzeugnissen, die durch Instagram oder Facebook-Nutzer gepostet werden. Zudem kann sich in den Nutzungsbedingungen und AGBs einzelner Plattformen eine ähnliche Verpflichtung finden. Daher sollten sich Nutzer stets darüber informieren, ob ein verwendeter Dienst eine Kenntlichmachung von KI-Inhalten fordert.

Deep Fakes

Die erste große Fallgruppe, die eine Kennzeichnung nötig macht, sind die sog. Deepfakes. Dabei handelt es sich um Bilder, Video- oder Tonaufnahmen, die künstlich erstellt bzw. manipuliert werden, dabei aber einen täuschend echten Eindruck erzeugen. Ein Deepfake imitiert häufig real existierende Personen und legt ihnen Worte in den Mund, die sie nie gesagt haben, bzw. setzt sie bildlich in einen falschen Kontext. So werden gezielt Falschinformationen verbreitet.

Solche Bild-, Audio bzw. Videoinhalte müssen klar gekennzeichnet werden. Ausnahmen gibt es nur um Bereich der Strafverfolgung oder wenn es sich um ein kreatives oder satirisches Werk handelt. In letzterem Fall ist eine Kenntlichmachung in dem Maße ausreichend, dass sie die Darstellung nicht zu stark beeinträchtigt.

»öffentliches Interesse«

Bei der zweiten Fallgruppe handelt es sich um Texte, die dazu dienen die Öffentlichkeit über »Angelegenheiten von öffentlichem Interesse« zu informieren (beispielsweise in der journalistischen Arbeit zur aktuellen Berichterstattung). Solche Texte müssen ebenfalls als KI-generiert gekennzeichnet werden. Ausnahmen finden sich auch hier im Bereich der Strafverfolgung. Weiter heißt es im Gesetzestext:

»Diese Verpflichtung gilt nicht, wenn […] der KI-generierte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung des Inhalts trägt.«

Die Kennzeichnungspflicht entfällt also dann, wenn der Text auf Fehler und Unwahrheiten hin überprüft wurde. Zusätzlich muss entweder eine natürliche oder juristische Person für solche Fehler bzw. Unwahrheiten, die der Kontrolle entgehen, die Verantwortung übernehmen.

Wie kennzeichne ich KI-Erzeugnisse?

Soweit zu den rechtlichen Voraussetzungen, wann ein KI-generierter Inhalt kennzeichnungspflichtig ist. Nun bleibt noch die Frage, wie eine solche Kennzeichnung aussehen kann. Hierzu gibt es (noch) keine konkreten Vorgaben. Daher im Folgenden ein paar Ideen, wie sie teilweise in der Praxis bereits verwendet werden:

Ganz klassisch kann ein solcher Hinweis entweder in den Text mit eingebaut werden oder vor bzw. nach diesem darauf hinweisen. Dabei wird es entscheidend sein, ob sich die Kennzeichnung gut genug hervorhebt, um von den Lesen erkannt zu werden. Bei Bildern und Videos gibt es die Option entweder in der Bildunterschrift darauf hinzuweisen oder ein Wasserzeichen auf dem Bild bzw. im Video einzufügen. Wasserzeichen können dabei sichtbar oder unsichtbar (sog. »low perturbation watermarks«) gestaltet werden. Alternativ könnten auf Social Media-Plattformen entsprechende Hashtags verwendet werden.