Müssen Sie „von KI erzeugt“ auf Ihre Artikel schreiben? Was Artikel 50 des AI Act sagt

Was Artikel 50 wirklich verlangt

Artikel 50 des AI Act, der europäischen Verordnung über künstliche Intelligenz, zielt vor allem auf Transparenz. Er verbietet von KI erzeugte Inhalte nicht: Er verlangt, dass die Nutzer wissen, wann sie mit einer Maschine interagieren oder wann ein Inhalt künstlich erzeugt oder verändert wurde.

Der europäische Text unterscheidet mehrere Situationen. Manche verlangen eine ausdrückliche Information des Nutzers oder der Öffentlichkeit, andere sehen abschließend aufgezählte Ausnahmen und Erleichterungen vor: die gesetzlich erlaubte Nutzung zu strafrechtlichen Zwecken, die Erleichterung für offenkundig künstlerische Werke sowie die menschliche Überprüfung oder die redaktionelle Kontrolle unter übernommener redaktioneller Verantwortung. In der Praxis lautet die Frage also nicht „Wurde KI eingesetzt?“, sondern eher: In welchem Kontext ist Transparenz Pflicht?

Artikel 50 gilt für sehr konkrete Anwendungen: Chatbots, Sprachassistenten, synthetische Inhalte, Deepfakes, Systeme, die Bild, Ton oder Video erzeugen oder manipulieren, und bestimmte Interaktionen mit automatisierten Systemen. Der AI Act ist eine europäische Verordnung: Die Pflichten richten sich an die Akteure, die diese Systeme oder Inhalte in der Europäischen Union bereitstellen.

Welche Inhalte als von KI erzeugt oder manipuliert gekennzeichnet werden müssen

Der klarste Fall betrifft die Deepfake-Inhalte. Wird ein Bild-, Video- oder Toninhalt von KI erzeugt oder stark manipuliert und erweckt er den Eindruck eines realen Ereignisses, wird Transparenz zur Pflicht. Die Öffentlichkeit muss darüber informiert werden, dass der Inhalt künstlich erzeugt oder manipuliert wurde, vorbehaltlich der in der Verordnung vorgesehenen Ausnahmen.

Artikel 50 erfasst ebenso die von KI erzeugten Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, sowie Ton-, Bild- und Videoinhalte, die als echt präsentiert werden. Die Schwelle ist die Verwechslungsgefahr: Je mehr ein Inhalt einer glaubwürdigen menschlichen Produktion gleicht, desto zwingender wird die Kennzeichnung.

• Audio-Deepfakes: geklonte Stimmen, synthetische Sprachnachrichten, gefälschte Anrufe.
• Video-Deepfakes: von KI veränderte Gesichter, Gesten oder Szenen.
• Von KI erzeugte Bilder: Porträts, Nachrichtenszenen, realistische Motive.
• Synthetische Texte: nur wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Das ist das Kriterium, nicht die Sensibilität des Kontextes: Ein werblicher Text fällt nicht darunter, auch wenn er für menschliche Äußerungen gehalten werden könnte, solange er keine Aussage zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit enthält.

Die Pflicht besteht nicht immer darin, auf allen Inhalten eine einheitliche Kennzeichnung der Art „von KI erzeugt“ anzuzeigen. Die Regel hängt vom Verbreitungskontext ab, von der Verwechslungsgefahr und von der Art des Inhalts. Eine Werbung, eine Nachricht, ein Erfahrungsbericht oder ein Gesprächsavatar werden nicht gleich beurteilt.

Auch die Interaktionen mit KI-Systemen müssen transparent sein

Artikel 50 erfasst auch die Mensch-Maschine-Interaktionen. Kommuniziert eine Person unter Bedingungen mit einem KI-System, unter denen sie glauben könnte, mit einem Menschen zu sprechen, muss sie darüber informiert werden, dass sie mit einer Maschine interagiert.

Diese Anforderung betrifft namentlich:

1. die Chatbots im Kundenservice;
2. die Sprachassistenten;
3. die in Websites, Anwendungen oder Messenger integrierten Dialogsysteme;
4. die automatisierten Agenten in Verkaufs- oder Supportstrecken.

Die Transparenzkennzeichnung kann zu Beginn des Austauschs, in der Oberfläche oder über ein klares und verständliches Signal eingebunden werden. Der Nutzer muss wissen, mit wem er spricht. Der AI Act gibt dieser Praxis eine europäische Rechtsgrundlage.

Eine nützliche Klarstellung, weil die Verwechslung häufig ist: Artikel 50 begründet kein Recht auf ein menschliches Eingreifen. Er betrifft allein die Transparenz, also das Wissen, dass der Dienst automatisiert ist. Das Recht, gegen eine automatisierte Entscheidung ein menschliches Eingreifen zu verlangen, folgt aus Artikel 22 der DSGVO, und das Recht auf Erläuterung einer mit einem Hochrisiko-KI-System getroffenen Entscheidung aus Artikel 86 des AI Act. Für Marken und Herausgeber heißt Artikel 50 also, die Gesprächsstrecken, die Skripte, die Startseiten und das Impressum rund um die Dialogwerkzeuge zu überarbeiten, nicht einen menschlichen Kanal zu öffnen.

Die im AI Act vorgesehenen Ausnahmen

Artikel 50 verlangt keine flächendeckende Kennzeichnung in allen Fällen. Die Verordnung sieht Erleichterungen und Befreiungen vor, und beides ist nicht dasselbe: Die einen mildern die Form der Kennzeichnung, die anderen lassen sie entfallen.

Es ist die zweite Zeile, auf die es für einen Herausgeber ankommt, und sie ist weiter, als sie gewöhnlich gelesen wird. Die Verordnung sieht zwei alternative Wege vor: menschliche Überprüfung oder redaktionelle Kontrolle. Jeden Artikel einzeln zu prüfen ist also nicht der einzige Weg; eine redaktionelle Kontrolle über die Produktion eröffnet dasselbe Recht, unter der kumulativen Bedingung, dass eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Diesen Rahmen führen wir in unserem Zeitplan der KI-Verordnung für Herausgeber aus, und die Signatur, die ihn sichtbar macht, in „Ein Artikel, ein Name“. Was jeder der beiden Wege verlangt und was die Ausnahme zunichtemacht, behandelt ein eigener Artikel zur Ausnahme.

Diese Ausnahmen zeigen, dass der europäische Text ein Gleichgewicht zwischen Transparenz und Gestaltungsfreiheit sucht. Ein Film, eine künstlerische Illustration oder eine Parodie werden anders behandelt als ein virales Video, das vorgibt, einen realen Vorgang zu zeigen. Als Kompass dient die Täuschungsgefahr.

Für Content-Profis heißt das, den Zweck des Inhalts, sein Format, seinen Bestimmungsort und seinen Grad an Realismus zu prüfen. Eine bloße KI-Unterstützung beim Schreiben eines Artikels löst die Pflicht, „von KI erzeugt“ anzugeben, nicht automatisch aus, wenn das Endergebnis nicht vorgibt, etwas anderes als ein klassischer redaktioneller Inhalt zu sein.

Artikel 50 in der Praxis anwenden, ohne zu überkennzeichnen

Der beste Ansatz denkt in nützlicher Kennzeichnung statt in automatischer Kennzeichnung überall. Eine nützliche Kennzeichnung steht dort, wo das Risiko besteht, und ist ohne Glossar verständlich. In der Praxis können Unternehmen mehrere Informationsebenen einrichten:

• auf dem Inhalt selbst: eine direkt sichtbare Kennzeichnung auf dem Bild, dem Video, der Tonspur oder der Seite;
• in der Oberfläche: ein Banner oder eine Beschriftung im Dialogwerkzeug;
• in der Redaktionsrichtlinie: eine Seite, die erklärt, wann und wie KI eingesetzt wird;
• in den Metadaten: nützlich für die interne Organisation, auch wenn das die für den Nutzer sichtbare Information nicht immer ersetzt.

Für Teams aus Marketing, Presse, E-Commerce oder Kundenbeziehung umreißen diese Fragen den Bedarf:

1. Kann der Inhalt mit etwas Realem verwechselt werden?
2. Erwartet die Öffentlichkeit menschliche Echtheit?
3. Macht der Kontext die Kennzeichnung notwendig, um eine Täuschung zu vermeiden?

Lautet die Antwort auf eine dieser Fragen Ja, ist die Kennzeichnung geboten. Dort angezeigt, wo sie nützlich ist, wird sie zugleich zu einem Glaubwürdigkeitsargument für die Marke.

Zum Mitnehmen, und häufige Fragen

Artikel 50 des AI Act zielt hauptsächlich auf synthetische Inhalte, die täuschen können, und auf die Interaktionen mit KI-Systemen. Am stärksten betroffen sind Deepfakes, von KI erzeugte oder manipulierte Bilder, Tonaufnahmen und Videos sowie der Austausch mit Chatbots oder Assistenten, wenn der Nutzer glauben könnte, mit einem Menschen zu sprechen.

Die Pflicht ist also gezielt. Artikel 50 verlangt eine Transparenzlogik, die dem Kontext angepasst ist, und sie entfällt für Texte von öffentlichem Interesse, die einer menschlichen Überprüfung oder einer redaktionellen Kontrolle unter übernommener redaktioneller Verantwortung unterzogen wurden. Für Herausgeber, Marken und Content-Produzenten bleibt damit die Aufgabe, die Einsätze von KI zu dokumentieren und dort klare Kennzeichnungen anzubringen, wo die Verwechslungsgefahr real ist.

• Müssen alle mit einer KI erstellten Inhalte gekennzeichnet werden? Nein. Die Pflicht hängt von der Art des Inhalts, vom Kontext und von der Täuschungsgefahr ab.
• Muss ein geprüfter und gezeichneter Artikel die Kennzeichnung tragen? Nein, sofern der Text einer menschlichen Überprüfung oder einer redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Nur muss man es belegen können: wer prüft, in welchem Schritt, wer zeichnet, und wo die Spur aufbewahrt wird.
• Müssen von KI erzeugte Bilder immer gekennzeichnet werden? Sie müssen es, wenn sie für reale Bilder gehalten werden können oder wenn sie eine irreführende Information verbreiten.
• Muss ein Chatbot ankündigen, dass er eine KI ist? Ja, wenn der Nutzer glauben kann, dass er sich mit einem Menschen austauscht.
• Sind künstlerische Inhalte betroffen? Ja, und das ist keine Befreiung: Ist ein Deepfake Teil eines offenkundig künstlerischen, kreativen, satirischen oder fiktionalen Werks, beschränkt sich die Pflicht darauf, das Vorhandensein des erzeugten Inhalts in einer Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
• Betrifft der AI Act nur die in Europa sichtbaren Inhalte? Er zielt auf die in der Europäischen Union bereitgestellten Systeme und Inhalte, was internationalen Akteuren besondere Wachsamkeit abverlangt.