Transparenz- und Offenlegungsfragen bei KI-generierten Inhalten
In diesem Blogbeitrag untersuchen wir kurz Transparenz und Offenlegung beim Einsatz von GenAI zur Erstellung von Inhalten, unter anderem für Unterhaltungs-, Informations-, Marketing-, Werbe- und E-Commerce-Zwecke. Wir beleuchten zentrale Bedenken im Zusammenhang mit KI-generierten Inhalten, die durch den EU AI Act und große Online-Plattformen eingeführten Anforderungen an Transparenz und Offenlegung sowie die praktischen Herausforderungen bei der Verwaltung von Inhaltskennzeichnungen in großem Umfang. Abschließend stellen wir vera[tag] und den umfassenderen Ansatz von Kladero zur Unterstützung wirksamer KI-Transparenz und -Offenlegung vor.
Kontext
Der Einsatz generativer künstlicher Intelligenz (“GenAI”) hat sich in den vergangenen Jahren stark verbreitet. Nutzer greifen zunehmend auf GenAI-Tools wie ChatGPT, Claude, Gemini, Canva, Adobe Firefly, und CapCut zurück, und zwar für Aufgaben, die von Recherche, Texterstellung und Softwareentwicklung bis hin zu Datenanalyse, Planung und kreativer Arbeit reichen.
Besonders verbreitet ist der Einsatz von GenAI bei der Erstellung von Inhalten für soziale Medien, Blogs, Websites und andere Online-Medien. Content Creator nutzen GenAI-Tools, um Texte, Bilder, Audio- und Videoinhalte zu generieren sowie um Bearbeitung und andere Schritte der Inhaltserstellung zu unterstützen. Ein Teil dieser Inhalte entsteht zu Freizeit- oder persönlichen Zwecken. GenAI wird jedoch auch in großem Umfang für produktive und kommerzielle Zwecke eingesetzt, unter anderem zur Erstellung von Werbe- und Marketingmaterialien, Anzeigen, Websites für Produkte und Dienstleistungen sowie Produktbeschreibungen für Online-Shops [1], [2].
Bedenken beim Einsatz von GenAI
Da sich die Ergebnisse von GenAI (“KI-generierte Inhalte”) zunehmend schwer von menschengemachten Inhalten unterscheiden lassen [3], wirft der wachsende Einsatz von GenAI als Werkzeug zur Inhaltserstellung eine Reihe von Fragen für die Konsumenten solcher Inhalte auf (z. B. Besucher von Websites und Blogs, Nutzer sozialer Medien und E-Commerce-Kunden).
-
Fehlinformationen. GenAI-Systeme weisen bekannte Einschränkungen bei der Erstellung faktisch korrekter oder aktueller Inhalte auf und können zudem halluzinieren [4], [5], [6], [7] (d. h. falsche oder nicht belegte Informationen erzeugen und diese zugleich plausibel und überzeugend darstellen). Konsumenten solcher Inhalte können dadurch mit unzutreffenden oder irreführenden Informationen konfrontiert werden und infolgedessen ein falsches Verständnis des dargestellten Themas, Produkts oder Dienstes entwickeln.
-
Wahrnehmung. Das Wissen darüber, dass KI beteiligt war, kann die Wahrnehmung von Inhalten durch Konsumenten auf unterschiedliche Weise beeinflussen. Erstens können Konsumenten KI-generierte Inhalte als weniger glaubwürdig oder fehleranfälliger wahrnehmen; Studien berichten Unterschiede in der wahrgenommenen Glaubwürdigkeit zwischen KI-generierten und von Menschen erstellten Inhalten [8]. Eine solche Skepsis kann zugleich von Vorteil sein, wenn sie Konsumenten dazu veranlasst, Inhalte kritischer zu beurteilen.
Zweitens können Konsumenten unterschiedliche Erwartungen an den menschlichen Aufwand und die Kreativität haben, die in die Erstellung von Inhalten eingeflossen sind. In Bereichen wie Kunst, Musik, Literatur, Spielen und anderen Formen kreativer digitaler oder physischer Arbeit können Konsumenten menschlicher Urheberschaft und kreativer Leistung besonderen Wert beimessen. Der Einsatz von GenAI für solche kreativen Arbeiten hat wiederholt öffentliche Kritik und negative Reaktionen hervorgerufen [9], [10], [11], [12].
-
Übersättigung. GenAI ermöglicht die Produktion sehr großer Mengen an Inhalten zu sehr geringen Kosten. Dies hat zur Verbreitung des sogenannten AI Slop beigetragen (d. h. minderwertiger, massenhaft produzierter KI-generierter Inhalte) in sozialen Medien und auf anderen Online-Plattformen [13]. In großem Umfang kann die Flut solcher Inhalte die Nutzererfahrung negativ beeinflussen; neuere Forschung deutet darauf hin, dass eine wahrgenommene Überlastung durch KI-Inhalte zu Unzufriedenheit der Nutzer und Social-Media-Müdigkeit beitragen kann [14].
Diese und weitere Bedenken machen die Herkunft von Inhalten (einschließlich der Frage, ob und in welchem Umfang GenAI an ihrer Erstellung beteiligt war) für Konsumenten relevant. Transparenz über den Einsatz von GenAI kann Konsumenten zusätzliche Informationen liefern, um die Zuverlässigkeit, Herkunft und Art der Inhalte, mit denen sie konfrontiert werden, besser einzuschätzen.
Transparenz- und Offenlegungspflichten
Die im vorherigen Abschnitt beschriebenen Bedenken wurden auch von Gesetzgebern und Online-Plattformen aufgegriffen, die darauf mit Regulierungen und Plattformregeln zur Transparenz und zur Offenlegung des Einsatzes von GenAI reagiert haben.
EU AI Act
Eine besonders bedeutende regulatorische Reaktion ist der Artificial Intelligence Act (“AI Act”) der Europäischen Union. Der 2024 verabschiedete und 2026 durch den Digital Omnibus on AI geänderte AI Act schafft einen risikobasierten Regulierungsrahmen für die Entwicklung und Nutzung von KI in der EU [15], [16]. Die Verordnung verbietet bestimmte KI-Praktiken, stellt besondere Anforderungen an Hochrisiko-KI-Systeme, reguliert KI-Modelle mit allgemeinem Verwendungszweck und enthält Regelungen zu Governance, Aufsicht und Durchsetzung.
Für den hier behandelten Kontext ist insbesondere relevant, dass der AI Act auch Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte vorsieht. Artikel 50 verpflichtet zur Offenlegung, wenn Personen mit bestimmten KI-Systemen interagieren, zur maschinenlesbaren Kennzeichnung KI-generierter oder manipulierter Inhalte sowie zur Offenlegung von Deepfakes und bestimmten KI-generierten Texten zu Angelegenheiten von öffentlichem Interesse [15]. Diese Transparenzpflichten gelten seit dem 2. August 2026 [17].
Plattformregeln
Große Online-Plattformen, darunter soziale Netzwerke und E-Commerce-Plattformen, haben ebenfalls eigene Regeln und Mechanismen für die Offenlegung und Kennzeichnung KI-generierter Inhalte eingeführt. Diese Plattformregeln gelten zusätzlich zu einschlägigen nationalen oder regionalen Vorschriften und können diese durch plattformspezifische Offenlegungs- oder Moderationsanforderungen ergänzen.
-
YouTube. YouTube verlangt von Content Creators, Inhalte offenzulegen, die wesentlich verändert oder mit KI generiert wurden, wenn sie realistisch erscheinen [18]. Dazu können beispielsweise realistische Darstellungen von Ereignissen gehören, die tatsächlich nicht stattgefunden haben, oder von Personen, die scheinbar Dinge sagen oder tun, die sie in Wirklichkeit nie gesagt oder getan haben. YouTube zeigt entsprechende KI-Kennzeichnungen an und kann diese, soweit möglich, mithilfe eigener Erkennungssysteme auch automatisch hinzufügen [19].
-
TikTok. Auch TikTok verlangt von Creators eine eindeutige Kennzeichnung KI-generierter oder wesentlich bearbeiteter Inhalte, wenn darin Personen oder Szenen realistisch dargestellt werden [20]. Creators können diese Offenlegung über TikToks Kennzeichnung für KI-generierte Inhalte oder über eine eindeutige Bildunterschrift, ein Wasserzeichen oder einen Sticker vornehmen. TikTok kann Inhalte, die von der Plattform als KI-generiert oder KI-bearbeitet erkannt werden, auch automatisch kennzeichnen [21].
-
Meta. Auf Facebook, Instagram und Threads müssen Nutzer offenlegen, wenn fotorealistische Videos oder realistisch klingende Audioinhalte digital mithilfe von KI erzeugt oder verändert wurden; Verstöße können Sanktionen nach sich ziehen [22]. Auf Grundlage dieser Angaben kann Meta den Inhalt mit dem Hinweis
AI infokennzeichnen. Meta kann eine solche Kennzeichnung auch automatisch vornehmen, wenn eigene Systeme einen Inhalt als KI-generiert erkennen [23]. -
LinkedIn. LinkedIn empfiehlt Nutzern, in ihren Beiträgen offenzulegen, wenn sie sich bei der Erstellung oder Bearbeitung von Inhalten in erheblichem Umfang auf KI gestützt haben [24]. Bei synthetischen oder manipulierten Medien, die reale Ereignisse falsch darstellen könnten, verlangt LinkedIn eine klare Offenlegung des künstlichen oder veränderten Charakters des Inhalts [25]. Unabhängig davon kann LinkedIn bei Bildern und Videos mit geeigneten Metadaten Herkunftsinformationen anzeigen, aus denen hervorgeht, ob KI zur Erstellung oder Bearbeitung des Inhalts eingesetzt wurde [26].
-
Reddit. Reddit fordert Nutzer dazu auf, offenzulegen, wenn zulässige Inhalte mithilfe von KI generiert oder verändert wurden, beispielsweise durch ein entsprechendes Tag oder einen anderen Hinweis [27]. Die plattformweite Richtlinie untersagt außerdem, KI-generierte Inhalte als menschengemacht darzustellen. Einzelne Subreddits können zusätzliche oder strengere Regeln für KI-generierte Inhalte festlegen.
-
X. X bietet für Beiträge mit synthetisch generierten Inhalten die Kennzeichnung
Made with AIan, über die Nutzer den Einsatz von KI direkt im Beitrag offenlegen können [28]. X kann entsprechende Kennzeichnungen auch auf KI-generierte oder manipulierte Medien anwenden, die von der Plattform erkannt werden [28]. Darüber hinaus untersagt X die irreführende Verbreitung synthetischer oder manipulierter Medien, wenn dadurch weitreichende Verwirrung über öffentliche Themen entstehen, die öffentliche Sicherheit beeinträchtigt oder erheblicher Schaden verursacht werden könnte [29]. -
Amazon. Amazon stellt in mehreren Bereichen seines Ökosystems Anforderungen an die Offenlegung des Einsatzes von KI. Bei Büchern, die über Kindle Direct Publishing veröffentlicht werden, müssen Verlage KI-generierte Texte, Bilder und Übersetzungen gegenüber Amazon offenlegen, während lediglich KI-unterstützte Inhalte keine Offenlegung erfordern [30]. Amazon verlangt außerdem von Verkäufern, Produktbilder oder -videos zu kennzeichnen, die fotorealistische KI-generierte Personen enthalten; wo zutreffend, nutzt Amazon diese Angaben, um Kunden einen entsprechenden Hinweis anzuzeigen [31].
-
Etsy. Etsy verpflichtet Verkäufer zur Offenlegung, wenn ein auf der Plattform angebotenes Produkt mithilfe von KI erstellt wurde [32]. Insbesondere müssen durch Prompts des Verkäufers entstandene KI-Kreationen in der jeweiligen Produktbeschreibung als solche offengelegt werden [33]. Die Anforderung betrifft damit nicht nur KI-generierte Beschreibungen oder Werbematerialien, sondern auch den Einsatz von KI bei der Erstellung des Produkts selbst.
Herausforderungen einer wirksamen Offenlegung
Die praktische Umsetzung von Offenlegungspflichten für KI kann insbesondere für Organisationen anspruchsvoll sein, die große Mengen an Inhalten über verschiedene Kanäle hinweg erstellen und veröffentlichen. Zu den besonders relevanten Herausforderungen zählen:
-
Skalierung. Content Creator und Publisher können Inhalte über zahlreiche Websites, soziale Netzwerke, Online-Marktplätze und andere Kanäle verbreiten, die jeweils eigene Offenlegungsanforderungen und -mechanismen haben können. Änderungen der geltenden Anforderungen können außerdem dazu führen, dass bereits veröffentlichte Inhalte erneut geprüft und gegebenenfalls nachträglich aktualisiert werden müssen. Eine effektive Verwaltung von Offenlegungen in großem Umfang erfordert daher Prozesse und Werkzeuge, die (1) kanalübergreifend funktionieren, (2) Offenlegungen für ganze Sammlungen KI-generierter Inhalte effizient anwenden oder aktualisieren und (3) dabei helfen, Stellen zu identifizieren, an denen bestehende Offenlegungen geändert werden müssen.
-
Sich ändernde Regeln und Vorschriften. Transparenzanforderungen und Offenlegungspraktiken können sich im Laufe der Zeit verändern und je nach Rechtsordnung oder Plattform unterschiedlich ausgestaltet sein. Content Creator und Publisher müssen diese Entwicklungen daher verfolgen und verstehen, wie sie sich auf ihre Inhalte auswirken, um feststellen zu können, ob eine Offenlegung erforderlich ist, was offengelegt werden muss und wie diese Offenlegung erfolgen sollte.
-
Auswirkungen auf das Engagement. Hinweise auf KI-Inhalte können beeinflussen, wie Konsumenten Inhalte wahrnehmen und mit ihnen interagieren. Studien haben insbesondere festgestellt, dass Offenlegungshinweise bei KI-generierten Inhalten das Engagement reduzieren können [34]; ein geringeres Engagement kann besonders problematisch sein, wenn Inhalte für produktive oder kommerzielle Zwecke eingesetzt werden, etwa im Marketing, in der Werbung, bei der Kundengewinnung oder Produktpromotion. Content Creator und Publisher müssen daher möglicherweise unterschiedliche Offenlegungstexte und Darstellungsformen testen, um das Engagement möglichst zu erhalten und gleichzeitig sicherzustellen, dass die Informationen klar und transparent bleiben.
Wie vera[tag] helfen kann
Wenn Sie als Content Creator oder Publisher große Mengen KI-generierter Inhalte und zunehmend komplexe Offenlegungsanforderungen verwalten, ist vera[tag] von Kladero für Sie konzipiert. vera[tag] wurde rund um die praktischen Herausforderungen der KI-Transparenz entwickelt und stellt die Werkzeuge bereit, die sowohl für die Darstellung von Offenlegungen gegenüber Ihrem Publikum als auch für deren langfristige Verwaltung benötigt werden.
vera[tag] wurde von Grund auf für Agenturen, Marketingteams, Unternehmen und andere Organisationen entwickelt, die Offenlegungen für große Mengen an Inhalten verwalten müssen. Mit vera[tag] können Content Creator und Publisher Offenlegungen über umfangreiche Inhaltssammlungen und mehrere Veröffentlichungskanäle hinweg über ein einziges zentrales Dashboard verwalten. vera[tag] lässt sich in bestehende Veröffentlichungskanäle integrieren und ermöglicht es, Offenlegungen für zahlreiche Inhalte gleichzeitig hinzuzufügen, zu überprüfen und gesammelt zu aktualisieren.
Auch das Management des Nutzerengagements wird mit vera[tag] einfacher. vera[tag] ermöglicht es, unterschiedliche Offenlegungstexte und Darstellungsformen unkompliziert zu testen. So können Sie Varianten finden, die Konsumenten ausreichend informieren, ohne das Engagement unnötig zu beeinträchtigen.
Damit Sie Ihre Offenlegungen jederzeit einfach und effizient verwalten können, entwickelt Kladero vera[tag] kontinuierlich weiter und ergänzt neue Funktionen, Integrationen sowie Unterstützung für sich wandelnde Offenlegungsanforderungen auf unterschiedlichen Plattformen und in verschiedenen Rechtsordnungen. Starten Sie noch heute mit vera[tag] und optimieren Sie Ihre KI-Offenlegungsprozesse, damit Sie sich auf das Wesentliche konzentrieren können.
Kladero erweitert vera[tag] kontinuierlich um neue Funktionen, Integrationen und Unterstützung für sich wandelnde Offenlegungsanforderungen auf verschiedenen Plattformen und in unterschiedlichen Rechtsordnungen. Starten Sie noch heute mit vera[tag], um weniger Zeit mit der Verwaltung von KI-Offenlegungen und mehr Zeit mit der Erstellung und Veröffentlichung wirksamer Inhalte zu verbringen.
Wie Kladero helfen kann
Über vera[tag] hinaus verfolgt Kladero das Ziel, Sie bei den für Ihre individuellen Anforderungen relevanten Transparenz- und Offenlegungspflichten im Bereich KI zu unterstützen. Mit maßgeschneiderten Lösungen, Beratung und gezielten Schulungen können die Experten von Kladero Ihnen dabei helfen, einschlägige Anforderungen zu interpretieren, wirksame Offenlegungsprozesse zu entwickeln und diese in Ihre bestehenden Workflows für die Erstellung und Veröffentlichung von Inhalten zu integrieren. Kontaktieren Sie Kladero noch heute und bringen Sie Ihre Prozesse zur Offenlegung von Inhalten auf die nächste Stufe.
Zusammenfassung
In diesem Blogbeitrag haben wir zentrale Bedenken im Zusammenhang mit dem Einsatz von GenAI zur Inhaltserstellung und die zunehmende Bedeutung von Transparenz bei KI-generierten Inhalten betrachtet. Wir haben die Offenlegungspflichten des EU AI Act und großer Online-Plattformen sowie einige der praktischen Herausforderungen bei der Verwaltung von Offenlegungen in großem Umfang behandelt. Abschließend haben wir beschrieben, wie vera[tag] die Verwaltung und Darstellung von KI-Offenlegungen unterstützen kann und wie Kladero durch maßgeschneiderte Lösungen, Beratung und Schulungen bei weitergehenden Transparenz- und Offenlegungsanforderungen helfen kann.
Weitere Beiträge dieser Reihe folgen. Darin werden wir einzelne Vorschriften, Plattformregeln und praktische Ansätze für Transparenz und Offenlegung im Zusammenhang mit KI ausführlicher betrachten.
Literaturverzeichnis
Über den Autor
