EU AI Act: KI-Content braucht Governance

Der EU AI Act erhöht den Druck auf Unternehmen und Marken, mittels KI generierte oder modifizierte Inhalte nachvollziehbar und rechtskonform zu managen und auszuzeichnen. Was auf den ersten Blick nach einer reinen Kennzeichnungspflicht klingt, ist in Wahrheit eine heikle Governance-Frage, mit Implikationen zu Content Supply Chains, Freigabeprozessen und Rechtekontrolle.

Michael J. Kräftner, CEO des Marketing-Technologie-Spezialisten CELUM, zeigt auf, warum Unternehmen jetzt „Human-in-the-Loop“-Freigaben und ein „System of Record“ für KI-generierte Inhalte etablieren müssen, um sich gegen Abmahnungen und hohe Strafen abzusichern: „Um Artikel 50 des EU AI Acts ab 2. August rechtskonform umzusetzen, müssen Unternehmen nicht nur ihren Content unter Kontrolle bringen, sondern ihre internen Prozesse regulieren.“ Daraus ergeben sich drei zentrale Herausforderungen, die Kräftner im Detail einordnet:

1. KI-generierte Inhalte brauchen eine besondere Kennzeichnung

Jeder Inhalt, der von einem Unternehmen mittels KI erstellt oder modifiziert und dabei nicht nachweislich redaktionell geprüft wurde, muss künftig sichtbar und maschinenlesbar gekennzeichnet werden – unabhängig davon, ob es sich um einen Werbetext, ein Bild, ein Video oder einen Chatbot-Dialog handelt. „Diese KI-Kennzeichnung ist essenziell, um eine potenzielle Irreführung der Rezipienten zu vermeiden“, so Kräftner. Für Marken bedeutet das: Jede Content-Pipeline, in der KI-Tools zum Einsatz kommen – von der Texterstellung über Bildgenerierung bis zur automatisierten Personalisierung –, muss darauf ausgelegt sein, diese KI-Kennzeichnung zuverlässig und konsistent zu inkludieren.

2. KI-Content-Prozesse erfordern Dokumentation

Die eigentliche Herausforderung liegt für Kräftner jedoch nicht in der KI-Kennzeichnung selbst, sondern: „Unternehmen müssen nachweisen können, wie Inhalte entstanden sind, welche Systeme verwendet wurden und ob entsprechende Prüf- und Freigabeprozesse stattgefunden haben.“ Damit rückt die Frage, mit welchem Tool, in welcher Version und unter welcher Freigabe ein Content-Stück produziert wurde, ins Zentrum der Compliance. Sie wird zu einer Aufgabe für Marketing- und Kommunikationsabteilungen, nicht nur für die Rechtsabteilung. Wesentlich ist dabei auch die menschliche Kontrolle, um eine automatisiert erstellte KI-Kennzeichnung gegebenenfalls korrigieren zu können – Stichwort „Human in the Loop“.

3. „System of Record“ muss den KI-basierten Entstehungsprozess nachweisen

Besonders deutlich wird Kräftner bei der Frage, wie sich die neue Kennzeichnungspflicht überhaupt durchsetzen lässt – schliesslich wird es technisch zunehmend schwieriger, KI-generierte von menschengemachten Inhalten zu unterscheiden: „Es ist zweitrangig, ob sich technisch zweifelsfrei erkennen lässt, ob ein Inhalt von einer KI erstellt wurde. Unternehmen müssen nicht den Content selbst ‚beweisen‘, sondern den Entstehungsprozess. Beweisbarkeit entsteht nicht über das Content-Stück selbst, sondern über Dokumentation, Metadaten und nachvollziehbare Prozesse.“ Genau deshalb erfordert der EU AI Act ein sogenanntes „System of Record“ sowie dokumentierte Freigabe- und Prüfprozesse.

Durchsetzung wie bei der DSGVO – über Fälle, nicht über Technik

Auch bei der Frage der Durchsetzbarkeit bleibt der CELUM-CEO unmissverständlich: „Die Durchsetzung wird weniger über technische Erkennung erfolgen als über Nachweispflichten und Marktmechanismen. Unternehmen müssen im Zweifel belegen können, dass sie nach bestem Wissen und Gewissen rechtskonform gearbeitet haben.“ Er zieht dabei einen Vergleich zur DSGVO: „Ähnlich wie bei der Datenschutz-Grundverordnung ist zu erwarten, dass sich die Regeln über konkrete Fälle, Wettbewerberklagen und Abmahnungen durchsetzen. Unternehmen ohne strukturierte Prozesse und Dokumentation werden künftig besonders angreifbar sein“, so Kräftner. Denn Verstösse gegen die KI-Kennzeichnungspflicht können künftig nicht nur von Behörden verfolgt, sondern diese auch von Wettbewerbern aktiv angestossen werden.

Fazit: Governance statt KI-Label

Michael Kräftner rät Unternehmen also, umgehend darüber nachzudenken, wie belastbar die eigenen Content-Prozesse dokumentiert sind. „Strukturierte Content-Prozesse, konsistente Metadaten und ein zentrales ‚System of Record‘ sind jetzt Pflicht und keine Kür mehr. Mit dem EU AI Act sind sie Voraussetzung, um im Ernstfall die Einhaltung der rechtlichen Vorgaben nachweisen zu können und hohe Strafen zu vermeiden“, so Kräftner.

---