KI-Inhalte kennzeichnen: Was der EU AI Act seit August 2026 verlangt
Aktualisiert: 13. Aug.
Seit dem 2. August 2026 gelten in der Europäischen Union neue Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Für Unternehmen, Selbstständige, Agenturen und redaktionelle Websites beginnt damit eine Phase, in der der Einsatz künstlicher Intelligenz nicht mehr nur eine Frage von Effizienz und Qualität ist. Es muss auch geklärt werden, ob Menschen erkennen können, wann sie mit einem KI-System interagieren oder wann ihnen künstlich erzeugte beziehungsweise manipulierte Inhalte begegnen. Das bedeutet allerdings nicht, dass nun jeder mit KI überarbeitete Satz und jedes abstrakte KI-Bild mit einem auffälligen Warnhinweis versehen werden muss. Artikel 50 des EU AI Acts unterscheidet genauer danach, wer ein KI-System anbietet, wer es beruflich einsetzt, welche Art von Inhalt entsteht und ob eine ernsthafte menschliche Kontrolle stattfindet.
Diese Rollenverteilung ist der erste Schlüssel zum Verständnis. Als Anbieter gilt grundsätzlich, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in der EU auf den Markt bringt oder in Betrieb nimmt. Wer ein vorhandenes KI-System im eigenen Unternehmen, in einer Agentur oder im Rahmen einer selbstständigen Tätigkeit einsetzt, ist dagegen meist Betreiber. Ein Unternehmen, das einen externen Textgenerator für seine Website verwendet, wird dadurch also nicht automatisch zum Anbieter dieses Systems. Es trägt als Betreiber dennoch Verantwortung für bestimmte Einsatzformen und veröffentlichte Inhalte. Die private Nutzung fällt grundsätzlich nicht in denselben Anwendungsbereich. Wer KI regelmäßig für eine gewerbliche oder berufliche Tätigkeit verwendet, sollte jedoch davon ausgehen, dass die beruflichen Regeln relevant werden können.
Die neuen Pflichten betreffen vier typische Situationen. Erstens müssen KI-Systeme, die unmittelbar mit Menschen kommunizieren, grundsätzlich so gestaltet sein, dass die betroffenen Personen erkennen, dass sie mit einer Maschine interagieren. Zweitens müssen Anbieter generativer Systeme deren künstlich erzeugte Audio-, Bild-, Video- und Textausgaben in einem maschinenlesbaren Format markieren und technisch nachweisbar machen. Drittens müssen Betreiber Menschen informieren, wenn sie Emotionserkennung oder biometrische Kategorisierung einsetzen. Viertens müssen Betreiber bestimmte Deepfakes und bestimmte KI-generierte Texte sichtbar offenlegen. Hinter dem allgemeinen Schlagwort „KI-Kennzeichnung“ stehen damit verschiedene Pflichten, die nicht miteinander verwechselt werden sollten.
Besonders anschaulich ist das bei einem Chatbot auf einer Unternehmenswebsite. Wenn Besucher dort Fragen stellen und die Antworten direkt von einem KI-System stammen, sollen sie spätestens zu Beginn der ersten Interaktion klar darüber informiert werden. Eine Ausnahme besteht, wenn für eine angemessen informierte, aufmerksame und verständige Person ohnehin offensichtlich ist, dass sie mit KI spricht. Die Leitlinien der Europäischen Kommission legen diese Ausnahme jedoch eng aus. Ein kleines Symbol irgendwo im Footer ist deshalb keine überzeugende Lösung. Verständlicher ist eine Bezeichnung wie „KI-Assistent“ unmittelbar am Chatfenster, ergänzt um einen kurzen Hinweis vor oder bei der ersten Nachricht. Nutzer können dann besser einschätzen, wie viel Vertrauen sie einer Antwort geben und wann sie einen Menschen hinzuziehen sollten.
Bei generierten Dateien liegt ein großer Teil der technischen Arbeit dagegen beim Anbieter des KI-Systems. Er soll Ausgaben mit maschinenlesbaren Merkmalen versehen, damit Plattformen oder Prüfwerkzeuge erkennen können, dass ein Inhalt künstlich erzeugt oder verändert wurde. Solche Merkmale können beispielsweise in Metadaten oder anderen technischen Herkunftssignalen liegen. Für Betreiber ist wichtig, dass eine unsichtbare technische Markierung nicht dasselbe ist wie eine verständliche Mitteilung an das Publikum. Wer einen kennzeichnungspflichtigen Deepfake veröffentlicht, kann sich nicht darauf verlassen, dass irgendwo in der Datei eine maschinenlesbare Information steckt. Die Offenlegung muss für Menschen wahrnehmbar sein, ohne dass sie erst ein Spezialwerkzeug einsetzen müssen.
Auch bei Bildern ist eine differenzierte Betrachtung nötig. Ein erkennbar stilisiertes Titelbild über digitale Transformation ist nicht automatisch ein Deepfake. Der EU AI Act versteht darunter KI-erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden oder plausibel existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen stark ähneln und fälschlich authentisch wirken können. Kritisch wäre beispielsweise ein realistisches Video, in dem eine tatsächlich existierende Geschäftsführerin scheinbar eine Aussage macht, die sie nie gemacht hat. Ein solches Medium muss grundsätzlich als künstlich erzeugt oder manipuliert offengelegt werden. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken darf die Kennzeichnung so erfolgen, dass sie den Genuss oder die Darstellung nicht unangemessen beeinträchtigt.
Für Blogs und Wissensseiten ist die Textregel besonders wichtig. Eine Offenlegung kommt in Betracht, wenn ein KI-System einen Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dazu zählen nach den Leitlinien nicht nur Politik und öffentliche Sicherheit. Auch wirtschaftliche, finanzielle, wissenschaftliche und kulturelle Entwicklungen können erfasst sein, wenn sie Gegenstand einer öffentlichen Debatte sind. Ein Blogbeitrag über neue Gesetze, Finanzmärkte, Gesundheit, Klimapolitik oder gesellschaftliche Folgen künstlicher Intelligenz kann daher näher an dieser Regel liegen als eine einfache Produktbeschreibung oder eine private Nachricht.
Gerade hier enthält Artikel 50 jedoch eine wichtige Ausnahme. Eine Kennzeichnung als KI-generierter Text ist nicht erforderlich, wenn der Inhalt ein Verfahren menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Entscheidend ist, was diese Prüfung tatsächlich leistet. Eine Rechtschreibkontrolle, eine automatische Stilkorrektur oder ein flüchtiges Überfliegen reichen nach den Leitlinien nicht aus. Menschliche Überprüfung bedeutet eine bewusste inhaltliche Prüfung durch Personen mit den nötigen Kenntnissen und dem fachlichen Urteilsvermögen. Redaktionelle Kontrolle setzt voraus, dass jemand Quellen und Aussagen prüfen sowie den Text aus sachlichen Gründen verändern, zurückweisen oder freigeben kann. Außerdem muss eine Person oder Organisation die Verantwortung für das veröffentlichte Ergebnis übernehmen.
Für eine seriöse Content-Produktion ist das keine Nebensache, sondern ein sinnvoller Qualitätsprozess. Wer mit KI recherchiert und schreibt, sollte die Originalquellen öffnen, konkrete Tatsachen gegenprüfen, unklare Behauptungen entfernen, Ursache und Korrelation auseinanderhalten und die fertige Fassung bewusst freigeben. Bei rechtlichen, medizinischen oder finanziellen Themen ist eine zusätzliche fachkundige Prüfung ratsam. Ein dokumentierter Redaktionsablauf kann dabei zeigen, dass der Mensch nicht nur einen Knopf gedrückt, sondern tatsächlich eine publizistische Entscheidung getroffen hat. Ob ein konkreter Ablauf die rechtlichen Voraussetzungen der Ausnahme erfüllt, hängt vom Einzelfall ab. In Zweifelsfällen sollte eine fachkundige rechtliche Bewertung eingeholt werden.
Praktisch lohnt sich für kleinere Unternehmen ein einfacher Prüfpfad vor jeder Veröffentlichung. Zuerst wird festgehalten, welche KI-Werkzeuge an Text, Bild, Audio oder Video beteiligt waren. Danach wird geprüft, ob der Inhalt ein reales Ereignis oder eine reale Person täuschend echt darstellt, ob er die Öffentlichkeit über ein Thema von öffentlichem Interesse informiert und ob eine substanzielle menschliche Kontrolle stattgefunden hat. Anschließend werden Quellen, Freigabe und verantwortliche Person dokumentiert. Bei sichtbaren Hinweisen sollte die Formulierung klar und sachlich sein, etwa „Dieses Bild wurde mit künstlicher Intelligenz erstellt“ oder „Dieser Inhalt wurde mithilfe von KI erstellt und redaktionell geprüft“. Ein freiwilliger Hinweis kann auch dann sinnvoll sein, wenn keine eindeutige Pflicht besteht, weil er Vertrauen schafft und den eigenen Arbeitsprozess nachvollziehbar macht.
Unternehmen sollten außerdem darauf achten, dass die Regeln nicht nur für die Marketingabteilung gelten. Externe Agenturen, freie Autoren, Social-Media-Teams und Dienstleister können Inhalte im Namen des Unternehmens erzeugen. Nach den Leitlinien bleibt die juristische Person grundsätzlich Betreiber, wenn Dritte unter ihrer Verantwortung und Kontrolle handeln. Deshalb gehören Fragen zur KI-Nutzung in Briefings, Freigabeprozesse und Verträge. Wer lediglich verlangt, dass ein Dienstleister „keine problematische KI“ verwendet, schafft wenig Klarheit. Besser sind konkrete Vorgaben dazu, welche Werkzeuge zulässig sind, wie Quellen geprüft werden, wann Kennzeichnungen gesetzt werden und wer die abschließende redaktionelle Verantwortung trägt.
Eine weitere häufige Fehlannahme betrifft die Übergangszeit. Inhalte, die vor dem 2. August 2026 erstellt wurden, müssen nach den Leitlinien nicht rückwirkend gekennzeichnet werden. Für bestimmte bereits vor diesem Datum auf den Markt gebrachte KI-Systeme gibt es bei der technischen Markierungs- und Nachweispflicht der Anbieter eine begrenzte Frist bis zum 2. Dezember 2026. Das ist jedoch keine allgemeine Schonfrist für Unternehmen, die jetzt neue Deepfakes oder ungeprüfte KI-Texte veröffentlichen. Die jeweils einschlägigen Pflichten gelten grundsätzlich seit dem 2. August 2026. Verstöße können mit erheblichen Geldbußen geahndet werden; die Kommission nennt als möglichen Höchstrahmen bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes, wobei bei kleineren Unternehmen die Verhältnismäßigkeit berücksichtigt werden kann.
Der freiwillige europäische Verhaltenskodex soll Anbietern und Betreibern helfen, die technischen und sichtbaren Transparenzanforderungen einheitlicher umzusetzen. Er ersetzt das Gesetz und die Leitlinien nicht, kann aber als anerkannter praktischer Rahmen dienen. Für die meisten kleinen Website-Betreiber wird es zunächst wichtiger sein, die eigene Rolle richtig einzuordnen und einen belastbaren Redaktionsprozess aufzubauen, als jedes technische Detail des Kodex selbst umzusetzen. Wer lediglich ein bestehendes KI-Werkzeug verwendet, muss andere Fragen beantworten als ein Unternehmen, das ein eigenes generatives System unter eigener Marke anbietet.
Die eigentliche Botschaft des EU AI Acts lautet deshalb nicht, dass KI-Inhalte pauschal verdächtig sind. Transparenz soll Menschen ermöglichen, den Ursprung und die Verlässlichkeit eines Inhalts realistisch einzuschätzen. Ein sauber gekennzeichneter Chatbot, ein offen gelegter Deepfake und ein ernsthaft redigierter Fachbeitrag sind Ausdruck derselben Idee: Technologie darf unterstützen, aber sie soll Verantwortung nicht unsichtbar machen. Unternehmen, die diesen Grundsatz früh in ihre Arbeitsabläufe integrieren, behandeln Kennzeichnung nicht als lästigen Aufkleber. Sie machen daraus einen überprüfbaren Qualitätsstandard – und schaffen damit etwas, das im digitalen Raum zunehmend knapp wird: begründetes Vertrauen.
Kommentare