EU AI Act: Diese Pflichten gelten jetzt für Unternehmen

Rubrik: Technologie & KI
Format: Spezialbericht
Autor: Sinisa Brkic (sb)

EU AI Act ab August 2026: Diese Pflichten gelten für Unternehmen. Seit dem 2. August 2026 gelten zentrale Transparenzpflichten des EU AI Act. Was Unternehmen über Chatbots, Deepfakes, KI Inhalte, Kennzeichnung, Fristen und Bußgelder wissen müssen.

Mit dem 2. August 2026 erreicht die europäische KI Regulierung eine entscheidende Stufe. Neue Transparenzpflichten betreffen Chatbots, KI Agenten, synthetische Bilder und Stimmen, Deepfakes sowie bestimmte automatisch erzeugte Texte. Unternehmen müssen nun klären, welche Systeme sie einsetzen, welche Rolle sie rechtlich einnehmen und an welcher Stelle eine technische oder sichtbare Kennzeichnung erforderlich ist.

Kein neues Gesetz, aber eine neue Phase der Durchsetzung

Der EU AI Act ist nicht erst am 2. August 2026 in Kraft getreten. Die Verordnung gilt bereits seit dem 1. August 2024 und wird seitdem schrittweise anwendbar. Seit Februar 2025 gelten unter anderem die Verbote bestimmter besonders riskanter KI Praktiken, seit August 2025 greifen Vorschriften für Anbieter von KI Modellen mit allgemeinem Verwendungszweck.

Am 2. August 2026 beginnt dennoch eine Phase, die für zahlreiche Unternehmen erstmals unmittelbar sichtbar wird. Die Transparenzpflichten des Artikels 50 sind nun anwendbar und können von den zuständigen europäischen und nationalen Stellen durchgesetzt werden. Gleichzeitig erhält die Aufsicht weitergehende Möglichkeiten, Informationen anzufordern, Beschwerden zu untersuchen und bei Verstößen Sanktionen einzuleiten.

Die neue Lage betrifft deshalb nicht nur Entwickler großer Sprachmodelle oder internationale Technologiekonzerne. Auch Medienhäuser, Handelsunternehmen, Plattformen, Werbeagenturen, Softwareanbieter, Personalabteilungen, Banken, Versicherungen, Beratungen, Callcenter und klassische Industriebetriebe können erfasst sein. Entscheidend ist nicht die Größe des Unternehmens, sondern die konkrete Funktion eines KI Systems und die Art seiner Verwendung.

Entscheidend ist die Rolle des Unternehmens

Der AI Act unterscheidet insbesondere zwischen Anbietern und Betreibern von KI Systemen. Anbieter ist grundsätzlich, wer ein System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke auf den Markt bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI System im Rahmen einer beruflichen oder geschäftlichen Tätigkeit unter eigener Verantwortung verwendet.

Ein Unternehmen, das einen fremden Bildgenerator für Werbemotive nutzt, ist in der Regel Betreiber. Entwickelt es dagegen einen eigenen Kundenassistenten, bietet diesen unter der eigenen Marke an oder verändert ein bestehendes System so wesentlich, dass ein neues Produkt entsteht, kann es selbst zum Anbieter werden. Diese Einordnung entscheidet darüber, ob technische Pflichten bereits beim Systemdesign erfüllt werden müssen oder ob das Unternehmen vor allem für die konkrete Verwendung und Veröffentlichung verantwortlich ist.

Auch externe Dienstleister lösen die Verantwortung nicht automatisch auf. Arbeiten Agenturen, freie Autoren, Entwickler oder Produktionsfirmen im Auftrag und unter der Kontrolle eines Unternehmens, bleibt regelmäßig das beauftragende Unternehmen der maßgebliche Betreiber. Verträge können Zuständigkeiten verteilen, die öffentlich rechtliche Verantwortung gegenüber Aufsichtsbehörden aber nicht beliebig beseitigen.

Unternehmen sollten ihre Rolle deshalb nicht pauschal für den gesamten Betrieb festlegen. Sie muss für jedes System, jeden Einsatzbereich und jede Veröffentlichung gesondert geprüft werden. Ein Konzern kann bei einem System bloßer Nutzer, bei einem anderen Betreiber und bei einer selbst entwickelten Anwendung zugleich Anbieter sein.

Chatbots müssen sich als KI zu erkennen geben

Anbieter von KI Systemen, die direkt mit Menschen kommunizieren, müssen dafür sorgen, dass die betroffenen Personen über die Interaktion mit einem KI System informiert werden. Dazu zählen klassische Chatbots, sprachgesteuerte Assistenten, KI Agenten, digitale Avatare und andere Systeme, die einen unmittelbaren Dialog führen.

Der Hinweis muss spätestens zu Beginn der ersten Interaktion erfolgen. Er muss klar, unterscheidbar und für die angesprochene Person wahrnehmbar sein. Bei einem Chat kann eine kurze Mitteilung im Dialogfenster genügen, bei einem Sprachsystem ist regelmäßig eine hörbare Information erforderlich.

Eine Ausnahme besteht, wenn für einen verständigen und aufmerksamen Menschen offensichtlich ist, dass er mit einer Maschine kommuniziert. Diese Ausnahme sollte nicht großzügig ausgelegt werden. Je menschlicher Sprache, Stimme, Auftreten und Reaktionsverhalten gestaltet sind, desto weniger kann sich ein Unternehmen darauf berufen, der künstliche Charakter sei ohnehin erkennbar.

Ein versteckter Hinweis in allgemeinen Geschäftsbedingungen, einer umfangreichen Datenschutzerklärung oder einem schwer auffindbaren Hilfebereich ist keine verlässliche Lösung. Die Information muss dort erscheinen, wo die Interaktion tatsächlich beginnt. Unternehmen sollten außerdem sicherstellen, dass sie auch bei eingebetteten Systemen externer Anbieter Kontrolle über Darstellung, Sprache und Zeitpunkt des Hinweises behalten.

Die Transparenzpflicht ersetzt keine anderen gesetzlichen Anforderungen. Verarbeitet ein Chatbot personenbezogene Daten, gelten weiterhin die Datenschutzvorschriften. Gibt er verbindliche Auskünfte über Verträge, Preise, Gesundheit, Kredite oder Versicherungen, können zusätzlich Verbraucherrecht, Berufsrecht und branchenspezifische Aufsichtsvorschriften relevant werden.

Maschinenlesbare Kennzeichnungen werden zur technischen Pflicht

Anbieter generativer KI Systeme müssen dafür sorgen, dass künstlich erzeugte oder manipulierte Texte, Bilder, Videoaufnahmen und Audiodateien maschinenlesbar markiert und als synthetisch erkennbar sind. Die verwendeten technischen Lösungen sollen wirksam, robust, zuverlässig und möglichst interoperabel sein.

Gemeint ist nicht zwingend ein sichtbares Wasserzeichen. Auch Metadaten, digitale Herkunftsnachweise, eingebettete Signale oder andere technische Verfahren können eingesetzt werden. Entscheidend ist, dass nachgelagerte Systeme und geeignete Prüfwerkzeuge die künstliche Erzeugung oder Manipulation erkennen können.

Diese Verpflichtung richtet sich in erster Linie an die Anbieter der generativen Systeme. Unternehmen, die solche Werkzeuge einsetzen, können die technische Ebene dennoch nicht ignorieren. Sie müssen prüfen, ob vorhandene Kennzeichnungen beim Export, bei der Bildbearbeitung, beim Neucodieren eines Videos, beim Komprimieren einer Audiodatei oder beim Hochladen auf eine Plattform erhalten bleiben.

In der Praxis besteht hier ein erhebliches Risiko. Viele Produktionsabläufe entfernen Metadaten automatisch oder verändern Dateien so stark, dass Herkunftsinformationen verloren gehen. Wer lediglich davon ausgeht, das verwendete Werkzeug werde die Kennzeichnung schon korrekt erledigen, besitzt im Fall einer Kontrolle möglicherweise keinen belastbaren Nachweis.

Verträge mit Softwareanbietern sollten deshalb regeln, welche Kennzeichnung verwendet wird, in welchen Dateiformaten sie erhalten bleibt und welche technischen Informationen zur Verfügung gestellt werden. Ebenso wichtig ist die Frage, ob Exporte, Schnittstellen und nachträgliche Bearbeitungsschritte die Markierung beeinträchtigen.

Nicht jede KI Bearbeitung löst dieselben Pflichten aus

Der AI Act behandelt eine bloße technische Unterstützung anders als die inhaltliche Erzeugung oder erhebliche Manipulation eines Inhalts. Standardkorrekturen wie Rechtschreibprüfung, Formatierung, Komprimierung, Rauschunterdrückung oder begrenzte Bildoptimierung fallen nicht automatisch unter dieselben Kennzeichnungspflichten wie vollständig erzeugte oder substanziell veränderte Inhalte.

Entscheidend ist die Wirkung des Bearbeitungsvorgangs. Wird nur die technische Qualität verbessert, ohne Aussage, Bedeutung oder Wahrnehmung wesentlich zu verändern, kann eine Ausnahme greifen. Werden Personen, Gegenstände, Stimmen, Aussagen oder Ereignisse hinzugefügt, entfernt oder inhaltlich umgestaltet, liegt regelmäßig keine bloße Standardbearbeitung mehr vor.

Die Grenze lässt sich nicht anhand des Namens einer Software ziehen. Dasselbe Werkzeug kann in einem Fall nur einen Tippfehler korrigieren und in einem anderen einen vollständigen Text erzeugen. Ein Bildprogramm kann lediglich Helligkeit und Kontrast anpassen oder eine gesamte Szene neu konstruieren.

Unternehmen benötigen deshalb nachvollziehbare interne Kriterien. Die Frage darf nicht lauten, ob KI verwendet wurde, sondern was die KI tatsächlich verändert hat. Gerade bei Nachrichtenbildern, Produktdarstellungen, Beweismitteln und personenbezogenen Aufnahmen ist eine dokumentierte Einzelfallprüfung unverzichtbar.

Deepfakes brauchen einen sichtbaren oder hörbaren Hinweis

Besonders streng sind die Anforderungen bei Deepfakes. Erfasst werden KI erzeugte oder manipulierte Bilder, Videos und Audioinhalte, die bestehenden oder realistisch möglichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich authentisch oder wahr erscheinen können.

Wer solche Inhalte im geschäftlichen oder beruflichen Zusammenhang veröffentlicht, muss ihre künstliche Erzeugung oder Manipulation offenlegen. Der Hinweis muss spätestens bei der ersten Wahrnehmung erfolgen und für Menschen verständlich sein. Eine ausschließlich maschinenlesbare Kennzeichnung im Hintergrund genügt nicht.

Bei Bildern und Videos wird daher regelmäßig ein sichtbarer Hinweis erforderlich sein. Bei synthetischen Stimmen, Podcasts oder automatisierten Anrufen kann eine hörbare Kennzeichnung notwendig werden. Der konkrete Wortlaut ist nicht für jeden Einsatz abschließend vorgeschrieben, muss den künstlichen oder manipulierten Charakter aber eindeutig vermitteln.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke besteht eine erleichterte Form der Offenlegung. Auch dort entfällt die Transparenzpflicht nicht vollständig. Sie darf jedoch so umgesetzt werden, dass die Darstellung oder der Genuss des Werkes nicht unangemessen beeinträchtigt wird.

Unternehmen sollten diese Ausnahme nicht mit einer allgemeinen Kreativitätsklausel verwechseln. Eine Werbekampagne wird nicht allein deshalb zu einem künstlerischen Werk, weil sie gestalterisch anspruchsvoll ist. Entscheidend bleiben Kontext, Täuschungspotenzial, Aussage und Erwartung des Publikums.

Produktbilder und Werbemotive werden zum Risikofeld

Besonders relevant sind die neuen Regeln für Handel, E Commerce und Werbung. Unternehmen verwenden zunehmend KI Bilder, um Produkte in Wohnungen, Landschaften oder Alltagssituationen zu zeigen. Problematisch wird dies, wenn künstliche Darstellungen Eigenschaften, Größenverhältnisse, Funktionen oder Anwendungssituationen suggerieren, die das reale Produkt nicht erfüllt.

Nicht jedes synthetische Werbemotiv ist automatisch ein Deepfake. Dennoch können Kennzeichnungspflichten, Verbraucherrecht und das Verbot irreführender Geschäftspraktiken gleichzeitig eingreifen. Ein technisch korrekt gekennzeichnetes Bild kann weiterhin rechtswidrig sein, wenn es Kunden über das Produkt täuscht.

Agenturen und Marketingabteilungen sollten daher zwischen dekorativen Illustrationen, realitätsnahen Produktdarstellungen und scheinbar dokumentarischen Bildern unterscheiden. Je stärker ein Motiv als fotografischer Nachweis einer tatsächlichen Eigenschaft verstanden werden kann, desto höher ist das rechtliche Risiko.

Die Verantwortung darf nicht vollständig auf die Agentur oder den Bildanbieter verlagert werden. Das veröffentlichende Unternehmen entscheidet über Kontext, Aussage und Reichweite der Kampagne. Es muss deshalb vor der Freigabe prüfen, ob Kennzeichnung, Bildaussage und tatsächliche Produkteigenschaften miteinander vereinbar sind.

Synthetische Stimmen und Avatare verlangen besondere Vorsicht

KI Stimmen können Kundenanrufe führen, Videos vertonen, Texte vorlesen oder reale Personen imitieren. Wird eine Stimme künstlich erzeugt, ohne eine bestimmte reale Person nachzuahmen, kann bereits die allgemeine Transparenzpflicht für die Interaktion mit einem KI System greifen. Wird eine konkrete Stimme imitiert, steigt das Risiko erheblich.

Neben dem AI Act können Persönlichkeitsrechte, Datenschutz, Urheberrecht, Wettbewerbsrecht und strafrechtliche Vorschriften berührt sein. Die Zustimmung der betroffenen Person zur Verwendung ihrer Stimme oder ihres Erscheinungsbildes muss klar dokumentiert und auf den konkreten Zweck begrenzt sein. Eine frühere Aufnahmeerlaubnis bedeutet nicht automatisch, dass daraus später ein dauerhaft nutzbares Stimmenmodell erstellt werden darf.

Bei digitalen Avataren sollte bereits zu Beginn der Interaktion erkennbar sein, ob ein realer Mitarbeiter oder eine künstliche Figur kommuniziert. Werden reale Personen dargestellt, müssen Unternehmen zusätzlich klären, ob Bild, Stimme, Bewegungsmuster und Identität rechtmäßig verwendet werden.

Besondere Vorsicht ist bei Führungskräften, bekannten Persönlichkeiten und Mitarbeitern geboten. Ein synthetisches Video des Geschäftsführers kann intern harmlos wirken, extern aber den Eindruck einer echten Erklärung oder verbindlichen Zusage erzeugen. Transparenz und Freigabeprozesse müssen deshalb vor der Veröffentlichung geklärt sein.

Für öffentliche Informationstexte gelten eigene Regeln

Unternehmen, Medien und Organisationen müssen KI erzeugte oder manipulierte Texte kennzeichnen, wenn diese veröffentlicht werden, die Öffentlichkeit informieren sollen und Themen von öffentlichem Interesse betreffen. Dazu zählen unter anderem Politik, Verwaltung, Justiz, öffentliche Sicherheit, Gesundheit, Umwelt, Verbraucherfragen sowie wirtschaftliche, finanzielle, wissenschaftliche und kulturelle Entwicklungen von öffentlicher Bedeutung.

Diese Regel bedeutet nicht, dass jeder Text mit irgendeiner KI Unterstützung gekennzeichnet werden muss. Eine wichtige Ausnahme besteht, wenn der Inhalt einer echten menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.

Die Prüfung muss sich auf die inhaltliche Substanz beziehen. Eine bloße Rechtschreibkontrolle, automatische Formatierung oder oberflächliche Freigabe genügt nicht. Erforderlich ist eine Person mit ausreichender Sachkenntnis und tatsächlicher Befugnis, Aussagen zu prüfen, Quellen zu bewerten, Änderungen zu verlangen oder die Veröffentlichung abzulehnen.

Für Redaktionen ist diese Abgrenzung zentral. KI kann bei Übersetzungen, Zusammenfassungen, Strukturierung, Transkription oder Formulierung unterstützen, ohne dass jeder veröffentlichte Beitrag zwingend als KI Text gekennzeichnet werden muss. Voraussetzung ist jedoch, dass eine echte redaktionelle Kontrolle stattfindet und die Verantwortung nicht an ein System delegiert wird.

Medienhäuser sollten diesen Prozess nachweisbar organisieren. Ein Impressum allein beweist noch keine inhaltliche Kontrolle. Sinnvoll sind dokumentierte Freigaben, klare Zuständigkeiten, nachvollziehbare Bearbeitungsschritte und eine interne Regel, welche Inhalte vor der Veröffentlichung besonders intensiv geprüft werden müssen.

KI Bilder in Nachrichtenmedien brauchen eine klare Einordnung

Bei redaktionellen Titelbildern, Illustrationen und Visualisierungen ist zwischen dokumentarischer Darstellung und symbolischer Bebilderung zu unterscheiden. Ein offensichtlich illustratives Motiv kann anders zu bewerten sein als ein fotorealistisches Bild, das den Eindruck erweckt, ein bestimmtes Ereignis habe tatsächlich stattgefunden.

Wird eine reale Person in einer nicht geschehenen Situation gezeigt, liegt ein erhebliches Täuschungsrisiko vor. Dass das Bild lediglich als Titelmotiv dient, beseitigt dieses Risiko nicht. Eine klare Bildunterschrift oder ein unmittelbar zuordenbarer Hinweis kann deshalb erforderlich sein.

Rein technische Metadaten reichen bei einem möglichen Deepfake nicht aus. Leser müssen die künstliche Erzeugung erkennen können, ohne ein Prüfprogramm zu verwenden oder zusätzliche Menüs zu öffnen. Der Hinweis sollte so platziert werden, dass er auch bei Einbettungen, Vorschaubildern und Weiterverbreitung nicht vollständig verloren geht.

Für Medien empfiehlt sich eine feste Bildrichtlinie. Sie sollte zwischen dokumentarischem Material, redaktioneller Illustration, KI unterstützter Bearbeitung und vollständig synthetischen Bildern unterscheiden. Ebenso muss geregelt sein, welche Eingriffe an Pressefotos zulässig sind und wann eine sichtbare Offenlegung erfolgt.

Emotionserkennung ist nicht nur eine Frage der Kennzeichnung

Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen betroffene Personen grundsätzlich über deren Einsatz informieren. Die Verpflichtung kann sowohl bei einer Analyse in Echtzeit als auch bei einer späteren Auswertung greifen. Gleichzeitig bleiben Datenschutz und andere Grundrechte vollständig anwendbar.

Unternehmen dürfen daraus nicht schließen, jedes derartige System sei mit einem Hinweis automatisch zulässig. Bestimmte Formen der Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sind grundsätzlich verboten, soweit keine eng begrenzten medizinischen oder sicherheitsbezogenen Gründe vorliegen.

Auch biometrische Kategorisierungen können unzulässig sein, wenn aus körperlichen Merkmalen besonders sensible Eigenschaften wie politische Ansichten, Gewerkschaftszugehörigkeit, Religion oder sexuelle Orientierung abgeleitet werden sollen. Eine transparente Information heilt ein gesetzliches Verbot nicht.

Personalabteilungen sollten deshalb Systeme für Bewerbungsgespräche, Videoanalysen, Leistungsbewertung und Mitarbeiterüberwachung besonders kritisch prüfen. Anbieter versprechen häufig Aussagen über Aufmerksamkeit, Stress, Persönlichkeit oder Motivation, deren Einsatz rechtlich und wissenschaftlich hochproblematisch sein kann.

Die Hochrisikoregeln wurden verschoben, aber nicht aufgehoben

Ein häufiger Fehler besteht darin, sämtliche Pflichten des AI Act mit dem 2. August 2026 gleichzusetzen. Die umfassenden Anforderungen für viele Hochrisiko Systeme gelten noch nicht vollständig. Der im Juli 2026 in Kraft getretene AI Omnibus hat zentrale Fristen verlängert.

Die Hochrisikoregeln für die in Anhang III genannten sensiblen Einsatzbereiche sollen ab dem 2. Dezember 2027 gelten. Dazu gehören unter anderem bestimmte Anwendungen in Beschäftigung, Bildung, kritischer Infrastruktur, Strafverfolgung, Migration und Zugang zu wesentlichen privaten oder öffentlichen Dienstleistungen.

Für Hochrisiko Systeme, die als Sicherheitsbestandteil in regulierte Produkte wie Maschinen, Spielzeug, Aufzüge oder bestimmte Medizinprodukte eingebettet sind, beginnt die entsprechende Phase grundsätzlich am 2. August 2028. Die Verschiebung soll Unternehmen mehr Zeit geben, technische Standards, Konformitätsverfahren und Dokumentationsprozesse umzusetzen.

Sie bedeutet jedoch keine Entwarnung. Verbotene Praktiken gelten bereits, Transparenzpflichten gelten ab sofort und andere Vorschriften aus Datenschutz, Arbeitsrecht, Produktsicherheit oder Verbraucherrecht bleiben unberührt. Unternehmen, die mögliche Hochrisiko Systeme einsetzen, sollten die zusätzliche Zeit für Vorbereitung nutzen und nicht auf den letzten Termin warten.

Für ältere Systeme gilt nur eine begrenzte Übergangsfrist

Für KI Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht oder in Betrieb genommen wurden, besteht eine begrenzte Übergangsregel. Sie betrifft ausschließlich die Pflicht der Anbieter, künstlich erzeugte oder manipulierte Inhalte maschinenlesbar zu markieren und ihre Erkennbarkeit sicherzustellen.

Für diese bestehenden Systeme läuft die Frist bis zum 2. Dezember 2026. Andere Transparenzpflichten werden dadurch nicht pauschal aufgeschoben. Insbesondere sichtbare Offenlegungen bei Deepfakes oder bestimmten öffentlichen Informationstexten sind nicht automatisch von dieser Übergangsregel erfasst.

Bereits vor dem 2. August 2026 erzeugte Inhalte müssen grundsätzlich nicht rückwirkend gekennzeichnet werden. Unternehmen sollten dennoch prüfen, ob ältere Inhalte weiterhin verbreitet werden, ein hohes Täuschungspotenzial besitzen oder nach anderen Gesetzen problematisch sein können.

Auch bei freiwilliger Nachkennzeichnung ist eine einheitliche Vorgehensweise sinnvoll. Unterschiedliche Hinweise für gleichartige Inhalte können beim Publikum mehr Verwirrung als Transparenz erzeugen. Eine klare interne Regel schützt deshalb nicht nur rechtlich, sondern stärkt auch die Glaubwürdigkeit.

Der freiwillige Verhaltenskodex kann zum praktischen Maßstab werden

Die Europäische Kommission hat einen Verhaltenskodex für die Transparenz KI erzeugter Inhalte entwickelt. Die Teilnahme ist freiwillig, die gesetzlichen Pflichten des Artikels 50 sind es nicht. Unternehmen können den Kodex nutzen, um ihre Umsetzung nachvollziehbar und unionsweit einheitlich zu gestalten.

Wer sich dem Kodex anschließt und seine Vorgaben tatsächlich erfüllt, erhält eine stärkere Grundlage, um die eigene Compliance nachzuweisen. Wer einen anderen Weg wählt, muss darlegen können, dass die gewählten Maßnahmen ebenso geeignet sind.

Auch die von der EU bereitgestellten Kennzeichnungssymbole sind nicht zwingend. Ihr Einsatz kann eine einheitliche Kommunikation erleichtern, beweist allein aber noch keine vollständige Rechtskonformität. Entscheidend bleiben Platzierung, Verständlichkeit, Wahrnehmbarkeit und der konkrete Kontext.

Für größere Unternehmen kann eine Teilnahme strategisch sinnvoll sein, weil unterschiedliche nationale Auslegungen reduziert werden sollen. Kleinere Unternehmen sollten zumindest prüfen, ob die dort beschriebenen Maßnahmen als Vorlage für eigene Prozesse dienen können.

Bußgelder sind nur ein Teil des Risikos

Verstöße gegen die Transparenzpflichten können mit Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden. Bei Unternehmen ist grundsätzlich der höhere Betrag maßgeblich, wobei Größe, Schwere, Dauer und Umstände des Verstoßes berücksichtigt werden.

Für verbotene KI Praktiken liegen die möglichen Höchstgrenzen noch höher. Hier können bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes erreicht werden. Für kleinere und mittlere Unternehmen gelten besondere Regeln zur Verhältnismäßigkeit.

Die Höchstbeträge werden nicht automatisch bei jedem Verstoß verhängt. Behörden müssen den Einzelfall prüfen und Sanktionen verhältnismäßig festsetzen. Dennoch wäre es fahrlässig, die Vorschriften allein deshalb zu unterschätzen, weil erste Verfahren wahrscheinlich Zeit benötigen.

Neben Bußgeldern drohen Unterlassungsanordnungen, Produktrücknahmen, Vertragsstreitigkeiten und Schadenersatzforderungen. Hinzu kommen Reputationsschäden, wenn Kunden oder Geschäftspartner feststellen, dass künstliche Inhalte verschleiert oder Personen durch KI Systeme getäuscht wurden.

Die Aufsicht wird national und europäisch verteilt

Die Durchsetzung liegt überwiegend bei den zuständigen Marktüberwachungsbehörden der Mitgliedstaaten. Das europäische AI Office besitzt besondere Zuständigkeiten für Anbieter von Modellen mit allgemeinem Verwendungszweck und für bestimmte Systeme, die eng mit solchen Modellen oder sehr großen Onlineplattformen verbunden sind.

In Deutschland übernimmt die Bundesnetzagentur eine zentrale Rolle als Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle. Daneben können je nach Branche und Produkt weitere Fachbehörden zuständig bleiben. Unternehmen sollten deshalb nicht davon ausgehen, dass sämtliche Fragen ausschließlich über eine einzige Stelle laufen.

In Österreich dient die KI Servicestelle bei der RTR als Informationsstelle und Ansprechpartner für Unternehmen und Öffentlichkeit. Die konkrete Aufsicht kann abhängig vom System, Einsatzbereich und bestehender Fachzuständigkeit auf mehrere Behörden verteilt sein. Die RTR ist deshalb nicht in jedem Fall automatisch die alleinige Sanktionsbehörde.

Internationale Unternehmen können sich der Verordnung nicht dadurch entziehen, dass ihr Sitz außerhalb der Europäischen Union liegt. Der AI Act kann auch für Anbieter aus Drittstaaten gelten, wenn deren Systeme in der EU angeboten werden oder ihre Ergebnisse innerhalb der Union verwendet werden.

Was Unternehmen jetzt praktisch tun müssen

Der erste Schritt ist ein vollständiges KI Inventar. Unternehmen müssen wissen, welche Systeme offiziell beschafft wurden, welche Werkzeuge einzelne Abteilungen verwenden und welche KI Funktionen bereits in bestehender Software enthalten sind. Ohne eine solche Übersicht ist keine belastbare rechtliche Einordnung möglich.

Danach muss für jedes System der konkrete Zweck dokumentiert werden. Ein allgemeiner Eintrag wie „Textgenerierung“ reicht nicht aus. Relevant ist, ob das Werkzeug interne Entwürfe erstellt, Kunden berät, Bewerbungen bewertet, Bilder veröffentlicht oder Entscheidungen vorbereitet.

Im dritten Schritt ist die Rolle des Unternehmens festzulegen. Anbieter, Betreiber, Importeur und Händler haben unterschiedliche Pflichten. Die Einordnung sollte schriftlich begründet und bei Änderungen des Systems oder Verwendungszwecks erneut geprüft werden.

Anschließend müssen die Transparenzpunkte bestimmt werden. Unternehmen sollten festlegen, wo Nutzer über einen Chatbot informiert werden, wie Deepfakes sichtbar gekennzeichnet werden und welche technischen Herkunftsinformationen erhalten bleiben müssen. Diese Anforderungen gehören in Produktentwicklung, Einkauf, Marketing und redaktionelle Freigabe.

Der fünfte Schritt betrifft die Verträge mit Dienstleistern. Anbieter sollten Informationen über Systemarchitektur, Kennzeichnung, Datenverarbeitung, Aktualisierungen und regulatorische Änderungen bereitstellen. Unternehmen benötigen außerdem Rechte auf Prüfung, Dokumentation und Unterstützung bei Behördenanfragen.

Danach sind Freigabeprozesse für Inhalte erforderlich. Realitätsnahe Bilder, synthetische Stimmen, Avatare und öffentliche Informationstexte sollten nicht ohne definierte menschliche Kontrolle veröffentlicht werden. Die zuständige Person muss tatsächlich befugt sein, Inhalte zu ändern oder abzulehnen.

Der siebte Schritt ist die technische Prüfung. Unternehmen sollten testen, ob maschinenlesbare Kennzeichnungen nach Export, Komprimierung und Upload erhalten bleiben. Eine bloße Herstellerbestätigung ersetzt keinen eigenen Test in den tatsächlich verwendeten Produktionsabläufen.

Schließlich müssen alle Maßnahmen dokumentiert und regelmäßig überprüft werden. Aufsichtsbehörden werden nicht nur danach fragen, ob ein Hinweis sichtbar war. Sie können auch wissen wollen, wer das System freigegeben hat, welche Risikoprüfung vorgenommen wurde und wie das Unternehmen die dauerhafte Einhaltung sicherstellt.

Eine KI Richtlinie allein genügt nicht

Viele Unternehmen haben inzwischen allgemeine Regeln zur Nutzung generativer KI eingeführt. Solche Richtlinien sind sinnvoll, reichen aber nicht aus, wenn sie lediglich vertrauliche Dateneingaben verbieten und eine menschliche Kontrolle empfehlen.

Eine belastbare Governance braucht klare Verantwortlichkeiten. Geschäftsführung, Rechtsabteilung, Datenschutz, Informationssicherheit, Einkauf, Personalabteilung, Kommunikation und Produktentwicklung müssen wissen, welche Entscheidungen sie treffen und welche Nachweise sie führen müssen.

Ebenso wichtig ist ein Verfahren für neue Systeme. KI Funktionen werden häufig durch gewöhnliche Softwareupdates eingeführt, ohne dass ein neues Produkt beschafft wird. Unternehmen sollten deshalb auch bestehende Anwendungen regelmäßig darauf prüfen, ob neue generative, biometrische oder entscheidungsunterstützende Funktionen hinzugekommen sind.

Compliance darf zudem nicht auf die Rechtsabteilung beschränkt bleiben. Ein rechtlich sauberer Hinweis nützt wenig, wenn die technische Kennzeichnung beim Export verloren geht oder eine Agentur das Motiv ohne Offenlegung auf sozialen Netzwerken veröffentlicht.

Die häufigsten Fehler liegen nicht im Gesetz, sondern im Prozess

Das größte Risiko ist häufig nicht die bewusste Umgehung der Vorschriften. Gefährlicher sind unklare Zuständigkeiten, nicht dokumentierte Werkzeuge und Produktionsketten, in denen niemand den vollständigen Überblick besitzt.

Marketingabteilungen erhalten Bilder von Agenturen, Redaktionen übernehmen Übersetzungen von freien Mitarbeitern und Personalabteilungen testen Software ohne zentrale Freigabe. In jedem dieser Fälle kann das Unternehmen verantwortlich sein, obwohl die konkrete KI Nutzung außerhalb der Rechtsabteilung stattgefunden hat.

Ein weiterer Fehler ist die pauschale Kennzeichnung sämtlicher Inhalte. Ein allgemeiner Hinweis, dass ein Unternehmen „KI verwendet“, erfüllt die konkrete Transparenzpflicht nicht. Die Information muss dem betreffenden System oder Inhalt eindeutig zugeordnet werden.

Ebenso problematisch ist das Gegenteil, nämlich die Annahme, menschliche Nachbearbeitung beseitige jede Offenlegungspflicht. Eine kleine Korrektur macht aus einem künstlich erzeugten Bild kein menschlich geschaffenes Werk. Entscheidend bleiben Ursprung, Umfang der Manipulation und mögliche Täuschung.

Die entscheidende Frage lautet nicht, ob KI verwendet wird

Der 2. August 2026 markiert keinen pauschalen Kennzeichnungszwang für jede Form von KI Unterstützung. Er beendet aber die Phase, in der Unternehmen generative und interaktive Systeme ohne klare Herkunftsregeln in bestehende Prozesse integrieren konnten.

Wer KI lediglich als neues Softwarewerkzeug behandelt, greift zu kurz. Der AI Act verlangt eine Einordnung nach Rolle, Zweck, Risiko, Zielgruppe und Wirkung. Dabei treffen technische Produktpflichten, sichtbare Transparenz, menschliche Verantwortung und organisatorische Nachweise aufeinander.

Für Unternehmen liegt die eigentliche Herausforderung deshalb nicht in einem einzelnen Hinweis unter einem Bild. Sie liegt in der Beherrschung der gesamten Kette, von der Auswahl eines Systems über seine Konfiguration und Nutzung bis zur Veröffentlichung des Ergebnisses.

Die europäischen Regeln lassen Spielräume, aber keine Verantwortungslücke. Unternehmen, die ihre Systeme inventarisieren, Zuständigkeiten festlegen und Freigaben dokumentieren, können KI weiterhin produktiv einsetzen. Wer dagegen auf unklare Herstellerversprechen, versteckte Hinweise oder formale Alibikontrollen vertraut, macht aus einer technischen Innovation ein vermeidbares Rechtsrisiko.