EU AI Act: Was Unternehmen jetzt wissen müssen

„Das war ich nicht, das war die KI!“ Nice try. Doch diese Ausrede zieht rechtlich nicht mehr. Wer KI-Tools im Unternehmen nutzt, ist grundsätzlich für die Ergebnisse verantwortlich. Spätestens seit den jüngsten Gerichtsurteilen ist klar: Der Freifahrtschein ist abgelaufen. Parallel dazu zündet am 2. August 2026 die nächste Stufe des EU AI Acts.

Ab dann greifen neue Transparenz- und Kennzeichnungspflichten – vor allem für Chatbots, Deepfakes und bestimmte automatisch veröffentlichte Inhalte. Was heißt das konkret für Marketing, Vertrieb und Redaktion? Hier kommt der Praxis-Check.

Schonfrist vorbei: Das ändert sich jetzt durch die KI-Verordnung

Dass Unternehmen für ihre KI-Outputs geradestehen müssen, sollte eigentlich selbstverständlich sein. Tatsächlich argumentierte aber erst neulich wieder der IT-Verantwortliche eines Kunden: „Was können wir denn dafür, wenn ChatGPT das sagt? Das haben wir da doch nicht reingeschrieben.“

Technisch mag das stimmen, juristisch aber kommen Firmen damit nicht mehr durch. So urteilte das Oberlandesgericht Hamm: „Falschaussagen des Bots sind irreführende geschäftliche Handlung des Unternehmens“ – im konkreten Fall ging es um erfundene Facharzttitel durch einen Praxis-Bot. Das Beispiel zeigt: Wer KI-Inhalte publiziert oder Kund:innen mit Bots sprechen lässt, trägt das finanzielle und rechtliche Risiko. Das OLG München hat in einem ähnlichen Fall Google verurteilt: Es muss für die Inhalte seiner AI Overviews geradestehen.

Neben solchen Gerichtsurteilen setzt der EU AI Act (aka Künstliche-Intelligenz-Verordnung) Leitplanken für den verantwortungsvollen Einsatz von KI. Statt eines Flickenteppichs verschiedener nationaler KI-Gesetze bietet der AI Act einen einheitlichen Rechtsrahmen für die Entwicklung und Nutzung von KI-Systemen in der gesamten Europäischen Union. Diese Gesetze für künstliche Intelligenz gelten – je nach Rolle und Einsatz – für Anbieter:innen und professionelle Nutzer:innen von KI-Systemen.

Der AI-Act-Fahrplan im Überblick:

• 1. August 2024: Generelles Inkrafttreten der KI-Verordnung auf EU-Ebene.
• Seit Februar 2025: Pflicht zur KI-Kompetenzförderung (AI Literacy) im Unternehmen. Verbot von Systemen mit unannehmbarem Risiko.
• Seit August 2025: zusätzliche Pflichten für Anbieter von General-Purpose-AI-Modellen (wie ChatGPT oder Gemini). Verhaltenskodizes können dabei als Orientierung für die Umsetzung dienen.
• Neu ab 2. August 2026: AI-Act-Kennzeichnungspflicht für bestimmte KI-Anwendungen und Inhalte – insbesondere Chatbots, Deepfakes und besondere Fälle vollautomatisch veröffentlichter Beiträge.

Wichtig: Die meisten im Business eingesetzten Generativen KI-Tools (Chatbots, Bild- und Videogeneratoren) fallen in die Stufe 3 (begrenztes Risiko). Heißt im Klartext: Transparenz ist Pflicht.

 

Transparenz in der Praxis: Wann greift die KI-Kennzeichnungspflicht?

Ab August 2026 muss KI-generierter Content grundsätzlich kenntlich gemacht werden. Im Wortlaut des Gesetzes klingt das so:

„Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. (...)“
AI Act, Artikel 50 Absatz 4

Im Grundsatz ist es simpel: Wer Öffentlichkeit oder Kundschaft mit vollautomatischem KI-Content bespielt, für den gilt die AI-Act-Kennzeichnungspflicht.

Aber bevor nun alle in einen Kennzeichnungswahn verfallen: Es gibt eine entscheidende Ausnahme – nämlich wenn der Mensch kontrollierend eingreift. Durch das Prinzip des „Human-in-the-Loop“ entfällt oftmals die KI-Kennzeichnungspflicht.

Texte, Bilder, Videos: Kennzeichnungspflicht im Praxis-Check

Nicht jeder KI-Content braucht künftig einen großen „KI-generiert“-Stempel. Die neuen Regeln unterscheiden genauer: Wer stellt das System bereit, wer nutzt es – und welche Art von Inhalt entsteht?

Für Unternehmen sind vor allem drei Situationen wichtig:

1. Chatbots und Voicebots: Klar sagen, wenn eine KI antwortet. Wenn Kund:innen direkt mit einem Chatbot, KI-Agenten oder Voicebot sprechen, muss von Anfang an erkennbar sein, dass keine natürliche Person antwortet. Praktisch reicht oft ein klarer Hinweis wie: „Sie chatten mit unserem KI-Assistenten.“
2. Deepfakes: Täuschend echte Inhalte kennzeichnen. Es gilt eine strenge Kennzeichnungspflicht für KI-Videos, KI-Bilder oder Audios, die reale Personen oder Ereignisse täuschend echt vorgaukeln. Bei Kunst, Satire oder fiktionalen Formaten gelten Ausnahmen. Auch dort sollte aber deutlich werden, wenn der Inhalt nicht echt ist – schon um Missverständnisse zu vermeiden.
3. Vollautomatische Beiträge zu Themen von öffentlichem Interesse. Besondere Regeln gelten für KI-generierte oder KI-manipulierte Texte, die ohne menschliche redaktionelle Kontrolle publiziert werden, um über Themen von öffentlichem Interesse zu informieren.

Die gute Nachricht für Teams in Marketing und Redaktion: Wer als „Human-in-the-Loop“ Inhalte sorgfältig prüft, überarbeitet und redaktionell verantwortet, braucht in den meisten Fällen (wichtigste Ausnahme: Deepfakes) keine Kennzeichnung vorzunehmen. Aber: Ein finaler Klick allein genügt nicht. Entscheidend ist, dass die Kontrolle tatsächlich stattfindet und nicht nur auf dem Papier steht.

Vier Tipps zur KI-Kennzeichnungspflicht

• Chatbots und Voicebots mit einem klaren KI-Hinweis versehen.
• Für Deepfakes und andere täuschend echte KI-Medien einen Kennzeichnungsprozess einführen.
• Für automatisch veröffentlichte Inhalte festlegen, wann ein menschliches Lektorat erforderlich ist.
• Verantwortlichkeiten dokumentieren: Wer prüft, wer gibt frei, wer reagiert bei Fehlern?

AI & Copyright: Urheberrecht und geistiges Eigentum bei KI-Inhalten

Generative KI produziert in Sekunden Texte, Bilder, Musik und Videos. Das ist kreativ – und kann rechtlich heikel werden. Stichwort: IP-Recht (Intellectual Propery Law). Vor einer Veröffentlichung lohnt sich ein kurzer Rechte-Check in puncto AI und Copyright:

1. Urheberrecht: nicht blind übernehmen. KI-Ergebnisse können geschützten Werken zu ähnlich sein oder Textpassagen enthalten, die nicht einfach übernommen werden dürfen. Wer einen Output veröffentlicht oder kommerziell nutzt, sollte ihn deshalb auf auffällige Übernahmen, Quellen und Plausibilität prüfen.
   Rein automatisch erzeugte Inhalte sind in Deutschland nicht als urheberrechtliches Werk geschützt, da Urheberrecht eine geistige Schöpfung voraussetzt. Wer KI-Ergebnisse kreativ auswählt, deutlich bearbeitet oder in ein eigenes Konzept einbettet, kann jedoch selbst schutzfähige Elemente schaffen.
2. Marken und Designs: Logos nicht dem Zufall überlassen. Ein generiertes Bild mit fremdem Logo, charakteristischem Produktdesign oder einer bekannten Verpackung kann Ärger machen – besonders in Werbung, Social Media oder im Online-Shop. Vor der kommerziellen Nutzung gilt daher: genauer hinsehen.
3. Persönlichkeitsrechte: immer Freigabe einholen. KI kann Gesichter und Stimmen erstaunlich überzeugend nachbilden. Für Werbung oder andere kommerzielle Einsätze ist eine ausdrückliche Einwilligung der betroffenen Person der sichere Weg. Bei Bildern gelten zudem die Regeln zum Recht am eigenen Bild. Kunst, Satire und Berichterstattung können anders zu bewerten sein – ein Freifahrtschein sind sie nicht.
4. Leistungsschutzrecht: Inhalte von Verlagen und Medien mit Augenmaß zusammenfassen. Wer Presseartikel automatisiert zusammenfasst und für eigene Kanäle nutzt, sollte prüfen, wie nah der Output am Original ist und welche Rechte betroffen sein können. Besonders bei umfangreichen oder sehr nahen Übernahmen ist Vorsicht geboten.

Fazit: Menschliche Kontrolle ist zwar keine Garantie gegen Rechtsprobleme. Der „Human-in-the-Loop“ ist aber auch im IP-Recht ein wirksames Sicherheitsnetz gegen Fehler, Halluzinationen und ungewollte Rechtsverletzungen.

AI Literacy: Nachweispflicht von KI-Kompetenz wird verschärft

Die Vorgabe, Teams im sicheren Umgang mit KI zu schulen, existiert auf dem Papier bereits seit 2025. Alle Firmen müssen demnach „nach bestem Kräften sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kenntnisse verfügen.“ Dabei seien „technische Kenntnisse, Erfahrung, Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen“, zu beachten. 

Nicht jede Person braucht eine technische Spezialausbildung. Mitarbeitende sollten aber verstehen, welche Tools sie nutzen dürfen, welche Daten tabu sind, wann Ergebnisse geprüft werden müssen und wo sie bei Unsicherheiten Unterstützung bekommen.

Wichtig: Die EU hat die Vorgaben zur AI Literarcy im Rahmen ihrer „KI-Omnibus“-Novelle 2026 etwas abgemildert: Unternehmen müssen diese nicht mehr aus sich heraus „sicherstellen“, sondern nur noch „unterstützen“. Zudem sind für Verstöße gegen die Kompetenzverpflichtung keine Geldstrafen mehr vorgesehen – wie es lange kolportiert wurde. Allerdings: Ihre oben beschriebene „Unterstützungs“-Leistung müssen Firmen ab August 2026 dokumentieren.

Ein guter Start:

• kurze, praxisnahe KI-Schulungen für die relevanten Teams
• Regeln für den Umgang mit vertraulichen und personenbezogenen Daten
• klare Freigabeprozesse für besonders sensible Inhalte
• eine Dokumentation der Maßnahmen – nicht als Bürokratie-Übung, sondern damit Standards nachvollziehbar bleiben

Idealerweise halten Unternehmen dies alles in einer kurzen KI-Guideline fest.

AI-Act-Zusammenfassung: Checkliste für die Praxis

KI macht Prozesse effizienter – aber das rechtliche Setup muss stimmen. Als essenzielle AI-Act-Zusammenfassung gilt: Die neuen Vorgaben sind kein Innovationsstopp. Sie setzen vielmehr Leitplanken für den verantwortungsvollen und rechtssicheren Einsatz von KI. 

Vier Empfehlungen für Unternehmen:

1. Klare KI-Guidelines verankern: Ein verbindlicher Rahmen schafft Klarheit. Welche Tools sind freigegeben? Wie werden Kundendaten geschützt? Wo ist KI erwünscht und wo tabu?
2. „Human-in-the-Loop“ als Standard etablieren: Konsequentes Lektorat ist Pflicht. Kein KI-Output geht ohne menschliche Kontrolle live. Das schützt vor Haftungsfällen und befreit in vielen Fällen von der Kennzeichnungspflicht.
3. KI-Schulungen umsetzen und dokumentieren: Schulung ist keine Einmal-Aktion, sondern stetiges Enablement. Teams sollten praxisnah befähigt und Nachweise dafür dokumentiert werden.
4. Interne KI-Pfadfinder:innen benennen: Verantwortliche im Team sollten den Hut aufhaben, neue Tools zu testen, rechtliche Frameworks im Blick zu behalten und Wissen aktiv zu teilen.

Sie möchten Ihre Organisation fit für den AI Act machen oder suchen Unterstützung bei der Erstellung von KI-Guidelines und Schulungen für Ihre Mitarbeitenden? Sprechen Sie uns an – das Team von In A Nutshell und unserer KI-Beratung disruptive unterstützt Sie gerne!

Deep Dive gefällig? Im disruptive-Blog werden 16 konkrete Fragen rund um den EU AI Act ausführlich beantwortet.

Hinweis zur Rechtssicherheit: Dieser Text über den AI Act für Unternehmen basiert auf gründlichen Recherchen und Gesprächen mit Expert:innen, ist aber keine belastbare juristische Bewertung. Wir übernehmen keine Haftung für eventuelle Fehleinschätzungen.