Chatbot im Kundenkontakt
Art. 50 Abs. 1Wer mit einer KI chattet, muss das wissen, außer es ist sowieso offensichtlich. Die Technik dafür liefert der Anbieter.
Am Ball: AnbieterSaschas Tipp von der Seitenlinie
Müsst ihr KI-Inhalte kennzeichnen?
In zwei Minuten wisst ihr, ob die Kennzeichnungspflicht euch betrifft.
Stand 20. Oktober 2026
Sascha Herbst
Die Lage
Was gilt seit dem 2. August 2026?
Seit diesem Tag gilt Artikel 50 der KI-Verordnung (EU AI Act). Er regelt, wann andere erfahren müssen, dass KI mitgespielt hat.
Spielt ihr mit KI oder baut ihr sie?
Die Verordnung kennt zwei Rollen. Anbieter bauen KI-Systeme und bringen sie unter eigenem Namen raus, zum Beispiel OpenAI, Anthropic, Google oder Microsoft. Betreiber nutzen KI im Job.
Arbeitet ihr mit ChatGPT, Claude, Gemini oder Copilot, seid ihr Betreiber. Für euch zählen damit drei Situationen: Emotionserkennung, Deepfakes und bestimmte Texte.
Und die 15 Millionen Euro?
Die Zahl steht in Artikel 99. Bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, was höher ist. Für kleine und mittlere Unternehmen gilt der niedrigere Wert.
Beides sind Obergrenzen. Wie hoch es im Einzelfall wird, hängt von den Umständen ab.
Wer pfeift in Deutschland?
Die Bundesnetzagentur. Das deutsche KI-Gesetz (KI-MIG) macht sie zur Aufsicht für die KI-Verordnung. Der Bundestag hat es am 11. Juni 2026 beschlossen, der Bundesrat hat es am 10. Juli 2026 passieren lassen, seit Ende Juli ist es in Kraft. Verstöße sind Ordnungswidrigkeiten.
Was heißt das für euren Alltag?
Unsere Einschätzung: meistens Entwarnung. Werbung, Produkttexte und eure Website fallen in der Regel nicht unter die Pflicht. Der Check zeigt in höchstens vier Schritten, ob das auch für eure Situation gilt.
Der Schnellcheck
Betrifft euch die Kennzeichnungspflicht?
Eine Frage pro Schritt. Am Ende seht ihr euer Ergebnis und die Regel, auf der es beruht. Eure Antworten bleiben in eurem Browser.
Die Fragen
- Wie spielt ihr mit KI? Die KI-Verordnung kennt zwei Rollen. Anbieter bauen KI-Systeme und bringen sie unter eigenem Namen raus. Betreiber nutzen KI im Job.
- Wir nutzen KI-Werkzeuge wie ChatGPT, Claude, Gemini oder Copilot.: weiter mit Frage 2
- Wir bauen ein eigenes KI-System oder bringen eines unter unserem Namen raus.: Ergebnis: Für Anbieter gelten eigene Regeln
- Was hat die KI gemacht? Nehmt die Situation, um die es gerade geht. Für eine weitere startet ihr den Check danach einfach noch einmal.
- Einen Text geschrieben oder überarbeitet: weiter mit Frage 3
- Ein Bild, Ton oder Video erzeugt oder verändert: weiter mit Frage 5
- Ein Chatbot spricht mit Kunden oder Besuchern.: Ergebnis: Setzt einen klaren Hinweis
- Ein System erkennt Emotionen oder ordnet Menschen nach biometrischen Merkmalen ein.: Ergebnis: Ihr müsst informieren
- Veröffentlicht ihr den Text, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren? Gemeint sind Nachrichten, Berichte und Beiträge zu Politik, Gesundheit, Sicherheit, Umwelt oder öffentlichen Debatten.
- Nein: Ergebnis: Keine Kennzeichnung nötig
- Ja: weiter mit Frage 4
- Hat jemand aus dem Team den Text vor der Veröffentlichung geprüft, und steht eine Person oder euer Unternehmen dafür ein? Beides zählt zusammen: ein Mensch hat geprüft, und jemand trägt die redaktionelle Verantwortung.
- Ja, beides: Ergebnis: Keine Kennzeichnung nötig
- Nein: Ergebnis: Hier braucht es einen Hinweis
- Sieht der Inhalt aus wie echte Menschen, Dinge, Orte oder Ereignisse, und könnte er als echt durchgehen? Dann ist er ein Deepfake im Sinne der KI-Verordnung. Erkennbare Illustrationen, Icons, abstrakte Bilder und offensichtliche Animationen gehören nicht dazu.
- Nein: Ergebnis: Keine Kennzeichnung nötig
- Ja: Ergebnis: Hier braucht es einen Hinweis
- Unsicher: Ergebnis: Im Zweifel kennzeichnen
Die Ergebnisse
Genauer hinschauen
Für Anbieter gelten eigene Regeln
Regel: Art. 50 Abs. 1 und 2 KI-Verordnung
Euer System muss Menschen zeigen, dass sie mit einer KI sprechen.
Erzeugt euer System Texte, Bilder, Ton oder Video, müssen die Ergebnisse maschinenlesbar als KI-erzeugt markiert sein.
Lief es schon vor dem 2. August 2026, habt ihr für diese Markierung Zeit bis zum 2. Dezember 2026.
Einschätzung: Auch wer einen Chatbot auf fremder Technik unter eigenem Namen anbietet, kann als Anbieter gelten. Das ist eine Grauzone. Lasst das fachlich prüfen. Im Auftakt sortieren wir, welche Fragen ihr dorthin mitnehmt.
Genauer hinschauen
Setzt einen klaren Hinweis
Regel: Art. 50 Abs. 1 und 5 KI-Verordnung
Dass sich ein Chatbot als KI zu erkennen gibt, muss der Anbieter technisch vorsehen. Es gibt eine Ausnahme. Für alle ist sowieso offensichtlich, dass eine KI antwortet.
Der Hinweis muss klar sein und gleich beim ersten Kontakt kommen.
Einschätzung: Setzt den Hinweis trotzdem selbst sichtbar ins Chatfenster. Dann seid ihr unabhängig davon, wie euer Anbieter das löst, und eure Kunden wissen, woran sie sind.
Formulierungsbeispiel: „Hier antwortet unser KI-Assistent. Persönlich erreichen Sie unser Team unter [Telefon oder E-Mail].“
Pflicht
Ihr müsst informieren
Regel: Art. 50 Abs. 3 und Art. 5 Abs. 1 Buchst. f KI-Verordnung
Wer ein System zur Emotionserkennung oder biometrischen Einordnung einsetzt, muss die Betroffenen darüber informieren. Der Datenschutz spielt zusätzlich mit.
Am Arbeitsplatz und in Schulen ist es seit dem 2. Februar 2025 verboten, mit KI Emotionen von Menschen abzuleiten. Ausnahmen gibt es nur aus medizinischen Gründen oder für die Sicherheit.
Einschätzung: Holt euch hier fachliche Beratung, bevor das System läuft. Im Auftakt sortieren wir, welche Fragen ihr dorthin mitnehmt.
Freie Bahn
Keine Kennzeichnung nötig
Regel: Art. 50 Abs. 4 KI-Verordnung
Die Pflicht für Texte betrifft Veröffentlichungen, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren. Euer Text gehört laut eurer Antwort nicht dazu.
Freie Bahn
Keine Kennzeichnung nötig
Regel: Art. 50 Abs. 4 KI-Verordnung
Bei Texten zu Themen von öffentlichem Interesse entfällt die Pflicht, wenn ein Mensch geprüft hat und eine Person oder euer Unternehmen die redaktionelle Verantwortung trägt.
Einschätzung: Haltet Prüfung und Freigabe fest, mit Namen und Datum. Fragt jemand nach, habt ihr beides zur Hand.
Pflicht
Hier braucht es einen Hinweis
Regel: Art. 50 Abs. 4 und 5 KI-Verordnung
Ihr müsst offenlegen, dass der Text mit KI erzeugt oder verändert wurde.
Der Hinweis muss klar sein und spätestens dann kommen, wenn jemand den Text zum ersten Mal sieht.
Einschätzung: Oft ist ein Freigabeschritt der einfachere Spielzug. Jemand aus dem Team prüft, euer Unternehmen steht dafür ein, und die Pflicht entfällt.
Formulierungsbeispiel: „Dieser Beitrag wurde mit KI erstellt und ohne redaktionelle Prüfung veröffentlicht.“
Freie Bahn
Keine Kennzeichnung nötig
Regel: Art. 50 Abs. 4 und Art. 3 Nr. 60 KI-Verordnung
Euer Bild, Ton oder Video ist laut eurer Antwort kein Deepfake. Die Kennzeichnungspflicht greift hier deshalb nicht.
Pflicht
Hier braucht es einen Hinweis
Regel: Art. 50 Abs. 4 und 5, Art. 3 Nr. 60 KI-Verordnung
Ihr müsst offenlegen, dass der Inhalt mit KI erzeugt oder verändert wurde, klar und spätestens beim ersten Sehen oder Hören.
Ist der Inhalt erkennbar Kunst, Satire oder Fiktion, reicht ein Hinweis, der das Werk nicht stört.
Formulierungsbeispiel: „Bild mit KI erzeugt. Die gezeigte Person gibt es nicht.“
Genauer hinschauen
Im Zweifel kennzeichnen
Regel: Art. 50 Abs. 4 und Art. 3 Nr. 60 KI-Verordnung
Ob ein Inhalt als Deepfake zählt, hängt davon ab, ob er als echt durchgehen kann.
Einschätzung: Fotorealistische Menschen, die es gar nicht gibt, oder Produktfotos, die wie echte Aufnahmen wirken, liegen in der Grauzone. Ein kurzer Hinweis kostet wenig und schützt eure Glaubwürdigkeit.
Formulierungsbeispiel: „Bild mit KI erzeugt.“
Die Spielsituationen
Artikel 50 regelt vier Situationen
Vier Situationen, in denen andere erfahren müssen, dass KI im Spiel ist. Eine fünfte Pflicht liegt allein bei den Anbietern.
Deepfake
Art. 50 Abs. 4, Art. 3 Nr. 60Bild, Ton oder Video, das echten Menschen, Orten oder Ereignissen ähnelt und als echt durchgehen könnte, braucht einen Hinweis.
Am Ball: ihrTexte zu Themen von öffentlichem Interesse
Art. 50 Abs. 4Texte, die die Öffentlichkeit informieren sollen, brauchen einen Hinweis. Ausnahme: Ein Mensch hat geprüft, und jemand steht dafür ein.
Am Ball: ihrEmotionserkennung und biometrische Kategorisierung
Art. 50 Abs. 3Wer so ein System einsetzt, muss die Betroffenen informieren. Am Arbeitsplatz und in Schulen ist Emotionserkennung seit Februar 2025 grundsätzlich verboten.
Am Ball: ihrUnd das Wasserzeichen?
Art. 50 Abs. 2KI-Systeme, die Texte, Bilder, Ton oder Video erzeugen, markieren ihre Ergebnisse maschinenlesbar. Das erledigen die Anbieter wie OpenAI, Anthropic, Google und Co. Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, läuft dafür eine Übergangsfrist bis zum 2. Dezember 2026.
Am Ball: Anbieter. Ihr müsst dafür nichts tun.Neben dem Platz
Was gilt außerdem?
Auch ohne Kennzeichnung gelten ein paar Regeln. Hier der Überblick.
Einschätzung
Belegt
Einschätzung
Einschätzung
Einschätzung
KI-Kompetenz im Team
Seit dem 2. Februar 2025 verlangt Artikel 4, dass ihr die KI-Kompetenz im Team fördert. Training gehört also dazu.
Wettbewerbsrecht
Werbt mit dem, was stimmt. Wer KI-Texte als „handgeschrieben“ oder „persönlich verfasst“ verkauft, riskiert eine Irreführung nach dem Wettbewerbsrecht (UWG).
Urheberrecht
Rein maschinell erzeugte Texte sind nach deutschem Urheberrecht nicht geschützt. Wer wichtige Texte selbst überarbeitet und gestaltet, macht sie zu eigenen.
Datenschutz
Sobald personenbezogene Daten in die KI fließen, spielt die DSGVO mit, und das ist Sache eurer Datenschutzbeauftragten.
Der Spielzug
So setzt ihr den Hinweis
Die Regel: Der Hinweis muss klar sein und spätestens dann kommen, wenn jemand den Inhalt zum ersten Mal sieht, hört oder mit dem System chattet. Und er muss barrierefrei sein (Art. 50 Abs. 5).
Unsere Empfehlung, wo der Hinweis hingehört:
- Text: direkt unter der Überschrift oder am Anfang des Beitrags.
- Bild: in der Bildunterschrift oder gut lesbar im Bild.
- Video und Ton: zu Beginn eingeblendet oder angesagt und zusätzlich in der Beschreibung.
- Chatbot: in der ersten Nachricht des Chatfensters.
Beispiel Text
„Dieser Beitrag wurde mit KI erstellt und ohne redaktionelle Prüfung veröffentlicht.“
Beispiel Bild oder Video
„Bild mit KI erzeugt. Die gezeigte Person gibt es nicht.“
Beispiel Chatbot
„Hier antwortet unser KI-Assistent. Persönlich erreichen Sie unser Team unter [Telefon oder E-Mail].“
Häufige Fragen
Was Teams zur Kennzeichnung wissen wollen
Müssen wir Texte kennzeichnen, die wir mit ChatGPT oder Claude schreiben?
Meistens nicht. Die Pflicht gilt für Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen. Auch dann entfällt sie, wenn jemand aus dem Team geprüft hat und eine Person oder euer Unternehmen dafür einsteht. Werbetexte, Produkttexte und eure Website gehören nach unserer Einschätzung in der Regel nicht dazu (Art. 50 Abs. 4).
Müssen wir KI-Bilder auf unserer Website kennzeichnen?
Nur wenn sie als echt durchgehen könnten, also echten Menschen, Dingen, Orten oder Ereignissen ähneln. Dann gelten sie als Deepfake (Art. 3 Nr. 60). Erkennbare Illustrationen, Icons und abstrakte Bilder sind frei. Bei fotorealistischen Motiven empfehlen wir einen kurzen Hinweis.
Sind wir Anbieter, wenn wir einen Chatbot auf unserer Website einsetzen?
In der Regel seid ihr Betreiber, weil ihr ein fremdes System nutzt. Anbieter ist, wer ein KI-System baut und unter eigenem Namen rausbringt. Bietet ihr einen Chatbot auf fremder Technik unter eigenem Namen an, kann das als Anbieterrolle zählen. Diese Grauzone sollte fachlich geprüft werden.
Was ist mit Inhalten, die wir vor dem 2. August 2026 veröffentlicht haben?
Die Regeln gelten seit dem 2. August 2026. Unsere Einschätzung: Für ältere Inhalte verlangt die Verordnung keine nachträgliche Kennzeichnung. Bringt ihr ältere Inhalte neu oder überarbeitet raus, prüft sie wie neue.
Wie hoch können die Bußgelder werden?
Bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, was höher ist. Für kleine und mittlere Unternehmen gilt der niedrigere Wert. Beides sind Obergrenzen, im Einzelfall zählen die Umstände (Art. 99 Abs. 4, 6 und 7).
Welche Behörde ist in Deutschland zuständig?
Die Bundesnetzagentur. Das deutsche KI-Gesetz (KI-Marktüberwachungs- und Innovationsförderungsgesetz, KI-MIG) ist seit Ende Juli 2026 in Kraft und macht sie zur Aufsicht für die KI-Verordnung. Verstöße sind Ordnungswidrigkeiten.
Müssen wir als Team trainieren?
Ja. Artikel 4 verlangt seit dem 2. Februar 2025, dass ihr die KI-Kompetenz aller fördert, die bei euch mit KI arbeiten. Seit dem Digital Omnibus im Juli 2026 ist klargestellt, dass dafür kein bestimmtes Niveau pro Person garantiert werden muss. Das gilt unabhängig von der Kennzeichnung. Wie viel Training sinnvoll ist, hängt von euren Aufgaben ab.
Reicht die unsichtbare Markierung, die ChatGPT und Bildgeneratoren setzen?
Diese Markierung ist Sache der Anbieter (Art. 50 Abs. 2). Veröffentlicht ihr einen Deepfake, müsst ihr selbst sichtbar darauf hinweisen (Art. 50 Abs. 4). Unsere Einschätzung: Die technische Markierung ersetzt diesen Hinweis für euer Publikum nicht.
Der Auftakt
30 Minuten, kostenlos, per Video oder bei euch vor Ort. Danach wisst ihr, wo ein Hinweis nötig ist und wo freie Bahn herrscht.
Diese Seite gibt einen Überblick und ist keine Rechtsberatung. Stand 20. Oktober 2026. Die EU-Kommission arbeitet an Leitlinien und einem Praxisleitfaden zur Kennzeichnung. Sobald sie da sind, ziehen wir die Seite nach.
Quellen: Verordnung (EU) 2024/1689 auf EUR-Lex · Bundesnetzagentur zur KI-Verordnung · Digital Omnibus zur KI: Verordnung (EU) 2026/1744 auf EUR-Lex