Chatbots im Kundenservice – Diese AI-Act-Pflichten gelten für Ihren Support

Kann Ihr Kunde erkennen, dass er gerade mit einer Maschine schreibt? Diese scheinbar simple Frage entscheidet beim Thema AI Act Chatbot Kundenservice darüber, ob Ihr Support-Chatbot ab dem 2. August 2026 gegen den EU AI Act verstößt – denn seit diesem Datum gilt die Transparenzpflicht nach Artikel 50 unmittelbar. Die gute Nachricht vorweg: Die allermeisten Kundenservice-Bots sind keine Hochrisiko-KI und lösen keinen Zertifizierungsmarathon aus. Die schlechte Nachricht: Ganz ohne Pflichten kommt kein Support-Bot davon. Dieser Artikel zeigt Ihnen, welche Regeln konkret gelten, wo die Grenze zum Hochrisiko-Bereich verläuft und wie Sie Ihren Bot in wenigen Schritten rechtssicher aufstellen.

Warum Support-Chatbots plötzlich reguliert sind

Chatbot als KI-System im Sinne des AI Act

Ein Chatbot fällt unter den AI Act, sobald er die Definition eines KI-Systems nach Art. 3 Nr. 1 erfüllt: ein maschinengestütztes System, das mit einem gewissen Grad an Autonomie arbeitet und aus Eingaben Ausgaben wie Texte, Empfehlungen oder Entscheidungen ableitet. Ein moderner Support-Bot, der Kundenanfragen versteht und in natürlicher Sprache antwortet – ob regelbasiert mit KI-Komponenten oder auf Basis eines großen Sprachmodells – erfüllt diese Definition zweifelsfrei.

Wichtig ist die Abgrenzung nach unten: Ein reines Entscheidungsbaum-Menü mit festen Buttons (“Drücken Sie 1 für Rechnungen”) ist streng genommen kein lernendes oder ableitendes KI-System. Sobald Ihr Bot aber frei formulierte Eingaben interpretiert oder generative Antworten erzeugt, sind Sie im Anwendungsbereich. Basiert der Bot auf einem Modell wie ChatGPT, kommt zusätzlich die Ebene der GPAI-Modelle ins Spiel, für die eigene Pflichten gelten.

Abgrenzung zur DSGVO – warum beide Regelwerke greifen

Viele Unternehmen glauben, mit ihrer DSGVO-Compliance sei auch der Chatbot abgedeckt. Das ist ein Irrtum. Die beiden Regelwerke verfolgen unterschiedliche Schutzrichtungen und greifen parallel:

Die DSGVO schützt personenbezogene Daten. Sie regelt, ob und wie Ihr Bot Namen, Kundennummern oder Chatverläufe verarbeiten darf, welche Rechtsgrundlage gilt und wie Sie informieren müssen.
Der AI Act ist ein Produktsicherheitsrecht. Er fragt nicht primär nach Daten, sondern nach dem Risiko des KI-Systems selbst – und verlangt etwa, dass Nutzer die KI als solche erkennen.

Ein Beispiel: Wenn Ihr Bot Kundenanfragen speichert, brauchen Sie eine DSGVO-Rechtsgrundlage und eine Datenschutzerklärung. Zusätzlich müssen Sie nach AI Act kennzeichnen, dass es sich um eine KI handelt. Die Details der Abgrenzung vertieft unser Beitrag zu den Unterschieden zwischen AI Act und DSGVO. Merken Sie sich: Eine saubere Datenschutzerklärung ersetzt keine AI-Act-Kennzeichnung – und umgekehrt.

Welche Risikoklasse gilt für Ihren Chatbot?

Der Regelfall: begrenztes Risiko mit Transparenzpflicht

Der AI Act arbeitet mit einem risikobasierten Ansatz und vier Stufen: verbotene Praktiken, Hochrisiko, begrenztes Risiko und minimales Risiko. Ein typischer Kundenservice-Chatbot, der Fragen zu Produkten beantwortet, Bestellungen nachverfolgt oder Termine bucht, fällt in die Kategorie begrenztes Risiko. Das bedeutet konkret: Keine Konformitätsbewertung, kein CE-Verfahren, keine technische Dokumentation nach Anhang IV – aber die Transparenzpflicht nach Art. 50 gilt zwingend.

Wo Ihr Bot genau einzuordnen ist und wie sich die Klassen unterscheiden, zeigt unser Vergleich der KI-Risikoklassen. Für die überwiegende Mehrheit der Support-Bots gilt: begrenztes Risiko, Transparenz genügt.

Wann ein Chatbot doch Hochrisiko wird

Entscheidend ist nicht die Technik, sondern der Anwendungszweck. Ein Chatbot wird zur Hochrisiko-KI, wenn er in einem der in Anhang III genannten Bereiche eingesetzt wird und dort über bloße Information hinaus in wesentliche Entscheidungen eingreift. Praxisrelevante Konstellationen:

Einsatz des Bots	Risikoklasse
Beantwortung von Produktfragen, Bestellstatus, FAQ	Begrenztes Risiko
Terminbuchung, einfache Retourenabwicklung	Begrenztes Risiko
Bewertung der Kreditwürdigkeit eines Kunden	Hochrisiko (Anhang III)
Entscheidung über Zugang zu wesentlichen Leistungen (z. B. Versicherung, Sozialleistungen)	Hochrisiko
Priorisierung von Notrufen oder Notfalldiensten	Hochrisiko
Vorauswahl von Bewerbern im Recruiting-Chat	Hochrisiko

Die Faustregel: Solange Ihr Bot informiert und assistiert, bleibt er begrenztes Risiko. Sobald er über Menschen entscheidet – etwa ob jemand einen Kredit, einen Vertrag oder Hilfe im Notfall bekommt – kippt die Einordnung in den Hochrisiko-Bereich mit dem vollen Pflichtenkatalog. Diese Hochrisiko-Pflichten für Anhang-III-Systeme gelten ab dem 2. Dezember 2027 – planen Sie solche Einsätze also mit Vorlauf. Prüfen Sie deshalb genau, welche Prozesse Sie an den Bot delegieren.

Verbotene Praktiken: Manipulation und Emotionserkennung im Support

Oberhalb von Hochrisiko steht die Stufe der verbotenen Praktiken nach Art. 5, die seit dem 2. Februar 2025 gilt. Für den Kundenservice sind zwei Verbote besonders relevant:

Manipulative Techniken: Ein Bot darf keine unterschwelligen oder täuschenden Methoden einsetzen, um das Verhalten von Kunden so zu beeinflussen, dass ihnen erheblicher Schaden entsteht – etwa gezielte Ausnutzung von Zeitdruck oder psychologischer Not, um zu Käufen zu drängen.
Emotionserkennung: Der Einsatz von Systemen zur Ableitung von Emotionen ist am Arbeitsplatz grundsätzlich verboten. Wollen Sie also die Emotionen Ihrer Support-Mitarbeitenden analysieren, ist das unzulässig. Für die Emotionsanalyse von Kunden gelten enge Grenzen und Transparenzpflichten – hier ist besondere Vorsicht geboten.

AI Act Chatbot Kundenservice: Transparenzpflicht nach Art. 50

Nutzer müssen erkennen, dass sie mit einer KI kommunizieren

Der Kern von Art. 50 Abs. 1: Anbieter müssen sicherstellen, dass KI-Systeme, die zur direkten Interaktion mit Menschen bestimmt sind, so gestaltet sind, dass die betroffenen Personen erkennen, dass sie mit einer KI interagieren – es sei denn, dies ist aus dem Kontext offensichtlich. Ein Chatbot ist der Paradefall dieser Vorschrift.

Die Ausnahme “offensichtlich” sollten Sie nicht überstrapazieren. Nur weil Ihr Bot “ChatAssistant” heißt, ist für den durchschnittlichen Kunden nicht zwingend klar, dass keine Person antwortet. Im Zweifel: kennzeichnen.

Wie und wo Sie die Kennzeichnung platzieren

Die Kennzeichnung muss klar, verständlich und rechtzeitig erfolgen – also bevor oder sobald der Kunde die Interaktion beginnt. Bewährte Formulierungen:

“Hallo, ich bin der KI-Assistent von [Firma]. Ich beantworte Ihre Fragen automatisiert. Möchten Sie zu einem Mitarbeiter wechseln, schreiben Sie ‚Mitarbeiter’.”
“Sie chatten mit einer künstlichen Intelligenz.” als kurzer Hinweis direkt im Chatfenster-Header.

Platzierung in der Praxis:

Zu Beginn des Chats als erste Nachricht, nicht erst im Kleingedruckten.
Dauerhaft sichtbar im Fenstertitel oder als Badge (“KI-Chat”), damit die Kennzeichnung auch bei langen Verläufen präsent bleibt.
Nicht ausschließlich in den AGB oder der Datenschutzerklärung – das genügt nicht, weil es nicht rechtzeitig und nicht klar genug ist.

Weitere Formulierungsbeispiele und Details zur korrekten Umsetzung finden Sie in unserem Beitrag zur KI-Transparenzpflicht und Kennzeichnung.

Kennzeichnung KI-generierter Inhalte und Ausnahmen

Neben der Interaktionspflicht regelt Art. 50 Abs. 2 die Kennzeichnung künstlich erzeugter oder manipulierter Inhalte. Für Support-Bots wird das relevant, wenn Ihr Bot etwa generierte Texte, Bilder oder Zusammenfassungen ausgibt, die als synthetisch maschinenlesbar markiert werden müssen. Bei reinen Textantworten im Chat steht die Interaktionskennzeichnung nach Abs. 1 im Vordergrund.

Ausnahmen bestehen dort, wo die KI-Nutzung offenkundig ist oder gesetzlich zur Aufdeckung von Straftaten befugte Stellen betroffen sind – für den normalen Kundenservice greifen diese Ausnahmen praktisch nie. Rechnen Sie also fest mit der Kennzeichnungspflicht.

Anbieter oder Betreiber – wer haftet für den Chatbot?

Rollenverteilung bei zugekauften SaaS-Chatbots

Der AI Act unterscheidet scharf zwischen Anbieter (provider) und Betreiber (deployer) – und die Pflichten verteilen sich unterschiedlich. Bei zugekauften Chatbot-Lösungen sieht die typische Aufteilung so aus:

Anbieter ist in der Regel der Softwarehersteller, der den Bot entwickelt und unter seinem Namen auf den Markt bringt. Er trägt die Hauptlast der produktbezogenen Pflichten.
Betreiber sind Sie als Unternehmen, das den Bot im eigenen Kundenservice einsetzt.

Für die Transparenzkennzeichnung nach Art. 50 stehen beide in der Verantwortung: Der Anbieter muss den Bot kennzeichnungsfähig gestalten, der Betreiber muss die Kennzeichnung im Einsatz tatsächlich aktivieren und sichtbar machen. Verlassen Sie sich nicht darauf, dass der Anbieter alles erledigt – prüfen Sie, ob die Kennzeichnung in Ihrer Konfiguration wirklich angezeigt wird.

Ein wichtiger Fallstrick: Passen Sie einen zugekauften Bot so wesentlich an oder betreiben ihn unter Ihrem eigenen Namen mit erheblichen Änderungen, können Sie selbst zum Anbieter werden – mit deutlich erweiterten Pflichten. Wo genau die Grenze verläuft, erläutert unser Beitrag zur Abgrenzung von Anbieter- und Betreiberpflichten.

Pflichten des Betreibers bei Konfiguration und Prompt-Anpassung

Für einen Bot mit begrenztem Risiko schreibt der AI Act keinen Betrieb nach Anbieter-Anweisungen vor – diese Betreiberpflicht nach Art. 26 gilt nur für Hochrisiko-Systeme. Trotzdem sollten Sie den Bot zweckentsprechend gemäß der Anbieter-Anweisungen einsetzen, schon damit er nicht unbemerkt in den Hochrisiko-Bereich rutscht. Konkret heißt das:

Konfigurieren Sie den Bot so, dass er im vorgesehenen, ungefährlichen Anwendungsbereich bleibt – geben Sie ihm keine Entscheidungshoheit über Bonität oder Vertragszugang, wenn Sie im begrenzten Risiko bleiben wollen.
Dokumentieren Sie Ihre System-Prompts und Anpassungen. Wenn Sie den Bot per Prompt anweisen, verbindliche Zusagen zu machen oder rechtlich relevante Auskünfte zu geben, verändern Sie sein Risikoprofil.
Stellen Sie sicher, dass die menschliche Aufsicht funktioniert und Logdaten erfasst werden.

KI Kundenservice Pflichten: Kompetenz und Schulung des Teams

Pflicht nach Art. 4 für Mitarbeitende, die den Bot betreuen

Seit dem 2. Februar 2025 gilt Art. 4 – die Pflicht zur KI-Kompetenz (AI literacy). Seit dem Digital Omnibus (in Kraft seit 27. Juli 2026) verlangt sie Maßnahmen, die die KI-Kompetenz Ihrer Mitarbeitenden fördern; ein bestimmtes Kompetenzniveau einzelner Personen müssen Sie nicht garantieren. Die Pflicht betrifft ausdrücklich auch Betreiber und gilt unabhängig von der Risikoklasse. Ihr Support-Team, das den Bot betreut, überwacht und Eskalationen übernimmt, muss verstehen:

wie der Bot grundsätzlich funktioniert und wo seine Grenzen liegen,
welche Fehler und Halluzinationen auftreten können,
wann und wie an einen menschlichen Agenten eskaliert wird,
welche rechtlichen Pflichten (Kennzeichnung, Datenschutz) gelten.

Die Schulung muss kein akademisches Programm sein, aber sie muss angemessen, dokumentiert und rollenspezifisch sein. Was Art. 4 konkret verlangt, lesen Sie in unserem Beitrag zur KI-Schulungspflicht nach Art. 4.

Menschliche Aufsicht: Eskalation an echte Agenten

Auch wenn ein begrenztes-Risiko-Bot keine formale menschliche Aufsicht im Sinne von Art. 14 (der für Hochrisiko gilt) erfordert, ist eine funktionierende Eskalationsmöglichkeit aus mehreren Gründen unverzichtbar: Sie verhindert, dass sich Fehlberatungen verselbstständigen, und sie schützt Sie vor Haftungsrisiken. Ein sauberer Übergabepunkt an einen echten Agenten sollte jederzeit erreichbar sein – idealerweise per einfachem Befehl im Chat. Wie menschliche Aufsicht im AI Act ausgestaltet ist, vertieft unser Beitrag zur menschlichen Aufsicht.

Checkliste: Support-Chatbot AI-Act-konform machen

1. Chatbot ins KI-Inventar aufnehmen und Risikoklasse dokumentieren

Der erste Schritt ist Bestandsaufnahme. Erfassen Sie jeden eingesetzten Bot mit Zweck, eingesetztem Modell, Anbieter und Datenflüssen. Wenn Sie sich fragen, wie Sie Ihren Chatbot samt Anwendungszweck systematisch strukturiert erfassen und klassifizieren, hilft ein strukturiertes Inventar, das jeden Bot einer Risikoklasse zuordnet und die Begründung revisionssicher festhält. Halten Sie ausdrücklich fest, warum der Bot begrenztes Risiko ist – und dokumentieren Sie die Prüfung gegen die Hochrisiko-Kriterien.

2. Kennzeichnung, Nutzungshinweise und Logging umsetzen

Kennzeichnung nach Art. 50 aktivieren: klarer KI-Hinweis zu Beginn und dauerhaft sichtbar.
Nutzungshinweise hinterlegen: Was kann der Bot, was nicht, wie erreicht der Kunde einen Menschen.
Logging einrichten: Chatverläufe und Systementscheidungen protokollieren – unter Beachtung der DSGVO-Vorgaben zu Speicherfristen und Löschung.
Datenschutz verzahnen: Rechtsgrundlage, Datenschutzerklärung und AI-Act-Kennzeichnung aufeinander abstimmen.

3. Prozess für Vorfälle und Eskalation festlegen

Definieren Sie einen Eskalationspfad vom Bot zum menschlichen Agenten mit klarem Auslöser.
Legen Sie fest, wie Sie mit Fehlern und Beschwerden umgehen und wer intern zuständig ist.
Schulen Sie das Team nach Art. 4 und dokumentieren Sie die Schulung.
Überprüfen Sie regelmäßig, ob Konfiguration und Prompts das Risikoprofil verändert haben.

Fazit

Für die überwiegende Mehrheit der Kundenservice-Chatbots gilt eine klare Einordnung: begrenztes Risiko – kein Zertifizierungsverfahren, aber die verbindliche Transparenzpflicht nach Art. 50. Ihre Kunden müssen erkennen, dass sie mit einer KI schreiben, und zwar durch eine klare, rechtzeitige und dauerhaft sichtbare Kennzeichnung. Zur Hochrisiko-KI wird ein Bot erst, wenn er über bloße Information hinaus in wesentliche Entscheidungen wie Bonität, Zugang zu Leistungen oder Notfallpriorisierung eingreift. Parallel dazu bleibt die DSGVO in Kraft, denn beide Regelwerke schützen Unterschiedliches. Bei zugekauften Lösungen teilen sich Anbieter und Betreiber die Pflichten – die tatsächliche Aktivierung der Kennzeichnung, saubere Konfiguration, Logging und die Schulung des Teams nach Art. 4 liegen jedoch in Ihrer Hand. Wer beim Thema AI Act Chatbot Kundenservice seinen Bot ins KI-Inventar aufnimmt, die Risikoklasse begründet dokumentiert, kennzeichnet und einen verlässlichen Eskalationspfad an echte Agenten vorhält, erfüllt die zentralen Anforderungen des AI Act für den Support ohne unverhältnismäßigen Aufwand.