AI Act im Einzelhandel – Empfehlungssysteme und dynamische Preise rechtssicher einsetzen

Rund 90 Prozent aller großen Online-Shops setzen heute Empfehlungssysteme ein – und fast jeder Betreiber fragt sich seit Inkrafttreten des AI Act dasselbe: Ist mein “Kunden kauften auch”-Modul jetzt eine Hochrisiko-KI? Die kurze Antwort: In den allermeisten Fällen nicht. Die längere Antwort ist deutlich interessanter, denn der AI Act im Einzelhandel kennt viele Zwischenstufen. Zwischen “kein Hochrisiko” und “völlig unreguliert” liegen Welten. Wer Empfehlungen und dynamische Preise im Handel einsetzt, bewegt sich in einem Feld aus Transparenzpflichten, DSGVO-Vorgaben und den strikten Verboten des Artikel 5 – und dort verlaufen rote Linien, die schnell teuer werden.

AI Act im Einzelhandel: Wo KI überall steckt

Bevor Sie die Rechtslage beurteilen können, müssen Sie wissen, wo KI in Ihrem Betrieb überhaupt arbeitet. Und das sind fast immer mehr Systeme, als auf den ersten Blick sichtbar ist.

Im Frontend, also dort, wo der Kunde direkt interagiert, finden sich typischerweise:

Empfehlungssysteme (“Das könnte Ihnen auch gefallen”), Produktranking in Kategorielisten und personalisierte Suche, die Ergebnisse nach vermutetem Interesse sortiert
Chatbots und virtuelle Assistenten im Kundenservice
personalisierte Newsletter- und Banner-Ausspielung

Im Backend, für den Kunden unsichtbar, laufen oft:

Dynamic Pricing (dynamische Preisanpassung nach Nachfrage, Uhrzeit, Wettbewerb oder Lagerbestand)
Nachfrageprognose und Bestandsoptimierung
Betrugserkennung bei Zahlungen und Loyalty-Scoring zur Bewertung der Kundenbindung

Jedes dieser Systeme kann eine eigene Risikoeinstufung nach dem AI Act haben. Es gibt keine pauschale “Handels-KI”-Kategorie. Die Verordnung beurteilt jeden Anwendungsfall nach seinem konkreten Zweck. Genau deshalb müssen Sie Ihre Systeme einzeln betrachten.

Risikoklasse bestimmen: Meist kein Hochrisiko

Der AI Act arbeitet mit einem risikobasierten Ansatz und unterscheidet vier Stufen: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflicht (begrenztes Risiko) und minimales Risiko. Wie sich diese Klassen unterscheiden und welche Pflichten jeweils greifen, erläutern wir ausführlich im Vergleich der KI-Risikoklassen.

Standard-Recommender: meist minimales oder begrenztes Risiko

Ein klassisches Empfehlungssystem, das aus Kaufhistorie und Klickverhalten Produktvorschläge generiert, ist in der Regel kein Hochrisiko-System. Es fällt weder unter die verbotenen Praktiken noch unter die abschließend definierten Hochrisiko-Bereiche des Annex III. Solche Recommender bewegen sich meist im Bereich des minimalen Risikos – oder des begrenzten Risikos, sobald eine Transparenzpflicht greift (etwa beim Chatbot).

Das ist die zentrale Botschaft für Handelsunternehmen: Ihr Empfehlungssystem löst durch seine bloße Existenz keine schweren Compliance-Pflichten aus. Aber – und das ist entscheidend – “kein Hochrisiko” bedeutet nicht “keine Regeln”. Die Verbote aus Artikel 5 und die Transparenzpflichten aus Artikel 50 gelten unabhängig von der Risikoklasse.

Wann Handels-KI doch Hochrisiko wird

Die wichtigste Ausnahme betrifft die Bonitäts- und Kreditbewertung. Annex III des AI Act stuft Systeme, die die Kreditwürdigkeit natürlicher Personen bewerten oder deren Kreditscore ermitteln, als Hochrisiko ein (mit engen Ausnahmen etwa zur Betrugserkennung).

Für den Handel heißt das konkret: Bieten Sie Kauf auf Rechnung oder Ratenzahlung an und setzen dabei ein KI-System ein, das die Zahlungsfähigkeit oder Ausfallwahrscheinlichkeit eines Kunden bewertet, kann dieses System als Hochrisiko einzustufen sein. Dann greifen – nach dem Digital Omnibus ab dem 2. Dezember 2027 – umfangreiche Pflichten: Risikomanagementsystem, Daten-Governance, technische Dokumentation, menschliche Aufsicht und mehr. Welche Anwendungen der Annex III im Einzelnen erfasst, haben wir in unserem Beitrag zu den Hochrisiko-Systemen nach Annex III aufgeschlüsselt.

Ein Rechenbeispiel zur Einordnung: Ein Modeshop nutzt drei Systeme – einen Produktempfehler (minimales Risiko), einen Support-Chatbot (begrenztes Risiko, Transparenzpflicht) und ein Bonitätsmodul beim Rechnungskauf (potenziell Hochrisiko). Ein einziger Shop, drei verschiedene Risikoklassen. Genau deshalb funktioniert eine pauschale Einordnung nicht.

Warum die Selbsteinstufung dokumentiert werden muss

Wer als Anbieter ein in Annex III genanntes System trotzdem als nicht hochriskant einstuft, muss diese Einstufung vor dem Inverkehrbringen dokumentieren (Art. 6 Abs. 3 und 4) – Behörden können sie anfordern. Aber auch sonst gilt: Kommen Sie zu dem Ergebnis “kein Hochrisiko”, ist das ein legitimes Ergebnis – Sie sollten es aber belegen können. Eine dokumentierte Selbsteinstufung ist Ihr Nachweis gegenüber Aufsichtsbehörden, dass Sie geprüft haben, warum Ihr Recommender eben nicht unter Annex III fällt. Ohne diese Dokumentation steht bei einer Nachfrage Aussage gegen Aussage.

Verbotene Praktiken nach Art. 5: Die roten Linien

Artikel 5 des AI Act definiert Praktiken, die vollständig verboten sind – unabhängig von Risikoklasse, Branche oder Unternehmensgröße. Diese Verbote gelten seit Februar 2025 und sind für den Handel besonders relevant, weil sie genau an der Grenze zwischen Marketing und Manipulation ansetzen. Einen vollständigen Überblick geben wir im Beitrag zu den verbotenen KI-Praktiken nach Art. 5.

Manipulative Techniken und Ausnutzung von Schwächen

Verboten sind unter anderem KI-Systeme, die unterschwellige oder gezielt manipulative Techniken einsetzen, um das Verhalten von Personen so zu beeinflussen, dass sie Entscheidungen treffen, die sie sonst nicht getroffen hätten – und dadurch erheblicher Schaden droht. Ebenso verboten ist die gezielte Ausnutzung von Schwächen bestimmter Gruppen aufgrund ihres Alters, einer Behinderung oder einer besonderen sozialen oder wirtschaftlichen Lage.

Für den Handel bedeutet das:

Ein System, das gezielt Kinder durch spielerische Mechaniken zu In-App-Käufen drängt, überschreitet die Grenze.
Ein Algorithmus, der finanzielle Notlagen erkennt und ausgerechnet dann besonders teure Kredit- oder Sofortkauf-Angebote einblendet, bewegt sich im verbotenen Bereich.
Eine KI, die psychologische Schwächen einzelner Nutzer identifiziert und ausnutzt, um Impulskäufe zu erzwingen, ist unzulässig.

Dark Patterns vs. zulässige Personalisierung

Die schwierigste Grenze verläuft zwischen legitimer Personalisierung und manipulativen Dark Patterns. Ein Vergleich macht es deutlich:

Zulässige Personalisierung	Problematisches Nudging / Dark Pattern
“Kunden mit ähnlichem Geschmack kauften auch …”	Künstliche, wahrheitswidrige Verknappung (“Nur noch 1 Stück!”, obwohl 500 auf Lager)
Sortierung nach tatsächlicher Relevanz	Fake-Countdown, der bei Neuladen wieder von vorn startet
Erinnerung an einen vergessenen Warenkorb	Gezielte Ausnutzung erkannter emotionaler Ausnahmezustände
Transparente Rabattaktion für alle	Vorausgewählte, versteckte Zusatzkosten, die schwer abwählbar sind

Entscheidend ist nicht, ob Sie das Verhalten beeinflussen – das tut jede Werbung. Entscheidend ist, ob Sie manipulieren, also die freie Entscheidungsfähigkeit gezielt untergraben, insbesondere bei schutzbedürftigen Gruppen.

Legitimes Dynamic Pricing vs. Verhaltensausnutzung

Dynamic Pricing an sich ist erlaubt. Preise nach Nachfrage, Tageszeit oder Lagerbestand anzupassen, ist gängige und zulässige Praxis. Die rote Linie wird erst überschritten, wenn die Preisgestaltung zur Ausnutzung individueller Schwächen wird – etwa wenn ein System erkennt, dass ein Kunde ein Medikament dringend benötigt, und ihm deshalb einen höheren Preis zeigt als anderen. Solche Praktiken können sowohl gegen Artikel 5 als auch gegen das Antidiskriminierungs- und Verbraucherschutzrecht verstoßen.

Transparenzpflichten in Shop und Kundenservice

Auch außerhalb des Hochrisiko-Bereichs greift Artikel 50 mit klaren Transparenzpflichten.

Kennzeichnung von Chatbots und KI-Inhalten

Interagieren Kunden mit einem Chatbot, müssen sie erkennen können, dass sie mit einer Maschine kommunizieren – es sei denn, das ist aus dem Kontext offensichtlich. Ein simpler Hinweis wie “Sie chatten mit unserem KI-Assistenten” genügt in der Regel. Welche weiteren Pflichten für den KI-Einsatz im Support gelten, behandeln wir gesondert im Beitrag zu Chatbot-Pflichten im Kundenservice.

Ebenso müssen KI-generierte Inhalte – etwa automatisch erstellte Produkttexte oder synthetische Produktbilder – unter bestimmten Voraussetzungen als solche gekennzeichnet werden. Die konkreten Anforderungen an die Kennzeichnung erklären wir in unserem Beitrag zur KI-Transparenzpflicht.

Warum Empfehlungslogik nachvollziehbar sein sollte

Auch wenn der AI Act für Standard-Recommender keine detaillierte Erklärpflicht wie bei Hochrisiko-Systemen vorschreibt, spricht viel dafür, die Empfehlungslogik grundsätzlich nachvollziehbar zu halten. Kunden entwickeln Vertrauen, wenn sie verstehen, warum ihnen etwas angezeigt wird. Gleichzeitig schaffen Sie damit die Grundlage, um jederzeit belegen zu können, dass keine manipulativen Muster im Spiel sind.

Recommender-Systeme und DSGVO im Zusammenspiel

Empfehlungssysteme und Dynamic Pricing basieren fast immer auf Profiling im Sinne der DSGVO. Damit gelten parallel zum AI Act sämtliche Datenschutzpflichten: Rechtsgrundlage, Zweckbindung, Informationspflichten und Betroffenenrechte.

Besonders relevant ist Artikel 22 DSGVO, der Betroffenen ein Recht gibt, nicht einer ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Führt Ihre Preis- oder Bonitätslogik zu solchen Entscheidungen, brauchen Sie eine tragfähige Rechtsgrundlage und müssen menschliches Eingreifen ermöglichen. AI Act und DSGVO greifen hier ineinander, verfolgen aber unterschiedliche Logiken – die wichtigsten Unterschiede beleuchten wir im Beitrag AI Act und DSGVO im Vergleich.

Dynamische Preise mit KI rechtssicher gestalten

Preisdifferenzierung vs. verbotene Diskriminierung

Preisdifferenzierung ist grundsätzlich zulässig – nach Region, Menge, Kundengruppe oder Nachfrage. Problematisch wird es, wenn die Differenzierung an geschützte Merkmale anknüpft: Geschlecht, ethnische Herkunft, Religion oder Gesundheitszustand. Ein Preisalgorithmus, der – auch nur mittelbar über Proxy-Variablen – solche Merkmale nutzt, riskiert einen Verstoß gegen das Antidiskriminierungsrecht.

Ein Beispiel: Zeigt Ihr System Nutzern eines bestimmten Betriebssystems oder aus einem bestimmten Postleitzahlgebiet systematisch höhere Preise, kann daraus eine mittelbare Diskriminierung entstehen, wenn diese Merkmale mit geschützten Gruppen korrelieren.

Transparenz und Wettbewerbsrecht

Neben AI Act und DSGVO ist das Verbraucher- und Wettbewerbsrecht zu beachten. Kunden dürfen über die Grundlagen der Preisbildung nicht getäuscht werden. Personalisierte Preise unterliegen zudem bereits nach der Verbraucherrechte-Richtlinie einer Informationspflicht: Passen Sie den Preis auf Basis automatisierter Entscheidungen individuell an, müssen Sie darüber informieren.

Dokumentation der Preislogik

Ihr wichtigster Schutz ist die nachvollziehbare Dokumentation der Preislogik: Welche Faktoren fließen ein? Welche ausdrücklich nicht? Wer diese Fragen dokumentiert beantworten kann, kann gegenüber Behörden und Gerichten belegen, dass die Preisgestaltung auf sachlichen Kriterien beruht und keine verbotene Verhaltensausnutzung darstellt.

Praktische Umsetzung: KI-Inventar und Nachweise

Alle Systeme erfassen und klassifizieren

Der erste Schritt jeder Compliance-Arbeit ist Überblick. Sie müssen wissen, welche KI-Systeme in Ihrem Unternehmen laufen – vom Recommender über das Pricing-Tool bis zum Chatbot. In der Praxis stellt sich hier schnell die Frage, wie man diese oft über verschiedene Abteilungen und Dienstleister verstreuten Systeme überhaupt vollständig und einheitlich strukturiert erfassen und klassifizieren kann, sodass jedem System eine begründete Risikoklasse zugeordnet ist. Ein solches KI-Inventar ist die Grundlage für alle weiteren Pflichten und zugleich Ihr zentraler Nachweis bei Rückfragen.

Verantwortlichkeit klären: Anbieter vs. Betreiber

Die meisten Handelsunternehmen entwickeln ihre KI nicht selbst, sondern kaufen SaaS-Lösungen ein – etwa ein Empfehlungsmodul oder eine Pricing-Engine. Der AI Act unterscheidet dann klar zwischen dem Anbieter (der das System entwickelt und in Verkehr bringt) und dem Betreiber (der es einsetzt). Beide Rollen tragen unterschiedliche Pflichten.

Wichtig: Passen Sie ein zugekauftes System wesentlich an oder setzen es unter Ihrem eigenen Namen für einen neuen Zweck ein, können Sie selbst zum Anbieter werden – mit deutlich weitergehenden Pflichten. Wie sich die Rollen genau abgrenzen, erklären wir im Beitrag zu den Pflichten von Anbietern und Betreibern. Klären Sie diese Frage vertraglich mit Ihren Dienstleistern und lassen Sie sich zusichern, dass die eingesetzten Systeme AI-Act-konform sind.

Laufende Überwachung und Dokumentation

Compliance ist kein einmaliges Projekt. Systeme werden aktualisiert, neue Tools kommen hinzu, Rechtsprechung entwickelt sich weiter. Etablieren Sie deshalb einen wiederkehrenden Prozess:

regelmäßige Überprüfung des KI-Inventars auf Vollständigkeit
Neubewertung bei wesentlichen Änderungen an Systemen oder deren Einsatzzweck
fortlaufende Dokumentation von Einstufungen, Preislogik und Transparenzmaßnahmen
Schulung der Mitarbeitenden, die mit den Systemen arbeiten

Fazit

Für den Einzelhandel bringt der AI Act eine differenzierte, aber beherrschbare Rechtslage mit sich. Standard-Empfehlungssysteme und übliches Dynamic Pricing sind in aller Regel kein Hochrisiko – doch das entbindet niemanden von den Verboten des Artikel 5 und den Transparenzpflichten des Artikel 50. Die entscheidende Grenze verläuft zwischen zulässiger Personalisierung und manipulativer Ausnutzung, insbesondere gegenüber schutzbedürftigen Gruppen wie Kindern oder Menschen in Notlagen.

Hochrisiko wird Handels-KI vor allem dort, wo sie über Bonität und Kreditwürdigkeit entscheidet – etwa beim Kauf auf Rechnung. Parallel gelten immer die Vorgaben der DSGVO, insbesondere beim Profiling und bei automatisierten Einzelentscheidungen nach Artikel 22. Wer dynamische Preise einsetzt, muss zusätzlich Diskriminierungsverbote und Wettbewerbsrecht im Blick behalten.

Der praktische Weg zur Rechtssicherheit ist klar: ein vollständiges KI-Inventar, eine begründete und dokumentierte Risikoklassifizierung jedes Systems, eine saubere Rollenklärung zwischen Anbieter und Betreiber sowie eine laufende Überwachung. Wer diese Grundlagen schafft, kann Empfehlungssysteme und dynamische Preise nutzen, ohne die roten Linien des AI Act zu überschreiten.